הבינה המלאכותית (AI) הופכת לכלי מרכזי ביכולת של השב"כ לחזות ולסכל פעילויות טרור. באגפי הטכנולוגיה של הארגון מפתחים יכולות צבירת כמויות עתק של נתונים, ניתוחם והבנת המשמעות שלהם באמצעות בינה מלאכותית, שלטענתם עולות על יכולות של חברות מסחריות כמו פייסבוק וגוגל, ונמצאות בחזית המחקר העולמי. יכולות אלה מאפשרות מעקב מעמיק יותר מאי פעם אחר כל אזרח או תושב השטחים, ותגובה בתוך חלקיק שנייה לכל התרעה על סכנה.
צפו: השב"כ רוצה אתכם אצלו
טפח מהיכולות האלה נחשף השבוע באירוע סגור לאנשי הייטק, שבו ביקשו בשב"כ למשוך מפתחים מצטיינים להצטרף לשירות. על הבמה סקרו המרצים את חזית טכנולוגיית הבינה המלאכותית העולמית ואת היכולות המתפתחות, העולות על כל דימיון. הסאבטקסט היה ברור: כל זה ועוד נמצא אצלנו בשימוש פעיל, ולא משמש להגדלת מכירות, בניגוד לחברות מסחריות.
א’, מנהל באגף טכנולוגיות מערכות המידע בשב"כ, הסביר לנוכחים עקרונות יסוד בקשר שבין צבירת נתונים להבנת אירועים: אירוע לא קורה סתם כך, הוא תמיד בא בעקבות אירועים קודמים, ולכל מידע יש הקשר של זמן ומקום. “אדם לא קם בבוקר והולך לעשות מעשה לא טוב רק כי מתחשק לו”, הוא אומר, “הוא גדל לתוך האירוע הזה. אפשר לעשות תהליכי חיזוי די מדויקים לאירועים. אנחנו מבינים שהחיזוי הוא חלק בלתי נפרד מהתהליך הביטחוני”.
השב"כ משקיע משאבים רבים בפיתוח יכולות הבינה המלאכותית שלו, הן בציוד ובידע, והן בגיוס כוח אדם והצעת שכר שמתמודדת עם רמות השכר הגבוהות בהייטק הישראלי. כל אלה משמשים לצבירת כמויות נתונים אדירות, לארגון הידע כך שיהיה נגיש במהירות, ולאימון מערכות למידה עמוקה לזהות תבניות בתוך הנתונים. איזה תבניות, אפשר רק לנחש: התארגנויות טרור, קשרים בין חשודים, עסקאות, הצהרות, תנועות בני אדם.
"כל אחד מהאנשים שחיים פה מייצר נתונים, מצלם, מקליט את עצמו, כותב. כל אחד מביע דעה", אומר א’, “כמות הנתונים שהעולם ייצר בשנתיים האחרונות עולה על כל מה שייצר עד לפני שנתיים. זו כמות מטורפת". כתוצאה מכל אלה, מערכות ניתוח נתונים הפכו לכלי מרכזי בארסנל של השב"כ: "אין אצלנו מערכות מסכלות שאין בהן בינה מלאכותית. זו יכולה להיות משימה קטנה כמו זיהוי תמונה או משימה גדולה כמו למצוא את הבן אדם שהולך לעשות פיגוע דקירה”.
החידוש העיקרי בשנים האחרונות הוא היכולת של בינה מלאכותית להבין, באמת להבין, מה אנשים רוצים. בתחרויות בין מפתחים הצליחו כבר לפתח בינה מלאכותית שהבינה טקסטים כתובים יותר טוב מבני אדם. מבחינת השב"כ, זהו כלי יקר מציאות. “שפה משקפת מחשבה", אומר א’, "צריך להקשיב למה אנשים אומרים. כשאתה מבין מה הם אומרים אתה יכול להגיע לדברים מדהימים. תיאורטית – אתה יכול לחזות”.
איך בינה מלאכותית חוזה? היא קוראת מיליוני טקסטים והקלטות, ומחפשת תבניות חוזרות. אם היא תקרא את כל מה שעבר ברשתות לפני הפלישה הטורקית לסוריה, סתם דוגמה מקרית, היא תוכל לזהות תבנית דומה לפני פלישה נוספת, ולהתריע עליה מבעוד מועד. אין פה באמת חוכמה, רק שקדנות אינסופית וסטטיסטיקה, שאף פעם לא טועה.
"בעוד שנה-שנתיים, עולם ה-AI יהיה מורכב משלוש שורות קוד: אמן (train), בנה מודל, תן לי פרדיקציה”, אומר א’, “הבינה המלאכותית כבר לא תהיה אירוע גדול. האירוע הגדול נמצא בנתונים. אתה יכול לעשות מודלים שחוזים הרבה מאוד דברים, טובים או לא טובים. אני מניח שאמזון מנתחים מה אנשים כותבים על מוצרים ולפי זה מחליטים. אז הם מחפשים מוצרים, אנחנו מחפשים דברים אחרים. ואם את הפרסומת אתה מקבל אחרי קלסיפיקציה של שתי שניות, אנחנו עושים את זה בחצי שנייה”.
"לא הגענו לסיטואציה של טעות פטאלית"
יש עוד הבדל בין אמזון לשב"כ, כפי שמנסח זאת א’: “אנחנו לא יכולים להרשות לעצמנו לטעות”. אם קיבלת מודעה לשמפו למרות שאתה קרח, אתה יכול להתעלם מזה. אבל במקרה של השב"כ זיהוי לקוי עלול להיות הרה אסון. כדי להימנע מטעויות מאמצים בארגון שיטות בדיקה ואימות, ממוחשבות ואנושיות. “עוד לא הגענו לסיטואציה, שהמכונה הטעתה אותנו, ברמה שעשינו טעות פטאלית”, אומר א’.
הטכנולוגיה נמצאת במירוץ פראי קדימה בשנים האלה, יכולות צבירת הנתונים ויכולות עיבוד הנתונים השתכללו כל כך, שמדעני הנתונים יכולים לאמן מכונות להבין הכל, לדעת הכל, לחזות הכל. יש עבודות שפיתחו כלים לעקוב אחר שינויים נפשיים, יש עבודות שמזהות אדם משקר, רק על פי מה שהוא אומר. מה שמפריד בין חוקר לבין פרס על מאמר מצטיין זה מערכת מחשבים חזקה וגישה להמון המון נתונים. ולשב"כ יש את שני אלה בשפע.
השב"כ שם את ההצטיידות בבינה מלאכותית במקום גבוה בסדר העדיפויות. "אנחנו משקיעים המון המון משאבים בלמידה, בשילוב האקדמיה, בקריאת מחקרים כדי לראות איך מביאים אותו מ-30 אלף רגל לרצפת ייצור”, אומר א’, “אנחנו משקיעים הרבה מאוד בנתונים ומפעילים כלים עוצמתיים כדי להביא למקבל ההחלטות תובנות: זה מה שאנחנו חושבים, תראה מה אתה רוצה לעשות. “התהליכים האלה מאוד מורכבים ואנחנו משקיעים בזה הון”.
האם יכולת החיזוי של הבינה המלאכותית יכולה להתריע בזמן לפני שמפגע בודד חוצה את הגדר בהתנחלות ליד צומת תפוח? אנשי הטכנולוגיה של השב"כ מאוד זהירים בעניין הזה. מבחינתם סיכול הפיגוע הוא התוצאה הרצויה ביותר, אבל הובלת כוחות הביטחון לאתר את המפגע במהירות רבה היא הישג רצוי לא פחות. א’ מדגיש שהתובנה צומחת מאיסוף מהרבה מקורות: "לא כל בן אדם שאומר שצריך להרוג את ראש הממשלה, באמת קם בבוקר והורג אותו. הקטע העיקרי אצלנו הוא, שאנחנו עושים אינטגרציה בין הרבה מאוד דברים ומחברים ביניהם”.
בחזרה לאירוע ה"מיט-אפ", התכנסות הגיקים החביבים בצל קורתו של השב"כ. זה לא האירוע הראשון מסוגו, אבל זה הנוכחי זכה להיענות מפתיעה ומאות אנשי הייטק, סטארט-אפיסטים, סטודנטים וחיילים גדשו את המסדרונות ואת האולם, ובין לבין גם המתינו בסבלנות בתור לסושי ולכריך באן.
אפשר לחוש בהתרגשות שכזו באוויר. העיסוק בנושאים שהשתיקה יפה להם, ההתחככות בדמויות ששיגרת חייהם מזכירה את הסדרה פאודה, כל אלה מהווים ניגוד מוחלט לעיסוק הרגיל שלהם בשורות קוד אינסופיות, אפליקציות לסלולר או מערכות הגנת סייבר. עבור אנשי פיתוח צעירים המשימות שצפויות להן כאן מסעירות, בחוד החנית של הטכנולוגיה, מפתות. ואכן, המארגנים מדווחים על התעניינות ערה בעמדת הגשת המועמדות לגיוס.
ומה עם הפרטיות?
אפשר להניח שמי שמגיע לאירוע של השב"כ מלכתחילה מאמין שהשמירה על ביטחון ישראל גוברת בחשיבותה על הבטחת פרטיות האזרחים, למשל. האנשים פה לא ממש שואלים את עצמם אם הטכנולוגיה שיפתחו יום אחד לא תשמש כנגד חפים מפשע. מצד שני, גם מדעני נתונים בגוגל ובפייסבוק לא תמיד מוטרדים מהשאלה מה החברה עושה עם המערכות שהם מפתחים.
אנשי השב"כ שאנחנו מדברים איתם אומרים שההגנה על פרטיות אזרחים היא שיקול מרכזי בשב"כ, הפעילות כפופה לאישור הייעוץ המשפטי ובכלל, שאחד מערכי השירות היא "ריסון הכוח" והוא מצוטט בגדול בכל משרד בארגון. א' מוסיף: “אנחנו ארגון ממודר בטירוף. אנחנו ממדרים את עצמנו מעצמנו בגלל שאנחנו מאוד שומרים על הפרטיות. למשל, אני אחראי על שתי מערכות, שלי עצמי אין הרשאה אליהן”.
פורסם לראשונה: 21:11, 18.12.19
