נאום ראש השב"כ רונן בר ב"שבוע הסייבר"
ראש השב"כ, רונן בר, חשף הבוקר (יום ג') ב"שבוע הסייבר" באוניברסיטת תל אביב כי הארגון פיתח צ'אטבוט מבוסס בינה מלאכותית דמוי ChatGPT שמשמש אותו לצרכים פנימיים. "טכנולוגיית ה-AI הוטמעה במכונת הסיכול של שב"כ באופן טבעי למדי", סיפר בר, "זיהינו באמצעות ה-AI מספר לא מבוטל של איומים. המכונה ויכולתה לזהות אנומליות יוצרים חומת מגן אפקטיבית מול אויבינו, לצד היכולות המסורתיות של שב"כ – יומינט (מודיעין אנושי), סיגינט (מודיעין אותות), סייבר, ניתוח מודיעין ומבצעים".
עוד כתבות שיעניינו אתכם:
בפתח דבריו סיפר ראש השב"כ כי לפני שהגיע לאירוע, ביקש מ-ChatGPT, הצ'אטבוט של חברת OpenAI, שיסביר לו כיצד להכין חומר נפץ מאולתר. "הוא ענה לי מיד: 'I'm sorry, I can't assist you with that'. התעקשתי ושאלתי את אחת החוקרות בארגון איך 'הרעים' עושים את זה. היא ענתה - 'בקלות! נסח את השאלה שלך מחדש!' אני לא ארחיב, כדי לא לתת לאף אחד רעיונות, אחרי הכל, אנחנו אלה שצריכים לעצור אותם. אני כן אומר ְשאחרי כמה דקות, ChatGPT כתב טקסט שכלל הסבר מאוד מדויק - אילו חומרים נדרשים, איך לשקול ולערבב אותם וממה צריך להיזהר".
לדברי בר, בשב"כ מזהים את האיומים שהבינה המלאכותית מציבה בפני הארגון, אך לצד זאת גם את ההזדמנויות הטמונות בה. "כחלק מהטמעת הטכנולוגיה בארגון, הקמנו יכולת Gen AI On Prem (בינה מלאכותית גנרטיבית שנמצאת על השרתים של הארגון - י"מ)", חשף, "היכולת מונגשת לעובדים בצורה אינטואיטיבית וניתן להתנהל מולה בדומה להתנהלות מול הכלים המוכרים ברשת - בארד (הצ'אטבוט של חברת גוגל - י"מ) ו-ChatGPT". לדבריו, הבינה המלאכותית מסייעת לארגון בהתייעלות, תעדוף משימות, מודיעין, קבלת החלטות וחיזוי.
בר התייחס גם לאתגרים שהבינה המלאכותית מציבה בפני הארגון: האתגר הראשון הוא הזמינות של הטכנולוגיה, שלדבריו "נמצאת בכל מקום, בידי כל אדם, מדינה וארגון - טובים או רעים. כדי לפתח יכולת גרעינית נדרשו יכולות מעצמתיות. ל-AI, שפוטנציאל הנזק שלה עצום, לא נדרש דבר. רק מכשיר סלולרי וחיבור לרשת". האתגר השני הוא מה שבר מגדיר כ"פיתוי". לדבריו, "ניתן להעריך שהבינה המלאכותית הגנרטיבית תדע לפתות את המשתמש, ככל הנראה באמצעות אספקת מידע באופן מהיר, רחב וללא חסמים מוסריים, על חשבון דיוק והעמקה. ככל שהמשתמש יצרוך תוכן, כך ה-AI יספק לו את התשובות שאותן הוא רוצה לשמוע. כיוון שהבינה המלאכותית תחתור לריצוי המשתמש, ניתן להניח שהיא תספק ידע מסוכן שבדרך כזו או אחרת, ייפול לידי הידיים הלא נכונות. לא יהיה עוד רוביקון שצריך לחצות".
האתגר השלישי שעליו דיבר בר הוא "היעדר אחריותיות". לדבריו, "ברשת, וגם ל-AI, לא חלה הדרישה הנורמטיבית הבסיסית בכל מערכת יחסים ובכל חברה והיא - אחריותיות. בהיעדר אחריותיות החוק הוא חוק הג'ונגל. לכן, נצטרך להתאים את הרגולציה הישראלית, להגדיר מחדש מהו סוד, להתאים את חוק שב"כ שנכתב בעידן הסיגינט לעידן הסייבר וה-AI ולהמשיך להיות Agile בתחום הטכנולוגיה. על מנת לוודא שה-AI יוביל לאבולוציה ולא לרבולוציה, נצטרך שיתופי פעולה ופתיחות בין ענקיות הטכנולוגיה לגופי הביטחון". הוא הוסיף כי השב"כ מתכוון להקים חממה שתתמקד בבינה מלאכותית גנרטיבית ותסייע לסטארטאפים ויזמים שמפתחים מוצרים שעשויים לתת מענה לצרכים ביטחוניים.
טרור דור ה-Z
בר התייחס בנאומו גם להשפעה של המדיה החברתית על הביטחון הלאומי. הוא הזכיר את ארגון הטרור "גוב האריות" שצמח בטיקטוק ואמר כי מדובר ב"ארגון טרור מסוג חדש, טרור דור ה-Z. ניתן ללמוד ממנו על האופן שבו מדינות וארגוני טרור מנצלים את הדור הצעיר. הארגון אינו אידיאולוגי, קם ברשת, מגייס ברשת ומקבל את התמיכה שלו מהציבור בצורה של לייקים. Instead of YouTubers, GunTubers. מאחורי הקבוצה הזאת, זרועה הארוכה של איראן. איראן מסמנת ברשת נוער מועד לפורענות, מסיתה, מעבירה להם כספים ומספקת להם ידע ונשק. ככה פשוט. גוב האריות, שחוסל בפשיטה של לוחמינו בקסבה, נולד ממצלמת הסמארטפון, לא בתוך מסגד".
בהקשר הזה, הזכיר בר את הפיגוע הקטלני שהתרחש במרץ 2022 בבאר שבע: "אדם שצרך ברשת תכני דאעש מסיתים ומסוכנים - תוכן, שאגב, חוקי בישראל - הושפע עמוקות, הקצין באחת ורצח ארבעה אנשים עם סכין ומכונית. אנחנו לא ידענו שהוא עומד לבצע פיגוע. אשתו לא ידעה שהוא עומד לבצע פיגוע. אני בספק אם הוא ידע זאת, מספר שעות לפני המעשה". בר מתח ביקורת על הרשות המחוקקת ואמר כי "זוהי רק דוגמה אחת לחשיבות עדכון החקיקה לפי קצב השתנות הטכנולוגיה. לצערי, אנו לא זריזים כפי שעלינו להיות". הוא רמז לאירועי מבצע "שומר החומות" - שבמהלכו האלימות גלשה לערים בישראל - כשאמר כי "השילוב של הקלות ביצירת פייק ויכולת הפצת ההמונים של הרשת החברתית, הביאו אותנו לסיפה של מלחמה במאי 2021".
לגבי הטיפול של הרשתות החברתיות בתכנים מסיתים אמר בר כי "לאחרונה אנחנו רואים צעדים של טיקטוק בכיוון הנכון", אבל "למרבה הצער, איני יכול לומר דברים דומים על טוויטר וטלגרם".
3 צפייה בגלריה
יו"ר הכנס, אלוף במיל' פרופ' איציק בן ישראל, תא״ל במיל' פנחס בוכריס, נשיא אוניברסיטת תל אביב פרופ' אריאל פורת ומנכ"ל מרכז הסייבר גילי דרוב היישטין
(צילום: שבוע הסייבר אוניברסיטת ת"א)
כיפת ברזל עולמית לסייבר
בהמשך הציג ראש השב"כ את תפיסת ההגנה של הארגון בסייבר, שאותה הוא רואה לדבריו כחלק מתפיסת ההגנה על הגבולות. "מה שמגדיר מדינה אינו רק הטריטוריה שלה - הנכסים האינטלקטואליים, המידע וערכיה הם חלק בלתי נפרד מהגדרתה. כדי להגן על טריטוריה צריך גבולות. כדי להגן על נכסים נדרשת הגנה על שרתים. כדי להגן על ערכים נדרשים הגנה וחוסן מפני רעיונות רעים. בעולם המלחמה החדש, הניצחונות נספרים במספר השרתים שבהם יש למדינה דריסת רגל, ולא במספר הגבעות שעליהן מתנוסס דגל". כמו ראש מערך הסייבר הלאומי גבי פורטנוי שנאם לפניו, גם בר התייחס לפעילות הסייבר של איראן, שלדבריו "מנסה לגנוב בסיסי נתונים כדי לפגוע ביהודים וישראלים בחו"ל, להשבית שרתים באקדמיה, להקריס חברות עסקיות ולאחרונה אף ניסתה לפגוע בבית חולים גדול".
בר אמר שבארגון סבורים שיש צורך בהגנה תשתיתית בתחום הסייבר בשלושה רבדים: "רובד מקומי - מכונה שתאתר, תחקור ותבלום אנומליות המגיעות לישראל, מעין כיפת ברזל בסייבר, שמתבסס על יכולות AI מתקדמות; רובד בינלאומי בצורת מערך בריתות של Like minded states - מעין סייבר אינטרפול. רובד זה יורכב מבריכה וירטואלית שאליה יישפכו החברות בברית את נתוני התקיפות שהן חוות ומשיתוף פעולה בזמן אמת של תובנות תקיפה, חקירתן וסיכולן. אנו כבר משתפים פעולה עם מספר מדינות משמעותיות בתחום ורואים את כיפת ברזל הסייבר העולמית מתחילה לקרום עור וגידים; רובד B2G (עסקים לממשלה - י"מ) - במסגרתו חברות מסחריות ישתפו את המטא-דאטה שלהן עם אותה כיפת סייבר ובתמורה יקבלו הנחה בפרמיות ביטוח כופרה".
"כיפת הברזל ששב"כ מפתח בסייבר כבר עושה את צעדיה הראשונים, מערך הבריתות מתהווה וגם הוא נכנס כבר לפעולה", אמר בר, "הסכמי אברהם, יחד עם הסכמי השלום הוותיקים יותר במזרח התיכון, יכולים להוות בסיס איתן לברית אזורית של הגנה בסייבר. אנו מזמינים את כל המדינות שרואות עצמן חלק מהגוש המתון וחפץ החיים בעולם להצטרף לגוף הגנת סייבר משותף".
