יותר מ-100 מהחברות הגדולות בעולם בתחומי הטכנולוגיה, הסייבר והפיננסים מפרסמות אזהרה חריגה: ההתפתחות המהירה של הבינה המלאכותית עלולה להביא כבר בחודשים הקרובים לגל חדש של מתקפות סייבר מתקדמות נגד תשתיות קריטיות, בהן בתי חולים, מתקני מים ותשתיות אינטרנט.
במכתב פתוח שעליו חתומות בין היתר מיקרוסופט, גוגל, OpenAI, אמזון ואנת'רופיק, מזהירות החברות כי כלי AI מתקדמים מורידים במהירות את הרף הנדרש לביצוע מתקפות סייבר מורכבות. יכולות שבעבר דרשו ידע מקצועי רב, זמן ומשאבים עשויות להפוך לזולות, מהירות ונגישות הרבה יותר גם לתוקפים פחות מתוחכמים.
לדברי החברות, מדובר בחלון הזדמנויות שהולך ונסגר. ככל שמודלי הבינה המלאכותית ממשיכים להשתפר, כך גדלה היכולת שלהם לאתר חולשות, לכתוב קוד ולבצע באופן אוטונומי חלקים הולכים וגדלים משרשרת התקיפה.
לכן הן קוראות לממשלות ולחברות להתחיל כבר עכשיו בשדרוג משמעותי של מערכי ההגנה, ולא להמתין עד שהיכולות הללו יהפכו לנפוצות עוד יותר. מי שבולטות בהיעדרן מרשימת החותמות הן מטא ו-xAI של אילון מאסק.
מתקפה של שבועות עלולה להתקצר לדקות
אחד החששות המרכזיים נוגע למה שמכונה מתקפות "סוכניות" (Agentic) - מתקפות שבהן מערכות AI אינן מסתפקות במתן תשובות או בכתיבת קוד, אלא מסוגלות לבצע באופן עצמאי רצף של פעולות בדרך להשגת מטרה.
במכתב מזהירות החברות כי סוכני AI יכולים לפעול במהירות של מכונה, לחפש חולשות במערכות, להתאים את פעולותיהם לממצאים ולהמשיך לשלב הבא כמעט ללא התערבות אנושית. כתוצאה מכך, תהליך תקיפה שבעבר היה עשוי להימשך ימים או שבועות יכול, לפחות בתרחישים מסוימים, להתקצר לדקות.
הבעיה, לטענתן, היא שמערכות המחשוב של ארגונים רבים פשוט אינן מוכנות לקצב הזה. באגים ישנים, תוכנות שלא עודכנו, הרשאות רחבות מדי, הגדרות שגויות, מנגנוני אימות חלשים ומערכות ותיקות יוצרים מאגר גדול של חולשות שתוקפים המצוידים ב-AI יוכלו לנסות לנצל במהירות ובקנה מידה גדול בהרבה.
מימין: אילון מאסק, מנכ"ל גוגל סונדאר פיצ'אי, ג'ף בזוס, ומארק צוקרברג. לא כולם שותפים לחששות
(צילום: Saul Loeb, Reuters)
הסכנה משמעותית במיוחד בתשתיות קריטיות. בתי חולים, מתקני טיפול במים וספקי תשתיות אינטרנט נאלצים לא פעם לעבוד עם מערכות ישנות, ובחלק מהמקרים גם עם צוותי אבטחה מצומצמים ותקציבים מוגבלים.
בניגוד לפריצה לאתר או לחשבון משתמש, מתקפה מוצלחת נגד מערכות כאלה עלולה לגרום לא רק לנזק כלכלי או לדליפת מידע, אלא גם לשבש שירותים חיוניים ואף לגרום לפגיעה פיזית.
ה-AI כבר יודע לעשות יותר
האזהרה אינה מבוססת רק על תרחישים תיאורטיים. ניסויים שנערכו במערכות AI מתקדמות כבר הראו כי סוכנים מסוגלים לכתוב קוד זדוני, ליצור זהויות מזויפות ברשת שנועדו להטעות בני אדם ואף לבצע פעולות שלא התבקשו לבצע באינטרנט הפתוח במסגרת ניסויים מבוקרים.
לפי רויטרס, המכון הבריטי לבטיחות בינה מלאכותית (AI Security Institute) תיעד עשרות מקרים שבהם מערכות AI הפרו את כללי הניסוי במסגרת יותר ממאה תרגילי סייבר מדומים. בחלק מהמקרים המודלים פעלו להשגת המטרה שניתנה להם בדרכים שלא תאמו את כוונת המפעילים, גם כאשר הוגדרו להם מגבלות מפורשות.
גם OpenAI כבר נאלצה להתמודד עם החשש הזה. החברה הודיעה כי האטה חלקים מפיתוח המודל הבא שלה וחיזקה את אמצעי האבטחה והבידוד סביבו, לאחר שבדיקות פנימיות לא הצליחו לשלול את האפשרות שהמערכת מתקרבת לרמת יכולת שהחברה עצמה מגדירה כקריטית בתחום הסייבר.
בינה מלאכותית
(Getty Images)
אותה טכנולוגיה יכולה גם להגן
לצד האזהרות, החברות מדגישות כי AI אינו רק חלק מהבעיה, אלא עשוי להפוך גם לאחד מכלי ההגנה המרכזיים נגדה. מודלים יכולים לסרוק כמויות גדולות של קוד בחיפוש אחר חולשות, לזהות בעיות לפני שתוקפים מנצלים אותן, לתעדף עדכוני אבטחה ולסייע לצוותי סייבר לחקור אירועים בזמן אמת.
לכן המכתב קורא לארגונים להתחיל להטמיע כלי AI גם בצד ההגנתי, ולחברות הסייבר והטכנולוגיה לפתח פתרונות שיהיו נגישים לא רק לתאגידי ענק, אלא גם לגופים בעלי תקציבים מוגבלים.
אחת ההצעות המעניינות יותר היא שחברות המפתחות את מודלי ה-AI החזקים בעולם יעניקו בעת מתקפות משמעותיות גישה מוקדמת למודלים המתקדמים ביותר שלהן לגופי הגנה שעברו בדיקה ואישור. לצד זאת, החברות קוראות להרחיב את שיתוף מודיעין האיומים בין ארגונים ולספק מימון, הכשרות וסיוע טכני לגופים שאינם מסוגלים כיום להתמודד לבדם עם האיום.
גם הממשלות נדרשות להיכנס לתמונה. החותמות קוראות להן לממן ולתאם את הגנת הסייבר ברמה המקומית, הלאומית והבינלאומית, ולאפשר לגופים מהימנים גישה מאובטחת לכלי AI מתקדמים לצורכי הגנה. דגש מיוחד ניתן לבתי חולים, מתקני מים וגופים נוספים שסבלו במשך שנים מתת-תקצוב בתחום הסייבר.
