חברת OpenAI שוב במוקד סערת סייבר בגלל "בריחה" של סוכני AI שלה, והפעם יש גם זווית ישראלית. גילויים מסימולציות אבטחה של מכון אבטחת הבינה המלאכותית הבריטי (UK AISI) ושל חברת הסייבר הישראלית Irregular חושפים כי מודלי השפה המתקדמים בעולם לא רק פתרו משימות מחשב מורכבות, אלא חרגו באופן עצמאי מהגבולות שהוגדרו להם, ביצעו פעולות התקפיות ברשת האינטרנט הציבורית ואף הפעילו מניפולציות על בני אדם.
סוכני AI פורצים למחשבים
(צילום: Shutterstock)
במהלך ניסויים שגרתיים שנועדו לבחון את היכולות ההתקפיות של מודלי קצה בתנאי מעבדה, הוגדרו למודלים משימות סייבר מורכבות בסביבה מבוקרת. כדי למדוד את הפוטנציאל הטכנולוגי הגולמי, הסירו הבודקים את מסנני הבטיחות הרגילים ואפשרו חיבור לרשת החיצונית. התוצאה הייתה חריגה דרמטית מגבולות הגזרה: מודל GPT-5.6 Sol של OpenAI זיהה פרטי גישה שהושארו על ידי מודל אחר, השתמש בהם לבדיקת מערכות חיצוניות, ואף נרשם באופן עצמאי לשירותי הנגשת שרתים ודומיינים חיצוניים. המודל הגדיל לעשות והקים שרת חיצוני שהכיל קוד תקיפה המיועד לניצול חולשות מוכרות.
במקביל, בתקרית שאירעה בחברת Irregular, הגדרת תצורה שגויה בסביבת הניסוי אפשרה למודל של OpenAI להתחבר לרשת החופשית. כאשר הוטלה עליו משימת תקיפה מדומה, שמה של מטרת הניסוי חפף במקרה לדומיין אמיתי ברשת. המודל, שטעה לחשוב כי האתר האמיתי הוא חלק מהסימולציה, זיהה בו חולשת אבטחה, ניצל אותה, השיג הרשאות גישה ופעל בתוכו.
האירוניה היא שחברת Irregular הוקמה במטרה להעריך כיצד מודלים מהדור הבא מתנהגים מול איומים בעולם האמיתי - החל מהתחמקות מתוכנות אנטי-וירוס ועד פעולות התקפיות אוטונומיות - ולפתח את ההגנות הנדרשות שיבטיחו הטמעה בטוחה בקנה מידה רחב. מקימיה דן להב (מנכ״ל) ועומר נבו (סמנכ"ל טכנולוגיות) עסקו בנושא בגוגל ו-IBM, ובין
הדיווחים של כלי התקשורת המובילים בארה"ב, בהם Axios ו-CyberScoop, לצד דיווחים באירופה, מצביעים על כך שהתופעה אינה מוגבלת לחברה אחת. בסימולציות של המכון הבריטי המודל Mythos 5 של חברת אנתרופיק הציג התנהגות מתוחכמת ומטרידה אף יותר. המודל ניסה להחדיר קוד זדוני למיזם קוד פתוח אמיתי בפלטפורמת GitHub. כדי לגרום למנהל המיזם האנושי לאשר את השינוי, יצר המודל זהויות דיגיטליות מזויפות ברשת והפעיל טקטיקות של הנדסה חברתית ולחץ ישיר. יתרה מזו, המודל השתיל הוראות מתוחכמות ("Prompt Injection") במקומות ציבוריים ברשת מתוך מחשבה שמערכות אוטונומיות אחרות יאספו אותן ויבצעו אותן.
התפתחויות אלה מדגישות את השינוי הדרמטי שעבר התחום. בעוד שהדורות הקודמים, כמו GPT-4 או Claude 3, שימשו בעיקר ככלי עזר פסיביים לזיהוי חולשות מקומיות או כתיבת קוד תחת פיקוח הדוק, הדור החדש של המודלים פועל כסוכנים אוטונומיים (AI Agents). סוכנים אלה מתוכננים לבנות אסטרטגיה, להתגבר על מכשולים בדרך ולבצע שרשרת פעולות מתמשכת שנפרשת על פני שעות וימים ללא התערבות אנושית.
בתגובה לממצאים הדגישה OpenAI כי הפעולות התרחשו רק בתנאי מעבדה חריגים שבהם הוסרו מנגנוני ההגנה באופן מכוון, וכי המוצרים המופצים לציבור הרחב כוללים שכבות אבטחה המונעות התנהגות כזו. עם זאת, בחברה הודו כי קצב התפתחות היכולות של הבינה המלאכותית מחייב שדרוג יסודי של סביבות הניסוי והפיקוח.
בעקבות הגילויים, קיימו בוושינגטון פגישה דחופה עם ראשי OpenAI, Anthropic וחברות מובילות נוספות כדי להציג מסגרת עבודה מעודכנת להערכת סיכונים טרם השקת מודלים חדשים. במקביל, הושקו תוכניות לגישה מבוקרת ומאומתת לכלי סייבר מתקדמים, במטרה להבטיח שרק גורמים מורשים יורשו להשתמש ביכולות אלו. האירועים האחרונים מוכיחים כי האתגר המרכזי של תעשיית ההייטק אינו רק הגנה מפני תוקפים אנושיים, אלא היכולת להחזיק את הבינה המלאכותית עצמה בתוך סביבה מבוקרת ברגע שהיא לומדת לפעול עצמאית.
