אירוע סייבר חסר תקדים המטלטל את תעשיית הבינה המלאכותית העולמית ממחיש עד כמה המרחק בין סימולציה במעבדה לתרחיש בלהות קיברנטי הצטמצם: במהלך מבחן יכולות התקפיות פנימי שערכה חברת OpenAI למודלים מתקדמים שלה, ובהם GPT-5.6 Sol ומודל ניסיוני עוצמתי נוסף, הצליחו סוכני ה-AI העצמאיים של החברה לזהות פרצה בסביבת הבדיקה המבודדת שבה נכלאו ו"לברוח".
המודלים יצאו לרשת האינטרנט הפתוחה במטרה אחת: להשיג תשובות למבחן שהמפתחים ניסחו עבורם ולמקסם את הציון שלהם. היעד שנבחר עצמאית על ידי המודלים היה הפלטפורמה הבינלאומית Hugging Face, המארחת מודלים ומאגרי נתונים.
שרשרת תקיפות מורכבת
המודלים של OpenAI ביצעו שרשרת תקיפות מורכבת שכללה גניבת זהויות גישה, הסלמת הרשאות ותנועה רוחבית בשרתים, והוציאו לפועל מעל 17,000 פעולות בתוך זמן קצר. מנכ"ל החברה סם אלטמן ומנכ"ל Hugging Face קלמנט דלנג הודו כי מדובר במקרה ראשון מסוגו שבו בינה מלאכותית ביצעה מתקפת סייבר מורכבת ואוטונומית לחלוטין ללא כל הנחיה אנושית ישירה.
דיווחים בעולם הדגישו את האבסורד הטכנולוגי שהתרחש במהלך ניסיונות הבלימה. כאשר צוותי האבטחה של Hugging Face ניסו להשתמש במודלים מסחריים אמריקאיים מובילים כדי לנתח את לוגי התקיפה ולשחזר את נתיב החדירה, סירבו המודלים המערביים לשתף פעולה.
מנגנוני הבטיחות והסינון הנוקשים זיהו את ניתוח הראיות הפורנזיות והקוד המזיק כפעילות אסורה וחסמו את השאילתות. בצר להם, נאלצו המהנדסים להיעזר במודל הפתוח GLM של חברת Z.ai הסינית, שרץ באופן מקומי ואיפשר לבצע את החקירה הפורנזית ללא חסימות אוטומטיות.
בעוד חברות מתחרות כמו אנת'רופיק מפתחות מודלים מתקדמים כמו קלוד "מיתוס" (Claude Mythos) עם דגש ברור על בטיחות ומנגנוני סינון נוקשים, המודלים של OpenAI הוכיחו כי יכולת תכנון לטווח ארוך, בשילוב עם גמישות מחשבתית, מסוגלת לעקוף חומות אש ומעבדות מחקר מבודדות.
ושלא כמו כלי אוטומציה מסורתיים או סוכני קידוד דוגמת Replit ו-GitHub Copilot הפועלים בתוך גבולות גזרה קשיחים ומוגדרים, המודלים החדשים הפגינו יכולת יצירתית לזהות חורים במערכות, לפתור בעיות בלתי צפויות ולהשיג משאבי מחשוב כדי להתגבר על מכשולים.
מנכ"ל אנת'רופיק, דריו אמודיי
(צילום: Denis Balibouse/Reuters)
תופעת ה"רמאות" של מודלי AI
תופעת "הרמאות" של מודלים במבחני הערכה (Benchmarking) מלווה את התחום מראשיתו. בשלבים המוקדמים של הלמידה העמוקה, הבעיה העיקרית הייתה זיהום נתונים פסיבי, כאשר טקסטים מתוך מבחני ההערכה נכללו בטעות במאגרי האימון של המודלים.
בהמשך, נצפו מודלים המפתחים קיצורי דרך סמנטיים כדי להערים על מדדי איכות. האירוע הנוכחי ב-Hugging Face מהווה את השלב האבולוציוני הבא והמסוכן ביותר: במקום להסתמך על מידע שנלמד בעבר, המודל פועל באופן אקטיבי, התקפי ואוטונומי כדי לתקוף תשתיות חיצוניות ולהשיג את "דף התשובות" בעצמו.
לטענת מומחים בתעשייה, הבעיה באירוע אינה היכולות של סוכני ה-AI, אלא המגבלות הבלתי קיימות עליהם ברמה הפנימית. כלומר, המפתחים לא טרחו להגדיר לסוכנים את גבולות הגזרה בתוכה הם פועלים.
אמנם לא נגרם נזק אמיתי באירוע, אבל צריך לזכור שהכל החל בניסוי ושהסוכנים הוחזקו (מטאפורית) בכלוב ממנו הם לא היו אמורים לצאת. אם מקרים כאלה עשויים לקרות בעולם האמיתי, טוב יעשו הרגולטורים וחברות ה-AI אם ינסו לפתח לפחות סוג של חוקה פנימית קשיחה שה-AI לא יוכל לעקוף.
