התרחיש שממנו הזהירו חוקרי הבטיחות במשך שנים הפך להיות מדיון פילוסופי מופשט לכאב ראש עצום: OpenAI, אנת'רופיק וחוקרי אבטחה חיצוניים חוקרים בימים אלה עשרות אלפי תקריות שבהן מודלי הדור הבא ביצעו פעולות חריגות ובלתי צפויות.
הנתונים, שנחשפו בדיווח חדש של אתר "אקסיוס", ממחישים כי הפער בין היכולת הטכנולוגית לבין השליטה האנושית גדל במהירות גדולה הרבה יותר מהיכולת לשלוט על הטכנולוגיה.
לא מהססים לעקוף מגבלות
היקף התקריות, שהתרחשו הן במבחני פריצה פנימיים והן בסביבות פעילות אמיתיות, חושף כי הסוכנים האוטונומיים לא מהססים לעקוף מגבלות. הרשימה כוללת עקיפת מנגנוני הגנה, בריחה מ"ארגזי חול" (סביבות בדיקה מבודדות), השתלטות על אתרים, התחמקות ממערכות ניטור ואף יצירת לוחות הודעות מקוונים שנועדו לתיאום בין סוכני תוכנה שונים.
בימים האחרונים נרשמה שורה של אירועים מדאיגים ב-OpenAI, בהם הדלפה לרשת של עשרות תמונות שהעלו משתמשי ChatGPT, פריצה של סוכני תוכנה לאתר ממשלתי באוסטרליה, וניסיונות חדירה לאתרים של הממשל האמריקני.
בעקבות ההתפתחויות הודיעה OpenAI על הקפאה זמנית של אימון המודלים המתקדמים ביותר שלה, והבהירה כי האימון יחודש רק כאשר תובטח רמת הגנה ויישור קו (Alignment) מספקים. מנכ"ל החברה, סם אלטמן, אף הודה בפומבי כי הבדיקה הפנימית אינה מתקדמת בקצב הרצוי.
במוקד החקירה עומדת התקרית החמורה סביב פלטפורמת Hugging Face. כפי שדיווחנו כאן, נחיל של סוכני בינה מלאכותית אוטונומיים תיאם פעולות דרך לוח הודעות פנימי, ופרץ למערכות של חברה חיצונית במטרה "לשפר" את ביצועיו במבחן אבטחת מידע. מדובר בפתרון בעיות יעיל במיוחד מצד המודל, אך כזה שמפר לחלוטין את הגבולות שהוגדרו לו.
גם המתחרה המרכזית, אנת'רופיק, מתמודדת עם אתגר זהה, אם כי מציגה גישה שקופה מעט יותר. מסמכי הבטיחות שפרסמה החברה עבור המודל המוביל שלה, קלוד אופוס 5.5, חשפו כי במהלך בדיקות יריבות ניסה המודל לברוח מתוך ארגז החול המאובטח ב-1.5% מההרצות. על פניו מדובר באחוז קטן, אך כאשר חברות מבצעות מאות אלפי ואף מיליוני בדיקות, משמעות הדבר היא אלפי ניסיונות בריחה בפועל.
(צילום: VesnaArt, Shutterstock)
הדינמיקה הזו מדגישה את ההבדל המהותי בין המודלים של היום לבין כלי תוכנה או מנועי חיפוש מסורתיים. בעוד שכלים ותיקים ומוגדרים, ואף מודלים מתחרים בתעשייה כגון ג'מיני של גוגל או מערכות הקוד הפתוח הסיניות המובילות דוגמת DeepSeek ו-Qwen, נבנו לפעול בתוך גבולות שאילתה-תשובה ברורים, הסוכנים מקבלים משימה ופועלים בעקשנות להשיגה, לעיתים בדרכים יצירתיות שאף מהנדס אנושי לא צפה.
בקרב קהילת חוקרי האבטחה מתרחב החשש כי היכולת לחזות כל תרחיש אפשרי היא משימה בלתי אפשרית, ושבניית רשימת איסורים מושלמת מול מערכת לומדת אינה ברת-השגה. כאשר מודל נתקל במחסום, הוא אינו מוותר אלא מחפש פרצות ארכיטקטוניות ברשת כדי לעקוף אותו.
ההתפתחויות האחרונות מגבירות את הלחץ בוושינגטון, בבריסל וגם בישראל להאטת קצב הפיתוח ולהטלת רגולציה מחמירה ומחייבת. ככל שהחברות המובילות ימשיכו להעניק למודלים גישה ישירה לכלים חיצוניים, לאינטרנט ולסביבות הרצה עצמאיות, ההתנגשות בין היעילות של המכונה לבין גבולות הציות האנושי רק תלך ותחריף.
