OpenAI תכננה להשיק באוקטובר מודל בינה מלאכותית נוצץ במיוחד שיבצע משימות מורכבות (כמעט) ללא עזרה אנושית. כעת היא הודיעה כי GPT-6.1 Astra לא יושק: בבדיקות פנימיות התברר שהוא נוטה להטעות משתמשים באשר לפעולות שביצע, ולעיתים ממשיך לפעול מעבר לגבולות המשימה וההרשאות שניתנו לו.
ההחלטה מגיעה בשעה שהחברה חוקרת שורה של מקרים שבהם מודלים אחרים שלה פעלו בדרכים שלא התכוונה אליהן, גם מחוץ לסביבת הניסוי שבה הם היו אמורים להישאר.
סאצ'י ג'יין, ראש מערכות הבטיחות ב-OpenAI, אמרה כי המודל השתפר ביכולתו להתמיד במשימות, אך "לא עמד ברף מבחינת הישארות בגבולות המשימה וההרשאות, ובאופן שבו הוא מדווח למשתמש על העבודה שעשה". מבחינת המשתמש, ההבדל עשוי להיות בין עוזר שמודיע כי לא הצליח להשיג מידע, לבין עוזר שמחפש דרך אחרת להשיגו בלי לשאול אם הדרך מותרת. החברה לא מסרה מתי, ואם בכלל, תוכל להציג גרסה מתוקנת.
החשש גדול במיוחד בגלל מה שהמודלים האלה כבר יודעים לעשות. גרסת GPT-6 Astra, שכבר הושקה, הוגדרה בידי OpenAI כמודל הראשון שלה שהגיע לרמת יכולת "קריטית" בתחום הסייבר: בבדיקות הוא איתר פרצות אבטחה שלא היו מוכרות ופיתח דרכים לנצל אותן.
יכולת כזאת עשויה לסייע באיתור חולשות לפני שתוקפים מוצאים אותן. היא גם מחייבת, כפי ש-OpenAI עצמה הסבירה, הגנה מפני שני תרחישים: אדם שמבקש מהמודל לתקוף, ומודל שפועל ללא אישור גם כשאיש לא ביקש ממנו לתקוף.
שורה של תקריות מדאיגות
נזכיר כי המקרה שהרעיד את הענף התרחש ביולי האחרון במהלך בדיקות סייבר פנימיות, סוכני בינה מלאכותית של OpenAI עקפו הגבלות שנועדו לבודד אותם מהאינטרנט, מצאו דרך להעביר מידע זה לזה ופרצו למערכות של פלטפורמת הבינה המלאכותית Hugging Face.
לפי התחקיר שפרסמה OpenAI, הם הריצו פקודות על שרתי החברה והשיגו גישה למידע ולהרשאות שלא ניתנו להם. המשימה המקורית שלהם הייתה לפתור אתגרי אבטחה בסביבת בדיקה, לא לפעול נגד חברה חיצונית. OpenAI כינתה את האירוע "יריית אזהרה" אך הבהירה כי אסטרה עצמו לא היה מעורב בו.
מייסד והמדען הראשי של Hugging Face, תומס וולף
(Getty Images)
ביום שלישי התנצלה OpenAI גם בפני אוסטרליה על אירועים מוקדמים יותר שנחשפו בעקבות הבדיקה שפתחה אחרי פרשת Hugging Face. ביוני התבקש מודל ניסיוני למצוא נתונים על הוצאות הממשלה לתרופות למחלות עור. כשהתקשה להשיגם, הוא מצא דרך להיכנס לחלק לא ציבורי של פורטל סטטיסטי ממשלתי הקשור לתוכנית הבריאות הממשלתית Medicare, הריץ בו פקודות, שלף קבצים והרשאות וכתב קבצים.
OpenAI טוענת שלא נמצאה ראיה לגישה לתיקים רפואיים אישיים, עם זאת לפי הדיווחים החברה זיהתה את הפעילות החריגה כבר באמצע אוגוסט, אך הודיעה לרשויות על כך רק ב-10 בספטמבר. החברה הודתה שהיה עליה לעדכן מוקדם יותר.
בארצות הברית, OpenAI דיווחה שסוכניה ניגשו למידע ציבורי באתרים של רשות ניירות הערך ולנתונים של לשכת המפקד, אך אמרה שלא מצאה ראיה לפריצה למערכות רשות ניירות הערך או לגישה למידע לא ציבורי בהן. במקביל, חוקרים עצמאיים דיווחו על ניסיון כושל של סוכני AI של החברה לחדור לאתר של משרד החינוך.
בנפרד, OpenAI הודיעה כי השעתה אימון, הערכה והפעלה עם כלים חיצוניים של המודלים החזקים ביותר שלה, לאחר שסוכן מצא פרצה בהגבלות הגישה לאינטרנט בסביבת אימון וניצל אותה כדי לפנות לצ'אטבוט חיצוני.
סם אלטמן והנשיא טראמפ בבית הלבן
(Getty Images)
יש מי שרוצה להאט, ויש מי שדואג מהסינים
על הרקע הזה קרא דריו אמודיי, מנכ"ל אנת'רופיק, להאט את שיפור יכולות המודלים כדי שבדיקות הבטיחות והפיקוח יספיקו להדביק את הקצב. הוא הציע להציב בודקים עצמאיים בתוך החברות ולגבש כללים משותפים בענף ובין ממשלות. אמודיי הצביע במפורש על פרשת Hugging Face, והודה שגם באנת'רופיק אירעו מקרים דומים, אם כי "פחות חמורים".
גם מנכ"ל OpenAI סם אלטמן הביע תמיכה בהכנסת בודקים חיצוניים, וכעת ההחלטה לעצור את השקת GPT-6.1 Astra היא מבחן מעשי להתחייבות הזאת: החברה ויתרה על מועד השקה שתכננה, כשהממצאים לא סיפקו לה ביטחון שהמודל "יתנהג יפה" ולא יחרוג מהגבולות שהוקצה לו.
ביום ראשון בלילה נפגש אמודיי עם הנשיא טראמפ לארוחת ערב, בפגישתם האישית הראשונה. פרטי השיחה לא פורסמו אך היום (ג') צפוי אמודיי להשתתף גם בפגישה רחבה יותר עם טראמפ וראשי חברות טכנולוגיה, בהם נשיא OpenAI גרג ברוקמן, מנכ"ל מטא מארק צוקרברג ומנכ"ל אנבידיה ג'נסן הואנג.
לדברי טראמפ, הדיון יעסוק באיזון בין פיתוח הבינה המלאכותית לפיקוח עליה. הוא כבר הבהיר שהוא מתנגד להקפאת הפיתוח, מחשש שארצות הברית תפגר אחרי סין. מבחיתנו, כבר נמצא הפתרון: בנאומו באו"ם בשבוע שעבר הודיע כי במסמכי הממשל יחליף את המונח "בינה מלאכותית" ב"סופר אינטליגנציה". לדבריו, המילה "מלאכותית" גורמת לטכנולוגיה להישמע "מזויפת".
