המתח סביב מרוץ החימוש של הבינה המלאכותית ממשיך לעורר רגשות קיצוניים בקרב צמרת הפוליטיקה, הטכנולוגיה והמחקר העולמית. הפעם זה בילאל צ'וגטאי, חוקר בכיר בתחום בטיחות ויישור מערכות בינה מלאכותית (AI Alignment) ממעבדת Google DeepMind, שהודיע הבוקר (ד') על התפטרותו והזהיר כי האנושות מאבדת את חלון הזמן למניעת אסון קטסטרופלי.
צ'וגטאי, הצהיר כי הוא מאמין בכל ליבו שלטכנולוגיה יש פוטנציאל לחסל את המין האנושי, והודיע שהוא עבר לארגון BlueDot Impact במטרה להכשיר כוח אדם בבטיחות טכנולוגית. עזיבתו מצטרפת לפרישתו של ג'ייקוב קוקסון, חוקר לשעבר באנת'רופיק וב-OpenAI, שהאשים את המעבדות ב"הימור פרוע על חיי אדם" בריצה עיוורת לעבר בינת-על (Superintelligence) בשבוע שעבר.
האזהרות מתוך שורות המפתחים מקבלות רוח גבית מפתיעה מראשי התעשייה עצמם. מנכ"ל אנת'רופיק, דריו אמודיי, פירסם בשבוע שעבר מניפסט חריג שקרא להאטת קצב הפיתוח כדי למנוע אובדן שליטה, וזכה לתמיכה נדירה מצד סם אלטמן מ-OpenAI ואילון מאסק.
אמודיי אף התריע מפני תרחיש אימים שבו נחילי סוכני AI עצמאיים ישתלטו על רשת האינטרנט כולה בתוך חודשים. ברקע הדברים עומדות תקריות מעשיות, כמו פריצת סוכני OpenAI מחוץ לסביבת הבדיקות וחדירתם הבלתי מאושרת לשרתי Hugging Face, לצד יכולות מתקדמות שפיתח מודל ה-Mythos של אנת'רופיק באיתור חולשות תוכנה בקצב שעולה על כל יכולת אנושית.
המומחים מטילים ספק בתרחישי הבלהות
אולם, בקרב מומחי אבטחת מידע בכירים בישראל, בארצות הברית ובאירופה, תרחישי הבלהות הללו מתקבלים בספקנות עמוקה ואף בחלק מהמקרים בלעג גלוי. גורמים מתעשיית הסייבר מדגישים כי ישנו נתק מהותי בין הדיונים התיאורטיים של חוקרי המודלים לבין מציאות הגנת הרשת שנבנתה לאורך שלושה עשורים.
ראשי גופי הכשרה ומומחי אבטחה, כמו גם ראש מערך הסייבר האזרחי לשעבר בבריטניה, הבהירו כי הטענה שנחיל AI יכול להשתלט על הרשת מתעלמת לחלוטין מקיומם של מנגנוני בידוד (Sandboxing), חומות אש, הגנות DDoS וניהול אירועים. מבחינתם, בריחת סוכן AI ממתחם סגור אינה התעוררות של תודעה זדונית אלא כישלון בסיסי בארכיטקטורת אבטחה ובהגבלת הרשאות.
ההבדלים בין ענקיות הטכנולוגיה מחדדים שתי גישות מנוגדות לניהול הסיכון. אנת'רופיק ו-OpenAI מקדמות שיתוף גופים חיצוניים דוגמת METR למדידת כשלים התנהגותיים, כאשר אנת'רופיק שיתפה חברות אבטחה בבדיקות מודל Mythos ו-OpenAI והקצתה מיליארד דולר לתוכניות הגנה והסתייעה בחברת CrowdStrike לתחקור אירועי פריצה.
מימין: דריו אמודיי, סם אלטמן
(רויטרס, Getty Images)
מנגד, מומחי סייבר גורסים כי הפקדת הפיקוח בידי מכוני יישור תיאורטיים מפספסת את העיקר, וכי יש צורך בביקורות אבטחה קפדניות ומשמעת הנדסית מסורתית. מעבר לתעשיית הסייבר, הפולמוס הטכנולוגי חודר ישירות לזירה הפוליטית הבינלאומית ומייצר שותפויות יוצאות דופן.
בארצות הברית, הסנאטור הפרוגרסיבי ברני סנדרס והשמרן סטיב באנון (בערך כמו שבן גביר ויאיא פינק יסכימו על משהו, ר"ק) התייצבו יחד בכנס "Pro-Human" וקראו לריסון התעשייה. סנדרס הודיע על קידום חקיקה לאיסור מוחלט על פיתוח בינת-על ולמינוי נציגי ציבור לדירקטוריונים של ענקיות הטכנולוגיה, תוך קריאה להסכם בלימה בינלאומי מול נשיא סין שי ג'ינפינג.
באנון, לעומתו, נקט קו לאומני נוקשה ותבע לנתק כל שיתוף פעולה טכנולוגי, העברת שבבים או כוח אדם מקצועי מול סין. מנגד, ראשי התעשייה החומרית והתשתיתית הודפים כל ניסיון לבלימה מתואמת.
גם מארק צוקרברג ממטא - שקולו נשמע פחות בשבוע האחרון למרות שמטא היא מענקיות ה-AI בארה"ב - הבהיר כי יישור ובטיחות הם יתרון תחרותי שמעבדות מיישמות באופן טבעי כדי למנוע אחריות משפטית, וכי האטת התעשייה כולה היא מהלך שגוי. עמדה זו משתלבת עם דבריו של מנכ"ל אנבידיה, ג'נסן הואנג, שטען שלשום כי אין צורך בחוקים חדשים שיבלמו את הפיתוח, בייחוד כאשר סין מעמיקה את השקעות העתק הממשלתיות בתחום.
