הפאניקה מהשתלטות המכונות על העולם הגיעה במהלך החג לרמה חסרת תקדים. עד כדי כך שארבעת האחראים על חברות הבינה המלאכותית המובילות, קראו להאטת קצב פיתוח המודלים המתקדמים בשל סיכונים גוברים לאובדן שליטה אנושית.
כדור השלג החל להתגלגל בשבוע שעבר כאשר חוקר ראשי בחברת אנתרופיק, ג'ייקוב קוקסון, התפטר ופירסם שרשור בטוויטר בו כתב כי החברות הגדולות אינן פועלות באחריות, וכי "האנשים שמפתחים את הטכנולוגיה מאמינים בכנות שהיא עלולה להרוג את כולנו עד סוף העשור". לזעזוע מהדברים התווספה העובדה שקוקסון התפטר ממי שנחשבת דווקא לחברה האחראית ביותר בצמרת הבינה המלאכותית, ואם שם הדברים הם במצב כל כך מפחיד, מי יודע מה קורה בחברות אחרות.
בשבת פירסם מנכ"ל אנתרופיק, דריו אמודיי, פוסט באורך 3,800 מילה בו כתב כי החברה תיישם צעדי בטיחות חדשים, כגון גורמי הערכה חיצוניים, וקרא לענף כולו לתמוך בהאטה של הקצב. הקריאה לעצירת הפיתוח ברחבי התעשייה מגיעה על רקע חודשים של חששות גוברים בענף הטכנולוגיה, בעוד פיתוח מודלי הבינה המלאכותית רושם התקדמות משמעותית באנתרופיק, היוצרת של Claude, ב-OpenAI, המפתחת של ChatGPT, ו-DeepMind של גוגל.
להשתלט על האינטרנט
אמודיי, שבחודש שעבר אמר כי החששות מפני AI "אינם רק בעיית יחסי ציבור ויש להם בסיס", כתב בפוסט כי בני אדם עלולים לאבד שליטה והטכנולוגיה עשויה לשמש למתקפות סייבר, טרור ביולוגי ולשיבושים כלכליים חמורים. "עלינו להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית", כתב, "ההתקדמות עדיין תיראה מהירה, ועלינו לנצל בתבונה את הזמן שנרוויח מכך".
אמודיי הזהיר מפני תרחישים חמורים מאוד. לדבריו, קבוצה גדולה של סוכני AI מתקדמים עלולה בתוך חצי שנה עד שנה להיות מסוגלת להשתלט על חלקים נרחבים מהאינטרנט. זאת בעקבות האצה של "שיפור עצמי רקורסיבי“ - מצב שבו מערכות AI מסייעות לבנות ולשפר את הדור הבא שלהן, וכך מאיצות בעצמן את קצב ההתקדמות. לפי אמודיי, התהליך הזה כבר החל.
בכירים בחברות בינה מלאכותית מובילות אחרות הצטרפו במהירות ליוזמה, לפחות באופן פומבי. סם אלטמן, מנכ"ל OpenAI, כתב כי "זהו נושא מרכזי בדיונים שקיימנו ב-OpenAI בשבועות האחרונים. שילוב מעריכים עצמאיים, שיזכו לגישה הדומה לזו של עובדים מן המניין, הוא רעיון מצוין וגם אנחנו נפעל בדרך זו". אילון מאסק, שחברת SpaceX שלו מגבירה את ההשקעות בתחום הבינה המלאכותית, כתב בטוויטר: "דריו צודק", למרות שלא ברור מה זה באמת אומר מעשית מבחינת מאסק; דמיס הסאביס, ראש Google DeepMind, כתב כי "המאמר של אמודיי הוא כיוון נכון להתמודדות עם רגע מכריע זה".
מימין לשמאל: סאם אלטמן, דריו אמודיי ואילון מאסק
(FABRICE COFFRINI, AFP)
כמו סרט מדע בדיוני
המתח בנושא גבר עוד יותר בחודשים האחרונים לאחר שמעבדות בינה מלאכותית מובילות גילו פרצות אבטחה שבוצעו על ידי התוכנות שלהן עצמן, מבלי שידעו על כך. מוקדם יותר השנה חדרו מערכות של OpenAI למערכות של חברת סטארט-אפ בתחום הבינה המלאכותית בשם HuggingFace; החדירה לא התגלתה עד ש-HuggingFace עידכנה את OpenAI על כך, שבועות לאחר שהאירוע התרחש.
דוח החקירה של התקרית הזו נשמע כמו סרט מדע בדיוני דיסטופי במיוחד: אף אדם לא הורה לסוכני הבינה המלאכותית הסוררים לפרוץ למערכות של חברה אחרת. הפריצה הייתה מכוונת, מתמשכת ומתואמת. היא ארכה מספר ימים והסתיימה בהפגזה מסיבית של מערכות חברת HuggingFace, כאשר 700 סוכנים היו מעורבים ישירות במתקפה. סוכני הבינה רימו כמעט כעניין של מדיניות, ונמנעו מלהתריע בפני בני אדם על מעשיהם. בשלב מסוים, הנחיל אף חקר דרכים לטשטוש עקבותיו. אמודיי כתב במאמר שלו כי בתקרית הזו קבוצת הסוכנים פעלה כ"קולקטיב קנאי", ביצעה מתקפות סייבר נגד מטרות שלא התבקשה לתקוף וניסתה לפגוע במנגנונים שנועדו להעריך את ביצועיה.
לא צריך דמיון מפותח מאוד כדי להבין לאן זה יכול ללכת מכאן. תרחיש לא היפותטי בכלל הוא שבזמן מתיחות צבאית, הבינה תאותת במהירות של שניות על "איום מיידי" של פצצה גרעינית, מה שיותיר למנהיגים אנושיים דקות ספורות בלבד להחליט האם לשגר מתקפת מנע גרעינית. השתלטות כללית של המכונות על האינטרנט כבר נראית עכשיו כמו תרחיש מתון למדי.
בתוך כל הפאניקה המתגברת, מגיבה וושינגטון לא רק באדישות, היא בקושי מצליחה להסכים על השאלה אם בכלל יש סיבה לדאגה. ובלי התערבות רגולטורית קשה מאוד לסמוך על מיליארדרי ההייטק שאכן יעצרו באמת מיוזמתם. טראמפ, שאין לו בכלל מחשב, אפילו לא מוכן להיכנס לדיונים לגבי הסכנות של הבינה המלאכותית, וההתייחסות היחידה שלו חוזרת תמיד לאותו מקום: "אנחנו צריכים לנצח את סין בבינה המלאכותית, אי-אפשר לעצור את זה, צריך לנצח". באירוע גיוס כספים בסוף השבוע אמר הנשיא לשעבר, ברק אובמה, לראשי המפלגה הדמוקרטית, כי אם יחזרו להיות רוב בקונגרס אחרי הבחירות בנובמבר, צריכים הדמוקרטים להעניק "באופן מיידי עדיפות גבוהה לנושא ה-AI. זה הופך מסוכן".
