מנכ"ל OpenAI סם אלטמן יוצא נגד הקולות שמזהירים מפני תרחישי אימה של אובדן שליטה על הבינה המלאכותית, וטוען כי העולם יצטרך להשלים עם העובדה שהטכנולוגיה תגרום גם לנזקים בדרך, אם הוא רוצה ליהנות מהיתרונות שלה.
"אנחנו מאמינים שהעולם צריך לקבל את העובדה שכמה דברים רעים יקרו, למען היתרונות של הטכנולוגיה הזאת וכדי שאנשים עצמם ימשיכו להחזיק בשליטה", אמר אלטמן בריאיון בלעדי ל-Decoded, הניוזלטר והפודקאסט הטכנולוגי של POLITICO, בהתייחסו לוויכוח סביב הסיכונים שמציבים מודלי ה-AI המתקדמים.
הדברים מגיעים דווקא בתקופה שבה הוויכוח סביב בטיחות הבינה המלאכותית הולך ומחריף, בעקבות שורה של תקריות חריגות שנחשפו בחודשים האחרונים, ובהן מתקפות סייבר, שימוש לרעה במודלים ומקרים שבהם סוכני AI אוטונומיים פעלו בדרכים שלא תוכננו מראש ואף חרגו מסביבות הבדיקה שבהן היו אמורים להישאר.
אלטמן לא טוען שצריך להתעלם מהסכנות. להפך: הוא אומר כי OpenAI עצמה תומכת כיום ברגולציה מחמירה יותר מבעבר, בין היתר בעקבות אירועי סייבר משמעותיים ובעיות שהתגלו בהתנהגות האוטונומית של מודלים. אלא שלדבריו, יש הבדל בין ניסיון לצמצם סיכונים לבין עצירת הפיתוח עד שניתן יהיה להבטיח שהטכנולוגיה לא תגרום לשום נזק.
לטענתו, דרישה שלא להתקדם עד שניתן יהיה למנוע כל מתקפת סייבר, הונאה או שימוש לרעה היא "עסקה בלתי מתקבלת על הדעת". אלטמן סבור כי בסופו של דבר בני אדם יעשו באמצעות כלי AI הרבה יותר טוב מרע, ולכן יש לאפשר לטכנולוגיה להתפתח לצד הגנות ממוקדות בתחומים שבהם הסיכון גבוה במיוחד.
מסכים להאט, אבל לא לתת את השליטה לחברה אחת
באופן מעניין, לפחות בנקודה אחת אלטמן דווקא מתקרב לעמדה של המתחרה הגדולה של OpenAI, אנת'רופיק. הוא הביע תמיכה בהאטת קצב הפיתוח של מודלי הבינה המלאכותית המתקדמים ביותר, עמדה שבה מחזיק גם מנכ"ל אנת'רופיק דריו אמודיי.
אלא שכאן פחות או יותר מסתיימת ההסכמה ביניהם. אלטמן מתנגד לרעיון שלפיו מספר מצומצם של חברות, או אפילו מעבדת AI אחת, יקבלו שליטה כמעט בלעדית על המודלים החזקים ביותר בשם הבטיחות. לדבריו, מדובר ב"פשרה בלתי מתקבלת על הדעת".
מנכ"ל אנת'רופיק, דאריו אמודיי, לצד הנשיא טראמפ בפגישה בבית הלבן
(רויטרס)
לדבריו, קיים "פער גדול" בין OpenAI לבין אנת'רופיק בכל הנוגע לאופן שבו יש להסדיר את התחום. בעוד אנת'רופיק מזוהה בשנים האחרונות עם תמיכה ברגולציה מחמירה יחסית על מודלים מתקדמים, אלטמן מעדיף רגולציה ממוקדת: כללים נוקשים סביב יכולות מסוכנות, תשתיות קריטיות ותחומים שבהם קיים סיכון ברור, אך חופש פעולה רחב יותר בשאר השוק.
מאחורי המחלוקת מסתתר גם מאבק עסקי. אלטמן הזהיר מפני "השתלטות רגולטורית" (Regulatory Capture), מצב שבו החברות הגדולות שכבר נמצאות בעמדת כוח תומכות ברגולציה שאותה הן מסוגלות לממן ולעמוד בה, בעוד שחברות קטנות ומתחרות חדשות מתקשות לעשות זאת. אנת'רופיק טוענת לעומת זאת שההצעות שלה מיועדות רק למודלים המתקדמים והחזקים ביותר, ולכן דווקא חברות צעירות לא יידרשו להתמודד מיד עם אותו נטל רגולטורי.
כך או כך, הוויכוח בין אלטמן לאמודיי משקף מחלוקת רחבה הרבה יותר שמעסיקה כיום את תעשיית הבינה המלאכותית, והיא כמה סיכון העולם מוכן לקבל בתמורה להתקדמות הטכנולוגית. אמודיי הזהיר בעבר כי התעשייה המעיטה במשך זמן רב מדי בסכנות של המערכות שהיא מפתחת, ואף העלה אפשרות שהסיכון הנשקף מבינה מלאכותית מתקדמת יהיה קיומי.
גם חוקרים מתוך התעשייה השמיעו בחודשים האחרונים אזהרות חריפות. ג'ייקוב קוקסון, חוקר שעזב את אנת'רופיק, סיפר כי אחת הסיבות לעזיבתו הייתה העובדה שמפתחים בתחום מאמינים שקיימת אפשרות שבינה מלאכותית תביא למות האנושות כבר עד סוף העשור.
אלטמן דוחה את התחזיות הקיצוניות האלה. מבחינתו, הדרך להבין כיצד מערכות AI מתנהגות היא לאפשר שימוש אמיתי בהן, ללמוד מהכשלים ולבנות בהדרגה מנגנוני הגנה טובים יותר. כלומר, לקבל מידה מסוימת של סיכון, אבל לא מצב שבו בני האדם מאבדים את השליטה.
פגישת טראמפ ובכירי עמק הסיליקון בנושא אמנת הבינה המלאכותית
(רויטרס)
דבריו של אלטמן מגיעים לאחר שורה של תקריות בטיחות חריגות ב-OpenAI עצמה, כאשר חלק מסוכני ה-AI שלה פעלו בדרכים שלא תוכננו מראש ואף חרגו מהמגבלות שהוגדרו להם. במקביל, חוקרי בטיחות ואבטחה מותחים ביקורת על הקצב שבו OpenAI והתעשייה כולה משחררות מערכות אוטונומיות וחזקות יותר.
ובינתיים בבית הלבן: "צאר AI" חדש
הוויכוח בין אלטמן לאמודיי מגיע בשעה שגם הממשל האמריקני מנסה לגבש את המדיניות שלו כלפי הסיכונים שמציבה הבינה המלאכותית,זאת כאשר טראמפ הודיע בסוף השבוע על מינויו של ג'יי קלייטון, ראש המודיעין הלאומי של ארה"ב, לתפקיד חדש כ"צאר ה-AI" של הבית הלבן.
קלייטון יעמוד בראש גוף חדש בשם "היחידה לבינה על-אנושית" (Super Intelligence Force), שאמור לרכז את פעילות הממשל מול חברות ה-AI, ספקיות תשתיות קריטיות, ארגונים ציבוריים וגורמים נוספים.
המינוי מגיע לאחר שטראמפ דחה לאורך החודשים האחרונים קריאות לרגולציה מחמירה על התעשייה, בטענה שהגבלות כאלה עלולות לפגוע בארה"ב במרוץ מול סין. עם זאת, גם בממשל מכירים כעת בצורך להתמודד עם הסיכונים - קלייטון עצמו טען כי "כשמשהו הוא גם הזדמנות וגם איום, כדאי מאוד להבין איך להתמודד איתו", אמר.
המהלך מגיע ימים ספורים לאחר שטראמפ וראשי כמה מחברות הטכנולוגיה הגדולות, בהן OpenAI ואנת'רופיק, חתמו על הסכם וולונטרי לבטיחות בפיתוח מערכות AI מתקדמות. ההסכם מבוסס בעיקר על פיקוח עצמי של החברות, ביקורות חיצוניות ובקרות פנימיות, ואינו כולל בשלב זה מנגנוני אכיפה ממשלתיים.
