קשה שלא לחוש באירוניה המרירה כשמביטים בבכירי עמק הסיליקון מזהירים מפני סוף העולם שהם עצמם עמלים לבנות. דריו אמודיי מאנת'רופיק, סם אלטמן מ-OpenAI ואילון מאסק מ-xAI חוזרים ומצהירים בחודשים האחרונים כי יש להאט את קצב הפיתוח של מודלי הענק, להציב גבולות ברורים ולהדק את הרגולציה כדי להציל את האנושות מתרחישי בלהות.
אולם בחינה מדוקדקת של התזמון, של המודל הכלכלי ושל שוק הטכנולוגיה העולמי מעלה סימני שאלה כבדים סביב הטוהר של אותן אזהרות. מתחת למעטה הפילנתרופי והדאגה לקיום האנושי, נחשפת אסטרטגיה עסקית מחושבת שנועדה להתמודד עם אתגרי צמיחה חסרי תקדים, לחץ גובר מצד שוק ההון ומאבק שליטה מול מודלי הקוד הפתוח.
גלריה
מימין מנכ"ל OpenAI סם אלטמן, מייסד ומנכ"ל אנת'רופיק דריו אמודיי מייסד ומנכ"ל SpaceX אילון מאסק
(צילומים: JULIEN DE ROSA/AFP, Anna Moneymaker/Getty, I-Hwa CHENG / AFP)
האיום קיים, אבל כדאי לזכור מי מדבר עליו
אין זה אומר שהסכנות הטכנולוגיות אינן קיימות. היכולת של מודלים מתקדמים לפעול עצמאית עם יכולת להפר את הוראות המפתחים ולהתחמק מפיקוח, לייצר דיסאינפורמציה המונית או להוות כלי פריצה במרחב הקיברנטי היא איום מוחשי שהודגם בחודשים האחרונים ושנחקר היטב במוסדות אקדמיים עוד לפני כן. הרעיון שצריך מסגרת פיקוח ורגולציה הן דרישות שקיימות כבר שנים רבות בלי שום קשר לחוקי הרובוטיקה של אסימוב.
החברות הללו נושאות באחריות אמיתית להבטיח שהמוצרים שהן משחררות לא ייצרו נזק בלתי הפיך, והמתח בין חדשנות מהירה לבין בדיקות בטיחות קפדניות הוא אתגר הנדסי ומוסרי ממשי. אלא שהניסיון להציג את הקריאה הנוכחית להאטה כצעד אלטרואיסטי בלבד מתעלם מהאינטרסים המסחריים שמניעים את המהלך.
הגורם המרכזי שדוחף את החברות להאט אינו בהכרח פחד מבינה מלאכותית שתפתח תודעה (והם הרי מצהירים השכם וערב שהמטרה היא בינה מלאכותית כללית - סוג של אדם מלאכותי עם יכולת פעולה עצמאית - רובוט) אלא התנגשות עם חוקי הכלכלה הבסיסיים.
עלויות האימון והתפעול של מודלי בינה מלאכותית הגיעו לממדים מפלצתיים. חוות השרתים דורשות הספקי חשמל בהיקפים של תחנות כוח שלמות, תשתיות השבבים יקרות להחריד, ושוק ההון מתחיל לדרוש תשואה ריאלית על מאות מיליארדי הדולרים שנשפכו לתחום.
החברות נמצאות על סף כניסה לשוק הציבורי, עם תוכניות הנפקה מתקדמות של אנת'רופיק ו-OpenAI. במסגרת זו, פתיחת הספרים לציבור המשקיעים מחייבת אותן להסביר מדוע שריפת המזומנים כה גבוהה והרווחיות עדיין מתעכבת.
מנכ"ל מטא, מארק צוקרברג
(Getty Images)
הקריאה לעצירה או להאטה מטעמי בטיחות מעניקה להן נרטיב נוח מול המשקיעים: העיכובים ביעדים והוצאות העתק מוצגים כעת כמשנה זהירות אחראי ולא כקשיי יישום טכנולוגיים או כחוסר יכולת לבנות מודל עסקי בר-קיימא.
במקביל, מפת התחרות השתנתה באופן דרמטי. בעוד שהחברות המובילות השקיעו הון עתק בפיתוח מודלים קנייניים סגורים, שוק המודלים הפתוחים צמצם את הפער במהירות מפתיעה. מודלים בעלי משקלים פתוחים מעניקים לחברות ולמפתחים חלופה זולה וגמישה, המאיימת ישירות על ההגמוניה של השחקניות הגדולות. וזה בדיוק הנשק של סין ושל מטא שבונות על כך שקוד פתוח ינצח את המלחמה הזו וייתן להן את הבכורה בתחום.
ומה לגבי הרגולציה?
כאן נכנסת הרגולציה לתמונה. דרישה להחמרת תקני הבטיחות, הטלת חובת רישוי ובדיקות מקיפות על כל מודל חדש יוצרות חסם כניסה רגולטורי אדיר. עבור חברות ענק עם גב פיננסי איתן וצבא של משפטנים, עמידה ברגולציה כבדה היא עלות נסבלת.
עבור סטארטאפים קטנים או קהילות קוד פתוח, מדובר במחסום בלתי עביר. דחיפת הרגולציה על ידי המובילות בשוק היא שיטה קלאסית לנעילת מעמדן ולבלימת התחרות מאחור. מצד שני, כל איסור גורף מעין זה יצור גם שוק שחור ואפור ללא פיקוח בו עשויים לפרוח מודלים לא מוגבלים שיכולים לעשות הרבה נזק בידיים זדוניות. אין ואקום בשום תחום בו יש דרישה למוצר או שירות - אם המשתמש לא ישיג את מבוקשו באופן חוקי - בסוף חלק ינסו למצוא את הפתרון בדרכים לא חוקיות.
השוואה לניתוחים כלכליים וטכנולוגיים בינלאומיים מעלה קווי דמיון לתעשיות מסורתיות. פרשנים בעיתונות הכלכלית העולמית מצביעים על כך שחברות הטכנולוגיה מנסות לאמץ את המודל של תעשיית התרופות, שבה רגולציה קפדנית מגנה על השחקנים הקיימים מפני מתחרים חדשים לאורך שנים.
פרשנים מצביעים על כך שחברות הטכנולוגיה מנסות לאמץ את המודל של תעשיית התרופות, שבה רגולציה קפדנית מגנה על השחקנים הקיימים מפני מתחרים חדשים
מנגד, חוקרי אקדמיה ותומכי קוד פתוח טוענים שהאיום האמיתי טמון בריכוזיות הכוח בידי קומץ תאגידים, ולאו דווקא בטכנולוגיה עצמה. מנקודת מבט זו, הניסיון להכתיב מדיניות פיתוח גלובלית תחת אצטלה של הגנה על הציבור הוא למעשה ניסיון להבטיח שליטה במוקדי הכוח של העשורים הבאים.
בסופו של דבר, התמונה אינה חד-ממדית. ראשי חברות ה-AI מתמרנים בין מחויבות כנה לבטיחות המוצר לבין הצרכים הבוערים של הישרדות עסקית, סיפוק תיאבון המשקיעים ושימור היתרון התחרותי. הקריאה שלהם להאטה אינה מנותקת מהמציאות, אך היא רחוקה מלהיות תמימה.
כאשר מנפיקים אזהרות על גורל המין האנושי באותה נשימה שבה מתכננים הנפקות ענק ודורשים חסמי שוק, קשה להשתחרר מהתחושה שהאחריות הציבורית הפכה לכלי נוסף בארגז הכלים התאגידי.
