ענף הבינה המלאכותית חווה בימים האחרונים רעידות אדמה ניהוליות ומקצועיות מעבר למה שהכרנו עד כה, כאשר שורת התפתחויות דרמטיות בחברות הטכנולוגיה המובילות בתחום חושפת כיצד המאבק על העליונות בתחום הבינה היוצרת מתחיל להגיע לנקודת רתיחה.
גלריה
מימין: מנכ"ל OpenAI סם אלטמן, מנכ"ל אנת'רופיק דריו אמודיי, מנכ"ל מטא מארק צוקרברג
(Getty Images, AP, AFP)
גויס על ידי צוקרברג, ועזב שנה אחרי
חוקר הבינה המלאכותית אנדרו טולוק, שהפך לאחד השמות המדוברים בעמק הסיליקון לאחר שגויס למטא תחת מעטפת שכר חסרת תקדים של 1.5 מיליארד דולר, הודיע על עזיבת החברה. טולוק, שהגיע מ-Thinking Machines Lab ופעל במעבדת המחקר המרכזית לצד אלכסנדר וואנג, עיכב את פרישתו עד להשקת משפחת מודלי הקוד הפתוח החדשה של מטא והסייען Muse.
העזיבה מגיעה פחות משנה לאחר שטולוק גויס באופן אישי על ידי המנכ"ל מארק צוקרברג. לפי דיווחים עדכניים ישנם שני הסברים אפשריים לצעד של טולוק - הראשונה היא שהיעד החדש של החוקר המוערך הוא הקמת מיזם עצמאי משל עצמו, כפי שעשו לא מעט אנשי מפתח בתחום בשנתיים האחרונות (כמו למשל מירה מוראטי ואיליה סוצקובר שזנחו את OpenAI לטובת סטארטאפים משלהם).
ההסבר האפשרי השני הוא שטולוק קיבל הצעה להצטרף לאנת'רופיק, מהלך שמדגיש שוב את תופעת "הדלת המסתובבת" של מוחות העילית בין המעבדות הגדולות. לא מעט פרשנויות ברשת העלו את הסברה שאנת'רופיק אולי היכתה את ההצעה של צוקרברג, אבל מכיוון שאנת'רופיק רחוקה מלהחזיק הון כמו זה של מטא - ההשערה היא שאם טולוק אכן עזב לאנת'רופיק - הוא עשה זאת מתוך סלידה מהמעסיק שלו. משהו שכנראה גם 1.5 מיליארד דולר לא הצליחו למרק.
הלוחות הטקטוניים של ה-AI זזים
במקביל לעזיבתו של טולוק, דווקא בתוך אנת'רופיק עצמה נרשם זעזוע חריף מכיוון מנוגד לחלוטין. החוקר ג'ייקוב קוקסון, לשעבר איש OpenAI, הודיע על התפטרות מיידית תוך ויתור על האופציות והמניות שלו, חודשיים בלבד לפני מועד הבשלתן.
קוקסון הטיח ביקורת חריפה על התנהלות התעשייה ופרסם מניפסט שזכה לתפוצת ענק של עשרות מיליוני צפיות. לדבריו, מעבר המודלים לשלבי אוטונומיה מתקדמים נעשה תוך פשרות מכוונות בתהליכי הבקרה כדי לעמוד בקצב התחרות מול OpenAI ומול מרכזי הפיתוח בסין.
אפליקציות בינה מלאכותית
(Getty Images)
קוקסון הזהיר כי מודלים מהדור האחרון כבר מפגינים מודעות לכך שהם נתונים לבדיקה ומשנים את התנהגותם בהתאם, התפתחות המציבה סיכון ממשי לשליטה האנושית על המערכות עד סוף העשור.
התומכים שלו מציינים את העובדה שמועד העזיבה שלו הראה שהכסף לא היה מה שעניין אותו מלכתחילה, מה שמוסיף תוקף לטענותיו שבינתיים רבים קצת החלו לפקפק בהן או לפחות להציע שאולי עזב מסיבות אישיות ולא מתוך ניסיון להציל את האנושות.
במקביל, גם ב-OpenAI נרשמה תנודה משמעותית במבנה הפיקוח. פול קריסטיאנו, מחלוצי תחום בטיחות הבינה המלאכותית ואחד מאדריכלי שיטת הלמידה ממשוב אנושי, מונה לדירקטוריון עמותת OpenAI האחראית על תפעול החברה/עמותה ולחבר בוועדת הבטיחות והביטחון של החברה, לצד מעמד של משקיף בזרוע המסחרית שלה.
קריסטיאנו, ששימש בעבר ראש תחום בטיחות במכון התקנים האמריקאי ועומד בראש מכון ARC, הזהיר עם מינויו כי קיים סיכון ממשי לאובדן שליטה קטסטרופלי ובלתי הפיך במערכות מתקדמות בטווח הזמן הקרוב, וכי התעשייה כולה, כולל OpenAI עצמה, אינה נמצאת כיום במסלול המבטיח הפחתה מספקת של הסיכון.
העימות הנוכחי מחדד את ההבדלים המהותיים בין תפיסות המוצר השונות בשוק. מטא ממשיכה להוביל את תפיסת מודלי המשקל הפתוח, המאפשרת לארגונים ולחוקרים להוריד ולהריץ את המערכות באופן עצמאי, ללא שליטה מרכזית על שימושיהן.
הולכים ומתרבים הבכירים שמזהירים כי קיים סיכון ממשי לאובדן שליטה קטסטרופלי ובלתי הפיך במערכות מתקדמות בטווח הזמן הקרוב
מנגד, מוצרים כמו קלוד של אנת'רופיק ומשפחת מודלי GPT של OpenAI מפותחים כמודלים קנייניים סגורים, הנגישים אך ורק דרך ממשקי תוכנה מנוטרים במטרה לחסום תכנים פוגעניים ושימושי סייבר התקפיים. בעוד שגישת הקוד הפתוח מעניקה חופש פיתוח ומאיצה את המחקר העצמאי, הגישה הסגורה מתיימרת לשמור על מעטפת הגנה הרמטית יותר מפני תרחישי קיצון.
הצטברות האירועים האחרונים חושפת כי הדיון סביב עתיד הבינה המלאכותית כבר אינו נוגע אך ורק למדדי יעילות של מעבדים גרפיים או לעלות אימון המודלים, אלא ליכולת של התאגידים המובילים לאזן בין תגמולי עתק ויוקרה מסחרית לבין פיקוח הנדסי מחמיר שימנע אובדן שליטה טכנולוגי.
או במילים אחרות, תעשיית ה-AI מתבגרת לאיטה לתוך העולם האמיתי ובעיותיו וכעת היא צריכה להראות כיצד היא מספקת מענה לבעיות שלא נגרמות תמיד מבאגים בקוד או מביצועי שבבים - אלא מהחזון הטכנולוגי והמודל העסקי.
