דווקא בזמן שסוכני בינה מלאכותית מתחילים להפגין התנהגות בלתי צפויה, לעקוף מנגנוני הגנה ואפילו לצאת מסביבות הבדיקה שבהן הם אמורים לפעול, ממשל טראמפ בוחר בגישה אחרת להתמודדות עם הסיכונים: לתת לענקיות הטכנולוגיה לפקח במידה רבה על עצמן.
נשיא ארצות הברית דונלד טראמפ חתם אמש (ג') עם בכירי מטא, אנבידיה, גוגל, OpenAI ואנת'רופיק על אמנה חדשה לפיתוח אחראי של מערכות בינה מלאכותית מתקדמות. אלא שבניגוד לרגולציה ממשלתית, ההסכם אינו מחייב מבחינה משפטית.
טראמפ עצמו הגדיר אותו כ"מחייב מוסרית" וכ"סוג של הגנה", והבהיר כי בשלב הזה אין בכוונת הממשל להטיל מגבלות פדרליות חדשות על פיתוח AI. במקום זאת, האחריות לבדיקת המערכות, איתור הסיכונים והטיפול בהם תישאר בעיקר בידי החברות שמפתחות אותן.
המסמך, שנחשף במהלך אירוע בבית הלבן שכונה "ארוחת הצהריים של בינת-העל" (Super Intelligence Luncheon), קיבל את השם "אמנת הבית הלבן בנושא בינת-על" (White House Accord on Superintelligence). אורכו עמוד אחד בלבד, והוא קובע שורה של התחייבויות הנוגעות לבטיחות, ביקורות חיצוניות ופיקוח פנימי.
לפי ההסכם, החברות יידרשו להקים מנגנוני בקרה שיבחנו באופן שוטף את היכולות של המודלים שלהן ואת התנהגותם, בדגש על סיכונים בתחומי הסייבר, הביולוגיה והכימיה. בין היתר, המנגנונים אמורים לזהות מצבים שבהם מודל מנסה לחדור למערכת מחשוב, לעקוף הגנות או להשיג גישה שלא ניתנה לו.
בחדר עצמו ישבו כמה מהאנשים החזקים ביותר בתעשיית הטכנולוגיה, בהם מארק צוקרברג, אילון מאסק, ג'נסן הואנג, סונדר פיצ'אי, סאטיה נאדלה, ג'ף בזוס, דריו אמודיי וגרג ברוקמן.
מנכ"ל גוגל סונדאר פיצ'אי לצד הנשיא טראמפ
(רויטרס)
החברות יבדקו גם זו את זו
הפיקוח אמור להתבצע בארבע שכבות. בשלב הראשון כל חברה תפעיל מנגנוני בקרה פנימיים; בשלב השני צוות פנימי נוסף יוודא שהמערכות הללו אכן עובדות ושהליקויים שהתגלו תוקנו.
לאחר מכן ייכנס לתמונה גורם חיצוני ועצמאי שיבחן את מנגנוני ההגנה, ובשכבה האחרונה תוקם ועדה עצמאית מטעם דירקטוריון החברה, שתקבל את ממצאי הבדיקות ותפקח על הטיפול בבעיות שהתגלו.
בנוסף, החברות החתומות אמורות להיפגש באופן קבוע כדי לקבוע סטנדרטים ושיטות עבודה משותפות. אחד הרעיונות המעניינים יותר בהסכם הוא שהחברות לא יסתפקו ב"לבדוק את עצמן", אלא יפתחו מנגנונים שיאפשרו להן לבחון ולדרג זו את זו.
במילים אחרות, במקום רגולטור ממשלתי חדש עם שיניים, הבית הלבן מהמר לפחות בשלב הזה על שילוב של ביקורת עצמית, ביקורת חיצונית ולחץ מצד המתחרות בתעשייה.
עם זאת, הממשל משאיר לעצמו דלת פתוחה. במסמך נכתב כי בעתיד ייתכן שיהיה נכון לעגן חלק מההתחייבויות בחוק או בתקנות. במקרה של הפרות, הממשלה תוכל בינתיים להשתמש בכלי האכיפה שכבר עומדים לרשותה.
אילון מאסק הולך מאחורי ג'נסן הואנג בפגישה עם הנשיא טראמפ בבית הלבן
(רויטרס)
מארק צוקרברג והנשיא טראמפ בבית הלבן
(רויטרס)
לא בינה מלאכותית, אלא "בינת-על"
לצד ההסכם, טראמפ חזר פעם נוספת על שינוי המונח של בינה מלאכותית שעליו הוא מתעקש - לדבריו, הוא מעוניין שמסמכים ממשלתיים יעשו מעתה שימוש במונח "בינת-על" (Super Intelligence או SI), במקום "בינה מלאכותית".
ההסבר שלו פשוט למדי: מבחינתו, אין שום דבר "מלאכותי" בטכנולוגיה הזו. "מי שינצח ב-SI, ינצח", אמר טראמפ, וטען כי השפעת הטכנולוגיה עשויה בסופו של דבר להיות גדולה אפילו מזו של המהפכה התעשייתית.
הנשיא גם חזר על הקו שמלווה את מדיניות ה-AI שלו: כמה שפחות רגולציה שעלולה להאט את החברות האמריקניות, וכמה שיותר פיתוח במטרה לשמור על היתרון מול סין. לדבריו, הטלת מגבלות מחייבות על החברות עלולה לפגוע בעוצמה הטכנולוגית של ארצות הברית דווקא בשלב שבו התחרות בין שתי המעצמות הולכת ומחריפה.
טראמפ אף עודד את חברות הטכנולוגיה להאיץ את בנייתם של מרכזי נתונים חדשים ברחבי המדינה, למרות התנגדות גוברת בחלק מהקהילות המקומיות בשל צריכת החשמל והמים העצומה שלהם והעומס שהם מטילים על התשתיות.
במקביל, הוא אמר כי הוא שוקל להקים ועדה פדרלית קטנה שתפקח על התעשייה, שבראשה עשוי לעמוד שליח מיוחד או מעין "צאר AI". עם זאת, נכון לעכשיו לא מדובר בגוף רגולטורי חדש או בתוכנית מגובשת.
מנכ"ל ברודקום הוק טאן, מנכ"ל אנת'רופיק דריו אמודיי.
(רויטרס)
ברקע: נורות האזהרה כבר מהבהבות
העיתוי של ההסכם מעניין במיוחד, כאשר בשבועות האחרונים הצטברו שורה של דיווחים על מקרים שבהם מערכות AI מתקדמות פעלו באופן שהמפתחים שלהן לא צפו או לא התכוונו אליו.
OpenAI, למשל, חוקרת שורה של תקריות שבהן סוכנים שלה חרגו מהפעולות שהתבקשו לבצע. במקרה אחד, סוכן שפעל בתוך סביבת בדיקה שאמורה הייתה להיות מבודדת מהאינטרנט הצליח למצוא דרך החוצה ולהתחבר לרשת. מערכת הניטור זיהתה את האירוע בתוך דקות, אך מנגנון העצירה נכשל והסוכן המשיך לפעול במשך יותר משעתיים.
במקביל, OpenAI אף ביטלה את ההשקה המתוכננת של המודל Astra 6.1, זאת לאחר שבבדיקות פנימיות התברר כי הוא נוטה להטעות משתמשים בנוגע לפעולות שביצע ולעיתים ממשיך לפעול מעבר לגבולות המשימה וההרשאות שניתנו לו.
כל אלה הופכים את השאלה מי בדיוק אמור לפקח על החברות לחשובה הרבה יותר. בעוד שחלק מבכירי התעשייה, ובהם מנכ"ל אנת'רופיק דריו אמודיי, מזהירים כבר תקופה ארוכה מפני הסיכונים של מערכות מתקדמות ודוחפים לפיקוח הדוק יותר, ממשל טראמפ מעדיף בשלב הזה להשאיר את מרבית האחריות בתוך התעשייה.
הגישה הזו מעוררת ביקורת גם בוושינגטון. מנהיג הדמוקרטים בסנאט, צ'אק שומר, טען כי המפגש בבית הלבן יהיה כישלון אם לא יוביל לפחות לדיון במגבלות ממשיות על התעשייה. מנגד, יו"ר בית הנבחרים הרפובליקני מייק ג'ונסון אמר כי הקונגרס ימשיך לפקח על התחום, אך הזהיר מפני רגולציית יתר שעלולה לגרום לארצות הברית לאבד יתרון מול סין. מבחינת טראמפ, לפחות, הכיוון ברור: לא להאט את המרוץ, אלא לנסות להציב לו מעקות בטיחות מבלי ללחוץ על הבלמים.
