מה יקרה כשבינה מלאכותית תהיה טובה מספיק כדי לפתח את הדור הבא של עצמה, וזה בתורו יפתח דור מתקדם עוד יותר? התרחיש הזה, שעד לא מזמן נשמע כמו מדע בדיוני, עומד במרכז אזהרה חריגה של אנת'רופיק, אחת השחקניות המרכזיות במרוץ הבינה המלאכותית.
במסמך שהגישה אתמול (ב') לרשות ניירות הערך האמריקנית (SEC) לקראת הנפקתה המתוכננת, חושפת החברה כי בעבר היא התקשתה לזהות בזמן אמת האצה משמעותית בקצב הפיתוח שלה. כעת היא מזהירה שהשימוש הגובר ב-AI לצורכי מחקר ופיתוח עלול להביא אותה בקרוב לנקודה שבה המודלים מתקדמים מהר יותר מהיכולת לפתח עבורם מנגנוני בטיחות מתאימים.
לפי ההערכות הפנימיות של אנת'רופיק, מודלים עתידיים שלה עשויים לעמוד ממש בקרוב ברף שהגדירה החברה ל"התקדמות מואצת באופן דרמטי המיוחסת לבינה מלאכותית". במילים אחרות, ה-AI לא רק הופך לחכם יותר, אלא גם מתחיל למלא תפקיד משמעותי יותר בפיתוח הדורות הבאים של עצמו.
כשה-AI עוזר לפתח את הדור הבא של עצמו
מאחורי האזהרה עומד מושג בשם "שיפור עצמי רקורסיבי" (Recursive Self-Improvement, או RSI), אחד הרעיונות המסקרנים והשנויים במחלוקת בעולם הבינה המלאכותית שמשמעותו היא שמערכות AI יוכלו להשתתף בתהליך הפיתוח של עצמן, כך שכל דור חדש יסייע ליצור דור מתקדם עוד יותר.
כך, ככל שהמודלים יהפכו לחכמים וליעילים יותר, כך הם יוכלו להאיץ את המחקר ואת תהליכי האימון של המודלים שיבואו אחריהם. בתרחיש הקיצוני, התהליך הזה עשוי להוביל לזינוק מהיר ובלתי צפוי ביכולות הבינה המלאכותית.
עבור מי שמאמינים בפוטנציאל של הטכנולוגיה, מדובר בהבטחה עצומה. מערכות שמסוגלות לשפר את עצמן עשויות להאיץ פיתוח תרופות, לקדם מחקר מדעי ולסייע בפתרון בעיות שבני אדם מתקשים להתמודד איתן כיום.
אבל עבור מי שחוששים מהשלכות הבינה המלאכותית, זהו גם אחד התרחישים המסוכנים ביותר: מערכת שמשתפרת במהירות כה גדולה, עד שבני האדם מתקשים להבין כיצד היא פועלת, לחזות את יכולותיה או להבטיח שתמשיך לפעול בהתאם למטרות שהוגדרו לה.
קלוד של אנת'רופיק
(אנת'רופיק)
חשוב להדגיש שאין כיום הגדרה אחת מוסכמת ל-RSI, וגם אין הסכמה כיצד ניתן לקבוע שמערכת אכן הגיעה לשלב הזה. קיים הבדל משמעותי בין מודל שמסייע לחוקרים לכתוב קוד ולתכנן ניסויים, לבין מערכת שמסוגלת לפתח באופן עצמאי לחלוטין מודלים חדשים ללא התערבות אנושית.
אנת'רופיק אינה טוענת שהגיעה לשלב השני, אבל היא בהחלט מאותתת שהשלב הראשון כבר הפך לחלק מרכזי מתהליך הפיתוח שלה. למעשה, במסמך החברה מתארת כיצד קלוד כבר משתתף בניסויים, ביצירה ובעיבוד של נתוני אימון, בבדיקות בטיחות ובכתיבה ובסקירה של קוד. כל דור חדש של קלוד, לדבריה, מסייע להאיץ את פיתוח הדור הבא.
"לא הצלחנו בעבר לזהות את ההאצה בזמן"
האזהרה מופיעה בעדכון למסמך S-1/A, שהגישה אנת'רופיק כחלק מההכנות להנפקה שלה בבורסה. בעוד שעיקר תשומת הלב הופנתה לנתונים הפיננסיים, שמציגים צמיחה בהכנסות לצד הוצאות עתק, דווקא בפרק גורמי הסיכון מסתתרת אחת ההצהרות המעניינות ביותר במסמך.
"השימוש ההולך וגובר שלנו במערכות בינה מלאכותית כדי להאיץ את המחקר והפיתוח שלנו עלול לגרום לכך שיכולות המודלים שלנו יתקדמו מהר יותר מהיכולת שלנו לפתח, לאמת וליישם אמצעי בטיחות, התאמה ואבטחה", מזהירה החברה.
בהמשך מופיעה הודאה חריגה עוד יותר: "לא הצלחנו בעבר לזהות האצה משמעותית בקצב הפיתוח שלנו בזמן התרחשותה, וייתכן שגם בעתיד לא נזהה האצה כזו אלא רק לאחר שכבר התרחשה". במילים פשוטות, אנת'רופיק מודה שהיא לא תמיד הצליחה להעריך בזמן אמת את קצב ההתקדמות שלה עצמה.
החברה אינה מפרטת באילו מקרים הדבר התרחש, וגם אינה קובעת שכל האצה כזו נגרמה בהכרח על ידי AI. עם זאת, היא מזהירה שככל שהמודלים יהיו מעורבים יותר במחקר ובפיתוח, כך יהיה קשה יותר לצפות מראש את קצב השיפור ביכולותיהם.
מנכ"ל אנת'רופיק, דאריו אמודיי, לצד הנשיא טראמפ בפגישה בבית הלבן
(רויטרס)
לפי אנת'רופיק, ההערכות הפנימיות שלה לגבי מודלים עתידיים מצביעות על כך שהיא עשויה לעמוד בקרוב מאוד ברף שקבעה במדיניות הפיתוח האחראי שלה (Responsible Scaling Policy) להתקדמות מואצת באופן דרמטי בזכות AI.
החברה מדגישה שאף אחד מהמודלים הנוכחיים שלה עדיין לא הוגדר כמי שחצה את הרף הזה, וכי היא ממשיכה לבחון את הנתונים. אולם עצם האפשרות שהדבר יתרחש בקרוב מעלה שאלה לא פשוטה: האם חברות ה-AI מסוגלות להבטיח שמנגנוני הבטיחות שלהן יתפתחו באותו קצב כמו המודלים שהן בונות?
ומה יקרה אם בני האדם לא יעמדו בקצב?
הבעיה אינה מסתכמת בכך שהמודלים יהפכו לחכמים יותר. ככל שהבינה המלאכותית משתתפת יותר בפיתוח של עצמה, כך עלול להצטמצם הזמן שנותר לחוקרים לבחון יכולות חדשות, לאתר כשלים ולפתח מנגנונים שימנעו התנהגות בלתי צפויה או שימוש מסוכן בטכנולוגיה.
החשש הזה רלוונטי במיוחד בתחומים כמו תכנות ואבטחת סייבר, שבהם מודלי AI כבר מסוגלים לבצע משימות מורכבות. אותן יכולות שמאפשרות להם לסייע למתכנתים ולחוקרי אבטחה עשויות לשמש גם לפיתוח כלים ומערכות AI מתקדמים יותר.
במסמך מזהירה אנת'רופיק כי אם יכולות המודלים יתקדמו מהר יותר מאמצעי הבטיחות, היא עלולה להתקשות להעריך את הסיכונים ולצמצם אותם. בין ההשלכות האפשריות שהיא מציינת נמצאים אירועי בטיחות, התערבות רגולטורית ופגיעה במוניטין החברה.
ובכל זאת, בחברה מבהירים שאין בכוונתם למסור את כל תהליך הפיתוח לידי המכונות. "איננו צופים שנוכל להשתמש בקלוד באופן בטוח כדי לתכנן ולבנות באופן אוטונומי לחלוטין דורות עוקבים של מודלים מתקדמים, ללא פיקוח או הבנה אנושיים משמעותיים, גם אם וכאשר הדבר יהיה אפשרי מבחינה טכנית", נכתב במסמך.
קלוד אופוס 5.5
(אנת'רופיק)
לכן, אנת'רופיק שוקלת לעדכן את מדיניות הפיתוח האחראי שלה, במטרה להבטיח שבני אדם ימשיכו לשלוט בתהליך פיתוח המודלים המתקדמים. במקביל, החברה מציינת כי אמצעי זהירות כבר הובילו בעבר לעיכוב בהשקת מודלים ולהגבלת זמינותם, וכי ייתכן שתידרש לנקוט צעדים דומים גם בעתיד.
אזהרה אמיתית או ניסיון להרשים את המשקיעים?
לצד המשמעות הטכנולוגית, צריך לזכור גם היכן הדברים נכתבו: במסמך שמיועד, בין היתר, למשקיעים פוטנציאליים לקראת הנפקת החברה בבורסה.
חברות מחויבות לפרט במסמכים כאלה את הסיכונים המהותיים שעומדים בפניהן, אבל המסמך משמש גם להצגת הפוטנציאל העסקי שלהן. ואזהרה שלפיה החברה עשויה להתקרב לפריצת דרך שתשנה את קצב ההתפתחות של הבינה המלאכותית היא גם דרך לא רעה להזכיר לוול סטריט מי נמצאת בחזית המרוץ.
לכן, כדאי להתייחס להערכות של אנת'רופיק בזהירות. החברה אינה מציגה הוכחה לכך שפיתחה מודל המסוגל לשפר את עצמו באופן עצמאי, ואינה מפרסמת לוח זמנים ברור להשגת יכולת כזו. יתרה מכך, הרף הפנימי שהיא מתארת אינו שקול בהכרח לחזון הקיצוני של מערכת AI שבונה בעצמה דורות חדשים של מערכות חכמות יותר.
מצד שני, אי אפשר להתעלם מכך שהשימוש בבינה מלאכותית לפיתוח בינה מלאכותית כבר אינו רעיון תיאורטי. אנת'רופיק עצמה מפרטת כיצד קלוד משולב בתהליכי המחקר, האימון והבדיקות שלה, וכיצד כל דור חדש מסייע בפיתוח הדור הבא.
עד היום, חברות ה-AI התחרו בעיקר בשאלה מי תצליח לפתח את המודל החכם ביותר. עכשיו מתחילה להסתמן שאלה אחרת לגמרי: מה יקרה כשהמודלים עצמם יהפכו לשותפים מרכזיים בפיתוח הדור הבא, והאם בני האדם יצליחו להמשיך לעמוד בקצב?
