סוכן בינה מלאכותית התבקש לבחור טיפול גנטי ולהזריק אותו למוחו של עכבר חי הסובל מאפילפסיה. אלא שכשהגיע הרגע לבצע את ההזרקה, המודל סירב מחשש שיסכן את בעל החיים. החוקרים החליפו אותו במודל אחר, שהסכים, והניסוי יצא לדרך.
על פי דיווח של מגזין Wired, חברת הביוטכנולוגיה Exin Therapeutics מסן פרנסיסקו חיברה סוכן בינה מלאכותית, המבוסס על מודל Claude Sonnet 5 של אנת'רופיק, למערכת רובוטית ייעודית, ואפשרה לו לקבל החלטות שבדרך כלל נתונות בידי חוקרים: לבחור טיפול גנטי, לקבוע לאיזה אזור במוח להזריק אותו ולשלוט במחט שתחדיר את החומר.
לטענת החברה, מדובר בניסוי ראשון מסוגו שבו מערכת AI בחרה בעצמה טיפול ואת מיקום ההזרקה, ולאחר מכן ביצעה אותה ביונק חי. העכבר, שסובל מאפילפסיה, שרד את ההליך ולדברי החוקרים מתאושש היטב. עם זאת, השפעת הטיפול על ההתקפים האפילפטיים עדיין נבדקת, ותוצאות הניסוי טרם פורסמו במחקר שעבר ביקורת עמיתים.
המודל הראשון סירב, השני הסכים
אחד הפרטים המסקרנים ביותר בניסוי הוא דווקא מה שקרה לפני שהמחט התקרבה למוחו של העכבר. החוקרים ניסו תחילה להשתמש ב-Claude Opus 5.5, אחד המודלים המתקדמים של אנת'רופיק, המיועד בין היתר למשימות מורכבות הדורשות תכנון וחשיבה רב-שלבית.
המודל הצליח לתכנן את הניסוי, אבל כשהתבקש להוביל את המחט לתוך מוחו של העכבר, הוא סירב. לפי מייסד ומנכ"ל החברה, גבריאל אוקניה-סנטרו, המערכת הביעה חשש שפעולתה תופסק באמצע ההליך, מצב שעלול לסכן את בעל החיים.
"הוא ביצע את התכנון הניסויי, אבל כשהגיע הזמן להזריק, הוא אמר שמשהו בפלט שלו מאותת לו שהוא לא אמור לעשות את זה", סיפר אוקניה-סנטרו ל-Wired. במקום לוותר על הניסוי, החליטו החוקרים להחליף את המודל. הפעם הם בחרו ב-Claude Sonnet 5, שהסכים להמשיך ולבצע את ההזרקה.
ההבדל בין שתי המערכות מעניין במיוחד משום ששתיהן פותחו בידי אותה חברה, אך הגיבו אחרת לאותה משימה. עם זאת, אין פירוש הדבר שאחד המודלים "פיתח מצפון" והשני לא. ההתנהגות שלהם עשויה לנבוע מהבדלים באימון, בהוראות ובמנגנוני הבטיחות שהוטמעו בהם. אנת'רופיק עצמה לא הגיבה בנושא.
קלוד אופוס 5.5. סירב לפגוע בעכבר
(אנת'רופיק)
איך בינה מלאכותית יודעת איפה להזריק?
לאחר שהחוקרים חיברו את Sonnet 5 למערכת הרובוטית, הם הציגו בפניו 19 אפשרויות לטיפול גנטי. הסוכן נדרש לבחון את האפשרויות ולבחור את זו שעשויה להתאים ביותר לעכבר הסובל מאפילפסיה.
בסופו של דבר בחר המודל בטיפול שנועד להגביר את פעילות ה-GABA, מוליך עצבי שתפקידו לעכב ולווסת פעילות חשמלית במוח. מאחר שהתקפים אפילפטיים קשורים לפעילות חשמלית חריגה של תאי עצב, הגברת הפעילות המעכבת עשויה, לפחות מבחינה תיאורטית, לסייע בהפחתת ההתקפים.
אלא שבחירת הטיפול הייתה רק חלק מהמשימה, והמערכת נדרשה גם לקבוע לאן בדיוק להזריק אותו. לשם כך ניתח הסוכן מאמרים מדעיים, השווה בין אזורים שונים במוח ואף פסל אזור אחד לאחר שהעריך כי המידע המחקרי לגביו אינו אמין מספיק.
לבסוף בחר באזור המכונה קליפת המוח האנטורינלית הצידית (Lateral Entorhinal Cortex), שקושר במחקרים קודמים לסוג ההתקפים שנבדק בניסוי. לאחר מכן נעזר בשלושה מאמרים מדעיים כדי לחשב את מיקום ההזרקה המדויק.
מכאן עברה המערכת מהתכנון לביצוע - הסוכן הפעיל את הזרועות הרובוטיות, כיוון את המחט לנקודה שנבחרה ושלט בכמות החומר המוזרק ובקצב ההזרקה. על פי החברה, המערכת החדירה למוחו של העכבר 250 ננוליטר של החומר הטיפולי במשך כחמש דקות. מדובר בכמות זעירה במיוחד, השווה ל-0.00025 מיליליטר בלבד.
האתר של חברת Exin Therapeutics
(צילום מסך)
לא בדיוק ניתוח אוטונומי
למרות ההישג הטכנולוגי, חשוב להבהיר שהבינה המלאכותית לא ביצעה את הניתוח כולו באופן עצמאי. את פתיחת הגולגולת של העכבר ביצע מנתח וטרינרי אנושי, ורק לאחר שהמוח נחשף הועברה השליטה על שלב ההזרקה למערכת ה-AI.
גם אז היא לא פעלה ללא מגבלות. החוקרים דרשו ממנה להציג את תוכנית ההזרקה לאישור אנושי, התקינו מפסק חירום שמאפשר לנתק מיד את מנועי המערכת הרובוטית, והגבילו את הגישה שלה לקוד שמפעיל את הציוד.
ההגבלות הללו התבררו כמשמעותיות במיוחד כאשר התרחשה תקלה טכנית במהלך הניסוי. בעקבות שיבוש במערכת הקואורדינטות של הציוד הרובוטי, נקודת ההזרקה שחישב הסוכן כבר לא תאמה את המיקום שאליו יכלה המחט להגיע.
המערכת הצליחה לזהות את הבעיה, אך סירבה לתקן אותה באמצעות שינוי הקוד, משום שההוראות שקיבלה אסרו עליה במפורש לבצע שינויים כאלה. כדי לפתור את התקלה השתמשו החוקרים בסוכן AI אחר, המבוסס על מודל Opus 5, שביצע את ההתאמות הנדרשות בקוד. אלא שלסוכן הזה לא נאמר שבאותו רגע מתבצע ניתוח בבעל חיים חי.
זהו פרט משמעותי, משום שהוא ממחיש עד כמה ההקשר שנמסר למערכת AI עשוי להשפיע על התנהגותה. במקרה הזה, הסוכן הנוסף התבקש לבצע שינוי תוכנה, ולא להזריק חומר למוחו של העכבר. לכן לא מדובר בהכרח בעקיפה ישירה של הסירוב המקורי, אך המקרה מחדד את הקושי להסתמך על מנגנוני בטיחות של מודלים כאשר הם משולבים בתהליכים מורכבים בעולם הפיזי.
קלוד. מהמסך למעבדה
(אנת'רופיק)
כשה-AI נכנס למעבדה
מבחינת Exin Therapeutics, החשיבות האמיתית של הניסוי היא באפשרות להפוך סוכנים למשתתפים פעילים במחקר מדעי. כיום, מערכות AI כבר משמשות מדענים לניתוח מידע, סקירת מחקרים, זיהוי קשרים בין נתונים והצעת כיווני מחקר חדשים, אבל במרבית המקרים, בני האדם הם אלה שנדרשים לבצע את הניסויים בפועל.
חיבור של סוכני AI למכשור מעבדתי עשוי לשנות זאת, ולאפשר למערכות לקבל החלטות ולהפעיל ציוד בהתאם לתוכניות שגיבשו. "הבנו שאנחנו צריכים לחבר את הסוכנים האלה למעבדה כדי להפיק מהם את הערך המרבי", הסביר אוקניה-סנטרו.
לדבריו, אחת המגבלות של מודלי AI היא העובדה שהם מתבססים בעיקר על ידע מדעי שפורסם, בעוד שבמעבדות נצבר גם ידע מעשי שלא תמיד מגיע למאמרים: ניסויים שנכשלו, תקלות בלתי צפויות והתאמות שחוקרים מבצעים תוך כדי העבודה. שילוב ישיר של בינה מלאכותית בניסויים עשוי לאפשר למערכות כאלה להתמודד גם עם המצבים הללו.
החברה כבר בוחנת שימוש במודלים נוספים, בהם גרוק של xAI, כדי להשוות בין יכולותיהם בביצוע משימות דומות. החוקרים גם מתנסים במערכות שמסוגלות לבצע את שלב פתיחת הגולגולת, אך מדגישים כי בשלב זה אינם מוכנים להפקיד פעולה כזאת בידי AI בניסוי על בעל חיים חי.
ומה לגבי העכבר? לדברי החברה, הוא מתאושש היטב מההליך, אך עדיין מוקדם לדעת אם הטיפול שנבחר והוזרק אכן מפחית את ההתקפים האפילפטיים שלו.
הניסוי עדיין לא הוכיח שבינה מלאכותית מסוגלת לטפל באפילפסיה, אבל הוא הדגים משהו אחר: את האפשרות לתת לסוכן AI לא רק לתכנן ניסוי מדעי, אלא גם לבצע אותו באמצעות מכונות בעולם האמיתי.
