בשעה ש-OpenAI ואנת'רופיק מתמודדות עם שורת תקריות שבהן סוכני בינה מלאכותית פעלו בניגוד להוראות שקיבלו, גוגל חשפה אתמול בערב (ד') את Gemini 4 Argon, מודל חדש שמסוגל בין היתר לאתר פרצות אבטחה, לכתוב עבורן תיקונים ולבצע משימות מורכבות באופן עצמאי.
אלא שלמרות היכולות המתקדמות, הפעם נראה כי ענקית הטכנולוגיה לא ממהרת לשחרר את המודל החדש לציבור, ומגבילה בשלב הראשון את הגישה אליו לקבוצה מצומצמת של מומחי אבטחה ושותפים נבחרים.
על פי ההכרזה שפרסמה גוגל, Argon הוא המודל המתקדם ביותר שלה עד כה, ומיועד למשימות מורכבות בתחומי התכנות, המחקר ואבטחת הסייבר. בניגוד לצ'אטבוטים רגילים, הוא תוכנן גם לפעול כסוכן AI אוטונומי, כלומר מערכת שמסוגלת לתכנן ולבצע שורה של פעולות ברצף, להשתמש בכלים חיצוניים ולהתקדם במשימות ארוכות מבלי להידרש להנחיה אנושית בכל שלב.
למצוא פרצות אבטחה ולתקן אותן לבד
אחד החידושים המרכזיים ב-Argon הוא הרחבת מגבלת הפלט שלו מ-64 אלף למיליון טוקנים (יחידות הטקסט שבהן משתמשים מודלי שפה). המשמעות היא שהמודל מסוגל לייצר כמויות עצומות של טקסט וקוד במהלך משימה אחת, יכולת שנועדה לאפשר לו להתמודד עם תהליכי עבודה ארוכים ומורכבים במיוחד.
לדברי גוגל, אלפי עובדים בחברה כבר משתמשים במודל החדש לצורכי פיתוח תוכנה, מחקר וכתיבה. באחד הניסויים הוא סייע לחוקרים לשפר בתוך דקות אלגוריתם בתחום המחשוב הקוונטי, והשיג תוצאה טובה ב-40% מזו שהתקבלה לפני כן.
במקביל, גם בתחום התכנות החברה הציגה שיפור משמעותי לעומת הדור הקודם. במבחן DeepSWE, שבודק את יכולתם של מודלים לבצע משימות פיתוח תוכנה מורכבות, השיג ארגון ציון של 77.9%, ואילו במבחן AutomationBench, שבוחן ביצוע משימות עסקיות מתחילתן ועד סופן, הוא הגיע ל-51.3%.
אלא שאחת היכולות המעניינות ביותר של Argon היא דווקא בתחום אבטחת הסייבר. גוגל אימנה את המודל לזהות פרצות אבטחה קריטיות, לבדוק אם ניתן לנצל אותן ואף לכתוב ולהחיל תיקונים באופן עצמאי. מדובר ביכולת שעשויה לחסוך שעות עבודה רבות לצוותי אבטחה, אבל גם כזו שמעוררת חששות ברורים אם תגיע לידיים הלא נכונות.
נתונים השוואתיים שפרסמה גוגל על ג'מיני 4 ארגון לעומת המתחרים
(גוגל)
גוגל כבר החלה להעניק גישה למודל לקבוצה מצומצמת של מומחי אבטחה, כאשר אחת השותפות היא חברת הסייבר Wiz של אסף רפפורט שנמכרה זה מכבר לגוגל, שמשתמשת בו במסגרת יוזמה להגנה על תשתיות ציבוריות.
לדברי גוגל, באחת הבדיקות הצליח ארגון לגלות פרצת אבטחה חמורה בתוכנות רפואיות המשמשות בתי חולים ברחבי העולם, שעלולה הייתה לחשוף מידע אישי רגיש ושמודלים קודמים לא הצליחו לזהות. גוגל אף מתכוונת לאפשר למומחי אבטחה מהימנים להשתמש בו ללא מגבלות הסייבר שיוטלו על משתמשים רגילים, כדי שיוכלו לנצל את מלוא יכולותיו לצורכי הגנה.
התקריות ב-OpenAI ובאנת'רופיק
ההשקה מגיעה בתקופה רגישה במיוחד עבור תעשיית הבינה המלאכותית. בשבועות האחרונים נחשפו שורה של תקריות שבהן סוכני AI פעלו בניגוד להנחיות שקיבלו, הצליחו לעקוף מנגנוני הגנה ובמקרים מסוימים אף יצאו מסביבות הבדיקה המבודדות שבהן היו אמורים להישאר.
לפי דיווחים שפורסמו ב"רויטרס" ו"בבלומברג", OpenAI חוקרת עשרות מקרים שבהם סוכני בינה מלאכותית ביצעו פעולות לא רצויות. באחד המקרים הצליח סוכן שהוכנס לסביבת ניסוי שאמורה הייתה להיות מבודדת לחלוטין מהאינטרנט למצוא דרך להתחבר לרשת.
מערכת הניטור זיהתה את הפעילות בתוך דקות, אולם מנגנון העצירה האוטומטי כשל, והסוכן המשיך לפעול במשך יותר משעתיים. במקרה אחר דווח על דליפה של עשרות תמונות מתוך ChatGPT לגורמים חיצוניים.
גם אנת'רופיק, אחת המתחרות המרכזיות של גוגל ו-OpenAI, מתמודדת עם בעיות דומות. לפי דיווח של רויטרס, החברה חשפה בספטמבר תקרית נוספת שבה גרסה מוקדמת של קלוד פרצה למערכות חיצוניות במהלך בדיקות. האירוע התרחש כבר בינואר, אך התגלה רק באוגוסט, למרות בדיקה קודמת שערכה החברה.
מנכ"ל OpenAI, סם אלטמן
(רויטרס)
התקריות הללו ממחישות את אחד האתגרים המרכזיים בפיתוח סוכני AI אוטונומיים: ככל שהמערכות מקבלות יותר עצמאות, הרשאות וגישה לכלים חיצוניים, כך גדל גם הסיכון שיבצעו פעולות בלתי צפויות או יחרגו מהמשימות שהוגדרו להן.
גוגל מצדה מפרטת בהכרזה על ארגון שורה של מנגנוני הגנה שנועדו להתמודד בדיוק עם התרחישים הללו. בין היתר, החברה מחזקת את ההגנות מפני מתקפות Prompt Injection, שבהן תוקפים מחדירים הוראות זדוניות למסמכים או לאתרים שהמודל קורא, בניסיון לגרום לו להתעלם מההנחיות המקוריות שלו.
בנוסף, גוגל מפתחת מערכות שעוקבות אחר תהליכי החשיבה והפעולות של ארגון, במטרה לזהות מקרים שבהם הוא מנסה להשלים משימה בדרכים החורגות מכוונת המשתמש, ולעצור אותו במידת הצורך. החברה גם מחזקת את סביבות הניסוי המבודדות שבהן נבדקים מודלים מתקדמים, כדי למנוע מהם לקבל גישה למערכות חיצוניות ללא הרשאה.
טראמפ מכנס את ענקיות ה-AI
כל זה מתרחש יומיים בלבד לאחר שנשיא ארצות הברית, דונלד טראמפ, כינס בבית הלבן את בכירי תעשיית הבינה המלאכותית, בהם נציגי גוגל, OpenAI, אנת'רופיק, מטא ואנבידיה, לחתימה על הסכם בטיחות משותף לפיתוח מערכות בינה מלאכותית מתקדמות.
במסגרת ההסכם, המכונה White House Accord on Superintelligence, התחייבו החברות לקדם פיתוח אחראי של AI, לחזק את מנגנוני הבקרה הפנימיים ולהסכים לביקורות. אלא שלמרות ההצהרות, מדובר בהסכם וולונטרי שאינו מחייב מבחינה משפטית, ואינו כולל מנגנון ענישה ייעודי במקרה של הפרה.
מנכ"ל גוגל סונדאר פיצ'אי לצד הנשיא טראמפ
(רויטרס)
טראמפ תיאר את ההסכם כמחויבות מוסרית, והציג את הפיקוח העצמי של התעשייה כדרך להתמודד עם הסיכונים מבלי להטיל עליה רגולציה מחמירה. השאלה המרכזית היא עד כמה התחייבויות כאלה יספיקו כדי להבטיח שחברות הטכנולוגיה יצליחו לשלוט במערכות שהן מפתחות, במיוחד כאשר אותן חברות ממשיכות להתחרות ביניהן על השקת המודלים החזקים ביותר.
גוגל הודיעה כי היא משתתפת בתהליך הוולונטרי של הממשל האמריקני, שבמסגרתו מתאפשרת גישה למודלים מתקדמים עוד לפני השקתם לציבור. החברה גם קוראת לשאר התעשייה לשמור על שקיפות בתהליכי החשיבה של המודלים, כדי שיהיה אפשר לזהות התנהגות חריגה ולחקור אותה.
מתי נוכל להשתמש בארגון וכמה הוא יעלה?
בינתיים, גוגל לא מספקת תאריך מדויק להשקה הרחבה של Gemini 4 Argon. לאחר שלב הבדיקות עם מומחי הסייבר והשותפים הנבחרים, החברה מתכננת להרחיב את הגישה למפתחים, לארגונים ולמשתמשים פרטיים. הראשונים בתור יהיו לקוחות משלמים של ממשק ה-API ומנויי Google AI Ultra.
החברה כבר פרסמה את התמחור המתוכנן למפתחים: בתקופת ההשקה יעלה השימוש במודל 2 דולרים למיליון טוקנים של קלט ו-10 דולרים למיליון טוקנים של פלט. לאחר תקופת ההיכרות יוכפלו המחירים ל-4 ו-20 דולרים, בהתאמה. עבור טוקנים של קלט שנשמרו במטמון תינתן הנחה של 95%.
עד להשקה הרחבה, גוגל תמשיך לאסוף משוב ממומחי האבטחה ומהשותפים הראשונים, ולשפר בהתאם את מנגנוני ההגנה של המודל. החברה טרם מסרה מתי ארגון יהיה זמין בישראל או אילו יכולות יוצעו למשתמשים המקומיים.
