מזה חודשים ארוכים שענקיות הטכנולוגיה מנהלות מרוץ חימוש שקט אך אגרסיבי לפיתוח מודלי בינה מלאכותית מהדור הבא. בעוד הציבור הרחב התרגל לראות בכלים האלו עוזרי כתיבה מתקדמים או עורכי תמונות וסרטונים משעשעים, מערכות הביטחון העולמיות מביטות בנעשה בחרדה גוברת.
השבוע חרגה חרדה זו מגבולות החדרים הסגורים, כאשר סוכנויות הסייבר והמודיעין של ברית ה"חמש עיניים" המאגדת את ארה"ב, בריטניה, קנדה, אוסטרליה וניו זילנד, יצאו בהצהרה משותפת ונדירה בחריפותה. לדבריהם, "מודלים מתקדמים המסוגלים לבצע מתקפות סייבר הרסניות ומתוחכמות נגד ממשלות ותאגידים, נמצאים במרחק חודשים ספורים בלבד מהשקה".
החסימה של פייבל ומיתוס
על פי הדיווח של ה"גארדיאן" הבריטי, הטריגר המיידי לפרסום הדוח המדאיג היה החלטתו המפתיעה של הממשל האמריקני לחסום אזרחים זרים מגישה למודל המדובר של אנת'רופיק, "קלוד פייבל" (Claude Fable). מודל זה, לצד הגרסה העוצמתית יותר שלו, "קלוד מיתוס" (Claude Mythos), נחשב לפורץ דרך ביכולתו לאתר פרצות אבטחה מורכבות במערכות מחשוב.
אולם, בעוד הגרסאות המוקדמות נועדו לשמש כלי הגנתי לחברות מורשות בלבד, הדור החדש של המודלים מפגין זינוק מדאיג דווקא ביכולות התקפיות. היכולת לייצר קוד תקיפה (Exploit) מאפס, באופן אוטומטי ובמהירות חסרת תקדים, משנה לחלוטין את חוקי המשחק הדיגיטליים.
גורמי ביטחון ברחבי העולם מדגישים כי אנו ניצבים בפני נקודת מפנה היסטורית בארכיטקטורת הסייבר. ככל שכוח המחשוב גדל והוזרמו למודלים כמויות עצומות של מידע, הם הפכו למיומנים יותר בניתוח ובהבנת קוד. היכולת לשלב בין מידע קיים, לזהות חולשות ולהציע פתרונות חדשים היא זו שמדאיגה כיום את מומחי הסייבר. מה שהחל לפני עשור כניסויים אקדמיים צנועים, התפתח בהדרגה למערכות שמסוגלות לכתוב, לנתח ולשפר קוד במהירות ובקנה מידה חסרי תקדים.
המעבר ממוצר צרכני לנכס ביטחוני
והבעיה היא לא רק אנת'רופיק. הקפיצה הזו ביכולות ניכרת גם אצל המתחרות, בהן ChatGPT, ג'מיני ומודלי הקוד הפתוח של מטא AI. במקביל, סין מקדמת מודלים ממשלתיים ומסחריים תחת פיקוח הדוק של בייג'ינג, כחלק ממאמץ להשיג ריבונות טכנולוגית מלאה. באירופה, לעומת זאת, מנסים לאזן בין רגולציית ה-AI Act המחמירה לבין החשש שהיבשת תישאר מאחור במרוץ הטכנולוגי והביטחוני.
קלוד פייבל 5 וקלוד מיתוס 5 הושקו, וכמעט מייד נחסמו
(מתוך האתר של אנת'רופיק)
החסימה האמריקנית מעידה על שינוי עמוק באופן שבו ממשלות מתייחסות לבינה מלאכותית. אם בעבר מודלי AI נתפסו כמוצרים מסחריים שנועדו לשפר פרודוקטיביות, כיום הם מתחילים להיחשב לנכס אסטרטגי בעל משמעות ביטחונית.
הגבלת הגישה למודלים המתקדמים של אנת'רופיק עבור אזרחים זרים משקפת חשש מפני זליגה של יכולות סייבר מתקדמות, ומסמנת מעבר לעידן שבו קוד ויכולות חישוב נתפסים כחלק ממאזן הכוחות בין מדינות.
מבחינת ראשי סוכנויות המודיעין, כבר לא מדובר בבעיה טכנולוגית שמעסיקה מנהלי מערכות מידע, אלא בסיכון עסקי ולאומי מהמעלה הראשונה. לא רק שציר הזמן שבין פיתוח מודל לבין פריסתו בשטח התקצר משנים לחודשים ספורים, אלא שהכלים החדשים האלו מורידים את רף הכניסה עבור ארגוני פשיעה ומדינות סוררות, שיכולים כעת להריץ אלפי מתקפות מתוחכמות במקביל ללא צורך בצבא של האקרים אנושיים.
