מודל הבינה המלאכותית החדש של חברת אנת'רופיק, "קלוד מיתוס" (Claude Mythos), שנחשף לאחרונה, מעורר טלטלה עמוקה בעולם אבטחת המידע. המודל החדש מציג יכולות פריצה וזיהוי חולשות חסרות תקדים.
כשבינה מלאכותית תוקפת בינה מלאכותית
שוחחנו עם עומר אור, מנהל בכיר וראש תחום סייבר בפירמת הייעוץ KPMG, כדי להבין את גודל השעה, את האיומים המיידיים על המשק הישראלי, וכיצד ארגונים צריכים לשנות לחלוטין את תפיסת ההגנה שלהם בעידן שבו בינה מלאכותית תוקפת בינה מלאכותית.
מהו בעצם המודל החדש ומדוע הוא שונה מכל מה שהכרנו עד היום בתחום הסייבר?
"מדובר במודל שמציג יכולות הגבוהות בסדרי גודל מכל מה שהכרנו בעבר בכל הנוגע לזיהוי וגילוי חולשות אבטחה במגוון רחב של מערכות תוכנה. פריצת הדרך המשמעותית והמסוכנת ביותר היא היכולת שלו לקחת את החולשות הללו ולתרגם אותן באופן מעשי למה שאנחנו מכנים 'וקטור תקיפה'. כלומר, הוא מייצר יכולת תקיפה מעשית ומיידית.
באנת'רופיק הבינו שהמודל הזה יכול לשמש כנשק תקיפה קיברנטי קטלני שהעולם עדיין לא ערוך אליו, ולכן נהגו באחריות ולא פרסמו אותו לציבור הרחב. במקום זאת, הם הקימו קואליציה בינלאומית בשם 'גלסווינג' (Glasswing), הכוללת 12 חברות מובילות ועוד כ-40 ארגונים, שקיבלו גישה בלעדית לתוצרי המודל למשך 90 יום. המטרה היא לאפשר להם לפתח חסמים ותיקונים לפני שהחולשות ייחשפו".
מתי האפקט הזה צפוי לפגוש את הארגונים והחברות בשטח?
"האיום מחולק לטווח הקצר ולטווח הארוך. בטווח הקצר, החל מתחילת יולי הקרוב, עם תום תקופת 90 הימים שאנת'רופיק הקציבה, החברה מחויבת לפרסם את החולשות שהתגלו לצד התיקונים שלהן.
מתחילת יולי אנחנו צפויים לראות פרסומים מסיביים של אלפי חולשות ותיקוני אבטחה במגוון עצום של מערכות, וזה יימשך באופן שוטף מדי יום או שבוע. ארגונים כיום פשוט לא ערוכים להתמודד עם מסות וקצבים כאלה של עדכוני אבטחה".
הקוד עצמו של המודל לא דלף. מדוע האיום לטווח הארוך כה משמעותי?
"הקוד לא דלף, אך מסמכים רבים לגביו כן נחשפו. ההיסטוריה והאבולוציה של עולם ה-AI מלמדות שחברות ענק אחרות, וחשוב מכך - מדינות יריבות כמו סין, רוסיה, איראן וצפון קוריאה, ישקיעו משאבי עתק ויפתחו יכולות דומות בתוך שנה עד שנה וחצי.
בסופו של דבר, אנו נשאר במציאות שבה בידי האויבים שלנו יהיו כלי תקיפה אוטומטיים ביכולות והיקפים שלא קיימים כיום אפילו אצל התוקפים האנושיים המיומנים ביותר".
כיצד ארגונים צריכים לפעול בטווח המיידי כדי לא לקרוס תחת גל החולשות הצפוי?
"אנו ממליצים על מספר צעדים דחופים, הראשון הוא שיקוף מיידי להנהלה ולדירקטוריון. יש להציג את המשמעויות ואת תוכנית הפעולה הראשונית לוועדות הסיכונים ולדירקטוריונים של החברות.
"הצעד השני הוא תגבור משאבים וכוח אדם. לקראת תחילת יולי, חשוב לעדכן ולתגבר את הסכמי השירות (SLA) מול ספקי אבטחת המידע כדי להבטיח זמני תגובה מהירים בהרבה מהרגיל.
"הצעד השלישי הוא מיפוי מערכות ישנות (Legacy) ותפעוליות (OT). היכולות המוגברות של מיתוס אינן מבחינות בין רשתות מחשוב רגילות למערכות תפעוליות. המודל כבר מצא חולשה בת 27 שנים במערכת ההפעלה OpenBSD, שנחשבה ליציבה ומאובטחת במיוחד. חברות חייבות לקחת בחשבון מערכות לגאסי ומערכות קצה תפעוליות כמו מצלמות אבטחה, מזגנים ומערכות תאורה".
אתה מדבר על צורך בשינוי תפיסתי עמוק בניהול הגנת הסייבר בארגונים. מהו השינוי?
"אנחנו חייבים לעבור ממיקוד כמעט בלעדי של 'הגנה ומניעה', לתפיסה הממוקדת בחוסן, המשכיות עסקית והכלה - סייבר כמכיל ומתאושש. אם נמשיל את הארגון לטירה שבה שמורים הנכסים היקרים ביותר, החומות והשומרים עדיין נחוצים. עם זאת, במציאות החדשה, נקודת ההנחה של הדירקטוריון חייבת להיות שהחומות ייפרצו ותתרחש חדירה.
"שם המשחק הוא 'האם לתוקף שחדר לחדר אחד בטירה יש עכשיו גישה חופשית לכל הממלכה?' הארגון חייב לבנות את הארכיטקטורה שלו כך שניתן יהיה לבודד את הפריצה באופן מיידי, להגן על הסודות הרגישים באמת, ולהחזיק ביכולת התאוששות מהירה במיוחד, כמו קבלן שנמצא בכוננות וסוגר את הפצע ברגע שהתוקף נהדף".
"אנחנו חייבים לעבור ממיקוד כמעט בלעדי של 'הגנה ומניעה', לתפיסה הממוקדת בחוסן, המשכיות עסקית והכלה"
אם הקצב וההיקף של התקיפות הולכים לעלות בצורה דרמטית, כיצד בני אדם יוכלו בכלל לנהל את ההגנה?
"הם לא יוכלו, וזה האתגר הגדול לטווח הארוך. הפתרון היחיד הוא שילוב סוכני וכלי בינה מלאכותית בצד המגן. חמ"לי סייבר (SOC) שיסתמכו על תהליכים ידניים ואנושיים פשוט יוצפו וייקרסו. המגן יצטרך להפעיל כלי AI שירוצו ברשת ברציפות, יזהו חולשות בזמן אמת, ובחלק מהמקרים יבצעו את עבודת התיקון והחסימה באופן אוטונומי.
אנחנו עוברים לעולם שבו ה-AI של התוקף יילחם ב-AI של המגן, תחת פיקוח אנושי. אנו כבר פוגשים חברות שמתחילות ליישם כלים ממוכנים כאלה שמציגים דשבורד חוסן אונליין, במקום סקרים ידניים איטיים".
האם אין סיכון מובנה בהכנסת עוד ועוד כלי AI למערכות הארגוניות?
"בהחלט יש סיכון, שכן ה-AI עצמו הוא וקטור לתקיפה וחולשות, בין אם באמצעות הזרקת פרומפטים (Prompt Injection) ובין אם דרך הטיות למידה שעלולות להוביל למסקנות לא חוקיות או מפלות.
"לכן ארגונים יצטרכו לוודא שהטמעת סוכני ה-AI נעשית בצורה מאובטחת ומפוקחת. נדרש כאן שיתוף פעולה הדוק, הקמת בריתות (Alliances) וקואליציות בין חברות ובין הרגולציה, בדיוק כפי שאנתרופיק עשתה עם גלסווינג, כדי לאחד משאבים מול האיום המשותף".
כיצד המציאות החדשה הזו משפיעה על אזרח הקצה, על משתמשי המערכות הללו?
"אזרח הקצה פוגש את האיום הזה כמעט בכל ממשק עם ארגון או חברה. ברמה הבסיסית, מדובר בסכנה חמורה לפרטיות - דליפת אלפי פרטי לקוחות, תעודות זהות או כרטיסי אשראי. ברמה הגבוהה יותר, מדובר באיום ממשי על חיי אדם. בעבר כבר ראינו פריצות לבתי חולים שהשביתו מערכות והעבירו את העבודה למתכונת ידנית, מה שגרם לעיכובים קריטיים בקבלת חולים.
"בעידן החדש, החשש הגדול הוא מפגיעה ישירה במערכות מצילות חיים, כמו רובוטים שמבצעים ניתוחים בזמן אמת. השבתה או שיבוש של רובוט כזה תוך כדי הליך כירורגי היא אירוע קטסטרופלי. זו הסיבה שהמדינה והרגולטורים חייבים להתמקד בראש ובראשונה באבטחת תשתיות קריטיות: אנרגיה, מים, בריאות וגופי ביטחון".
בשורה התחתונה, מנהלים רבים עושים ניהול סיכונים פשוט: לפעמים זול יותר לספוג את נזקי הפריצה מאשר להשקיע מיליונים בהגנה מתקדמת. מה אתה אומר להם?
"ההגדרה הזו נכונה, ובסופו של דבר מדובר בהחלטה עסקית של הדירקטוריון, ולא של אנשי הטכנולוגיה. אלא שהטענה המרכזית שלנו היא שמשוואת הסיכון השתנתה לחלוטין. החישובים שעליהם התבססו הנהלות בשנים האחרונות כבר אינם רלוונטיים. האיום עלה בצורה דרמטית, והדירקטוריון מחויב לבחון את החישוב מחדש בכובד ראש.
עליהם לשאול את עצמם האם הארגון מוכן לספוג פגיעה אנושה במוניטין? האם הוא ערוך לתביעות ענק פוטנציאליות ולסנקציות בשל אי-עמידה ברגולציה? מי שישכיל לפעול מהר, להשקיע בחוסן, בהמשכיות עסקית ובמערכות הגנה רציפות מבוססות AI שחיות אונליין מול התוקף, יבטיח את הרלוונטיות של הארגון שלו ואף יהפוך את האתגר הגדול הזה להזדמנות עסקית".
