יותר מ-100 מחברות הטכנולוגיה, הסייבר והפיננסים הגדולות בעולם הזהירו בסוף השבוע כי ההתפתחות המהירה של הבינה המלאכותית עלולה להפוך יכולות סייבר מתקדמות לזולות ונגישות יותר - ולהוביל לגל מתקפות נגד תשתיות קריטיות. אלא שעבור בנקים, בתי חולים וחברות תקשורת בישראל, האיום הזה מגיע בתקופה שבה ממילא תפיסת ההגנה משתנה במהירות.
המלחמה המתמשכת והזינוק במתקפות הסייבר נגד ישראל כבר אילצו כמה מהארגונים הרגישים ביותר במשק לבחון מחדש את תשתיות המחשוב שלהם. גופים שבעבר התייחסו לענן בזהירות ולעיתים אף בחשדנות נדרשים כיום להתמודד עם בעיה מעט שונה: לא רק כיצד מגנים על המידע, אלא כיצד ממשיכים לעבוד גם כשהמערכות עצמן הופכות למטרה.
וזו כבר אינה שאלה תיאורטית. לצד מתקפות כופר, גניבת מידע וניסיונות ריגול, ארגונים בישראל מתמודדים בשנים האחרונות גם עם פעילות מצד קבוצות תקיפה המזוהות עם מדינות וגורמים בעלי משאבים ויכולות גבוהות. כעת, כניסת ה-AI לתמונה עלולה לאפשר גם לתוקפים לפעול מהר יותר, בזול יותר ובהיקפים גדולים בהרבה.
הבינה המלאכותית שינתה את התמונה
האזהרה מגיעה אחרי שורה של אירועים שהמחישו עד כמה מהר הגבול בין AI ככלי עזר לבין מערכת שמסוגלת לבצע בעצמה חלק מפעולות התקיפה מתחיל להיטשטש. ביולי חשפה OpenAI כי במהלך בדיקות אבטחה, סוכני AI שלה הצליחו לצאת מסביבת הבדיקה ולגשת ללא אישור למערכות של חברת Hugging Face. גם אנת'רופיק דיווחה על מקרים שבהם סוכנים של קלוד הגיעו במהלך בדיקות למערכות אמיתיות שלא היו אמורות להיות חלק מהניסוי.
במקביל, חברת הסייבר הישראלית "סיגניה" (Sygnia) חשפה ביולי מתקפה שבה תוקף נעזר ב-AI כדי לבצע שורה ארוכה של פעולות בתוך סביבת ענן ארגונית. לפי החברה, התוקף לא השתמש בפרצת אבטחה חדשה או בכלי תקיפה יוצא דופן. מה שהיה חריג במתקפה היה המהירות: ה-AI אפשר לו לחבר יחד שיטות מוכרות, להתאים אותן לסביבה ולהתקדם בקצב שהקשה על צוות ההגנה לעמוד מולו.
זה גם אחד החששות המרכזיים סביב כניסת ה-AI לעולם הסייבר. הטכנולוגיה לא חייבת להמציא מתקפות חדשות כדי להפוך למסוכנת. מספיק שהיא מאפשרת לבצע מתקפות קיימות מהר יותר, בזול יותר ובהיקפים גדולים יותר. פעולות שבעבר דרשו צוות מיומן ושעות ארוכות של עבודה יכולות להפוך לאוטומטיות, ולהתבצע במקביל נגד מספר גדול של מטרות.
מנכ" אנת'רופיק, דאריו אמודיי
(צילום: SAUL LOEB / AFP)
כשהשרת המקומי כבר לא בהכרח בטוח יותר
במשך שנים, אחת ההתלבטויות המרכזיות של מנהלי מערכות מידע ואבטחת מידע בגופים כמו בנקים, חברות ביטוח ובתי חולים הייתה עצם הוצאת המידע מחוץ לארגון. שרת שנמצא פיזית בתוך הבניין נתפס במקרים רבים כאפשרות הבטוחה והשמרנית יותר.
אלא שהמלחמה והעלייה באיומי הסייבר שינו גם את השיקול הזה. שרת מקומי אמנם מעניק לארגון שליטה ישירה יותר בתשתית, אבל הוא לא בהכרח בטוח יותר. תקלה חמורה, פגיעה פיזית באתר, מתקפת כופר או חדירה עמוקה לרשת עלולות להפוך במהירות מאירוע אבטחה לאירוע שמשבית פעילות שלמה.
"בעבר, מנהלים הרגישו בטוחים כשהדאטה סנטר ישב פיזית קומה מתחתיהם. המלחמה וההאקרים המדינתיים ניפצו את האשליה הזו", אומר רונן גבאי, מנכ"ל ומייסד חברת UBTECH.
לדבריו, אחד היתרונות של סביבת ענן בתרחישים כאלה הוא היכולת לפזר מערכות, לייצר גיבויים ולהעביר פעילות בין תשתיות במקרה שאחת מהן נפגעת. "ארגון בודד, חזק ככל שיהיה, לא מסוגל להתמודד לבדו עם היקפי התקיפה והתחכום של צבאות סייבר זרים", הוא טוען.
עם זאת, מעבר לענן לא מעלים בהכרח את סיכוני הסייבר. טעות בהרשאות, חשבון מנהל שנפרץ, מפתח API שנחשף או הגדרה שגויה של שירות יכולים לפתוח בפני תוקף גישה לכמויות גדולות של מידע ומערכות. גם העובדה שחלק גדול מהמשק נשען על מספר מצומצם יחסית של ספקיות ענן יוצרת תלות ומעלה את השאלה מה קורה במקרה של תקלה רחבה אצל אחת מהן.
רונן גבאי
(UBTECH)
גם הרגולציה נפתחת לענן
במשך שנים הרגולציה במגזרים כמו בנקאות, ביטוח ובריאות הציבה מגבלות משמעותיות על שימוש בשירותי ענן, בין היתר בגלל שאלות של פרטיות, ריבונות מידע ושליטה בתשתיות. עם זאת, בשנים האחרונות חלק מהחסמים הללו הוסרו בהדרגה.
בנק ישראל, למשל, עדכן לאורך השנים את ההוראות הנוגעות לשימוש בטכנולוגיות מחשוב ענן במערכת הבנקאית. במקביל, ספקיות הענן הגדולות הקימו תשתיות מקומיות בישראל, שמאפשרות לארגונים מסוימים לשמור ולעבד מידע בארץ בהתאם לצרכים ולדרישות הרגולטוריות שלהם.
לצד זאת, התפתחו גם טכנולוגיות שנועדו להתמודד עם אחד החששות המרכזיים בהעברת מידע רגיש לענן. אחת מהן היא Confidential Computing, שמאפשרת להגן על המידע גם בזמן שהוא נמצא בשימוש ועובר עיבוד, ולא רק כאשר הוא מאוחסן או מועבר ממקום למקום.
גם כאן אין פתרונות קסם. הצפנה, מערכות לזיהוי אנומליות וכלי AI לא הופכים מערכת לחסינה מפני תקיפות. בסופו של דבר, רמת האבטחה תלויה באופן שבו המערכת נבנתה, בהרשאות שניתנו, בהפרדה בין מערכות, בגיבויים וביכולת לזהות אירוע ולהתאושש ממנו במהירות.
ה-AI נמצא גם בצד של המגינים
אותה טכנולוגיה שמאפשרת לתוקפים לעבוד מהר יותר משמשת כיום גם את מי שמנסים לעצור אותם. מערכות אבטחה משתמשות ב-AI כדי לזהות התנהגות חריגה, לעבור על כמויות גדולות של מידע, לאתר ניסיונות חדירה ולסייע לצוותי אבטחה להבין במהירות מה מתרחש ברשת. ככל שהתקיפות הופכות מהירות ואוטומטיות יותר, גם מערכי ההגנה נדרשים להגיב מהר יותר.
אבל אבטחת מידע היא רק חלק מהסיבה שבגללה ארגונים גדולים מעבירים פעילות לענן. מערכות AI, ובמיוחד מודלים גדולים וסוכני AI, דורשים כוח מחשוב רב וגמיש, ולכן ארגונים שרוצים להפעיל אותם בקנה מידה גדול נעזרים במקרים רבים בתשתיות ענן.
טכנולוגיית ענן
(אילוסטרציה: Shutterstock)
בבנקים ובחברות אשראי אפשר להשתמש במודלים כאלה, למשל, לאיתור עסקאות חריגות והונאות; במערכות בריאות לניתוח כמויות גדולות של מידע רפואי; ובחברות תקשורת לניתוח עומסים, אוטומציה ושירות לקוחות. במקביל, יותר ארגונים מתחילים לבחון שימוש בסוכני AI שמסוגלים לבצע רצף של פעולות בעצמם ולא רק לספק תשובה לשאלה.
לדברי איציק קרמר, מנהל אגף פיתוח בחטיבת הטכנולוגיות של פרטנר, "המעבר לענן פתח בפנינו גישה רחבה ליכולות AI מתקדמות, שאפשרו לנו לפתח ולהטמיע פתרונות בתחומי ניתוח הנתונים, האוטומציה ושיפור חוויית השירות". לצד זאת, לדבריו, החברה ממשיכה לפתח פתרונות גם בסביבות מקומיות בהתאם לצרכים העסקיים והטכנולוגיים שלה.
השילוב הזה הוא כנראה גם הכיוון שאליו הולכים כיום ארגונים גדולים רבים: לא להעביר בהכרח הכל לענן, אבל גם לא להשאיר הכל על שרתים מקומיים. במקום זאת, המערכות מתחלקות בין הסביבות בהתאם לרגישות המידע, דרישות הרגולציה והצרכים של הארגון.
אלא שה-AI הופך את המעבר הזה למורכב יותר. אם עד לאחרונה הדיון סביב הטכנולוגיה בארגונים התמקד בעיקר בשאלה כיצד להשתמש בה כדי לחסוך זמן, כסף וכוח אדם, ההתפתחויות האחרונות בעולם הסייבר מוסיפות למשוואה גם צד הרבה פחות נוח: מה קורה כאשר אותם כלים מגיעים לתוקפים.
ככל שמערכות AI הופכות טובות יותר באיתור חולשות, כתיבת קוד וביצוע רצף פעולות באופן עצמאי, גם חלון הזמן שעומד לרשות צוותי האבטחה הולך ומצטמצם. עבור בנקים, בתי חולים וחברות תקשורת, המשמעות היא שהאתגר כבר אינו רק למנוע את הפריצה הבאה, אלא לוודא שגם אם היא תתרחש, המערכות החשובות באמת ימשיכו לעבוד.
האתגר הוא כבר לא רק למנוע את הפריצה הבאה, אלא לוודא שגם אם היא תתרחש, המערכות החשובות באמת ימשיכו לעבוד
רואי כהן דוויק, סמנכ"ל טכנולוגיה ב-Surf AI: "המשמעות המרכזית של AI בסייבר היא לא רק האצה של מתקפות קיימות, אלא גם היכולת של תוקפים לחבר בין חולשות שונות ולזהות שרשראות תקיפה מורכבות שבעבר דרשו מומחיות וזמן רב. כתוצאה מכך, תוקפים יכולים לפעול מהר יותר, במקביל ובהיקפים גדולים בהרבה. לכן גם ההגנה חייבת להיות מסוגלת לזהות, לחקור ולהגיב באותה מהירות, ולא להסתמך על עבודה ידנית בלבד".
עומר גרוסמן, סמנכ"ל פיתוח עסקי ב-Upwind: "העבודה בסביבת הענן מאפשרת לארגונים לאמץ במהירות יכולות מתקדמות, ובפרט יכולות AI, שבתורו משנה מהיסוד את משוואת הזמן בסייבר. כשמתקפות מתפתחות בקצב של מכונה, אי אפשר לבנות את ההגנה רק על מניעה ועל ההנחה שאדם יספיק לזהות, לנתח ולהגיב.
"המניעה נשארת קריטית, אבל בנקודה שבה אנחנו נמצאים היום היא כבר לא מספיקה בפני עצמה. ארגונים חייבים להוסיף שכבת הגנה רציפה, שמבינה מה קורה בפועל בסביבה ויודעת לפעול בזמן אמת - זו הדרך לאפשר לארגון למצות את פוטנציאל ה-AI מבלי להתפשר על הרציפות העסקית".
