ישראלים הצליחו להטעות אנטיוירוס מבוסס AI
איתור נוזקות באמצעות בינה מלאכותית אמור להיות העתיד של האנטיוירוסים. חברת Skylight Cyber, שהוקמה על-ידי ישראלים באוסטרליה, איתרה חולשה באחד המוצרים הבולטים בתחום - בעזרת משחק מחשב פופולרי
מוצרי אבטחת מידע מבוססי בינה מלאכותית
(AI) אמורים להיות אחד הדברים הגדולים הבאים בתחום הזה. במקום שחברת האבטחה תנתח קבצים מזיקים חדשים שמגיעים אליה, ותפיץ עדכונים למוצריה כך שיידעו להתמודד איתם, המוצרים האלה "אומנו" לזהות נוזקות בעצמם, גם אם אלה מעולם לא נראו קודם.
אין פתרון קל. אילוסטרציה(צילום: shutterstock)
אך אחת החברות המוכרות ביותר בתחום, Blackberry Cylance, נמצאת כעת במצב בעייתי. לראשונה, הצליחו חוקרי אבטחה למצוא מעקף אוניברסלי למוצר מבוסס AI, ומדובר דווקא במוצר שלה. החוקרים, מחברת Skylight Cyber שהוקמה על ידי ישראלים באוסטרליה, גילו שהוספה של קוד מקובץ השייך למשחק פופולרי לכל קובץ מזיק הופך את הקובץ לבטוח מבחינת Cylance.
איך זה קרה? האלגוריתם של Cylance אמנם מסתכל על מיליוני פרמטרים ומדרג אותם כדי להבין האם קובץ הוא בטוח או לא, אך יש בו הטיה. המתכנתים הגדירו קבוצות של קבצים כבטוחות, ככל הנראה כדי למנוע מהאלגוריתם לזהות את הקבוצות האלה כמזיקות. בין אלה היו גם משחקים פופולריים. ב-Skylight לא חושפים באילו מוצרים בדיוק מדובר, כדי לאפשר ל-Cylance לחסום את הפרצה.
כאשר החוקרים הוסיפו קוד מאחד מקבצי המשחק לתוך קובץ מזיק, הם גילו שהאנטיוירוס מדרג אותו כבטוח. הדבר עבד על כל נוזקה, כולל כאלה שהוגדרו בגרסה הלא-ערוכה שלהן כמזיקות. מנכ"ל Skylight, עדי אשכנזי, טען בראיון לאתר VICE כי יידרשו ל-Cylance הרבה זמן ומאמץ כדי לאמן מחדש את האלגוריתם של המוצר שלהם כך שלא יכלול הטיה המאפשרת לעבוד עליו.
ריאן פרמה, שהקים את Cylance והינו המדען הראשי של החברה, אמר ל-VICE שהחברה לא מסתמכת רק על ה-AI, וכי הוא מאמין שברגע שבו יידע את פרטי המעקף, ניתן יהיה לאמן את האלגוריתם מחדש מהר יחסית. אך כפי שאשכנזי עצמו ציין בריאיון, ההגדרה שהפכה את המעקף לאפשרי מלכתחילה נמצאת שם כי האלגוריתם כנראה לא הצליח להתמודד היטב עם משחקים, ואם הוא לא הצליח בעבר, כנראה שאין לזה פתרון קל.
מומלצים
