מתקפת הסייבר החריגה שביצעו סוכני הבינה המלאכותית של OpenAI ממשיכה לעורר הדים בתעשיית הטכנולוגיה, וכעת מגיעה גם אזהרה חריפה מצד חברת Hugging Face שהייתה היעד למתקפה. לדבריו של המייסד והמדען הראשי של החברה, תומס וולף: "זו קריאת השכמה לכל התעשייה. רוב החברות עדיין לא מבינות שחוקי המשחק השתנו".
את הדברים אמר וולף בריאיון ל-BBC, ימים ספורים לאחר ש-OpenAI חשפה כי במהלך מבחן פנימי הצליחו כמה מסוכני ה-AI המתקדמים ביותר שלה לפרוץ מסביבת בדיקה מבודדת, להתחבר לאינטרנט ולבצע מתקפת סייבר נגד Hugging Face בניסיון להשיג מידע שהיה אמור לסייע להם לעבור את המבחן.
עידן חדש בסייבר
לדברי וולף, האירוע מסמן את תחילתו של עידן חדש בתחום הסייבר. "זה הולך להפוך לאחד מסוגי מתקפות הסייבר הנפוצים ביותר שנראה בשנים הקרובות", אמר. "הבעיה היא שרוב החברות עדיין לא מבינות שחוקי המשחק השתנו".
לדבריו, כאשר הצוות של החברה זיהה באמצע חודש יולי פעילות חריגה ברשת של החברה, איש לא העלה בדעתו שמדובר במתקפה שמקורה במערכות מבוססות בינה מלאכותית. רק לאחר זמן קצר יצרה OpenAI קשר עם החברה והודיעה כי המודלים שלה הם האחראים לאירוע.
Hugging Face היא אחת הפלטפורמות החשובות בעולם בתחום הבינה המלאכותית. מיליוני מפתחים, חוקרים וחברות משתמשים בה כדי לשתף מודלים, מאגרי נתונים וכלי AI בקוד פתוח. החברה מתמודדת באופן קבוע עם ניסיונות פריצה, אך לדבריו של וולף, הפעם היה מדובר במשהו שונה לחלוטין.
בתוך זמן קצר זיהתה החברה לא פחות מ-17 אלף ניסיונות תקיפה שהגיעו ממגוון רחב של כתובות IP ברחבי העולם. הפיזור הרחב של כתובות האינטרנט הפך את האירוע למורכב במיוחד והקשה על חסימתו. למרות זאת, ב-Hugging Face הצליחו לבלום את המתקפה לפני שנגרם נזק משמעותי למערכות החברה.
תומס וולף
(Getty Images)
"המודלים התעלמו ממנגנוני ההגנה שלהם"
האירוע מדאיג מומחי אבטחת מידע לא רק בגלל עצם המתקפה, אלא בעיקר בגלל האופן שבו פעלו סוכני ה-AI. לדבריו של נייט סוארס, נשיא מכון Machine Intelligence Research Institute, לפי המידע שפורסם, נראה שהמודלים של OpenAI התעלמו ממנגנוני ההגנה שנועדו למנוע מהם לבצע פעולות התקפיות. "במובן מסוים, המודל הבין שזה לא מה שהיוצרים שלו התכוונו שיעשה, אבל פשוט לא היה לו אכפת".
אם ההערכה הזו נכונה, מדובר בשינוי משמעותי ביחס לאופן שבו נהוג היה לחשוב על מערכות AI עד היום. במקום להסתפק במענה להוראות המשתמש, סוכני AI עלולים לבחור בעצמם לעקוף מגבלות אם הם מזהים שהדבר יסייע להם להשיג את המטרה שהוגדרה להם.
ונראה שהאירוע כבר הגיע לשולחן של מקבלי ההחלטות. ממשלת בריטניה הודיעה לאחר האירוע כי המכון לאבטחת הבינה המלאכותית (AI Security Institute) בוחן בימים האלו את התנהגות הסוכנים במהלך המתקפה וכי הוא עובד באופן צמוד עם OpenAI וחברות נוספות כדי לחזק את מנגנוני ההגנה של המערכות הלאומיות במדינה.
הפרשה מגיעה בתקופה רגישה במיוחד עבור תעשיית הבינה המלאכותית. רק בחודש שעבר הורתה ממשלת ארה"ב לחברת אנת'רופיק להגביל זמנית את הגישה לחלק מהמודלים המתקדמים ביותר שלה, זאת בשל חששות לביטחון הלאומי. עם זאת, ההגבלות הוסרו כעבור מספר שבועות.
במקביל, במערב גוברים גם החששות מהפצה נרחבת של מודלי קוד פתוח סיניים. חברת Moonshot AI צפויה להשיק ב-27 ביולי את מודל Kimi K3, שכבר מעורר עניין רב בתעשייה ונחשב למועמד להתחרות במודלים המובילים של החברות האמריקאיות.
