הרשויות בסין פתחו בחקירה נגד "דיפסיק" (DeepSeek) ו-Moonshot AI, שתיים מחברות הבינה המלאכותית הבולטות במדינה, בחשד שהעבירו לקלוד של אנת'רופיק מידע ושאילתות של משתמשים סינים ללא ידיעתם. החקירה מגיעה לאחר שאנת'רופיק זיהתה פעילות חריגה בהיקף של עשרות מיליוני אינטראקציות עם הצ'אטבוט, שאותה היא מייחסת לשתי החברות הסיניות.
הסיפור מתחיל למעשה אצל אנת'רופיק, שעוקבת תדיר אחר ניסיונות של חברות מתחרות להשתמש במודל שלה לצורך אימון ושיפור של המודלים שלהן. במסגרת הבדיקות האלה היא זיהתה פעילות חריגה בהיקף עצום, שלטענתה הייתה קשורה לדיפסיק ול-Moonshot, החברה שעומדת מאחורי עוזר ה-AI "קימי" (Kimi).
לפי אנת'רופיק, שתי החברות הפעילו את קלוד מיליוני פעמים: הן שלחו אליו שאלות ומשימות, קיבלו ממנו תשובות והשתמשו בהן לכאורה כדי לשפר את המודלים שלהן. מדובר בשיטה המכונה "זיקוק" (Distillation), שבאמצעותה ניתן להשתמש בתשובות של מודל מתקדם כדי לאמן מודל אחר ולנסות להעביר אליו חלק מהיכולות שלו.
בסך הכול, אנת'רופיק מייחסת לשתי החברות יותר מ-35 מיליון אינטראקציות עם קלוד: יותר מ-23 מיליון ל-Moonshot ויותר מ-12 מיליון לדיפסיק. חשוב להדגיש כי המספר הזה אינו מייצג 35 מיליון שאילתות של משתמשים - מרבית הפעילות שאנת'רופיק מתארת קשורה לניסיונות להשתמש בקלוד לצורך שיפור ואימון המודלים הסיניים.
המשתמשים לא ידעו שקלוד עונה להם
אלא שבמהלך הבדיקה גילתה אנת'רופיק דבר נוסף, ורגיש הרבה יותר: לטענתה, לפחות בחלק מהמקרים Moonshot לא שלחה לקלוד רק שאלות שנועדו לצורכי אימון, אלא גם שאילתות אמיתיות של משתמשי קימי.
במילים אחרות, משתמש היה יכול לפתוח את קימי, להזין שאלה או לבקש ממנו לבצע משימה ולחשוב שהמידע שלו מעובד על ידי השירות הסיני. אלא שמאחורי הקלעים, לפי אנת'רופיק, חלק מהשאילתות הועברו לקלוד לצורך עיבוד, מבלי שהמשתמש ידע שהמודל האמריקני מעורב בתהליך.
באחת התקופות שבדקה אנת'רופיק, שנמשכה עשרה ימים בלבד, זוהו כמעט 300 אלף בקשות של משתמשי קימי שהועברו בדרך הזו לקלוד באמצעות אלפי חשבונות.
המשמעות במקרה הזה שונה לחלוטין מזיקוק רגיל. כאשר חברה מייצרת בעצמה מיליוני שאלות ושולחת אותן לקלוד כדי ללמוד מהתשובות שלו, מדובר בעיקר במאבק בין חברות AI סביב תנאי שימוש, קניין רוחני ואימון מודלים. אבל כאשר בקשה שמשתמש אמיתי הזין לשירות סיני מועברת למערכת של חברה אמריקנית ללא ידיעתו, מתעוררות גם שאלות של פרטיות, הסכמה והעברת מידע בין מדינות.
Kimi K2 של מונשוט AI
(צילום מסך)
ואז הגיע המידע הרגיש
הבעיה הפכה חמורה עוד יותר כאשר אנת'רופיק בדקה איזה מידע הגיע אל קלוד, כאשר באחד המקרים שחשפה החברה, משתמש בקימי ביקש סיוע בניתוח מידע ממערכת מעקב שכללה מאות מצלמות בעיר צ'נגדו. בין היתר כללה המערכת מצלמות שהוצבו מחוץ למתקנים של צבא השחרור העממי של סין ולמוסדות הקשורים לתעשייה הביטחונית.
המשתמש, לפי אנת'רופיק, לא ידע שהבקשה שהזין לקימי הועברה בפועל לקלוד. כך נוצר מצב שבו מידע הקשור למערכת מעקב בקרבת מתקנים צבאיים סיניים הגיע לעיבוד אצל מודל של חברה אמריקנית. וזה כבר עניין רגיש במיוחד מבחינת בייג'ינג. סין מפעילה כללים מחמירים בנוגע להעברת מידע אל מחוץ למדינה, במיוחד כאשר מדובר במידע שעשוי להיות קשור לביטחון לאומי, למוסדות ממשלתיים או לחברות אסטרטגיות.
על הרקע הזה פתח מינהל הסייבר של סין (CAC) בחקירה נגד דיפסיק ו-Moonshot. לפי הדיווחים, מנהלים ועובדים משתי החברות זומנו לתשאול, והרשויות מנסות כעת להבין כיצד בדיוק נעשה השימוש בקלוד ומה היקף המידע שהועבר אליו.
אחת השאלות המרכזיות שנבדקות היא האם המשתמשים ידעו שהשאילתות שלהם עשויות לצאת מהמערכות הסיניות ולהגיע לשירות חיצוני. הרגולטור בוחן גם איזה סוג מידע הועבר, כיצד הוא נותב לקלוד והאם החברות הפרו את החוקים הסיניים הנוגעים להעברת מידע אל מחוץ למדינה.
במקביל, נבדק גם השימוש שעשו החברות בקלוד לצורך אימון המודלים שלהן. מבחינת אנת'רופיק, מדובר בניסיון לעקוף את ההגנות שהציבה ולנצל את היכולות של המערכת כדי לפתח מודלים מתחרים. מבחינת הרשויות בסין, לעומת זאת, השאלה הרגישה יותר היא מה קרה למידע של המשתמשים הסינים.
ליאנג וונפנג, מנכ"ל דיפסיק
(צילום: Chinatalk Media, Sohu)
עיתוי רגיש
החקירה מגיעה בעיתוי רגיש במיוחד עבור דיפסיק. החברה אמורה לתדרך השבוע את מועצת הביטחון של האו"ם בנושא הסיכונים שמציבה הבינה המלאכותית לביטחון הבינלאומי, כאשר גם Moonshot הוזמנה להשתתף בדיון.
לפי רויטרס, מייסד דיפסיק, ליאנג וונפנג (Liang Wenfeng), אינו צפוי להשתתף בעצמו. כך נוצר מצב מעט אירוני שבו אחת מחברות ה-AI הבולטות בסין מגיעה לדיון בינלאומי שעוסק בסיכונים הביטחוניים של הטכנולוגיה, בזמן שהרשויות במדינתה בודקות כיצד היא עצמה השתמשה במודל אמריקני.
אבל הפרשה גדולה יותר מדיפסיק או Moonshot. סין משקיעה בשנים האחרונות משאבים עצומים בניסיון לבנות תעשיית בינה מלאכותית עצמאית ולהפחית את התלות שלה בטכנולוגיה אמריקנית, החל משבבים ותשתיות מחשוב ועד שימוש במודלי AI אמריקניים.
אם יתברר שחלק מהחברות הבולטות בתעשייה הסינית הסתמכו בהיקף נרחב על קלוד כדי לשפר את המודלים שלהן, ובמקרים מסוימים אף ניתבו אליו שאילתות של משתמשים ללא ידיעתם, עולה שאלה הרבה יותר גדולה עבור בייג'ינג: עד כמה תעשיית הבינה המלאכותית הסינית באמת יכולה להתנתק מהטכנולוגיה האמריקנית.
