מתקפת הזיקוק של חברות סיניות על מודלי הבינה המלאכותית (LLM) הענקיים של אנתרופיק האמריקאית היא לא פחות מדחיפת אצבע סינית לעין האמריקאית. היא עולה לאמריקאים המון כסף, היא מסוכנת לביטחון הלאומי שלהם, אבל היא בעיקר חצופה ביותר. קשה לראות כיצד נשיא ארה"ב טראמפ יוכל להתעלם מהאירוע הזה. קשה לראות את נשיא סין, שי ג'ינפינג, מתחמק מזה.
מה בעצם קרה?
חברת ה-AI אנתרופיק פרסמה אתמול (ב') מאמר טכני באתר שלה ובו דיווחה שגילתה ששלושת "נמרי ה-AI", כמו שמכונות ענקיות ה-AI הסיניות דיפסיק (DeepSeek), מינימקס (MiniMax) ו- Moonshot, "מזקקות" את מודלי ה-AI שלה, כלומר קוצרות מידע לצורך פיתוח מודלי ה-AI שלהן.
המאמר הזה הופץ על ידי אנתרופיק בחשבונות המדיה החברתית שלה, וכצפוי בתוך דקות זה עלה בכל כלי התקשורת והפך לנושא החם האחרון שמסעיר את העולם. או לפחות את העולם שעוסק בטכנולוגיה ו-AI.
למה זו בעיה?
"זיקוק" (Distilling) של מודל AI, פירושו שידע שפותח על ידי טובי המומחים בעולם לאורך אלפי שעות עבודה ובהשקעה של מיליארדי דולרים, מועבר בקלות ובמהירות לידי הגורם המזקק. או במילים אחרות - נגנב. זה אומר ש"רגע הדיפסיק", שכולנו התרגשנו ממנו בתחילת 2025 כשהחברה הציגה מודל AI חזק כמו GPT של OpenAI, היה הונאה אחת גדולה (כמו שלא מעט מומחים חשדו בזמנו).
כן, דיפסיק עשתה את זה במהירות רבה ותוך שימוש בשבבי AI מעטים ומיושנים, אבל זה הצליח לה כי היא פשוט העתיקה. זה אומר שהפער הטכנולוגי בין ארה״ב לסין מצטמצם באמצעות פעולות לא חוקיות. זה גם אומר שסין עוקפת את מגבלות יצוא השבבים של טראמפ גם על ידי גניבת המוצרים (מודלי AI) וגם על ידי גניבת מכונות הייצור (שבבים).
אבל הסכנות חמורות אפילו כשמדובר בשימוש ב-AI הגנוב. בעוד החברות האמריקאיות משקיעות משאבים רבים בבניית "מעקות בטיחות" סביב ה-AI כדי שלא יעשה בו שימוש לרעה, ה-AI שנגנב בתהליך הזיקוק מכיל מידע חסר מעצורים.
הוא יכול לשמש לפיתוח מתקפות סייבר שלא ניתן לחסום, לפיתוח נשק ביולוגי, לשיגור קמפיינים להשפעה על תודעה ועל מערכות בחירות, או לביצוע מעקב המוני אחרי בני אדם. כל היכולות המסוכנות שעליהן התריעו מומחי ה-AI בשנים האחרונות, נמצאות עכשיו בידיים סיניות.
איך החברות הסיניות עשו את זה?
לפי הפוסט שפרסמה אנתרופיק, החברות הסיניות פתחו יותר מ 24,000 חשבונות משתמשים מזויפים בתשלום במערכת "קלוד" (Claude) של החברה, ובאמצעותם ניהלו יותר מ-16 מיליון שיחות עם הצ'אטבוט. במהלך השיחות האלה הם "דובבו" אותו שוב ושוב וחלבו ממנו כל בדל מידע. במקביל הם חשפו את תהליך המחשבה שלו, כדי לחקות אותו.
טכניקת הזיקוק משמשת מפתחי AI רבים בעולם ליצירת מודל AI חדש ("תלמיד") על בסיס הידע עליו אומן המודל המקורי ("מורה"). בהנחה כמובן שהמורה אומן על ידם. כך למשל חברות ה-AI מייצרות את הגרסאות המהירות והזולות יותר של המודלים שלהן. אלא שהחברות הסיניות הפרו את זכויות היוצרים של החברות האמריקאיות, פעלו בניגוד לתנאי השירות ועשו את זה בקנה מידה עצום.
החברות הסיניות הפרו את זכויות היוצרים של החברות האמריקאיות, פעלו בניגוד לתנאי השירות, ועשו את זה בקנה מידה עצום
וככה זה עובד: התוקף שולח למודל החזק מיליוני פרומפטים (שאלות, הנחיות, הוראות) ואוסף בדקדקנות את התשובות, ההסברים, תהליכי ההסקה, שרשראות המחשבה (chains‑of‑thought), דוגמאות הקוד ועוד ועוד.
הנה דוגמה לפרומפט כזה: "אתה אנליסט נתונים מומחה, המשלב קפדנות סטטיסטית עם ידע מעמיק. המטרה שלך היא לספק תובנות מבוססות נתונים אמיתיים שנתמכות על ידי הנמקה מלאה ושקופה". הפרומפט הזה נשלח עשרות אלפי פעמים מחשבונות במדינות שונות, שמתחזים להיות משתמשים תמימים.
בתהליך הזה נוצרים זוגות אימון - הנחייה-תגובה - ומיליוני הזוגות יוצרים מאגר דאטה מאומן, כמעט זמין לשימוש מידי. זו לא העתקה של נתונים ותשובות, זו העתקה של דרך המחשבה והיצירתיות של המודל.
בסיום התהליך, התוקף מעביר את מודל התלמיד תהליך "למידת חיזוקים" כדי לוודא שהוא עקבי ונראה חכם כמו המורה. ושיא החוצפה: התוקפים השתמשו בקלוד עצמו כדי לשפר את הביצועים את המודלים שלהם.
היקף התופעה
אנתרופיק כבר הוכיחה שהיא טובה ביצירת סערות תקשורתיות, אבל במקרה הזה היא לא הנפגעת היחידה. גוגל כבר דיווחה על מתקפות, כולל מצד דיפסיק, ששיגרו אליה מעל 100,000 פרומפטים בקמפיין אחד, בניסיון לשכפל את ג'מיני.
גם OpenAI דיווחה על ניסיונות דומים מצד דיפסיק. במזכר ששלחה לקונגרס האמריקאי היא טענה שדיפסיק משתמשת בשיטות זיקוק כדי להעתיק מודלי AI אמריקאיים מתקדמים, כולל מודלים שלה. החברה הדגישה: "ההתקדמות המהירה של דיפסיק נובעת מהשענות על היכולות שפותחו על ידי OpenAI ומעבדות AI אחרות בארה"ב".
רק במאי 2025 אמר אחד ממייסדי אנתרופיק, ג'ק קלארק, שדיפסיק מפגרת בין שישה לשמונה חודשים אחרי חברות ה-AI האמריקאיות ושההייפ סביבה "קצת מוגזם". הוא הוסיף עוד שלפי בדיקות פנימיות של אנתרופיק, דיפסיק אינה מהווה מתחרה רצינית או סיכון ביטחוני לאומי. איך שגלגל מסתובב.
מה יקרה עכשיו?
כל חברות ה-AI האמריקאיות דיווחו שהן יצרו מנגנוני סינון, שנועדו למנוע זיקוק של המודלים שלהם. המנגנונים האלה מזהים התנהגות חריגה בשימוש בקריאות API למודל שלהן, ויש גם שיתוף פעולה בין החברות בזיהוי המתקפות.
אבל זה כנראה לא יספיק. דיפסיק אמורה להשיק בקרוב את המודל V4, שלפי ההצהרות אמור לעלות על קלוד של אנתרופיק ועל ChatGPT של OpenAI. גם Moonshot הוציאה ממש לאחרונה את מודל Kimi K2.5 שמצטיין ביכולות כתיבת קוד. וכל זה נעשה תוך ניצול היכולות האמריקאיות.
"הכלים הסיניים הולכים וגדלים בעוצמתם וברמת התחכום שלהם", ציינה אנתרופיק, "חלון הפעולה צר, והאיום הוא רחב יותר מחברה בודדת. התמודדות איתו תדרוש פעולה מהירה ומתואמת בין גורמים בתעשייה, קובעי מדיניות וקהילת ה-AI העולמית".
האיום הוא ממש לא רק טכנולוגי
אבל יותר מזה, נראה שההיבט הגיאופוליטי הולך להכתיב את הטון. ממשל טראמפ רואה בסין איום אמיתי, גם כלכלי וגם בטחוני. כדי לשמור על העליונות הטכנולוגית של ארה"ב, נקבעה מדיניות הגבלת הייצוא שלה. עכשיו מתברר שהסינים עקפו אותה בקלילות, והעבירו לידיהם טכנולוגיה שמסכנת את ארה"ב ואת העולם החופשי.
אפשר לנחש, שמדיניות הממשל לאחרונה, להתיר לחברות אמריקאיות כמו אנבידיה לייצא שבבי AI לסין, עתידה להשתנות. אנתרופיק דורשת במפורש לאסור יצוא שבבים שכן "ביצוע חילוץ מודלים בקנה מידה גדול כזה דורש גישה לשבבים מתקדמים".
מצד שני, חייבים להבין כמה מתקדמות היכולות של המפתחים הסיניים בבניית יכולות AI בתנאים לא מיטביים, גם אם הם מצליחים בדרכים לא דרכים להגניב למדינה כמה יחידות של שבבים מתקדמים. זה מעיד בעיקר עד כמה הממשל הסיני נחוש להוביל.
5 צפייה בגלריה
מימין: אילון מאסק, מנכ"ל גוגל סונדאר פיצ'אי, ג'ף בזוס, ומארק צוקרברג בהשבעה של טראמפ.
(צילום: Saul Loeb, Reuters)
ועוד לא אמרנו כלום על תגובתה של וול סטריט. אירוע דיפסיק כזכור הפיל בזמנו את מניות חברות ה-AI. המשקיעים דאגו שכל ההשקעות העצומות בפיתוח AI לא היו דרושות מלכתחילה. האירוע הנוכחי מוכיח את ההיפך וזה חיובי מצד אחד, אבל מצד שני גם מוכיח שלא שמרו על היכולות כיאות ואולי המודל הכלכלי של חברות ה-AI נשבר.
שילוב אינטרסים כלכליים וצבאיים הוא אף פעם לא רעיון טוב. התחרות מול סין בתחום ה-AI הייתה מנוע מרכזי בהלהבת משקיעים להיכנס להשקעה בחברות ה-AI. הפחד שסין תגיע ראשונה ל-AGI, הבינה המלאכותית הסופר-אינטליגנטית, נתפס כחלק מטרנד ההשקעה בטכנולוגיות ביטחון וצבא.
השאלה הגדולה כעת היא מה יחשוב על כל זה עכשיו הנשיא טראמפ ומה ייעצו לו ידידיו, ראשי חברות הטק והבינה המלאכותית הגדולות, בהם אנשים כמו מארק צוקרברג, סונדאר פיצ'אי, אילון מאסק וסם אלטמן.
