מכון מחקר ישראלי, מאמרים אקדמיים, רשימת מומחים שכללה את נועם חומסקי ופרנסיס פוקויאמה ומדד בינלאומי שהחמיא במיוחד לרוסיה: על הנייר, הכל נראה לגיטימי. בפועל, לפי OpenAI, מדובר היה בחלק ממבצע השפעה פרו-רוסי חשאי, שעשה שימוש ב-ChatGPT כדי לייצר ולהפיץ תכנים התומכים ברוסיה ותוקפים את אוקראינה ואת האיחוד האירופי.
OpenAI הודיעה כי חסמה שורה של חשבונות ChatGPT שהיו חלק מהמבצע, לאחר שזיהתה ברשת תכנים שנוצרו באמצעות הכלים שלה. הפוסטים והתגובות הופצו בין היתר ב-X, פייסבוק, לינקדאין, טלגרם ו-Substack, והובילו את חוקרי החברה אל החשבונות שעמדו מאחוריהם.
המפעילים עצמם פעלו ככל הנראה מרוסיה, שם הגישה ל-ChatGPT מוגבלת, ולכן הם השתמשו בשירותי VPN כדי לעקוף את החסימות ולהסתיר את מיקומם. השיחות עם ChatGPT התנהלו ברוסית, אבל ההוראות שניתנו לו היו מפורטות בהרבה מסתם "כתוב פוסט שתומך ברוסיה".
בין היתר, המפעילים ביקשו מהמודל לייצר תגובות ומאמרים שמשבחים את רוסיה ומבקרים את אוקראינה ואת האיחוד האירופי, תוך הקפדה על ניסוחים שלא יסגירו כי מי שעומד מאחוריהם הוא דובר רוסית. כלומר, הבינה המלאכותית לא שימשה רק ליצירת כמויות גדולות של תוכן, אלא גם ככלי שנועד לטשטש את טביעת האצבע הלשונית של מפעילי הקמפיין.
מכון ישראלי שלא באמת קיים
החלק המעניין יותר במבצע היה התשתית שנבנתה מסביב לתוכן. במקום להסתפק בפרופילים אנונימיים שמפיצים מסרים ברשת, המפעילים הקימו גוף שהציג את עצמו לסירוגין כ-International Anti-Corruption Institute (IAAI) וכ-International Burke Institute (IBI).
לפי הפרטים שנחשפו, המכון הציג את עצמו כגוף שנוסד בישראל, והחזיק אתר שנראה במבט ראשון כמו אתר של מכון מחקר לגיטימי, עם מאמרים, מחקרים, מומחים ומדדים בינלאומיים. לפי דיווח של כלי תקשורת גרמני, מאחורי אותו "מכון" עמדו גורמים בעלי קשרים לממשל הרוסי.
האתר של המכון, שהופיע בפברואר 2025, טען בין היתר כי בין המומחים המזוהים עם המכון נמצאים שמות מוכרים כמו פרנסיס פוקויאמה ונועם חומסקי. אלא שבדיקה של התכנים העלתה כי 34 מתוך 36 מאמרים שיוחסו לדמויות ולאנשי אקדמיה שונים הועתקו למעשה ממקורות אחרים.
האתר המזויף של רשת ההשפעה הרוסית
(OpenAI)
באחד המקרים, למשל, פורסם באתר מאמר על פרויקט התשתיות והסחר הענק שמחבר בין סין ופקיסטן שהועתק מ-Cambridge University Press, אך הוצג תחת ייחוס אחר. לצד המאמרים הופיע גם "מדד ריבונות", שהציג את רוסיה באופן חיובי במיוחד, בזמן שמדינות מערביות כמו ארצות הברית, גרמניה וצרפת, כמו גם האיחוד האירופי, קיבלו ציונים נמוכים יותר.
כך נוצרה למעשה מערכת שלמה שנועדה להעניק לגיטימציה למסרים כוזבים שהופצו ברשת. פוסט או תגובה לא היו צריכים להיראות כמו תעמולה רוסית, אלא יכלו להפנות ל"מחקר" או לניתוח של גוף בעל שם בינלאומי, אתר מקצועי ורשימת מומחים מרשימה.
לא הרבה קוראים, אבל זו לא הנקודה
באופן מעניין, OpenAI לא טוענת שמבצע ההשפעה הזה הצליח להגיע לקהל עצום. להפך: לפי הערכת החברה, החשיפה הישירה של התכנים הייתה מוגבלת יחסית. אלא שדווקא התשתית שנבנתה סביבו היא זו שהדליקה נורה אדומה. האירוע מדגים כיצד כלי AI יכולים להוזיל ולהאיץ משמעותית את הקמתו של מערך השפעה שלם.
כך, במקום להשתמש בחשבונות מזויפים או אפילו בוטים, ניתן להשתמש בבינה מלאכותית כדי לייצר מאמרים, תגובות ותכנים בהיקף גדול, ולשלב אותם עם אתרים וגופים לכאורה עצמאיים שמעניקים למסרים שכבה נוספת ומתוחכמת במיוחד של אמינות.
במקרה הזה ChatGPT סייע למפעילים לשמור על נפח גבוה של פרסומים ועל מסרים עקביים, ובמקביל לנסח אותם באופן שלא יסגיר את מוצאם. השילוב בין תוכן שנוצר במהירות לבין אתר שנראה אקדמי אפשר להפוך מסר פוליטי לכזה שלכאורה מגיע ממקור מקצועי ובלתי תלוי.
דוגמה לפעילות של רשת ההשפעה הרוסית ברשתות החברתיות
(OpenAI)
OpenAI מסרה כי בעקבות החקירה היא חסמה את הפעילות והשעתה את החשבונות שעמדו מאחורי מבצע ההשפעה הזה. לפי CNBC, המבצע זוהה על ידי עובד OpenAI בן נימו, שמוביל בחברה צוות העוסק באיתור קמפיינים שעושים שימוש לרעה בבינה מלאכותית לצורכי דיסאינפורמציה.
לא הפעם הראשונה
זו גם לא הפעם הראשונה שבה OpenAI נתקלת בגורמים פרו-רוסיים שמשתמשים ב-ChatGPT לצורכי השפעה. רק בחודש פברואר האחרון חסמה החברה חשבונות שהיו קשורים ל-Rybar, גוף תקשורת פרו-רוסי שממשלת בריטניה תיארה כמי שפועל בתיאום עם הממשל הרוסי, מקבל מימון מתאגיד Rostec שבשליטת המדינה ומקיים קשרים עם שירותי המודיעין הרוסיים.
גם חברות וחוקרים אחרים מזהים את אותה המגמה - גוגל דיווחה על עלייה בשימוש של גורמים פרו-רוסיים בכלי AI לצורכי מחקר, תכנון ויצירת תוכן במסגרת מבצעי השפעה, בעוד מחקר של חברת Graphika מצא שימוש בתוכן שנוצר באמצעות בינה מלאכותית הן מצד גורמים רוסיים והן מצד גורמים סיניים.
במקביל, גם הרשתות החברתיות מנסות להתמודד עם הכמות הגדלה של תוכן סינתטי שעולה בהן. פלטפורמות כמו יוטיוב, לינקדאין וסנאפצ'ט כבר החלו להפעיל מנגנונים שונים לסימון, דיווח או צמצום החשיפה לתוכן AI, במיוחד כזה המקדם פייק ניוז ודיסאינפורמציה.
רשתות חברתיות
(Getty Images)
מארגון המחקר "פייק ריפורטר" נמסר: "גורמים בעלי אינטרס פוליטי יכולים כיום להשתמש בבינה מלאכותית כדי ליצור מראית עין של סמכות ואותנטיות, לזייף תמיכה ציבורית ולשבש את דעת הקהל. לצערנו, השיטה הזו לא זרה לזירה הישראלית. עם הבחירות מתקרבות, התרחיש הזה הופך להיות מדיון תיאורטי לסכנה לאומית מיידית.
"בהקשר המקומי, אנחנו נכנסים למערכת הבחירות הראשונה בישראל בעידן ה-AI. הטכנולוגיה הזו מאפשרת לייצר, בקנה מידה ובמהירות חסרי תקדים, תוכן שמותאם אישית לכל קבוצת אוכלוסייה ולעתים לכל משתמש בנפרד. זו לא עוד תעמולה, כפי שהכרנו בעבר, אלא כלי נשק דיגיטלי משוכלל שיכול לשבש את דעת הקהל מבלי שהציבור בכלל מודע לכך שהוא נחשף לקמפיין מתוכנן היטב.
"המערכות שאמורות להגן על השיח הדמוקרטי - רגולציה, פיקוח על פלטפורמות, כלים לזיהוי תוכן מזויף - עדיין לא מותאמות לקצב ולתחכום של הטכנולוגיה הזו. ככל שמתקרבים למועד הבחירות, הפער הזה הופך למסוכן יותר".
