בזמן שחברות הטכנולוגיה הגדולות ממשיכות למכור לעולם את חלום הבינה המלאכותית היצירתית, דוח חדש של ארגון CyberWell מציג גם את הצד האפל של המהפכה. לפי המחקר, כלי AI הפכו בשנה האחרונה למנוע מרכזי בהפצה המונית של תוכן אנטישמי ברשתות החברתיות, כולל סרטונים, שירים, תמונות ותכנים שנועדו במיוחד לקהלים צעירים וילדים.
הקשר שבין AI לאנטישמיות
הדוח, שמוגדר כמחקר ראשון מסוגו, בדק את הקשר בין שימוש לרעה בכלי AI גנרטיביים לבין הפצת אנטישמיות ברשתות החברתיות, ובחן גם כיצד הפלטפורמות עצמן מתמודדות עם התופעה.
לפי הנתונים, במהלך תקופה של 13 חודשים, שהתאפיינה בעלייה מהירה בפופולריות של כלי יצירת תמונות, וידאו ואודיו באמצעות AI, חלה התפשטות משמעותית של תוכן אנטישמי שנוצר באמצעות הכלים האלה.
במאגר הנתונים של CyberWell אותרו יותר מ-300 פריטי תוכן אנטישמי שנוצרו באמצעות AI, שהגיעו יחד ליותר מ-30 מיליון צפיות וליותר מ-2.8 מיליון אינטראקציות ברשתות החברתיות המרכזיות.
המחקר ניתח מאות פוסטים אנטישמיים שנוצרו באמצעות AI בין ינואר 2025 לפברואר 2026, ומצא שכלים פופולריים ונגישים כמו Veo של גוגל, סורה של OpenAI (שמאז נגנזה על ידי החברה, ד"ג), גרוק של xAI ואפילו כלי יצירת השירים Suno, שימשו ליצירת תוכן אנטישמי בוטה.
לפי הנתונים, התכנים שילבו בין ויזואליה, אודיו ונרטיבים מומצאים לבין קטעים מאירועי אמת, מה שהפך אותם לאמינים יותר, מושכים יותר וקשים יותר לזיהוי. חלק גדול מהתוכן עסק בהכחשת שואה ובהצגתה באופן לעגני, כאשר חלק מהתכנים כוונו במיוחד לילדים.
עלייה חדה בתוכן אנטישמי
המחקר מצא עוד כי 79% מהתוכן האנטישמי שנבדק הופיע בפלטפורמות מבוססות וידאו כמו טיקטוק, אינסטגרם ויוטיוב. לפי הנתונים, סרטונים קצרים היו הדומיננטיים ביותר, ופעמים רבות כוונו כאמור לקהל צעיר דרך קהילות גיימינג, תוכן סאטירי וטרנדים ויראליים.
עוד נמצא כי תכני AI מבוססי מוזיקה וגיימינג, כולל תכנים הקשורים למשחקי מחשב כמו רובלוקס ומיינקראפט שימשו שוב ושוב להטמעת מסרים אנטישמיים במרחבים שפונים לילדים ובני נוער.
לפי CyberWell , אמנם תוכן אנטישמי מבוסס AI היה קיים עוד לפני מתקפת 7 באוקטובר, אך לאחר מכן נרשמה עלייה חדה בחשיפה ובהפצה שלו. בעקבות הזינוק הזה החל הארגון לנטר באופן שוטף את התופעה.
עם זאת, נקודת מפנה משמעותית נוספת התרחשה במהלך העימות ביוני 2025 בין איראן, ישראל וארה"ב. מאז זוהתה עלייה חדה ומתמשכת בהפצת תוכן אנטישמי מבוסס AI בין הפלטפורמות השונות.
"מערכות בינה מלאכותית שינו באופן יסודי את קנה המידה והמהירות שבהם ניתן לייצר ולהפיץ אנטישמיות ברשת", אמרה מנכ"לית ומייסדת CyberWell, טל-אור כהן מונטמאיור. "כיום ניתן לייצר תכני שנאה בהיקפים תעשייתיים ולהגיע למיליוני אנשים, כאשר האכיפה מגיעה לרוב רק לאחר שהתוכן כבר הופץ בהיקף רחב".
נתונים מדאיגים
בדוח מופיעים גם נתונים מדאיגים במיוחד על סוגי התוכן עצמם - 33% מהתוכן כלל האדרה או קריאה לאלימות נגד יהודים, ותכנים אלה יצרו 41% מכלל האינטראקציות. בארגון טוענים כי הנתון הזה מעיד שהתוכן הקיצוני ביותר הוא גם זה שמתפשט במהירות הרבה ביותר ומגיע לקהלים הרחבים ביותר. בנוסף, נמצא כי תוכן אנטישמי אלים מופיע בשיעור כפול בתכנים שנוצרו באמצעות AI לעומת תוכן שנוצר בידי משתמשים רגילים.
הדוח מצביע גם על פערים משמעותיים באכיפה בין הפלטפורמות השונות. לפי הנתונים, טיקטוק הייתה אחראית לחלק הגדול ביותר מהתוכן האנטישמי שנבדק, עם 36%, אך גם הציגה את שיעור האכיפה הגבוה ביותר.
מהנתונים עלה עוד כי טיקטוק ואינסטגרם הציגו שיעורי הסרה גבוהים משמעותית מהממוצע שלהן ביחס לפוסטים אנטישמיים, ככל הנראה בגלל מדיניות מפורשת לטיפול בתוכן שנוצר באמצעות בינה מלאכותית.
מנגד, יוטיוב של גוגל ו-X של אילון רשמו שיעורי הסרה נמוכים במיוחד, 28 ו-20 אחוזים בהתאמה, ואינן מחזיקות במדיניות מפורשת דומה להסרה של תכנים פוגעניים שנוצרו באמצעות בינה מלאכותית.
בארגון מדגישים כי גם כאשר התוכן מוסר בסופו של דבר, האכיפה מתעכבת פעמים רבות, מה שמאפשר לתכנים לצבור מאות אלפי ואף מיליוני צפיות לפני שהם נעלמים מהרשת.
"על הפלטפורמות להתקדם מעבר לשקיפות בלבד ולהשקיע במערכות שמסוגלות לזהות נרטיבים מזיקים בקנה מידה רחב, לרבות כאלה שמוטמעים בתוך אודיו, ויזואליה ושפה מקודדת שמצליחה לחמוק ממנגנוני זיהוי מסורתיים", טוענת כהן מונטמאיור.
CyberWell היא עמותה עצמאית שפועלת למאבק בהפצת אנטישמיות ברשת ברמה הגלובלית. מערכות הבינה המלאכותית של הארגון מנטרות תוכן באנגלית ובערבית ברשתות החברתיות לצורך איתור פוסטים שמפיצים אנטישמיות, הכחשת שואה וקריאות לאלימות נגד יהודים ובעלי בריתם, בהתאם להגדרה של הברית הבינלאומית לזיכרון השואה (IHRA) לאנטישמיות.
לצד ניטור התוכן, אנליסטים של הארגון בוחנים ומדווחים על הפוסטים לצוותי המודרציה של הפלטפורמות, ובמקביל מקטלגים את כלל התכנים המאומתים במאגר פתוח של פוסטים אנטישמיים ברשתות החברתיות.
