הזלזול בזכרון הנרצחים: ממשלת גרמניה ומוסדות המנציחים את קורבנות השואה דורשים מרשתות חברתיות לעצור את הפצתן של תמונות מזויפות, שלדבריהם מעוותות את ההיסטוריה ומקלות ראש במשמעותה.
אתרי הנצחה ומרכזי תיעוד של מחנות ריכוז הביעו השבוע דאגה עמוקה, במכתב ששלחו, נוכח גל של מה שמכונה "AI Slop" - תמונות מסולפות שנוצרו בבינה מלאכותית העוסקות בשואה. בין היתר הופצו איורים רגשניים במיוחד של אירועים בדויים, כגון מפגשים מומצאים בין אסירי מחנות ריכוז למחלציהם או ילדים מאחורי גדרות תיל.
“תוכן שנוצר בבינה מלאכותית מעוות את ההיסטוריה באמצעות הפיכתה לשטחית", נכתב במכתב הארגונים. עוד נאמר כי תמונות כאלה תורמות לאובדן האמון של גולשים במסמכים היסטוריים אותנטיים.
שר התרבות והתקשורת של גרמניה, וולפראם ויימר, אמר כי הוא תומך במאמצי מוסדות ההנצחה לחייב סימון ברור של תכנים שנוצרו בבינה מלאכותית, ובמידת הצורך - להסירם מהרשת. “זהו עניין של כבוד למיליוני בני אדם שנרצחו ונרדפו תחת משטר הטרור הנאצי", כתב ויימר בהודעת דואר אלקטורני לסוכנות הידיעות רויטרס.
במקביל, גם חברות בינה מלאכותית – ובראשן xAI של אילון מאסק, המפעילה את הצ’אטבוט Grok – נמצאות תחת לחץ בעקבות הפצה מקוונת של אלפי דיפ-פייקים מיניים.
מוסדות ההנצחה ציינו כי חלק מהתמונות שנוצרו על ידי בינה מלאכותית נועדו לייצר תשומת לב ולהניב רווחים, וחלקן נועדו "לטשטש עובדות היסטוריות, לשנות את תפקידי הקורבן ומבצע העבירה, או להפיץ שקרים המסלפים את ההיסטוריה".
בין המוסדות החתומים נמנים מרכזי הנצחה של מחנות ברגן-בלזן, בוכנוואלד, דכאו ואחרים, שבהם נרצחו יהודים וכן בני קבוצות נוספות, ובהן צוענים וסינטים, הומוסקסואלים ואנשים עם מוגבלויות.
לדבריהם, על הרשתות החברתיות לפעול באופן יזום נגד הפצת דימויים מזויפים של השואה שנוצרו בבינה מלאכותית, ולא להמתין לדיווחי משתמשים, תוך סימון ברור של התכנים ומניעת האפשרות להפיק מהם רווחים.
הפצת "AI Slop" באיכות נמוכה - הכוללת טקסטים, תמונות או סרטונים מזויפים - מעוררת דאגה בקרב מומחים רבים, החוששים כי היא תזהם את מרחב המידע האמין ותהפוך את ההבחנה בין אמת לשקר לקשה יותר ויותר.
