גורמי מודיעין ואבטחה בארצות הברית מזהירים מפני קפיצת מדרגה דרמטית ומסוכנת בלוחמת התודעה ברשת: לראשונה, מדינות כמו איראן וסין, לצד חברות פרטיות מישראל, החלו להפעיל קמפיינים אוטונומיים לחלוטין של בינה מלאכותית ברשתות החברתיות. מדובר ב"צבאות בוטים" מסוג חדש לחלוטין, שאינם זקוקים עוד למפעיל אנושי ברקע. הם פותחים בעצמם פרופילים מזויפים, מייצרים תכנים, מגיבים לגולשים ומלהיטים את הדיון הציבורי ב-X, אינסטגרם, פייסבוק וטיקטוק, כמעט ללא מגע יד אדם.
החשיפה, שפורסמה ב"ניו יורק טיימס", מעוררת דאגה בוושינגטון, שם חוששים יותר מכל כי הטכנולוגיה החדשה תופנה באופן נרחב כדי להטות את דעת הקהל האמריקנית לקראת בחירות האמצע לנשיאות ולקונגרס בנובמבר. אם בעבר קמפיינים של השפעה זרה נדרשו להעסיק צוותים שלמים של "טרולים" או מפעילים אנושיים שחיברו טקסטים וניהלו חשבונות, הרי שכעת השילוב בין מודלי בינה מלאכותית בקוד פתוח לבין "סוכני AI" מאפשר להריץ מבצעי השפעה בהיקף חסר תקדים ובמינימום מאמץ.
גלריה
לחמינאי ושי יש כבר צבאות בוטים, ובארה"ב חוששים
(צילום: shutterstock, Aaron Schwartz / AFP, Evan Vucci/POOL/AFP)
לפי הדיווח, הגורמים שעמדו מאחורי מהלכי ההשפעה השתמשו במודלי בינה מלאכותית עוצמתיים בקוד פתוח שהגיעו מסין. מודלים אלה פתוחים לכל דורש להורדה ולשינוי, ובכך הם שונים באופן מהותי ממערכות סגורות של חברות אמריקניות כמו OpenAI, שפיתחה את ChatGPT, או אנתרופיק, מפתחת קלוד. בעוד חברות ענק יכולות להתערב ולחסום משתמשים המנצלים את המודלים הסגורים שלהן לרעה, מודלים בקוד פתוח מורדים ישירות לשרתים וציוד מחשוב פרטי. כתוצאה מכך, לשום חברת טכנולוגיה אין יכולת למנוע את הפעלתם או "למשוך את השקע".
מנגנוני הבטיחות הוסרו
הגורמים המפעילים לקחו את המודלים הללו, הסירו מהם את מנגנוני הבטיחות המובנים שאמורים למנוע יצירת פרופילים פיקטיביים או מניפולציות, וחיברו אותם ל"סוכני AI". אלו הן תוכנות עצמאיות שמסוגלות לתפעל אפליקציות, לפתוח חשבונות ברשתות, ולבצע משימות מורכבות בעצמן. בעזרת סוכנים אלה, המערכות פתחו רשתות של אלפי פרופילים פיקטיביים והזינו אותם באופן רציף בפוסטים בנושאי פוליטיקה ואקטואליה.
בניין הקפיטול. בארצות הברית חוששים מהטיית דעת הקהל לקראת בחירות האמצע
(צילום: AP Photo/Mariam Zuhaib)
לצד הקמפיינים המדינתיים שהופעלו על ידי משטרי איראן וסין, זיהו חוקרי אבטחה וגורמי מודיעין בארצות הברית שני קמפיינים שהופעלו דווקא על ידי חברות מסחריות פרטיות שפועלות מישראל. ב"ניו יורק טיימס" נכתב כי אחת החברות היא IntelEye, חברה מתל אביב שהוקמה בשנת 2023 על ידי יוצאי ענקית הסייבר ההתקפי NSO – חברה שנכנסה בעבר לרשימה השחורה של הממשל האמריקני.
לפי גורמי אבטחה בארצות הברית שתושאלו על הקמפיין, פעילותה של IntelEye צדה כבר בתחילת השנה את עיניהם של המודיעין האמריקני ושל חברות המדיה החברתיות. החברה עשתה שימוש בסוכני AI מבוססי המודל הסיני DeepSeek כדי להשתלט על אלפי חשבונות ברשתות.
בעד ונגד נתניהו
בפועל, כ-1,000 מהחשבונות הללו הפכו לפעילים והתערבו בדיונים הסוערים סביב הבחירות בישראל. החשבונות הפיקטיביים הגיבו לסרטונים ולפוסטים ברשתות, ניסו לקשור שיחות עם גולשים והפיצו תכנים שונים - חלקם תמכו בראש הממשלה בנימין נתניהו וחלקם התנגדו לו, במטרה ליצור מעורבות ולהלהיט את השיח.
דף הבית של חברת IntelEye
מאור סלק, מייסד-שותף ב-IntelEye, אישר את דבר השימוש במודל הסיני ובשליטה בחשבונות, אך דחה בתוקף את הטענות כי החברה ניהלה קמפיין השפעה. "IntelEye אינה מפעילה קמפיינים של השפעה", אמר סלק ל״ניו יורק טיימס״. "העבודה שלנו עם DeepSeek נעשתה במסגרת ניסוי מחקרי והגנתי בלבד, שמטרתו הייתה להבין כיצד מודלים ללא מנגנוני בטיחות מספקים עלולים להיות מנוצלים לרעה, וכדי לשפר את היכולת לזהות פעילות כזו בעתיד".
סלק הודה כי החברה רכשה כ-10,000 חשבונות ברשתות החברתיות, מתוכם כ-1,000 הופעלו בפועל על ידי סוכני ה-AI, והוסיף כי המודל עצמו הוא שבחר את הנושאים והטקסטים שהופצו, ללא מעורבות אנושית ישירה. במבט לאחור, ציין סלק, היה על החברה ליידע את פלטפורמות המדיה החברתית על כך שהיא מבצעת ניסוי בשטחן.
מנגד, בענקית הטכנולוגיה מטא ראו את הדברים באור חמור בהרבה. דובר מטעם מטא מסר כי "מדובר ככל הנראה בניסיון מתואם ליצור חשבונות לא אותנטיים לרוחב מספר פלטפורמות", והבהיר כי החברה הסירה את מרבית החשבונות הללו באמצעות מערכות הזיהוי האוטומטיות שלה. בדוח שפרסמה מטא לאחרונה, הוזכרה גם קיומה של "פעילות מסחרית שבסיסה בישראל" אשר עשתה שימוש במערך AI מורכב ומתוחכם, ללא אזכור שמה המפורש של IntelEye.
הקמפיין האיראני הוגדר על ידי גורמים אמריקניים כ״מטריד ומסוכן במיוחד״. לפי המודיעין האמריקני, איראן השתמשה באותה טכנולוגיה בדיוק כדי להציף את הרשת ברשת חשבונות מזויפים שהתחזו לאזרחים אמריקנים מן השורה, המתגוררים בערים מרכזיות בארצות הברית.
"שימוש בבינה מלאכותית מוביל לכניעה קוגניטיבית"
במקביל, דוח חדש של מכון הטכנולוגיה של מסצ'וסטס, MIT, מזהיר כי שימוש של סטודנטים בבינה מלאכותית גורם ל"כניעה קוגניטיבית", יוצר אשליה של למידה ומבודד תלמידים. מחקר שנערך בקרב 26 אלף תלמידים גילה כי היעזרות בצ'אטבוטים העלתה את ציוני שיעורי הבית ב-18%, אך הובילה לנפילה של 20% בציוני המבחנים.
מחקר נוסף ב-MIT מצא כי סטודנטים שנעזרו בבינה מלאכותית לצורך כתיבת עבודות שכחו את התוכן דקות ספורות לאחר מכן. חוקרת המכון נטליה קוסמינה הסבירה כי במצבים אלה המשתמשים "בבסיסו של דבר לא הפעילו שום רשת זיכרון שבאמת תעזור לזכור".
הנתונים הללו מובילים כעת למהלכים שונים בארצות הברית, כאשר בתי ספר למשפטים בברקלי ובשיקגו אסרו על שימוש בטכנולוגיה בחלק מהקורסים, ומחוז החינוך בלוס אנג'לס חסם כמעט לחלוטין את הגישה לצ'אטבוטים.
