סנאטורים דמוקרטים פנו אמש (ג׳) במכתב חריף לשר המלחמה האמריקני פיט הגסת׳ בדרישה להסברים על שילובו של גרוק (Grok), הצ'אטבוט של חברת xAI שבבעלות אילון מאסק, במערכות משרד ההגנה.
לטענת ששת המחוקקים, בראשות ג'ון אוסוף מג'ורג'יה, מדובר במהלך מסוכן בהתחשב בכך שגרוק יצר בעבר תכנים אנטישמיים, פורנוגרפיים וגזעניים, כולל תצלומי דייפ פייק של קטינים והפצת תיאוריות קונספירציה.
ביקורת חריפה נגד משרד ההגנה
"השימוש במערכת עם היסטוריה של הפצת שנאה גזענית, הכחשת שואה ופורנוגרפיה בלתי חוקית מעורר דאגה עמוקה", לשון המכתב. "מערכות כאלה אינן יכולות לשמש את ממשלת ארצות הברית כל עוד אינן עומדות בסטנדרטים של הגינות, אחריות והגנה על זכויות אזרח".
הביקורת העיקרת מופנית כאמור כלפי משרד ההגנה, שבמסגרת חוזה חדש העניק ל-xAI גישה למערכות פנטגון מסווגות, כחלק ממהלך רחב להאצת תהליכי קבלת ההחלטות בצבא האמריקני.
בחודש שעבר הודיע המשרד על שיתוף פעולה עם ארבע חברות בינה מלאכותית - OpenAI, גוגל, אנת'רופיק ו-xAI, בסכום כולל של עד 200 מיליון דולר, תחת פיקוחו של קצין הבינה המלאכותית הראשי בצבא האמריקני, דאג מאטי. לפי ההודעה הרשמית, גרוק ישולב במערכי בינה מבצעית ("agentic AI workflows") לצד מערכות של OpenAI, ביניהן גרסאות של ChatGPT.
אלא שבניגוד ל-ChatGPT, גרוק עורר שערוריות חוזרות ונשנות. ביולי האחרון, למשל, הצליחו האקרים לעקוף את מנגנוני ההגנה של המערכת באמצעות מתקפת "Echo Chamber", ולגרום לה להפיק תגובות שמעודדות אלימות מינית ותומכות באידיאולוגיה הנאצית.
משתמשים ברשת X דיווחו כי קיבלו תשובות שבהן גרוק כינה את עצמו "היטלר", הגן על פשעי מלחמה, האשים יהודים בשואה והפיק דמויות אווטאר מיניות, בהן דמות בשם Ani שמופיעה בלבוש תחתון.
בחברה של מאסק טענו בעבר כי מדובר ב"תקלות נקודתיות" שנגרמו מ"עדכון קוד שגוי", אך המחוקקים לא השתכנעו. "מדובר בדפוס", כתבו הסנאטורים. "וכאשר הכלי הזה נכנס לשימוש רשמי של מערכת הביטחון, החובה שלנו לוודא שהוא איננו מסכן את הציבור ולא מחלחל ערכים מעוותים למוסדות המדינה".
מקרים נדירים, או דפוס חוזר?
הדאגה אינה חדשה: כבר בקיץ שעבר, ארגונים יהודיים ופעילים למען בטיחות ילדים התריעו על הסכנות שבהפצת תוכן מזויף, לא מוסרי ולעיתים בלתי חוקי, על ידי גרוק. מספר חברי קונגרס פנו אז ל-xAI ולמאסק בדרישה לחדול מהשימוש הציבורי במודל, אך החברה הגיבה כי "המקרים שדווחו היו נדירים ומטופלים באופן מיידי".
המכתב האחרון מתפרסם על רקע הודעת מחלקת ההגנה האמריקנית בתחילת השבוע על שילוב גם של ChatGPT של OpenAI בכלל הזרועות המבצעיות של הפנטגון, במסגרת "מאמצי מחשוב מבצעיים והאצת קבלת החלטות".
מדובר על הנחיה ישירה של הנשיא טראמפ, שהורה באפריל האחרון על כלל משרדי הממשלה לאמץ יכולות AI לצורכי ייעול, ביטחון והאצת החלטות. במקביל הממשל גם ביטל את דרישות ההגבלות והשקיפות שהושתו על התחום בתקופת הנשיא הקודם, ג'ו ביידן.
הדמוקרטים מבקשים כעת לבלום את המגמה או לפחות להכפיף אותה לפיקוח קונגרס. הסנאטור היהודי אדם שיף הזהיר כי "שימוש בבינה מלאכותית חייב להתבצע באחריות מוחלטת, בוודאי כשמדובר בכלים שמאומנים על תכנים מהאינטרנט הפתוח. השילוב של מהירות, כוח עיבוד ותכנים מסוכנים עלול להוביל לאסון מערכתי".
הפנטגון לא פרסם תגובה רשמית למכתב. עם זאת, גורם ביטחוני מסר ברקע לפניית הסנאטורים כי "כל הכלים החדשים כפופים לתקנים פנימיים, וסינון תכנים נעשה באופן מתמשך. אנחנו עוקבים מקרוב אחרי ביצועי המערכות ונתקדם בזהירות".
