ממשל טראמפ נעזר בגרסה מיוחדת של צ'אטבוט הבינה המלאכותית גרוק (Grok) של אילון מאסק לשיגור אלפי טילים באיראן - כך מאשר היום (ד') משרד ההגנה האמריקאי בהצהרה רשמית.
קצין הדיגיטל והבינה המלאכותית הראשי של הפנטגון, קמרון סטנלי, דיווח על כך בעדות בשבועה לבית משפט במיסיסיפי. העדות נשמעה כחלק ממשפט שבו נידונה תביעה נגד היזם הטריליונר, בטענה שחוות השרתים של חברת הבינה המלאכותית שלו, xAI, במיסיסיפי, מפעילה עשרות טורבינות גז אשר גורמות לזיהום ומסכנות חיי תושבים.
בית הספר האיראני שהותקף לפי החשד בעקבות טעות של מערכת AI
את התביעה נגד מאסק הגיש ה-NAACP (ראשי תיבות של "האיגוד הלאומי לקידום אנשים צבעוניים"), מארגוני זכויות האזרח הוותיקים, הגדולים והמשפיעים ביותר בארצות הברית.
סטנלי העיד, כי המשך פעולתו של הצ'אטבוט, המופעל בין השאר באמצעות חוות השרתים, הכרחי כיוון שהוא "עניין של ביטחון לאומי עליון", וכי הוא סייע לירי של יותר מ-2,000 חימושים לעבר אלפי מטרות שונות בתוך 96 שעות. מדובר בהודאה מפורשת ראשונה מצד בכיר בממשל כי צבא ארה"ב השתמש בצ'אטבוט מבוסס בינה מלאכותית להפצצות באיראן.
לדברי סטנלי, מרכז הנתונים במיסיסיפי, כמו גם מרכזים אחרים, "ממוקמים היטב" כדי לספק "קפיצה קריטית" בקיבולת האנרגיה במקרה של "עימות או נסיבות דחופות אחרות" שמשפיעות על הביטחון הלאומי.
הוא הוסיף, כי גרוק, שפותח על-ידי xAI, הוא בין ארבעה מודלים של בינה מלאכותית "המסוגלים כיום לתמוך ביישומי ביטחון לאומי", והוא גם אחד משלושה מוצרים המוכנים לתמוך בפעולות קריטיות במשימות בסביבות סודיות ביותר.
לפי ההצהרה, אם בית המשפט יוציא פסק דין שיאסור על פריסת המודל, הפנטגון יושפע ממנו "באופן חמור". מרכזי נתונים המניעים מוצרי בינה מלאכותית לצרכי הממשלה הם "כלי אסטרטגי ארוך טווח וחיוני לשמירה על היתרון הטכנולוגי שלנו מול יריבים", כתב.
בעקבות העדות, שלפו כלי התקשורת בארה"ב מהארכיון דיווחים מתחילת המלחמה באיראן, לפיהם כוחות אמריקאיים היו אחראים למתקפה על בית ספר איראני לבנות במינאב, שבה נהרגו לפחות 175 אנשים - האירוע שגרם למספר הגדול ביותר של נפגעים אזרחיים במלחמה.
להערכות אנליסטים, ההפצצה נגרמה ככל הנראה משילוב של מיקוד המונע על-ידי בינה מלאכותית, בנוסף לטעות אנוש, שהביאה לכך שלא נבדק קודם אם המפות מעודכנות.
אין זה סוד, כי הפנטגון עושה שימוש במערכת Maven Smart שמפעילה הסוכנות הלאומית לצרכי מודיעין גיאו-מרחבי. המערכת מתבססת על בינה מלאכותית כדי להציג נתונים ולזהות נקודות עניין פוטנציאליות, ובמקור היא הופעלה באמצעות מודל "קלוד" של אנת'רופיק, עד לסכסוך שהתגלע בין הממשל לחברה.
במסמכים שהוגשו לבית המשפט הפנטגון מגלה גם, כי הוא עושה שימוש במודל מיוחד של גרוק, Grok Gov - חבילת מוצרים שנועדה במיוחד לסוכנויות פדרליות, עם תכונות "שאינן קיימות במודל AI פרונטלי אחר".
בקונגרס כבר מכינים חקיקה להגבלת השימוש ב-AI
כמה סנטורים דמוקרטיים בקונגרס כבר הודיעו כי יציעו חקיקה שתגביל את השימוש של הצבא בבינה מלאכותית. הצעת חוק של הסנאטורית קירסטן גיליברנד, למשל, מבקשת להבטיח כי רק מפקדים אנושיים יקבלו החלטות הנוגעות לחיים ומוות, וכי השימוש בבינה מלאכותית בכל הנוגע לנשק גרעיני, מעקב אחר אזרחים ומערכות נשק אוטונומיות, ייאסר כליל.
"כרגע, הפנטגון מתקדם לכיוון הטמעת טכנולוגיית בינה מלאכותית עוצמתית במיוחד ללא גבולות הגיוניים, מה שעלול לגרום לתוצאות קטסטרופליות, שיגרמו לכולנו להיות פחות בטוחים", אמרה גיליברנד. "אנחנו חייבים לפעול עכשיו – לא כדי לדכא את ההתקדמות הטכנולוגית, אלא כדי לקבוע כללים ברורים שישאירו את בני האדם בשליטה וישמרו על השימוש בבינה מלאכותית במלחמה חכם ובטוח".
בלי קשר לשיגור הטילים באיראן, משרד ההגנה האמריקאי מעורב גם במאבק משפטי על השימוש בכלי הבינה המלאכותית של אנת'רופיק. החברה לא הצליחה להגיע להסכם עם הפנטגון לאחר שהממשל סירב להתחייב למגבלות בשימוש בו. הפנטגון הגדיר את אנת'רופיק כ"סיכון בשרשרת האספקה לביטחון הלאומי", שעלול לסכן את החוזים העתידיים של החברה עם הממשלה, מה שהצית מאבק משפטי מתמשך.
