דוח מודיעין שגוי, שהוכן בסיוע בינה מלאכותית והופץ ברחבי הצבא האמריקני במהלך המלחמה באיראן, כמעט הוביל את ארצות הברית למבצע צבאי נגד ספינה סינית - ואף עלול היה להצית עימות בין שתי המעצמות. כך חשפה אמש (שישי) רשת CNN מפי גורמים המעורים בפרטים.
לפי הדיווח, התקרית אירעה באביב האחרון כשדוח מודיעין שהגיע לידי גורמים בצבא האמריקני קבע כי ספינה סינית השוהה במזרח התיכון מובילה רכיבים הקשורים לתוכנית לפיתוח נשק גרעיני. המידע עורר מיד דאגה כבדה, והצבא החל להיערך ליירוט כלי השיט. ארבעה מקורות ששוחחו עם CNN אמרו כי ההיערכות כבר הגיעה לשלב מתקדם: אנשי צבא אמריקנים חמושים התכוננו לעלות על הספינה ומטוסים צבאיים כבר היו באוויר. רק זמן קצר לפני המבצע המתוכנן החליטו גורמים לבדוק לעומק את הדוח - ואז התברר כי הוא נכתב בסיוע בינה מלאכותית, וכי צ'טבוט שבו השתמש האנליסט זיהה באופן שגוי את החומר שהספינה נשאה.
CNN לא הצליחה לברר מה היה המטען בפועל. אחד המקורות הגדיר את הדוח כ"שגוי לחלוטין", והוסיף: "זה כמעט התחיל מלחמה". פעולה אמריקנית נגד כלי שיט סיני הייתה עלולה, לפי הדיווח, לגרור הסלמה חמורה ואף עימות מזוין בין וושינגטון לבייג'ינג. ברשת האמריקנית ציינו כי הפרשה ממחישה סכנה מיידית יותר מהתרחישים הקיצוניים שעליהם מזהירים בשבועות האחרונים בכירי תעשיית הטכנולוגיה: לא מצב שבו הבינה המלאכותית "יוצאת משליטה", אלא מצב שבו בני אדם מקבלים החלטות הרות גורל על סמך מידע שגוי שהיא מייצרת.
הדוח הוכן על ידי אנליסט בפיקוד למבצעים מיוחדים. לפי הדיווח, הוא הזין לצ'טבוט מידע מודיעיני שנוגע לרשימת המטען של הספינה, שמקורו בפיקוד המבצעים המיוחדים של ארה"ב באוקיינוס השקט, שמפקדתו בהוואי. לא ברור אם נעשה שימוש בצ'טבוט מסחרי או במערכת שפותחה עבור הממשל האמריקני. המערכת שילבה מידע ממקורות גלויים עם מודיעין אותות מסווג שהיה מצוי במאגרי הממשל - והגיעה למסקנה השגויה בנוגע למטען. בהמשך השתמש האנליסט שוב בבינה מלאכותית, הפעם כדי לעבד את הממצאים לפורמט המקובל של דוח מודיעין רשמי - מסמך שמקבלי החלטות בצבא רגילים להתייחס אליו כמקור מהימן - ולאחר מכן הפיץ אותו.
שר ההגנה הגסת'. הבטיח להסיר את החסמים הביוקרטיים בתחום הבינה המלאכותית
(צילום: AP Photo/Jeremias Gonzalez)
גורם אמריקני בכיר לשעבר, שמכיר את מערכות הבינה המלאכותית שבהן משתמשים גופי הביטחון והמודיעין, טען כי גם הכלים הפנימיים אינם בהכרח שונים באופן מהותי ממוצרי הבינה המלאכותית המסחריים. פיקוד המבצעים המיוחדים באוקיינוס השקט והפנטגון לא הגיבו לפניית CNN בעניין.
הפרשה נחשפת בתקופה שבה הצבא האמריקני וקהילת המודיעין מאיצים את שילוב הבינה המלאכותית כמעט בכל תחומי פעילותם - מניתוח כמויות עצומות של מידע מודיעיני ובחירת מטרות לתקיפה ועד תקציבים, לוגיסטיקה וניהול שרשראות אספקה. המטרה היא לאפשר לצבא לקבל החלטות במהירות רבה יותר, בין השאר מתוך חשש שארה"ב תפגר אחרי סין ויריבות אחרות בשימוש בטכנולוגיה.
בינואר הציג שר ההגנה פיט הגסת' את "אסטרטגיית האצת הבינה המלאכותית" של הפנטגון, שמטרתה להסיר חסמים ולהרחיב במהירות את השימוש בטכנולוגיה - כך שתעמוד לרשותם של כשלושה מיליון אנשי צבא ועובדים אזרחיים בכל רמות הסיווג. במסגרת התוכנית הוגדרו בין היתר פרויקטים לשילוב AI בניהול קרב, מודיעין וקבלת החלטות. בהשקת התוכנית אמר הגסת' כי ארה"ב "תשחרר את הניסויים, תסיר חסמים בירוקרטיים ותתמקד בהשקעות" כדי להבטיח שתוביל בתחום הבינה המלאכותית הצבאית. אלא שלפי גורמים אמריקנים, הטמעת המערכות נעשית באופן מבוזר: גופים שונים בצבא ובקהילת המודיעין משתמשים בכלים שונים, תחת הוראות ותקני בטיחות שאינם אחידים. לדבריהם, אין כיום מערכת כללים אחת שמגדירה כיצד יש לאמת מידע שנוצר באמצעות AI לפני שהוא משמש לקבלת החלטות מבצעיות.
טראמפ מתקשר במפתיע למנכ"ל אנבידיה: "הרובוטים לא ישתלטו על העולם!"
(צילום: מתוך רשת X )
החשש בולט במיוחד בכל הקשור לבחירת מטרות. גורם שמכיר את מדיניות הצבא אמר ל-CNN כי השימוש ב-AI בתחום זה "בהחלט מתרחב", אך לדבריו עדיין אין הנחיות ברורות שיבטיחו כי השארת אדם בתהליך קבלת ההחלטות אכן תמנע פגיעה באזרחים או ירי על כוחות ידידותיים. גם ה"הזיה" - המונח שמתאר מצב שבו מערכת AI מייצרת מידע שנשמע אמין אך אינו נכון - שהובילה לפרשת הספינה הסינית אינה מקרה יחיד, לפי אחד המקורות. כמה גורמי מודיעין ותיקים אמרו כי הטכנולוגיה מגבירה את הלחץ על אנליסטים להפיק ולהפיץ מידע במהירות, ובכך מגדילה גם את הסיכון לטעויות. לדבריהם, אנליסטים צעירים שהתרגלו לעבוד עם הכלים הללו עלולים להיות גם נוטים יותר לתת בהם אמון ללא ביקורת מספקת. "AI מאפשר לך להגיע לרעיון גרוע מהר יותר", סיכם אחד המקורות.
עוד תקרית רגישה מול סין: חלקי F-35 הגיעו להונג קונג
במקביל לפרשת דוח המודיעין השגוי, בארה"ב נפתחה חקירה בנוגע לאירוע ביטחוני רגיש נוסף הקשור לסין: משלוח של חלקים ממטוס הקרב החמקני F-35, שהיה בדרכו מאוסטרליה לארה"ב לצורך תיקונים, הוסט באופן בלתי צפוי להונג קונג. כך דיווח אמש אתר החדשות פוליטיקו. לפי שלושה גורמים המעורים בפרטים, הרכיבים הועברו עבור יצרנית המטוס "לוקהיד מרטין" באמצעות גורם מתווך, אך במהלך המסע באוקיינוס השקט הגיע המשלוח להונג קונג במקום לארה"ב. לפי הדיווח, לא ברור מדוע שונה מסלול המשלוח - ואף לא מי מחזיק כיום בחלקים.
הפנטגון אישר כי קיימת בעיה בנוגע למשלוח של רכיבי F-35 שאינם כשירים לשימוש. מנהלת תוכנית ה-F-35 מסרה כי היא פועלת יחד עם הרשויות האמריקניות ועם גורמים בתעשייה "להשיב את הרכיבים, לחקור את האירוע ולהציב אמצעי הגנה שימנעו הישנות של מקרה כזה". בעקבות האירוע נפתחה חקירה בגבעת הקפיטול והתקיימו שורה של תדרוכים לוועדות הקונגרס שעוסקות בביטחון לאומי. לפי המקורות, גורמי מחלקת המדינה והפנטגון החלו לתדרך את עובדי הקונגרס בנושא כבר ביוני, ותדרוכים נוספים צפויים להתקיים בשבועות הקרובים.
הדאגה המרכזית נובעת מסוג הרכיבים שנכללו במשלוח. לפי שניים מהמקורות, בין החלקים הייתה חופת תא הטייס של F-35, שכוללת טכנולוגיה הקשורה ליכולות החמקנות של המטוס ונגישה רק לארה"ב ולבעלות בריתה. החופה היא מעטפת אקרילית שקופה שמכסה את תא הטייס ומצופה בשכבה דקה ושקופה של חומר סופג מכ"ם, המסייע להפחית את חתימת המטוס ולהקשות על מערכות אויב לזהותו. גורמים אמריקנים חוששים כי אם רכיב כזה יגיע לידיה של יריבה, ניתן יהיה לבחון אותו מקרוב ואף לנסות לבצע הנדסה לאחור של חלק מהטכנולוגיה.
מטוס F-35 של צבא ארה"ב. "סין מנסה באגרסיביות להשיג מידע עליו, בין היתר באמצעות ריגול אלקטרוני"
(צילום: REUTERS/Jana Rodenbusch/File Photo)
העובדה שהמשלוח הגיע להונג קונג מגבירה את החשש כי לסין עשויה להיות גישה לרכיבים. בייג'ינג כבר הואשמה במשך שנים בניסיונות להשיג מידע על תוכניות נשק אמריקניות רגישות, ובהן גם תוכנית ה-F-35. "זה לא סוד שסין מנסה באגרסיביות להשיג מידע על ה-F-35, בין היתר באמצעות ריגול אלקטרוני", אמר ל"פוליטיקו" ג'יי.ג'יי. גרטלר, לשעבר איש ועדת הכוחות המזוינים בבית הנבחרים ואנליסט לענייני תעופה צבאית בשירות המחקר של הקונגרס. לדבריו, גם אם לבייג'ינג כבר יש מפרטים או מידע אחר על החלקים, החזקה ברכיב אמיתי יכולה לאפשר לה לאמת את המידע שברשותה ולשפר אותו.
לוקהיד מרטין מסרה בתגובה כי אינה יכולה להתייחס למצבם של משלוחים מסיבות ביטחוניות, אך הדגישה שהיא פועלת בהתאם לכל התקנות האמריקניות הנוגעות להעברת רכיבי מטוסים. החברה הוסיפה כי אנשיה מטפלים בכל משלוח "בזהירות המרבית ותוך נקיטת אמצעי הגנה" כדי לשמור על ביטחון תוכנית ה-F-35 ועל בעלות הברית המשתתפות בה. תוכנית ה-F-35, נציין, היא אחת מתוכניות הנשק הגדולות והיקרות בתולדות ארה"ב, ולצד הקשיים בשרשרת האספקה ומחסור בחלקי חילוף, היא מתמודדת לאורך השנים גם עם עלויות תחזוקה גבוהות וקשיים בעמידה ביעדי הכשירות של צי המטוסים.
המקרה מציף גם בעיה ותיקה בשרשרת האספקה העצומה והמורכבת של תוכנית ה-F-35, שנשענת על מתקני תחזוקה ותיקון במדינות רבות ועל ספקיות שילוח מסחריות. מדינות שמשתתפות בתוכנית משתמשות במאגר גלובלי משותף של חלקי חילוף, שנותרים בבעלות הפנטגון עד להתקנתם במטוסים - אך מנוהלים בפועל במידה רבה בידי הקבלניות. דוח של משרד מבקר המדינה האמריקני (GAO) מ-2023 מצא כי יותר ממיליון חלקי חילוף של ה-F-35 הוגדרו כאבודים בתוך כחמש שנים, בשווי של עשרות מיליוני דולרים. המבקר מתח אז ביקורת על יכולתו המוגבלת של הפנטגון לעקוב אחר החלקים, בין היתר מאחר שחלק ניכר מהמידע מוחזק בידי הקבלניות המנהלות את מערך האספקה.
