בשעה שראשי תעשיית הבינה המלאכותית מזהירים מפני סכנות קיומיות, המציאות בשטח מעצבת מחדש את שדה הקרב: וושינגטון ומוסקבה פועלות בשיתוף פעולה מפתיע כדי להחליש שורה ארוכה של מגבלות ביוזמת האו"ם להסדרת נשק אוטונומי קטלני, והסירו סעיפי מפתח שנועדו להבטיח פיקוח אנושי על החלטות של חיים ומוות.
על פי דיווח חדש של ה"וושינגטון פוסט", במהלך מרתון דיונים לילי שנמשך כ-15 שעות בחדרים סגורים בז'נבה, ללא נוכחות של משקיפים, הפעילו שתי המעצמות סוללות של כעשרה משפטנים מכל צד כדי למחוק דרישות מהותיות מטיוטת האמנה.
גלריה
נשיא רוסיה ולדימיר פוטין, נשיא ארה"ב דונלד טראמפ
(AP Photo/Alexander Zemlianichenko, Pool, Andrew Harnik / GETTY IMAGES)
בין היתר, נמחקו הדרישה שמערכות אלו יפעלו באופן צפוי ואמין, הסעיף המחייב שיקולים אתיים בעת הפעלתן, והדרישה המפורשת שגורם אנושי יאשר מטרות צבאיות שזוהו בידי אלגוריתמים בטרם תבוצע תקיפה.
המהלך מציב את המעצמות בעמדה המנוגדת לקו האירופי המסורתי, הדוחף להסדרה מחמירה, וממחיש כיצד היתרון הטכנולוגי גובר על הניסיונות לבלום אוטומציה מוחלטת של מלחמות. גורמים בארגוני זכויות אדם הגדירו את הפגיעה בטיוטה כ"מוות באלף מיתות", והזהירו כי ריקון המסמך מסעיפי הפיקוח סולל את הדרך ללחימה שבה מכונות יפעלו מבצעית ללא מעורבות אנושית בזמן אמת, תוך סיכון ממשי לחיי אזרחים והיעדר כתובת ברורה לאחריות משפטית.
מותחים את הקו האדום
בשנים האחרונות שילבו צבאות מובילים בעולם מערכות אלגוריתמיות מתקדמות לייצור מטרות. הפנטגון עשה שימוש במודלים מתקדמים לזיהוי כמעט אלף מטרות תקיפה במבצעים מול איראן, וצה"ל מפעיל מערכות מבוססות בינה מלאכותית דוגמת "הבשורה" לעיבוד מודיעין ויצירת בנק מטרות בהיקפים חסרי תקדים.
בשני המקרים המערכות הוגדרו כמסייעות לקבלת החלטות, אך קו הגבול בין המלצת מכונה לפקודת אש הולך ומטשטש, בייחוד כאשר זמן התגובה מתקצר לשניות ספורות.
בסין מפתחים נחילי רחפנים אוטונומיים ורובוטים חמושים תחת תפיסה של לוחמה מבוססת אלגוריתמים, בעוד ארצות הברית מקדמת את יוזמת "Replicator" במטרה להציב אלפי מערכות אוטונומיות זולות וקטלניות כמענה לעוצמה המספרית של בייג'ינג.
במקביל, ממשל טראמפ הבהיר כי הוא דוחה ניסיונות פיקוח בינלאומיים שעלולים לבלום חדשנות, והנחה את הפנטגון לעדכן את הנחיות השימוש הצבאי בבינה מלאכותית, מגמה שמסבירה את ההתנגדות הנחרצת לאמנה מחייבת של האו"ם.
בית שנפגע מ כטב"ם רוסי בפולין
(צילום: REUTERS/Kacper Pempel)
יתרון מבצעי מעל עקרונות אתיים
ההיסטוריה מלמדת כי הסכמים בינלאומיים לבקרת נשק, מאמנת הנשק הכימי ועד האיסור על מוקשים נגד אדם ופצצות מצרר, נשענו על קונצנזוס שמגדיר קו אדום מוסרי. עם זאת, מערכות נשק אוטונומיות אינן נשק ספציפי אלא תוכנה המשולבת בפלטפורמות קיימות כמו כטב"מים, טילי שיוט וצריחי ירי.
כאשר המעצמות מסרבות לוותר על יתרון מבצעי לטובת עקרונות אתיים, המאמץ בז'נבה עשוי להסתיים בהצהרות עקרוניות ובלתי מחייבות, בזמן שההחלטה על לחיצה על ההדק מועברת בהדרגה מהאצבע האנושית ישירות לשורות הקוד.
וזו בעיה, כי בניגוד לחייל שניתן לתחקר את מעשיו דרך שרשרת פיקוד ברורה ופקודות מוגדרות - בינה מלאכותית עדיין סובלת משתי בעיות עיקריות: הראשונה היא שלא ניתן לרוב לדעת מה הביא את המודל להחליט על הפלט שהוא ביצע.
תופעה זו מכונה קופסה שחורה בעולם ה-AI והיא מהווה את אחד החסמים הגדולים לאימוץ נרחב של בינה מלאכותית. דמיינו לכם שהמכונית האוטונומית שלכם פוגעת במישהו והורגת אותו, חלק מהחקירה לבירור האשמה ונסיבות המקרה כוללת בדיקה של שרשרת השיקולים שהובילו להחלטת ה-AI.
הבעיה השנייה ואולי היותר חמורה היא תופעת ההזיות והדרישה לדיוק מבצעי. מודלים, גם מודרניים, עדיין סובלים מתופעת ההזיות במסגרתה המודל ממציא מידע שלא קיים במציאות כדי לרצות את המשתמש. זה פחות חמור כשמדובר בשיעורי בית (אל תעתיקו ילדים, תלמדו בעצמכם), אבל כשהמודל אמור לזהות באופן חד-חד-ערכי אויב, התוצאה יכולה להיות הרבה יותר חמורה. בעיקר אם המודל מזהה את האויב כאוטובוס של ילדי פעוטון בדרך למחסה כי לא הצליח לזהות מטרה אחרת והוא נורא רוצה שהמשתמש יהיה מרוצה.
לא ברור אם השינויים של ארה"ב ורוסיה יאומצו בסופו של דבר או פשוט יביאו לביטול היוזמה באופן גורף, אבל מה שבטוח זה שכל עוד לא תהיה מסגרת משפטית שתגדיר את התנאים להפעלה של מערכות AI בשדה הקרב ולא רק כמערכות תומכות החלטה, אלא כמערכות שיכולות להחליט על ירי חי. הדברים יכולים לצאת מהר מאוד משליטה.
