המלחמה באוקראינה ממחישה לעולם כולו שוב ושוב את המהירות שבה קידמה טכנולוגית משנה את שדה הקרב, וכמה מורכב לעמוד בקצב השינויים הזה ולהתמודד מולו.
זה בא לידי ביטוי בהקשר של ההתפתחות המהירה של טכנולוגיית הכטב”מים והרחפנים, כמו גם הדרכים להתמודד מולם בפן ההגנתי. אבל ההתפתחויות האחרונות כבר ממש כאילו נלקחו מסרט מדע בדיוני. זה קרה בצהרי 6 ביולי בעיר זפוריז'יה שבדרום אוקראינה. טטיאנה בובינץ, סטודנטית לראיית חשבון בת 19, נמלטה בבהלה יחד עם עוברי אורח כאשר הבחינה בכלי טיס הצולל מהשמיים. הכטב"ם פגע בקיר סמוך לתחנת דלק, והתפוצץ במטר רסיסים קטלני שגדע את חייה של טטיאנה, כמו גם את חייהם של שני גברים נוספים.
לכאורה הייתה זו תקרית שגרתית, שכמותה התרחשו רבות אחרות במסגרת המלחמה. אבל מה שהפך את התקרית הזו לציון דרך מצמרר בלוחמה המודרנית הוא לא רק מספר הקורבנות, אלא הישות שלחצה על ההדק: זה לא היה מפעיל אנושי בקצה הקו, אלא אלגוריתם בינה מלאכותית שפעל באוטונומיה מוחלטת.
בדיקה פורנזית של השרידים חשפה כי על גבי הכטב"ם הותקן מיני-מחשב מסחרי של ענקית השבבים אנבידיה. המפעילים הרוסים שיגרו את הכלי לעבר אזור תחנת הדלק, אך מרגע ההגעה לשם, המערכת האוטונומית היא שבחרה לבדה את נקודת הפגיעה הספציפית, על בסיס אימון מוקדם לזיהוי מכלי פרופאן (גז פחמימני דליק מאוד) באמצעות עיבוד תמונה. הכטב"ם פעל ללא אנטנות שידור, ללא הנחיית רדיו מרחוק וללא כל התערבות אנושית בבחירה של המטרה הסופית.
התקרית מסמנת חציית קו אדום מבהיל. עד עכשיו, שימוש בבינה מלאכותית הוגבל לשלב האחרון - נעילה על מטרה שסומנה מראש בידי אדם. ניתוק המפעיל האנושי משרשרת ההחלטה מעביר את שיקול הדעת המוסרי והמשפטי לידי אלגוריתמים עיוורים.
נזק באוקראינה מתקיפה כטב"ם
(DARYA NAZAROVA, AFP)
מכונות לומדות אינן יודעות להבחין בין תשתית אזרחית למטרה צבאית לגיטימית, ואינן מסוגלות להפעיל שיקולי מידתיות או לחמול על סטודנטית שנמלטת על נפשה. חמור מכך, בהיעדר תקשורת אלחוטית, כלים אלו חסינים לחלוטין מפני לוחמה אלקטרונית ושיבוש תדרים, מה שלמעשה מנטרל את אמצעי ההגנה הקיימים.
הסכנה גם מחריפה בשל הנגישות - רכיבים אזרחיים זולים כאלה, הנמכרים במאות דולרים בודדים למטרות מחקר ופיתוח, מאפשרים ייצור המוני של נחילי נשק קטלניים. בעיר זפוריז'יה עצמה, שסובלת קשות מהפגזות ומתקפות כטב"מים רוסיות חוזרות ונשנות, מנסים התושבים להתגונן באמצעות רשתות מעל הכבישים והצבת יריעות פלסטיק בזוויות משונות סביב מכלי גז. כל זאת בתקווה לבלבל את מערכות זיהוי התמונה של הבינה המלאכותית. אלא שמפקדי ההגנה האווירית מזהירים כי הרוסים "מאמנים את הטכנולוגיה", ומתקנים את שגיאותיה בזמן אמת.
כאשר מכונות אוטונומיות משוטטות בשמיים ומכריעות בדיני חיים ומוות, החזון הדיסטופי של סרטים כמו ״שליחות קטלנית״ הופך למציאות המדממת והמטרידה מאוד של אוקראינה - וסוג של תמרור אזהרה דחוף לשאר העולם.
