יותר מ-60 מדינות, בהן סין, ארה"ב וירדן, ולצדן גם הרשות הפלסטינית, חתמו על אמנה בינלאומית ראשונה להסדרת השימוש הצבאי בבינה מלאכותית. ומי לא חתמה על ההצהרה המשותפת, מלבד רוסיה שהוחרמה בגלל המלחמה באוקראינה? נכון, ישראל. דובר צה״ל הפנה לדוברות משרד הביטחון, ומהאחרון טרם נמסרה תגובה.
עוד כתבות שיעניינו אתכם:
היוזמה הייתה שיאו של REAIM, כנס בינלאומי ראשון בנושא שימוש בבינה מלאכותית במסגרת צבאית שהתקיים בהולנד, על רקע ההתעניינות הגוברת בשירותים כמו ChatGPT, והשימוש של אוקראינה בטכנולוגיות זיהוי פנים ובמערכות צליפה בסיוע AI במלחמה עם רוסיה. מדינות העולם מנסות למעשה לראשונה לעשות סדר בכל הנוגע לטכנולוגיה הפרוצה הזאת, שיש לה פוטנציאל לשנות את האופן שבו מתנהלות מלחמות כיום. למען המטרה הזאת האמריקאים מוכנים גם להתפייס לרגע עם הסינים, על אף פרשת בלוני הריגול. ישראל השתתפה בכנס, אך כאמור לא חתמה על המסמך.
ההצהרה האמריקאית, שכרגע אין לה מעמד חוקי, מתחלקת ל-12 נקודות, כולל הכפפה של שימוש ב-AI לדיני מלחמה בינלאומיים והבטחה שתמיד תהיה "שליטה אנושית" בכל הנוגע לנשק גרעיני. היא מגיעה עם תחושת בהילות מסוימת על רקע ההתקדמות המואצת בטכנולוגיית המל"טים בשדה הלחימה בין רוסיה ואוקראינה. לאוקראינה יש כבר מל"טי תקיפה חצי-אוטונומיים וכאמור כלי נשק מבוססי בינה מלאכותית. רוסיה טוענת שגם לה יש נשק עם יכולות AI, למרות שהטענות האלה לא הוכחו עד היום. מה שבטוח הוא שככל שהלחימה נמשכת זמן רב יותר, כך גם גדל הסיכוי שמל"טים ישמשו לזיהוי, בחירה ותקיפת מטרות ללא שום עזרה מבני אדם. המגמה הזאת עלולה להוביל בקרוב לרובוטים הקרביים האוטונומיים הראשונים בעולם, שיהרגו או יזרעו הרס לגמרי בכוחות עצמם.
לכן המדינות החותמות מתחייבות למעשה לפתח ולהשתמש בבינה מלאכותית צבאית בהתאם ל"התחייבויות המשפטיות הבינלאומיות ובאופן שאינו מערער את הביטחון, היציבות והאחריות העולמית".
המדינות החזקות מבחינה צבאית, בהן ישראל, לא ששו להסכים למגבלה חוקית כלשהי על השימוש בבינה מלאכותית, מחשש שהדבר עלול להעמיד אותן בעמדת נחיתות מול יריבים. זאת הסיבה העיקרית שמומחי זכויות אדם ואקדמאים ביקרו את ההצהרה, שאינה מחייבת מבחינה משפטית ולטענתם גם לא מתייחסת כלל לחששות ש-AI יכול להסלים סכסוך צבאי הרבה מעבר לגבולות המצופה. מהצד השני, אנליסטים צבאיים וחוקרי בינה מלאכותית אומרים שעצם העלאת הנושא על סדר היום הבינלאומי משמעותי לכשעצמו, ומכיר לראשונה בכך שיש חשש חוצה גבולות לגבי שימוש בנשק אוטונומי.
שימוש ב-AI - בכפוף לדין הבינלאומי
מה האמנה כוללת בדיוק? כאמור, המדינות מתחייבות לנקוט בצעדים יעילים, כגון בדיקות משפטיות, כדי להבטיח שיכולות הבינה המלאכותית הצבאיות שלהן "ישמשו אך ורק בהתאם לחוק הבינלאומי, בפרט המשפט ההומניטרי הבינלאומי". הן גם מתחייבות על שליטה ומעורבות אנושית בכל פעולה קריטית כשזה נוגע לנשק גרעיני, ושרק פקידים בכירים יפקחו על הפיתוח של יכולות AI צבאיות. המדינות מתחייבות גם לשתף ולפרסם עקרונות לתכנון, פיתוח, פריסה ושימוש אחראי ביכולות על ידי כל הארגונים הצבאיים שלהן. הן מבטיחות שינקטו צעדים כדי למזער הטיה לא מכוונת וכי כל הטכנולוגיות יפותחו בהתאם לנהלים של בינה מלאכותית אזרחית: עם מתודולוגיות שניתנות לביקורת, מקורות נתונים, נהלי עיצוב ודוקומטנציה סדורה. המדינות מבטיחות גם שהצוות שמפעיל או משתמש ב-AI צבאי יעבור הכשרה מיוחדת כדי שיבין את היכולות והמגבלות של הטכנולוגיה, יוכל לשפוט ולקבל החלטה מושכלת בזמן אמת.
המדינות גם מבטיחות ששימוש בבינה מלאכותית צבאית יוגבל למקרים מפורשים ומוגדרים היטב, רק כדי למלא אחר הפונקציות המיועדות שלה. הן מבטיחות שהטכנולוגיות יהיו נתונות לנהלי בטיחות ובדיקות קפדניות לאורך כל מחזור החיים שלהן - הן בשלב הלמידה העצמית, העדכון והן בהפעלה - כדי להבטיח בין היתר שלא נפרצו.
המדינות גם מתחייבות להנדס מראש את יכולות הבינה המלאכותית כך שיהיו להן את היכולת לזהות ולהימנע מהשלכות לא רצויות, כמו גם את היכולת לנטרל או להשבית את עצמן במקרים כאלה. המדינות מתחייבות ליישם אמצעי הגנה כדי להפחית את הסיכונים לכשלים חמורים - אם כאלה שמגיעים מתוך העולם הצבאי ואם כאלה מהעולם האזרחי. לבסוף, המדינות מתחייבות להמשיך בדיונים על האופן שבו AI צבאי מפותח ופועל בצורה אחראית, ולכלול את כל הפרקטיקות הללו כשזה נוגע לייצוא אמצעי הלחימה שלהן.
המסמך אינו מפרט בדיוק איזה סוג של מערכות אוטונומיות או מופעלות בינה מלאכותית מכוסות על ידי ההכרזה, אך מכיוון שאין הגדרה אוניברסלית של "בינה מלאכותית", הוא מבאר את המונח לצורך העניין בהערת שוליים: "למטרות הצהרה זו, בינה מלאכותית עשויה להתפרש כהתייחסות ליכולת של מכונות לבצע משימות שאחרת היו דורשות אינטליגנציה אנושית - למשל, זיהוי דפוסים, למידה מניסיון, הסקת מסקנות, ביצוע תחזיות, או נקיטת פעולה״.
