הפנטגון שוקל לנתק את יחסיו עם חברת הבינה המלאכותית אנת'רופיק (Anthropic), יצרנית הצ'אטבוט קלוד (Claude), בשל התעקשות החברה להטיל מגבלות מסוימות על אופן השימוש הצבאי במודלים שלה. כך מפרסם הבוקר (א') המגזין Axios, המסתמך על בכיר בממשל האמריקאי.
"כל מטרה חוקית"
משרד ההגנה האמריקאי מנהל מגעים עם ארבע ענקיות בינה מלאכותית במטרה לאפשר לו להשתמש בכלים שלהן ל"כל מטרה חוקית", כולל בתחומים רגישים כמו פיתוח נשק, איסוף מודיעין ופעולות בשדה הקרב.
מודלים של בינה מלאכותית יכולים לעבד נתונים ולהפיק מהם תובנות במהירות בזמן אמת - תכונה קריטית בפעולות צבאיות. אנת'רופיק לא מסכימה להסתפק בהגדרה הבסיסית, ומתעקשת שבשני תחומים לא ייעשה שימוש במודלים שלה: פיקוח המוני על אזרחים אמריקאים, ונשק אוטונומי לחלוטין.
כעת, אחרי חודשים של מו"מ עקר, ומכיוון שניהול משא ומתן נפרד עם החברה על כל מקרה ומקרה או חסימה מראש של שימושים מסוימים אינם באים בחשבון, בפנטגון נוטים לנתק מגע כליל עם החברה.
לפי הבכיר, הממשל טוען כי שני התחומים שעליהם עומדת אנת'רופיק כוללים "אזורים אפורים" רבים, ולא תמיד ניתן להחליט בקלות מה נכלל בהם ומה לא. "הכל על השולחן, כולל צמצום השותפות עם אנת'רופיק או ניתוק מוחלט", טען הבכיר. דובר אנת'רופיק אמר בתגובה, כי החברה נותרה "מחויבת לשימוש ב-AI לתמיכה בביטחון הלאומי של ארה"ב".
שאלת הלכידה של מדורו
המתח מול החברה התעצם באחרונה סביב השימוש העלום שביצע הצבא האמריקאי בקלוד במבצע ללכידת נשיא ונצואלה ניקולאס מדורו, דרך מוצר תוכנה שאותו משתפת אנת'רופיק עם חברת ה-AI פלנטיר (Palantir). לפלנטיר חוזים נרחבים עם הפנטגון, והיא עושה שימוש בקלוד במוצריה.
בפנטגון טענו, כי מנהל באנת'רופיק פנה למנהל בפלנטיר בשאלה אם נעשה שימוש בקלוד בפשיטה, ורמז שהחברה לא תאשר יותר שימוש מסוג זה. במשרד ההגנה רואים בכך סיבה לחשש לגבי אימוץ התוכנה בעתיד: "כל חברה שתסכן את ההצלחה המבצעית של הלוחמים שלנו בשטח היא חברה שעלינו להעריך מחדש את השותפות שלנו איתה".
בעבר עשה הצבא האמריקאי שימוש בקלוד לצורך ניתוח תמונות לוויין או לצרכי מודיעין, אך מקורות טוענים כי הפעם נעשה בו שימוש גם במהלך המבצע הפעיל, שבמהלכו נהרגו עשרות אנשי ביטחון מוונצואלה.
דובר אנת'רופיק הכחיש בתוקף שהייתה פנייה רשמית כזו לפלנטיר או למשרד ההגנה מטעם החברה: "קלוד משמש למגוון רחב של שימושים הקשורים למודיעין ברחבי הממשלה, כולל משרד ההגנה, בהתאם למדיניות השימוש שלנו. החברה לא קיימה דיונים עם משרד ההגנה בנוגע לשימוש בקלוד לפעולות ספציפיות".
לפי הדובר, "השיחות של אנת'רופיק עם הפנטגון עד כה התמקדו בסט ספציפי של שאלות סביב מדיניות השימוש - כלומר, המגבלות הקשות שלנו סביב נשק אוטונומי מלא, ומעקב המוני פנימי - שאף אחת מהן אינה קשורה לפעילות הנוכחית".
הבכיר הודה עוד כי הצבא האמריקאי יתקשה להחליף במהירות את קלוד, זאת מכיוון ש"שאר מודלי ה-AI משתרכים מאחור" בכל הנוגע ליישומים ממשלתיים מיוחדים. אנת'רופיק חתמה עם הפנטגון בקיץ שעבר על חוזה בשווי של כ-200 מיליון דולר. קלוד היה גם הדגם הראשון שהפנטגון הכניס לרשתות המסווגות שלו.
כניסתו של ה-AI לעולמות המודיעין
מתחריו של קלוד - ChatGPT של OpenAI, ג'מיני של גוגל, וגרוק של xAI - הסכימו להסיר עבור הפנטגון את המגבלות החלות על משתמשים רגילים. גם איתם מתנהל משא ומתן על כניסה לתחום המסווג, וגם מולם משרד ההגנה מתעקש להיצמד להגדרה "כל מטרה חוקית", כך שתכלול גם שימושים מסווגים וגם כאלה שאינם מסווגים. לפי המקור של Axios, לפחות חברה אחת כבר הסכימה לתנאים, והשתיים האחרות מגלות גמישות רבה יותר מאנת'רופיק.
אנת'רופיק ממצבת את עצמה בין ענקיות ה-AI כמי שמקפידה במיוחד, בראש ובראשונה, על בטיחות ופרטיות משתמשיה. מנכ"ל החברה דאריו אמודי נוהג להביע בהופעותיו דאגה עמוקה משימוש בלתי מבוקר בבינה מלאכותית. בימים אלה פורסם שהחברה מתמודדת גם עם תסיסה בקרב מהנדסיה לגבי שיתוף הפעולה עם הפנטגון.
