סכנה אמיתית לביטחון ארה"ב והאנושות בכלל, או סגירת חשבונות מכוערת של ממשל טראמפ עם חברת AI שסירבה לאפשר לנשיא להשתמש ביכולות שלה?
הוויכוחים על הסיכון בשימוש בכלי אינטליגנציה מלאכותית הגיעו לשיא בסוף השבוע, ובמוקד נמצאת חברת אנת'רופיק AI, האחראית למודל המרכזי קלוד. בעקבות דרישה חסרת תקדים של הרשויות בארה"ב להגביל את מודל הבינה המלאכותית החדש והעוצמתי של החברה, פייבל 5, לשימוש בידי אזרחים אמריקאים בלבד, אנת'רופיק הודיעה כי הכלי שרק הושק ייחסם לגמרי לשימוש על ידי החברה.
בהודעה חריגה שפירסמה החברה באתר הרשמי שלה נמסר כי היא נאלצה להשבית באופן מיידי את פייבל 5 ואת המודל המתקדם עוד יותר, מיתוס 5 . "המשמעות המעשית של ההוראה שקיבלנו היא שעלינו להשבית את פייבל 5 ואת מיתוס 5 עבור כלל לקוחותינו על מנת שנוכל לעמוד בדרישות", כתבה אנת'רופיק בהודעה רשמית. ההערכה היא כי לחברה לא היו כלים כדי להבטיח שרק אזרחים אמריקאים יוכלו להשתמש בה, או למנוע ממי שאינם - כולל מיליוני אזרחים זרים על אדמת ארה"ב - לגשת לכלי.
מדוע חששו כל כך הרשויות האמריקאיות? ובכן, הטענה הרשמית היא כי מיתוס 5 - המודל המתקדם מבין השניים ששוחרר רק לקבוצה מצומצמת של חברות סייבר הגנתי וספקי תשתיות קריטיות - הוא חסר תקדים ביכולות הקידוד והפריצה שלו. גורם עוין מסוגל לכאורה להשתמש בו כדי לפרוץ מערכות הגנה של כל חברה בעולם, לכתוב קוד במהירות שיא ולמצוא בקלות פרצות. אם תרצו, לנתח מערכת הגנה של כל בנק, תאגיד ביטחוני, רשות לאומית, ולסייע לגניבת פרטים ומידע יקר ערך.
פייבל 5 היא הגרסה הציבורית וה"מוחלשת" מבחינת יכולות של מיתוס 5, שהשימוש בו כאמור הוגבל למתי מעט. באנת'רופיק עצמה הודו כי מיתוס 5 הוא מודל מסוכן ובעל יכולות חסרות תקדים. "ממשלת ארה"ב סבורה כי חשפה שיטה לפרוץ את פייבל 5, באופן שמאפשר לעשות לו Jailbreak (עקיפת מנגנוני הגנה)". אך במקביל באנת'רופיק טוענים כי רשויות הביטחון הלאומי בארה"ב כלל לא הצביעו על בעיית אבטחה ספציפית במערכות של מיתוס או של פייבל. במילים אחרות: אנת'רופיק טענו שהם שמו הרבה חומות הגנה כדי לוודא שהמערכת ה"מסוכנת" לא תימצא בידי הציבור, אבל הממשל האמריקאי טוען שנמצאה פִרצה שמאפשרת לכל אדם להפוך את המערכת ה"מוחלשת" הזמינה לציבור ל"מסוכנת", אך לא פירט בפני החברה או הציבור מהי אותה פִרצה.
הסערה הנוכחית מגיעה על רקע עימות מתמשך בין אנת'רופיק לבין ממשל טראמפ. הנשיא טראמפ מתח בחודשים האחרונים ביקורת פומבית על החברה, ובהמשך הגדיר שר ההגנה האמריקאי פיט הגסת' את אנת'רופיק כ"סיכון לשרשרת האספקה" - מונח חריג מאוד ביחס לחברה אמריקאית. בפועל, ההגדרה מכניסה את החברה לרשימה שחורה, שמונעת לא רק ממנה להתחרות על חוזים צבאיים, אלא גם מחברות אחרות המשלבות את מוצריה.
העימות בין החברה לממשל הוא אף עמוק יותר: מוקדם יותר השנה הפנטגון דרש להשתמש במודלי הבינה המלאכותית של החברה ל"כל מטרה חוקית", כולל פיתוח נשק ופעילות מבצעית. בחברה סירבו ודרשו להציב גבולות ברורים. עוד דווח כי בחברה חשדו כי בממשל טראמפ רצו להשתמש ב"קלוד" ובמערכות מתקדמות יותר גם למטרות לא לגיטימיות - כמו מעקב אחרי אזרחים.
בעקבות ההחלטה הגישה אנת'רופיק תביעה נגד הפנטגון, ואף צוין בה כי מדובר בנקמה. "הממשל הפדרלי נקם במפתחת מובילה בתחום הבינה המלאכותית על כך שדבקה בעמדתה בנושא שהוא בעל חשיבות ציבורית רבה - בטיחות ה-AI ומגבלות המודל שלה", נכתב בתביעה.
