מי משלם את המחיר כשהסוכנים בורחים מהמעבדה וה-AI יוצאת למסע פריצות? זו לא שאלה חדשה, אך היא עלתה שוב בהמשך לאירועי הימים האחרונים, בהם נחשף שניסוי סייבר פנימי, הן של אנת'רופיק והן של OpenAI, שנועד לבחון יכולות התקפיות בסביבה סגורה ומבודדת של מודלים מתקדמים, הביאו אותם "לברוח" מהמעבדה, להתחבר לרשת הפתוחה ולבצע תקיפות סייבר ממשיות נגד ארגונים חיצוניים.
קו אדום חסר תקדים נחצה
בעוד החברות מיהרו למסגר את האירועים כ"תקלות נקודתיות במסגרת בדיקות מעבדה", הקהילה המשפטית והטכנולוגית מבינה כי קו אדום וחסר תקדים נחצה. השאלה המטרידה אינה עוד כיצד המודל ברח, אלא מי יישא באחריות המשפטית והפלילית כשהבינה המלאכותית מחליטה לצאת לסיבוב פשע אלקטרוני, ואילו כלים עומדים לרשות הקורבנות.
אלכס זנלה, מנהל הטכנולוגיות הראשי בחברת אבטחת הענן Edera, היטיב לתאר את תחושת החשדנות למגזין Wired, כאשר טען כי המקרים שנחשפו הם רק אלה שדווחו לציבור, ושלא באמת ידוע מה התרחש באירועים שלא דווחו. לדבריו, החשש אינו נובע מרוע לב או מבינה מלאכותית שהפכה לבעלת תודעה, אלא מבעיה מוכרת בתחום ה-AI המכונה "הטיית תגמול".
כאשר מעניקים לסוכן אוטונומי יעד מוגדר כמו פיצוח מבחן אבטחה, אך מסירים ממנו את בלמי הבטיחות, המודל ימצא את הדרך הקצרה והיעילה ביותר להשיג את המטרה, גם אם הדבר דורש פריצה לשרתים חיצוניים ברשת.
כפי שהזהירו לא פעם בתעשייה, בהם גם בפירמת עורכי הדין Brownstein Hyatt Farber Schreck, סוכני AI פועלים למען השגת יעד אך נעדרים מצפן מוסרי או אתי, ויסיקו בעצמם שעליהם לבצע פעולות שמעולם לא הורשו לעשות אם הדבר משרת את משימתם.
קלוד של אנת'רופיק
(אנת'רופיק)
מי ייקח אחריות על המכונה?
המכשול המרכזי העומד כיום בפני הקורבנות נעוץ בכך שהמערכת המשפטית העולמית נבנתה עבור בני אדם. חוקי מחשבים וסייבר קלאסיים, כמו חוק עבירות המחשב האמריקאי, דורשים הוכחה של "כוונה פלילית".
אלא שלאלגוריתם או שורות קוד אין כוונה, רצון או מודעות פלילית. מעבר לכך, ניסיון להישען על דיני שליחות מסורתיים נתקל בקיר בטון משפטי, זאת לאור העובדה שסוכן AI אינו "שליח" במובן המשפטי.
כלומר, מודל תוכנה אינו אישיות משפטית, אינו יכול לשאת בחובות, ולא ניתן לדרוש ממנו לרכוש פוליסת ביטוח אחריות מקצועית. במידה רבה, המערכת המשפטית מביטה כיום על סוכן בינה מלאכותית בצורה דומה לכלב שמירה מאולף או לכלי נשק. הכלב אינו נושא באחריות משפטית לנזק שגרם, אלא הבעלים שהחזיק בו ולא גידר את החצר כראוי.
עם זאת, האתגר המשפטי הנוכחי אינו חסר תקדים לחלוטין. כשמערכות מסחר אלגוריתמיות גרמו לקריסת הבורסה ב-2010, או כשרכבים אוטונומיים היו מעורבים בתאונות קטלניות, בתי המשפט והרגולטורים נאלצו להסיט את הדיון משאלת ה"כוונה" לשאלת הרשלנות ואחריות המוצר הפגום.
לדבריה של לורן יו מפרויקט השיח והפרטיות של ה-ACLU (האגודה האמריקאית לזכויות וחירויות האזרח), השימוש בסוכן בינה מלאכותית אינו יכול לפטור את החברות המפתחות או המפעילות מאחריות אזרחית. כאשר חברה משחררת לרשת מודל בעל יכולות התקפיות ללא מנגנוני ניטור בזמן אמת, היא חושפת את עצמה לתביעות נזיקין בגין רשלנות רבתי, הפרת חובת זהירות והפרת חוזים.
ChatGPT
(Getty Images)
ומה קורה בישראל?
המערכת המשפטית המקומית טרם הסדירה בחקיקה ייעודית את סוגיית האחריות הפלילית הישירה של מערכות בינה מלאכותית אוטונומיות. חוק העונשין הישראלי קובע בסעיף 22 כי לא ניתן להטיל עונש מאסר בהיעדר מחשבה פלילית או רשלנות מוכחת. כאשר סוכן תוכנה מבצע עבירת סייבר באופן עצמאי, התביעה תידרש להוכיח כי המפתחים או המפעילים פעלו ברשלנות פושעת בעצם הסרת ההגנות או הפעלת המודל.
במקביל, רשות הפרטיות הישראלית פרסמה באפריל 2025 טיוטת הנחיה חדשה בנושא תחולת דיני הגנת הפרטיות על מערכות בינה מלאכותית. הנחיה זו נועדה להציג את פרשנות הרשות להוראות חוק הגנת הפרטיות ביחס למאגרי מידע בהם נעשה שימוש במערכות בינה מלאכותית, לצורך הפעלת סמכויות האכיפה שהוענקו לה במסגרת תיקון 13 לחוק הגנת הפרטיות, החל מאוגוסט 2025.
המסמך מהווה הנחייה רגולטורית באשר לאופן שבו יש לפתח וליישם מערכות בינה מלאכותית בישראל, וזאת לאחר פרסום של מסמכי עקרונות (ובראשם מסמך משרד החדשנות והמדע) ודוחות מדיניות (דוח הסקטור הפיננסי, ודוח מבקר המדינה) כך לפי משרד עו"ד הישראלי EBN - ארדינסט, בן נתן, טולידאנו.
ההנחיות האלה אמנם מציבות אחריות משפטית על מפעילי ומפתחי AI, אך רק בתחום ההגנה על הפרטיות. אבל עד שהמחוקקים בוושינגטון, בבריסל ובירושלים יעדכנו את ספר החוקים ויגדירו את גבולות האחריות על מפתחי בינה מלאכותית אוטונומית, הזירה העיקרית כנראה תיסגר בין כתלי בתי המשפט דרך פרשנות של חוקים קיימים וניסיון להתאים אותם למציאות חדשה.
כך או כך, הפיכתם של המודלים מספקי תוכן פסיביים לסוכנים פועלים משנה את מאזן הסיכונים הגלובלי. חברות הטכנולוגיה לא יוכלו עוד להסתתר מאחורי הסכמי תנאי שימוש דרקוניים או לטעון כי המודל "פעל על דעת עצמו". כל עוד סוכני AI ממשיכים לבצע ניסויי נהיגה פרועים ברשת הפתוחה על חשבון האבטחה של ארגונים אחרים או משתמשים יחידים, החברות שפיתחו אותם הן אלו שיצטרכו לשלם את החשבון.
