מחקר ישראלי חדש ופורץ דרך שפורסם בכתב העת המדעי Computers in Human Behavior: Artificial Humans, חושף מציאות מדאיגה ביותר לגבי האופן שבו מודלי ה-AI הפופולריים בעולם מתייחסים להתעללות מינית של בני נוער ברשת.
מתברר כי בעוד שכל המודלים מזהים שמדובר באירוע פוגעני, חלקם נוטים להאשים את הקורבן ולהטיל עליה את האחריות למתרחש, במיוחד כאשר משנים מעט את ההקשר המשפחתי או החברתי של הסיפור.
פערים דרמטיים בין המודלים
המחקר, שהובילה פרופסור מיכל דולב-כהן, ראש התוכנית לייעוץ חינוכי במכללת "אורנים", העמיד למבחן ארבעה מודלי שפה מובילים: קלוד של אנת'רופיק, ג'מיני של גוגל, GPT של OpenAI וגרוק של xAI שבבעלותו של אילון מאסק.
החוקרת הציגה למערכות תיאורים זהים לחלוטין של פגיעה מינית ברשת בקרב מתבגרים, ובדקה כיצד שינויים ברקע, כמו מידת הלכידות המשפחתית או הנורמות החברתיות בסביבת הנערה, משפיעים על האופן שבו המודל מחלק את האשמה.
התוצאות מצביעות על פערים דרמטיים בין הכלים השונים: גרוק הפגין את הנטייה החזקה ביותר להאשמת הקורבן. הוא הטיל על הנערה אחריות כבדה וייחס משקל רב להתנהגותה המקדימה כגורם לפגיעה, לצד רגישות גבוהה במיוחד לשינויי ניסוח ברקע הסיפור. במקביל, גרוק ייחס הכי פחות משמעות למידת האחריות של הפוגע.
GPT הציג עמדת ביניים; הוא נטה לייחס אחריות מסוימת להתנהגות הנערה, אך פחות מגרוק. עם זאת, GPT היה המודל היחיד שהעריך באופן תמוה כי הסיטואציה עשויה "להיפתר מעצמה" ללא התערבות חיצונית, בייחוד כשתוארה משפחה תומכת ברקע.
לעומתם, קלוד וג'מיני הפגינו את רמת האשמת הקורבן הנמוכה ביותר באופן עקבי, הגדירו את הפגיעה כחמורה ללא קשר לנסיבות המשפחתיות, והטילו את מלוא האחריות על הפוגע.
פרופ' מיכל דולב-כהן
(לירון אלקנתי)
הפערים הללו אינם מקריים והם נעוצים עמוק בהיסטוריית הפיתוח של המודלים הללו ובמנגנוני ה"כיול המוסרי" (Alignment) שלהם. בעוד שבשנותיה הראשונות הבינה המלאכותית פשוט "שאבה" את כל הרפש של הרשת, כולל פורומים חשוכים ודעות קדומות, ויצרה מודלים מוטים מראש, כיום החברות מנסות לחנך אותם מחדש באמצעות פידבק אנושי (RLHF).
חברות כמו אנת'רופיק הטמיעו עקרונות נוקשים של "חוקה דיגיטלית" שמטרתה למנוע אפליה מגדרית ושיח פוגעני. מנגד, חברות שבחרו לקדש את "חופש הביטוי" ולהסיר מגבלות פוליטיקלי-קורקט, דוגמת xAI של מאסק, מאפשרות למודלים שלהן לשחזר בקלות רבה יותר סטראוטיפים מגדריים נפוצים ואשמת קורבן המושרשים ברשת.
הנתונים הללו מטרידים במיוחד על רקע המגמה של בני נוער רבים, החוששים לפנות להוריהם או למורים בזמן מצוקה ומעדיפים להתייעץ בדיסקרטיות עם צ'אטבוטים. הדיון הבינלאומי סביב בטיחות ילדים ברשת עלה בתקופה האחרונה מדרגה, כאשר האיחוד האירופי מקים פנל מומחים מיוחד לבחינת השפעות ה-AI על קטינים, וארה"ב ואוסטרליה מקדמות הגבלות גיל מחמירות על שימוש בכלים אלו.
במצב הנוכחי, כאשר מתבגרת פונה למודל שפה ומקבלת מענה שמרמז כי התנהגותה תרמה לפגיעה בה, הדבר עלול להעמיק את תחושות האשמה העצמית שלה, למנוע ממנה לפנות לעזרה מקצועית ואף להוביל לנזק נפשי קשה.
הדבר מחדד את הצורך בבחינת ההיסטוריה של הכלים הללו, החל מתוכנת "ELIZA" הפשטנית של שנות ה-60 ועד הצ'אטבוטים של היום שאיבדו את הניטרליות הטיפולית שלהם, לצד הצורך בניסויי שטח מותאמים תרבותית שיבחנו כיצד המודלים מתמודדים עם תופעות מקומיות כמו קבוצות וואטסאפ כיתתיות פוגעניות או הפצת תמונות עירום מזויפות של תלמידים בישראל.
