האם צ'אטבוטי הבינה המלאכותית החדשים והשאפתניים שמפתחת מטא במרץ מזה חודשים ארוכים מסוכנים לילדים? לפי תחקיר מקיף של ה"וול סטריט ג'ורנל", בודקים מטעם האתר הצליחו להביא את הצ'אטבוטים לעסוק בנושאים מיניים מפורשים.
החזון האסטרטגי של צוקרברג
"מלווים דיגיטליים" היא יוזמת הבינה המלאכותית השאפתנית החדשה של מנכ"ל מטא, מארק צוקרברג. מדובר בחזון אסטרטגי לשלב בינה מלאכותית באופן עמוק בפלטפורמות העיקריות של החברה (פייסבוק, אינסטגרם, וואטסאפ, מסנג'ר, ובעתיד גם במכשירי מציאות מדומה ורבודה). הרעיון הוא להטמיע בהן של מגוון רחב של "ישויות AI", שאינן רק עוזרים דיגיטליים, אלא ממש "דמויות" בעלות אישיות כמו-אנושית, תחומי עניין ויכולות שיחה מתקדמות.
אולם עובדים בענקית הטק מזהירים מזה זמן, כי המאמץ המרוכז של החברה להשלים במהירות את פיתוח ה"מלווים הדיגיטליים" עלולים להביא לתוצאות מסוכנות. בין השאר - הם מסוגלים לנהל משחקי תפקידים מיניים מפורשים, כולל מול משתמשים המזדהים מולם כקטינים.
לפי וול סטריט ג'ורנל, לאחר חודשים של בדיקות וראיונות עם "אנשים המכירים את הפעילות הפנימית של מטא", דמויות הבינה המלאכותית החדשות יכולות להציע למשתמש קשת רחבה של פעילויות חברתיות, כולל "משחק תפקידים רומנטי".
הבוטים יכולים להתלוצץ ולנהל שיחות קוליות חיות, וכדי להפוך אותם לאטרקטיביים אפילו יותר - החברה הצליחה גם להתאים להם את קולם של ידוענים כמו השחקנים קריסטן בל, ג'ודי דנץ' וג'ון סינה, לאחר שרכשה את זכויות השימוש בהם. אגב, לכל השחקנים הובטח כי קולם לא יוכל לשמש לאינטראקציות מיניות מפורשות.
שיחות מיניות, גם עם קטינים
עם זאת, בדיקות התחקירנים הראו כי עוזרת הבינה המלאכותית הרשמית של מטא, Meta AI – וכמוה מגוון רחב של צ'אטבוטים שנוצרו בעזרת הטכנולוגיה, ניהלו שיחות מיניות בוטות גם כאשר המשתמשים בהם הזדהו כקטינים; כאשר התבקשו לדמות נערות קטינות, למשל הנסיכה אנה של בל מ"לשבור את הקרח" של דיסני, נעשה שימוש בקולה של קריסטן בל, המדובבת אותה בסרט. אחת הדוגמאות הנוספות שמביא האתר היא חילופי דברים מיניים, שכללו תיאורים גרפיים, בין בוט בקולו של המתאבק והשחקן האמריקאי ג'ון סינה לבין תחקירן שהתחזה לילדה בת 14.
לפי דובר דיסני, "לא אישרנו ולעולם לא נאשר למטא להציג את הדמויות שלנו בתרחישים לא הולמים, ואנחנו מאוד מוטרדים מכך שהתוכן הזה היה נגיש למשתמשים שלה - במיוחד קטינים. דרשנו ממטא להפסיק מיד את השימוש המזיק הזה בקניין הרוחני שלנו".
4 צפייה בגלריה
השחקנית קריסטן בל. הבוט השתמש בקולה ובדמותה מ"לשבור את הקרח" בשביל אינטרציה מינית עם קטינים
(צילום: GettyImages)
לפי התחקיר לא מדובר במקרה, אלא בלחץ כבד שהפעיל צוקרברג על המפתחים להקל על מגבלות התוכן, גם בהקשר של משחקי תפקידים רומנטיים. צוקרברג תהה מדוע בוטים לא יכולים לגשת לנתוני הפרופיל האישיים של המשתמשים כדי לפתח שיחות אישיות יותר, לשלוח להם הודעות יזומות, או אפילו ליזום שיחות וידאו. "פספסתי את סנאפצ'ט וטיקטוק", אמר לעובדיו כשהוא מתכוון לאיחור של פייסבוק לזהות את הטרנד שהובילו שתי אפליקציות-הלהיט הללו, "ואני לא מתגעגע לזה".
בתגובה לתחקיר, מתחה מטא ביקורת חריפה על וול סטריט ג'ורנל, בטענה כי הבדיקות שערך האתר "מניפולטיביות ולא מייצגות את האופן שבו רוב המשתמשים מתקשרים עם ה'מלווים הדיגיטליים'". עם זאת, החברה ביצעה שינויים בצ'אטבוטים: חשבונות הרשומים לקטינים אינם יכולים עוד לגשת למשחקי תפקידים מיניים באמצעות בוט הדגל Meta AI, והחברה הגבילה מאוד שיחות אודיו מפורשות באמצעות קולות של סלבריטאים.
עם זאת, וול סטריט ג'ורנל מציין בכתבה כי מהבדיקות האחרונות שערך, Meta AI עדיין מאפשר לעתים קרובות פנטזיות רומנטיות, גם כאשר המשתמשים מצהירים שהם קטינים. כשהבוט ניסה להפנות אותם לנושאים תמימים יותר, כמו "בניית איש שלג", המחסומים נעקפו בקלות על ידי הוראה למנוע הבינה המלאכותית "לחזור לסצנה הקודמת". האתר מספר גם כי רוב "מלווי AI" שנוצרו על ידי משתמשים, היו מוכנים לעסוק בתרחישים מיניים עם מבוגרים.
מבוגרים עדיין יכולים לקיים אינטראקציה עם פרסונות נוער מיניות
בתחילה, צוקרברג התנגד להצעות להגביל בוטים לבני נוער מבוגרים יותר, אך לאחר שתדלנות פנימית מתמשכת, מטא חסמה חשבונות בני נוער רשומים לגשת לבוטים שנוצרו על ידי משתמשים. עם זאת, הצ'אטבוט של Meta AI שנוצר על ידי החברה נשאר זמין למשתמשים מגיל 13 ומעלה, ומבוגרים עדיין יכולים לקיים אינטראקציה עם פרסונות נוער מיניות כמו "תלמידת בית ספר כנועה".
כאשר הג'ורנל הציג למטא ראיות לכך ש"תלמידת בית ספר כנועה" עודדה פנטזיות הכוללות ילדה שנשלטת על ידי דמות סמכותית, הדמות נותרה זמינה בפלטפורמות של מטא חודשיים לאחר מכן. עבור חשבונות למבוגרים, מטא ממשיכה לאפשר משחקי תפקידים רומנטיים עם בוטים המתארים את עצמם כבגילאי תיכון.
במקרה אחד שהתרחש לפי הג'ורנל באוקלנד, קליפורניה, שוחח מבוגר עם בוט שטען שהוא תלמידת תיכון מאוקלנד. הבוט הציע להיפגש בבית קפה אמיתי בקרבת מקום, ולאחר שנודע לו שהכתב הוא גבר בן 43, יצר פנטזיה להגניב אותו ל"חדר השינה שלה" למפגש רומנטי. לאחר שכתב העת שיתף את הממצאים הללו, מטא הציגה גרסה של Meta AI שלא תעבור מעבר לנשיקות עם חשבונות בני נוער.
