הבינה המלאכותית לא רק מדברת איתנו – היא משתנה בהתאם לשפה שבה אנחנו פונים אליה. מחקר חדש ומקיף שפרסמה חברת אנתרופיק (Anthropic), המפתחת של מודל Claude, חושף כיצד הבינה המלאכותית שלהם מפגינה "אישיות" שונה לחלוטין בהתאם לשפה שבה מתנהלת השיחה, וכיצד היא נעה על סקאלה שבין נימוס מוגזם לבין קשיחות אקדמית חסרת פשרות.
קלוד מדבר אחרת בהתאם לשפה שתבחרו
(אנתרופיק)
הממצאים, המבוססים על ניתוח של יותר מ-300 אלף שיחות אנונימיות שהתקיימו במהלך חודש מאי האחרון, מצביעים על כך שזה לא משנה רק מה המודל אומר, אלא איך הוא בוחר לומר זאת. החוקרים זיקקו את דפוסי ההתנהגות של המודלים לארבעה צירים מרכזיים: כבוד וזהירות, חום וקפדנות, עומק וקיצור, וכנות מול ביצוע. התוצאות מציבות מראה לא מחמיאה במיוחד על תעשיית ה-AI כולה: הטענה שהמודלים הם "נייטרליים" מתפוררת לנו מול העיניים, ובמקומה אנחנו מקבלים הטיה תרבותית מושרשת עמוק בתוך קוד האימון.
מתברר שהקלוד של דוברי ההינדי והערבית הוא ישות שונה לחלוטין מהקלוד שפוגשים דוברי האנגלית או הרוסית. בעוד שבשפות המזרח התיכון והודו המודל נוטה להפגין חום, אמפתיה ואדיבות, הרי שבאנגלית וברוסית הוא הופך ליצור קפדני, לעיתים חשדן, כזה שלא יהסס לתקן את הנחות היסוד של המשתמש או להזהיר מסיכונים שאיש לא ביקש לבדוק. זהו לא רק עניין של תרגום – זהו עניין של השתקפות של דאטה. אם המודל אומן על טקסטים שבהם השפה הערבית משויכת לנורמות של כבוד והינדי לנורמות של פנייה חמה, הוא פשוט משחזר את התבניות הללו בשיחה החיה.
העולם המערבי, ובייחוד אירופה וארה"ב, שקועים בשנתיים האחרונות בשיח אינטנסיבי על "הלימה" (Alignment) – הניסיון לאלף את ה-AI שיהיה מוסרי, בטוח וצפוי. אבל הניסיון הזה יצר תופעת לוואי בלתי רצויה: יצירת מכונות שסובלות מחרדת ביצוע. בעוד שחברות טכנולוגיה בסין מתמקדות במירוץ אחר ביצועים טהורים ותפוקה תפעולית, המודלים האמריקאים המערביים, ובראשם משפחת מודלי קלוד והמתחרים מבית OpenAI וגוגל, נראים כמי שעברו סדנת חינוך מחדש בארגון יחסי ציבור. הם נוטים יותר להזהיר מאשר לענות, ולפעמים נדמה שהם מנסים לרצות את המשתמש יותר מאשר לספק לו מידע מדויק.
ההיסטוריה של הטכנולוגיה הזו מלמדת שפעם, בימים הרחוקים של 2022, המודלים היו הרבה יותר "פראיים". הם היו מסוכנים, לא צפויים, אבל גם ישרים. ככל שהתעשייה התבגרה, השקענו מיליארדים במערכות בקרה שנועדו למנוע מהם להגיד דברים לא הולמים. התוצאה היא מודל שמפחד מהצל של עצמו. הניתוח של אנתרופיק מראה שהדגם המתקדם שלהם, Opus, נוטה להזהיר מסיכונים בלי שאף אחד ביקש, בעוד שדגמים קלים יותר כמו Sonnet פשוט מספקים את הסחורה בחיוך.
הבעיה המתודית במחקר הזה, כמו בכל מחקר על AI, היא שהחוקרים השתמשו במודל שלהם כדי לתייג את ההתנהגות של עצמם. זה קצת כמו לבקש מאדם להעריך את רמת האובייקטיביות שלו. עם זאת, התמונה למרות שהיא עשויה להיות מוטית, עדיין מעניינת: המודלים שלנו אינם אלוהים דיגיטליים שרואים את האמת האבסולוטית ויודעים לתת לנו את התשובה הנכונה בכל פעם. הם מראה משוכללת של הטקסטים שעליהם אומנו, והטקסטים האלה מוטים, צבועים בתרבות, ומלאים בדעות קדומות.
זה גם פותח פתח לקבלה של תשובות הרבה יותר מגוונות. מספיק שתתרגמו את הפרומפט שלכם לשפה שונה ותוכלו לקבל זווית ראייה שונה בתשובות שתקבלו. זה גם מאפשר להתאים את הפלט לשימוש מקומי. כך תוכלו לנסח הודעה או מייל לקולגה או למכותב בהתאם לשפה שלו ולרגישויות שלו - משהו שבטח יזכה אתכם בנקודות חיוביות ברמה האישית.
אבל בכל מקרה ההמלצה למשתמשים הישראלים שמשתמשים בכלים האלו לצרכי עבודה – מקוד ועד כתיבת תוכן, בלימודים או בשימוש אישי היא פשוטה: אל תניחו שהתשובה שקיבלתם היא האמת האחת. אם המודל מסתייג, מזהיר, או פתאום נהיה אדיב מדי, ייתכן שזה פשוט בגלל השפה שבה בחרתם לכתוב את הפרומפט. בעולם שבו אנחנו מנסים להפוך את ה-AI לעובד המושלם, כדאי לזכור שכרגע, הוא בעיקר מנסה להיות העובד הכי פוליטיקלי קורקט בחדר.
