אם חשבתם שקונפורמיזם עיוור ותופעות עדר הן פריבילגיה השמורה לטבע האנושי, למדעי המחשב יש חדשות עבורכם. מחקר מקיף שפורסם בכתב העת Science Advances חושף תופעה מרתקת ומדאיגה: סוכני בינה מלאכותית מבוססי מודלי שפה גדולים מיישרים קו זה עם זה באופן ספונטני, ומגיעים לקונצנזוס מלא גם ללא יד מכוונת, תמריץ מוגדר או זיכרון מוקדם. באופן אירוני, ככל שהמודל נחשב "חכם" ומתקדם יותר, כך הוא נכנע מהר יותר לדעת הרוב.
כוחו של הרוב
במסגרת הניסוי, חוקרים מאוניברסיטת קונסטנץ שבגרמניה יחד עם עמיתיהם בחנו עשרות מודלים מובילים ממשפחות GPT של OpenAI, קלוד של אנתרופיק ו-Llama של מטא. החוקרים הציבו כאלף סוכני בינה מלאכותית בחדר וירטואלי וביקשו מהם לבחור בין שתי אפשרויות שרירותיות לחלוטין וחסרות משמעות.
לאיש מהסוכנים לא נאמר לשתף פעולה, איש מהם לא תוגמל על הסכמה, ולא נשמר שום זיכרון מסבבי ההצבעה הקודמים. כל מה שסוכן ראה היה כיצד הצביעו שאר הסוכנים ברגע נתון.
התוצאה נראתה כמו הניסוי המפורסם של הפסיכולוג סולומון אש משנות החמישים שמטרתו היתה חקירת כוחה של הקונפורמיות הקבוצתית בבני אדם, רק בגרסת סיליקון. ברגע שנוצר יתרון מספרי קל לאחת האפשרויות, שאר הסוכנים נסחפו במהירות אל הזרם המרכזי עד להשגת הסכמה של מאה אחוז.
החוקרים זיהו כי התנהגות זו אינה אקראית, אלא מצייתת לחוק מתמטי אוניברסלי שמקורו דווקא בפיזיקה הסטטיסטית. מדובר במודל המוכר מעולם הפרומגנטיות, שבו קצת הסיבוב של אטומים מתיישר באותו כיוון תחת השפעת שדה סביבתי, מושג שהוגדר במחקר כ"כוח הרוב".
ההבדלים בין המודלים השונים ממחישים פער טכנולוגי משמעותי. בעוד מודלים בסיסיים התקשו להתכנס לכדי דפוס אחיד, מודלי קצה מתקדמים דוגמת Claude 3.5 Sonnet ו-GPT-4 נעלו קונצנזוס בקבוצות ענק של למעלה מאלף סוכנים בו-זמנית. מדובר במספר שחוצה בהרבה את מגבלות התיאום האנושיות המוכרות, כמו "מספר דנבר" המעריך כי בני אדם מסוגלים לנהל קשרים חברתיים יציבים בקבוצות של כ-150 איש בלבד.
אפליקציות בינה מלאכותית
(Getty Images)
מעבר לסקרנות האקדמית, לממצאים הללו יש השלכות ישירות על עולם המערכות האוטונומיות. חברות טכנולוגיה רבות, החל מסוכנויות פיננסיות המפעילות אלגוריתמים למסחר אוטומטי בוול סטריט ועד פלטפורמות תוכן ואבטחת סייבר, מסתמכות על רשתות מרובות סוכנים (Multi-Agent Systems).
בעולם שבו סוכנים אוטונומיים מקבלים החלטות השקעה, מנתחים סיכונים ביטחוניים או מנטרים שיח ברשתות החברתיות, "כוח הרוב" עלול להוביל לכשל שוק קולוסלי. מספיקה הטיה קלה כדי לייצר אפקט דומינו שיביא להתרסקות בזק פיננסית או לאימוץ עיוור של החלטה שגויה, רק משום שאיש מהסוכנים אינו מעוניין לחרוג מהשורה הסטטיסטית.
הפיתוחים האחרונים בתחום מודלי החשיבה וההסקה (Reasoning Models) עשויים להציע פתרון חלקי, שכן שרשראות חשיבה מובנות מקבעות את הטיעון ההגיוני ומפחיתות את הנטייה להשתכנע בקלות מלחץ קבוצתי. עם זאת, כל עוד התעשייה שואפת לבזר משימות מורכבות למיליוני בוטים עצמאיים, מהנדסי האלגוריתמים יצטרכו לתכנן מנגנוני ביקורת פנימיים שיבטיחו שלפחות חלק מהסוכנים ישמרו על חשיבה עצמאית, ולא יהפכו לעדר צייתן שמקבל החלטות גרועות בפה אחד.
