חיפשתם "אידיש" בגוגל? קיבלתם "ציקלון בי"

מאמר מפורסם מה-Wall Street Jouranl משנת 2002, הביאו סיפורים של קורבנות ה-Tivo - מקליט דיגיטלי חכם לטלוויזיה המשווק בארצות הברית ואמור לנסות לזהות את הטעם של הצופה.

אחד המרואיינים סיפר שאחרי שהקליט תוכניות כמו "וויל וגרייס", ה-Tivo חשב שהוא הומו והתחיל להקליט לו תוכניות בנושאים הומוסקסואלים. כשניסה לתקן את המצב על ידי "חינוך" ה-Tivo שלו והקלטת סרטי מלחמה ודברים "גבריים" נוספים, ה-Tivo שלו הקליט לו סרטים תיעודיים על אייכמן ולדבריו הפל אותו מהומו ל-"אדם משוגע המעלה זכרונות מתקופת הרייך השלישי".

הסיפור, שעבר מספר גלגולים והתייחסויות של קומיקאים בארה"ב, בא ללמד משהו פשוט - בינה מלאכותית - כשמה כן היא, מלאכותית - לא אנושית. כלומר, לא משנה כמה ישקיעו במחקר, פיתוח ותיכנות - מחשבים הם עדיין גלמים, חסרי תכונות אנושיות כמו רגישות, אינטואציה, או הבנה אמיתית של האדם היושב מולם. זאת בניגוד לבני אדם שנולדים עם התכונות הללו.

מה בין יידיש לציקלון בי?

דיווחים ברשת מצביעים על כך שאם תחפשו בגוגל תמונות של השפה אידיש (yiddish), מנגון של גוגל יציע לכם לחפש גם "ציקלון בי" - הגז ששימש לרצח יהודים בשואה. הקישור הוסר בינתיים על ידי גוגל, בעקבות הפרסומים.

גוגל בדרך כלל לא חושפת בדיוק כיצד עובדים המנגנונים השונים שלה לחיפוש, אך ניתן לשער שהמלצות נוספות לחיפוש תמונות מבוססות בגדול, על ניתוח של חיפושים מצטברים של גולשים, ושביעות הרצון שלהם מהתוצאות. אם תחפשו את המילה "House" - תקבלו הצעה לחפש גם Cartoon House. סביר להניח שגולשים רבים חיפשו קודם את המילה הראשונה, ציפו לקבל בית מאוייר ולא מצולם, ומכשלא היו מרוצים - חיפשו את הביטוי "Cartoon House" וגוגל למד את ההתנהגות הזאת.

למרות הזעזוע המוצדק שלנו - ברמה הטכנית ההקשר הלוגי בין "אידיש" ל"ציקלון בי" הוא ברור - שניהם לקוחים מההיסטוריה היהודית. האם מספיק אנשים חיפשו את שניהם בשביל שיווצר הקשר הזה? האם גולשים אנטישמיים יצרו את הקשר באופן מלאכותי? האם האלגוריתם של גוגל סובל מבאגים ותקלות? הכל ייתכן. בדומה למקרה בו מחפשים Jew בגוגל - ובתוצאה הראשונה מתקבל אתר אנטישמי.

כך או אחרת, אין סיבה לחשוב שגוגל פועלת ממניעים אנטישמיים, וכמו סיפורי ה-Tivo, גם המקרה הזה מאשש את התזה - המחשב הוא גולם טיפש וחסר רגישות.