על תבונה (מלאכותית) ורגישות
כיף לנו כשהאלגוריתם של ספוטיפיי מגלה לנו שיר יפה שלא הכרנו, אבל איך מרגישה אישה שעברה לידה שקטה ופייסבוק ממליץ לה על עגלה לתינוק? הגיע הזמן שנפנים, אי אפשר לצפות ממכונה להיות רגישה
במכתב פתוח לענקיות הטכנולוגיה ששיגרה בשבוע שעבר,
ביקשה ג'יליאן ברוקל, צעירה אמריקנית שעברה לידה שקטה: "אם אתן חכמות מספיק כדי להסיק שאני בהיריון, אז אתן ודאי חכמות מספיק כדי לדעת שהתינוק שלי מת". הטענה שלה מכוונת כלפי אסטרטגיית השיווק הממוקד הנהוגה ברשת, ולפיה חברות טכנולוגיה שואבות מידע על המשתמשים, ועושות בו שימוש לפילוח שוק משמעותי ואפקטיבי יותר - או במילים פשוטות: מציגות לנו פרסומות שאנחנו באמת רוצים לראות. בטוויטר וגם בפייסבוק מיהרו להתנצל, והבטיחו להשתפר.
כשהאלגוריתם לא רגיש(אילוסטרציה: Shutterstock)
לפני ארבע שנים בדיוק פייסבוק שיגרה התנצלות דומה, לאחר פרסום סיפורו של אריק מאייר: בפוסט בבלוג הפרטי שלו, תחת הכותרת "הרשלנות האכזרית של האלגוריתם", סיפר מאייר כיצד יישום סיכום השנה המובנה של פייסבוק הציג לו את תמונתה של בתו הקטנה רבקה, שמתה באותה שנה. "זה נכון, השנה שלי באמת נראתה ככה", כתב מאייר, "נראתה כמו הפנים הנעדרות של הבת שלי". באותה שנה פרסמה גם ג'וליאן סמולינסקי את תמונת סיכום השנה בפייסבוק של החבר שלה לשעבר, שהציגה את הבית הפרטי שלו עולה באש. בכל המקרים האלה, המשתמשים הפנו אצבע מאשימה כלפי חברות הטכנולוגיה, אך בעצם קבלו: האלגוריתם שלכם לא נוהג בנו ברגישות הראויה.
סיכום השנה של מאייר לפני ארבע שנים(צילום מסך)
פרסומות ההיריון שהוצגו לברוקל במסגרת המודעות הממוקדות שראתה ברשתות החברתיות, כמו גם פיצ'רים ממוקדי נוסטלגיה (לפייסבוק יש הרבה כאלה - סיכומי שנה, "זכרונות" שצצים בפיד וחגיגות חברות ברשת החברתית) - הם כולם מבוססי אלגוריתם. גם המלצות צפייה בנטפליקס, רשימות השמעה בספוטיפיי ועמודי תוצאות חיפוש בגוגל מבוססים על אלגוריתם. אבל האמת היא שרובנו לא לגמרי מבינים איך אלגוריתם עובד, ובעיקר - מה המגבלות שלו.
So my (beloved!) ex-boyfriend's apartment caught fire this year, which was very sad, but Facebook made it worth it. pic.twitter.com/AvU8ifazXa
— Julieanne Smolinski (@BoobsRadley) December 29, 2014
אם נצא לרגע מהמחוזות הטכנולוגיים, נוכל למצוא "אלגוריתמים" בשימוש יום-יומי: פעולות סדורות ומדוייקות שיובילו לתוצאה רצויה ולביצוע משימה. אם עלינו למיין כביסה, האלגוריתם שלנו ייראה בערך ככה:
אותו הדבר בדיוק קורה בעולמות התכנות: אם הגדרת המשימה של יישום סיכום השנה של פייסבוק היא "לייצר עבור כל משתמש סרטון או תמונת סיכום שנה", המפתחים יצטרכו לכתוב אלגוריתם שמשיג את המטרה. איך אלגוריתם יכול להחליט מה האירוע המשמעותי ביותר עבור משתמש? הוא סורק את הפעילות ברשת החברתית, ובדרך כלל סופר "מעורבות" (Engagement) - לייקים, תגובות ושיתופים.
אלה כמובן רק הדוגמאות הפשוטות. אלגוריתמים היום הם בדרך כלל מורכבים יותר, ניזונים ממאגרי מידע נרחבים יותר, ומבצעים משימות מסובכות יותר. בתהליכי היצירה של אלגוריתמים מעורבים בני אדם, אבל מרגע שהם נכנסים לשימוש הפעולה היא אוטומטית לחלוטין. תהליכים מתקדמים יותר, של למידת מכונה (ML), יכולים לסייע בשכלול שלהם לפי אסטרטגיות למידה שונות. אבל מעבר לזה? שום תהליך של תבונה או של רגישות, של שיקול דעת או של התבוננות לא מתקיים בהם.
במידה רבה, האלגוריתם הוא קופסה שחורה: אלגוריתמים פועלים ברקע של חוויית השימוש שלנו ברשת אבל עושים את זה באופן בלתי מורגש, והם גם מעין סודות מסחריים של ענקיות הטכנולוגיה. אנחנו שומעים כשהאלגוריתם בפיד של פייסבוק משתנה, אבל לא יודעים בדיוק איך ולמה. אנחנו קוראים על האלגוריתם שמכתיב את תוצאות החיפוש בגוגל, שהתחיל כדירוג פשוט ופשטני של אתרים על סמך מספר הקישורים אליהם (PageRank) והיום מואשם בהטיות, בהשפעות חיצוניות וברמיסת המתחרות - אבל לא באמת מבינים איך הוא עובד.
רוב הזמן אנחנו אפילו מרוצים: כשספוטיפיי מציע אלבום שאין סיכוי שהיינו מגיעים אליו לבד, כשנטפליקס הופכת אותנו לממליצים הרשמיים על סדרות טלוויזיה בין חברים, וכן, גם כשאינסטגרם מסיקה שיש תינוק חדש בדרך - ומפרסמת לנו מוצרים שממילא הבענו בהם התעניינות. כמו כל קופסה שחורה - גם האלגוריתם מושך את תשומת לבנו רק כשמשהו משתבש. אלא שאז אנחנו מצפים ממנו להפוך פתאום ל"אנושי", להתחשב.
סיפורה של ברוקל, שנאלצה לעבור לידה שקטה, משך מיד תשומת לב: יותר מ-65 אלף לייקים ו-28 אלף ציוצים-מחדש בטוויטר, שבבסיסם חמלה וזעזוע. כעת, חשבו על כל האמהות שנאלצו לעבור לידה שקטה לפני 20 שנה ויותר: הן ודאי נתקלו בפרסומת לשידת החתלה או לבגדי היריון בשלטי חוצות, בטלוויזיה וברדיו, בעיתונים ובמגזינים. הן קיבלו עלוני פרסום אל תיבת הדואר, ועלונים מקוונים אל התיבה האלקטרונית. כל הזמן. עם או בלי היריון, עם או בלי זוגיות, ובלי קשר למידת הרלוונטיות של הפרסומות האלה לחיים שלהן.
An open letter to @Facebook, @Twitter, @Instagram and @Experian regarding algorithms and my son's birth: pic.twitter.com/o8SuLMuLNv
— Gillian Brockell (@gbrockell) December 11, 2018
בסופו של דבר, אלגוריתם שמציג לנו פרסומת בלתי רלוונטית הוא פשוט לא מורגש. לעומת זאת, אלגוריתם שמציג לנו פרסומת שנוגעת בנקודה רגישה - ועוד כזו שדווקא הייתה רלוונטית עד לפני זמן קצר - הופך פתאום לאכזרי. אם נגגל "טבעות נישואין" ונקבל פרסומת לאולם חתונה - גם מבלי שזה בכלל רלוונטי לנו, אנחנו כנראה נחשוב שזה משעשע. לעומת זאת, אותו אלגוריתם שיוביל לאותה תוצאה אצל משתמשים שבדיוק ביטלו חתונה - זה כבר עלול להכאיב. צריך להבין: לא מתקיים תהליך הסקת מסקנות במצב כזה. בעצם, התהליך שמתקיים הוא פשוט - מודעות ופרסומות מוצגות לנו המשתמשים על סמך מילות חיפוש ועל פי פילוח דמוגרפי. במקרה של ברוקל, המנגנונים של פייסבוק לא "ידעו" שהיא בהיריון, ולכן גם לא יכלו "לדעת" שהיא עברה לידה שקטה. הם בסך הכל ידעו שהיא חיפשה עגלה לתינוק.
זה תמיד נכון שיש עוד הרבה עבודה לעשות: הטכנולוגיה משתכללת כל הזמן, פילוח השוק נעשה חד יותר והמידע שאנחנו כמשתמשים מספקים לחברות ולמפרסמים - הולך ונערם בכמויות, ומסייע למיקוד מודעות טוב יותר. אבל האיזון משאיר אותנו על הגדר: אנחנו ממשיכים לחשוש מפני קצב איסוף המידע, אבל כועסים כשענקיות הטכנולוגיה לא יודעות בוודאות את תוצאות בדיקת ההיריון האחרונה. חוששים מפני השתלטות של בינה מלאכותית, אבל זועמים כשהיא כל פעם מחדש מוכיחה שזה בדיוק מה שהיא - מלאכותית, אוטומטית. בלתי-אנושית.
מומלצים
