האלגוריתם של פייסבוק מציג לנשים ולגברים מודעות דרושים שונות באופן שעלול להוות אפליה בלתי חוקית בארה"ב - כך עולה ממחקר חדש של אוניברסיטת דרום קליפורניה. מהמחקר עולה בין היתר כי מודעת דרושים למשרת שליח ברשת דומינו'ס פיצה, משרה שרוב המועסקים בה הם גברים, הוצגה יותר לגברים, בזמן שמודעה למשרה דומה ברשת Instacart, שבה יש רוב נשי, הוצגה יותר לנשים. כל זאת, על אף שפייסבוק אינה מאפשרת למפרסמים להציג מודעות דרושים למשתמשים בהתבסס על מגדר, גיל או אזור מיקוד. החוקרים בחנו גם את המודעות של פלטפורמת לינקדאין ולא מצאו הטיה מגדרית דומה.
עוד עולה מהמחקר כי מודעת דרושים לחברת תכשיטים שפורסמה בפייסבוק הוצגה יותר לנשים, בזמן שמודעת דרושים של סוכנות למכירת רכב הוצגה יותר לגברים. "זה לא שהמשתמש אומר 'אה, אני מעוניין בזה'", מסבירה החוקרת אלכנסדרה קורולובה מהמחלקה למדעי המחשב באוניברסיטת דרום קליפורניה, "פייסבוק החליטה בשמו שסביר להניח שהוא ילחץ על המודעה". לדבריה, רק בגלל שבאופן היסטורי קבוצה מסוימת לא הייתה מעוניינת במשרות מסוג מסוים, זה לא אומר שלא צריך לתת לה הזדמנות להתמודד על המשרות הללו.
מפייסבוק נמסר בתגובה למחקר כי היא נקטה בצעדים משמעותיים כדי לטפל באפליה במודעות הדרושים בפלטפורמה. "המערכת שלנו לוקחת בחשבון סימנים רבים ומנסה להציג לאנשים מודעות שהם יהיו מעוניינים בהן, אבל אנחנו מבינים את הדאגות העולות מהמחקר", נמסר מהרשת החברתית.
האלגוריתם עושה את העבודה
הפרסום הממוקד, המכונה גם "טרגוט", הוא מה שעומד בבסיס המודל העסקי של פייסבוק. הוא מאפשר למפרסמים לפנות לקהל יעד ספציפי לפי גיל, אזור גיאוגרפי, תחומי עניין, דפים שביקרו בהם ועוד. חשוב לציין כי בשנת 2019 הכריזה החברה שלא תאפשר יותר להציג למשתמשים פרסומות ממוקדות בנושאי דיור, תעסוקה ואשראי לפי גיל, מגדר או אזור מיקוד. היא גם הגבילה את האפשרות לטרגט משתמשים לפי גזע, מוצא אתני, נטייה מינית ועוד.
מהמחקר של אוניברסיטת דרום קליפורניה עולה כי גם אם המפרסמים לא יכולים לקבוע בעצמם אם נשים או גברים יראו את המודעות שלהם, האלגוריתם של פייסבוק עושה בשבילם את העבודה באופן שעלול להפלות חלק מהמשתמשים. "לא ראינו שום הוכחה פומבית לכך שהם מטפלים בכך שהאלגוריתמים שלהם גורמים לאפליה", אמרה קורולובה, "האלגוריתם של פייסבוק בוחר עבור המשתשים את המודעות שנראות רלוונטיות עבורם. אם יותר נשים מראות עניין בעבודות מסוג מסוים, התוכנה לומדת את זה ותראה לנשים מודעות מהסוג הזה".
לפי החוק בארה"ב, ניתן לפרסם מודעות דרושים באופן ממוקד על בסיס כישורים רלוונטיים, אך לא על בסיס גזע, מגדר או גיל. לדברי פרופסור סנדרה ווטשר מאוניברסיטת אוקספורד, שלא הייתה מעורבת במחקר של אוניברסיטת דרום קליפורניה, חוקים נגד אפליה הם לרוב תוצאה של תלונות מאזרחים - ואנשים לא יכולים להתלונן על מודעות שהם לא ראו. "הכלים שפותחו כדי למנוע אפליה נוצרו מתוך מחשבה שמדובר בבן אנוש שעומד מאחוריה", אומרת ווטשר, "אבל אלגוריתם מפלה באופן אחר לגמרי. הוא ממיין אנשים לקבוצות באופן שונה והוא עושה את זה בדרך מאוד מעודנת. אלגוריתמים, בעיקרון, מפלים אותך מאחורי גבך".
כעת, החוקרים קוראים לרגולטורים לבחון בצורה מדוקדקת את האלגוריתמים של פייסבוק ולוודא שאין בהם הטיות נוספות, למשל על רקע גזעי. "ראינו שפלטפורמות לא כל כך טובות בפיקוח עצמי על האלגוריתמים שלהן ככל שמדובר בהשלכות חברתיות בלתי רצוניות, במיוחד כשהעסק שלהם עלול להיפגע", מסכמת קורלובה.
