האם האלגוריתם האחראי על חיתוך תמונות "תצוגה מקדימה" בטוויטר נגוע בגזענות? ברשת החברתית לציוצים צפו ביומיים האחרונים טענות על כך שה-AI שאחראי על תצוגה מקדימה (Preview Photos) מעדיף פרצופים לבנים על פני שחורים. כלומר, במידה ומשותפת תמונה המכילה שני פרצופים - משתמשים יראו בתצוגה מקדימה רק את הלבן מביניהם.
ביונסהביונסה
תופיע בתצוגה מקדימה? ביונסה
(עיבוד תמונה. צילום: shutterstock)
במהלך סוף השבוע האחרון צייצו מספר משתמשים דוגמאות שמוכיחות את הטענה. כך למשל, הועלתה תמונה שבה מופיעים נשיא ארה"ב לשעבר ברק אובמה, לצד הסנאטור הרפובליקני מיץ' מקונל. בניסיון לצייץ אותה, התצוגה המקדימה (מה שהמשתמשים רואים בפיד עצמו, לפני שלחצו על התמונה) הראתה רק את פניו של מקונל.
עוד בנושא:
ניסיונות נוספים כללו שינוי בצבעי הרקע של התמונה, ואפילו שינוי צבע העניבה. בכל ניסיון כזה - התוצאה הייתה זהה: פניו של מקונל הם אלה שהופיעו בתצוגה המקדימה. העניין התעורר בעקבות צייצן שהבחין כי במהלך שיחות בפלטפורמת זום, הפנים של חברו לעבודה - אדם שחור, נחתכים מהמסך במצב של רקע וירטואלי.
התופעה חזרה על עצמה גם בניסיון לפרסם תמונה של דמויות אנימציה, כלבים ואפילו עם הלוגו של טוויטר. הטענה היא שרשת הנוירונים האחראית על חיתוך התמונות עבור תצוגה מקדימה בטוויטר, מאומנת על זיהוי פנים - ונשענת בעיקר על פרצופים לבנים.
בכיר בטוויטר הצטרף לשרשור עם דוגמה משלו. הוא הציב שני גברים - לבן ושחור, באותה חליפה, אותה תנוחה ואותו רקע לבן, והראה כי בתצוגה מקדימה הופיע דווקא הגבר השחור. למרות זאת, הדגיש כי לא מדובר בבדיקה רחבה מספיק, והודיע כי טוויטר בודקת את הנושא לעומק.
בעיית ההטיות המגדריות והאתניות של בינה מלאכותית, אלגוריתמים ורשתות נוירונים מעסיקה בשנה האחרונה את עולם הטכנולוגיה ביתר שאת. מחאת Black Lives Matter שפרצה בארה"ב בעקבות מותו של ג'ורג' פלויד בידי שוטר לבן, הגבירה את הלחץ - גם על הרגולציה, אבל בעיקר על חברות הטכנולוגיה המפתחות מוצרים מהסוג הזה. י.ב.מ, אמזון ומיקרוסופט הודיעו בזו אחר זו כי יפסיקו למכור טכנולוגיה לזיהוי פנים ויגבילו אותה בשימוש משטרתי.
בחודש יולי האחרון הודיעה טוויטר כי היא מסירה את המונחים "מאסטר" (אדון), "עבד" ו"רשימה שחורה" מהקוד של הפלטפורמה. גם פלטפורמת הקוד הפתוח "גיטהאב" הודיעה כי תסיר את המונח "מאסטר", ותחליף אותו ב-"Main" - מה שאכן עתיד לקרות החל מהשבוע הבא.