האם זיהוי הפנים של אפל גזעני?
בשאילתה שהפנה סנטור אמריקני לחברת אפל הוא דורש להבין באיזו טכנולוגיה החברה השתמשה לזיהוי הפנים, כדי להבין אם אנחנו עלולים להיתקל בטכנולוגיה גזענית
ב-2009 פיתחה חברת HP טכנולוגיה לזיהוי פנים, שהייתה אמורה לפאר את מכשירי החברה השונים, אולם כבר בתחילת דרכה היא התקשתה לבצע כהלכה את מה שהיא תוכננה עבורו: זיהוי פנים. ואולם הקושי הטכנולוגי לזהות את חלק מפני המשתמשים לא היה שרירותי, אלא בא לידי ביטוי בעיקר בקרב אנשים ממוצא אתני אפריקני.
גם חברת גוגל מעדה בנושא דומה כאשר ב-2015 פיתחה מנגנון דומה שהיה אמור לזהות את פני המשתמשים שלה ולתייג אותם בתמונות שהם מעלים לענן, אלא שאנשים ממוצא אפריקני (שוב) הוצגו בחלק מהמקרים כגורילות.
אם נשים בצד לרגע את המעידה הקטנה שהייתה לחברת אפל כשהם הציגו את הטכנולוגיה באירוע ההכרזה של האייפון X שנערך לפני מספר שבועות, אז המכשיר לא הצליח לזהות את פני המדגים (מה שקרה בגלל הדגמה על המכשיר הלא נכון ולא בגלל כשל בטכנולוגיה), החשש שהעלה הסנטור אל פרנקן, שפנה לחברת אפל בבקשה להבהרות, הוא שהטכנולוגיה הזו תפגע במיעוטים בדיוק כמו שקרה בשני המקרים שצוינו.
התגובה של אפל הייתה מהירה ונחרצת: "הגישה של אנשים ממיעוטים שונים אל המכשירים שלנו היא נושא שמעסיק אותנו רבות ואנחנו עושים את כל המאמצים כדי למנוע מטעויות כאלו להתרחש. הטכנולוגיה שלנו מבוססת על מאגר נתונים של למעלה ממיליארד תמונות שונות שנלקחו מאנשים ממגוון עצום של מוצאים, מינים, גזעים וגילים ובנוסף היא מתבססת גם על פיתוחים טכנולוגיים יחודיים (בחלקם מתוצרת ישראל - ג"ל) כמו מצלמות עומק, מצלמות אינפרה-אדום ועוד, אשר כל מטרתם היא להביא אותנו לרמת דיוק גבוהה ככל שניתן וגם למנוע אפשרויות זיוף".
בתגובה אמר סנטור פרנקן שהוא שמח מאוד על הגישה והרצון של אפל לעזור בנושא הזה ושהוא התרשם מאוד מהפן הטכנולוגי שהוצג לפניו, אולם הבטיח שימשיך לבדוק את הנושא לעומק, בייחוד לאור העובדה שהמכשיר עצמו עדיין לא הגיע למדפים ולמעשה לא עבר עדיין את מבחן השטח האמיתי. גם אנחנו נמשיך לעקוב אחרי הנושא.
