מערכות זיהוי פנים מסוגלות להגיע לדיוק כמעט מושלם של מגדר וצבע עור - כך עולה מתחרות בין קבוצות מחקר ופיתוח בתחום הבינה המלאכותית וראיית מחשב. התחרות נוהלה על ידי חברת זיהוי הפנים הישראלית אניוויז'ן (Anyvision) במסגרת כנס מומחי בינה מלאכותית אירופי וניגשו אליה 151 קבוצות מחקר עם 1,800 עבודות. עשר הקבוצות המובילות הגיעו לרמת דיוק של 0.999% אחוזי טעות בזיהוי מגדר וצבע עור והפכו את טעויות המערכת לזניחות.
אתגר המגדר התנהל על רקע הוויכוח העז שמתנהל ברשתות החברתיות סביב החשש שמערכות זיהוי פנים מפלות לרעה שחורים ונשים. בעקבות רצח ג'ורג' פלויד, פעילים בתנועת Black Lives Matter ציטטו מחקרים שלפיהם אישה שחורה נמצאת בסיכון גבוה פי חמישה להיות מזוהה על ידי אלגוריתמים לזיהוי פנים לעומת גבר לבן. ביוני פורסם כי גבר שחור נעצר בדטרויט בחשד לשוד לאחר שזוהה בטעות על-ידי מערכת לזיהוי פנים.
גזענות מובנית בבינה מלאכותיתגזענות מובנית בבינה מלאכותית
אישה שחורה נמצאת בסיכון גבוה פי חמישה
(אילוסטרציה: Shutterstock)
המשתתפים ב"אתגר המגדר" של אניוויז'ן קיבלו לידיהם כמות גדולה של תמונות שצולמו באמצעות מערכות אניוויז'ן, שאליהן נוספו 12,500 תמונות חדשות. כל התמונות תויגו מראש לפי מגדר, צבע עור, קבוצת גיל, משקפי ראייה, תנוחת ראש, מקור תמונה וגודל פנים. מאגר הנתונים נבנה מלכתחילה בצורה לא מאוזנת כדי לדמות תרחיש בעולם האמיתי ולאתגר את קבוצות המחקר. 
ד"ר אדוארד ואסקז, סמנכ"ל מחקר ויזואלי וראש סניף אניוויז'ן בבלפסט, אומר: "התוצאות מוכיחות כי מערכות זיהוי הפנים הנוכחיות, מבוססות הבינה המלאכותית, השתפרו באופן דרמטי בשנתיים האחרונות והן יכולות להשיג דיוק חסר תקדים בתרחישים מסוג זה. יש עדיין עבודה שנדרש לעשותה, אך ההבדל היחסי בהטיות כבר קטן ביותר. כל זה מראה, שמערכות זיהוי פנים, אם יופעלו במסגרת חקיקה נכונה ושימושים הנכונים, יכולות למנוע הטיות נגד בני אדם והן יכולות לסייע בהשפעה חיובית על החברה".
מעקב פרטיות Anyvisionמעקב פרטיות Anyvision
מעקב פרטיות Anyvision
(צילום: יח"צ)
חברת אניוויז'ן היא אחת המובילות בעולם במערכות זיהוי פנים, זיהוי גוף וזיהוי אובייקטים נוספים באמצעות ראייה ממוחשבת ובינה מלאכותית. לחברה לקוחות רבים בתחומים העסקיים, בשדות תעופה ובבתי חולים אבל הפרסום העיקרי שנקשר עם החברה הוא המערכות בתחום הביטחוני. בין השאר מדובר במערכות לזיהוי של תנועות חשודות במעברי הגבול בשטחים. על רקע זה נסוגה חברת מיקרוסופט מהשקעתה בחברה לפני מספר חודשים, לאחר שמומחה מטעמה קבע שהטכנולוגיה אמנם לא משמשת למעקב המוני אחר פלסטינים, אך איפשרו לו לבצע בדיקה מקיפה של כל פעילותה.
אניויז'ן Anyvisionאניויז'ן Anyvision
זיהוי פנים של אניוויז'ן
(זיהוי פנים של אניוויז'ן)
בשבוע שעבר נחשף ב"כלכליסט" שאניוויז'ן תפריד את הפעילות הביטחונית שלה מכלל הפעילויות ותמכור מחצית מהבעלות על החברה החדשה לרפאל. ההערכה היא שההחלטה באה בין השאר על רקע פרשת מיקרוסופט והרצון של אניוויז'ן להתמקד בפעילות אזרחית שאינה נתונה לביקורת ציבורית כה עזה. 
אניוויז'ן מצליחה לגייס עניין רב מצד המשקיעים והיא הכריזה בשבוע שעבר על גיוס של 43 מיליון דולר מהמשקיעים הקיימים. לא נמסר אם השקעה זו מחליפה את ההשקעה של מיקרוסופט. השקעה זו באה בהמשך לסבב השקעה קודם בהיקף 74 מיליון דולר, שהסתיים לפני מספר חודשים. החברה הוקמה ב-2015 על ידי איילון אטשטיין (מנכ"ל) ופרופ' ניל רוברטסון (סמנכ"ל טכנולוגיה) והיא מעסיקה כ-240 עובדים בתל אביב ובמספר שלוחות בעולם. בבלפסט פועל צוות של כ-30 מומחים בראיית מכונה.