בעוד השאלה המוסרית הנוגעת לשימוש בטכנולוגיות לזיהוי פנים מהדהדת בחודשים האחרונים, במיוחד על רקע מחאות Black Lives Matter בארה"ב, מועצת העיר פורטלנד נוקטת עמדה: העיר הגדולה במדינת אורגון העבירה חוק כפול האוסר על שימוש בטכנולוגיה לזיהוי פנים - הן בהקשר מוניציפלי והן בקרב חברות וארגונים פרטיים.
גזענות מובנית בבינה מלאכותיתגזענות מובנית בבינה מלאכותית
גזענות מובנית. טכנולוגיה לזיהוי פנים
(אילוסטרציה: Shutterstock)
החוק התקדימי, שעבר פה אחד במועצה, נתפס כמודל רגולטורי. בפורטלנד מקווים כי ערים נוספות יצטרפו במהרה, וכי בהמשך יהפוך החוק לתקן גם בארה"ב כולה. משרדים עירוניים נדרשים לבחון את הטכנולוגיות לזיהוי פנים שנמצאות בשימושם במהלך שלושת החודשים הקרובים. החוק המיועד לחברות פרטיות ייכנס לתוקפו בחודש ינואר הקרוב.
עוד על טכנולוגיה לזיהוי פנים:
החשש המרכזי בנוגע לטכנולוגיות לזיהוי פנים נטוע בעובדה שהן עמוסות בהטיות: מאפיינים מגדריים ואתניים משפיעים על מידת הדיוק שלה - כשקבוצת הסיכון הבולטת היא זו של נשים שחורות. הסכנה היא בזיהוי מוטעה על ידי הטכנולוגיה.
דוגמאות לכך אפשר היה לראות בחודשים האחרונים במסגרת המחאות שפרצו בעקבות מותו של ג'ורג' פלויד בידי שוטר. המקרה האיר בזרקור על אלימות ממוסדת כלפי קהילת השחורים בארה"ב, כשטכנולוגיות לזיהוי פנים משמשות גם שוטרים ברחבי המדינה, כך שזיהוי מוטעה פירושו מעצרים והאשמות שווא.
זיהוי פניםזיהוי פנים
רגולציה תקדימית. זיהוי פנים
(צילום: shutterstock)
בעקבות המחאה, ענקיות טכנולוגיה דוגמת י.ב.מ, מיקרוסופט ואמזון הודיעו כי הן משהות פיתוח ומכירה של אמצעים טכנולוגיים לזיהוי פנים למשטרה, לגופים ממשלתיים ומוניציפליים. חלק מהחברות קראו לבחינה מעמיקה של הטכנולוגיה וביקשו רגולציה מקיפה עליה לפני שתוחזר לשימוש.
בערים נוספות בארה"ב, דוגמת בוסטון, סן-פרנסיסקו ואוקלנד, כבר הועברו תקנות דומות האוסרות על שימוש בטכנולוגיה במסגרת מוניציפלית - אך אצלן האיסור אינו חל גם על חברות פרטיות.
גם בישראל קיימת ביקורת סביב הפעלת אמצעים טכנולוגיים לזיהוי פנים בשטחים: חברת אניוויז'ן הנמצאת במוקד הביקורת, יזמה תחרות מחקרית שמטרתה להוכיח כי ניתן לצמצם את המקרים של זיהוי מוטעה ומוטה, וקבוצות מחקר אכן הצליחו להגיע לרמת דיוק של 0.99 אחוז בזיהוי פנים. בעקבות הביקורת עליה, שהובילה גם את ענקית הטכנולוגיה מיקרוסופט למשוך השקעה משמעותית ואחזקות בחברה, אניוויז'ן הודיעה כי היא צפויה להפריד את הפעילות הבטחונית שלה מזו העסקית-פרטית. הפעילות הבטחונית תעבור לבעלות של רפאל.