ככל שטכנולוגיות לזיהוי פנים (Face recognition) הופכות פופולריות יותר בשימוש, הסכנות שהן טומנות בחובן הולכות ומתבהרות: בסוף השבוע האחרון חשף ה"ניו יורק טיימס" כי אפליקציה לזיהוי פנים של סטארט-אפ בשם Clearview AI נמצאת בשימוש בקרב יותר מ-600 רשויות אכיפה בארצות-הברית, מתחנות משטרה מקומיות ועד ה-FBI והמשרד להגנת המולדת. כל זאת בשנה החולפת בלבד.
זיהוי פניםזיהוי פנים
זיהוי פנים
(צילום: shutterstock)
מדובר בסטארט-אפ בשלבים מוקדמים, שעוסק בזיהוי פנים על-סמך השוואה למאגר מידע. ב-Clearview סרקו כ-3 מיליארד תמונות מהרשת, מפלטפורמות פופולריות כמו פייסבוק ויוטיוב ועד לאתרים נישתיים. פשוט מעלים תמונה לאפליקציה, ומקבלים בחזרה את הנוכחות המקוונת של אותו אדם - כולל שם מלא, תמונות שהעלה לרשת וקישורים אל אותם אתרים. לפי הדיווח, רשויות האכיפה נעזרות באפליקציה לזיהוי פשעים מסוגים שונים - החל מגניבות, דרך זיופים והונאות ועד למקרי רצח וניצול ילדים.
התחקיר חשף כי מאחורי Clearview עומד יזם אוסטרלי בן 31, בשם הואן טון-ת'אט, שנכנס לעסקים לא רק עם רשויות אכיפה, אלא גם עם כמה חברות פרטיות שמשתמשות באפליקציה שלו לצורכי זיהוי. בנוסף, בקוד של האפליקציה התגלה כי בעתיד החברה מעוניינת לאפשר זיהוי באמצעות שימוש במשקפי מציאות רבודה (AR) - כך שיספיק מבט אחד על פנים של אדם כדי לשלוף את המידע הרלוונטי לגביו.
טכנולוגיות מתקדמות לזיהוי פנים תמיד היו שנויות במחלוקת, שכן הן מאיימות על פרטיות בסיסית ועשויות להיות מנוצלות לרעה בידיים הלא נכונות, בקלות יתרה. באופן מסורתי, רשויות אכיפה נסמכות על טכנולוגיה כזו רק כאשר מדובר בתמונות שנמצאות במאגרים מורשים - כמו תמונות מרשיונות נהיגה או מרישום פלילי.
זיהוי פנים בינה מלאכותיתזיהוי פנים בינה מלאכותית
זיהוי פנים באמצעות בינה מלאכותית
(צילום אילוסטרציה: Shutterstock)
גם החברות הגדולות שבידיהן מצויה טכנולוגיה מהסוג הזה, כמו פייסבוק וגוגל, לא ממהרות להשמיש אותה באופן רחב - דווקא משום שמדובר בהבטחה שלצדה סיכונים של ממש עבור הציבור. טכנולוגיה לזיהוי פנים מושמשת בהיקפים גדולים במשטרים בלתי דמוקרטיים, כשבמערב יש מקומות שהחליטו לאסור לגמרי על שימוש בה, כמו העיר סן פרנסיסקו.
היכולת לשלוף בהצלחה פרצוף מתוך קהל ולזהות אותו באופן מיידי, עשויה להיות מנוצלת למעקבים ולסחיטה באיומים - על ידי גורמים פרטיים וגם על ידי ממשלות זרות. העובדה שמדובר באפליקציה נגישה כל-כך רק מחדדת מערך הסיכונים, ואת הכוח שמונח כעת בידיים של גורמים שונים - ללא בקרה אמיתית. הרגולציה על טכנולוגיות מבוססות בינה מלאכותית עוד מצויה הרחק מאחור, ובהיעדר פיקוח אנחנו נאלצים לסמוך על חברות הטכנולוגיה מצד אחד, ועל הרשויות העושות בה שימוש מהצד השני.