שתף קטע נבחר

הכי מטוקבקות
    זירת הקניות
    הקרב על האמת: המרוץ לזיהוי דיפ פייק
    מספר סרטוני הדיפ פייק גדל במהירות. בתוך חצי שנה, עין אנושית לא תוכל עוד להבדיל ברשת בין וידיאו אותנטי לבין מזויף. התחזית הקודרת מסעירה ממשלות, אבל גם חברות כמו פייסבוק, אמזון ומיקרוסופט - שמוכנות לשלם מיליוני דולרים למי שיצליח לפתח טכנולוגיה מוצלחת לזיהוי סרטונים מזויפים

    תופעת הדיפ פייק , סרטוני וידיאו מזויפים שנראים כמו אמיתיים, עומדת לשנות את העולם. והכוונה לעולם האמיתי, זה שפועלים בו פוליטיקאים, מדינות, ואינטרסים גיאו-פוליטיים. זו הסיבה שמחוקקים בארה"ב מכניסים תיקונים לחוק שיאפשרו להרשיע יוצרי סרטוני דיפ פייק פוגעניים ואילו חברות ענק כמו פייסבוק, אמזון וגוגל מכריזות על תחרות לפיתוח כלי בינה מלאכותית שידעו לזהות ולנטרל סרטוני דיפ פייק.

     

    כך מתכננים להתמודד עם דיפ פייק

    כך מתכננים להתמודד עם דיפ פייק

    סגורסגור

    שליחה לחבר

     הקלידו את הקוד המוצג
    תמונה חדשה

    שלח
    הסרטון נשלח לחברך

    סגורסגור

    הטמעת הסרטון באתר שלך

     קוד להטמעה:

     

    דיפ פייק היא טכנולוגיית בינה מלאכותית (AI), שמאפשרת להפיק סרטי וידיאו שבהם משנים את תנועות השפתיים של אדם מוכר או שמשתילים את פניו על אדם אחר, כך שהוא אומר או עושה דברים לפי רצון הבמאי. סרטוני דיפ פייק ראשונים, הומוריסטיים, הופיעו ברשת כבר לפני כשנתיים, ביניהם פניו של סטיב בושמי שהושתלו על גופה של ג’ניפר לורנס וסרטון של אילון מאסק כתינוק. הסרטון הראשון ששינה את הלך הרוח המשועשע סביב הטכנולוגיה נוצר על ידי הקומיקאי ג'ורדן פיל, ובו נראה הנשיא לשעבר אובמה מנבל את פיו על הנשיא טראמפ. המניפולציה הייתה ברורה, אבל המסר מפחיד: סרטון הדיפ פייק הבא יכול להיות זדוני באמת. זה רק עניין של זמן. הטכנולוגיה מאפשרת סרטוני דיפ פייק שייראו כל כך אמיתיים, עד שלא ניתן יהיה לזהות בהם את המניפולציה. המסרים שיעברו דרכם עלולים להשפיע בקלות על קהלים עצומים - צרכנים, בוחרים, מקבלי החלטות.

     

    לפי פרופ' האו לי מאוניברסיטת דרום קליפורניה, מהמומחים הגדולים בתחום, בתוך חצי שנה עין אנושית לא תוכל להבדיל בין וידיאו אותנטי לבין וידיאו מזויף. מה שאומר, שסרטונים של מנהיגי העולם מכריזים מלחמה על עניינים של מה בכך ייראו לנו אותנטיים לגמרי. וסרטונים אמיתיים, למשל של הקנצלרית אנגלה מרקל רועדת או של דונלד טראמפ המאשים את הכורדים שלא השתתפו בפלישה לנורמנדי, ייראו לנו מניפולציה זולה. ההבדל בין אמת ושקר מטשטש.

     

    מספר סרטוני הדיפ פייק ברשת עלה ב-84% בשנה האחרונה. חברת Deep Search מהולנד, הסוקרת את האינטרנט בקביעות בחיפוש אחר סרטונים כאלה, מציינת, שהוא מגיע כיום לכ-15,000 ועולה בהתמדה. הרוב המוחלט הם סרטי פורנו, שבהם מוחלפים פניה של השחקנית המקורית בפנים של כוכבת ידועה. חביבות זייפני הפורנו הן סקרלט ג'והנסון וגל גדות. סרטוני דיפ פייק אחרים נוצרו לשם שעשוע או סאטירה. הקומיקאי ג'ים מסקימן, למשל, העלה לרשת סרטון חיקויים של ידוענים, כשפניו משתנים לפי הדמות שהוא מחקה.

     

    אתגר דיפ פייק פייסבוק (צילום מסך: github)
    מאגר FaceForensics - מי כאן אמיתי ומי מזוייף? (צילום מסך: github)
     

    המחוקקים בארה"ב מנסים להתמודד עם הנושא באמצעות חקיקה, שמטילה עונשים על פרסום דיפ פייק פוליטי בזמן מערכת בחירות, ועל דיפ פייק בתחום הפורנו. הבעיה היא, שכדי להפוך חוק כזה לאפקטיבי נדרשת יכולת לזהות בוודאות סרטון דיפ פייק. זו הסיבה, שמאמצים רבים מושקעים בניסיונות לפתח כלים אמינים, שיידעו לזהות דיפ פייק במהירות. מי שנזקקות לכך במיוחד הן בראש ובראשונה הפלטפורמות החברתיות הגדולות - גוגל, פייסבוק, יוטיוב, אינסטגרם ואחרות. כשיגיע צונאמי הדיפ פייק, יודעים שם, הן שוב ייגררו לדוכן הנאשמים, וכנראה גם ייפגעו כלכלית; הן יחזרו להיות הרשע האולטימטיבי, שמספק במה למניפולציות שקריות.

     

    אתגר דיפ פייק פייסבוק (צילום מסך: youtube)
    אובמה בדיפ פייק. כבר לא משעשע(צילום מסך: youtube)

     

    שחקנים מדברים

    בבחירות 2016 בארה"ב שימשה פייסבוק במה לאלפי ידיעות פייק ניוז שהופנו למצביעים ספציפיים. מאז גדל ב-10% היקף המידע החדשותי שהציבור האמריקאי צורך מהפלטפורמות החברתיות. המשמעות: בבחירות 2020 ההשפעה של הדיפ פייק עלולה להיות קטלנית. פייסבוק וגוגל משקיעות מאמצים רבים בעידוד התעשייה והאקדמיה לפיתוח טכנולוגיות הזיהוי.

     

    בחודש שעבר יצאה גוגל, שעומדת גם מאחורי יוטיוב, בהכרזה על הפקת "מערך נתונים" (Data set) של 3,000 סרטוני וידיאו, שנראים אותנטיים לחלוטין, אלא שרק חלקם אותנטי וחלקם נוצר בטכנולוגיית דיפ פייק. המטרה — לאמן את תוכנות הבינה המלאכותית להבדיל בין וידיאו אותנטי לסינתטי. להפקת הסרטונים גייסה גוגל שחקנים מקצועיים. המאגר שולב במערך ייעודי לצורך מחקר, בשם FaceForensics, שגוגל תומכת בו בשותפות עם אוניברסיטאות מינכן ונאפולי.

    בסרטון ההדגמה שפירסמה החברה נראים שחקנים המדברים אל המצלמה בחלקה העליון של התמונה, כשבחלקה התחתון מוצגת גרסת הדיפ פייק שלהם - עם ראשים של שחקנים אחרים.

     

    פייסבוק יצאה ביוזמה מרחיקת לכת אף יותר: במאי השנה הכריזה החברה על "אתגר זיהוי דיפ פייק" (DFDC), שנועד לתמרץ חברות וחוקרים באקדמיה לפתח טכנולוגיות זיהוי. לפחות 10 מיליון דולר יוענקו לזוכים. פייסבוק גייסה למיזם גם את מיקרוסופט, וכן את האוניברסיטאות MIT, אוקספורד, קורנל, ברקלי ועוד.

     

    גם פייסבוק יצרה לעצמה מאגר סרטוני דיפ פייק באמצעות שחקנים. מייק שרופפר, מנהל הטכנולוגיה הראשי של החברה, אמר בשיחה עם כתבים: "אני מנסה להתקדם מהר לפני שהבעיה מגיעה, כי הולכת להיות בעיה גדולה". אגב, פייסבוק גם בוחנת את מדיניותה העקרונית לגבי סרטוני דיפ פייק: האם הם פסולים על הסף, או שיש להסיר רק את אלה הפוגעים בפוליטיקאים.

     

    היום הצטרפה גם אמזון למאבק כנגד דיפ פייק. חברת מחשוב הענן של אמזון, AWS, הצטרפה לוועדה המארגנת של אתגר ה-DFDC והיא תתמוך מקצועית בקבוצות הפיתוח וגם תעניק גישה לענן בשווי של מיליון דולר, לצוותים שיצטרכו עיבוד ענן במסגרת הפיתרון שהם מפתחים.

     

     

    אתגר דיפ פייק פייסבוק (צילום מסך: google)
    מאגר הדיפ פייק של גוגל: מקור וזיוף(צילום מסך: google)

     

    70 טכניקות

    חברה אחת שכבר הודיעה על הצטרפותה לאתגר של פייסבוק היא Adverify של הישראלי אור לוי. בימים כתיקונם היא עוסקת בזיהוי פייק ניוז אבל לצורך האתגר היא גייסה באחרונה צוות של חמישה אנשי פיתוח חדשים. "בינתיים פיתחנו אב-טיפוס ראשוני עם תוצאות לא רעות, ונעלה הילוך עם קבלת מאגר הנתונים", אומר לוי. לדבריו, הסרטונים החדשים שיצרו החברות לצורך המחקר הכרחיים: "עד עכשיו היו לנו רק כמה עשרות, אולי מאות, של דוגמאות".

     

    לוי אומר, כי רק מספר קטן של חברות סטארטאפ מתמחות כיום בדיפ פייק: "מדובר בעיקר בחוקרים באקדמיה שמוצאים בזה אתגר, או סוכנויות ממשלתיות כמו DARPA. לפי מיטב ידיעתי, אין כיום אף חברה שמציעה פתרון מסחרי שלם ואמין לזיהוי דיפ פייק. אני מקווה שהאתגר של פייסבוק יצעיד קדימה את התחום. הם יביאו לשוק הרבה כסף והרבה יחסי ציבור".

     

    באקדמיה, כמו באקדמיה, פחות מתעניינים בחששות העסקיים של פייסבוק ויותר באתגר הטכנולוגי. לטענת פרופ' האני פריד מאוניברסיטת UC ברקלי, "בעידן המידע הנוכחי אנחנו חייבים להשתפר בהבחנה בין אמת לשקר, לגמול לתוכן אמין, וכך לחנך את הדור הבא להיות אזרחים דיגיטליים טובים יותר".

     

    בלי קשר לפייסבוק, הצוות של פריד כבר אוסף מזה חודשים מידע ויזואלי על כל המועמדים במערכת הפוליטית האמריקאית, ובונה מאגר של המראה המקורי שלהם. המטרה היא - במקרה של חשש לדיפ פייק על מועמד - לאפשר לבינה המלאכותית להשוות את הסרטון החשוד לאלה שבמאגר ולקבוע אם הוא מזויף.

     

    גם במשרד ההגנה האמריקאי חוששים מאוד משיטפון הדיפ פייק. מארק טורק, מנהל פרויקט המחקר הפורנזי של המדיה בסוכנות DARPA, מדבר על 70 טכניקות שונות שנבחנות לצורך ההתמודדות; למשל - תוכנה שמשווה את תנועות השפתיים לפס הקול של הסרטון וקובעת אם יש תאימות מלאה ביניהם, או תוכנה שמחפשת הבדלי תאורה בין שתי דמויות בסרטון.

     

    דיפ פייק - אור לוי (צילום: יח
    אור לוי. גייסו מהנדסים להתמודדות עם האתגר (צילום: יח"ץ)

     

    פרסום או אמנות

    בניגוד לטכנולוגיות הפריצה הוותיקות שבהן מתמחים רבים, טכנולוגיות הדיפ פייק הן חדשניות, מסובכות ומבוססות בינה מלאכותית. אף שאין להשיג עדיין תוכנות ליצירה קלה ומהירה של דיפ פייק רציני, כבר עתה קיימות חברות שמציעות ברשת יצירה של סרטונים כאלה בהזמנה, בתוך יומיים, על בסיס תמונות או סרטונים קיימים, בעלויות של דולרים בודדים לסרט. במגרש הזה, אגב, פועלות גם חברות ישראליות, שמדגישות כי מדובר בסרטונים למטרות פרסום או אמנות, וכל שימוש אחר נפסל על ידיהן.

     

    מדובר כרגע בסרטונים ברמה בסיסית, ואין סיבה לפקפק בכוונתם הטובה של היוצרים. אבל ברור שתמורת סכומי הכסף הנכונים, יהיו בעולם מי שיהיו מוכנים לעשות עבודה ברמה אחרת לגמרי, עם מטרות מפוקפקות.

     

     תגובה חדשה
    הצג:
    אזהרה:
    פעולה זו תמחק את התגובה שהתחלת להקליד
    מומלצים