שתף קטע נבחר

דיפ פייק: לכו תסבירו שזה לא וידאו שלכם

מפוליטיקאים שהכניסו לפיהם התבטאויות שלא אמרו עד לסרטונים פורנוגרפיים ב"כיכובן" של שחקניות מפורסמות: עוד לא למדנו איך להתמודד עם הפייק ניוז, איך נתמודד עם האתגר הזה?

בשנה שעברה הופצו ברשת סרטונים פורנוגרפיים בכיכובן של כמה מהסלבריטאיות הגדולות בעולם, בהן גל גדות וטיילור סוויפט. הפעם לא מדובר היה בנסיונות סחיטה, בצילומים פרטיים שנגנבו על ידי האקרים או בבמאים מתוסכלים שעבדו איתן בתחילת הדרך ושלפו חומרים מעומקי הארכיון. הסרטונים האלה היו מזוייפים לחלוטין, והציגו את פניהן של נשים מצליחות בסרטונים פורנוגרפיים קיימים. זאת באמצעות טכנולוגיה ויזואלית מבוססת בינה מלאכותית, המכונה DeepFake.

 

דיפ פייק (אילוסטרציה: Shutterstock)
פייק ניוז 2.0(אילוסטרציה: Shutterstock)

 

אם תמונה שווה אלף מילים, כמה שווה סרטון וידאו? את ההעדפה ההולכת וגוברת לתכני וידאו ברשת, כמו גם את העליונות של הטלוויזיה והקולנוע בהיררכיית אמצעי התקשורת, אפשר לשייך להרבה מאוד גורמים - הבולט שבהם הוא הכלכלי: סרטוני וידאו הם שטח פרסום יקר, אבל גם כזה שנחשב יוקרתי. למה? "טוב מראה עיניים", כתב קהלת בן דוד, והפורמט של וידאו הוא מראה העיניים האידיאלי. ככזה, הוא נהנה מהילה של אמינות מטבע היותו. כל סטודנט מתחיל לתקשורת יידע לדקלם שווידאו הוא מדיום שנתפש אמין במיוחד - מפני שהוא מייצר גירוי חושי גדול יותר ומנטרל את הצורך בהשלמות מתוך הדימיון. מה שאתם רואים הוא מה שאתם מקבלים, פחות או יותר, וזו הסיבה שתופעת ה-DeepFake מעוררת דאגה אמיתית.

 

דיפ פייק הוא הלחם שנוצר מתוך שני מושגים: "למידה עמוקה" (Deep Learning) - נגזרת של בינה מלאכותית, ו-Fake, זיוף. גם המושג "RealFake" נקשר בתופעה הזו, ומלמד עד כמה תפישת האמינות של סרטוני וידאו נשארה כמעט בלתי מעורערת, גם בעידן תוכנות העריכה, הריאליטי והוויראליות ברשת. בעצם, מדובר בשימוש בבינה מלאכותית לצורך "השתלת" פרצופים בסרטוני וידאו, ויצירת תכנים מזוייפים.

 

 

השורשים של דיפ פייק אומנם קשורים בהפצת סרטונים פורנוגרפיים, אבל ככל שהטכנולוגיה הולכת ומשתכללת - כלומר, ככל שהסרטונים הופכים אמינים יותר לצפייה - הדיפ פייק מאיים גם על מטרות אחרות: פוליטיקאים, למשל. ביולי שנה שעברה, הציג סיימון אדלר, מפיק ב"רדיולאב", סרטון מבוסס דיפ פייק שבו נראה נשיא ארצות הברית לשעבר, ברק אובמה, כשהוא מתוודה שהדבר החשוב לו ביותר הוא לשחק גולף. ביצירת הסרטון נעשה שימוש בטכנולוגיה הזו, בקולו של אובמה ובפניו, אולם הטקסט כולו יצא מפיו של אדלר עצמו. בסרטון אחר שהופץ מאוחר יותר, נראה אובמה כשהוא מגדף את הנשיא המכהן דונלד טראמפ.

 

המזל הוא שבשני המקרים מדובר בסרטונים שנוצרו על מנת לעורר מודעות כלפי התופעה, ולסייע לצופים ולמשתמשים לסגל לעצמם מידה של ביקורתיות גם כשהם צורכים תכני וידאו. אבל זו כמובן רק ההתחלה: פלטפורמות שיתוף תוכן כבר נאלצות להתמודד עם התופעה ההולכת וגוברת, טוויטר ורדיט למשל כבר הכריזו כי הן חוסמות אפשרות לשתף תכנים מהסוג הזה. בפייסבוק הצהירו כי הם עובדים על אמצעי טכנולוגי שיסייע בזיהוי ותיוג של סרטונים מזוייפים במסגרת המלחמה הכוללת בפייק ניוז, ויש שורה של סטארט-אפים שמוקדשים בדיוק לפיתוחים האלה ואמורים לסייע באימות התכנים.

 

דיפ פייק (אילוסטרציה: Shutterstock)
"השתלת" פנים בצורה דיגיטלית(אילוסטרציה: Shutterstock)

 

אבל, ברשת כמו ברשת, לא בטוח שכל זה מספיק: אתרים שקריים למשל, היו נפוצים ברחבי הרשת הרבה לפני טראמפ, פייסבוק או טוויטר. הם לוו בדרך כלל בדיסקליימרים מאוד ברורים, לפיהם התוכן באתר הוא שקרי או סאטירי. רשתות חברתיות שינו במידה רבה את הרגלי צריכת התוכן של משתמשים, הדגישו כותרות, תמונות ובשנים האחרונות בעיקר סרטוני וידאו, והוסיפו גם את ההיבט הוויראלי, שמאפשר תפוצה רחבה במהירות ובקליק אחד. חשיפה לתכנים מזוייפים קורית במהירות ובתדירות גבוהה יותר, הרבה לפני שאנחנו מספיקים להפעיל מנגנונים ביקורתיים, ולכן לזהות את הזיוף בדיעבד כנראה לא יספיק.

 

הטכנולוגיה מתקדמת

בינתיים, הטכנולוגיה עצמה לא רק משתכללת ומקשה על זיהוי (בסרטונים של אובמה למשל, קל לראות את הפה המעוות או לשמוע את החיקוי בקול), היא גם הופכת זמינה יותר למשתמשים. אם לפני שנתיים יצירת סרטוני דיפ פייק חייבו כישורים ובקיאות בטכנולוגיה עצמה, היום אפליקציות מאפשרות כמעט לכל אחד לייצר בעצמו סרטון מזוייף בכמה צעדים פשוטים. אומנם זה עדיין לא מתאפשר ברמת ביצוע טובה מספיק, ולכן קל להטיל ספק באותנטיות של התוצרים האלה. בינתיים.

 

נשיא ארה
סמל. דונלד טראמפ(צילום: AFP)
 

גם מייסד אינסטגרם קווין סיסטרום - אדם שמבין משהו בהפצת וידאו ברשת ובתוכן ויראלי - הביע לאחרונה דאגה מהתופעה. "זה נראה קרוב מאוד לאמיתי, בעולם שבו אפשר להפיץ לעולם מידע במהירות רבה ולגרום לו להדהד, מה קורה אם אתה חושב שדמות פוליטית כלשהי אמרה משהו שבעצם לא נאמר?".


בשנתיים האחרונות תופעת הפייק ניוז הצליחה להפוך מאנקדוטת רשת לבעיה חברתית אמיתית, שמקבלת ביטוי לא רק ברשתות החברתיות אלא גם באמצעי תקשורת מסורתיים. בעיקר, היא מחדדת את הצורך בהבחנה הלכאורה טריוויאלית בין עובדות לדעות, ובשומרי סף שמתווכים אותן לציבור. דונלד טראמפ הוא כנראה סמל בהקשר הזה, כשהקמפיין שלו לנשיאות ארצות הברית כלל מתקפות חוזרות ונשנות על כל אמצעי תקשורת שהביע עמדה אחרת משלו. פייק ניוז חורג מגבולות הרשת ומייצר שורה של השפעות אמיתיות לגמרי - בארצות הברית, בבריטניה, ובזעיר אנפין גם בישראל כפי שהוכיחו הבחירות לרשויות המקומיות, שהביאו איתן שורה של פרופילים מזוייפים, בוטים ועמודי פייסבוק חדורי מטרה.

 

הרשתות החברתיות וענקיות הטכנולוגיה מושקעות בנושא של פייק ניוז מכיוון שהן מואשמות באופן תדיר בהיותן פלטפורמות שמאפשרות הפצה של מידע שגוי. הן יוצרות שיתופי פעולה עם גופים עיתונאיים, מעסיקות אלפי בודקי עובדות ומנטרי תוכן ומשקיעות בקמפיינים שעיקרם חינוך לאוריינות דיגיטלית בתקווה לחדד חושים ביקורתיים לגבי צריכת תוכן, וזה עדיין לא מספיק. עכשיו, תוסיפו לכל האתרים המזוייפים, הבוטים והטרולים, הטקסטים והתמונות, גם את המימד של וידאו, ובקרוב אפילו שידורים חיים - ולכו חפשו מה נכון ומה לא.

 

 תגובה חדשה
הצג:
אזהרה:
פעולה זו תמחק את התגובה שהתחלת להקליד
אילוסטרציה: Shutterstock
דיפ פייק
אילוסטרציה: Shutterstock
מומלצים