טוב, יש סיבה טובה להתחיל להיות מודאגים. האפליקציה ריפייס (Reface), שמככבת עכשיו בצמרות חנויות האפליקציות לאנדרואיד ואייפון, מביאה את הדיפ פייק, סליחה – הווידאו הסינתטי – להישג ידנו. ויחד איתנו גם לכל פושע וסוטה, שלא היתה להם גישה לזה עד היום. כשיסכמו יום אחד את המהפך שעבר על עולם הווידאו ברשת, יכול להיות שריפייס תוזכר כאחד מסוכני השינוי המרכזיים.
אבל למה לא להתחיל בחלק החיובי: ריפייס היא האפליקציה שמביאה דיפ-פייק להמונים. היא מאפשרת לעשות החלפות פנים (face swap) מדהימות למדי וכך יכולים כל משתמשת ומשתמש לשבץ את פרצופם הגאה בסרטוני סלבריטאים באיכות גבוהה. זו התקדמות מטאורית לעומת הטכנולוגיה עד כה, שאפשרה לעשות את זה רק בתמונות סטילס או רק בקבצי גיף באיכות נמוכה. את מה שעושה ריפייס בתוך שניות ספורות על מכשיר סמארטפון מהשורה עשו עד עכשיו רק מהנדסי בינה מלאכותית עם שרתי אנווידיה מתקדמים ואימוני בינה מלאכותית שארכו שעות רבות.
כל היופי הזה מתחיל מצילום סלפי פשוט. האפליקציה סורקת את הפנים שלנו ומפיקה מהם קובץ מידע וקטורי, שהוא לב העניין. הוא זה שמכיל את המאפיינים הייחודיים שלנו. אחר כך אנחנו בוחרים את הסרטון שבתוכו אנחנו רוצים להישתל. יש ספרייה די מגוונת שכוללת שחקנים, זמרים ומי שחייב - גם את ליונל מסי. מפתחי דיפ פייק אוהבים לעשות החלפות פנים על הקומיקאי ביל היידר אז ניסיתי לבדוק איך אני איראה כהיידר. הכנת הסרטון המפורסם ששילב את טום קרוז בביל היידר ארכה בוודאי שבועות. במקרה של ריפייס זה לקח פחות מ-10 שניות.
4 צפייה בגלריה
ריפייס  דיפ פייק
ריפייס  דיפ פייק
אפליקציית ריפייס. בצמרת חנויות האפליקציות
(צילום: reface)
אחרי שהצלחתי להחזיר את הלסת השמוטה למקומה הלכתי על סרטון של מת'יו פרי מלהטט בריקודים בסצינות מתוך "חברים", מיזוג של חלומות כמוסים רבים. 10 שניות אחרי זה כבר היה לי סרטון של עצמי עושה את זה במקום פרי, מה שכנראה הלהיב את צופי הסטורי שלי, שמספרם עלה על כל הצופים בכל הסטוריז עד היום. מכאן ואילך יצאתי בסדרה ארוכה של חילופי פנים עם סרטונים וגם גיפים וממים שמוצעים באפליקציה, עד שהגיע זמן קריאת שמע של שחרית.

לעשות מזה כסף

האתר שמאחורי ריפייס נקרא Reface.AI, והמוצר העיקרי שלו הוא פלטפורמה להפקות וידאו סינתטי (שהוא השם המהונדס לסרטוני דיפ פייק) שפונה לעולם הפרסום והפקות הווידאו. בין השאר הפיקו שם סרטון לחברת הקוסמטיקה Vivienne Sabo שבו יכולות המשתמשות להחליף את פני הזמרות בפנים שלהן. הקמפיין הגיע לחצי מיליון החלפות פנים. עבור רשת בתי הקולנוע Multiplex החברה בנתה קמפיין שמאפשר למשתמש לשבץ את פניו בכרזות של סרטי קולנוע חדשים שיוצאים לאולמות. עבור פלטפורמת צילומי הסטוק Shotzr החברה בנתה מערכת שאיפשר להתמים את הפנים של המצולמים וכך להגן עליה מפני תביעות פוטנציאליות.
מאחורי פלטפורמת Reface.AI עומדת חברת Neocortext שמקום מושבה בקייב, אוקראינה. החברה הוקמה ב-2011 על ידי רומן מוגיילני, אולס פטריב וירוסלב בויקו, ועשתה בתחילת הדרך מכל הבא ליד: ניתוח טקסט, ניתוח סנטימנט, ניתוח תמונה. אחר כך התחילו לתת שירותי הפקת סרטונים לחברות פרסום ושיווק. רק ב-2018 הם חשבו על יציאה לציבור הרחב והציגו את ריפלקט (Reflect), פלטפורמה שמאפשרת לעשות החלפות פנים בתמונות סטילס.
בשנה שעברה הגיחה לאוויר הרשת אפליקציית דובליקט (Doublicat) שעושה החלפות פנים בסרטוני גיף. זו היתה כבר פריצת דרך, שהובילה ליכולות החדשות שיש בריפייס החדשה. כמו שזה נראה, ריפייס היא החברה הראשונה שמצאה דרך להגיע להמונים עם דיפ פייק, וגם לעשות מזה כסף. השימוש באפליקציה, להוציא שלושה ימי התנסות, כרוך בתשלום של 72 שקל בשנה. מה לא עושים כדי להפתיע את הפיד שלנו עם פרצוף של ביבי משולב בתוך דונלד טראמפ, או שרה בתוך מילניה.
4 צפייה בגלריה
ריפייס  דיפ פייק
ריפייס  דיפ פייק
ריפייס, תמונה קבוצתית
(צילום: reface)
החלפת הפנים של ריפייס מבוססת על טכנולוגיית GAN בה משתמשות חברות בינה מלאכותית רבות: באמצעות רשת נוירונית מאמנים את המחשב להניע את דמות המטרה והדמות המושתלת עליה, ולהעביר כל קימוט מצח וכל צקצוק שפתיים. הטכנולוגיה דורשת בדרך כלל אימון ממושך עם הרבה סרטונים. איש מקצוע ששאלנו אותו איך ריפייס עושים את זה כל כך מהר מעריך שמדובר בשימוש במודל תלת-ממדי מקובע ולכן המשתמש חייב לבחור בין הסרטונים באפליקציה (שעברו תהליך לימוד מראש) ולא יכול להעלות סרטונים משלו. "אפשר לקרוא לזה דיפ פייק אני מניח, אבל הם לא מגיעים לאותה איכות כמו דיפ פייק אמיתי", אומר בן שיחנו.
4 צפייה בגלריה
אתגר דיפ פייק פייסבוק
אתגר דיפ פייק פייסבוק
אימון בינה מלאכותית לייצר דיפ פייק
(צילום מסך: github)

סכנה לדמוקרטיה?

בכל מקרה, הציבור מתלהב. לפי הערכות, מספר ההורדות בשתי חנויות האפליקציות הגדולות חצה את קו 20 המיליון. בגוגל פליי האפליקציה מדורגת בכמעט חמישה כוכבים מושלמים אחרי 150 ביקורות. לא בטוח שאילון מאסק אהב את העובדה שפניו הפכו קורבן לכל משתמש חובב דיפ פייק, אבל לפי הדיווחים בריטני ספירס מאוד אהבה את זה ואפילו ריטווטה כמה דיפ פייקים מוצלחים במיוחד שלה.
האם אפשר לסמוך על ריפייס, שלא תעשה שימוש לרעה במידע שהיא אוספת מהמשתמשים? כזכור הסוגייה הזו הטרידה אותנו כשאפליקציית פייסאפ (FaceApp) הרוסית צברה פופולריות בשנה שעברה. החשש היה אז שהמפתחים משתמשים בתמונות המשתמשים כחומר גלם לאימון הטכנולוגיה שלהם. הועלה גם חשש שהחברה עושה ניתוח פנים של המשתמשים וכך יכולה להציע למפרסמים מידע מפולח ומטורגט היטב על כל משתמש: מגדר, גיל, האם הוא צרכן איפור או אולי מכשירי גילוח, וכו'.
4 צפייה בגלריה
אתגר דיפ פייק פייסבוק
אתגר דיפ פייק פייסבוק
איך אתה יודע שזה לא אובמה מדבר?
(צילום מסך: youtube)
ניכר בריפייס האוקראינית שלמדה מניסיון החברה הרוסית. ריפייס מפרטת את המידע שהיא אוספת מהמשתמשים - תמונות ו"תכונות פנים" (שהם המידע הווקטורי שמייצג את הפנים). היא מצהירה שהיא לא מבצעת זיהוי פנים ולא משתמשת בנתונים לשום מטרה זולת החלפת פנים. ושהתמונות נשמרות במשך 24 שעות במאגרי החברה ואז נמחקות. נתוני תכונות הפנים נשמרים כל עוד המשתמש פעיל ונמחקים לאחר מכן.
אבל יכול להיות שהבעיה האמיתית מצויה במקום אחר לגמרי: כלי התוכנה של ריפייס עלולים לאפשר יצירת סרטוני פורנו בכיכובם של גברים ונשים שהמשתמש בחר בהם, סרטונים שיכולים לשמש גם לסחיטה שלהם לאחר מכן. אפשר בקלות רבה לייצר סרטון שבו קים ג'ונג און מכריז מלחמה על ארה"ב או ג'ו ביידן מתוודה שהצית יערות בקליפורניה. הסכנות מהדיפ פייק שהמומחים התריעו מפניהן עלולות להתממש כבר עכשיו.
ד"ר טל פבל, ראש התמחות אבטחת סייבר בחוג למערכות מידע במכללה האקדמית תל אביב יפו, אומר: "בכל עולם התוכן של דיפ פייק זו סכנה גדולה לדמוקרטיה. כמו בסרטון הדיפ פייק המפורסם של ברק אובמה (ששם הוא נראה מקלל), הסכנה בדבר, שאתה לא יודע באמת שזה לא אובמה מדבר. כשאנחנו רואים את ראש הממשלה מוסר הצהרה, האם אני צריך לחשוש שזה זיוף או אמת? נכנס כאן רובד חדש שאיננו יודעים ומכירים, ולא צריך פה יכולות של מדינה כדי להשתמש בטכנולוגיה. אין לזה גבולות, מכמה תמונות יכולים לייצר סרטון שלם. הפחד הגדול הוא שהטכנולוגיה רק משתפרת ולבסוף לא יהיה על זה שליטה בכלל".
בריפייס מרגיעים: לדבריהם זו בדיוק הסיבה, שהאפליקציה שלהם לא מאפשרת כרגע להעלות סרטונים של המשתמש ומאפשרת שימוש רק בסרטונים שלה. כעת מפתחים בחברה טכנולוגיה שתאפשר לזהות באופן מובהק סרטונים שיוצרו באמצעות המערכת. לדבריהם, רק לאחר שהטכנולוגיה הזו תבשיל, הם יפתחו את האפשרות להעלות סרטונים פרטיים למערכת. ומתי זה יקרה? כבר בחודשים הקרובים.
עם ההצלחה גדל התאבון. עכשיו ריפייס התמקמה בשלוחה בארה"ב, לא הרחק מהולוויד שאליה היא נושאת את פניה (המסונתזים). המנכ"ל, רומן מוגיילני, אמר באחד הראיונות שהווידאו הסינתטי סיים את השלב המחקרי והתיאורטי שלו והוא נכנס עכשיו לשלב היצירתי, כחלק מהחיים שלנו.
איך יראה המשך הדרך? בחברה אומרים שהאפליקציה היא חלק ממגמת הפרסונליזציה, אחרי ה-Bitmoji וה- Memoji עכשיו מגיעה תור ההחלפה הריאליסטית. אחריה אולי יגיע תור החיים הסינתטיים עם אווטאר שמייצג אותנו במדיה החברתית מעשית, וגם רגשית. מוגיילני מספר שהשלב הבא בהתפתחות יהיה אפשרות לייצר החלפה של כל הגוף, לא רק של הפנים. המוצר החדש של החברה - Reface Studio - הוא בכלל כלי למקצוענים - יוצרי תוכן, משפיענים, אולפנים קטנים, מפתחי משחקים – והוא יעניק להם יכולות שעד היום היו אפשריות רק עם מערכות CGI עתירות משאבים ותקציבים של הוליווד.