הילדים שלכם מבלים כל היום בטיק טוק? הנה עוד סיבה לפקח אחרי הפעילות שלהם: האפליקציה הפופולרית פיתחה פיצ'ר חדש בשם Face Swap, שמאפשר למשתמשים לבצע סריקה ביומטרית של פניהם, להשתיל אותם בסרטונים קיימים ולשתף אותם בקלות ברשת. למעשה, מדובר ביצירת סרטוני דיפ פייק בכמה צעדים פשוטים.
אפליקציית tik tokאפליקציית tik tok
אפליקציית tik tok
(צילום: shutterstock)
הפיצ'ר המדובר עוד לא זמין למשתמשים והוא נחשף על-ידי אתר הטכנולוגיה Tech Crunch, לאחר שסטארט-אפ ישראלי בשם Watchful.ai גילה את הקוד שלו בגרסאות האנדרואיד האחרונות של האפליקציה הפופולרית והמקבילה הסינית שלה Douyin. שתי האפליקציות נמצאות בבעלות ByteDance הסינית והן זכו עד כה ל-1.5 מיליארד הורדות ברחבי העולם. החברה הישראלית הצליחה להפעיל את הקוד המדובר באפליקציית Douyin ואף תיעדה אותו בצילומי מסך.
כדי ליצור את הסרטונים המפוברקים, המשתמשים מתבקשים קודם כל לסרוק את פניהם בתנאי תאורה טובים וכאשר המצלמה בפוקוס. האפליקציה מוודאת שהם סורקים את פניהם ולא משתמשים בתמונה של מישהו אחר. במהלך הסריקה מתבקשים המשתמשים למצמץ, להניע את הראש וגם לפתוח ולסגור את הפה - כך ניתן לשלב את הפנים במגוון סיטואציות.
Face SwapFace Swap
כך נראה הפיצ'ר החדש
(צילום מסך: Watchful.ai)
בהמשך צריכים המשתמשים לבחור מבין שורה של סרטונים ש-ByteDance מחזיקה בזכויות שלהם, ולשלב את פניהם באחד מהם. ב-Tech Crunch אומרים שהתוצאה משכנעת למדי. את הסרטון המפוברק ניתן לשתף באפליקציה או להוריד אותו למכשיר. במקרה כזה הוא יופיע עם סימן מים (Watermark) של האפליקציה שיעזור להבהיר שמדובר בתוכן שעבר מניפולציה. מכיוון שטיק טוק פופולריות במיוחד בקרב בני נוער, האפשרות שטכנולוגיה כזאת תהיה זמינה כל כך למי שלא תמיד מודעים לסכנות השונות ברשת מדאיגה למדי (אם כי יש לציין שבתנאי השימוש נכתב כי הפיצ'ר יהיה זמין למבוגרים בלבד). בנוסף, המידע הביומטרי של המשתמשים נמסר לחברה סינית, והחשש הוא שהמידע הזה אינו נשמר אצלה כראוי. איתי כהנא, מנכ"ל ומייסד שותף ב-Watchful.ai, מסר ל-Tech Crunch כי "סרטוני הדיפ פייק האלה אולי נראים כיפיים על פני השטח, אבל אסור לאפשר להם להפוך לסוסים טרויאנים שמפרים זכויות יוצרים ועושים שימוש לרעה במידע אישי, במיוחד של קטינים שהם המשתמשים הכבדים ביותר של טיק טוק".
למרות שהקוד של Face Swap התגלה בשתי האפליקציות, בטיק טוק אמרו שאין בכוונתם לעשות בו שימוש ושבכוונתם להסיר אותו מהקוד. ב-Douyin אמרו שהם פועלים בהתאם לרגולציה בסין.