יוטיוב - גן עדן לפדופילים

פדופילים שמשתמשים בסרטונים ביתיים תמימים שמוצעים להם אוטומטית, ילדים קטנים שנחשפים לסרטונים של רצח, סקס וסמים, חקירה פדרלית בוועידת הסחר שעשויה להסתיים בקנס אדיר, סדרת פרסומים מביכים, רפורמות, שיפורים והצעות רדיקליות לתיקון - יוטיוב, הבייביסיטר הנאמן של הורים רבים, עוברת ימים לא פשוטים.

בחודשים האחרונים הפלטפורמה החברתית שבבעלות גוגל נמצאת תחת מטח האשמות קשה שהשורה התחתונה שלהן היא אחת: הילדים שלנו פשוט לא בטוחים שם. יאנוס קייזר מאוניברסיטת הארוורד, הוא אחד החוקרים הבולטים שהצליחו לגבות את הטענה הזו בנתונים במחקר שפורסם ב"ניו יורק טיימס" ועורר מהומה. 

"תחשבו על זה כך", מסביר קייזר בריאיון. "נניח שאתם מצלמים את הילד שלכם שוחה בבריכה בקאנטרי השכונתי, או מצליח לעשות שפגט בפעם הראשונה, ואתם שולחים את הסרטון בקבוצה המשפחתית. זה משמח ומרגש את כולם, זה בטוח. אבל כשאתם מעלים את אותו סרטון ליוטיוב, והוא פתוח לכל העולם, הרבה פעמים יכולים לצפות בו מסיבות אחרות לגמרי. למשל כדי, איך נאמר, להתרגש אחרת".

אתה מתכוון לפדופיליה?

"כן". 

קייזר ושני עמיתיו בסך הכול ניסו לערוך מחקר שבוחן את ההשפעה של יוטיוב בברזיל. לשם כך, הם עקבו אחר ההמלצות המובילות שמציע האלגוריתם של יוטיוב בכל סרטון - סרטונים וערוצי משתמשים. למסקנה הגיעו במקרה. "הצלחנו לזהות כ־50 סרטונים שהציגו תוכן בעל רמיזות מיניות. ביצענו מעקב על אותן המלצות של סרטונים בעלי אופי מיני והבחנו שבמקרים רבים, הסרטונים הפכו מוזרים וקיצוניים יותר ויותר. למשל, סרטונים של נשים מדברות על סקס הובילו לסרטונים של נשים מיניקות ולנערות בלבוש מינימלי".

ומה עשיתם עם המידע שמצאתם?

"זה כמובן הדליק אצלנו נורה אדומה. אחרי התייעצות עם המחלקה המשפטית של 'הניו יורק טיימס', שאיתם אנחנו משתפים פעולה לעיתים קרובות, המשכנו לחקור וזיהינו קהילה שלמה של סרטונים שבהם מופיעים ילדים שעושים דברים יומיומיים לחלוטין. מה שהבדיל אותם משאר הסרטונים שעקבנו אחריהם, היה מספר הצפיות הרב, למעשה מעל 200 אלף צפיות לכל סרטון. האלגוריתם של יוטיוב הצליח ליצור קטלוג סרטונים של ילדים בעלי אופי מיני, וזה מפחיד".

אז ככל שיש פחות בגדים, יש יותר צפיות? זוהי ההנחה?

"כן, ייתכן מאוד שזה כך. אני זוכר סרטון אחד שהיה מאוד תמים, שהיו לו 250 אלף צפיות, כאשר לשאר הסרטונים באותו ערוץ היו כמה מאות צפיות. זה מציג את ההיגיון של האלגוריתם, אבל מנקודת מבט אנושית זה נראה רע מאוד". 

מה היה בסרטונים האחרים, עם מספר הצפיות הנמוך?

"הם לבשו יותר בגדים. והילדה בסרטון עם 250 אלף הצפיות הייתה לבושה הרבה פחות, עם כותונת לילה או משהו בסגנון".

האם גיליתם אדם ספציפי או פדופילים במחקר שלך? 

"זה נותר רק ברמת הנתונים. היו בהחלט משתמשים מסוימים שחשדנו בהם, אבל לא ידענו מי הם כי הם נותרו אנונימיים".

התבנית שזיהו קייזר ועמיתיו במרכז ברקמן קליין לאינטרנט וחברה, יסודארה קורדובה ואדריאן ראוכפלייש, הייתה מטרידה. מערכת ההמלצות האוטומטית של יוטיוב יוצרת עבור צופים מסוימים מקבצים של סרטונים של ילדות קטנות ונערות צעירות, בזה אחר זה. סרטונים ביתיים שאולי נראים תמימים בנפרד - ילדה קופצת על טרמפולינה, ילדה אחרת מתארגנת לבית הספר בבוקר - יוצרים קו מנחה ברור כשהם מופיעים במסה. 

ויותר חמור, משתמשי הפלטפורמה אפילו לא צריכים לחפש באופן פעיל סרטונים שבהם מופיעים ילדים - מערכת ההמלצות כבר תוביל אותם לשם באופן הדרגתי. למשל, משתמשים שצופים בסרטונים ארוטיים, עשויים לקבל המלצות להמשיך ולצפות בסרטונים של נשים שהופכות באופן בולט לצעירות יותר ויותר. 

במקרה לדוגמה שנחשף ב"ניו יורק טיימס" לצד המחקר, מספרת כריסטיאן ס' מברזיל, כי סרטון סטנדרטי ולא מעניין במיוחד שהעלתה בתה בת העשר - שבו היא וחברה משחקות בחצר הבית בבגדי ים - הגיע תוך ימים ספורים ל־400 אלף צפיות. "נבהלתי מהמספרים", סיפרה האם לעיתון. 

קייזר מדגיש שהדאגה הייתה מוצדקת. "מתברר שהאלגוריתם שעליו מבוסס מנוע ההמלצות החל להציע את הסרטון למשתמשים, שצפו לפניו בסרטונים של ילדים לבושים למחצה. ברוב המקרים, האלגוריתם ממליץ למשתמשים לצפות בסרטון אחרי שצפו בסרטונים בעלי תוכן מיני. גולשים שחיפשו תוכן עם גוון מיני קיבלו הצעות לצפייה בסרטונים בוטים יותר ויותר - עד לסרטונים של ילדות קטנות".

האפקט הזה מכונה "אפקט מחילת הארנב". מחקרים מסוימים הציעו שהאלגוריתם המסתורי של יוטיוב פועל - במכוון או שלא - כך שהתכנים המוצעים ילכו ויהפכו קיצוניים: מסרטוני רכיבה על אופניים בגו־פרו, למשל, יתחיל המנגנון להציע סרטונים של תאונות מחרידות. מסרטוני איפור עם טיפים, יגיע הצופה לסרטונים של ניתוחים פלסטיים שהשתבשו.

כבר כמה חודשים שיוטיוב מתמודדת עם ביקורת קשה מאוד על האופן שבו היא משמשת קרקע נוחה לפדופילים ועל הקושי שלה להתמודד עם זה. סדרת פרסומים בתחילת השנה הצביעה על כך שפדופילים השתמשו בתגובות כדי "לתדרך" פדופילים נוספים לקטעים ספציפיים בסרטונים של ילדים. יתרה מזאת, כיוון שמדובר בסרטונים בעלי מספר צפיות גבוה מאוד, מנגנון הפרסום של יוטיוב אף מוסיף להם פרסומות למותגים מרכזיים - כך שגם יוטיוב וגם החברות המפרסמות מרוויחות כסף מאותו פלח צופים מפוקפק. 

בתחילת החודש החליטה יוטיוב לחסום את האופציה לתגובות בהרבה מהסרטונים הללו, אבל טרם מצאה מענה יעיל לכל הבעיות. הסרטון של בתה של כריסטיאן, למשל, המשיך להיות זמין גם חודשים אחרי סדרת הפרסומים. 

"יוטיוב מעולם לא התכוונה לסייע לפדופילים", מסביר קייזר, "אבל בפועל, מערכת ההמלצות האוטומטית מסוגלת לגרום להם להמשיך לצפות באותן המלצות שאני מכנה, 'מטרידות ביותר'".

מה לגבי פייסבוק ואינסטגרם למשל? גם שם הסכנה קיימת? 

אני לא יודע מספיק כדי לדעת כיצד עובד האלגוריתם של פייסבוק ואני לא יודע דבר על אינסטגרם. באופן כללי, צריך לזכור שאלגוריתמים של המלצות יכולים להמליץ רק מה שנמצא בפלטפורמה. השימוש בהמלצות נעשה פשוט בגלל שזה עובד - מנגנון ההמלצות מניע לפעולה, ובהמלצות עצמן אין שום דבר בעייתי לכאורה: אם אנחנו בספוטיפיי או אפילו ביוטיוב, אם אנחנו מקשיבים לשירים או צופים בסרטונים של חתולים, אנחנו רוצים לצפות בעוד דברים דומים, ואז זה מגניב שאנחנו מקבלים עוד מאותו דבר. זה רק בהקשר מסוים שאני מאמין שהאלגוריתמים של ההמלצות מהווים בעיה. למשל בתוכן פוליטי, או בסרטונים של ילדים".

הפתרון יכול בכלל להגיע מכיוונה של יוטיוב?

"התרענו על הסרטונים האלה בגלל שהאמנו שזה חשוב וכי רצינו לראות תגובה מיידית מצד יוטיוב בנושא הזה, כי חשבנו שרוב החומרים האלה לא צריכים להיות שם בכלל, אבל אני חושב שכן, הם כבר הטמיעו שינויים. אני יודע מכיוון ש'הטיימס' סיפרו לנו שלפתע חלק מהסרטונים שעליהם התרענו מובילים כעת לסרטונים נורמטיביים לחלוטין, ולא לסרטונים נוספים עם ילדים. אז הם יכולים לשנות את זה, השאלה היא כיצד הם מחליטים להמשיך ולנתב את האלגוריתם שלהם".

איך אתה מציע לפתור את המשבר?

"הפתרון שלי הוא לשקול בכובד ראש, אם לא להשבית בכלל, את ההמלצות לצפייה עבור כל סרטון שבו מופיעים ילדים". 

מערך ההמלצות האוטומטי של יוטיוב, אותו אלגוריתם מהולל שאמור לזהות את טעם המשתמש ולהשאיר אותו מחובר לפלטפורמה באינפוזיה דרך הצעות דומות, הוא אחד הפיתוחים החשובים שלה ואחראי לכ־70 אחוז מכלל הצפיות באתר. לפי המחקר של הארוורד, הוא גם אחד הבעייתיים שבהם: הוא מה שמאפשר לפדופילים לנצל את כל מה שיש ליוטיוב להציע. 

אבל כפי שהורים רבים יכולים להעיד, הוא בעייתי מעוד סיבה מהותית. מן הסתם, ילדים לא רק מופיעים בסרטונים רבים - הם גם צופים בסרטונים בעצמם. הרבה. וגם כאן, "אפקט מחילת הארנב" הוא תרחיש שהורים רבים מכירים: שמתם להם קליפ של נועה קירל, ואחרי שתי דקות של חוסר תשומת לב מצאתם אותם בוהים בשיר היפ־הופ אמריקאי נוטף סקס בחסות הנגן האוטומטי. וזה עוד תסריט טוב - כי כמו שיוטיוב לא התכוונה לתת הכוונות לפדופילים, היא גם מעולם לא התכוונה להמליץ לילד שלכם לצפות בסרטונים שבהם חיילי דאעש עורפים ראשים, או דמויות של דיסני יורות אחת לשנייה בראש או מזריקות סמים. גם זה קורה.

לאחרונה פורסם ב"וול סטריט ג'ורנל", שיוטיוב שוקלת לפתוח ערוץ נפרד לתכנים לילדים, בדיוק על מנת למנוע ממנגנון ההמלצות להוביל את הצופים הצעירים לתכנים לא הולמים. "בסך הכול יוטיוב לילדים נראית כפשרה טובה", אומר קייזר כעת, "אבל אי־אפשר לומר לאנשים 'תצפו בזה והכול יהיה בסדר'. זה מעט מדי ומאוחר מדי. אבל יהיה עלינו להמתין ולראות מה ייצא מזה".

אתה נותן לילדים שלך לצפות ביוטיוב?

"לא. אם כבר אני ארשה להם לצפות באפליקציה של יוטיוב לילדים, אבל אני אהיה נוכח לצידם. אני לא אתן להם פשוט לצפות ביוטיוב מתוך מחשבה שהכול בטוח שם, כי אנחנו יודעים שיש דברים שחומקים אל תוך האפליקציה לילדים. אני מקווה שזה לא יקרה יותר אבל זה לא סביר, רק בגלל כמות התוכן שהועלתה ומועלית לפלטפורמה". 

כהורה, אתה ממליץ לי לא להשאיר את הילדים לבד עם יוטיוב?

"זו שאלה של הגנה. אם אנחנו רוצים להגן על הילדים מתוכן שנמצא ביוטיוב, אני ממליץ להיות ליד הילדים כדי לדעת במה הם צופים. אם את רוצה להגן על ילדייך מפני אנשים שאורבים לילדים ברשת, מסוג הדברים שאנחנו מצאנו, שאלי את עצמך אם את חייבת להעלות את הסרטון שלהם ליוטיוב, ואם כן, את צריכה להבין שמה שאת מעלה באופן ציבורי עשוי להופיע בהצעות לצפייה. מה גם שתמיד קיימת האופציה לסווג סרטון כפרטי, כך שרק לך תהיה גישה לסרטון, מה שאומר שלכל מי שיש קישור לסרטון יוכל צפות בו וכך תוכלי לשתף אותו עם קרובים. ולמי שאין קישור לסרטון, לא יוכל לצפות בו והסרטון לא ייכלל באלגוריתם". 

אלא שגם "יוטיוב לילדים" זו לא הצעה שצפויה לעבור. עוצמת החברה נשענת על ההיקף הכולל של התכנים, והפרדה כזו תפחית את הכנסותיה מפרסום באופן משמעותי. ובכלל, מומחים רבים טוענים כי גם כך להפרדה תהיה השפעה מועטה יחסית, כי ילדים מגיל שבע נוטים לעבור ולגלוש באתר הרגיל. כמובן שגם ההצעה לחסום את מנגנון ההמלצות על תכנים לילדים בינתיים לא מתקבלת, אם כי ביוטיוב מבהירים כי ההגבלות על המנגנון הורחבו ודויקו לאחרונה. 

הקושי בשמירה על ילדים צבר תאוצה רצינית בחודשים האחרונים, ובשבוע שעבר פורסם ב"וושינגטון פוסט" כי ועדת הסחר הפדרלית בארה"ב נמצאת בשלבים מתקדמים של חקירה נגד יוטיוב, בעקבות תלונות רבות, שלפיהן היא לא מצליחה להגן על ילדים שמשתמשים בשירותיה ואף אוספת בצורה בלתי חוקית מידע עליהם. ועדת הסחר מנהלת את החקירה על בסיס תלונות שקיבלה מאז 2015. המטרה המדויקת של החקירה והשלב שבו היא נמצאת אינם ידועים, אך אחד המקורות אומר שהיא בשלבים מתקדמים - כך שייתכן שהֶסדר הכולל קנס משמעותי יידון בקרוב.

"המודל העסקי של יוטיוב שם את הרווחים במקום הראשון ואת רווחת הילדים במקום האחרון", טען דיוויד מונהן, פעיל מרכזי נגד ניצול תאגידי של ילדים, בראיון ב"וושינגטון פוסט". "כשהעברנו את התלונות שלנו לגוגל התגובה שלהם הייתה מגוחכת - הם אמרו לנו שיוטיוב הוא לא אתר המיועד לילדים, כשלמעשה זהו האתר הפופולרי ביותר באינטרנט בקרב ילדים".

בעקבות הביקורת, החלו ביוטיוב לנקוט צעדים משמעותיים, גם אם יש אומרים שלא מספקים, לצמצום פוטנציאל הפגיעה בילדים - הן אלה הצופים והן אלה המופיעים בסרטונים. "יוטיוב משקיעה רבות בטכנולוגיה ובצוותים, שתפקידם לייצר לילדים ולמשפחות את ההגנה האפשרית הטובה ביותר", נמסר מגוגל ישראל. "אנחנו מתייעצים עם מומחים וחוקרים ומשפרים את המדיניות והפלטפורמה שלנו על בסיס המשוב שלהם. רק ב־2019 צימצמנו פיצ'רים בשידור החי, השבתנו תגובות והגבלנו המלצות על סרטונים שמציגים קטינים במצב פגיע. לאחרונה יישמנו במערכת הסיווג שלנו טכנולוגיית למידת מכונה חכמה יותר, במטרה לייעל את הזיהוי והיישום של הגנות על סרטונים שעלולים לסכן קטינים. ברבעון הראשון של 2019 הסרנו מעל ל־800 אלף סרטונים שמפירים את המדיניות שלנו סביב בטיחות ילדים, רובם הוסרו לפני שצברו עשר צפיות".