בעוד שסוגיית המוגנות ברשת מעסיקה רגולטורים ברחבי העולם, ממשלת בריטניה בראשות קיר סטארמר מבצעת קפיצת מדרגה רגולטורית דרמטית. בצעד שנועד לסגור פרצות בחוק הבטיחות המקוונת (Online Safety Act), הכריז היום (ב') רוה"מ הבריטי על שורת צעדים נוקשים שנועדו להגן על קטינים מפני תכני AI פוגעניים ואלגוריתמים ממכרים.
שינוי תפיסה
הבשורה המשמעותית ביותר היא שינוי התפיסה הממשלתית: שרת הטכנולוגיה, ליז קנדל, השוותה את הצורך בעדכון חוקי הטכנולוגיה לתקציב המדינה השנתי. לדבריה, "הקצב שבו הטכנולוגיה מתפתחת, כפי שראינו עם הפריצה המטאורית של הצ'אטבוטים לחיינו בשנים האחרונות, מחייב את הפרלמנט לעדכן את החקיקה מדי שנה, ולא להמתין שנים לדיונים בוועדות".
אחד הסעיפים החשובים בתוכנית החדשה מכונה "חוק ג'ולס", על שמו של ג'ולס רום, נער בן 14 ששם קץ לחייו בעקבות "אתגר רשת" מסוכן לכאורה. לאור העובדה שעד היום חברות הטכנולוגיה נהגו למחוק נתוני משתמשים תוך זמן קצר, ההורים השכולים וגורמי האכיפה לא יכלו לשחזר את הפעילות האחרונה של רום.
לפי הצעת החוק החדשה, חוקרי מקרי מוות יחויבו לדווח לרגולטור התקשורת (Ofcom) על כל מקרה מוות של קטין בגילאי 18-5. מרגע הדיווח, חברות הטכנולוגיה יידרשו להקפיא ולשמר את כל נתוני המכשיר והפעילות ברשת בתוך חמישה ימים, כדי למנוע השמדת ראיות פוטנציאלית.
ומה קורה בעולם?
המאבק הנוכחי מגיע לאחר עימות חזיתי בין ממשלת בריטניה לרשת X, כאשר הראשונה טוענת כי צ'אטבוט ה-AI של הפלטפורמה, גרוק (Grok), שימש ליצירת תמונות "דיפ פייק" מיניות של קטינים ללא הסכמה. אמנם סטארמר הבהיר כי "הקרב מול X הוכרע", אך כעת המטרה היא להכיל את הכללים על כלל הבוטים מבוססי ה-AI שנותרו מחוץ לחוק המקורי שחוקק ב-2023.
בנוסף, בלונדון בוחנים איסור על שימוש ב-VPN בקרב קטינים - כלי שמשמש כיום לעקיפת הגבלות גיל באינטרנט - ומלחמה בתופעת ה-"Doomscrolling" (גלילה אינסופית) באמצעות הגבלת אלגוריתמים שנועדו למקסם זמן מסך.
ובעוד בריטניה נעה לכיוון חקיקה דינמית, המצב בעולם מציג תמונה מורכבת: סין, המדינה המחמירה ביותר בעולם, המפעילה "מצב קטינים" (Minor Mode) המגביל את זמן המסך של ילדים לשעה ביום וחוסם גישה לאפליקציות בשעות הלילה.
בארה"ב המאבק מתמקד בעיקר ברמה המדינתית (כמו בפלורידה או יוטה), אך ברמה הפדרלית הממשל מתקשה להעביר חקיקה גורפת בשל התיקון הראשון לחוקה; באיחוד האירופי, חוק השירותים הדיגיטליים (DSA) כבר מחייב פלטפורמות להגן על קטינים, אך היוזמה הבריטית נחשבת לספציפית ואגרסיבית יותר בכל הנוגע ל-AI.
ישראל, בדומה למדינות רבות אחרות, נשענת בעיקר על קודים וולונטריים והנחיות של משרד החינוך והמשטרה (יחידה 105), אך חסרה חקיקה מערכתית שמתמודדת עם אלגוריתמים ממכרים או חובת שימור נתונים לאחר מוות, או אפילו רגולציה על פעילות הרשתות החברתיות והצ'אטבוטים.
הטכנולוגיה משתנתה, וכך גם האיומים
הטכנולוגיה שנמצאת במוקד הדיון עברה כברת דרך עצומה. אם בתחילת שנות ה-2000 הרשתות החברתיות (כמו MySpace או ICQ) היו פלטפורמות פסיביות להחלפת מסרים, הרי שבעשור האחרון הן הפכו למערכות למידת מכונה מורכבות.
המעבר מציר זמן כרונולוגי וליניארי לפיד אלגוריתמי עם תכנים דינמיים הוא ששינה את כללי המשחק - לא המשתמש בוחר מה לראות, אלא המכונה בוחרת עבורו את התוכן שייצור אצלו את התגובה הרגשית החזקה ביותר.
הכנסת הבינה המלאכותית הגנרטיבית (Generative AI) למשוואה יצרה איום חדש - היכולת של בוטים לנהל שיחות אינטימיות עם קטינים או לייצר תוכן ויזואלי פוגעני בשניות. המהלך הבריטי הוא למעשה הכרה בכך שהחוק לא יכול להיות סטטי בעולם שבו הטכנולוגיה משתכפלת ומשתפרת מדי יום.
עם זאת, יש לציין שעד כה ניסיונות הרגולציה השונים לא מאוד שינו את המסוכנות של הרשתות החברתיות - בעיקר אלה הפועלות מחוץ לתחומי השיפוט של המדינות. הדוגמה הבולטת ביותר לכך היא אוסטרליה, שאסרה שימוש ברשתות חברתיות מתחת לגיל 16, אך לא לקחה בחשבון את נושא ה-VPN, שלפי שעה עדיין חוקי במדינה.
