בזמן שענקיות הטכנולוגיה דוחפות בכל הכוח יכולות בינה מלאכותית לכל מוצר אפשרי, יותר ויותר משתמשים מתחילים לשאול שאלה פשוטה: מי בכלל ביקש את זה?
כעת, חוקר אבטחה מוכר טוען שגוגל הלכה רחוק במיוחד, ושדפדפן כרום מוריד למחשבים של משתמשים מודל AI ענק בנפח של 4 גיגה-בייט. בלי התראה ברורה, בלי אישור מפורש, ובלי שרוב האנשים בכלל מודעים לכך שזה קורה.
החוקר, אלכסנדר הנף, המוכר ברשת בכינוי "That Privacy Guy" , פרסם ניתוח חריף שבו הוא טוען כי כרום מתחיל להוריד אוטומטית קובץ בשם weights.bin כחלק ממערכת ה-AI של גוגל, המבוססת על ג'מיני ננו (Gemini Nano).
לדבריו, ההורדה מתבצעת ברקע במחשבים שעומדים בדרישות חומרה מסוימות, בלי חלון קופץ, בלי הסבר אמיתי למשתמש, ובלי אפשרות פשוטה למנוע את זה. והמספרים כאן לא קטנים. מדובר במודל ששוקל כאמור כ-4 גיגה-בייט, גודל שעד לא מזמן היה שייך למשחקי מחשב כבדים, לא לדפדפן אינטרנט.
לפי הנף, גם מי שמגלה את הקובץ ומוחק אותו, עלול לגלות שהוא פשוט יורד מחדש למחשב בהמשך. לטענתו, כדי לעצור את זה באמת צריך לכבות פיצ'רים מסוימים בכרום או להסיר את הדפדפן לחלוטין.
ניסוי שקט
כדי לבדוק אם אכן מדובר בהורדה אוטומטית, הנף ביצע ניסוי מבוקר על macOS באמצעות פרופיל חדש לחלוטין בכרום. הוא עקב אחרי יומני מערכת הקבצים של מערכת ההפעלה (Journaling File System) - מנגנון שמתעד פעילות באופן עצמאי מהאפליקציות עצמן.
מהממצאים עלה כי כרום יצר את תיקיית המודל והוריד את כל הקובץ ברקע, זאת בזמן שלא הייתה שום אינטראקציה מצד המשתמש. כל התהליך הסתיים בתוך קצת יותר מ-14 דקות בזמן גלישה רגילה לכאורה.
ולא רק זאת - קבצים פנימיים של כרום הראו שהדפדפן בדק מראש את יכולות החומרה של המחשב והחליט האם הוא "מתאים" להרצת מודל AI מקומי, עוד לפני שההורדה החלה. במילים אחרות, הטענה של הנף היא שכרום לא מחכה שהמשתמש יבקש פיצ'ר AI כלשהו, אלא מחליט לבד מי יקבל את המודל ומתחיל להוריד אותו אוטומטית.
"המחשב הפך ליעד"
הטענות של הנף לא מסתיימות בגוגל. רק לאחרונה הוא פרסם דו"ח נוסף נגד אנת'רופיק, המפתחת של קלוד, ובו טען שאפליקציית קלוד לשולחן עבודה התקינה בשקט רכיבי אינטגרציה לדפדפנים מבוססי Chromium שונים במחשב, כולל דפדפנים שבכלל לא היו מותקנים אצלו. לדבריו, גם שם לא הופיעה בקשת אישור ברורה, והרכיבים אפילו חזרו לאחר הסרה.
לטענתו, בשני המקרים מדובר באותה גישה: חברות טכנולוגיה מתייחסות למחשב של המשתמש כאל "יעד" לפריסה של פיצ'רי AI חדשים, במקום כאל מערכת שנמצאת בשליטת המשתמש עצמו.
הביקורת הזו מתחברת לתלונות ותיקות על "Dark Patterns" (דפוסים אפלים בתרגום ישיר, ד"ג) - עיצובים והגדרות שמכוונים לכך שמשתמשים לא ישימו לב למה שקורה ברקע בזמן שהם גולשים ו/או משתמשים במחשב. פיצ'רים שונים מופעלים כברירת מחדל, הגדרות מוסתרות עמוק בתפריטים, ואפשרויות הכיבוי וההסרה מסובכות או פשוט לא ברורות באופן מכוון.
מה לגבי הפרטיות?
מעבר לשאלת ההסכמה, הנף טוען שגם מבחינה משפטית יש כאן בעיה. לדבריו, ההתנהלות של גוגל ואנת'רופיק עשויה להתנגש עם חוקי פרטיות אירופיים כמו GDPR וה-ePrivacy Directive, שמגבילים אחסון מידע במכשירי משתמשים בלי שקיפות ואישור מתאימים.
נכון לעכשיו מדובר בטענות של החוקר בלבד, והן עדיין לא נבחנו בבית המשפט, אבל באירופה כבר הוכח בעבר שרגולטורים לא מהססים להיכנס לעימותים מול ענקיות טכנולוגיה סביב פרטיות, מעקב והסכמה של משתמשים.
אחד החלקים המעניינים בדו"ח של הנף עוסק דווקא בהשלכות הפחות מדוברות של הרצת מערכת AI באופן מקומי, וזה רוחב פס וצריכת אנרגיה. לדבריו, הורדה אוטומטית של קובץ בגודל 4 גיגה-בייט אולי נשמעת שולית למי שמחובר לסיבים אופטיים עם מהירות גלישה גבוהה, אבל עבור מיליוני משתמשים בעולם זו ממש לא המציאות.
הורדה אוטומטית של קובץ בגודל 4 גיגה-בייט אולי נשמעת שולית למי שמחובר לסיבים אופטיים עם מהירות גלישה גבוהה, אבל עבור מיליוני משתמשים בעולם זו ממש לא המציאות
במדינות רבות חבילות האינטרנט עדיין מוגבלות, מדודות או יקרות, וגם משתמשים שמחוברים דרך נקודות גישה סלולריות או תשתיות חלשות עלולים להרגיש היטב הורדה כזו.
מעבר לכך, הוא טוען שיש למהלך גם השפעה סביבתית לא מבוטלת. לפי ההערכות שלו, אם גוגל תפיץ קובץ כזה למאות מיליוני מחשבים ברחבי העולם, עצם ההעברה שלו עשויה לייצר פליטות פחמן בהיקף של עשרות אלפי טונות, עוד לפני שמישהו בכלל השתמש במודל.
מנגד, חשוב להבין גם למה גוגל בכלל עושה את זה. בשנים האחרונות חברות AI מנסות להעביר יותר ויותר יכולות עיבוד ישירות למכשיר המקומי במקום לענן. עבורן ועבור גוגל, מדובר במהלך שיכול לשפר פרטיות, להפחית זמני תגובה ולהקטין תלות בחיבור אינטרנט.
מודלים כמו ג'מיני ננו מיועדים בדיוק לזה - לאפשר לפיצ'רים מבוססי AI לפעול ישירות על המחשב או הסמארטפון, בלי לשלוח כל פעולה לשרתים מרוחקים. אבל גם אם הכוונה חיובית, השאלה שמרחפת מעל כל הסיפור נשארת פשוטה מאוד: האם לדפדפן מותר להוריד קבצים למחשב שלכם בלי לשאול אתכם בצורה מפורשת? לפי הנף, התשובה היא חד משמעית לא.
ובינתיים: גוגל הופכת את רדיט למומחה הרשמי של האינטרנט
במקביל לסערה סביב כרום, גוגל הכריזה גם על שינוי משמעותי נוסף במנוע החיפוש שלה, כזה שמראה עד כמה החברה מנסה לשנות את הדרך שבה אנשים צורכים מידע ברשת.
החברה הודיעה כי AI Overviews ו-AI Mode, מנגנוני החיפוש מבוססי הבינה המלאכותית שלה, יתחילו להציג בצורה הרבה יותר בולטת תשובות מרדיט, פורומים, בלוגים מקצועיים ורשתות חברתיות.
בפועל, גוגל מוסיפה אזור חדש בשם "Expert Advice" שבו יוצגו ציטוטים ותגובות מדיונים ציבוריים ברשת, כולל פוסטים מרדיט ובלוגים אישיים. לצד הקישורים יופיעו גם שמות יוצרים, שמות קהילה ושמות משתמש, כדי לעזור למשתמש להבין במהירות אם שווה לו להיכנס.
גוגל גם תתחיל לשלב יותר קישורים ישירות בתוך תשובות ה-AI עצמן, ותמליץ על כתבות עומק לקריאה נוספת בסוף התשובות.
המהלך הזה מגיע בתקופה שבה יותר ויותר משתמשים כבר מוסיפים את המילה "Reddit" כמעט לכל חיפוש בגוגל, מתוך תחושה שתוצאות החיפוש הרגילות התמלאו בתוכן פרסומי וגנרי, בעוד שדיונים אמיתיים בפורומים מספקים תשובות שימושיות יותר.
מצד שני, יש כאן גם מסר בעייתי לכלי התקשורת ואתרי התוכן, שכן ככל שגוגל משפרת את התשובות מבוססות הבינה המלאכותית שלה, כך קטן הצורך של המשתמשים בכלל להיכנס לאתרים עצמם.
פנינו לתגובה מגוגל, וזו תובא לכשתתקבל.
