האם חברות בינה מלאכותית אחראיות למה שהצ'אטבוטים שלהן אומרים? בית משפט אזורי במינכן השיב השבוע על השאלה הזו באופן חד משמעי וקבע כי גוגל אחראית באופן ישיר לתוכן שמייצרים סיכומי ה-AI שלה (AI Overviews), גם כאשר הם מבוססים על מידע שמגיע מאתרים אחרים.
מדובר בהחלטה תקדימית שעשויה להשפיע לא רק על גוגל אלא על כל תעשיית ה-AI, כולל שירותים כמו ChatGPT, קלוד ונוספים, שמייצרים תשובות באמצעות שילוב וניסוח מחדש של מידע מהרשת.
פסק הדין ניתן במסגרת בקשה לצו מניעה זמני לאחר ששתי חברות הוצאה לאור ממינכן טענו כי סיכומי ה-AI של גוגל הציגו אותן כחברות הקשורות להונאות, מלכודות מנויים ופעילות עסקית מפוקפקת, למרות שלטענתן אין לכך כל בסיס עובדתי.
לפי בית המשפט, מערכת ה-AI ערבבה בין מידע על חברות אחרות, שבאמת נקשרו בעבר להתנהלות בעייתית, לבין התובעות, ואף יצרה קשרים שלא הופיעו באף אחד מהמקורות שאליהם הפנתה. החברות שלחו לגוגל מכתב התראה בדרישה להסיר את הפרסומים ולהתחייב שלא יחזרו, אך לטענתן החברה לא סיפקה מענה מספק.
לא מנוע חיפוש אלא יוצר תוכן
אחת הקביעות החשובות ביותר בפסק הדין היא שסיכומי ה-AI אינם דומים לתוצאות של מנוע חיפוש רגיל. בעוד שמנוע חיפוש מסורתי רק מפנה את המשתמש לאתרים אחרים, מערכת ה-AI של גוגל מנסחת מחדש את המידע, בונה מבנה עצמאי ומציגה מסקנות משלה.
במקרה שנדון, למשל, הסיכום נפתח בקביעה חד משמעית שלפיה אחת מהחברות התובעות "מוכרת בהתנהלות עסקית מפוקפקת", ובהמשך כלל תקציר, רשימת "דגלים אדומים" וטיפים למשתמשים כיצד להיזהר ממנה.
לדברי בית המשפט, אלה אינן תוצאות חיפוש אלא אמירות עצמאיות של גוגל עצמה. השופטים ציינו כי חלק מהטענות שהופיעו בסיכום כלל לא הופיעו במקורות שאליהם קישרה גוגל. אף אחד מהאתרים לא קשר בין התובעות לבין אותן חברות מפוקפקות, והחיבור ביניהן נוצר על ידי האלגוריתם בלבד.
זו גם הסיבה שבית המשפט הגדיר את הסיכום כ"תוכן של הנתבעת עצמה". גוגל פיתחה את מערכת הבינה המלאכותית, מפעילה אותה ומציעה אותה לציבור, ולכן היא גם אחראית למה שהיא מייצרת, משום שרק לה יש שליטה על האלגוריתמים ועל אופן פעולתם.
סיכומי AI אינם שירות חיוני
בית המשפט בחן גם פסיקות קודמות של בית המשפט הפדרלי בגרמניה, שקבעו בעבר כי מנועי חיפוש ושירותי השלמה אוטומטית נהנים מהגבלת אחריות, משום שהם רק מנגישים מידע של צדדים שלישיים. אלא שלדברי השופטים, ההיגיון הזה אינו חל על מערכות AI.
לדבריהם, מנוע חיפוש רגיל רק מציג קישורים לאתרים חיצוניים, בעוד שכאמור מערכת AI מייצרת "אמירות חדשות, עצמאיות ומהותיות" באמצעות שילוב מידע ממקורות שונים. לכן, רק גוגל מסוגלת לבדוק אם הטענות הללו נכונות, באמצעות השוואת המקורות המקוריים לטקסט שהמערכת יצרה.
עוד ציינו השופטים כי סיכומי AI כלל אינם שירות חיוני לשימוש באינטרנט. תוצאות החיפוש הרגילות כבר מספקות למשתמשים את המידע הדרוש, והסיכומים הם רק תוספת שנועדה להקל על הקריאה וקבלת המידע עבור המשתמשים.
במהלך הדיון טענה גוגל כי המשתמשים יכולים לפתוח את המקורות שאליהם מפנה סיכום ה-AI ולבדוק בעצמם אם הדברים נכונים. החברה אף טענה שכיום הציבור כבר מבין שאין לסמוך באופן עיוור על מידע שנוצר באמצעות בינה מלאכותית.
בית המשפט דחה את הטענה הזו. לדבריו, עצם האפשרות לבדוק מידע באופן עצמאי אינה פוטרת מאחריות על פרסום מידע שגוי. סיכום ה-AI עומד בפני עצמו, כתוב בצורה ברורה, ומציג מסר עצמאי שאינו כולל הסתייגויות או אזהרות לגבי אמינותו.
השופטים אף הזכירו מחקרים המראים שרוב המשתמשים כלל אינם לוחצים על הקישורים המצורפים לסיכומי AI, אלא מסתפקים בתשובה שמופיעה בראש הדף. עוד הם טענו כי אם הציבור יתייחס מלכתחילה לסיכומי AI כלא אמינים, הדבר יפגע משמעותית בתועלת של השירות.
פסק דין עם השלכות בינלאומיות
לפי פסק הדין, מדובר בתוצאה של אלגוריתם ולא בביטוי של עמדה, אמונה או השקפת עולם. השופטים קבעו כי הפעלת שירות AI היא בראש ובראשונה פעילות עסקית של גוגל, ולכן כאשר היא מתנגשת עם זכויותיהם של אנשים שנפגעו מפרסום מידע שקרי, האינטרס של החברה נדחק לתחתית סדר העדיפויות המשפטי.
כאשר הפעילות העסקית של גוגל מתנגשת עם זכויותיהם של אנשים שנפגעו מפרסום מידע שקרי, האינטרס של החברה נדחק לתחתית מבחינה משפטית
בהתאם, בית המשפט אסר על גוגל לפרסם טענות הקושרות חברות להונאות, חברות מפוקפקות, למלכודות מנויים, לשיחות טלפון שמעולם לא התקיימו או לחוסר זמינות עסקית. עוד נקבע כי גם אם הטקסטים הספציפיים כבר אינם מוצגים, עדיין קיים חשש ממשי להישנות ההפרה, משום שגוגל לא התחייבה להימנע מפרסום דומה בעתיד, ואין כל מניעה שהאלגוריתמים ייצרו שוב את אותן טענות.
המשמעות עשויה להיות רחבה במיוחד נוכח מחקר שביצעה לאחרונה חברת ה-AI Oumi עבור ה"ניו יורק טיימס", שמצא כי סיכומי ה-AI של גוגל המבוססים על מודל ג'מיני 3 מספקים תשובות נכונות בכ-91% מהמקרים - שיעור דיוק גבוה, אך בהיקפי השימוש של גוגל עדיין מדובר במיליוני תשובות שגויות בכל שעה.
המחקר העלה נתון מטריד נוסף: 56% מהתשובות הנכונות כלל אינן נתמכות במקורות שאליהם גוגל מקשרת, כך שמשתמשים אינם יכולים לעקוב אחר מקור המידע. וזו בדיוק הסוגיה שבית המשפט במינכן ביקש להכריע בה - כאשר מערכת AI מייצרת טענות חדשות שאינן מופיעות באף מקור מקושר, האחריות עליהן מוטלת על החברה שמפעילה את המערכת.
הפסיקה עדיין עשויה להשתנות בערעור, וגוגל טרם הגיבה להחלטה. אולם אם העיקרון שנקבע במינכן יאומץ גם במדינות נוספות, ייתכן שהוא יסמן נקודת מפנה עבור כל תעשיית הבינה המלאכותית, ויחייב גם חברות אחרות לקחת אחריות משפטית מלאה על מה שהמודלים שלהן כותבים.
