מדובר במקרים שבהם משתמשי השיחות בחרו "לשתף" אותן - מה שהשאיר אותן למעשה נגישות לציבור הרחב. משתמשים ברדיט חשפו כך יותר מ-200 שיחות עם קלוד, שחלקן התרחשו לפני שבועות, באמצעות הקלדת מילות החיפוש site:claude.ai/share. לפי הדיווחים, חלקן הכילו רשומות בריאות, מסמכי חברות, ושמות ומספרי טלפון של ילדים.
גם מידע רפואי נחשף
שיחות נוספות כללו בקשות לעזרה בניסוח קורות חיים (כולל שמות, פרטי קשר והיסטוריית עבודה), או לסיוע במחקרים. גם ארטיפקטים של קלוד - כלים אינטראקטיביים ומיני-אפליקציות שאנשים בונים בתוכו - הופיעו בתוצאות.
בין השאר נחשפה שיחה שכללה דוח רפואי מפורט של משתמש, תוצאות ניסוי קליני שכללו שמות מטופלים, מסמכים הכוללים שמות ומספרי טלפון של ילדים, מסמכי חברה המסומנים "לשימוש פנימי בלבד", וביקורות על עובדים שכללו מידע אישי עליהם.
חיפוש ניסיוני בגוגל לפי השיטה שתוארה ברדיט כבר לא מחזיר תוצאות, מה שמלמד שהפרצה תוקנה והחברה פתרה כנראה את הבעיה.
מאנת'רופיק נמסר בתגובה כי אפשרות החיפוש של שיחות הצ'אט הוסרה ברגע שהתקבלו הדיווחים על התקלה, אך רבות מהן כבר נשמרו ושותפו באופן נרחב ברשת. דוברת החברה, איימי רות'רהאם, מסרה כי למשתמשי קלוד עומדת האפשרות לשלוט באופציית שיתוף הצ'אטים.
"הקישורים לשיחות אינם ניתנים לניחוש או גילוי אלא אם כן אנשים בוחרים לשתף אותם בעצמם. כשמישהו משתף שיחה, הוא הופך את התוכן הזה לנגיש לציבור, וכמו כל תוכן אינטרנט ציבורי אחר, הוא עשוי להיות מאוחסן בשירותים חיצוניים", כך לדבריה.
מנכ"ל אנת'רופיק, דריו אמודיי
(רויטרס)
שימו לב מה אתם משתפים
יש לציין שאופציית השיתוף בקלוד אכן מזהירה את המשתמש, ש"כל מי שיש לו את הקישור" יכול לצפות בתוכנו. אך עם זאת, הניסוח מרמז בבירור שהתכונה מיועדת בעיקר בשביל שמשתמשים יוכלו לשתף את השיחות שלהם עם חברים, עמיתים וקבוצות קטנות - לא עם כל האינטרנט. החברה אינה מציינת במפורש שהקישור עשוי להגיע לגוגל ולתוצאות החיפוש.
דובר גוגל, נד אדריאנס, הבהיר, כי החברה, כמו כל מנוע חיפוש אחר, אינה שולטת בתוכן העמודים שמתפרסמים ברשת. "אנחנו נותנים לבעלי אתרים אפשרות ברורה להחליט האם ניתן לסרוק או לאנדקס את הדפים שלהם, ואנחנו תמיד מכבדים את ההחלטה שלהם".
זו לא הפעם הראשונה ששיחות של קלוד מוצאות את דרכן לחיפושים ציבוריים בגוגל. בשנה שעברה דווח בפורבס על בעיה דומה, שבה כמעט 100 אלף שיחות של קלוד אונדקסו על ידי מנועי חיפוש. גם יומני שיחות של ChatGPT וגרוק הפכו אשתקד לנגישים לציבור. שתי החברות שינו בעקבות זאת את הדרך הקלה-מדי שבה ניתן היה לגשת לשיחות הללו.
מתברר, שככל שאנשים משתפים יותר ויותר מידע רגיש עם צ'אטבוטים, הדבר עלול לחשוף ברבים כמויות עצומות של נתונים ומידע פרטי. רבים מתייחסים לצ'אטבוטים כמקום "לחשוב בקול רם" על עבודה, בריאות ובעיות משפטיות, בדרך שהם לא בהכרח רוצים שתפורסם לציבור. העובדה שכמה ממנועי ה-AI המובילים בתחום נתקלו בגרסאות של אותה בעיה, מלמדת שהתעשייה מתקשה לתקן אותה לצמיתות.
