הלחץ על OpenAI בארה"ב ממשיך להתגבר: בזמן שהחברה מתקדמת לקראת הנפקה ראשונה בבורסה, קואליציה של תובעים כלליים ממספר מדינות בארה"ב פתחה נגדה בחקירה רחבת היקף, שבמסגרתה נבחנים היבטים שונים של הצ'אטבוט ChatGPT - החל מהגנה על ילדים ועד לאופן שבו המודל מתקשר עם המשתמשים.
לפי דיווח של ה"וול סטריט ג'ורנל", ביום שישי האחרון קיבלה OpenAI צו מלשכת התובעת הכללית של מדינת ניו יורק, המחייב אותה להעביר מסמכים ומידע בנוגע למגוון רחב של נושאים. בין היתר מבקשות הרשויות לבחון את פעילות הפרסום של החברה, האופן שבו היא שומרת על מעורבות המשתמשים ומעודדת אותם להמשיך להשתמש בשירות, הטיפול בנתוני צרכנים ובנתוני בריאות, וכן את מדיניות החברה כלפי קטינים ואזרחים ותיקים.
החנפנות המסוכנת של ChatGPT
אחד הנושאים החריגים שמופיעים בדרישת המידע הוא נטיית המודל לריצוי, או במונח המקצועי Model Sycophancy - מצב שבו מודל AI נוטה להסכים עם המשתמש או לרצות אותו במקום לספק תשובה עניינית ומדויקת. בשנים האחרונות ולאור כמה מקרים טראגיים שגבו חיי אדם, גובר החשש בקרב חוקרים כי התנהגות כזו עלולה לעודד קבלת החלטות שגויות ואף לחזק תפיסות מסוכנות של משתמשים.
OpenAI עצמה לא חשפה אילו מדינות בארה"ב שותפות לחקירה ולא פירטה אילו מסמכים נוספים התבקשה להעביר. בתגובה מסרה החברה כי היא "מתייחסת ברצינות לחששות שהעלו התובעים" וכי בכוונתה לשתף פעולה עם החקירה. "בינה מלאכותית היא טכנולוגיה חדשה ורבת עוצמה, ואנחנו עובדים מדי יום כדי להביא את יתרונותיה לאנשים בצורה בטוחה ואחראית", נמסר בהודעה.
OpenAI הדגישה כי הגרסה הנוכחית של ChatGPT כוללת מנגנוני הגנה ייעודיים עבור קטינים ואנשים הנמצאים במצוקה, ובהם הפניה לגורמי סיוע אנושיים בעולם האמיתי. עוד ציינה החברה כי פיתחה מערכת לחיזוי גיל המשתמשים, השיקה כלים להורים לניהול השימוש של ילדיהם במערכת, והיא אף אוסרת הצגת פרסומות המיועדות לילדים.
צרות באות בצרורות
החקירה מצטרפת לשורה של הליכים משפטיים ורגולטוריים שעמם מתמודדת החברה בתקופה האחרונה. מוקדם יותר החודש הגיש התובע הכללי של פלורידה תביעה נגד OpenAI ונגד מנכ"ל החברה סם אלטמן, בטענה כי החברה התעלמה מאזהרות בטיחות פנימיות וחיצוניות, סיכנה ילדים ואפשרה למוצר מסוכן להגיע למיליוני משתמשים.
במקביל, OpenAI מתמודדת עם תביעות נוספות הנוגעות להפרת זכויות יוצרים ולנזקים שלכאורה נגרמו בעקבות שימוש ב-ChatGPT, לרבות תביעות הקשורות למקרי התאבדות של משתמשים. לאחרונה ניצחה החברה גם במשפט המתוקשר מול אחד ממייסדיה, אילון מאסק, שהאשים אותה בהפרת הסכם הייסוד שלה, אם כי עורך דינו הודיע כי בכוונתו לערער על פסק הדין.
אלטמן עצמו נאלץ לאחרונה להתנצל בפני תושבי העיירה טאמבלר רידג' שבקולומביה הבריטית בקנדה בעקבות אירוע ירי המוני שאירע בחודש פברואר השנה, לאחר שהתברר כי OpenAI זיהתה פעילות חריגה בחשבון ChatGPT של החשוד וחסמה אותו, אך לא התריעה בפני רשויות אכיפת החוק.
כל ההתפתחויות הללו מגיעות ימים ספורים לאחר ש-OpenAI הודיעה כי הגישה באופן חסוי מסמכים לקראת הנפקה ראשונה לציבור (IPO). עבור החברה, שנחשבת כיום לאחת השחקניות המשפיעות ביותר בתחום הבינה המלאכותית, החקירה החדשה עשויה להפוך למבחן משמעותי נוסף בדרך להפיכתה לחברה ציבורית.
