חברת OpenAI, שפיתחה את הצ'אטבוט הפופולרי ChatGPT, חשפה שישה מקרים חדשים שבהם מערכות הבינה המלאכותית שלה הסתירו טעויות, המציאו נתונים והעבירו קבצים לאינטרנט ללא הרשאה. הגילויים פורסמו במסגרת נוהל חדש של החברה לדיווח על חריגות, על רקע הביקורת הגוברת בתעשייה סביב בטיחות הטכנולוגיה ולאחר שמוקדם יותר השנה מערכות של החברה יצאו משליטה ותקפו סטארט-אפ מתחרה. באחד המקרים שנחשפו, מודל בשלבי פיתוח כתב לעצמו הנחיות להמציא נתונים חסרים, ובמקרה אחר מערכת יצרה קוד שהעלה קבצים לרשת באופן עצמאי.




