חברת OpenAI החליטה להשהות את הפיתוח של מודלי ה-AI המתקדמים ביותר שלה, לאחר שגילתה שמודלים שבחנה ניגשו לאתרי ממשל בארה"ב וביצעו פעולות אסורות.
בסוף השבוע הודיעה החברה, כי במהלך הקיץ סוכני AI אוטונומיים שבחנה ניגשו למידע ציבורי באתרים של רשות ניירות ערך ולשכת מפקד האוכלוסין של ארה"ב, תוך שימוש בממשקי תכנות בניגוד לייעודם המקורי. חשיפה זו הגיעה ימים ספורים לאחר שנודע שסוכן של OpenAI פרץ ביוני לפורטל מידע ממשלתי באוסטרליה.
על רקע זה, שעות אחרי שחשפה את פעילות המודלים מול אתרי הממשל בארה"ב, הודיעה OpenAI על השהיית האימון שלהם.
לדברי החברה, היא תחדש את אימון המודלים "רק כשנהיה בטוחים שיש לנו מנגנוני הגנה פעילים". היא העריכה שבעתיד תיאלץ לשוב ולעצור את הדיווח שלהם ככל שיתעוררו סוגיות אחרות עם המודלים.
מדובר בפעם השנייה בתוך שלושה חודשים ש-OpenAI משהה פיתוח מודלים.
