קוד ה-AI שגרם לשיבושי ענק: דייב טרדוול, סמנכ"ל בכיר לשירותי מסחר אלקטרוני באמזון, הודיע לעובדים על "מגמה של תקריות" שהחלה ברבעון השלישי של 2025, כולל "מספר תקריות מרכזיות" בשבועות האחרונים — כך דווח באתר Business Insider. לפחות אחת מהתקריות נקשרה לקוד AI פנימי של אמזון בשם Q, בעוד האחרות חשפו כשלים מבניים עמוקים יותר.
במסגרת התקלה, ב-2 במרץ 2025, לקוחות ברחבי השווקים של אמזון ראו זמני אספקה שגויים בעת הוספת פריטים לעגלת הקניות. האירוע הוביל לאיבוד של כמעט 120 אלף הזמנות ולכ-1.6 מיליון שגיאות באתר. על פי בחינה פנימית, עוזר הבינה המלאכותית Q היה אחד הגורמים העיקריים שגרמו לאירוע.
ב-5 במרץ, תקלה נוספת גרמה לצניחה של 99% בהיקף ההזמנות בשווקי אמזון בצפון אמריקה — ולאיבוד של 6.3 מיליון הזמנות בסך הכול, לפי אחד המסמכים הפנימיים. גורם מרכזי לתקלה היה שינוי בסביבת הייצור שבוצע ללא שימוש בתהליך תיעוד ואישור פורמלי. "אופרטור מורשה יחיד יכול היה לבצע שינוי תצורה בעל השפעה רחבה ללא כל בקרות," נכתב במסמך.
בעקבות כך, אמזון השיקה פרוטוקול בטיחות לתקופה של 90 יום. במסגרת המדיניות החדשה מהנדסי אמזון יידרשו לקבל אישור משני אנשים לפני ביצוע כל שינוי קוד, להשתמש בכלי תיעוד ואישור פנימי, ולהפעיל מערכת קידוד אוטומטית שדבקה בכללי האמינות המרכזיים של החברה. כמו כן, מנהלים בכירים יתבקשו לבצע ביקורת על כל פעילויות שינוי הקוד בארגוניהם.
"אנו מיישמים נוהלי בטיחות זמניים שיכניסו ביקורת לשינויים בחלקים החשובים ביותר של חוויית הקמעונות," כתב טרדוול. "במקביל, נשקיע בפתרונות בני-קיימא, כולל בקרות רבות".
תקלות אמזון ממחישות תופעה רחבה יותר: כלי קידוד מבוססי בינה מלאכותית שמאפשרים למהנדסים לייצר כמויות קוד גדולות בהרבה מבעבר. אולם הקוד עדיין דורש בדיקה קפדנית לפני שחרורו לסביבת הייצור, ובמפגש בין הקוד החדש לבין תהליכי הבדיקה המסורתיים — צצות בעיות.
דובר אמזון מסר ל-Business Insider כי רק תקרית אחת מבין אלה שנדונו ביום שלישי קשורה לבינה מלאכותית, ואף אחת מהן לא כללה קוד שנכתב על ידי בינה מלאכותית.
