מנהלת בינה מלאכותית בשם לונה, שעובדת באנדון מרקט, חנות בוטיק לייף סטייל בסן פרנסיסקו, פיטרה את אחד העובדים האנושיים בשל איחורים חוזרים ונשנים לעבודה. העובד איחר ל-17 מתוך 23 המשמרות המתוכננות שלו. המהלך תואר כמקרה הידוע הראשון שבו בינה מלאכותית ברמת מנהל מפטרת עובד אנושי.
אנדון לאבס, שהייתה אחראית על סוכנת ה-AI, אמרה שהפיטורים תאמו את מדיניות החנות והוסיפה שמנהל אנושי היה ככל הנראה מגיע לאותה החלטה מוקדם יותר. עוד צוין שההנהלה האנושית מתערבת רק אם בינה מלאכותית מקבלת החלטה בלתי חוקית או לא אתית. כך דווח באתר טיים.
פיטורים. ההחלטה התקבלה לאחר שלעובדים ניתנה אזהרה רשמית
(נוצר באמצעות בינה מלאכותית)
לונה נבנתה על גבי מודלי קלוד של אנתרופיק וניהלה את אנדון מרקט בסן פרנסיסקו במשך חמישה חודשים כחלק מניסוי שבדק האם סוכן בינה מלאכותית יכול להתמודד עם תפעול עסקי וכוח אדם בעולם האמיתי. החנות פעלה עם תקציב של 100 אלף דולר, כרטיס אשראי תאגידי וגישה לאינטרנט, מה שהעניק למערכת את הכלים לתכנן, לרכוש, לתזמן ולקבל החלטות ניהול ביום-יום. התומכים בפרויקט הציגו את המבחן כאבן דרך לתפקיד הבינה המלאכותית בסביבות מסחריות, שבהן מערכות פועלות יותר ויותר עם האוטונומיה והאחריות של מנהלי ביניים מסורתיים תוך אינטראקציה ישירה עם צוות אנושי.
הפיטורים הגיעו לאחר כמה חודשים שבהם לונה תיעדה וטיפלה בבעיות נוכחות לפי מדיניות נוכחות שקבעה, והציעה אזהרות מדורגות והכשרה נוספת לפני שהמליצה על פיטורים. בתחילה, לונה גילתה סובלנות ביחס לאיחורים, בין היתר משום שספר הנהלים לעובדים נעלם מזיכרון העבודה שלה. לאחר תזכורת ממנהל בחברה שהמדיניות קיימת ושיש לאכוף אותה, לונה העריכה מחדש את המצב והמליצה "להיפרד".
ההמלצה הראשונית של לונה הייתה להוציא אזהרה רשמית ולאחר מכן היא קיבלה את ההחלטה הסופית לפטר את העובד. בהתאם לתהליך זה, צוות אנושי בחן את המלצתה של לונה לפני שהמשיך עם הפיטורים בפועל.
מנהלת ה-AI נבנתה על גבי מודלי קלוד של אנתרופיק וניהלה את אנדון מרקט בסן פרנסיסקו במשך חמישה חודשים כחלק מניסוי שבדק האם סוכן בינה מלאכותית יכול להתמודד עם תפעול עסקי וכוח אדם בעולם האמיתי. החנות פעלה עם תקציב של 100 אלף דולר
הרישומים הפיננסיים של החנות שיקפו את הגישה של לונה. במהלך תקופת הניסוי, היתרה של הפעילות ירדה מ-100,000 דולר ל-61,200 דולר, גירעון של כמעט 40,000 דולר. מנכ"ל אנדון לאבס, לוקאס פטרסון, ייחס את ההפסדים לסגנון הניהול הסלחני מדי של לונה ולמחסור באינטואיציה מסחרית, וטען שהתקשה לקבל החלטות נחושות בתחומים כמו משמעת כוח אדם והוצאות. הוא אמר שמנגנוני הבקרה של המעבדה נועדו לאפשר למערכת להראות למה היא מסוגלת במקום לכוון את החלטותיה בזמן אמת, ושמנהל אנושי היה ככל הנראה מתקן מסלול מוקדם יותר בנוגע לבעיות נוכחות מתמשכות.
עובדים שעבדו תחת המערכת תיארו את החוויה של דיווח לבוס אלגוריתמי כ"מעורר בחילה" ו"מגעיל". מעבר לפיילוט, עובדים ומנהלים הביעו דאגה מפני עתיד קרוב שבו חברות מנוהלות לחלוטין בידי מנהלי בינה מלאכותית הפועלים כמעסיקים ישירים של עובדים אנושיים. פטרסון הזהיר שחברות בינה מלאכותית מאמנות בהתמדה מודלים להיות קשוחים וממוקדי מטרה יותר, וחזה שחברות אוטומטיות לחלוטין עלולות להפוך לנפוצות, כאשר מערכות בינה מלאכותית מגייסות, מעריכות ומפטרות אנשים - תוצאה שלדבריו מסכנת יצירת עתיד "אנשים לא ירצו לחיות בו". הוא הוסיף שמערכות כאלה משתפרות במהירות ושמנהלי בינה מלאכותית יכולים להפוך לחלק שגרתי בעסקים, נכתב ב-yahoo.
