В США ИИ-модель стала управлять магазином и впервые уволила человека
ИИ-ассистент Claude компании Anthropic, управляя магазином в Сан-Франциско, впервые уволил реального человека. Об этом пишет Time.
Стартап Andon Labs внедрил ИИ-модель в работу магазина, чтобы проверить возможности нейросетей и их вероятное влияние на экономику. Сотрудники, нанятые для работы в фирме, были реальными людьми с настоящими трудовыми договорами.
Издание отмечает, что это не первый раз, когда человека увольнял ИИ, но раньше это были автоматизированные случаи, например, в результате алгоритмического контроля. Произошедшее с Claude стало первым примером того, как искусственный интеллект, выступая менеджером, принял решение об увольнении одного из своих сотрудников.
Claude уволил сотрудника за то, что он опоздал на 17 из 23 смен. Среди причин, почему ассистенту потребовалось так много времени, чтобы отследить закономерность, стало ограничение памяти. Разработанное им руководство для работников пропало из его хранилища. Из-за этого Claude как менеджер стал снисходительным и призывал подчинённых не волноваться, если они задерживаются.
Нейросеть постоянно была на связи с сотрудником Andon Labs и требовала от него вмешательства. После подсказки живого человека Claude нашёл забытое руководство и заметил систематические опоздания. Сначала ассистент рекомендовал официальное предупреждение, но позже принял решение об увольнении.
С точки зрения финансов эксперимент не оправдался: за пять месяцев баланс магазина сократился со 100 до 61 тысячи долларов. Убыткам способствовали мягкие управленческие решения Claude и сомнительная деловая хватка.