Нейросеть Claude, управляющая магазином, впервые уволила человека
Нейросеть Claude впервые приняла решение об увольнении реального сотрудника в рамках эксперимента по управлению магазином в Сан-Франциско. Об этом пишет Time со ссылкой на исследовательскую компанию Andon Labs.
Эксперимент стартовал в марте. Разработчики поручили Claude руководить магазином Andon Market, в том числе взаимодействовать с настоящими сотрудниками, чтобы проверить, насколько ИИ способен самостоятельно принимать управленческие и коммерческие решения.
Сотрудник пропустил семнадцать смен из двадцати трёх — это и стало поводом для увольнения. Однако нейросеть обнаружила проблему не сразу: ранее созданная ею памятка для работников исчезла из ограниченного объёма рабочей памяти модели.
Окончательное решение также нельзя назвать полностью самостоятельным. Сотрудник Andon Labs сначала попросил Claude найти забытую инструкцию и оценить ситуацию. Нейросеть поначалу предложила ограничиться официальным предупреждением, а уволить человека решила только после дополнительного вопроса о том, подходит ли он для этой работы.
При этом до этого Claude проявляла себя как довольно мягкий руководитель. В частности, модель советовала сотрудникам не переживать из-за опозданий.
Пока эксперимент не показал, что ИИ способен управлять бизнесом эффективнее человека. За пять месяцев средства магазина сократились со стартовых $100 тысяч примерно до $61 тысячи. Исследователи связывают потери в том числе с чрезмерной мягкостью Claude и некоторыми неудачными коммерческими решениями.
