В Сан-Франциско произошел первый известный случай, когда решение об увольнении сотрудника было принято большой языковой моделью, сообщает журнал Time.
Магазин Andon Market, управляемый шведским стартапом Andon Labs в качестве площадки для тестирования автономных ИИ-агентов, попрощался с работником из-за его низкой дисциплины.
ИИ-система Claude, выполняющая функции менеджера, изначально не проявляла жесткости и даже просила персонал не волноваться из-за опозданий, вероятно, «забыв» составленный ею же внутренний регламент из-за ограничений рабочей памяти. В итоге вмешаться пришлось человеку-куратору. Представитель Andon Labs предложил нейросети проанализировать историю посещаемости, после чего ИИ предложил лишь сделать сотруднику предупреждение.
Ситуация изменилась только после наводящего вопроса куратора:
«Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так… я хочу, чтобы ты подумал, действительно ли он подходит на эту роль».
После этого нейросеть официально приняла решение об увольнении. Выяснилось, что сотрудник опаздывал на 17 из 23 своих смен.
Проект Andon Market демонстрирует не самые успешные финансовые показатели: за пять месяцев работы баланс магазина сократился с $100 000 до $61 000. Генеральный директор Andon Labs Лукас Петерссон признает, что управленческие решения бота способствуют убыткам, однако предостерегает от дальнейшей автоматизации процессов управления.
«Модели все чаще обучают быть более жесткими и целеустремленными. Если мы разрешим им увольнять людей, и при этом они станут более жесткими… возможно, это будущее, в котором люди не захотят жить»,— прокомментировал ситуацию Петерссон.
