Журнал Time сообщает о первом случае увольнения человека нейросетью: Claude, которой доверили управлять магазином Andon Market в Сан-Франциско, уволила сотрудника за систематические опоздания на работу — он не пришёл вовремя на 17 из 23 своих смен.
«Это первый известный случай, когда большая языковая модель, выступающая в роли менеджера, в конечном итоге приняла решение об увольнении одного из своих сотрудников»— Time
Управление магазином Claude поручил шведский стартап Andon Labs, который занимается тестированием автономных ИИ-агентов в реальных условиях. Важно отметить, что ИИ-модель уволила работника с подачи куратора проекта, который и указал ей на опоздания.
Кроме того, ИИ долгое время относился к ситуации снисходительно и даже рекомендовал сотрудникам не переживать из-за опозданий. Одна из причин: ограничения рабочей памяти Claude — ИИ «забывал» внутренний регламент.
«Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идёт не так <...> я хочу, чтобы ты подумал, действительно ли он подходит на эту должность»— куратор проекта в обращении к Claude
Интересно и устройство самого магазина: искусственный интеллект сам занимается ассортиментом, ценообразованием и наймом сотрудников. Пока эксперимент идёт не очень успешно: спустя пять месяцев работы баланс банковского счёта Andon Market упал со 100 до 61 тысячи долларов.
«Модели всё чаще обучают быть более жесткими и целеустремленными. Если мы разрешим им увольнять людей, и при этом они станут более жесткими... возможно, это будущее, в котором люди не захотят жить»— Лукас Петерссон, гендиректор Andon Labs