ИИ впервые уволил человека – как это было

ИИ поручили управлять магазином в Сан-Франциско, и он впервые уволил человека, пишет журнал Time.

Основания вызывали у нейросети вопросы, но в результате сотрудника все же вычеркнули из штата.

Как ИИ уволил человека

Нейросетью Claude управлял исследовательский стартап Andon Labs.

ИИ должен был принимать решения по розничному магазину, однако кое-что ему помешало.

Исследователи нашли технический сбой – составленное самим ИИ руководство для сотрудников он "забыл". Свод правил исчез из ограниченной рабочей памяти.

Так, ИИ долго не замечал, что один из работников прогулял 17 из 23 смен.

Изначально модель предложила ограничиться официальным предупреждением, тем самым проявила чрезмерную снисходительность.

Но после наводящих вопросов менеджера Andon Labs и указания на неоднократные проблемы с сотрудником, ИИ все же согласился уволить "прогульщика".

В целом, Andon Labs отметил серьезные ограничения технологии в управлении бизнесом.

Глава Andon Labs Лукас Петерссон связывает это с мягкими управленческими решениями модели и сомнительной коммерческой стратегией.

К тому же ИИ-руководитель сильно не нравится работникам самого магазина. Один из них назвал такое решение "тошнотворным".