Из-за совета ИИ фермер в Китае лишился урожая на 10 га

В Китае 67-летний фермер потерял урожай кунжута на площади около 10 га всего за одну ночь. Это случилось из-за того, что мужчина доверился рекомендациям искусственного интеллекта, пишет "БрестСити" со ссылкой на издание IFLScience.

Аграрий в течение нескольких месяцев активно пользовался безымянным чат-ботом. Изначально он относился к виртуальному помощнику с недоверием, но со временем привык составлять с его помощью графики работ и подбирать удобрения.

Проблемы начались, когда фермер обратился к нейросети за советом по борьбе с вредителями на посевах кунжута. Алгоритм порекомендовал использовать смесь химикатов, в состав которой вошел гербицид фомесафен (fomesafen). Не перепроверив информацию у специалистов, фермер распылил рекомендованный состав над своим полем.

На следующее утро он обнаружил, что весь урожай полностью погиб. Мужчина снова обратился к чат-боту, чтобы узнать, что пошло не так. На этот раз ИИ выдал точный, но уже запоздалый ответ: фомесафен предназначен для борьбы с широколистными сорняками. Поскольку кунжут также относится к двудольным широколистным растениям, использование этого гербицида уничтожает его мгновенно.

"Если распылить это средство, на следующий день ростки не выживут. Погибнет и сорняк, и сама культура, причем культура – еще быстрее", – прокомментировал пострадавший фермер.

У ИИ бывают "галлюцинации"

Эксперты напоминают, что современные языковые модели не являются "машинами истины". Они генерируют ответы на основе вероятностных моделей и шаблонов текста, из-за чего регулярно сталкиваются с феноменом "галлюцинаций" (выдумыванием ложной информации).

По данным исследований, около 20–45% ответов ИИ могут содержать существенные ошибки, что делает опасным их слепое применение в медицине, сельском хозяйстве и других критических сферах без консультации с экспертами.