Более 150 математиков призвали не верить ажиотажу вокруг ИИ

Короче говоря

Более 150 математиков подписали Лейденскую декларацию, призывая не верить шумихе вокруг ИИ. Технологические компании финансово заинтересованы в завышении возможностей своих моделей, и политикам не стоит полагаться на их пресс-релизы.
ИИ может генерировать внешне убедительные, но ошибочные решения, которые трудно отличить от правильных. Это создает проблему, так как математика опирается на достоверность предыдущих исследований.
Авторы декларации также указывают на этические проблемы: ИИ обучают на научных работах без согласия авторов; индустрия участвует в разработке военных технологий, систем слежения и распространении дезинформации; академическая наука страдает от недофинансирования на фоне ажиотажа вокруг ИИ.

Технологические компании регулярно отчитываются об успехах своих ИИ-моделей в решении сложнейших математических задач.

Однако международное сообщество математиков призывает правительства и научные круги не поддаваться шумихе и сохранять критическое мышление.

Громкая декларация

В связи с ростом влияния ИИ на многие сферы жизни, более 150 ученых из разных стран подписали Лейденскую декларацию об искусственном интеллекте и математике. В документе они предостерегают от чрезмерного доверия к заявлениям о возможностях нейросетей в математике.

"Будущее математических исследований должны определять человеческие суждения, справедливые и прозрачные практики, а также общие ценности мирового математического сообщества", – заявила вице-президент Международного математического союза Ульрике Тильманн.

Математики подчеркивают: технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Политикам советуют при принятии решений консультироваться с экспертами, а не полагаться на пресс-релизы и публикации в СМИ.

Проблема ошибочных решений

По словам подписавших документ, ИИ-модели могут генерировать внешне убедительные, но неверные решения. Руководитель факультета компьютерных наук Оксфордского университета Лесли Энн Голдберг (также подписавшая декларацию) отмечает: ошибочные выводы нейросетей порой трудно отличить от корректных доказательств.

Все это создает серьезную проблему, ведь математические исследования опираются на предыдущие работы – ученые должны быть уверены в их правильности.

Есть и другие проблемы

Авторы декларации обращают внимание на то, что исследователям стало сложнее привлекать финансирование. Многие вынуждены подстраиваться под интерес к ИИ, в то время как индустрия предоставляет условия для работы, но недофинансирование бьет по высшему образованию и академической науке.

Также математики отмечают, что ИИ-модели обучаются на передовых научных трудах, часто без согласия авторов. Кроме того, они напоминают: ИИ-индустрия участвует в разработке военных технологий и систем массового наблюдения, способствует распространению дезинформации и создает дополнительные экологические проблемы. Ученые призывают не закрывать глаза на эти риски.