Илон Маск и эксперты в области ИИ требуют запретить обучение нейросетей

Илон Маск и более чем 1000 экспертов в области искусственного интеллекта призвали ввести мораторий на обучение мощных нейросетей. Об этом говорится в их открытом письме, опубликованном 22 марта на сайте "Института будущего жизни".

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4", – заявили эксперты.

Они считают, что о подобном перерыве нужно объявить публично, а его исполнение должно быть проверяемым и охватывать всех ключевых участников отрасли.

"Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий", – говорится в письме.

Эксперты считают, что те, кто занимаются ИИ, должны использовать эти полгода паузы для совместной разработки и внедрения набора общих протоколов безопасности.

Кроме того, в письме говорится о необходимости создания в политической сфере новых регулирующих органов, занимающихся вопросами ИИ. Нужно также внедрить системы контроля на госуровне, чтобы обеспечить безопасность новых систем, считают эксперты.

Открытое письмо подписали владелец Twitter, Tesla и SpaceX Илон Макс, один из основателей Apple Стив Возняк, ведущие эксперты в области ИИ Стивен Расселл и Иошуа Бенджио.

Что такое GPT

GPT – это нейронная сеть для генерации контента.

Ее созданием занималась OpenAI – американская компания, специализирующаяся на разработке и лицензировании технологий на основе машинного обучения. К слову, одним из основателей OpenAI является Илон Маск.

В марте компания "выкатила" поколение алгоритма по обработке естественного языка – мультимодальную модель GPT-4. GPT-4 умеет быть креативной и обрабатывать детализированные запросы. Модель может интерпретировать картинки и даже "понимать" шутки.

>>>Больше интересных историй – подпишитесь на наши Telegram и Viber