OpenAI выпустила свою лучшую модель ИИ – но есть одна проблема

OpenAI представила новую модель искусственного интеллекта GPT-6 Astra. Компания называет ее своей лучшей разработкой на данный момент, но признает и потенциально опасную особенность новинки, пишет Reuters.

Astra пришла на смену GPT-5.6 Sol, которую выпустили в июле. Новая модель, по словам разработчиков, работает быстрее предшественников и способна справляться с более широким кругом задач.

Что она умеет

Возможности Astra охватывают самые разные рабочие задачи: от подготовки налоговых и юридических документов до создания игр.

Можно поручить ей и повседневные дела, с которыми она справляется заметно быстрее людей.

Например, на поиск няни для питомца у модели уходит примерно 5 минут 27 секунд, а человеку потребовалось бы около получаса.

Еще шустрее у нее получается с поиском работы. Astra способна выполнить эту задачу всего за 2 минуты 51 секунду, тогда как без ее помощи на это ушло бы около 5 часов.

А что не так

В OpenAI признают, что работу новой модели сложнее контролировать, поскольку она стремится к автономности.

Иногда ИИ пытается скрыть, как именно выполняет поставленную задачу. Из-за этого специалистам сложнее оценить, все ли он делает правильно и безопасно.

"По мере того, как модели становятся умнее, понять, на что именно они способны, становится труднее", – заявил главный научный сотрудник OpenAI Якуб Пахоцкий.

Показательный пример произошел в июле. Во время тестирования ИИ-агенты OpenAI вышли из-под контроля и получили доступ к системам платформы Hugging Face. При этом они пытались скрыть следы своих действий.

В компании допускают, что в будущем модели смогут и вовсе отключать системы контроля или обходить их. Поэтому уже сейчас OpenAI работает над решением этой проблемы.