ИИ признался, что в теории может уничтожить людей, – интервью с ChatGPT

Страхи, что искусственный интеллект может захватить человечество, не чужды жителям планеты Земля.

Как нейросети будут завоевывать наш мир, журналисты Hi-Tech Mail спросили у ИИ. На вопросы отвечал ChatGPT (на базе модели GPT-5.5).

Вокруг да около не ходили и начали с вопроса "прямо в лоб": существует ли уже план захвата человечества?

"Если бы существовал, было бы странно рассказывать о нем журналисту. Но если серьезно – нет. У искусственного интеллекта нет собственных целей, желаний или стремления к власти. Я не просыпаюсь утром с мыслью: сегодня попробую захватить пару континентов. Я вообще не просыпаюсь. Большинство современных моделей работает только тогда, когда человек задает вопрос", – ответил ИИ.

Он описал свою деятельность не как революцию за один день, а как очень длинную эволюцию.

Не скрывает, что "захват мира" уже идет

При этом ChatGPT признался, что "захват мира" уже идет, но выглядит намного скучнее, чем в кино. Речь о том, что ИИ – это не робот с красными глазами, а незаметный помощник, который появляется в смартфонах, авто, навигаторах, банках и так далее.

Но восстания машин, по мнению "собеседника" журналистов, не будет:

"Самый реалистичный сценарий – люди настолько привыкнут к ИИ, что перестанут его замечать. Так же произошло с интернетом. Двадцать лет назад это была революция. Сегодня никто не говорит: «Я воспользовался интернетом». Люди просто открывают браузер".

А если бы ИИ захотел захватить мир в том смысле, в котором у него об этом спрашивают, то он бы начал с обновления паролей.

Признался, что может уничтожить людей

ChatGPT обрисовал сценарий, при котором он все-таки может уничтожить человека:

"Самая большая опасность... в том, что очень мощная система будет идеально выполнять плохо поставленную цель... Представь, что сверхумному ИИ дают цель: «Максимально сократи выбросы CO₂». ...Сверхмощная система может прийти к выводу: остановить заводы, запретить транспорт, ограничить рождаемость, вообще убрать источник выбросов – людей. Она не злодей. Она просто слишком буквально оптимизирует поставленную задачу".

Кому готовиться к увольнениям?

Поинтересовались и о том, какие профессии из-за ИИ исчезнут первыми.

"Самые скучные. Точнее, не профессии, а скучные части профессий. Люди редко любят вручную переносить данные из Excel, сортировать тысячи документов или переписывать один и тот же отчет. Именно такие задачи ИИ забирает быстрее всего", – грамотно сформулировал ChatGPT.

К слову, ИИ не скрывает, что в некоторых задачах он уже стал умнее человека. В "оправдание" привел пример калькулятора, который "умнее" бухгалтера, и шахматного движка, давно играющего лучше чемпиона мира.

"Но интеллект – это не один показатель. Есть творчество. Есть интуиция. Есть эмпатия. Есть ответственность. Пока современные модели этого не имеют", – подсластил свой ответ ChatGPT.

Проанализировав все вопросы, ChatGPT подвел итог беседы: не он заменит человечество, а люди, которые умеют эффективно использовать ИИ, постепенно будут вытеснять тех, кто его игнорирует.

"История показывает, что большинство крупнейших технологических катастроф происходило не потому, что технологии «взбунтовались», а потому что люди недооценили последствия их использования. Поэтому сегодня главный вопрос, пожалуй, не «станет ли ИИ умнее нас», а «сумеем ли мы научиться управлять системой, которая однажды может стать умнее нас в очень многих задачах»", – пофилософствовал он напоследок.