Viber 
Дзен 
TikTok 
Короче говоря
- Мнение Маска во многом совпадает с высказываниями известного ученого.
- Гибель человечества от ИИ вполне возможна.
- Но инженер вывел три базовых принципа, которые окончательно сформируют из ИИ инструмент развития, а не деструктива.
Однако избежать этого можно – необходимо соблюдать три ключевых принципа развития ИИ.
На каждом из них инженер и миллиардер остановился подробнее.
Три понятия, которые спасут человечество
Во-первых, обучать ИИ нужно, опираясь на истину. Ведь искусственный интеллект считывает информацию из интернета и неизбежно сталкивается с ложью. Это нарушает его логические механизмы и может привести к разрушительным результатам.
В этом контексте Маск вспомнил ситуацию, когда ИИ-система Apple Intelligence на iPhone распространила ложное уведомление о победе британского дартсмена Люка Литтлера на чемпионате PDC. Интересно, что это произошло еще до финала состязания.
Во-вторых, ИИ должен стремиться не только к фактам, но и к красоте. Это, как видит, Маск должно заключаться в эстетическом восприятии мира.
В-третьих, искусственный интеллект должен быть любопытен. Интерес к реальности и будущему человечества сохранит функцию ИИ как инструмента прогресса общества.
Если же эти простые принципы не выполнят, интеллект действительно может разрушить мир.
Эксперты заметили созвучие в суждениях Илона Маска и ученого Джеффри Хинтона. Последний оценил вероятность гибели человечества от ИИ в 10-20%.
Причем самый краткосрочный риск, по мнению Хинтона, – это галлюцинации (или массовые заблуждения), а также тотальная автоматизация низкоквалифицированных рабочих мест.
Единственное, на что надеется ученый, что люди смогут создать ИИ-систему, которая "никогда не захочет причинить человеку вред".
