"Это не я": как МТС и блогеры показали работу дипфейков и уязвимость доверия

В эпоху, когда голос и лицо больше не являются доказательствами личности, МТС провела социальный эксперимент, в котором приняли участие популярные белорусские блогеры.

На встрече они вместе с экспертами по ИИ обсудили, почему дипфейки так убедительны, кто наиболее уязвим к цифровым манипуляциям и какие шаги нужно предпринять, чтобы защитить пользователей в новой реальности.

Эксперимент: фальшивка, в которую поверили

В рамках инициативы "Идентичность в сети" Алексей Холод, Павел Сыроежкин, Оксана Ванчук, Вадим Лапай и другие инфлюэнсеры опубликовали в своих аккаунтах дипфейк-видео с вымышленными историями.

Цель – показать, насколько легко сегодня ввести в заблуждение даже внимательного пользователя. Реакция подписчиков оказалась тревожно предсказуемой: многие поверили.

Ведущий и блогер Алексей Холод отмечает, что даже близкие люди не сразу поняли, что видео является подделкой: "Гонорар? Какие условия? Я понял, что люди, которые со мной не общаются каждый день, реально поверили. В моменте даже задумался, что им ответить".

"Для меня это было неожиданно. Я выложил дипфейк про покупку авто, и люди начали поздравлять, писать, что гордятся. Большинство даже не усомнилось, что это может быть фейк", – поделился блогер Павел Сыроежкин.

Почему дипфейки работают?

Эксперты по ИИ Андрей Шиманский и Андрей Цыган объясняют, почему даже опытные пользователи попадаются на фальшивку.

"Все дело в том, как работает наш мозг. Мы с рождения привыкли доверять тому, что видим и слышим. Быстрая, интуитивная часть мышления – так называемая «Система 1» – реагирует и говорит нам: «Это правда». А чтобы включить критическое мышление, нужны время и усилия. Когда мы уставшие, заняты или просто пролистываем ленту, то не успеваем задуматься. Тем более что соцсети «подсовывают» нам именно то, что вызывает эмоции", – рассказал Андрей Шиманский.

"Алгоритмы соцсетей ранжируют контент не по достоверности, а по вовлечению. Эмоционально заряженные дипфейк-ролики получают усиление в ленте и «уходят в вирус». Это не баг, это бизнес-модель. Даже если вы поставите на видео надпись made by AI, это не остановит распространение. Люди все равно будут верить, потому что хотят верить. Эмоции сильнее разума", – добавляет Андрей Цыган.

Эксперты также обращают внимание на скорость технологической эволюции. По словам Андрея Шиманского, генеративный ИИ за 3 года превратился из "игрушки в лаборатории" в массовый инструмент. В 2022 году появились пилотные модели, затем случился взрыв ChatGPT и других подобных сервисов, в 2024-м корпорации по всему миру начали внедрять модели у себя, а сейчас происходит полномасштабные roll-outs. Яркий пример – GS AI Assistant для 46 000 сотрудников Goldman Sachs.

"Вопрос не в том, можно ли это сделать, а в том, сколько времени и ресурсов кто-то готов потратить. Все зависит от цели. Если цель есть, дипфейк будет создан. Сегодня любой человек может создать его буквально за 15 долларов. Этого достаточно, чтобы сгенерировать голос с вашими интонациями", – поясняет Андрей Цыган.

"Мошенники адаптируются быстрее, чем регуляторы. За два года число атак с дипфейк-контентом выросло на 3000%. Уже более 50% банковского fraud-трафика включает ИИ-генерированные элементы", – обращает внимание Андрей Шиманский.

"Самое слабое звено – это не технологии, а человек. Именно через него чаще всего и происходит взлом. Сейчас достаточно собрать ваш голос, наложить лицо, и все – можно записать видео, где вы якобы просите деньги, делаете заявление или признаетесь в чем-то. И это будет выглядеть убедительно. В рамках эксперимента мы использовали самую простую программу, в один клик. Она не требует установки, не требует навыков. Это базовый инструмент, доступный абсолютно всем. Вот в этом и кроется главная угроза", – говорит Андрей Цыган.

Одним из самых эмоциональных моментов встречи стало обсуждение того, кто чаще всего становится жертвой дипфейков и цифрового мошенничества. Ответ оказался очевидным – это старшее поколение, которое только недавно начало осваивать цифровую среду.

"Если за минуту программа может сделать из тебя «прекрасного» человека, который просит деньги, – это уже не шутка. Наиболее уязвимы здесь наши с вами родители. Мы только научили их не поднимать трубки от «банков» и понимать, что такое фишинг, а теперь у них новый квест: определить, живой ли человек на экране", – отметил блогер-предприниматель Иван Бондарев.

Как защититься?

Участники встречи делились простыми, но действенными рекомендациями:

Справка МТС активно реализует инициативы по повышению цифровой грамотности. В рамках проектов #ШколаЦифровойГрамотности, #НаучиСвоихБлизких и #ИнтернетБезБуллинга компания обучает белорусов безопасному поведению в сети, помогает распознавать угрозы и защищать личные данные. Эти и другие инициативы позволяют формировать навыки осознанного цифрового поведения, чтобы каждый пользователь умел критически оценивать информацию и противостоять манипуляциям.