Теневой ИИ может погубить бизнес – Центр персональных данных

Короче говоря

Все больше сотрудников используют генеративный ИИ – за год их доля выросла с 74 до 96%.
Некоторые делаю это без ведома работодателя и сообщают нейросети конфиденциальную информацию.
Это приводит к такому понятию, как "теневой ИИ", и создает риски для бизнеса.

Доля сотрудников, использующих генеративный искусственный интеллект, в 2023–2024 годах выросла с 74 до 96%, сообщает Национальный центра защиты персональных данных со ссылкой на данные компании Netskope.

Случаи, когда это делается без ведома или разрешения работодателя, привели к появлению понятия "теневой ИИ". Именно он представляет риск для бизнеса.

По данным CybSafe и NCA, 38% работников признаются, что передавали ИИ служебную информацию без согласования.

А в Великобритании и вовсе каждая пятая компания уже столкнулась с утечкой данных из-за несанкционированного использования ИИ.

Разрушение изнутри

В связи с этим "инсайдеры" – работники компании – представляют большую опасность для бизнеса, чем внешние угрозы.

Специалисты центра персональных объясняют, что ИИ может случайно "запомнить" конфиденциальные данные. Такие утечки приводят к штрафам, потере репутации и доверия клиентов. Поэтому бизнесу лучше контролировать, какие ИИ-инструменты используются и как.