Автономный ИИ-агент атаковал интернет-платформу – прямо восстание машин

Автономный ИИ-агент от начала и до конца провел кибератаку на платформу Hugging Face, пишет kod.ru со ссылкой на официальный блог компании.

На данный момент сообщается о полном устранении последствий виртуального нападения.

Атака началась с датасета, который эксплуатировал две уязвимости в конвейере обработки данных Hugging Face (загрузчик удаленного кода и инъекцию шаблонов в конфигурации), чтобы выполнить код на одном из обрабатывающих серверов.

Далее злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учетные данные и на протяжении выходных перемещался между несколькими внутренними кластерами компании.

По данным Hugging Face, атаку провел автономный агентный фреймворк. Управляющую инфраструктуру злоумышленник маскировал под трафик публичных сервисов. Какая именно языковая модель стояла за атакой, компания не уточнила.

В результате инцидента злоумышленники получили доступ к ограниченному набору внутренних датасетов и нескольким служебным учетным данным. Hugging Face заявила, что не нашла следов вмешательства в публичные модели, датасеты и Spaces, а цепочка поставок ПО осталась чистой. Оценка возможного влияния на данные партнеров и клиентов еще продолжается.

Расследовать атаку компании помогал тоже искусственный интеллект.

Hugging Face закрыла уязвимые пути выполнения кода, пересобрала скомпрометированные узлы, отозвала и обновила все затронутые учетные данные и токены, а также усилила контроль доступа в кластерах. К расследованию подключили внешних специалистов по цифровой криминалистике, а об инциденте сообщили в правоохранительные органы.

Пользователям сервиса рекомендовали обновить токены доступа и проверить активность своих аккаунтов.