Власти США вынудили отключить ИИ-модели Fable 5 и Mythos 5 – в чем дело

Компания Anthropic была вынуждена отключить модели искусственного интеллекта Fable 5 и Mythos 5 чуть ли не сразу, как только они появились, сообщает портал ixbt.com.

Причиной стали опасения властей США. По некоторым данным, они связаны с возможными рисками для национальной безопасности.

В компании также отметили, что в полученном ими письме не были оговорены конкретные детали, которые касаются опасений в отношении национальной безопасности.

"Насколько нам известно, правительство считает, что ему стало известно о способе обхода или «взлома» Fable 5", – добавили разработчики.

Специалисты компании изучили демонстрацию этой методики для выявления небольшого числа ранее известных незначительных уязвимостей. Все они относительно просты.

И предполагается, что другие общедоступные модели также способны обнаруживать те же уязвимости без специального обхода защиты. По крайней мере, так считают в Anthropic.

До релиза Claude Fable 5 компания активно рекламировала "меры безопасности", призванные предотвратить кибератаки.

Отмечалось, что предварительный доступ к инструменту получили лишь избранные организации – по той причине, что ИИ был настолько интеллектуальным, что представлял потенциальную опасность благодаря способности взламывать компьютерные системы.