Модель искусственного интеллекта от Anthropic за несколько часов взломала базы американской разведки АНБ
Модель искусственного интеллекта Mythos от компании Anthropic за несколько часов взломала базы американской разведки Агентства национальной безопасности (АНБ).
Об этом заявил начальник ведомства Джошуа Радд, передаёт британский новостной журнал The Economist.
"Генерал Джошуа Радд, возглавляющий Агентство национальной безопасности США и Киберкомандование Пентагона, сообщил: Mythos "проникла практически во все наши засекреченные системы не за недели, а за часы", – говорится в публикации.
Издание напоминает, что Белый дом ограничил доступ к новейшим ИИ-моделям Anthropic – Mythos-5 и Fable-5.
Причём доступ, как указывает The Economist, был ограничен даже для ближайших союзников США, включая страны разведывательного альянса Five Eyes – Великобританию, Канаду, Австралию и Новую Зеландию.
Перед этим о том, что новые нейросети могут рекордно быстро обходить киберзащиту крупнейших компаний и организаций, заявлял министр финансов США Скотт Бессант.
Британская газета The Financial Times пишет, что на срочной встрече в апреле Бессант обсудил с крупнейшими банками риски, связанные с новой моделью ИИ от Anthropic.
По данным издания, в конференции принимали участие Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo. Присутствовал и глава Федеральной резервной системы США.
Причиной беспокойства стала новая модель ИИ Claude Mythos, которая способна находить уязвимости в ИТ-системах на уровне, превосходящем большинство специалистов. В самой Anthropic заявили, что подобные системы уже могут "превзойти почти всех людей" в поиске и потенциальном использовании слабых мест в программном обеспечении, что открывает огромные возможности для взлома систем любой сложности.
По данным компании, модель выявила тысячи серьёзных уязвимостей, включая те, что десятилетиями оставались незамеченными – в том числе в операционных системах и браузерах.
Власти США опасаются, что в руках злоумышленников такие инструменты могут усилить риски для финансовой системы страны.
На этом фоне доступ к модели ограничили и предоставили её только отдельным партнёрам, включая крупные технологические компании.
Ранее папа римский Лев XIV посвятил угрозам искусственного интеллекта свою первую энциклику.
