Модель штучного інтелекту від Anthropic за кілька годин зламала бази американської розвідки АНБ
Модель штучного інтелекту Mythos від компанії Anthropic за кілька годин зламала бази американської розвідки Агентства національної безпеки (АНБ).
Про це заявив начальник відомства Джошуа Радд, передає британський журнал новин The Economist.
"Генерал Джошуа Радд, який очолює Агентство національної безпеки США та Кіберкомандування Пентагону, повідомив: Mythos "проникла практично у всі наші засекречені системи не за тижні, а за години", – йдеться у публікації.
Видання нагадує, що Білий дім обмежив доступ до новітніх ШІ-моделей Anthropic – Mythos-5 та Fable-5.
До того ж доступ, як зазначає The Economist, був обмежений навіть для найближчих союзників США, включаючи країни розвідувального альянсу Five Eyes – Великобританію, Канаду, Австралію та Нову Зеландію.
Перед цим про те, що нові нейромережі можуть рекордно швидко оминати кіберзахист найбільших компаній та організацій, заявляв міністр фінансів США Скотт Бессант.
Британська газета The Financial Times пише, що на терміновій зустрічі у квітні Бессант обговорив із найбільшими банками ризики, пов'язані з новою моделлю ШІ від Anthropic.
За даними видання, у конференції брали участь Bank of America, Citigroup, Goldman Sachs, Morgan Stanley та Wells Fargo. Був і голова Федеральної резервної системи США.
Причиною занепокоєння стала нова модель ІІ Claude Mythos, яка здатна знаходити вразливості в ІТ-системах на рівні, що перевищує більшість фахівців. У самій Anthropic заявили, що подібні системи вже можуть "перевершити майже всіх людей" у пошуку та потенційному використанні слабких місць у програмному забезпеченні, що відкриває величезні можливості для злому систем будь-якої складності.
За даними компанії, модель виявила тисячі серйозних уразливостей, включаючи ті, що десятиліттями залишалися непоміченими – у тому числі в операційних системах та браузерах.
Влада США побоюється, що в руках зловмисників такі інструменти можуть посилити ризики для фінансової системи країни.
На цьому тлі доступ до моделі обмежили та надали її лише окремим партнерам, включаючи великі технологічні компанії.
Раніше папа римський Лев XIV присвятив погроз штучного інтелекту свою першу енцикліку.
