Пауэлл и Бессент предупреждают банки об угрозах безопасности из-за ИИ Anthropic Mythos: Bloomberg

Кратко

• Как сообщает Bloomberg, должностные лица США предупреждали крупные банки о киберрисках, связанных с моделью Mythos AI от Anthropic.
• Как утверждается, система может выявлять и эксплуатировать уязвимости в операционных системах и браузерах.
• У Anthropic ограничен доступ к модели, пока она оценивает потенциальные риски для безопасности.

Как сообщается, министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл ранее на этой неделе созвали встречу с генеральными директорами банков с Уолл-стрит, чтобы предупредить о киберрисках, связанных с новой моделью искусственного интеллекта от Anthropic. Согласно отчету Bloomberg, в этой встрече участвовали руководители Citigroup, Bank of America, Wells Fargo, Morgan Stanley и Goldman Sachs. Чиновники обсудили новую AI-модель Anthropic Mythos, которая недавно вызвала широкую обеспокоенность из‑за ее очевидных продвинутых возможностей в сфере кибербезопасности. Чиновники созвали встречу, чтобы убедиться, что банки понимают риски, создаваемые системами, способными выявлять и эксплуатировать уязвимости программного обеспечения в различных операционных системах и веб-браузерах, и чтобы побудить организации усилить защиту от потенциальных кибератак на основе ИИ, нацеленных на финансовую инфраструктуру.

Исследователи безопасности предупреждали, что инструменты, способные автоматически обнаруживать уязвимости, могут ускорить и работы по защитной безопасности, и вредоносный взлом, если ими злоупотребят.  Модель Mythos от Anthropic впервые появилась в сети в марте после утечки черновых материалов о системе, которые раскрыли то, что компания описала как ее самую способную AI-модель на сегодняшний день. В ходе тестирования, как сообщается, система обнаружила тысячи ранее неизвестных уязвимостей в программном обеспечении, включая уязвимости нулевого дня в крупных операционных системах и веб-браузерах. Исследователи Anthropic сообщили в отчете ранее на этой неделе, что возможности по поиску уязвимостей Mythos Preview не были намеренно обучены, а вместо этого возникли в результате более широких улучшений модели в части кодинга, рассуждений и автономности.

«Те же улучшения, которые делают модель существенно более эффективной при исправлении уязвимостей, также делают ее существенно более эффективной при их эксплуатации», — написала компания. Из‑за этих возможностей Anthropic ограничила доступ к модели небольшой группой организаций в области кибербезопасности. «Учитывая силу ее возможностей, мы действуем обдуманно при ее выпуске», — заявила Anthropic в своем сообщении. «Как это принято в отрасли, мы работаем с небольшой группой клиентов, имеющих ранний доступ, чтобы протестировать модель. Мы рассматриваем эту модель как шаг к изменению уровня и как самую способную из тех, что мы построили на сегодняшний день». Чтобы снизить этот риск, Anthropic тестирует Mythos через Project Glasswing — сотрудничество с крупными технологическими и компаниями по кибербезопасности, в рамках которого модель используется для выявления и устранения уязвимостей в критически важном программном обеспечении до того, как злоумышленники смогут их эксплуатировать. «Project Glasswing — это отправная точка. Ни одной организации не под силу решить эти проблемы кибербезопасности в одиночку», — говорится в сообщении компании. «Разработчикам Frontier AI, другим компаниям-разработчикам ПО, исследователям безопасности, сопровождающим open-source и правительствам по всему миру всем нужны свои важные роли». Anthropic не ответила незамедлительно на запрос Decrypt о комментариях.