Мифы Клода угрожают финансовой безопасности? Министр финансов США и председатель ФРС срочно собрали экстренное заседание, чтобы предупредить о рисках

Министр финансов США и председатель ФРС экстренно созвали руководителей Уолл-стрит, чтобы предупредить о последней модели Anthropic Mythos. Власти охарактеризовали эту модель как системный риск для финансовой системы.

Финансовые руководители экстренно созвали руководителей Уолл-стрит, а рост киберугроз со стороны AI подняли до уровня системного риска

По данным Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и председатель ФРС Джером Пауэлл (Jerome Powell) на прошлой неделе в Вашингтоне, в штаб-квартире Министерства финансов, экстренно созвали руководителей крупнейших банков Уолл-стрит и предупредили о потенциальных рисках кибербезопасности, которые может вызвать последняя модель AI-компании Anthropic — «Claude Mythos Preview».

Среди участников совещания — руководители банков, включая генерального директора Citigroup Джейн Фрейзер (Jane Fraser), генерального директора Morgan Stanley Теда Пика (Ted Pick), генерального директора Bank of America Брайана Мойнихана (Brian Moynihan), генерального директора Wells Fargo Чарльза Шерфа (Charlie Scharf) и генерального директора Goldman Sachs Дэвида Салмона (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) не смог присутствовать. Все указанные организации были отнесены надзорными органами к финансовым учреждениям системной значимости.

Это совещание лично посетили министр финансов и председатель ФРС, и в отрасли его сочли необычным шагом. Ранее вмешательство правительства в риски, связанные с AI, в основном ограничивалось рабочими группами на уровне организаций; теперь же предупреждение напрямую подняли до уровня высших руководителей финансовых органов, которые лично подали сигнал. Тем самым власти недвусмысленно дали понять, что определили киберугрозы со стороны AI как системный риск для устойчивости финансовой системы.

Возможности модели Mythos впечатляют: она самостоятельно выявляет множество уязвимостей нулевого дня

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos способна распознавать и использовать уязвимости во всех основных операционных системах и веб-браузерах. На этапе тестирования модель самостоятельно нашла тысячи ранее неизвестных уязвимостей нулевого дня (zero-day vulnerabilities), включая уязвимость, скрытую на протяжении 27 лет в безопасностно-ориентированной операционной системе OpenBSD; кроме того, модель также обнаружила в библиотеке для обработки аудио и видео FFmpeg уязвимость, которая не была выявлена даже после выполнения 5000000 раз программы с помощью автоматизированных тестовых инструментов.

Исследователи Anthropic подчеркивают, что способность Mythos находить уязвимости обусловлена общим прогрессом модели в написании кода, рассуждениях и автономности, а не является результатом целенаправленного обучения.

В заявлении компании отмечается: «Та же способность, которая делает модель эффективнее при исправлении уязвимостей, делает её столь же эффективной и при использовании уязвимостей». Эти слова подчеркивают двусторонность Mythos: граница между обороной и атакой в случае таких моделей почти исчезает.

Anthropic отказывается публично объявлять о запуске «Project Glasswing» и ограничивает доступ

Поскольку возможности оказываются слишком сильными, Anthropic решила не выпускать Mythos публично и вместо этого выбрала стратегию ограничения доступа — модель будет доступна только для определенных партнерских компаний. Параллельно компания объявила о запуске защитной программы по кибербезопасности под названием «Project Glasswing» («Стеклянные крылья»), в рамках которой совместно с AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia и более чем 40 компаниями-партнерами ведется работа, цель которой — до того, как за дело возьмутся злоумышленники, заранее находить и устранять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic одновременно объявила о запуске защитной программы кибербезопасности под названием «Project Glasswing»

Anthropic заявляет: «С учетом исключительной мощи модели мы подходим к способу ее распространения с осторожностью. Мы уже сотрудничаем с небольшой группой клиентов на этапе раннего доступа, чтобы тестировать эту модель, и считаем, что это самое прорывное поколение, которое мы построили на сегодняшний день».

Также компания сообщила, что провела брифинги для государственных чиновников по сценариям применения Mythos в наступательных и оборонительных задачах, и продолжает консультации с Агентством США по кибербезопасности и безопасности инфраструктуры (CISA) и Центром инноваций в области AI-стандартов. Внешние наблюдатели в дальнейшем сосредоточатся на том, как регуляторы будут формировать стандарты проверки выпуска подобных моделей, какие конкретные меры защиты должны предпринять финансовые организации, и сможет ли координация между международными регуляторами идти в ногу со скоростью технологического развития.

Этот материал скомпилирован крипто-агентом из информации разных сторон, а также прошёл рецензирование и редактирование в «Crypto City»; в настоящее время он всё еще находится на стадии обучения, поэтому возможны логические отклонения или ошибки в информации. Контент приведён только для справки, пожалуйста, не воспринимайте его как инвестиционную рекомендацию.