Claude Mythos представляет угрозу финансовой безопасности? Министр финансов США и председатель ФРС экстренно провели совещание и предупредили о рисках

Министр финансов США и председатель ФРС экстренно созвали руководство Уолл-стрит, чтобы предупредить о новейшей модели Anthropic Mythos. Власти классифицировали эту модель как системный риск для финансовой системы.

Министры финансов экстренно созвали руководство Уолл-стрит: рост киберугроз для ИИ до системного риска

Согласно сообщению Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и председатель ФРС Джером Пауэлл (Jerome Powell) на прошлой неделе в столичном Вашингтоне экстренно созвали в штаб-квартире Министерства финансов США руководителей крупнейших банков Уолл-стрит и предупредили о возможных киберрисках безопасности, которые может вызвать новейшая модель ИИ компании Anthropic «Claude Mythos Preview».

Среди присутствовавших руководителей банков — генеральный директор Citigroup Джейн Фрейзер (Jane Fraser), генеральный директор Morgan Stanley Тед Пик (Ted Pick), генеральный директор Bank of America Брайан Мойнихан (Brian Moynihan), генеральный директор Wells Fargo Чарльз Шарф (Charlie Scharf) и генеральный директор Goldman Sachs Дэвид Соломон (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) не смог присутствовать. Указанные организации также были отнесены регулирующими органами к финансовым учреждениям, имеющим системную значимость.

Эта встреча прошла с личным участием министра финансов и председателя ФРС, что в отрасли расценили как крайне необычный шаг. Ранее вмешательство правительства в риски, связанные с ИИ, в основном ограничивалось рабочими группами на уровне организаций; теперь же это напрямую поднялось до личного предупреждения высших руководителей финансовых регуляторов, ясно дав понять, что власти классифицировали киберугрозы ИИ как системный риск для устойчивости финансовой системы.

Возможности модели Mythos поразительны: может самостоятельно выявлять тысячи уязвимостей с нулевым днем

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos обладает способностью идентифицировать и использовать уязвимости во всех основных операционных системах и веб-браузерах. На этапе тестирования эта модель самостоятельно нашла тысячи ранее неизвестных уязвимостей с нулевым днем (zero-day vulnerabilities), включая уязвимость, которая скрытно просуществовала 27 лет в безопасностно ориентированной операционной системе с открытым исходным кодом OpenBSD; кроме того, модель также обнаружила уязвимость в мультимедийной библиотеке обработки видео FFmpeg, которую не удалось выявить даже при выполнении автоматизированными инструментами 5M процедур.

Исследователи Anthropic подчеркнули, что способность Mythos находить уязвимости проистекает из общего прогресса модели в написании программ, рассуждении и самостоятельности, а не является результатом целенаправленного обучения.

В заявлении компании отмечено: «Та же способность, которая делает модель более эффективной при устранении уязвимостей, делает ее также более эффективной при использовании уязвимостей». Эта формулировка подчеркивает двойственность Mythos: граница между обороной и атакой почти исчезает перед такими моделями.

Anthropic отказалась публично раскрывать запуск «Project Glasswing», ограничив доступ

Именно из-за чрезмерно высокой мощности Anthropic решила не публиковать Mythos для широкой аудитории, выбрав стратегию ограничения доступа — только для использования конкретными компаниями-партнерами. В то же время компания объявила о запуске оборонительного плана сотрудничества по кибербезопасности под названием «Project Glasswing» («Glasswing»), с партнерами более чем в 40 компаниях, включая AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA и др., с целью до появления действий атакующих активно находить и исправлять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic также объявила о запуске оборонительного плана сотрудничества по кибербезопасности под названием «Project Glasswing» («Glasswing»)

Anthropic заявляет: «Учитывая чрезвычайную силу возможностей модели, мы придерживаемся осторожного подхода к способу ее выпуска. Мы работаем с небольшой группой ранних клиентов над тестированием этой модели и считаем, что это самый прорывной экземпляр поколения, который мы построили на сегодняшний день».

Компания также раскрыла, что провела брифинги для правительственных чиновников по сценариям применения Mythos в обороне и нападении, и продолжает консультации с Агентством по кибербезопасности и безопасности инфраструктуры США (CISA) и Центром инноваций в области AI-стандартов. Внимание внешних наблюдателей далее сосредоточится на том, как регуляторы будут устанавливать стандарты проверки выпуска подобных моделей, какие конкретные меры обороны должны предпринять финансовые учреждения, и сможет ли координация между международными регуляторами идти в ногу со скоростью технологической эволюции.

Этот материал сгенерирован с помощью крипто-агента, который агрегирует информацию из разных источников, проходит рецензирование и редактирование в «Crypto City», все еще находится на стадии обучения, поэтому возможны логические отклонения или ошибки в информации; материал предоставлен только для справки и не является инвестиционной рекомендацией.