Мифос от Клода угрожает финансовой безопасности? Министр финансов США и председатель ФРС срочно созывают совещание, предупреждая о рисках

Министр финансов США и председатель ФРС экстренно собрали руководителей Уолл-стрит, чтобы предупредить о последней модели Anthropic Mythos. Данную модель власти классифицировали как системный риск для финансовой системы.

Финансовые руководители экстренно собрали руководителей Уолл-стрит: ИИ-угрозы повышены до системного риска

Согласно сообщению Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и председатель ФРС Джером Пауэлл (Jerome Powell) на прошлой неделе в Вашингтоне провели экстренную встречу в штаб-квартире Министерства финансов США с главами крупнейших банков, чтобы предупредить о потенциальных киберрисках, которые может вызвать новейшая модель AI-компании Anthropic «Claude Mythos Preview».

Среди присутствовавших руководителей банков были генеральный директор Citigroup Джейн Фрейзер (Jane Fraser), генеральный директор Morgan Stanley Тед Пик (Ted Pick), генеральный директор Bank of America Брайан Мойнихан (Brian Moynihan), генеральный директор Wells Fargo Чарльз Шарф (Charlie Scharf) и генеральный директор Goldman Sachs Дэвид Соломон (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) на встречу прийти не смог. Эти организации были отнесены надзорными органами к финансовым учреждениям системной значимости.

Эта встреча была лично проведена министром финансов и председателем ФРС, и в отрасли ее расценили как крайне необычное действие. В прошлом вмешательство правительства в риски, связанные с ИИ, чаще ограничивалось рабочими группами на уровне организаций; теперь же предупреждение было поднято до прямого предупреждения высших руководителей финансовых властей, ясно сигнализируя о том, что ИИ-киберугрозы определены властями как системный риск для стабильности финансовой системы.

Возможности модели Mythos впечатляют: она способна самостоятельно обнаруживать множество уязвимостей с нулевым днём

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos обладает способностью идентифицировать и использовать уязвимости во всех основных операционных системах и веб-браузерах. На этапе тестирования модель самостоятельно нашла тысячи ранее неизвестных уязвимостей нулевого дня (zero-day vulnerabilities), включая уязвимость, которая скрывалась в ориентированной на безопасность открытой операционной системе OpenBSD в течение 27 лет; кроме того, модель обнаружила уязвимость в мультимедийной библиотеке для обработки видео FFmpeg, которую даже при запуске автоматизированными инструментами тестирования 5M раз не удавалось выявить.

Исследователи Anthropic подчеркивают, что способность Mythos находить уязвимости проистекает из общего прогресса модели в программировании, рассуждении и автономности, а не является результатом целенаправленного обучения.

В своем заявлении компания указала: «Та же способность, которая делает модель более эффективной при исправлении уязвимостей, делает ее также более эффективной при использовании уязвимостей». Это подчеркивает двусторонний характер Mythos: граница между обороной и атакой перед такими моделями почти исчезает.

Anthropic отказывается публично раскрывать, ограничив доступ в рамках «Project Glasswing»

Поскольку возможности оказались слишком сильными, Anthropic решает не публиковать Mythos в открытом доступе и принимает стратегию ограничения доступа, предоставляя его только определенным партнерским компаниям. Компания также объявила о запуске оборонительной программы сотрудничества в области кибербезопасности под названием «Project Glasswing» («Стеклянное крыло»), в рамках которой совместно с AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA и более чем 40 другими компаниями-партнерами будет поставлена цель — до того, как атакующие начнут действовать, активно находить и исправлять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic также объявила о запуске оборонительной программы сотрудничества в области кибербезопасности под названием «Project Glasswing» («Стеклянное крыло»)

Anthropic заявляет: «Учитывая силу возможностей модели, мы подходим к способам ее выпуска с осторожностью. Мы работаем с небольшой группой первых клиентов с доступом, чтобы протестировать эту модель, и считаем, что это наиболее прорывное поколение из построенных нами на сегодняшний день».

Также компания раскрыла, что провела брифинги для правительственных чиновников по сценариям использования Mythos в обороне и нападении, и продолжает консультации с Агентством по кибербезопасности и безопасности инфраструктуры США (CISA) и Центром инноваций в области стандартов ИИ. В дальнейшем внешние наблюдатели сосредоточатся на том, как регулирующие органы будут устанавливать стандарты проверки выпуска для подобных моделей, какие конкретные меры обороны должны принять финансовые учреждения, и сможет ли координация между международными регулирующими органами идти в ногу со скоростью технологического развития.

Этот материал скомпилирован с использованием информации со стороны крипто-агента, подготовлен к проверке и редактуре «Crypto City», в настоящее время все еще проходит этап обучения, поэтому могут быть логические отклонения или ошибки в информации; материал предоставляется только для справки и не является инвестиционной рекомендацией.