Claude Mythos: угроза финансовой безопасности? Министр финансов США и председатель ФРС срочно провели экстренное совещание, предупредив о рисках

Министр финансов США и глава Федеральной резервной системы экстренно созвали руководителей Уолл-стрит, чтобы предупредить о последней модели Anthropic Mythos. Власти классифицировали эту модель как системный риск для финансовой системы.

Финансовые руководители экстренно созвали руководителей Уолл-стрит: рост угроз со стороны ИИ до системного риска

Согласно сообщению Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и глава Федеральной резервной системы Джером Пауэлл (Jerome Powell) на прошлой неделе в Вашингтоне, в штаб-квартире Министерства финансов, экстренно созвали руководителей ведущих банков Уолл-стрит и предупредили о потенциальных рисках кибербезопасности, которые может вызвать последняя модель AI-компании Anthropic «Claude Mythos Preview».

Среди участников совещания были руководители банков, включая генерального директора Citigroup Джейн Фрейзер (Jane Fraser), генерального директора Morgan Stanley Теда Пика (Ted Pick), генерального директора Bank of America Брайана Мойнихана (Brian Moynihan), генерального директора Wells Fargo Чарльза Шаффа (Charlie Scharf), а также генерального директора Goldman Sachs Дэвида Соломона (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) не смог присутствовать. Все указанные организации были отнесены надзорными органами к финансовым институтам, имеющим системную значимость.

Это совещание, в котором лично приняли участие министр финансов и глава Федеральной резервной системы, в отрасли рассматривается как необычный шаг. В прошлом вмешательство правительства в риски, связанные с ИИ, в основном ограничивалось рабочими группами на уровне организаций; теперь же напрямую, на уровне высших руководителей финансовых органов, прозвучало предупреждение, что ясно демонстрирует: власти классифицировали киберугрозы, связанные с ИИ, как системный риск для устойчивости финансовой системы.

Возможности модели Mythos впечатляют: она может самостоятельно обнаруживать тысячи уязвимостей с нулевым днем

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos обладает способностью выявлять и использовать уязвимости во всех популярных операционных системах и веб-браузерах. На этапе тестирования модель самостоятельно нашла тысячи ранее неизвестных уязвимостей с нулевым днем (zero-day vulnerabilities), включая уязвимость, которая была скрыта в ориентированной на безопасность ПО с открытым исходным кодом OpenBSD в течение 27 лет; кроме того, модель обнаружила уязвимость в мультимедийной библиотеке обработки видео FFmpeg, которую не удавалось выявить даже при прогоне автоматизированными тестовыми инструментами 5M раз.

Исследователи Anthropic подчеркивают, что способность Mythos находить уязвимости проистекает из общего прогресса модели в написании программ, рассуждении и автономности, а не является результатом целенаправленного обучения.

В заявлении компании говорится: «Та же способность, которая делает модель более эффективной при исправлении уязвимостей, делает ее также более эффективной при использовании уязвимостей». Этот тезис подчеркивает двусмысленность Mythos: граница между обороной и атакой в рамках таких моделей практически исчезает.

Anthropic отказалась публиковать и раскрывать доступ к запуску «Project Glasswing»

Поскольку возможности оказались слишком сильными, Anthropic решила не выпускать Mythos в открытый доступ и применить стратегию ограничения доступа, предоставив ее только определенным партнерским компаниям. Компания также объявила о запуске оборонительного плана кибербезопасности под названием «Project Glasswing» («Стеклянное крыло»), в рамках которого с AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia и более чем 40 корпоративными партнерами ведется сотрудничество. Цель — до того, как атакующий предпримет действия, самостоятельно выявлять и устранять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic также объявила о запуске оборонительного плана кибербезопасности под названием «Project Glasswing» («Стеклянное крыло»)

Anthropic заявляет: «Учитывая исключительную мощность модели, мы приняли осторожный подход к способу ее выпуска. Мы работаем с небольшой группой ранних клиентов, чтобы протестировать эту модель, и считаем, что это наиболее прорывное поколение, которое мы построили на сегодняшний день».

Компания также сообщила, что провела брифинги для правительственных чиновников по сценариям применения Mythos в сфере обороны и атаки, и продолжает консультации с Агентством США по кибербезопасности и безопасности инфраструктуры (CISA) и Центром инноваций по стандартам ИИ. В дальнейшем внимание внешних наблюдателей сосредоточится на том, как регуляторы будут формировать стандарты проверки выпуска подобных моделей, какие конкретные меры защиты должны принять финансовые институты, а также сможет ли координация между международными регуляторными органами идти в ногу со скоростью технологической эволюции.

Этот материал сгенерирован с помощью криптографического агента, который обобщил информацию из разных источников; «加密城市» провел рецензирование и редактирование. В настоящее время он находится на стадии обучения, поэтому возможны логические отклонения или ошибки в информации. Материал предназначен только для справки и не является инвестиционной рекомендацией.