Антропик получила поздно в пятницу директиву по экспортному контролю, предписывающую компании приостановить доступ к новейшим моделям Claude — Fable 5 и Mythos 5 — для любого иностранного гражданина, как находящегося внутри, так и за пределами Соединённых Штатов, включая иностранных сотрудников Anthropic. Администрация Трампа сослалась на органы по вопросам национальной безопасности, но, согласно Anthropic, не уточнила, в чём заключалась её обеспокоенность. Директива поступила спустя всего несколько дней после того, как генеральный директор Anthropic Дарио Амодеи опубликовал эссе, призывающее к более серьёзному и обязательному регулированию ИИ, включая возможность блокировать модели, если их сочтут небезопасными. The Wall Street Journal сообщила, что шаг был продиктован разговорами, которые генеральный директор Amazon Энди Джасси провёл с должностными лицами США, включая министра финансов Скотта Бессента, в ходе которых Джасси заявил, что исследователи Amazon использовали промпты, чтобы заставить Fable 5 выдавать информацию, которая может помочь кибератакам. Компания, чья оценка сейчас приближается к 1 триллиону долларов, годами подчёркивала свою приверженность безопасности, но теперь вновь оказалась в перекрестье внимания администрации Трампа.
Администрация Трампа выпускает директиву по экспортному контролю по основаниям национальной безопасности
Директива пришла примерно через 10 дней после того, как Президент Дональд Трамп подписал указ о развитии ИИ, который просил компании на добровольной основе предоставлять модели федеральному правительству для оценки их возможностей до полного релиза. Указ также дал должностным лицам администрации 60 дней на разработку и поддержание соответствующих рамок проверки для компаний по ИИ, которые те должны учитывать. Нет признаков того, что принудительная приостановка новейших моделей Anthropic была связана с этим указом.
По данным The Wall Street Journal, со ссылкой на людей, знакомых с ситуацией, Энди Джасси сообщил администрации, что исследователи Amazon использовали серию промптов, чтобы заставить Fable 5 выдавать информацию, которая может помочь кибератакам. Компания назвала подписанный ранее в этом месяце указ Трампа по ИИ «важным шагом».
В ответ Anthropic заявила, что не согласна с тем, что вывод администрации Трампа является основанием для отзыва, и охарактеризовала сбой как «недопонимание». В блоге компания написала: «Как мы уже заявляли публично, мы считаем, что у правительства должна быть возможность блокировать небезопасные развёртывания — в рамках уставного процесса, который прозрачен, справедлив, понятен и опирается на технические факты. Это действие не соответствует данным принципам».
Дэниел Ремлер, старший научный сотрудник Center for a New American Security, сообщил CNBC: «Всё это очень похоже на обязательность, если будут последствия за невыполнение того, что говорит правительство». Он добавил: «Пройти путь от ситуации, когда у нас вообще не было никаких ограничений на доступ к моделям, к фактическому использованию этого инструмента, чтобы в течение нескольких коротких часов вывести из строя модель одной компании, — это довольно примечательно».
Руководители Anthropic встречаются с чиновниками администрации Трампа
Сотрудники Anthropic старшего звена вылетели в Вашингтон, округ Колумбия, чтобы встретиться с представителями администрации Трампа в понедельник. Компания заявила CNBC, что «обе стороны работают быстро, чтобы это разрешить». Anthropic не сообщила, когда ожидает, что её модели снова появятся в сети.
По словам человека, знакомого с обсуждениями, который попросил не называть его имя, чтобы обсудить конфиденциальные вопросы, Anthropic работала с госорганами, тестируя модели до релиза, и получила одобрение на их развёртывание. По словам собеседника, от правительства не поступало сообщений о какой-либо угрозе национальной безопасности.
Fable 5 и Mythos 5 были построены на апрельском релизе Claude Mythos Preview — мощном предложении, которое превосходно выявляет уязвимости безопасности в ПО. Anthropic ограничила развёртывание избранной группой компаний в рамках инициативы по кибербезопасности под названием Project Glasswing. Mythos 5 по-прежнему был доступен ограниченному кругу пользователей, но Anthropic сделала Fable 5 доступным для своих корпоративных клиентов и платных подписчиков. Компания заявила, что широкое распространение стало возможным благодаря новым защитным мерам, блокирующим ответы в отдельных зонах повышенного риска, включая кибербезопасность и биологию.
Лидеры отрасли направляют открытое письмо с просьбой отменить директиву
Алекс Стамос, главный директор по продуктам в Corridor и бывший руководитель по безопасности в Facebook, написал открытое письмо о «прозрачных киберзащитах для ИИ», адресованное министру торговли Говарду Лютнику и Национальному кибердиректору Сину Кэрнкроссу. Письмо, подписанное более чем 150 руководителями и техническими лидерами, просит отменить директиву по экспортному контролю.
В интервью CNBC Стамос сказал, что правила должны быть «основаны на науке». Он заявил: «Эти правила нужно прописать и сделать прозрачными. Этого не произошло. Ничего такого нет у Anthropic или у кого-то ещё, на что можно было бы посмотреть и сказать, что можно, а что нельзя». Он добавил, что для любой американской компании «страх в том, что в любой момент вас теперь могут просто выключить — из‑за полностью произвольного решения, если вы пойдёте вразрез с администрацией».
Дэвид Сакс, венчурный инвестор, ранее занимавший пост «AI и крипто-царя» при Трампе, написал в X, что «минимизирующая формулировка» в блоге компании не соответствует её бренду как «компании по безопасности ИИ». Сакс заявил: «Администрация ценит технические возможности Anthropic и считает, что эта проблема, хотя и серьёзная, должна легко решиться. Мяч на стороне Anthropic».
Назначение рисков цепочки поставок в Пентагоне остаётся предметом судебного разбирательства
Ранее в этом году Anthropic участвовала в громком споре с Министерством обороны. В марте DOD признало Anthropic риском для цепочки поставок — это обозначение требует от оборонных подрядчиков сертифицировать, что они не будут использовать модели Claude в работе с военными. Anthropic подала в суд на администрацию Трампа, пытаясь добиться отмены назначения риска для цепочки поставок. Это разбирательство продолжается.
В посте в X в субботу министр обороны Пит Хегсетт прокомментировал последнюю директиву правительства, написав, что «каждый проходящий день» доказывает, почему внесение Anthropic в чёрный список было «правильным решением».
Компания и её главный конкурент, OpenAI, обе недавно конфиденциально подали проспекты IPO, выстраивая потенциально исторические продажи акций для инвесторов, которые хотят присоединиться к рынку ИИ.
FAQ
Что администрация Трампа приказала сделать Anthropic поздно в пятницу?
Администрация Трампа выпустила директиву по экспортному контролю поздно в пятницу, предписав Anthropic приостановить доступ к новейшим моделям Claude — Fable 5 и Mythos 5 — для любого иностранного гражданина, как находящегося внутри, так и за пределами Соединённых Штатов, включая иностранных сотрудников Anthropic. Администрация сослалась на органы по вопросам национальной безопасности, но, согласно Anthropic, не уточнила, в чём заключалась её обеспокоенность.
Почему администрация Трампа выпустила директиву по экспортному контролю против Anthropic?
По данным The Wall Street Journal, со ссылкой на людей, знакомых с ситуацией, это решение было продиктовано разговорами, которые генеральный директор Amazon Энди Джасси вёл с должностными лицами США, включая министра финансов Скотта Бессента. Джасси сообщил администрации, что исследователи Amazon использовали серию промптов, чтобы заставить Fable 5 выдавать информацию, которая может помочь кибератакам. Администрация Трампа сослалась на органы по вопросам национальной безопасности, но не уточнила, в чём заключалась её обеспокоенность.
Что делает Anthropic, чтобы разрешить директиву по экспортному контролю?
Сотрудники Anthropic старшего звена вылетели в Вашингтон, округ Колумбия, чтобы встретиться с представителями администрации Трампа в понедельник. Компания заявила CNBC, что «обе стороны работают быстро, чтобы это разрешить». Anthropic не сообщила, когда ожидает, что её модели снова появятся в сети.
