В среду генеральный директор Anthropic Дарио Амодей опубликовал программное эссе, в котором призвал установить обязательные требования по безопасности и сделать обязательным независимое стороннее тестирование для фронтирных ИИ-моделей, по образцу правил FAA для авиации. Предложение предусматривает тестирование по четырем категориям риска: кибербезопасность, биологическое оружие, потеря контроля над ИИ и автоматизированные R&D, а также наличие у государства полномочий блокировать небезопасные развертывания.

Объявление политики совпало с запуском Anthropic Claude Mythos 5 — ограниченной фронтирной модели для организаций по кибербезопасности и государственных партнеров. Параллельно компания выпустила Claude Fable 5 — публичную версию, которая маршрутизирует чувствительные запросы в менее способную модель как мера защиты от злоупотреблений.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

3ч назад

Генеральный директор Anthropic призывает наделить правительства полномочиями блокировать развертывание высокорисковых моделей ИИ

4ч назад

OpenAI планирует IPO в течение года, стремится к оценке в 1 триллион долларов и рассматривает подачу заявки уже в сентябре

13ч назад

ФСБ призывает к более жёсткому контролю за агентным ИИ в финансовом секторе: 52% финансовых компаний уже используют его

22ч назад

Anthropic запускает Claude Fable 5 с публичным доступом, цена — 10–50 долларов за 1 миллион токенов

22ч назад

Anthropic объявляет Claude Fable 5 и Claude Mythos 5 сегодня; Mythos предлагает сниженные ограничения по безопасности для экспертов по кибербезопасности

Детальный анализ