Глава Anthropic Дарио Амодей призывает к обязательным правилам безопасности ИИ, поскольку развитие опережает политику

10 июня генеральный директор Anthropic Дарио Амодеи опубликовал эссе, предупреждающее, что развитие ИИ ускоряется гораздо быстрее, чем политические системы успевают реагировать, что создает срочную «управленческую» брешь. Он предложил рамочную модель с обязательным сторонним тестированием перед развертыванием для передовых моделей, с оценками рисков кибербезопасности, биологического злоупотребления и сценариев потери контроля. Правительства должны сохранять полномочия задерживать или блокировать развертывание, если риски будут сочтены недопустимыми.

Амодеи также подчеркнул риски экономических потрясений, отметив, что мощный ИИ может вытеснить большое число работников за счет замещения когнитивного труда, потенциально приводя к быстрому росту на фоне сохраняющегося неравенства. Он призвал к мерам политики, включая поддержку рабочей силы, страхование зарплат и программы переобучения. Кроме того, он подчеркнул необходимость того, чтобы демократии координировались по вопросам цепочек поставок ИИ, стандартов безопасности и экономической политики, сравнив геополитическую значимость ИИ с ядерной энергетикой.