Сообщение Gate News, 20 апреля — Управление Infocomm Media Development Authority (IMDA) Сингапура и Enterprise Singapore предложили новый международный стандарт для тестирования систем генеративного ИИ. Предложение будет представлено на заседании ISO в Сингапуре — первом такого рода заседании в рамках АСЕАН, где соберутся более 35 национальных организаций и 250 экспертов по ИИ.

Инициатива опирается на более ранние усилия Сингапура по тестированию ИИ, включая набор инструментов AI Verify и стартовый комплект для приложений на базе больших языковых моделей. Фонд AI Verify — организация с поддержкой Сингапура, в состав которой входят ведущие участники, включая IMDA, Google, Microsoft и IBM, — разработал инструменты с открытым исходным кодом для тестирования ИИ и управления. Его предложения включают набор инструментов AI Verify для проверок в целях управления и Project Moonshot, который сочетает бенчмаркинг с методологиями red teaming.

Предлагаемый стандарт разработан так, чтобы дополнять ISO/IEC 42001 — международный стандарт для систем управления ИИ. Он может помочь определить технические требования для соответствия таким нормативам, как Закон об ИИ Европейского союза (European Union’s AI Act) и предложенный в Калифорнии SB-53 по безопасности и надзору за ИИ. Рамочная модель охватывает такие показатели качества, как безопасность, и использует методы вроде red teaming для систем генеративного ИИ «текст-в-текст», основанных на подсказках. Эта разработка может расширить рынок услуг по обеспечению доверия к ИИ, позволяя специализированным компаниям помогать организациям соответствовать возникающим глобальным ориентирам.

Посмотреть источник

Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.