Singapura Mengusulkan Standar Global Baru untuk Pengujian Sistem AI Generatif

Pesan Gate News, 20 April — Badan Pengembangan Media dan Komunikasi Infokom Singapura (IMDA) dan Enterprise Singapore mengusulkan standar internasional baru untuk pengujian sistem AI generatif. Usulan tersebut akan dipresentasikan pada pertemuan ISO di Singapura, pertemuan semacam pertama yang diadakan di ASEAN, yang mempertemukan lebih dari 35 badan nasional dan 250 pakar AI.

Inisiatif ini dibangun di atas upaya pengujian AI Singapura sebelumnya, termasuk toolkit AI Verify dan starter kit untuk aplikasi model bahasa besar. AI Verify Foundation, sebuah organisasi yang didukung Singapura dengan anggota utama termasuk IMDA, Google, Microsoft, dan IBM, telah mengembangkan alat sumber terbuka untuk pengujian dan tata kelola AI. Layanannya mencakup toolkit AI Verify untuk pengujian tata kelola dan Project Moonshot, yang menggabungkan benchmarking dengan metodologi red teaming.

Standar yang diusulkan dirancang untuk melengkapi ISO/IEC 42001, standar internasional untuk sistem manajemen AI. Standar ini dapat membantu menetapkan persyaratan teknis untuk kepatuhan terhadap regulasi seperti European Union’s AI Act dan SB-53 yang diusulkan California tentang keselamatan serta pengawasan AI. Kerangka kerja ini mencakup karakteristik mutu termasuk keselamatan dan menggunakan metode seperti red teaming untuk sistem AI generatif teks-ke-teks berbasis prompt. Pengembangan ini dapat memperluas pasar layanan jaminan AI, memungkinkan perusahaan spesialis membantu organisasi memenuhi tolok ukur global yang muncul.