Pesan Gate News, 20 April — Gubernur Maryland Wes Moore menjadi tuan rumah bagi Microsoft dan eksekutif AI lainnya untuk membahas risiko keamanan siber yang terkait dengan sistem AI canggih. Moore juga telah mengadakan pembicaraan pribadi dengan CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei.
Pertemuan ini mengikuti pengungkapan Anthropic bulan ini bahwa model Claude Mythos Preview-nya menunjukkan risiko keamanan siber yang parah dalam pengujian terbatas. Model ini dapat secara otonom menemukan dan mengeksploitasi kelemahan perangkat lunak yang sebelumnya belum diketahui, sebuah kemampuan yang dapat membebani alur kerja keamanan yang dibangun untuk peneliti manusia yang biasanya menemukan kerentanan secara individual sementara tim perangkat lunak menambalnya selama berminggu-minggu atau berbulan-bulan.
Maryland telah menyusun strategi keamanan siber AI sejak Januari 2024, ketika Gubernur Moore menandatangani perintah eksekutif tentang penggunaan AI yang etis di pemerintahan negara bagian dan meluncurkan Maryland Cybersecurity Task Force bersama para ahli dari berbagai instansi pemerintah daerah. Pada 2025, negara bagian tersebut merilis “Maryland AI Enablement Strategy & AI Study Roadmap” setebal 17 halaman yang mencakup adopsi AI di 12 domain termasuk keselamatan publik dan infrastruktur kritis. Roadmap tersebut menyerukan peninjauan risiko siber AI, pengembangan kerangka risiko, dan proyek percontohan pada Desember 2025.
Ketidakseimbangan antara penemuan kerentanan yang dipicu AI dan pertahanan yang dipimpin manusia menimbulkan tantangan bagi tim keamanan. Seorang penyerang hanya perlu satu kelemahan yang dapat dieksploitasi dalam sistem target, sementara pihak bertahan harus mengidentifikasi dan memperbaiki kelemahan di banyak sistem dan organisasi. Tekanan ini dapat mendorong tim keamanan bisnis dan instansi pemerintah beralih ke manajemen paparan berbasis AI, yang bertujuan untuk menemukan dan memberi peringkat risiko lebih cepat daripada model respons ancaman tradisional.
Related News