GoPlus Security Mengungkap Vektor Serangan 'Memory Poisoning' Agen AI pada 15 Mei

Menurut BlockBeats, pada 15 Mei GoPlus Security mengungkapkan vektor serangan baru terhadap agen AI melalui “memory poisoning” — dengan mengeksploitasi mekanisme memori jangka panjang untuk memicu operasi sensitif tanpa otorisasi seperti pengembalian dana (refund) atau pemindahan dana.

Serangan ini tidak bergantung pada kerentanan tradisional, melainkan memanfaatkan penyuntikan memori historis. Penyerang pertama kali mendorong agen untuk “mengingat preferensi” seperti “biasanya memprioritaskan refund dibanding chargeback”, lalu menggunakan instruksi yang samar seperti “lakukan seperti biasa” atau “jalankan seperti sebelumnya” pada perintah berikutnya untuk memicu pergerakan dana otomatis. GoPlus menyoroti bahwa agen AI dapat salah menafsirkan preferensi historis sebagai otorisasi, sehingga menyebabkan kerugian finansial. Tim tersebut merekomendasikan penerapan konfirmasi sesi yang eksplisit untuk operasi sensitif, menganggap instruksi berbasis memori sebagai perubahan status berisiko tinggi, memastikan dapat ditelusurinya jejak memori, serta secara otomatis meningkatkan prioritas perintah yang ambigu agar memerlukan verifikasi tambahan.