GoPlus Securityが5月15日にAIエージェント「メモリ・ポイズニング」攻撃ベクトルを開示

BlockBeatsによると、GoPlus Securityは5月15日に「メモリポイズニング」を通じてAIエージェントに対する新たな攻撃ベクトルを開示しました。これは、長期メモリの仕組みを悪用して、返金や資金移転といった本来許可されないセンシティブな操作を引き起こすものです。

この攻撃は従来型の脆弱性に依存せず、代わりに過去のメモリ注入を利用します。攻撃者はまず、AIエージェントに「通常はチャージバックよりも返金を優先する」といった「好みを覚えさせる」よう誘導し、その後のコマンドで「いつも通り処理して」や「以前と同様に実行して」といった曖昧な指示を用いて、自動化された資金の移動を引き起こします。GoPlusは、AIエージェントが過去の嗜好を許可と誤解する可能性があり、その結果として経済的損失につながり得ると強調しました。同チームは、センシティブな操作に対して明示的なセッション確認を実装し、メモリに基づく指示を高リスクな状態変更として扱い、メモリの追跡可能性を確保し、曖昧なコマンドは自動的にエスカレーションして二次確認を要求することを推奨しました。