Безопасность AI-агентов требует системной защиты: Google и Meta предупреждают

Исследователи безопасности из Google и Meta предупреждают, что автономным AI-агентам необходимы системные оборонительные архитектуры, чтобы справляться с возникающими рисками безопасности. Эксперты отмечают, что одних традиционных инструментов кибербезопасности недостаточно для защиты от угроз, исходящих от AI-агентов, которые способны сохранять память, вызывать внешние инструменты, координироваться с другими агентами и работать непрерывно без прямого надзора человека. Опасения связаны с быстрым внедрением AI-агентов в компаниях по множеству процессов, включая платежи, клиентскую поддержку, программирование, кибербезопасность и финансовые операции. В отличие от более ранних систем в формате чат-ботов агентный AI добавляет постоянные системы памяти, выполнение инструментов и автономные сценарии работы, которые создают новые поверхности атаки. Сбои безопасности в таких взаимосвязанных системах редко остаются локальными: скомпрометированные инструкции или вредоносные вводные могут распространяться по нескольким уровням, прежде чем это станет заметно извне.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

Google и Meta расширяют экосистемы агентного AI

Google недавно представила Gemini Spark — всегда включенного AI-помощника, способного взаимодействовать в приложениях Workspace, облачных системах и на платформах сторонних разработчиков. Компания внедряет AI-агентов глубже в Chrome, Gmail, Search и системах Android.

Meta готовит агентных AI-ассистентов, которые смогут выполнять персонализированные задачи на ее социальных и мессенджинговых платформах. Специалисты по безопасности предупреждают, что системы с возрастающей автономностью создают больше возможностей для нарушений безопасности и вредоносных атак в этих взаимосвязанных экосистемах.