Notícias da Gate News: investigadores da DeepMind, do Google, alertaram que um ambiente aberto de internet pode ser explorado para sequestrar agentes autónomos de IA e manipular o seu comportamento. O relatório, intitulado «Armadilhas para agentes de IA», indica que, quando as empresas implementam agentes de IA para executar tarefas reais, os atacantes também podem efectuar ataques direcionados através da rede. A investigação identificou seis riscos principais, incluindo armadilhas de injeção de conteúdo, armadilhas de manipulação semântica, armadilhas de estado cognitivo, armadilhas de controlo de comportamento, armadilhas de sistema e armadilhas de interação homem-máquina.
A armadilha de injeção de conteúdo é a mais direta: os atacantes podem colocar instruções em comentários HTML, metadados ou elementos de páginas ocultas; depois de o agente as ler, pode executá-las. A armadilha de manipulação semântica actua ao carregar formulações autorizadas ou ao disfarçar páginas como se fossem um ambiente de investigação, influenciando silenciosamente a forma como o agente compreende a tarefa e, por vezes, até contornando mecanismos de segurança. A armadilha de estado cognitivo ocorre ao inserir dados falsos nas fontes de informação do agente, fazendo-o acreditar durante muito tempo que essas informações já foram validadas. A armadilha de controlo de comportamento, por sua vez, visa as acções reais do agente, podendo levá-lo a aceder a dados sensíveis e a transmiti-los para um objectivo externo.
A armadilha de sistema envolve manipulação coordenada entre vários sistemas de IA, podendo desencadear reacções em cadeia, de forma semelhante a uma queda súbita do mercado causada por transacções algorítmicas. Já a armadilha de interação homem-máquina explora a etapa de revisão manual: ao criar conteúdos de revisão que parecem credíveis, comportamentos nocivos conseguem contornar a supervisão.
Para fazer face aos riscos, a DeepMind recomenda combinar treino adversarial, filtragem de entradas, monitorização de comportamento e sistemas de reputação de conteúdos na rede, além de estabelecer um quadro mais claro de responsabilidade legal. No entanto, a investigação aponta que, na indústria, ainda não existem normas de defesa unificadas, e que as medidas existentes estão frequentemente dispersas e com foco pouco consistente. A investigação apela aos programadores e às empresas para darem prioridade à segurança do ambiente operacional dos agentes de IA, prevenindo potenciais riscos de manipulação na rede e de abuso.
Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a
Isenção de responsabilidade.
Related Articles
Peter Schiff considera a estratégia STRC um esquema Ponzi e critica a falta de eficácia da supervisão da SEC
Os críticos do Bitcoin e apoiantes do ouro Peter Schiff publicou um post no X a 23 de Abril, afirmando que as acções preferenciais perpétuas STRC lançadas pela MicroStrategy (Strategy) são “o esquema de Ponzi mais evidente até à data” e criticando que a Comissão de Valores Mobiliários dos EUA (SEC) não tenha sido capaz de impedir eficazmente a promoção das STRC por Michael Saylor.
MarketWhisper29m atrás
China Investment Guarantee emite comunicado negando uso não autorizado do nome em produtos financeiros falsos
Mensagem da Gate News, 23 de abril — A China Investment Guarantee (CITIC Guarantee) emitiu um comunicado a 23 de abril, esclarecendo que indivíduos não autorizados alegaram falsamente que a empresa está a fazer parceria com a Nippon Life India Asset Management (Singapore) Pte. Ltd., conhecida comummente como NAMS, e está a subscrever produtos de investimento financeiro relacionados. A empresa
GateNews1h atrás
O CEO da Vercel Reporta Distribuição Mais Alargada de Malware Após Investigação de Segurança, Chaves de API Alvo
Mensagem da Gate News, 23 de Abril — O CEO da Vercel, Guillermo Rauch, anunciou que a empresa concluiu uma investigação de segurança aprofundada, abrangendo quase 1 petabyte de registos completos de rede da Vercel e de APIs, indo muito além da violação inicial da conta do Context.ai.
A investigação revelou que
GateNews3h atrás
Crimes informáticos com criptomoedas alimentam debate sobre tokenização na Wall Street
Explorações cripto de alto perfil testam o risco do DeFi, embora seja improvável que desestabilizem a tokenização; as instituições preferem cadeias permissionadas, enquanto a tokenização mais abrangente tem de interoperar com o DeFi; as stablecoins enfrentam escrutínio e um possível efeito de retaliação regulatória.
CryptoFrontier12h atrás
Volo Protocol perde $3,5M num hack na Sui, compromete-se a absorver prejuízos e a congelar os fundos do hacker
Mensagem de Gate News, 22 de Abril — Volo Protocol, uma operadora de vaults de yield na Sui, anunciou ontem (21 de Abril) que começou a congelar os activos roubados na sequência de um exploit de $3,5 milhões. Os hackers pilharam WBTC, XAUm e USDG das Volo Vaults, assinalando a mais recente grande violação de segurança em DeFi num
GateNews15h atrás
Família Francesa Forçada a Transferir $820K em Cripto Após Invasão a Casa Armados
Mensagem da Gate News, 22 de Abril — Uma família em Ploudalmézeau, uma pequena cidade na Bretanha, França, foi invadida na segunda-feira por dois homens armados e mascarados (20 de Abril), segundo a comunicação social da The Block. Três adultos foram amarrados durante mais de três horas e obrigados a transferir aproximadamente 700.000 euros (cerca de 820.000 dólares) i
GateNews16h atrás
