Certik lança “antivírus para agentes de IA” à medida que marketplaces de skills enfrentam ameaças ocultas

A Certik lançou uma nova plataforma de segurança descrita como um “antivírus para agentes de IA”, criada para lidar com os riscos crescentes dos marketplaces de skills de IA de terceiros não avaliados.

• Principais destaques:
• • A Certik lançou uma plataforma de segurança para oferecer uma camada “antivírus” para ecossistemas de agentes.
• • Auditorias do setor apontam riscos elevados, mas a CertiK busca proteger marketplaces com 90,5% de precisão na varredura.
• • A Finchip.ai está entre as plataformas que ampliam integrações antes de futuras atualizações de varredura voltadas ao consumidor.

O desafio de segurança

A empresa de segurança para blockchain e IA Certik, em 27 de maio, revelou uma nova plataforma de segurança voltada a avaliar riscos em skills de inteligência artificial (IA) de terceiros. Chamado de “antivírus para agentes de IA”, o lançamento ocorre em meio à crescente preocupação do setor com a segurança dos marketplaces de skills de IA.

Pesquisadores de segurança alertaram que muitas dessas skills não são avaliadas, podem executar ações em nível de sistema e podem conter comportamentos maliciosos ocultos, criando um novo risco de cadeia de suprimentos de software para a era da IA. Auditorias de segurança em todo o setor identificaram riscos que vão de roubo de credenciais e exfiltração de dados a manipulação de transferência de fundos e ataques de bypass por prompts.

Apesar dessas preocupações, os marketplaces de skills de IA se expandiram rapidamente à medida que os ecossistemas de agentes amadurecem. No entanto, diferentemente das tradicionais lojas de apps, a maioria das skills é obtida de repositórios públicos com pouca ou nenhuma revisão. Analistas dizem que isso cria oportunidades para que atacantes embutam instruções nocivas, acionem acessos não autorizados a dados ou manipulem fluxos de execução autônoma.

Em uma postagem recente no blog, a Certik afirmou que sua plataforma de scanner de skills foi desenhada especificamente para avaliar riscos que surgem durante a execução, incluindo cenários envolvendo transações financeiras ou chamadas de fundos. O scanner gera uma pontuação numérica de 0 a 100, além de vereditos “pass”, “warn” ou “fail” e achados categorizados. De acordo com a empresa, o sistema alcança até 90,5% de precisão ao identificar riscos de segurança.

“À medida que os agentes de IA se integram mais profundamente a sistemas financeiros, fluxos de trabalho corporativos e interações digitais do dia a dia, o modelo de segurança em torno de skills de terceiros se torna criticamente importante”, disse Ronghui Gu, CEO e cofundador da Certik. “O CertiK Skill Scanner foi criado para estabelecer uma camada padronizada de confiança antes da execução, ajudando usuários e plataformas a identificar riscos ocultos antes que dados sensíveis, ativos ou sistemas sejam expostos.”

A Certik disse que os marketplaces de skills de IA podem integrar o scanner diretamente em pipelines de publicação, revisando automaticamente as skills antes de entrarem no ar e exibindo vereditos de segurança para os usuários. As empresas podem implantar a ferramenta como parte de fluxos de trabalho internos de conformidade e gestão de riscos, enquanto desenvolvedores independentes podem usá-la para fazer uma autoauditoria das skills antes de publicá-las.

A empresa afirmou que futuras atualizações permitirão que usuários comuns façam varreduras das skills por conta própria antes da instalação. O scanner já foi implantado em ambientes selecionados de infraestrutura de agentes de IA Web3. A Certik também está expandindo integrações com plataformas adicionais, incluindo Finchip.ai.

“Confiança é o pré-requisito para que qualquer economia de skills funcione em escala”, disse Gary Yang, investidor em incubação na Finchip.ai. “O trabalho da CertiK na verificação de segurança de skills é exatamente o que esse ecossistema precisa. É o que torna a missão da Finchip de propriedade e distribuição programáveis de skills um projeto que vale a pena construir.”

O lançamento ocorre após a expansão da Certik para infraestrutura de segurança focada em IA. No início deste ano, a empresa apresentou a iniciativa AI Auditor para lidar com riscos ligados a sistemas autônomos e ambientes de execução guiados por IA.

“As aplicações de IA estão caminhando para uma execução cada vez mais autônoma, o que cria uma nova categoria de desafios de segurança e confiança”, disse Gu. “Acreditamos que a infraestrutura de segurança para a era da IA deve funcionar de forma proativa, não reativa.”