Guia/Inteligência artificial
ARIA: Segurança de IA Agêntica
O ARIA é o módulo de avaliação de segurança de agentes e sistemas de IA agêntica, baseado no framework AIVSS (AI Vulnerability Scoring System).
O que avalia
- Riscos agênticos A1 a A8: Goal Hijacking, Tool Misuse, Privilege Abuse, Memory Poisoning, Insecure Inter-Agent Comms, Cascading Failures, Trust Exploitation e Rogue Agent
- Riscos de desenvolvimento e de modelo D1 a D7 (OWASP AI Exchange): Data Poisoning, Supply-Chain Model Poisoning, Dev-Time Data Leak, Dev-Time Model Leak, Model Exfiltration / Theft, Evasion e Model Inversion / Membership Inference
- 37 controlos de mitigação de base (por exemplo, validação de inputs, lista de ferramentas permitidas, aprovação humana, privilégio mínimo, sandboxing), organizados por camadas
- Pontuação AIVSS (0 a 10) por sistema ou agente avaliado, com detalhe por categoria de risco
Fluxo de utilização
- Registe o sistema ou agente de IA a avaliar (nome, descrição, casos de uso, ferramentas/acessos que possui)
- Percorra os separadores da avaliação: Visão geral, Contexto, Arquitetura, Ameaças, Pontuação, Controlos, Testes e Governação, respondendo aos controlos por categoria de risco
- O sistema calcula a pontuação AIVSS e identifica os controlos em falta
- Consulte o detalhe da avaliação para o plano de remediação
O ARIA complementa o EU AI Act (secção 36), enquanto o EU AI Act cobre obrigações regulatórias, o ARIA foca-se em vulnerabilidades técnicas de segurança específicas de agentes de IA.