Camada IA: AI Incidents, AI Register e Model Cards
O EterShield inclui um conjunto de módulos dedicados à governação de sistemas de Inteligência Artificial.
AI Incidents
Registo especializado de incidentes envolvendo sistemas de IA (ex: alucinações com impacto, decisões automatizadas incorretas, fuga de dados via prompt, uso indevido de modelos). Segue a mesma estrutura de severidade e ciclo de vida dos incidentes gerais (secção 10), com campos adicionais específicos de IA (modelo envolvido, tipo de falha, dados de treino/inferência afetados).
AI Register / Model Cards
Inventário de todos os modelos e sistemas de IA usados pela organização (próprios ou de terceiros). Para cada modelo, o sistema gera automaticamente uma Model Card, documento estruturado com:
- Propósito e âmbito de utilização
- Dados de treino e limitações conhecidas
- Nível de risco (alinhado com a classificação de risco do EU AI Act)
- Medidas de mitigação implementadas
As Model Cards podem ser exportadas em Markdown via api/reports/model-card-md.
Classificação automática por IA
A plataforma apoia a classificação automática de conteúdo e risco em vários módulos (ex: categorização de itens da Knowledge Base, secção 3.2).