Conformidade/Referenciais
Controlos EU AI Act: Regulamento (UE) 2024/1689
Lei da IA da União Europeia | Referência: Regulamento (UE) 2024/1689 (aplicação faseada 2024-2027) Aplicável a: fornecedores, operadores, importadores e distribuidores de sistemas de IA no mercado UE
Legenda: Crítica Alta Média Baixa
Nível 0: IA Proibida (Art. 5): Práticas a Evitar
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-PROHIB-1 | Proibição de manipulação subliminar | Crítica | Proibido: sistemas de IA que usam técnicas subliminares para distorcer comportamento causando dano |
| EUAI-PROHIB-2 | Proibição de exploração de vulnerabilidades | Crítica | Proibido: sistemas que exploram vulnerabilidades de grupos específicos (idade, deficiência, situação social) |
| EUAI-PROHIB-3 | Proibição de pontuação social generalizada | Crítica | Proibido: sistemas de pontuação social por autoridades públicas para fins gerais |
| EUAI-PROHIB-4 | Proibição de identificação biométrica em tempo real | Crítica | Proibido (c/ exceções restritas): identificação biométrica remota em tempo real em espaços públicos |
| EUAI-PROHIB-5 | Proibição de inferência de emoções no trabalho | Crítica | Proibido: sistemas de reconhecimento de emoções em locais de trabalho e educação (com exceções médicas) |
| EUAI-PROHIB-6 | Proibição de categorização biométrica com atributos sensíveis | Crítica | Proibido: categorização de pessoas com base em dados biométricos por raça, política, religião, orientação sexual |
Nível 1: IA de Alto Risco (Art. 6-27)
Obrigações dos Fornecedores (Art. 9-17)
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-HR-1 | Sistema de gestão de riscos de IA | Crítica | Estabelecer, implementar, documentar e manter sistema de gestão de riscos para sistemas de IA de alto risco |
| EUAI-HR-2 | Governança de dados e de dados de treino | Alta | Práticas de governança de dados para conjuntos de dados usados no treino, validação e teste de modelos |
| EUAI-HR-3 | Documentação técnica | Alta | Elaborar documentação técnica completa antes de colocar sistema no mercado (Annex IV) |
| EUAI-HR-4 | Registo de eventos (logging) | Alta | Capacidade de registo automático de eventos durante operação para rastreabilidade |
| EUAI-HR-5 | Transparência e fornecimento de informação | Alta | Garantir transparência suficiente para operadores interpretarem e usarem adequadamente os outputs |
| EUAI-HR-6 | Supervisão humana | Crítica | Conceber sistemas para permitir supervisão humana eficaz durante utilização |
| EUAI-HR-7 | Exatidão, robustez e cibersegurança | Crítica | Garantir níveis adequados de exatidão, robustez e resiliência a ciberataques e manipulação |
| EUAI-HR-8 | Sistema de gestão da qualidade | Alta | Implementar sistema de gestão da qualidade para conformidade com o AI Act |
| EUAI-HR-9 | Registo na base de dados EU da UE | Alta | Registar sistemas de IA de alto risco na base de dados da UE antes da colocação no mercado |
| EUAI-HR-10 | Marcação CE e declaração de conformidade | Alta | Afixar marcação CE e elaborar declaração UE de conformidade |
| EUAI-HR-11 | Vigilância pós-comercialização | Alta | Implementar e documentar plano de vigilância pós-comercialização do sistema de IA |
| EUAI-HR-12 | Reporte de incidentes graves | Crítica | Reportar incidentes graves e mau funcionamento às autoridades competentes nacionais |
Obrigações dos Operadores (Art. 26)
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-OP-1 | Uso conforme com instruções | Alta | Usar sistemas de IA de alto risco de acordo com as instruções de utilização do fornecedor |
| EUAI-OP-2 | Designar responsável humano | Crítica | Designar pessoa física responsável pela supervisão de sistemas de IA de alto risco |
| EUAI-OP-3 | Avaliação de impacto de direitos fundamentais | Alta | Realizar avaliação de impacto nos direitos fundamentais antes de utilizar sistemas de alto risco |
| EUAI-OP-4 | Manter logs gerados pelos sistemas | Média | Conservar logs gerados automaticamente pelos sistemas de IA de alto risco |
| EUAI-OP-5 | Notificar pessoas afetadas | Alta | Informar pessoas sujeitas a decisões de sistemas de IA de alto risco com impacto significativo |
Nível 2: IA de Uso Geral (GPAI) (Art. 51-56)
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-GPAI-1 | Documentação técnica de modelos GPAI | Alta | Elaborar e manter documentação técnica de modelos GPAI (Annex XI e XII) |
| EUAI-GPAI-2 | Política de conformidade com direitos de autor | Alta | Implementar política para respeitar direitos de autor nos dados de treino |
| EUAI-GPAI-3 | Sumário de dados de treino | Alta | Disponibilizar sumário publicamente acessível sobre dados usados no treino |
| EUAI-GPAI-4 | Política de segurança para modelos com risco sistémico | Crítica | Para modelos com potencial risco sistémico: avaliação adversarial, testes de red team, gestão de incidentes |
| EUAI-GPAI-5 | Reporte de incidentes de modelos com risco sistémico | Crítica | Reportar incidentes graves e quase-acidentes à Comissão Europeia |
Nível 3: Obrigações de Transparência (Art. 50)
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-TRANS-1 | Divulgação de interação com IA (chatbots) | Alta | Informar utilizadores que estão a interagir com um sistema de IA (exceto óbvio) |
| EUAI-TRANS-2 | Marcação de deepfakes | Alta | Assegurar que conteúdo áudio, vídeo, imagem ou texto sintético é marcado como gerado por IA |
| EUAI-TRANS-3 | Divulgação de emoções e biometria | Alta | Informar pessoas sujeitas a sistemas de reconhecimento de emoções ou categorização biométrica |
Governança e Supervisão
| Código | Título | Prioridade | Descrição |
|---|---|---|---|
| EUAI-GOV-1 | Designar Responsável de IA | Alta | Nomear responsável interno pela conformidade com o EU AI Act |
| EUAI-GOV-2 | Inventário de sistemas de IA | Alta | Manter inventário de todos os sistemas de IA utilizados, desenvolvidos ou colocados no mercado |
| EUAI-GOV-3 | Avaliação de nível de risco de sistemas de IA | Crítica | Avaliar e documentar o nível de risco de cada sistema de IA (proibido/alto/transparência/mínimo) |
| EUAI-GOV-4 | Formação sobre EU AI Act | Média | Garantir formação sobre o regulamento e uso responsável de IA para colaboradores relevantes |
Calendário de Aplicação
| Data | Obrigação |
|---|---|
| Fev 2025 | Práticas de IA proibidas (Art. 5), já aplicável |
| Ago 2025 | GPAI e modelos de uso geral (Art. 51-56) |
| Ago 2026 | Sistemas de IA de alto risco (maioria) + obrigações de transparência |
| Ago 2027 | Sistemas de IA de alto risco em infraestrutura regulamentada pré-existente |
Autoridade competente em Portugal: A designar (previsivelmente CNPD ou nova autoridade) | Coordenação: Comissão Europeia / AI Office
Total: 38 controlos no catálogo
Fonte: Regulamento (UE) 2024/1689, AI Act, publicado no JOUE em 12 julho 2024