Objetivo:

Habilitar o participante a estabelecer e operar um processo de gestão de riscos de IA, alinhado à ISO/IEC 23894 e aos princípios da ISO 31000, cobrindo todo o ciclo de vida de dados e modelos.

• Entender princípios e framework de risco aplicados a sistemas de IA.

• Conduzir identificação, análise, avaliação e tratamento de riscos de IA.

• Tratar riscos socio-técnicos: viés, equidade, interpretabilidade, robutez, segurança, privacidade, segurança funcional.

• Definir métricas, limites, monitoramento e gatilhos de revisão.

• Integrar risco de IA a mudanças, incidentes e terceiros.

Carga Horária:

5 horas

Conteúdo:

1. Fundamentos

• Princípios de gestão de riscos (ISO 31000) no contexto de IA.

• Terminologia de risco de IA: fontes, eventos, impactos, incertezas.

2. Estabelecimento do contexto

• Contexto organizacional, regulatório e de uso.

• Critérios de risco e apetite/tolerância para IA.

• Escopo, fronteiras e interfaces do sistema de IA.

3. Processo de risco (ciclo de vida)

• Identificação: dados, modelos, pipelines, pessoas, fornecedores, ambiente operacional.

• Análise: probabilidade, impacto, severidade; dependências e efeitos cascata.

• Avaliação: critérios de aceitação, priorização.

• Tratamento: evitar, reduzir, compartilhar, aceitar; salvaguardas técnicas e organizacionais.

4. Riscos específicos de IA (socio-técnicos)

• Dados: qualidade, representatividade, viés, privacidade, segurança.

• Modelo: overfitting, drift, robustez a ataques (evasion/poisoning), interpretabilidade.

• Uso/Contexto: erro humano, automação excessiva, supervisão, efeitos sociais/éticos.

• Segurança e privacidade: ataques a modelos, membership inference, DP.

5. Medição e monitoramento

• Métricas de desempenho/robustez/equidade/explicabilidade.

• Drift, data/model monitoring, limites operacionais e gatilhos de ação.

• Registro, rastreabilidade e evidências.

6. Comunicação e consulta

• Partes interessadas; transparência proporcional ao risco.

• Artefatos: Risco de IA por caso de uso, LIA de IA (quando aplicável), relatórios executivos.

7. Integrações

• Relação com AIMS (ISO/IEC 42001), segurança (27001), privacidade (27701), continuidade (22301) e NIST AI RMF.

• Risco em mudanças (change), incidentes e terceiros.