Curso Cyber Cultura
ISO 23894: Gestão de Riscos de IA
Riscos de IA em todo o ciclo de vida dos dados e dos modelos.
Prepara o participante para estabelecer e operar um processo de gestão de riscos de IA, alinhado com a ISO/IEC 23894 e com os princípios da ISO 31000, abrangendo todo o ciclo de vida dos dados e dos modelos.
- Carga horária
- 5 horas
- Formato
- Online ou in-company
- Investimento
- Sob consulta
Respondemos com datas, formato e investimento.
Para quem é
- Gestores de riscos que passaram a responder por sistemas de IA.
- Equipas de dados e IA que precisam de documentar e tratar riscos.
- Profissionais de compliance, privacidade e segurança envolvidos em projetos de IA.
O que vai desenvolver
- Compreender os princípios e o enquadramento de risco aplicados a sistemas de IA.
- Conduzir a identificação, a análise, a avaliação e o tratamento de riscos de IA.
- Tratar riscos sociotécnicos: enviesamento, equidade, interpretabilidade, robustez, segurança, privacidade e segurança funcional.
- Definir métricas, limites, monitorização e critérios que desencadeiam revisões.
- Integrar o risco de IA nas mudanças, nos incidentes e nos terceiros.
Conteúdo programático
5 horas
01Fundamentos
- Princípios de gestão de riscos (ISO 31000) no contexto da IA
- Terminologia de risco de IA: fontes, eventos, impactos e incertezas
02Estabelecimento do contexto
- Contexto organizacional, regulatório e de utilização
- Critérios de risco, apetite e tolerância para a IA
- Âmbito, fronteiras e interfaces do sistema de IA
03Processo de risco no ciclo de vida
- Identificação: dados, modelos, pipelines, pessoas, fornecedores e ambiente operacional
- Análise: probabilidade, impacto e severidade; dependências e efeitos em cascata
- Avaliação: critérios de aceitação e priorização
- Tratamento: evitar, reduzir, partilhar ou aceitar; salvaguardas técnicas e organizacionais
04Riscos específicos da IA
- Dados: qualidade, representatividade, enviesamento, privacidade e segurança
- Modelo: overfitting, drift, robustez a ataques (evasão e envenenamento) e interpretabilidade
- Utilização e contexto: erro humano, automação excessiva, supervisão e efeitos sociais e éticos
- Segurança e privacidade: ataques a modelos, inferência de pertença e privacidade diferencial
05Medição e monitorização
- Métricas de desempenho, robustez, equidade e explicabilidade
- Drift, monitorização de dados e modelos, limites operacionais e critérios de ação
- Registo, rastreabilidade e evidências
06Comunicação e consulta
- Partes interessadas e transparência proporcional ao risco
- Artefactos: risco de IA por caso de uso, avaliação de impacto de IA (AIIA) quando aplicável e relatórios executivos
07Integrações
- Relação com o AIMS (ISO/IEC 42001), a segurança (27001), a privacidade (27701), a continuidade (22301) e o NIST AI RMF
- Risco nas mudanças, nos incidentes e nos terceiros
O que o curso inclui
- Modelos de artefactos de risco de IA
Para a sua equipa
Este curso também está disponível em formato in-company, presencial ou à distância, com turma fechada para a sua empresa.
Curso Cyber Cultura
ISO 23894: Gestão de Riscos de IA
Respondemos com datas, formato e investimento.
cyber@cyberconsulting.com.br