Curso Cyber Cultura
ISO 23894: Gestión de Riesgos de IA
Riesgos de IA en todo el ciclo de vida de los datos y los modelos.
Prepara al participante para establecer y operar un proceso de gestión de riesgos de IA, alineado con la ISO/IEC 23894 y con los principios de la ISO 31000, que cubre todo el ciclo de vida de los datos y los modelos.
- Carga horaria
- 5 horas
- Formato
- En línea o in company
- Inversión
- A consultar
Le respondemos con fechas, formato e inversión.
A quién está dirigido
- Gestores de riesgos que pasaron a responder por sistemas de IA.
- Equipos de datos e IA que necesitan documentar y tratar riesgos.
- Profesionales de compliance, privacidad y seguridad involucrados en proyectos de IA.
Lo que usted va a desarrollar
- Entender los principios y el marco de riesgo aplicados a sistemas de IA.
- Conducir la identificación, el análisis, la evaluación y el tratamiento de los riesgos de IA.
- Tratar riesgos sociotécnicos: sesgo, equidad, interpretabilidad, robustez, seguridad, privacidad y seguridad funcional.
- Definir métricas, umbrales, monitoreo y disparadores de revisión.
- Integrar el riesgo de IA con los cambios, los incidentes y los terceros.
Contenido programático
5 horas
01Fundamentos
- Principios de gestión de riesgos (ISO 31000) en el contexto de la IA
- Terminología de riesgo de IA: fuentes, eventos, impactos e incertidumbres
02Establecimiento del contexto
- Contexto organizacional, regulatorio y de uso
- Criterios de riesgo, apetito y tolerancia para la IA
- Alcance, límites e interfaces del sistema de IA
03Proceso de riesgo en el ciclo de vida
- Identificación: datos, modelos, pipelines, personas, proveedores y entorno operativo
- Análisis: probabilidad, impacto y severidad; dependencias y efectos en cascada
- Evaluación: criterios de aceptación y priorización
- Tratamiento: evitar, reducir, compartir o aceptar; salvaguardas técnicas y organizacionales
04Riesgos específicos de la IA
- Datos: calidad, representatividad, sesgo, privacidad y seguridad
- Modelo: sobreajuste (overfitting), drift, robustez frente a ataques (evasión y envenenamiento) e interpretabilidad
- Uso y contexto: error humano, automatización excesiva, supervisión y efectos sociales y éticos
- Seguridad y privacidad: ataques a modelos, inferencia de pertenencia y privacidad diferencial
05Medición y monitoreo
- Métricas de desempeño, robustez, equidad y explicabilidad
- Drift, monitoreo de datos y modelos, límites operativos y disparadores de acción
- Registro, trazabilidad y evidencias
06Comunicación y consulta
- Partes interesadas y transparencia proporcional al riesgo
- Artefactos: riesgo de IA por caso de uso, evaluación de impacto de IA (AIIA) cuando corresponda e informes ejecutivos
07Integraciones
- Relación con el AIMS (ISO/IEC 42001), la seguridad (27001), la privacidad (27701), la continuidad (22301) y el NIST AI RMF
- Riesgo en los cambios, los incidentes y los terceros
Lo que incluye el curso
- Plantillas de artefactos de riesgo de IA
Para su equipo
Este curso también se ofrece en formato in company, presencial o remoto, con un grupo cerrado para su empresa.
Curso Cyber Cultura
ISO 23894: Gestión de Riesgos de IA
Le respondemos con fechas, formato e inversión.
cyber@cyberconsulting.com.br