Temario
Módulo 1: Superficie de ataque de un agente de IA
- Por qué un agente autónomo amplía la superficie de ataque respecto de una aplicación tradicional
- El modelo de amenazas propio de los sistemas agénticos: herramientas, memoria y datos externos
- Confusión entre instrucciones y datos: la raíz del problema
- Casos reales de agentes manipulados y sus consecuencias
- Práctica: levantar el modelo de amenazas de un agente concreto
Módulo 2: Inyección de prompts
- Inyección directa e indirecta: cómo entra la instrucción maliciosa
- El principio 'el correo es dato, nunca canal de control'
- Contenido no confiable en documentos, páginas web, mensajes y resultados de herramientas
- Exfiltración de datos y encadenamiento de acciones a partir de una inyección
- Práctica: reproducir un ataque de inyección y detectar dónde falló el diseño
Módulo 3: Controles de contención
- Listas blancas de herramientas: qué puede y qué no puede invocar un agente
- Gates duros: acciones que exigen aprobación y no admiten excepción
- Principio de menor privilegio aplicado a las capacidades del agente
- Separación entre el canal de datos y el canal de control
- Práctica: endurecer un agente vulnerable con controles en capas
Módulo 4: Gobernanza y marco normativo
- De la práctica a la norma: cómo ISO/IEC 42001 y 27001 se atan a estos controles
- Gestión del sistema de IA y controles de seguridad de la información
- Evidencia y trazabilidad para auditoría
- Roles y responsabilidades en la operación de agentes
- Monitoreo y respuesta ante incidentes propios de sistemas agénticos
Módulo 5: Aceptación de riesgo y decisión
- Cuándo un riesgo residual es aceptable y quién lo acepta
- Documentar la decisión de riesgo de forma defendible
- Requisitos particulares de banca y sectores regulados
- Comunicar el riesgo a dirección sin traducir mal lo técnico
- Entregable: matriz de riesgos y controles para un agente en operación
Un agente de IA con acceso a herramientas y a datos externos es, para un atacante, una nueva puerta de entrada. La inyección de prompts convierte contenido aparentemente inofensivo (un correo, una página web, un documento) en instrucciones que el agente obedece. Este curso enseña a cerrar esa puerta con controles concretos y con un principio simple y exigente: el correo es dato, nunca canal de control.
El programa combina la práctica de seguridad con la gobernanza normativa, que es justo lo que exige un despliegue serio: adopta la IA sin ceder el control. Aprende a contener a un agente con listas blancas de herramientas, gates duros y separación entre datos e instrucciones, y a documentar la aceptación de riesgo de forma que resista una auditoría. Como complemento de ISO/IEC 42001 y 27001, traduce ambos marcos a controles verificables, un requisito cada vez más presente en banca y en cualquier sector regulado.
Preguntas frecuentes
¿A quién está dirigido?
A responsables de seguridad de la información, oficiales de cumplimiento, arquitectos y líderes técnicos que operen o vayan a operar agentes de IA, especialmente en banca y sectores regulados.
¿Necesito conocimientos previos?
Conviene comprensión básica de cómo funcionan los agentes de IA y nociones de seguridad de la información. No se requiere ser especialista en ofensiva: el curso construye el modelo de amenazas desde la base.
¿Qué me llevo al terminar?
El criterio y los controles para desplegar agentes de IA sin exponer a la organización, junto con una matriz de riesgos y controles y la capacidad de atar la práctica a ISO/IEC 42001 y 27001.
¿Cuánto dura y cómo se imparte?
Son 16 horas repartidas en 4 sesiones de 4 horas, 100% virtuales en vivo, con prácticas de ataque y contención que culminan en la matriz de riesgos y controles.