Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de Amenaza para la IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalada de privilegios, filtración de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades del atacante específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos críticos de control para los agentes.
Gobernanza, Políticas y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y audibilidad.
- Consideraciones de cumplimiento y recolección de evidencia para auditorías.
Identidad no Humana y Autenticación para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT (JSON Web Tokens) y credenciales de corta duración.
- Patrones de acceso de privilegio mínimo y concesión de credenciales justo a tiempo.
- Estrategias de ciclo de vida, rotación, delegación y revocación de identidades.
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso detallado y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles y datos personales (PII) contra el acceso no autorizado por parte de agentes.
Observabilidad, Auditoría y Respuesta a Incidentes
- Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alerta y preparación forense.
- Manuales de ejecución y planes de acción para incidentes relacionados con agentes y su contención.
Pruebas de Penetración (Red-Teaming) de Sistemas Agénticos
- Planificación de ejercicios de red-team: alcance, reglas de compromiso y failover seguro.
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del pensamiento encadenado y abuso de APIs.
- Conducta de ataques controlados y medición de exposición e impacto.
endurecimiento (Hardening) y Mitigaciones
- Controles de ingeniería: límites de respuesta, bloqueo de capacidades y aislamiento en sandbox.
- Controles de gobernanza y orquestación: flujos de aprobación, intervención humana y puntos de enganche para la gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonicización y filtros de salida.
Operacionalización de Despliegues Seguros de Agentes
- Patrones de implementación: entornos de prueba, despliegue canario y rollout progresivo para agentes.
- Control de cambios, tuberías de pruebas y verificaciones de seguridad previas al despliegue.
- Gobernanza multifuncional: manuales de acción para seguridad, legal, producto e operaciones.
Proyecto Final: Ejercicio Red-Team / Blue-Team
- Ejecutar un ataque simulado de red-team contra un entorno de agente en sandbox.
- Defender, detectar y remediar como equipo azul utilizando controles y telemetría.
- Presentar hallazgos, plan de remediación y actualizaciones de políticas.
Resumen y Próximos Pasos
Requerimientos
- Sólida experiencia en ingeniería de seguridad, administración de sistemas o operaciones en la nube.
- Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM).
- Experiencia con gestión de identidades y accesos (IAM) y diseño seguro de sistemas.
Audiencia Objetivo
- Ingenieros de seguridad y especialistas en pruebas de penetración (red-teamers).
- Ingenieros de operaciones de IA y plataformas.
- Oficiales de cumplimiento y gestores de riesgos.
- Líderes de ingeniería responsables de los despliegues de agentes.
21 Horas