Contacta con nosotros

Temario del curso

Fundamentos: Modelos de Amenaza para la IA Agéntica

  • Tipos de amenazas agénticas: uso indebido, escalada de privilegios, filtración de datos y riesgos en la cadena de suministro.
  • Perfiles de adversarios y capacidades del atacante específicas para agentes autónomos.
  • Mapeo de activos, límites de confianza y puntos críticos de control para los agentes.

Gobernanza, Políticas y Gestión de Riesgos

  • Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación).
  • Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y audibilidad.
  • Consideraciones de cumplimiento y recolección de evidencia para auditorías.

Identidad no Humana y Autenticación para Agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWT (JSON Web Tokens) y credenciales de corta duración.
  • Patrones de acceso de privilegio mínimo y concesión de credenciales justo a tiempo.
  • Estrategias de ciclo de vida, rotación, delegación y revocación de identidades.

Controles de Acceso, Secretos y Protección de Datos

  • Modelos de control de acceso detallado y patrones basados en capacidades para agentes.
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
  • Protección de fuentes de conocimiento sensibles y datos personales (PII) contra el acceso no autorizado por parte de agentes.

Observabilidad, Auditoría y Respuesta a Incidentes

  • Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia.
  • Integración con SIEM, umbrales de alerta y preparación forense.
  • Manuales de ejecución y planes de acción para incidentes relacionados con agentes y su contención.

Pruebas de Penetración (Red-Teaming) de Sistemas Agénticos

  • Planificación de ejercicios de red-team: alcance, reglas de compromiso y failover seguro.
  • Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del pensamiento encadenado y abuso de APIs.
  • Conducta de ataques controlados y medición de exposición e impacto.

endurecimiento (Hardening) y Mitigaciones

  • Controles de ingeniería: límites de respuesta, bloqueo de capacidades y aislamiento en sandbox.
  • Controles de gobernanza y orquestación: flujos de aprobación, intervención humana y puntos de enganche para la gobernanza.
  • Defensas a nivel de modelo y prompt: validación de entrada, canonicización y filtros de salida.

Operacionalización de Despliegues Seguros de Agentes

  • Patrones de implementación: entornos de prueba, despliegue canario y rollout progresivo para agentes.
  • Control de cambios, tuberías de pruebas y verificaciones de seguridad previas al despliegue.
  • Gobernanza multifuncional: manuales de acción para seguridad, legal, producto e operaciones.

Proyecto Final: Ejercicio Red-Team / Blue-Team

  • Ejecutar un ataque simulado de red-team contra un entorno de agente en sandbox.
  • Defender, detectar y remediar como equipo azul utilizando controles y telemetría.
  • Presentar hallazgos, plan de remediación y actualizaciones de políticas.

Resumen y Próximos Pasos

Requerimientos

  • Sólida experiencia en ingeniería de seguridad, administración de sistemas o operaciones en la nube.
  • Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM).
  • Experiencia con gestión de identidades y accesos (IAM) y diseño seguro de sistemas.

Audiencia Objetivo

  • Ingenieros de seguridad y especialistas en pruebas de penetración (red-teamers).
  • Ingenieros de operaciones de IA y plataformas.
  • Oficiales de cumplimiento y gestores de riesgos.
  • Líderes de ingeniería responsables de los despliegues de agentes.
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas