ML Security and AI Red Teaming
AI systems introduce novel attack surfaces: prompt injection, data poisoning, model extraction, adversarial inputs, and supply chain compromises. Traditional application security is necessary but insufficient. ML security requires understanding both classic vulnerability classes and AI-specific threats including the OWASP Top 10 for LLM Applications.
This instructor-led, live training (online or onsite) is aimed at security and ML engineers who need to identify, test, and defend against attacks on ML models and LLM-powered applications.
By the end of this training, participants will be able to:
- Threat-model AI systems across the ML lifecycle from training to inference.
- Execute red-team exercises against LLM applications including prompt injection and jailbreak attempts.
- Detect and defend against data poisoning, model extraction, and membership inference attacks.
- Apply the OWASP Top 10 for LLM Applications to real-world deployments.
- Implement input validation, output filtering, and guardrail strategies.
- Conduct supply chain security assessments for model artifacts and dependencies.
- Build an AI security testing playbook for continuous validation.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training, please contact us to arrange.
Temario del curso
The AI Threat Landscape
- Why AI security is different: non-determinism, opaque reasoning, prompt as attack surface
- Attack taxonomy: training-time vs inference-time vs supply chain attacks
- The ML adversary model: who attacks AI systems and why
OWASP Top 10 for LLM Applications
- Prompt injection: direct and indirect attack vectors
- Insecure output handling and cross-plugin request forgery
- Training data poisoning and supply chain vulnerabilities
- Model denial of service, sensitive information disclosure, and excessive agency
- Hands-on lab: exploiting each OWASP category against a test application
Prompt Injection and Jailbreak Red Teaming
- Taxonomy of injection techniques: direct, indirect, multi-turn, and multi-modal
- Automated red-teaming with Giskard, Garak, and custom fuzzing tools
- Jailbreak classification and defense evaluation
- Building a red-team harness for continuous LLM security testing
Model-Level Attacks and Defenses
- Model extraction: stealing model weights and functionality via API queries
- Membership inference: determining if data was in the training set
- Adversarial examples: perturbations that fool classifiers and embeddings
- Data poisoning: corrupting training data to induce backdoors or degrade performance
Input and Output Security Controls
- Input sanitization beyond traditional web defenses
- Output filtering: toxicity, PII leakage, hallucinated code execution
- Guardrails as security infrastructure: NeMo, Guardrails AI, and custom policies
- Structured output enforcement as a security boundary
AI Supply Chain Security
- Model provenance: verifying model authenticity and integrity
- Dependency scanning for ML frameworks and model formats
- Secure model serving: sandboxing, network isolation, and least-privilege access
- Vetting fine-tuned and community models for embedded malware
Operational Security for AI Systems
- Access control for model endpoints, vector stores, and agent tools
- Audit logging for every model interaction and decision
- Incident response for AI-specific breaches: when the model itself is compromised
- Continuous security testing in CI/CD for ML pipelines
Building an AI Security Program
- AI security maturity model and roadmap
- Integrating AI security into existing AppSec and cloud security programs
- Governance frameworks and emerging regulations for AI systems
- Creating and maintaining an organizational AI security playbook
Requerimientos
- Experience deploying ML models or LLM applications in production.
- Familiarity with security concepts including authentication, authorization, and threat modeling.
- Python proficiency for adversarial testing exercises.
Audience
- Security engineers expanding into AI/ML threat surfaces.
- ML engineers responsible for model safety and robustness.
- Red team members adding AI systems to their testing scope.
Los cursos públicos requieren más de 5 participantes.
ML Security and AI Red Teaming - Reserva
ML Security and AI Red Teaming - Consulta
ML Security and AI Red Teaming - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
AAISM de ISACA: Especialización en Gestión de Seguridad de IA
21 HorasAAISM es un marco avanzado diseñado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.
Esta capacitación presencial dirigida por instructores (en línea o in situ) está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobierno en entornos empresariales de IA.
Al finalizar este programa, los participantes estarán preparados para:
- Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
- Implementar modelos de gobernanza para el despliegue responsable de la IA.
- Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
- Mejorar la resiliencia y la responsabilidad dentro de las operaciones impulsadas por IA.
Formato del curso
- Clases facilitadas respaldadas por análisis expertos.
- Talleres prácticos y actividades basadas en evaluaciones.
- Ejercicios aplicados que utilizan escenarios reales de gobernanza de IA.
Opciones de personalización del curso
- Para capacitación personalizada alineada con la estrategia de IA de su organización, contáctenos para adaptar el curso.
Gobernanza, cumplimiento y seguridad de la IA para líderes empresariales
14 HorasEsta formación en vivo dirigida por instructores en Guatemala (en línea o presencial) está orientada a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar los sistemas de IA de manera responsable y conforme a los marcos globales emergentes, como la Ley de IA de la UE, el RGPD, ISO/IEC 42001 y la Orden Ejecutiva de EE.UU. sobre IA.
Al finalizar esta formación, los participantes podrán:
- Comprender los riesgos legales, éticos y normativos del uso de la IA en diferentes departamentos.
- Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
- Establecer políticas de seguridad, auditoría y supervisión para el despliegue de la IA en la empresa.
- Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e in-house.
AI-Driven Observability: From Logs to LLM-Powered Insights
14 HorasThis instructor-led, live training in Guatemala (online or onsite) is aimed at observability and SRE engineers who want to integrate LLMs and AI into their monitoring, alerting, and incident analysis workflows.
AIOps en Acción: Predicción de Incidentes y Automatización de la Causa Raíz
14 HorasEl AIOps (Inteligencia Artificial para Operaciones de TI) se está utilizando cada vez más para predecir incidentes antes de que ocurran y automatizar el análisis de la causa raíz (RCA) con el fin de minimizar el tiempo de inactividad y acelerar la resolución.
Esta formación en vivo con instructor (en línea o presencial) está dirigida a profesionales avanzados de TI que desean implementar análisis predictivo, automatizar la remediación y diseñar flujos de trabajo inteligentes para RCA utilizando herramientas de AIOps y modelos de aprendizaje automático.
Al finalizar esta formación, los participantes serán capaces de:
- Construir y entrenar modelos de aprendizaje automático (ML) para detectar patrones que llevan a fallas del sistema.
- Automatizar flujos de trabajo de RCA basados en la correlación de registros y métricas multi fuente.
- Integrar procesos de alertas y remediación en plataformas existentes.
- Implementar y escalar pipelines inteligentes de AIOps en entornos de producción.
Formato del Curso
- Conferencia interactiva y debate.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
Fundamentos de AIOps: Monitoreo, correlación y alertado inteligente
14 HorasAIOps (Inteligencia Artificial para Operaciones de TI) es una práctica que aplica aprendizaje automático y análisis para automatizar y mejorar las operaciones de TI, particularmente en áreas como el monitoreo, la detección de incidentes y la respuesta.
Esta capacitación en vivo con instructor (en línea o presencial) está dirigida a profesionales de operaciones de TI de nivel intermedio que desean implementar técnicas de AIOps para correlacionar métricas y registros, reducir el ruido de alertas y mejorar la observabilidad mediante automatización inteligente.
Al finalizar esta capacitación, los participantes serán capaces de:
- Comprender los principios y la arquitectura de las plataformas AIOps.
- Correlacionar datos entre registros, métricas y trazas para identificar causas raíz.
- Reducir la fatiga de alertas mediante filtrado inteligente y supresión de ruido.
- Utilizar herramientas de código abierto o comerciales para monitorear y responder a incidentes automáticamente.
Formato del curso
- Clase interactiva y discusión.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.
Construcción de una pipeline de AIOps con herramientas de código abierto
14 HorasUna pipeline de AIOps construida completamente con herramientas de código abierto permite a los equipos diseñar soluciones flexibles y rentables para la observabilidad, detección de anomalías y alertas inteligentes en entornos de producción.
Esta capacitación en vivo y guiada por un instructor (en línea o presencial) está dirigida a ingenieros de nivel avanzado que deseen construir e implementar una pipeline completa de AIOps utilizando herramientas como Prometheus, ELK, Grafana y modelos personalizados de aprendizaje automático.
Al finalizar esta capacitación, los participantes podrán:
- Diseñar una arquitectura de AIOps utilizando exclusivamente componentes de código abierto.
- Recolectar y normalizar datos provenientes de registros (logs), métricas y rastros (traces).
- Aplicar modelos de aprendizaje automático para detectar anomalías y predecir incidentes.
- Automatizar las alertas y las acciones de remediación mediante herramientas de código abierto.
Formato del curso
- Clase interactiva y sesiones de discusión.
- Numerosos ejercicios y actividades prácticas.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar los detalles.
Gestión de Riesgos y Seguridad de la IA en el Sector Público
7 HorasLa inteligencia artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a la ciberseguridad para las agencias y departamentos gubernamentales.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con poca experiencia previa en IA que deseen comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.
Al final de esta capacitación, los participantes podrán:
- Interpretar conceptos clave de riesgos relacionados con los sistemas de IA, incluido el sesgo, la imprevisibilidad y la deriva del modelo.
- Aplicar marcos de gobernanza y auditoría específicos para la IA, como NIST AI RMF e ISO/IEC 42001.
- Reconocer amenazas de ciberseguridad dirigidas a modelos de IA y cadenas de suministro de datos.
- Establecer planes de gestión de riesgos interdepartamentales y alineación de políticas para el despliegue de IA.
Formato del curso
- Conferencias interactivas y discusión de casos de uso del sector público.
- Ejercicios de marco de gobernanza de IA y mapeo de políticas.
- Modelado de amenazas basado en escenarios y evaluación de riesgos.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, póngase en contacto con nosotros para coordinarlo.
Seguridad de IA para equipos de seguridad
35 HorasEste curso ofrece una introducción práctica para asegurar aplicaciones modernas impulsadas por IA, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo difiere la seguridad de IA de la seguridad web tradicional, exploran amenazas comunes específicas de IA como la inyección de prompts, el envenenamiento de RAG y el abuso de agentes, y comprenden cómo proteger sistemas de IA utilizando defensas en capas que incluyen WAFs, gateways de IA, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de IA, asegurar aplicaciones basadas en LLM y desplegar defensas efectivas en tiempo de ejecución para entornos de producción.
Introducción a la gestión de confianza, riesgo y seguridad en IA (AI TRiSM)
21 HorasEsta formación en vivo con instructor en Guatemala (en línea o presencial) está dirigida a profesionales de TI de nivel principiante a intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.
Al finalizar esta formación, los participantes podrán:
- Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
- Identificar y mitigar los riesgos asociados con los sistemas de IA.
- Implementar las mejores prácticas de seguridad para IA.
- Comprender el cumplimiento normativo y las consideraciones éticas aplicables a la IA.
- Desarrollar estrategias para una gobernanza y gestión efectivas de la IA.
Autonomous Operations with AI Agents
14 HorasThis instructor-led, live training in Guatemala (online or onsite) is aimed at SRE and DevOps engineers who want to design, build, and safely deploy AI agents for autonomous IT operations.
Desarrollo de aplicaciones LLM seguras y responsables
14 HorasEsta formación en vivo impartida por un instructor en Guatemala (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de productos de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de comandos (prompt injection), fugas de datos y salidas no filtradas, mientras incorporan controles de seguridad como la validación de entradas, supervisión humana en el proceso (human-in-the-loop) y barreras de protección en las salidas.
Al finalizar esta formación, los participantes podrán:
- Comprender las vulnerabilidades fundamentales de los sistemas basados en LLM.
- Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
- Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
- Integrar técnicas como el aislamiento (sandboxing), pruebas de penetración por equipos rojos (red teaming) y revisión humana en el proceso dentro de canalizaciones listas para producción.
Construcción de Aplicaciones de IA Seguras
21 HorasEste curso enseña a los desarrolladores de software cómo construir aplicaciones impulsadas por IA de manera segura desde el diseño. Los participantes aprenden a proteger chatbots, copilotos, pipelines de RAG y agentes de IA contra amenazas específicas de la IA, como inyección de indicaciones, envenenamiento de datos, abuso de herramientas, filtración de secretos y manejo inseguro de la salida del modelo. El curso cubre el diseño seguro de indicaciones, seguridad de RAG, acceso de privilegio mínimo, barreras de seguridad (guardrails) y pruebas de equipo rojo (red-team), ayudando a los desarrolladores a crear funciones de IA que sean seguras, confiables y resilientes en entornos del mundo real.
AIOps empresarial con Splunk, Moogsoft y Dynatrace
14 HorasLas plataformas de AIOps empresariales como Splunk, Moogsoft y Dynatrace ofrecen capacidades potentes para detectar anomalías, correlacionar alertas y automatizar respuestas en entornos de TI a gran escala.
Esta formación en vivo con instructor (en línea o presencial) está dirigida a equipos de TI empresarial de nivel intermedio que desean integrar herramientas de AIOps en su pila de observabilidad existente y en sus flujos de trabajo operativos.
Al final de esta formación, los participantes podrán:
- Configurar e integrar Splunk, Moogsoft y Dynatrace en una arquitectura de AIOps unificada.
- Correlacionar métricas, registros y eventos a través de sistemas distribuidos utilizando análisis impulsados por inteligencia artificial.
- Automatizar la detección de incidentes, su priorización y la respuesta con flujos de trabajo nativos y personalizados.
- Optimizar el rendimiento, reducir el MTTR (tiempo medio de resolución) y mejorar la eficiencia operativa a escala empresarial.
Formato del curso
- Conferencia interactiva y discusión.
- Numerosos ejercicios y prácticas.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarla.
Implementación de AIOps con Prometheus, Grafana y ML
14 HorasPrometheus y Grafana son herramientas ampliamente adoptadas para la observabilidad en infraestructuras modernas, mientras que el aprendizaje automático (machine learning) potencia estas herramientas con insights predictivos e inteligentes para automatizar las decisiones operativas.
Esta formación impartida por un instructor (en línea o presencial) está dirigida a profesionales de la observabilidad de nivel intermedio que deseen modernizar su infraestructura de monitoreo mediante la integración de prácticas de AIOps utilizando Prometheus, Grafana y técnicas de aprendizaje automático.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar Prometheus y Grafana para la observabilidad a través de sistemas y servicios.
- Recopilar, almacenar y visualizar datos de series temporales de alta calidad.
- Aplicar modelos de aprendizaje automático para la detección de anomalías y la predicción (forecasting).
- Construir reglas de alerta inteligentes basadas en insights predictivos.
Formato del curso
- Conferencia interactiva y discusión.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para organizarlo.
LLMOps: Production LLM Operations and Governance
14 HorasThis instructor-led, live training in Guatemala (online or onsite) is aimed at ML engineers and platform teams who need to build robust operational pipelines for LLM-powered applications at scale.
