Introducción a la Seguridad y Gestión de Riesgos en IA

AAISM es un marco avanzado diseñado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta capacitación presencial dirigida por instructores (en línea o in situ) está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobierno en entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobernanza para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la responsabilidad dentro de las operaciones impulsadas por IA.

Formato del curso

• Clases facilitadas respaldadas por análisis expertos.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados que utilizan escenarios reales de gobernanza de IA.

Opciones de personalización del curso

• Para capacitación personalizada alineada con la estrategia de IA de su organización, contáctenos para adaptar el curso.

Esta formación en vivo dirigida por instructores en Guatemala (en línea o presencial) está orientada a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar los sistemas de IA de manera responsable y conforme a los marcos globales emergentes, como la Ley de IA de la UE, el RGPD, ISO/IEC 42001 y la Orden Ejecutiva de EE.UU. sobre IA.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos legales, éticos y normativos del uso de la IA en diferentes departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de la IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e in-house.

La inteligencia artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a la ciberseguridad para las agencias y departamentos gubernamentales.

Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con poca experiencia previa en IA que deseen comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al final de esta capacitación, los participantes podrán:

• Interpretar conceptos clave de riesgos relacionados con los sistemas de IA, incluido el sesgo, la imprevisibilidad y la deriva del modelo.
• Aplicar marcos de gobernanza y auditoría específicos para la IA, como NIST AI RMF e ISO/IEC 42001.
• Reconocer amenazas de ciberseguridad dirigidas a modelos de IA y cadenas de suministro de datos.
• Establecer planes de gestión de riesgos interdepartamentales y alineación de políticas para el despliegue de IA.

Formato del curso

• Conferencias interactivas y discusión de casos de uso del sector público.
• Ejercicios de marco de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de personalización del curso

• Para solicitar una capacitación personalizada para este curso, póngase en contacto con nosotros para coordinarlo.

Esta formación en vivo con instructor en Guatemala (en línea o presencial) está dirigida a profesionales de TI de nivel principiante a intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta formación, los participantes podrán:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
• Identificar y mitigar los riesgos asociados con los sistemas de IA.
• Implementar las mejores prácticas de seguridad para IA.
• Comprender el cumplimiento normativo y las consideraciones éticas aplicables a la IA.
• Desarrollar estrategias para una gobernanza y gestión efectivas de la IA.

Esta formación en vivo impartida por un instructor en Guatemala (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de productos de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de comandos (prompt injection), fugas de datos y salidas no filtradas, mientras incorporan controles de seguridad como la validación de entradas, supervisión humana en el proceso (human-in-the-loop) y barreras de protección en las salidas.

Al finalizar esta formación, los participantes podrán:

• Comprender las vulnerabilidades fundamentales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento (sandboxing), pruebas de penetración por equipos rojos (red teaming) y revisión humana en el proceso dentro de canalizaciones listas para producción.

Esta formación en vivo, impartida por un instructor en Guatemala (en línea o presencial), está dirigida a profesionales de nivel intermedio en IA y ciberseguridad que desean comprender y abordar las vulnerabilidades de seguridad específicas de los modelos y sistemas de IA, particularmente en industrias altamente reguladas como finanzas, gobernanza de datos y consultoría.

Al finalizar esta formación, los participantes podrán:

• Comprender los tipos de ataques adversarios dirigidos a los sistemas de IA y los métodos para defenderse contra ellos.
• Implementar técnicas de endurecimiento del modelo para garantizar la seguridad de los flujos de trabajo del aprendizaje automático.
• Asegurar la integridad y confidencialidad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento normativo relacionados con la seguridad de la IA.

Este curso presencial impartido por un instructor en Guatemala (en línea o en persona) está dirigido a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en las instalaciones.

Basado en las directrices más recientes del Proyecto de Seguridad de OWASP para IA Generativa, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo impartida por instructores en Guatemala (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como aprendizaje federado, computación segura multipartita, cifrado homomórfico y privacidad diferencial en pipelines de aprendizaje automático del mundo real.

Al final de esta formación, los participantes serán capaces de:

• Comprender y comparar las principales técnicas preservadoras de privacidad en el ML.
• Implementar sistemas de aprendizaje federado utilizando frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos y entrenar modelos de forma segura.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas del modelo.

Esta formación en vivo dirigida por un instructor en Guatemala (en línea o presencial) está orientada a profesionales de la seguridad de nivel avanzado y especialistas en ML que deseen simular ataques contra sistemas de IA, descubrir vulnerabilidades y mejorar la robustez de los modelos de IA implementados.

Al finalizar esta formación, los participantes serán capaces de:

• Simular amenazas del mundo real a modelos de aprendizaje automático.
• Generar ejemplos adversarios para probar la robustez del modelo.
• Evaluar la superficie de ataque de las APIs y pipelines de IA.
• Diseñar estrategias de red teaming para entornos de implementación de IA.

Esta formación presencial en vivo en Guatemala (en línea o in situ) está dirigida a ingenieros y profesionales de la seguridad de nivel intermedio que desean proteger los modelos de IA implementados en el borde contra amenazas como la manipulación, la filtración de datos, las entradas adversarias y los ataques físicos.

Al finalizar esta formación, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en las implementaciones de IA perimetral.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• endurecer los modelos implementados en el borde y asegurar los flujos de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y restringidos.

Esta formación en vivo impartida por un instructor en Guatemala (en línea o presencial) está dirigida a profesionales de nivel intermedio en aprendizaje automático y ciberseguridad que deseen comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como la Caja de Herramientas de Robustez Adversaria (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas, incluida la capacitación adversaria, la inyección de ruido y técnicas que preservan la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.

TinyML es un enfoque para implementar modelos de aprendizaje automático en dispositivos de bajo consumo y recursos limitados, que operan en el borde de la red.

Esta formación impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen asegurar los pipelines de TinyML e implementar técnicas preservadoras de la privacidad en aplicaciones de IA en el borde.

Al finalizar este curso, los participantes serán capaces de:

• Identificar riesgos de seguridad específicos de la inferencia TinyML en dispositivos.
• Implementar mecanismos preservadores de la privacidad para despliegues de IA en el borde.
• Fortificar los modelos TinyML y los sistemas embebidos frente a amenazas adversarias.
• Aplicar las mejores prácticas para el manejo seguro de datos en entornos con recursos limitados.

Formato del curso

• Conferencias dinámicas respaldadas por discusiones lideradas por expertos.
• Ejercicios prácticos que enfatizan escenarios de amenazas del mundo real.
• Implementación práctica utilizando herramientas de seguridad embebida y TinyML.

Opciones de personalización del curso

• Las organizaciones pueden solicitar una versión personalizada de esta formación para alinearse con sus necesidades específicas de seguridad y cumplimiento.

Este curso cubre la gobernanza, la gestión de identidades y las pruebas adversarias para sistemas de IA agéntica, centrándose en patrones de implementación seguros para empresas y técnicas prácticas de pruebas de penetración (red-teaming).

Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen diseñar, asegurar y evaluar sistemas de IA basados en agentes en entornos de producción.

Al finalizar esta capacitación, los participantes serán capaces de:

• Definir modelos de gobernanza y políticas para implementaciones seguras de IA agéntica.
• Diseñar flujos de identidad y autenticación para entidades no humanas, aplicando el principio de acceso mínimo a los agentes.
• Implementar controles de acceso, registros de auditoría y capacidad de observabilidad adaptados a agentes autónomos.
• Planificar y ejecutar ejercicios de pruebas de penetración para detectar usos indebidos, rutas de escalada de privilegios y riesgos de exfiltración de datos.
• Mitigar amenazas comunes a los sistemas agénticos mediante políticas, controles de ingeniería y monitoreo.

Formato del Curso

• Conferencias interactivas y talleres de modelado de amenazas.
• Laboratorios prácticos: aprovisionamiento de identidades, cumplimiento de políticas y simulación de adversarios.
• Ejercicios de equipo rojo (red-team) y equipo azul (blue-team), y evaluación final del curso.

Opciones de Personalización del Curso

• Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.