Contacta con nosotros

Temario del curso

Despliegue de EXO sin conexión

  • Uso de EXO_OFFLINE para impedir el acceso a Internet durante la ejecución
  • Carga previa de modelos en EXO_MODELS_READ_ONLY_DIRS desde espejos internos confiables
  • Verificación de la integridad del peso del modelo con sumas de comprobación SHA-256 y tarjetas de modelo firmadas
  • Ejecución de EXO en redes completamente aisladas sin dependencias de HuggingFace

Control de acceso al panel de control y a la API

  • Instalación y configuración de proxies inversos (nginx, Caddy) con terminación TLS
  • Implementación de control de acceso basado en roles para el panel de control y la REST API de EXO
  • Uso de la bóveda de claves de macOS o pass en Linux para almacenar secretos para la autenticación de API
  • Restricción de los extremos administrativos a rangos específicos de direcciones IP de origen

Aislamiento del clúster y seguridad de red

  • Segmentación de clústeres de EXO con EXO_LIBP2P_NAMESPACE y VLAN
  • Configuración de firewalls de host (firewall de aplicaciones de macOS, iptables, nftables) para los puertos de EXO
  • Prevención del descubrimiento no autorizado de dispositivos e inyección de nodos maliciosos
  • Cifrado del tráfico libp2p entre nodos cuando no hay disponible RDMA

Gobernanza y procedencia de modelos

  • Creación de un registro interno de modelos con listas aprobadas y metadatos
  • Etiquetado y versionado de pesos cuantizados (4 bits, 8 bits) junto con los puntos de control fuente
  • Hacer cumplir que solo repositorios específicos de HuggingFace o artefactos internos se puedan cargar
  • Documentación de la procedencia del modelo, términos de licencia y políticas de uso aceptable

Registro de auditoría y cumplimiento

  • Configuración del reenvío de registros de EXO a registros de auditoría inmutables (SIEM, almacenamiento WORM)
  • Correlación de los registros de llamadas a la API con la identidad del usuario y la marca temporal
  • Captura de eventos de creación, eliminación y solicitud de inferencia de instancias de modelos
  • Generación periódica de informes de cumplimiento para auditores internos y externos

Modelado de amenazas y respuesta a incidentes

  • Identificación de amenazas: exfiltración de datos a través de salidas del modelo, inyección de indicaciones (prompt injection) y fugas por canales laterales
  • Implementación de tuberías de monitoreo de indicaciones y filtrado de contenido
  • Creación de manuales de respuesta a incidentes para escenarios de compromiso del clúster
  • Aislamiento de nodos afectados, preservación de registros forenses y reconstrucción de entornos limpios

Seguridad física y límites de hardware

  • Protección de los puertos Thunderbolt contra conexiones de cable RDMA no autorizadas
  • Uso de enclaves seguros y atestación de hardware Apple Silicon donde corresponda
  • Control del acceso físico a Macs agrupados y almacenamiento compartido
  • Documentación del ciclo de vida del hardware y procedimientos de baja

Consideraciones regulatorias

  • Mapeo de los despliegues de EXO a los requisitos de GDPR, HIPAA y SOC 2
  • Manejo de la residencia de datos manteniendo la inferencia en las instalaciones
  • Documentación de riesgos de la cadena de suministro del proveedor (MLX, EXO, pesos del modelo)
  • Preparación para marcos de gobernanza de IA como el artículo 53 de la Ley de IA de la UE

Requerimientos

  • Experiencia con EXO o otro entorno de ejecución de LLM local
  • Conocimiento de los permisos del sistema de archivos Unix y las listas de control de acceso (ACL) de red
  • Familiaridad con la gestión de certificados TLS/SSL y los conceptos básicos de cifrado

Audiencia objetivo

  • Ingenieros de seguridad
  • Oficiales de cumplimiento
  • Administradores de infraestructura de IA que manejan datos sensibles
 14 Horas

Número de participantes


Precio por participante

Reseñas (1)

Próximos cursos

Categorías Relacionadas