Programa del Curso

Resumen de la Arquitectura y Superficie de Ataque de LLM

  • Cómo se construyen, implementan y acceden a los LLM mediante APIs
  • Componentes clave en las pilas de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, APIs)
  • Dónde y cómo surgen problemas de seguridad en el uso real

Inyección de Prompts y Ataques de Escape

  • Qué es la inyección de prompts y por qué es peligrosa
  • Casos directos e indirectos de inyección de prompts
  • Técnicas de escape para eludir filtros de seguridad
  • Estrategias de detección y mitigación

Fugas de Datos y Riesgos de Privacidad

  • Exposición accidental de datos a través de respuestas
  • Fugas de PII y mal uso de la memoria del modelo
  • Diseño de prompts conscientes de la privacidad y generación aumentada con recuperación (RAG)

Filtrado y Protección de Salida de LLM

  • Uso de Guardrails AI para el filtrado y validación del contenido
  • Definición de esquemas de salida y restricciones
  • Monitoreo y registro de salidas inseguras

Enfoques con Supervisión Humana en Bucle y Flujos de Trabajo

  • Dónde y cuándo introducir la supervisión humana
  • Colas de aprobación, umbrales de puntuación, manejo de respaldos
  • Calibración de confianza y rol de la explicabilidad

Aplicación Segura LLM Design Patterns

  • Mínimos privilegios y aislamiento para llamadas API y agentes
  • Límites de velocidad, limitación y detección de abuso
  • Cadenas robustas con LangChain y aislamiento de prompts

Compliance, Registro e Governance

  • Asegurar la auditoría de las salidas de LLM
  • Mantener trazabilidad y control de versión del prompt
  • Alinear con políticas internas de seguridad y necesidades regulatorias

Resumen y Próximos Pasos

Requerimientos

  • Una comprensión de los modelos de lenguaje grandes y las interfaces basadas en prompts
  • Experiencia en la construcción de aplicaciones LLM utilizando Python
  • Familiaridad con integraciones API y despliegues basados en la nube

Público objetivo

  • Desarrolladores de IA
  • Arquitectos de aplicaciones y soluciones
  • Gestores técnicos de productos que trabajan con herramientas LLM
 14 Horas

Número de participantes


Precio por Participante​

Próximos cursos

Categorías Relacionadas