Contacta con nosotros

Temario del curso

Fundamentos de una IA segura y justa

  • Conceptos clave: seguridad, sesgo, equidad, transparencia
  • Tipos de sesgo: del conjunto de datos, de representación, algorítmico
  • Visión general de los marcos regulatorios (Ley de IA de la UE, RGPD, etc.)

Sesgo en modelos ajustados

  • Cómo el ajuste puede introducir o amplificar el sesgo
  • Casos de estudio y fracasos del mundo real
  • Identificación de sesgos en conjuntos de datos y predicciones de modelos

Técnicas para la mitigación del sesgo

  • Estrategias a nivel de datos (rebalanceo, aumento de datos)
  • Estrategias durante el entrenamiento (regularización, desbiasamiento adversarial)
  • Estrategias post-procesamiento (filtrado de salida, calibración)

Seguridad y robustez del modelo

  • Detección de salidas no seguras o dañinas
  • Manejo de entradas adversariales
  • Pruebas con equipos rojos (red teaming) y pruebas de estrés en modelos ajustados

Auditoría y monitoreo de sistemas de IA

  • Métricas de evaluación de sesgo e equidad (por ejemplo, paridad demográfica)
  • Herramientas de explicabilidad y marcos de transparencia
  • Prácticas de monitoreo continuo y gobernanza

Kit de herramientas y práctica en vivo

  • Uso de bibliotecas de código abierto (por ejemplo, Fairlearn, Transformers, CheckList)
  • Práctica en vivo: detección y mitigación de sesgos en un modelo ajustado
  • Generación de salidas seguras mediante diseño de *prompts* y restricciones

Casos de uso empresarial y preparación para el cumplimiento

  • Mejores prácticas para integrar la seguridad en flujos de trabajo de LLM
  • Documentación y fichas de modelo para el cumplimiento normativo
  • Preparación para auditorías y revisiones externas

Resumen y próximos pasos

Requerimientos

  • Comprensión de modelos de aprendizaje automático y procesos de entrenamiento
  • Experiencia trabajando con ajustes (fine-tuning) y grandes modelos de lenguaje (LLM)
  • Familiaridad con Python y conceptos de procesamiento de lenguaje natural (NLP)

Público objetivo

  • Equipos de cumplimiento de IA
  • Ingenieros de aprendizaje automático
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas