Ajuste fino de modelos y modelos de lenguaje grandes (LLMs)

Introducción al ajuste fino

• ¿Qué es el ajuste fino?
• Usos y beneficios del ajuste fino.
• Visión general de los modelos preentrenados y el aprendizaje por transferencia.

Preparación para el ajuste fino

• Colección y limpieza de conjuntos de datos.
• Comprensión de los requisitos de datos específicos para la tarea.
• Análisis exploratorio de datos y preprocesamiento.

Técnicas de ajuste fino

• Aprendizaje por transferencia y extracción de características.
• Ajuste fino de transformadores con Hugging Face.
• Ajuste fino para tareas supervisadas frente a no supervisadas.

Ajuste fino de grandes modelos de lenguaje (LLMs)

• Adaptación de LLMs para tareas de PNL (por ejemplo, clasificación de texto, resumen).
• Entrenamiento de LLMs con conjuntos de datos personalizados.
• Control del comportamiento de los LLMs mediante ingeniería de prompts.

Optimización y evaluación

• Ajuste de hiperparámetros.
• Evaluación del rendimiento del modelo.
• Abordar el sobreajuste y el subajuste.

Escalado de los esfuerzos de ajuste fino

• Ajuste fino en sistemas distribuidos.
• Aprovechamiento de soluciones basadas en la nube para la escalabilidad.
• Estudios de caso: proyectos de ajuste a gran escala.

Mejores prácticas y desafíos

• Mejores prácticas para el éxito del ajuste fino.
• Desafíos comunes y solución de problemas.
• Consideraciones éticas en el ajuste fino de modelos de IA.

Tópicos avanzados (opcional)

• Ajuste fino de modelos multimodales.
• Aprendizaje zero-shot y few-shot.
• Exploración de técnicas LoRA (Adaptación de bajo rango).

Resumen y próximos pasos