Ponte en Contacto

Temario del curso

1. Introducción al Aprendizaje por Refuerzo Profundo

  • ¿Qué es el Aprendizaje por Refuerzo?
  • Diferencias entre Aprendizaje Supervisado, No Supervisado y por Refuerzo
  • Aplicaciones del DRL en 2025 (robótica, salud, finanzas, logística)
  • Comprensión del ciclo de interacción agente-entorno

2. Fundamentos del Aprendizaje por Refuerzo

  • Procesos de Decisión de Markov (MDP)
  • Estado, Acción, Recompensa, Política y funciones de Valor
  • Compromiso entre exploración y explotación
  • Métodos de Monte Carlo y aprendizaje por Diferencias Temporales (TD)

3. Implementación de Algoritmos Básicos de RL

  • Métodos tabulares: Programación Dinámica, Evaluación de Política e Iteración
  • Q-Learning y SARSA
  • Exploración epsilon-óptima y estrategias de decaimiento
  • Implementación de entornos de RL con OpenAI Gymnasium

4. Transición al Aprendizaje por Refuerzo Profundo

  • Limitaciones de los métodos tabulares
  • Uso de redes neuronales para aproximación de funciones
  • Arquitectura y flujo de trabajo de Deep Q-Network (DQN)
  • Reproceso de experiencia (Experience replay) y redes objetivo

5. Algoritmos Avanzados de DRL

  • Double DQN, Dueling DQN y Reproceso de Experiencia Prioritizado
  • Métodos de Gradiente de Política: algoritmo REINFORCE
  • Arquitecturas Actor-Crítico (A2C, A3C)
  • Optimización de Política Próxima (PPO)
  • Soft Actor-Critic (SAC)

6. Trabajo con Espacios de Acción Continuos

  • Desafíos en el control continuo
  • Uso de DDPG (Gradiente de Política Determinista Profundo)
  • Twin Delayed DDPG (TD3)

7. Herramientas y Marcos de Trabajo Prácticos

  • Uso de Stable-Baselines3 y Ray RLlib
  • Registro y monitoreo con TensorBoard
  • Ajuste de hiperparámetros para modelos de DRL

8. Ingeniería de Recompensas y Diseño de Entornos

  • Modelado de recompensas (Reward shaping) y equilibrio de penalizaciones
  • Conceptos de transferencia de aprendizaje simulador a real (Sim-to-real)
  • Creación de entornos personalizados en Gymnasium

9. Entornos Parcialmente Observables y Generalización

  • Manejo de información de estado incompleta (POMDPs)
  • Enfoques basados en memoria usando LSTMs y RNNs
  • Mejora de la robustez y la generalización del agente

10. Teoría de Juegos y Aprendizaje por Refuerzo Multi-Agente

  • Introducción a entornos multi-agente
  • Cooperación vs. competencia
  • Aplicaciones en entrenamiento adversarial y optimización de estrategias

11. Estudios de Caso y Aplicaciones en el Mundo Real

  • Simulaciones de conducción autónoma
  • Precios dinámicos y estrategias de trading financiero
  • Robótica y automatización industrial

12. Solución de Problemas y Optimización

  • Diagnóstico de entrenamientos inestables
  • Gestión de la escasez de recompensas y el sobreajuste (overfitting)
  • Escalado de modelos de DRL en GPU y sistemas distribuidos

13. Resumen y Próximos Pasos

  • Repaso de la arquitectura de DRL y algoritmos clave
  • Tendencias de la industria y direcciones de investigación (p. ej., RLHF, modelos híbridos)
  • Recursos adicionales y material de lectura

Requerimientos

  • Dominio de la programación en Python
  • Comprensión de Cálculo y Álgebra Lineal
  • Conocimientos básicos de Probabilidad y Estadística
  • Experiencia en la construcción de modelos de aprendizaje automático utilizando Python y NumPy o TensorFlow/PyTorch

Público Objetivo

  • Desarrolladores interesados en IA y sistemas inteligentes
  • Científicos de datos que exploran marcos de aprendizaje por refuerzo
  • Ingenieros de Aprendizaje Automático que trabajan con sistemas autónomos
 21 Horas

Número de participantes


Precio por participante

Reseñas (3)

Próximos cursos

Categorías Relacionadas