Temario del curso
Introducción a la inferencia de IA con Docker
- Comprensión de las cargas de trabajo de inferencia de IA
- Beneficios de la inferencia contenerizada
- Escenarios y restricciones de implementación
Construcción de contenedores de inferencia de IA
- Selección de imágenes base y marcos de trabajo
- Empaquetado de modelos preentrenados
- Estructuración del código de inferencia para ejecución en contenedores
Seguridad de servicios de IA contenerizados
- Minimización de la superficie de ataque del contenedor
- Gestión de secretos y archivos sensibles
- Estrategias seguras de redes y exposición de APIs
Técnicas de implementación portable
- Optimización de imágenes para portabilidad
- Garantía de entornos de tiempo de ejecución predecibles
- Gestión de dependencias entre plataformas
Implementación y prueba local
- Ejecución de servicios localmente con Docker
- Depuración de contenedores de inferencia
- Pruebas de rendimiento y fiabilidad
Despliegue en servidores y VMs en la nube
- Adaptación de contenedores para entornos remotos
- Configuración de acceso seguro a servidores
- Despliegue de APIs de inferencia en VMs de la nube
Uso de Docker Compose para sistemas de IA multiservicio
- Orquestación de la inferencia con componentes de apoyo
- Gestión de variables de entorno y configuraciones
- Escala de microservicios con Compose
Monitoreo y mantenimiento de servicios de inferencia de IA
- Enfoques de registro y observabilidad
- Detección de fallos en las tuberías de inferencia
- Actualización y versionado de modelos en producción
Resumen y próximos pasos
Requerimientos
- Comprensión de conceptos básicos de aprendizaje automático
- Experiencia con Python o desarrollo backend
- Conocimiento de conceptos fundamentales de contenedores
Público objetivo
- Desarrolladores
- Ingenieros backend
- Equipos que implementan servicios de IA
Reseñas (2)
Como mencioné anteriormente, para una persona como yo (sin experiencia), esto supuso una puerta de entrada para comprender las funciones y características de estos programas, herramientas y demás.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Traducción Automática
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática