Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Resumen de las capacidades de optimización de CANN
- Cómo se gestiona el rendimiento de la inferencia en CANN.
- Objetivos de optimización para sistemas de IA periféricos e integrados.
- Comprensión del uso de los núcleos de IA (AI Core) y la asignación de memoria.
Uso del Motor de Gráficos (Graph Engine) para análisis
- Introducción al Motor de Gráficos y su canal de ejecución.
- Visualización de gráficos de operadores y métricas de tiempo de ejecución.
- Modificación de gráficos computacionales para la optimización.
Herramientas de perfilado y métricas de rendimiento
- Uso de la herramienta de perfilado de CANN (profiler) para el análisis de cargas de trabajo.
- Análisis del tiempo de ejecución de núcleos y detección de cuellos de botella.
- Perfilado del acceso a memoria y estrategias de particionamiento (tiling).
Desarrollo de operadores personalizados con TIK
- Resumen de TIK y el modelo de programación de operadores.
- Implementación de un operador personalizado utilizando el DSL de TIK.
- Pruebas y evaluación comparativa del rendimiento del operador.
Optimización avanzada de operadores con TVM
- Introducción a la integración de TVM con CANN.
- Estrategias de autoajuste (auto-tuning) para gráficos computacionales.
- Cuándo y cómo alternar entre TVM y TIK.
Técnicas de optimización de memoria
- Gestión del diseño de memoria y la ubicación de búferes.
- Técnicas para reducir el consumo de memoria interna del chip.
- Mejores prácticas para la ejecución asíncrona y la reutilización.
Implementación en el mundo real y estudios de caso
- Estudio de caso: ajuste de rendimiento para el canal de cámaras de ciudad inteligente.
- Estudio de caso: optimización del conjunto de inferencia para vehículos autónomos.
- Pautas para el perfilado iterativo y la mejora continua.
Resumen y próximos pasos
Requerimientos
- Sólido conocimiento de las arquitecturas de modelos de aprendizaje profundo y los flujos de trabajo de entrenamiento.
- Experiencia con la implementación de modelos utilizando CANN, TensorFlow o PyTorch.
- Conocimiento del CLI de Linux, scripting de shell y programación en Python.
Público objetivo
- Ingenieros de rendimiento de IA.
- Especialistas en optimización de inferencia.
- Desarrolladores que trabajan con IA periférica (edge AI) o sistemas en tiempo real.
14 Horas
