Despliegue de modelos de IA con CANN y procesadores de IA Ascend

Introducción a CANN y los procesadores de IA Ascend

• ¿Qué es CANN? Su papel en la pila de computación de IA de Huawei
• Resumen de la arquitectura de los procesadores Ascend (310, 910, etc.)
• Resumen de los marcos de IA y la cadena de herramientas admitidos

Conversión y compilación de modelos

• Uso de la herramienta ATC para la conversión de modelos (TensorFlow, PyTorch, ONNX)
• Creación y validación de archivos de modelo OM
• Manejo de operadores no admitidos y problemas comunes de conversión

Despliegue con MindSpore y otros marcos de trabajo

• Despliegue de modelos con MindSpore Lite
• Integración de modelos OM con APIs de Python o SDKs de C++
• Trabajo con Ascend Model Manager

Optimización del rendimiento y análisis perfiles

• Comprensión de las optimizaciones de AI Core, memoria y teselado
• Perfilado de la ejecución de modelos con herramientas CANN
• Mejores prácticas para mejorar la velocidad de inferencia y el uso de recursos

Manejo de errores y depuración

• Errores comunes de despliegue y su resolución
• Lectura de registros y uso de la herramienta de diagnóstico de errores
• Pruebas de unidad y validación funcional de modelos desplegados

Escenarios de despliegue en el extremo y en la nube

• Despliegue en Ascend 310 para aplicaciones de extremo
• Integración con APIs basadas en la nube y microservicios
• Estudios de casos reales en visión por computadora y PLN

Resumen y próximos pasos