Ponte en Contacto
 Duración 21 horas

Temario del curso

Introducción a Cambricon y la arquitectura MLU

  • Resumen del portafolio de chips de IA de Cambricon
  • Arquitectura de la MLU y pipeline de instrucciones
  • Tipos de modelos y casos de uso admitidos

Instalación de la cadena de herramientas de desarrollo

  • Instalación de BANGPy y el SDK Neuware
  • Configuración del entorno para Python y C++
  • Compatibilidad y preprocesamiento de modelos

Desarrollo de modelos con BANGPy

  • Estructura de tensores y gestión de formas
  • Construcción de grafos de cómputo
  • Soporte para operaciones personalizadas en BANGPy

Despliegue con el tiempo de ejecución Neuware

  • Conversión y carga de modelos
  • Control de ejecución e inferencia
  • Prácticas de despliegue en edge y datacenter

Optimización del rendimiento

  • Mapeo de memoria y ajuste de capas
  • Rastreo y perfilado de ejecución
  • Cuellos de botella comunes y soluciones

Integración de la MLU en aplicaciones

  • Uso de las API de Neuware para la integración de aplicaciones
  • Soporte para streaming y modelos múltiples
  • Escenarios de inferencia híbrida CPU-MLU

Proyecto integral y caso de uso

  • Práctica de laboratorio: Despliegue de un modelo de visión o NLP
  • Inferencia en edge con integración de BANGPy
  • Pruebas de precisión y tasa de transferencia

Resumen y próximos pasos

Requerimientos

  • Comprensión de las estructuras de modelos de aprendizaje automático
  • Experiencia con Python y/o C++
  • Conocimiento de los conceptos de despliegue y aceleración de modelos

Público objetivo

  • Desarrolladores de IA embebida
  • Ingenieros de ML que despliegan en edge o datacenter
  • Desarrolladores que trabajan con infraestructura de IA de China

Número de participantes


Precio por participante

Reseñas (1)

Próximos cursos

Categorías Relacionadas