Contacta con nosotros

Temario del curso

Introducción al Desarrollo de Operadores Personalizados

  • ¿Por qué construir operadores personalizados? Casos de uso y restricciones
  • Estructura del tiempo de ejecución de CANN y puntos de integración de operadores
  • Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei

Uso de TIK para la Programación de Operadores a Bajo Nivel

  • Comprensión del modelo de programación TIK y las API compatibles
  • Gestión de memoria y estrategia de fragmentación (tiling) en TIK
  • Creación, compilación y registro de un operador personalizado con CANN

Pruebas y Validación de Operadores Personalizados

  • Pruebas unitarias e integración de operadores en el grafo
  • Depuración de problemas de rendimiento a nivel de kernel
  • Visualización de la ejecución del operador y el comportamiento de los búferes

Planificación y Optimización Basada en TVM

  • Descripción general de TVM como un compilador para operadores tensoriales
  • Escritura de una planificación (schedule) para un operador personalizado en TVM
  • Ajuste, evaluación comparativa y generación de código en TVM para Ascend

Integración con Marcos de Trabajo y Modelos

  • Registro de operadores personalizados para MindSpore y ONNX
  • Verificación de la integridad del modelo y comportamiento de recuperación (fallback)
  • Soporte para grafos multi-operador con precisión mixta

Estudios de Caso y Optimizaciones Especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
  • Estudio de caso: optimización de operadores de atención conscientes del uso de memoria
  • Mejores prácticas en el despliegue de operadores personalizados entre dispositivos

Resumen y Próximos Pasos

Requerimientos

  • Conocimientos sólidos del funcionamiento interno de modelos de IA y el cómputo a nivel de operador
  • Experiencia con entornos de desarrollo en Python y Linux
  • Familiaridad con compiladores de redes neuronales o optimizadores a nivel de grafo

Público Objetivo

  • Ingenieros de compilación que trabajan en herramientas de IA
  • Desarrolladores de sistemas enfocados en la optimización de bajo nivel para IA
  • Desarrolladores que crean operadores personalizados o se dirigen a cargas de trabajo de IA novedosas
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas