Contacta con nosotros

Temario del curso

Introducción al Desarrollo de Operadores Personalizados

  • ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
  • Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
  • Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei.

Uso de TIK para la Programación de Operadores a Bajo Nivel

  • Comprensión del modelo de programación TIK y las APIs soportadas.
  • Gestión de memoria y estrategia de fragmentación (tiling) en TIK.
  • Creación, compilación y registro de un operador personalizado con CANN.

Pruebas y Validación de Operadores Personalizados

  • Pruebas unitarias e integración de operadores en el gráfico.
  • Depuración de problemas de rendimiento a nivel de kernel.
  • Visualización de la ejecución del operador y el comportamiento de los búferes.

Planificación y Optimización Basada en TVM

  • Descripción general de TVM como compilador para operadores tensoriales.
  • Escritura de una planificación (schedule) para un operador personalizado en TVM.
  • Ajuste, medición comparativa (benchmarking) y generación de código en TVM para Ascend.

Integración con Frameworks y Modelos

  • Registro de operadores personalizados para MindSpore y ONNX.
  • Verificación de la integridad del modelo y comportamiento de respaldo (fallback).
  • Soporte para gráficos con múltiples operadores utilizando precisión mixta.

Estudios de Caso y Optimizaciones Especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
  • Estudio de caso: optimización de operadores de atención conscientes de la memoria.
  • Mejores prácticas en el despliegue de operadores personalizados en diversos dispositivos.

Resumen y Próximos Pasos

Requerimientos

  • Sólidos conocimientos sobre los aspectos internos de los modelos de IA y el cálculo a nivel de operador.
  • Experiencia con entornos de desarrollo en Python y Linux.
  • Conocimientos previos sobre compiladores de redes neuronales o optimizadores a nivel de gráfico.

Público Objetivo

  • Ingenieros de compiladores que trabajan con herramientas de IA (toolchains).
  • Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA.
  • Desarrolladores que construyen operadores personalizados o se dirigen a nuevas cargas de trabajo de IA.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas