Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al Desarrollo de Operadores Personalizados
- ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
- Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
- Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei.
Uso de TIK para la Programación de Operadores a Bajo Nivel
- Comprensión del modelo de programación TIK y las APIs soportadas.
- Gestión de memoria y estrategia de fragmentación (tiling) en TIK.
- Creación, compilación y registro de un operador personalizado con CANN.
Pruebas y Validación de Operadores Personalizados
- Pruebas unitarias e integración de operadores en el gráfico.
- Depuración de problemas de rendimiento a nivel de kernel.
- Visualización de la ejecución del operador y el comportamiento de los búferes.
Planificación y Optimización Basada en TVM
- Descripción general de TVM como compilador para operadores tensoriales.
- Escritura de una planificación (schedule) para un operador personalizado en TVM.
- Ajuste, medición comparativa (benchmarking) y generación de código en TVM para Ascend.
Integración con Frameworks y Modelos
- Registro de operadores personalizados para MindSpore y ONNX.
- Verificación de la integridad del modelo y comportamiento de respaldo (fallback).
- Soporte para gráficos con múltiples operadores utilizando precisión mixta.
Estudios de Caso y Optimizaciones Especializadas
- Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
- Estudio de caso: optimización de operadores de atención conscientes de la memoria.
- Mejores prácticas en el despliegue de operadores personalizados en diversos dispositivos.
Resumen y Próximos Pasos
Requerimientos
- Sólidos conocimientos sobre los aspectos internos de los modelos de IA y el cálculo a nivel de operador.
- Experiencia con entornos de desarrollo en Python y Linux.
- Conocimientos previos sobre compiladores de redes neuronales o optimizadores a nivel de gráfico.
Público Objetivo
- Ingenieros de compiladores que trabajan con herramientas de IA (toolchains).
- Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA.
- Desarrolladores que construyen operadores personalizados o se dirigen a nuevas cargas de trabajo de IA.
14 Horas