Desarrollo de operadores de IA personalizados con CANN TIK y TVM

Introducción al Desarrollo de Operadores Personalizados

• ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
• Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
• Resumen de TBE, TIK y TVM en el ecosistema de IA de Huawei.

Uso de TIK para Programación de Operadores de Bajo Nivel

• Comprensión del modelo de programación TIK y las API soportadas.
• Gestión de memoria y estrategia de particionado (tiling) en TIK.
• Creación, compilación y registro de un operador personalizado con CANN.

Pruebas y Validación de Operadores Personalizados

• Pruebas unitarias e integración de operadores en el grafo.
• Depuración de problemas de rendimiento a nivel de kernel.
• Visualización de la ejecución de operadores y el comportamiento de buffers.

Programación y Optimización Basada en TVM

• Resumen de TVM como compilador para operaciones de tensores.
• Escritura de una programación (schedule) para un operador personalizado en TVM.
• Ajuste (tuning), benchmarking y generación de código de TVM para Ascend.

Integración con Marcos de Trabajo y Modelos

• Registro de operadores personalizados para MindSpore y ONNX.
• Verificación de la integridad del modelo y comportamiento de reemplazo (fallback).
• Soporte de grafos multiparadores con precisión mixta.

Estudios de Caso y Optimizaciones Especializadas

• Caso de estudio: convolución de alta eficiencia para formas de entrada pequeñas.
• Caso de estudio: optimización del operador de atención consciente de la memoria.
• Mejores prácticas en la implementación de operadores personalizados en varios dispositivos.

Resumen y Próximos Pasos