Skapa anpassade AI-operatörer med CANN TIK och TVM Träningskurs

Introduktion till utveckling av anpassade operatörer

• Varför bygga anpassade operatörer? Fallstudier och begränsningar
• Struktur för CANNs körningstid och integrationspunkter för operatörer
• Översikt över TBE, TIK och TVM i Huaweis AI-ekosystem

Att använda TIK för lågnivåprogrammering av operatörer

• Förstå TIK:s programmeringsmodell och stödda API:er
• Minneshantering och kakan-strategi i TIK
• Att skapa, kompilera och registrera en anpassad operatör med CANN

Testa och validera anpassade operatörer

• Enhetstestning och integrationstestning av operatörer i grafen
• Felsökning av prestandaproblem på kernel-nivå
• Visualisering av operatörexekvering och buffertbeteende

TVM-baserad inplanering och optimering

• Översikt över TVM som kompilator för tensoroperatörer
• Att skriva en inplanering för en anpassad operatör i TVM
• TVM-inställning, prestandatester och kodsgenerering för Ascend

Integration med ramverk och modeller

• Registrering av anpassade operatörer för MindSpore och ONNX
• Verifiering av modellintegritet och fallback-beteende
• Stöd för grafer med flera operatörer med blandad precision

Fallstudier och specialiserade optimeringar

• Fallstudie: Högpresterande konvolvering för små indataformat
• Fallstudie: Minnesmedveten optimering av attention-operatörer
• Bästa praxis vid distribution av anpassade operatörer över enheter

Sammanfattning och nästa steg