Implementering AI-modeller med CANN och Ascend AI-processorer Träningskurs

Introduktion till CANN och Ascend AI-processorer

• Vad är CANN? Dess roll i Huawei:s AI-bearbetningsstack.
• Översikt över Ascend processorns arkitektur (310, 910 m.fl.).
• Översikt över supportade AI-frameworks och verktygskedjor.

Modellkonvertering och kompilering

• Användning av ATC-verktyget för modellkonvertering (TensorFlow, PyTorch, ONNX).
• Skapande och validering av OM-modellfiler.
• Hantering av ej supportade operatorer och vanliga konverteringsproblem.

Implementering med MindSpore och andra frameworks

• Implementering av modeller med MindSpore Lite.
• Integration av OM-modeller med Python-API:er eller C++ SDK:er.
• Arbete med Ascend Model Manager.

Prestandaoptimering och profileringsanalys

• Förståelse för AI Core, minne och tiling-optimeringar.
• Profileringsanalys av modell-exekvering med CANN-verktyg.
• Bästa praxis för att förbättra inferenshastighet och resursanvändning.

Felhantering och felsökning

• Vanliga implementeringsfel och deras lösning.
• Läsning av loggar och användning av felsökningsverktyg.
• Enhetstestning och funktionell validering av implementerade modeller.

Scenarier för implementering i kanten och molnet

• Implementering på Ascend 310 för kant-tillämpningar.
• Integration med molnbaserade API:er och mikrotjänster.
• Realtidsfallstudier inom datorsyn och NLP.

Sammanfattning och nästa steg