Kom i kontakt

Kursplan

Introduktion till Huawei CloudMatrix

  • CloudMatrix-ökosystem och implementeringsflöde
  • Stödda modeller, format och implementeringslägen
  • Vanliga användningsfall och stödda chipmoduler

Förberedelse av modeller för implementering

  • Modellexport från träningstool (MindSpore, TensorFlow, PyTorch)
  • Användning av ATC (Ascend Tensor Compiler) för formatkonvertering
  • Statiska kontra dynamiska formmodeller

Implementering till CloudMatrix

  • Skapande av tjänster och registrerande av modeller
  • Implementering av slutinferenstjänster via UI eller CLI
  • Routing, autenticering och åtkomstkontroll

Tillhandahållande av slutinferensförfrågningar

  • Batch kontra realtidsflöden
  • Dataförbehandling och efterbehandlingsflöden
  • Anrop av CloudMatrix-tjänster från externa appar

Övervakning och prestandaoptimering

  • Implementeringsloggar och förfrågningsspårning
  • Resurs skalning och lastbalansering
  • Latensjustering och genomströmningsoptimering

Integration med företagstool

  • Koppling av CloudMatrix med OBS och ModelArts
  • Användning av arbetsflöden och modellversionering
  • CI/CD för modellimplementation och återgång

Genomgående slutinferensflöde

  • Implementering av en komplett bildklassificeringspipeline
  • Mätning och validering av noggrannhet
  • Simulering av failover och systemvarningar

Sammanfattning och nästa steg

Krav

  • Förståelse för flöden för träning av AI-modeller
  • Erfarenhet av ML-ramverk baserade på Python
  • Grundläggande kännedom om molnimplementeringskoncept

Målgrupp

  • AI Ops-team
  • Maskinläringsingenjörer
  • Specialister på molnimplementation som arbetar med Huawei-infrastruktur
 21 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (2)

Kommande Kurser

Relaterade Kategorier