Kursplan

Introduktion till Huawei CloudMatrix

  • CloudMatrix ekosystem och distributionsflöde
  • Stödda modeller, format och distributionslägen
  • Typiska användningsfall och stödda chipsatser

Förberedelse av modeller för distribution

  • Modellexport från träningsverktyg (MindSpore, TensorFlow, PyTorch)
  • Användning av ATC (Ascend Tensor Compiler) för formatomvandling
  • Statiska vs dynamiska formmodeller

Distribution till CloudMatrix

  • Tjänsteskapande och modellregistrering
  • Distribution av inferenstjänster via UI eller CLI
  • Rutning, autentisering och åtkomstkontroll

Behandling av inferensförfrågningar

  • Batch vs realtidsinferensflöden
  • Dataförbehandling och efterbehandlingspipeliner
  • Anrop av CloudMatrix tjänster från externa appar

Övervakning och prestandjustering

  • Distributionsloggar och förfrågningsspårning
  • Resursskalning och belastningsutjämning
  • Latensjustering och genomströmsoptimering

Integration med företagsverktyg

  • Anslutning av CloudMatrix till OBS och ModelArts
  • Användning av arbetsflöden och modellversionering
  • CI/CD för modelldistribution och återställning

Slut-till-slut-inferenspipeline

  • Distribution av en komplett bildklassifikationspipeline
  • Benchmarking och validering av noggrannhet
  • Simulering av felsäkring och systemvarningar

Sammanfattning och nästa steg

Krav

  • Förståelse för AI-modellträningsflöden
  • Erfarenhet av Python-baserade ML-ramverk
  • Grundläggande kännedom om molnplaceringskoncept

Målgrupp

  • AI-ops-team
  • Maskininlärningsingenjörer
  • Specialister för molnplacering som arbetar med Huaweis infrastruktur
 21 timmar

Antal deltagare


Price per participant

Vittnesmål (1)

Upcoming Courses

Relaterade Kategorier