Kursplan

Introduktion till Huawei CloudMatrix

  • CloudMatrix ekosystem och distributionsflöde
  • Stödda modeller, format och distributionslägen
  • Typiska användningsområden och stödda kretsar

Förberedelse av modeller för distribution

  • Exportering av modeller från träningsverktyg (MindSpore, TensorFlow, PyTorch)
  • Användning av ATC (Ascend Tensor Compiler) för formatkonvertering
  • Statiska vs dynamiska formmodeller

Distribution till CloudMatrix

  • Skapande av tjänster och modellregistrering
  • Distribution av inferenstjänster via UI eller CLI
  • Routing, autentisering och åtkomstkontroll

Bearbetning av inferensförfrågningar

  • Batch- vs realtidsinferensflöden
  • Dataförberedelse och efterbehandlingspipelines
  • Anrop av CloudMatrix tjänster från externa appar

Övervakning och prestandajustering

  • Distributionsloggar och spårning av förfrågningar
  • Skalning av resurser och lastbalansering
  • Latensjustering och optimering av genomströmning

Integration med företagsverktyg

  • Anslutning av CloudMatrix till OBS och ModelArts
  • Användning av arbetsflöden och modellversionering
  • CI/CD för modelldistribution och återgång

Helhetsinferenspipeline

  • Distribution av en komplett bildklassificeringspipeline
  • Benchmarking och validering av noggrannhet
  • Simulering av återhämtning och systemvarningar

Sammanfattning och nästa steg

Krav

  • Förståelse för AI-modellträningsflöden
  • Erfarenhet av Python-baserade ML-ramverk
  • Grundläggande bekantskap med molntillämpningskoncept

Målgrupp

  • AI-ops-team
  • Maskininlärningsingenjörer
  • Molntillämpningsexperter som arbetar med Huaweis infrastruktur
 21 timmar

Antal deltagare


Price per participant

Vittnesmål (1)

Upcoming Courses

Relaterade Kategorier