Kursplan

Introduktion till Cambricon och MLU Arkitektur

  • Översikt över Cambricons AI-chipportfölj
  • MLU arkitektur och instruktionspipelines
  • Stödja modelltyp och användningsfall

Installation av Utvecklingsverktygskedjan

  • Installation av BANGPy och Neuware SDK
  • Miljöinställning för Python och C++
  • Modellkompatibilitet och förbehandling

Modellutveckling med BANGPy

  • Tensorstruktur och formhantering
  • Konstruktion av beräkningsgraf
  • Stöd för anpassade operationer i BANGPy

Distribution med Neuware Runtime

  • Omvandling och laddning av modeller
  • Utförande och inferenskontroll
  • Praktiker för distributionsplatser och datacenter

Prestandaoptimering

  • Minnekartläggning och lagertuning
  • Utförandespårning och profilering
  • Vanliga flaskhalsar och lösningar

Integration av MLU i Program

  • Använda Neuware API för programintegrering
  • Streaming och stöd för flera modeller
  • Hybrid CPU-MLU-inferensscenarier

Från och med Projektet och Use Case

  • Labb: Distribuera en vision- eller NLP-modell
  • Kantinferens med BANGPy-integrering
  • Testa noggrannhet och genomströmning

Sammanfattning och Nästa Steg

Krav

  • Förståelse för maskinlärningsmodellstrukturer
  • Erfarenhet av Python och/eller C++
  • Kännedom om modelldistribution och accelerationskoncept

Målgrupp

  • Utvecklare av inbyggd AI
  • ML-ingenjörer som distribuerar till kant eller datacenter
  • Utvecklare som arbetar med kinesisk AI-infrastruktur
 21 timmar

Antal deltagare


Price per participant

Upcoming Courses

Relaterade Kategorier