Kom i kontakt
 Varaktighet 21 timmar

Kursplan

Introduktion till GPU-accelerad containerisering

  • Förståelse för GPU-användning i djupinlärningsflöden
  • Sådan hur Docker stöder GPU-baserade arbetsbelastningar
  • Viktiga prestandahänsyn

Installation och konfiguration av NVIDIA Container Toolkit

  • Uppställning av drivrutiner och CUDA-kompatibilitet
  • Verifiering av GPU-åtkomst inuti containers
  • Konfiguration av körbartidsmiljön

Bygg av GPU-aktiverade Docker-bilder

  • Användning av CUDA-basbilder
  • Packning av AI-ramverk i GPU-klara containers
  • Hantering av beroenden för träning och inferens

Körning av GPU-accelerade AI-arbetsbelastningar

  • Exekvering av träningssysslor med hjälp av GPU:er
  • Hantering av arbetsbelastningar med flera GPU:er
  • Övervakning av GPU-utnyttjande

Optimering av prestanda och resursallokering

  • Begränsning och isolering av GPU-resurser
  • Optimering av minne, partistorlekar och enhetsplacering
  • Prestandajustering och diagnostik

Containeriserad inferens och modellservering

  • Bygg av inferensklara containers
  • Servering av högbelastningsarbete på GPU:er
  • Integration av körare för modeller och API:er

Skalning av GPU-arbetsbelastningar med Docker

  • Strategier för distribuerad GPU-träning
  • Skalning av inferens-mikrotjänster
  • Samordning av multicontainer-AI-system

Säkerhet och tillförlitlighet för GPU-aktiverade containers

  • Säker GPU-åtkomst i gemensamma miljöer
  • Uppstötande av containerbilder
  • Hantering av uppdateringar, versioner och kompatibilitet

Sammanfattning och nästa steg

Krav

  • Grundläggande förståelse för djupinlärning
  • Erfarenhet av Python och vanliga AI-ramverk
  • Medvetenhet om grundläggande begrepp inom containerisering

Målgrupp

  • Djupinlärningstekniker
  • F- och U-team (Forskning och utveckling)
  • AI-modelltränare

Antal deltagare


Pris per deltagare

Vittnesmål (2)

Kommande Kurser

Relaterade Kategorier