Kom i kontakt

Kursplan

Introduktion till GPU-baserad containerisering

  • Förståelse för GPU-användning i djupinlärningsarbetsflöden
  • Sådan som Docker stöder GPU-baserade arbetsflöden
  • Viktiga prestandafaktorer

Installation och konfiguration av NVIDIA Container Toolkit

  • Inställning av drivrutiner och CUDA-kompatibilitet
  • Verifiering av GPU-tillgång inom containrar
  • Konfiguration av runtime-miljön

Byggande av GPU-aktiverade Docker-images

  • Användning av CUDA-basmallar
  • Emballering av AI-ramverk i GPU-kla containrar
  • Hantering av beroenden för träning och inference

Körande av GPU-accelrerade AI-arbetsflöden

  • Exekvering av träningsjobb med hjälp av GPU:er
  • Hantering av arbetsflöden med flera GPU:er
  • Övervakning av GPU-utnyttjande

Optimering av prestanda och resursallokering

  • Begränsning och isolation av GPU-resurser
  • Optimering av minne, batchstorlekar och enhetsplacering
  • Prestandajustering och diagnostik

Containeriserad inference och modellserver

  • Byggande av containrar redo för inference
  • Servering av högbelastningsarbetsflöden på GPU:er
  • Integration av modellkörare och API:er

Skalning av GPU-arbetsflöden med Docker

  • Strategier för distribuerad GPU-träning
  • Skalning av inferens-mikrotjänster
  • Samordning av AI-system med flera containrar

Säkerhet och tillförlitlighet för GPU-aktiverade containrar

  • Säkring av säker GPU-tillgång i delade miljöer
  • Förstärkning av containerimages
  • Hantering av uppdateringar, versioner och kompatibilitet

Sammanfattning och nästa steg

Krav

  • Förståelse för grundläggande djupinlärning
  • Erfarenhet av Python och vanliga AI-ramverk
  • Kunskap om grundläggande containeriseringsbegrepp

Målgrupp

  • Ingenjörer för djupinlärning
  • Forskning- och utvecklingsteam
  • AI-modelltränare
 21 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (3)

Kommande Kurser

Relaterade Kategorier