Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Varaktighet 21 timmar
Kursplan
Introduktion till GPU-accelerad containerisering
- Förståelse för GPU-användning i djupinlärningsflöden
- Sådan hur Docker stöder GPU-baserade arbetsbelastningar
- Viktiga prestandahänsyn
Installation och konfiguration av NVIDIA Container Toolkit
- Uppställning av drivrutiner och CUDA-kompatibilitet
- Verifiering av GPU-åtkomst inuti containers
- Konfiguration av körbartidsmiljön
Bygg av GPU-aktiverade Docker-bilder
- Användning av CUDA-basbilder
- Packning av AI-ramverk i GPU-klara containers
- Hantering av beroenden för träning och inferens
Körning av GPU-accelerade AI-arbetsbelastningar
- Exekvering av träningssysslor med hjälp av GPU:er
- Hantering av arbetsbelastningar med flera GPU:er
- Övervakning av GPU-utnyttjande
Optimering av prestanda och resursallokering
- Begränsning och isolering av GPU-resurser
- Optimering av minne, partistorlekar och enhetsplacering
- Prestandajustering och diagnostik
Containeriserad inferens och modellservering
- Bygg av inferensklara containers
- Servering av högbelastningsarbete på GPU:er
- Integration av körare för modeller och API:er
Skalning av GPU-arbetsbelastningar med Docker
- Strategier för distribuerad GPU-träning
- Skalning av inferens-mikrotjänster
- Samordning av multicontainer-AI-system
Säkerhet och tillförlitlighet för GPU-aktiverade containers
- Säker GPU-åtkomst i gemensamma miljöer
- Uppstötande av containerbilder
- Hantering av uppdateringar, versioner och kompatibilitet
Sammanfattning och nästa steg
Krav
- Grundläggande förståelse för djupinlärning
- Erfarenhet av Python och vanliga AI-ramverk
- Medvetenhet om grundläggande begrepp inom containerisering
Målgrupp
- Djupinlärningstekniker
- F- och U-team (Forskning och utveckling)
- AI-modelltränare
Vittnesmål (2)
Som jag sade tidigare var detta för en person som mig (utan tidigare erfarenhet) ett första steg mot att förstå funktioner och verktyg i dessa program.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maskintolkat
en flernivåig, strukturerad kursplan.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maskintolkat