Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Varaktighet 14 timmar
Kursplan
Introduktion till AI-inferens med Docker
- Förståelse för AI-inferensarbetsbelastningar
- Fördelar med containeriserad inferens
- Driftsscenarier och begränsningar
Byggande av AI-inferenscontainrar
- Val av basbilder och ramar
- Packning av föruttränade modeller
- Strukturering av inferenskod för containerkörning
Säkring av containeriserade AI-tjänster
- Minimering av containerens angreppsyta
- Hantering av hemligheter och känsliga filer
- Säker nätverksanvändning och API-exponeringsstrategier
Portabla drifttekniker
- Optimering av bilder för portabilitet
- Säkring av förutsägbara körningsmiljöer
- Hantering av beroenden över plattformar
Lokal drift och testning
- Körning av tjänster lokalt med Docker
- Felsökning av inferenscontainrar
- Testning av prestanda och tillförlitlighet
Drift på servrar och moln-VM:er
- Anpassning av containrar för fjärrmiljöer
- Konfiguration av säker serveråtkomst
- Drift av inferens-API:er på moln-VM:er
Användning av Docker Compose för flertjänst-AI-system
- Orkestrering av inferens med stödkomponenter
- Hantering av miljövariabler och konfigurationer
- Skalning av mikrotjänster med Compose
Övervakning och underhåll av AI-inferenstjänster
- Loggning och observbarhetstecken
- Detektering av fel i inferensröror
- Uppdatering och versionering av modeller i produktionsdrift
Sammanfattning och nästa steg
Krav
- Grundläggande förståelse av maskininlärningskoncept
- Erfarenhet av Python eller backendutveckling
- Kännedom om grundläggande containerkoncept
Målgrupp
- Utvecklare
- Backendtekniker
- Team som levererar AI-tjänster
Vittnesmål (2)
Som jag sade tidigare var detta för en person som mig (utan tidigare erfarenhet) ett första steg mot att förstå funktioner och verktyg i dessa program.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maskintolkat
en flernivåig, strukturerad kursplan.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maskintolkat