Kursplan
Introduktion till produktionsdistribution
- Viktiga utmaningar vid distribution av finjusterade modeller
- Skillnader mellan utvecklings- och produktionsmiljöer
- Verktyg och plattformar för modelldistribution
Förbereda modeller för distribution
- Exportera modeller i standardformat (ONNX, TensorFlow SavedModel osv.)
- Optimera modeller för svarstid och dataflöde
- Testa modeller på gränsfall och verkliga data
Containerisering för modelldistribution
- Introduktion till Docker
- Skapa Docker avbildningar för ML-modeller
- Metodtips för säkerhet och effektivitet i containrar
Skalning av distributioner med Kubernetes
- Introduktion till Kubernetes för AI-arbetsbelastningar
- Konfigurera Kubernetes kluster för modellhosting
- Lastbalansering och horisontell skalning
Modellövervakning och underhåll
- Genomförande av övervakning med Prometheus och Grafana
- Automatiserad loggning för felspårning och prestanda
- Omträning av pipelines för modellavvikelser och uppdateringar
Säkerställa säkerheten i produktionen
- Skydda API:er för modellinferens
- Mekanismer för autentisering och auktorisering
- Hantering av problem med datasekretess
Fallstudier och praktiska laborationer
- Distribuera en attitydanalysmodell
- Skala en maskinöversättningstjänst
- Implementera övervakning för bildklassificeringsmodeller
Sammanfattning och nästa steg
Krav
- Stark förståelse för arbetsflöden för maskininlärning
- Erfarenhet av finjustering av ML-modeller
- Kännedom om principerna i DevOps eller MLOps
Publik
- DevOps Ingenjörer
- MLOps Utövare
- Specialister på AI-implementering
Vittnesmål (3)
Craig var extremt engagerad i utbildningen och sorg alltid för att vi var uppmärksamma. Han anpassade exempelna efter våra dagliga aktiviteter och gav alltid ett svar när vi frågade, även om informationen inte fanns med i presentationen.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kurs - DevOps Foundation®
Maskintolkat
Hög nivå av engagemang och kunskap hos instruktören
Jacek - Softsystem
Kurs - DevOps Engineering Foundation (DOEF)®
Maskintolkat
verkliga livsexempel
Maria - Fundacja PTA
Kurs - Mastering Make: Advanced Workflow Automation and Optimization
Maskintolkat