Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Kursplan
Introduktion till produktionsdistribution
- Viktiga utmaningar vid distribution av finjusterade modeller
- Skillnader mellan utvecklings- och produktionsmiljöer
- Verktyg och plattformar för modelldistribution
Förbereda modeller för distribution
- Exportera modeller i standardformat (ONNX, TensorFlow SavedModel osv.)
- Optimera modeller för svarstid och dataflöde
- Testa modeller på gränsfall och verkliga data
Containerisering för modelldistribution
- Introduktion till Docker
- Skapa Docker avbildningar för ML-modeller
- Metodtips för säkerhet och effektivitet i containrar
Skalning av distributioner med Kubernetes
- Introduktion till Kubernetes för AI-arbetsbelastningar
- Konfigurera Kubernetes kluster för modellhosting
- Lastbalansering och horisontell skalning
Modellövervakning och underhåll
- Genomförande av övervakning med Prometheus och Grafana
- Automatiserad loggning för felspårning och prestanda
- Omträning av pipelines för modellavvikelser och uppdateringar
Säkerställa säkerheten i produktionen
- Skydda API:er för modellinferens
- Mekanismer för autentisering och auktorisering
- Hantering av problem med datasekretess
Fallstudier och praktiska laborationer
- Distribuera en attitydanalysmodell
- Skala en maskinöversättningstjänst
- Implementera övervakning för bildklassificeringsmodeller
Sammanfattning och nästa steg
Krav
- Stark förståelse för arbetsflöden för maskininlärning
- Erfarenhet av finjustering av ML-modeller
- Kännedom om principerna i DevOps eller MLOps
Publik
- DevOps Ingenjörer
- MLOps Utövare
- Specialister på AI-implementering
21 Timmar
Vittnesmål (2)
Craig var extremt engagerad i utbildningen och sorg alltid för att vi var uppmärksamma. Han anpassade exempelna efter våra dagliga aktiviteter och gav alltid ett svar när vi frågade, även om informationen inte fanns med i presentationen.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kurs - DevOps Foundation®
Maskintolkat
Hög nivå av engagemang och kunskap hos instruktören
Jacek - Softsystem
Kurs - DevOps Engineering Foundation (DOEF)®
Maskintolkat