Kursplan

Introduktion till produktionsdistribution

  • Viktiga utmaningar vid distribution av finjusterade modeller
  • Skillnader mellan utvecklings- och produktionsmiljöer
  • Verktyg och plattformar för modelldistribution

Förbereda modeller för distribution

  • Exportera modeller i standardformat (ONNX, TensorFlow SavedModel osv.)
  • Optimera modeller för svarstid och dataflöde
  • Testa modeller på gränsfall och verkliga data

Containerisering för modelldistribution

  • Introduktion till Docker
  • Skapa Docker avbildningar för ML-modeller
  • Metodtips för säkerhet och effektivitet i containrar

Skalning av distributioner med Kubernetes

  • Introduktion till Kubernetes för AI-arbetsbelastningar
  • Konfigurera Kubernetes kluster för modellhosting
  • Lastbalansering och horisontell skalning

Modellövervakning och underhåll

  • Genomförande av övervakning med Prometheus och Grafana
  • Automatiserad loggning för felspårning och prestanda
  • Omträning av pipelines för modellavvikelser och uppdateringar

Säkerställa säkerheten i produktionen

  • Skydda API:er för modellinferens
  • Mekanismer för autentisering och auktorisering
  • Hantering av problem med datasekretess

Fallstudier och praktiska laborationer

  • Distribuera en attitydanalysmodell
  • Skala en maskinöversättningstjänst
  • Implementera övervakning för bildklassificeringsmodeller

Sammanfattning och nästa steg

Krav

  • Stark förståelse för arbetsflöden för maskininlärning
  • Erfarenhet av finjustering av ML-modeller
  • Kännedom om principerna i DevOps eller MLOps

Publik

  • DevOps Ingenjörer
  • MLOps Utövare
  • Specialister på AI-implementering
 21 timmar

Antal deltagare


Price per participant

Vittnesmål (1)

Upcoming Courses

Relaterade Kategorier