CI/CD för AI: Automatisering av Docker-baserade modellbygge och utlämningsflöden Träningskurs

Introduktion till CI/CD för AI-flöden

• Unika utmaningar med leveranspipeliner för AI-modeller
• Jämförelse av traditionella DevOps-processer och MLOps-processer
• Komponenter i automatiserad modellutlämning

Containerisering av AI-modeller med Docker

• Design av effektiva Dockerfiler för ML-inferens
• Hantering av beroenden och modellartefakter
• Bygg av säkra och optimerade avbildningar

Uppställning av CI/CD-pipeliner

• Möjligheter för CI/CD-verktyg och deras ekosystem
• Bygg av pipeliner för automatiserad modellförpackning
• Verifiering av pipeliner med automatiserade kontroller

Testning av AI-modeller i CI

• Automatisering av kontroller för dataintegritet
• Enhetstester och integrationstester för modeljtjänster
• Verifiering av prestanda och regressioner

Automatiserad utlämning av Docker-baserade AI-tjänster

• Utlämning av AI-containrar till molnmiljöer
• Implementering av blue-green och canary-släpp
• Tillbakadragande strategier för misslyckade utlämningar

Hantering av modellversioner och artefakter

• Användning av registrier för versionshantering av modeller och containrar
• Taggning, signering och befordran av avbildningar
• Koordinering av modelluppdateringar mellan tjänster

Övervakning och observabilitet i CI/CD för AI

• Spåra prestanda för pipeliner och modeller
• Varning vid misslyckade bygg eller modelldrift
• Spåra inferensbeteende över olika miljöer

Skalning av CI/CD-pipeliner för AI-system

• Parallelisering av bygg för stora modeller
• Optimering av beräkningsresurser och lagringsutrymme
• Integration av distribuerade och fjärrlöpande runners

Sammanfattning och nästa steg