Kom i kontakt
 Varaktighet 14 timmar

Kursplan

Introduktion till AI-inferens med Docker

  • Förståelse för AI-inferensarbetsbelastningar
  • Fördelar med containeriserad inferens
  • Driftsscenarier och begränsningar

Byggande av AI-inferenscontainrar

  • Val av basbilder och ramar
  • Packning av föruttränade modeller
  • Strukturering av inferenskod för containerkörning

Säkring av containeriserade AI-tjänster

  • Minimering av containerens angreppsyta
  • Hantering av hemligheter och känsliga filer
  • Säker nätverksanvändning och API-exponeringsstrategier

Portabla drifttekniker

  • Optimering av bilder för portabilitet
  • Säkring av förutsägbara körningsmiljöer
  • Hantering av beroenden över plattformar

Lokal drift och testning

  • Körning av tjänster lokalt med Docker
  • Felsökning av inferenscontainrar
  • Testning av prestanda och tillförlitlighet

Drift på servrar och moln-VM:er

  • Anpassning av containrar för fjärrmiljöer
  • Konfiguration av säker serveråtkomst
  • Drift av inferens-API:er på moln-VM:er

Användning av Docker Compose för flertjänst-AI-system

  • Orkestrering av inferens med stödkomponenter
  • Hantering av miljövariabler och konfigurationer
  • Skalning av mikrotjänster med Compose

Övervakning och underhåll av AI-inferenstjänster

  • Loggning och observbarhetstecken
  • Detektering av fel i inferensröror
  • Uppdatering och versionering av modeller i produktionsdrift

Sammanfattning och nästa steg

Krav

  • Grundläggande förståelse av maskininlärningskoncept
  • Erfarenhet av Python eller backendutveckling
  • Kännedom om grundläggande containerkoncept

Målgrupp

  • Utvecklare
  • Backendtekniker
  • Team som levererar AI-tjänster

Antal deltagare


Pris per deltagare

Vittnesmål (2)

Kommande Kurser

Relaterade Kategorier