Kom i kontakt

Kursplan

Introduktion till AI-inferens med Docker

  • Förståelse för AI-inferensarbetsbelastningar
  • Fördelar med containeriserad inferens
  • Distributionsscenarier och begränsningar

Bygga AI-inferens-containrar

  • Välja basbilder och ramverk
  • Förpacka förtränade modeller
  • Strukturera inferenskod för körning i containrar

Säkerställa containeriserade AI-tjänster

  • Minimera containerens attackyta
  • Hantera hemligheter och känsliga filer
  • Säker nätverkskonfiguration och exponering av API:er

Portabla distributionsmetoder

  • Optimera bilder för portabilitet
  • Tillförsäkra förutsägbara körningsmiljöer
  • Hantera beroenden över olika plattformar

Lokal distribution och testning

  • Köra tjänster lokalt med Docker
  • Avlusning av inferens-containrar
  • Testa prestanda och tillförlitlighet

Distribution på servrar och moln-VM:ar

  • Anpassa containrar för fjärilmiljöer
  • Konfigurera säker serveråtkomst
  • Distribuera inferens-API:er på moln-VM:ar

Användning av Docker Compose för AI-system med flera tjänster

  • Orkestrera inferens med stödkomponenter
  • Hantera miljövariabler och konfigurationer
  • Skala mikrotjänster med Compose

Påföljd och underhåll av AI-inferenstjänster

  • Loggning och översiktstekniker
  • Detektera fel i inferens-pipelines
  • Uppdatera och versionera modeller i produktion

Sammanfattning och nästa steg

Krav

  • Kunskap om grundläggande begrepp inom maskininlärning
  • Erfarenhet av Python eller backend-utveckling
  • Grundläggande kännedom om containerbegreper

Målgrupp

  • Utvecklare
  • Backend-ingenjörer
  • Team som distribuerar AI-tjänster
 14 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (3)

Kommande Kurser

Relaterade Kategorier