Kom i kontakt

Kursplan

Grundvalar för Hybrid AI-implementering

  • Förståelse av hybrid-, moln- och kantimplementeringsmodeller
  • Egenskaper hos AI-arbetsbelastningar och infrastrukturell begränsning
  • Val av rätt implementeringstopologi

Containerisering av AI-arbetsbelastningar med Docker

  • Byggande av GPU- och CPU-inferens-containrar
  • Hantering av säkra bilder och registri
  • Implementering av reproducerbara miljöer för AI

Distribution av AI-tjänster till molnmiljöer

  • Körning av inferens på AWS, Azure och GCP via Docker
  • Tilldelning av molnberäkningar för modellservering
  • Säkerhet för molnbaserade AI-slutpunkter

Metoder för Kant- och On-Prem-implementering

  • Körning av AI på IoT-enheter, gatewayar och mikroservrar
  • Lättviktsruntimer för kantmiljöer
  • Hantering av avbrytande anslutningar och lokal persistens

Hybridnätverk och säker anslutning

  • Säker tunneling mellan kant och moln
  • Certifikat, hemligheter och tokenbaserad åtkomst
  • Prestandaoptimering för låglatensinferens

Orchestrering av distribuerade AI-implementeringar

  • Användning av K3s, K8s eller lättviktsorchestrering för hybriduppsättningar
  • Service-discovery och arbetsbelastningsschemaläggning
  • Automatisering av distribuerade distributionsstrategier

Mönster och Observability över miljöer

  • Följ upp inferensprestanda över platser
  • Centraliserad loggför hybrid-AI-system
  • Detektion av fel och automatisk återhämtning

Skalning och optimering av Hybrid AI-system

  • Skalning av kantkluster och molnnoder
  • Optimering av bandbreedsanvändning och cachelagring
  • Balansera beräkningsbelastningar mellan moln och kant

Sammanfattning och nästa steg

Krav

  • En förståelse av containeriseringskoncept
  • Erfarenhet av Linux-kommandoradsoperationer
  • Kunskap om AI-modellimplementeringsarbetsflöden

Målgrupp

  • Infrastrukturarkitekter
  • Site Reliability Engineers (SRE)
  • Kant- och IoT-utvecklare
 21 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (3)

Kommande Kurser

Relaterade Kategorier