Kom i kontakt

Kursplan

EXO Infrastruktur som Kod

  • Översikt av EXO-distributionsmönster: enskild-nod, flera noder och RDMA-klysor
  • Automatisera installation av beroenden (Xcode, uv, Node.js, Rust) med konfigurationshantering
  • Använda Nix-flakes för reproducerbara EXO-byggen och utvecklar-miljöer
  • Skriv Ansible-spelböcker eller skall-skript för utanövervakad klyso-provisionering

Reproducerbara Byggen och CI-integration

  • Förankra beroenden och bygga dashboardet i CI-pipelines
  • Köra EXO-ryknings-tester i GitHub Actions eller GitLab CI-löpningar
  • Skapa guldbilder och snapshot-baserade rullningsback-flöden för macOS och Linux VMs
  • Versionera anpassade modellkort tillsammans med applikationskod

Klyso-upptäckt och nätverksautomatisering

  • Konfigurera mDNS och statisk DNS för pålitlig libp2p-nodupptäckt
  • Automatisera skapande av nätverksprofiler och Thunderbolt-bryggshantering på macOS
  • Använda anpassade namnområden (EXO_LIBP2P_NAMESPACE) för att separera dev-, staging- och prod-klysor
  • Brandväggsregler och nätverkssegmentering för multi-tenant-miljöer

Lagring och modell livscykushantering

  • Designa EXO_MODELS_DIRS och EXO_MODELS_READ_ONLY_DIRS-strategier
  • Montera NFS eller SAN-delningar som skrivskyddade modellrepository för snabb provisionering
  • Rensa ut gamla cacher och versionerade vikter-bevarandepolicyer
  • Automatisera förnedladdning av modeller och hälsokontroller innan rullningsuppdateringar

Övervakning och avisering

  • Lämna EXO-loggar till centraliserad loggning (ELK, Loki eller Splunk)
  • Bygg Grafana-dashboardar från EXO_TRACING_ENABLED-utdata
  • Avisera vid klyso-medlemskapsändringar, OOM-händelser och inferenslatensspikar
  • Korrelatera macmon-hårdvarutelemetri med modell-prestanda-regressioner

Uppdatering, rullningsback och katastrofåterhämtning

  • Förbered EXO-binäruppdateringar i en canary-nod innan fält-wide-utbyggnad
  • Modellnivå-rullningsback: växla mellan kvantiserade versioner utan att behöva nedladda på nytt
  • Säkerhetskopiera och återställa klyso-tillstånd, anpassade namnområden och cacherade vikter
  • Dokumentera återhämtnings-runbooks för totala klysorekonstruktionsscenarier

Säkerhetshårdnning och efterlevnad

  • Tillämpa TLS vid omvänd proxy-lager (nginx, traefik) för dashboardet och API:et
  • Implementera API-satsbegränsningar och IP-vitlistning för EXO-slutpunkter
  • Isolera klysor med VLANer och noll-tillits-nätverkspolicyer
  • Auditera åtkomst och upprätthålla ett inventarium av distribuerade modeller och versioner

Krav

  • Erfarenhet av DevOps-praktiker (CI/CD, IaC, behållarorchestrering)
  • Kunskap om macOS eller Linux-systemadministration och paket hantering
  • Förståelse för nätverk, DNS och lagringsbegrepp

Målgrupp

  • DevOps-ingenjörer
  • Infrastrukture arkitekter
  • SREs ansvariga för on-premise AI-arbetsbelastningar
 21 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (2)

Kommande Kurser

Relaterade Kategorier