EXO: End-to-end lokal AI-klystdistribution Träningskurs
EXO är ett open source-ramverk som kopplar ihop Apple Silicon-enheter till en distribuerad AI-klyst för att möjliggöra lokal inferens av banbrytande modeller som är större än vad en enskild enhet rymmer.
Denna instruktörsledda, live-utbildningen (online eller på plats) är avsedd för systemadministratörer och DevOps-ingenjörer som vill distribuera, konfigurera och hantera EXO-klyst för privat LLM-inferens över flera Apple Silicon- eller Linux-noder.
Vid utbildningens slut kan deltagarna:
- installera och konfigurera EXO på macOS- och Linux-noder.
- aktivera automatisk enhetsupptäckt och bygga flernodsklyst.
- aktivera och verifiera RDMA över Thunderbolt 5 för ultra-låglatenskommunikation mellan enheter.
- distribuera banbrytande modeller (DeepSeek, Qwen, Llama) över klystenheter.
- övervaka klysthälsan och felsöka vanliga distributionsproblem.
Kursformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktisk träning.
- Praktisk implementation i en live-lab-miljö.
Anpassningsmöjligheter för kursen
- För att begära en skräddarsydd utbildning, kontakta oss för att arrangera detta.
Kursplan
Introduktion till EXO och lokal AI-klystning
- Översikt över EXO-ramverket och exo-explore-ekosystemet
- Jämförelse av centraliserad molninferens mot distribuerad lokal inferens
- Arkitektur: libp2p-enhetsupptäckt, MLX-bakgrundsgrunder, dashboard och API-skikt
- Hårdvarukrav: Apple Silicon (M3 Ultra, M4 Pro/Max), Thunderbolt 5, delat lagringsutrymme
Installera EXO på macOS
- Inställning av Xcode, Metal ToolChain och macOS-förutsättningar
- Installera uv, Node.js, Rust nightly-verktygslinje
- Installera den fixerade macmon-forken för övervakning av Apple Silicon
- Klona repository och bygga dashboarden med npm
- Kör EXO från källkod och verifiera dashboard på localhost:52415
Installera EXO på Linux
- Installera beroenden via apt eller Homebrew på Linux
- Konfigurera uv, Node.js 18+ och Rust nightly
- Bygg dashboarden och kör EXO i CPU-only-läge
- Katalogstruktur: XDG Base Directory-sökvägar för konfiguration, data, cache och loggar
Automatisk enhetsupptäckt och klystbildning
- Förståelse för libp2p-baserad auto-upptäckt över lokala nätverk
- Konfigurera anpassade namnområden med EXO_LIBP2P_NAMESPACE för klystisolering
- Verifiera nodmedlemskap i dashboardens klystvy
- Hantera upptäcksfel och nätverkssegmenteringsproblem
Aktivera RDMA över Thunderbolt 5
- RDMA-arkitektur och påståendet om 99 procents minskning av latens
- Aktivera RDMA i macOS Recovery-läge med rdma_ctl
- Kabelkrav och porttopologibegränsningar på Mac Studio
- Matcha macOS-versioner över alla klystnoder
- Felsöka RDMA-upptäckt och DHCP-konfiguration
Distribuera banbrytande modeller
- Använd dashboarden för att lasta in och shard DeepSeek v3.1, Qwen3-235B och Llama-familjens modeller
- Förhandsgranska instansplatser via API-slutpunkten /instance/previews
- Skapa modellinstanser med pipeline- eller tensor-parallell sharding
- Konfigurera anpassade kort från HuggingFace-hubben
Övervakning och felsökning
- Läsa EXO-loggar och förstå distribuerad spårning
- Tolka klysthälsa i dashboardens klystvy
- Diagnostisera arbetar-nodfel och återanslutningsbeteende
- Använd EXO_TRACING_ENABLED för analys av prestandabottleneck
Klystunderhåll och uppdateringar
- Uppdatera EXO-binärer och procedurer för att bygga om dashboarden
- Migrera modellcacher och hantera förnedladdade modeller över NFS
- Ta bort noder schablonmässigt och balansera arbetsbelastningar
Krav
- Förståelse för nätverksgrundläggande (IP, undernätning, brandväggar)
- Erfarenhet av macOS- eller Linux-kommandoradsadministration
- Kunskap om Python-pakethantering (pip/uv) och Node.js-verktyg
Publik
- Systemadministratörer
- DevOps-ingenjörer
- Arkitekter för AI-infrastruktur som ansvarar för on-premise-LLM-distribution
Öppna Utbildningskurser kräver 5+ deltagare.
EXO: End-to-end lokal AI-klystdistribution Träningskurs - Bokning
EXO: End-to-end lokal AI-klystdistribution Träningskurs - Fråga
EXO: End-to-end lokal AI-klystdistribution - Konsultfråga
Kommande Kurser
Relaterade Kurser
Avancerad LangGraph: Optimering, Felsökning och Övervakning av Komplexa Grafer
35 TimmarLangGraph är ett ramverk för att bygga tillståndsbaserade, multi-aktörs LLM-applikationer som sammansatta grafer med bestående tillstånd och kontroll över exekvering.
Denna instruktörsledda, levande utbildning (online eller på plats) riktar sig till avancerade AI-plattformingenjörer, DevOps för AI och ML-arkitekter som vill optimera, felsöka, övervaka och driva produktionsklara LangGraph-system.
Efter avslutad utbildning kommer deltagarna att kunna:
- Designa och optimera komplexa LangGraph-topologier för hastighet, kostnad och skalbarhet.
- Utveckla pålitlighet med upprepningar, tidsgränser, idempotens och återhämtning baserad på kontrollpunkter.
- Felsöka och spåra grafexekveringar, inspektera tillstånd och systematiskt återskapa produktionsproblem.
- Instrumentera grafer med loggar, mätvärden och spår, distribuera till produktion och övervaka SLAs och kostnader.
Utbildningsformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Hands-on-implementering i en levande laboratoriemiljö.
Anpassningsalternativ för kursen
- För att be om en anpassad utbildning för denna kurs, kontakta oss för att ordna.
Byggande av kodningsagenter med Devstral: Från agentdesign till verktyg
14 TimmarDevstral är ett öppet källkodsramverk som är utformat för att bygga och köra kodningsagenter som kan interagera med kodbaser, utvecklarverktyg och API:er för att förbättra ingenjörsproduktivitet.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till ML-ingenjörer på mellan- till avancerad nivå, utvecklarverktygslag, och SRE:s som vill designa, implementera och optimera kodningsagenter med hjälp av Devstral.
Vid utbildningens slut kommer deltagarna att kunna:
- Installera och konfigurera Devstral för utveckling av kodningsagenter.
- Designa agentbaserade arbetsflöden för utforskning och modifiering av kodbaser.
- Integrera kodningsagenter med utvecklarverktyg och API:er.
- Implementera bästa praxis för säker och effektiv agentdistribuering.
Utbildningens format
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Hands-on implementation i en live-lab-miljö.
Alternativ för kursanpassning
- För att begära en anpassad utbildning för denna kurs, vänligen kontakta oss för att ordna.
Open-Source Model Ops: Självhospade, Anpassade och Reglerade Miljöer med Devstral & Mistral Modeller
14 TimmarDevstral och Mistral modeller är öppna källkods AI-teknologier utformade för flexibel distribution, finjustering och skalbar integration.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till ML-ingenjörer, plattformsteam och forskningsingenjörer på mellannivå till avancerad nivå som vill självhosta, finjustera och styra Mistral och Devstral modeller i produktionsmiljöer.
Efter avslutad utbildning kommer deltagarna att kunna:
- Installera och konfigurera självhostade miljöer för Mistral och Devstral modeller.
- Använda finjusteringstekniker för domänspecifika prestanda.
- Implementera versionering, övervakning och livscykelstyrning.
- Säkerställa säkerhet, efterlevnad och ansvarsfull användning av öppna källkodsmodeller.
Kursformat
- Interaktiv föreläsning och diskussion.
- Praktiska övningar i självhosting och finjustering.
- Live-labimplementering av styr- och övervakningspipeliner.
Anpassningsalternativ för kursen
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
Fiji: Bildbehandling för bioteknik och toxikologi
14 TimmarDetta instruktörsledda, live-träning i Sverige (online eller på plats) riktas till nybörjare och mellannivåforskare samt laboratorieprofessionals som vill bearbeta och analysera bilder relaterade till histologiska vävnader, blodceller, alger och andra biologiska prover.
Vid slutet av denna träningskurs kommer deltagarna att kunna:
- Navigera Fijs gränssnitt och använda ImageJs kärnfunktioner.
- Förbearbeta och förbättra vetenskapliga bilder för bättre analys.
- Analysera bilder kvantitativt, inklusive cellräkning och areamätning.
- Automatisera upprepade uppgifter med hjälp av makron och plugins.
- Anpassa arbetsflöden för specifika bildanalyser inom biologisk forskning.
LangGraph Applications in Finance
35 TimmarLangGraph är ett ramverk för att bygga tillståndsbaserade, multi-aktörs LLM-applikationer som sammansatta grafer med bestående tillstånd och kontroll över utförandet.
Denna instruktörsledda, levande utbildning (online eller på plats) riktar sig till professionella på mellan- till avancerad nivå som vill designa, implementera och driva LangGraph-baserade finansiella lösningar med rätt styrning, observerbarhet och överensstämmelse.
Vid utbildningens slut kommer deltagarna att kunna:
- Designa finansiella LangGraph-arbetsflöden som överensstämmer med regler och revisionskrav.
- Integrera finansiella datastandarder och ontologier i graftillstånd och verktyg.
- Implementera pålitlighet, säkerhet och människor-i-loop-kontroller för kritiska processer.
- Distribuera, övervaka och optimera LangGraph-system för prestanda, kostnad och SLA:er.
Utbildningsformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Hands-on-implementering i en levande labbmiljö.
Alternativ för kursanpassning
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
LangGraph Foundations: Grafbaserad LLM-prompting och kedjebildning
14 TimmarLangGraph är ett ramverk för att bygga grafstrukturerade LLM-applikationer som stöder planering, förgrening, verktygsanvändning, minne och kontrollerbar exekvering.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till utvecklare, prompt-engineers och dataexperter på grundnivå som vill designa och bygga pålitliga, flerstegs-LLM-arbetsflöden med hjälp av LangGraph.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Förklara grundläggande LangGraph-begrepp (noder, kanter, tillstånd) och när de ska användas.
- Bygga promptkedjor som förgrenas, kallar på verktyg och behåller minne.
- Integrera hämtning och externa API:er i grafarbetsflöden.
- Testa, felsöka och utvärdera LangGraph-appar för pålitlighet och säkerhet.
Utbildningens format
- Interaktiva föreläsningar och facklig diskussion.
- Guidade laborationer och kodgenomgångar i en sandbox-miljö.
- Scenariebaserade övningar i design, testning och utvärdering.
Alternativ för anpassning av kursen
- För att beställa en anpassad utbildning för denna kurs, kontakta oss för att ordna.
LangGraph in Healthcare: Workflow Orchestration for Regulated Environments
35 TimmarLangGraph gör det möjligt att hantera statiska, multi-aktörsarbetsflöden som drivs av LLMs med exakt kontroll över körningsvägar och statispersistens. Inom hälsovården är dessa funktioner avgörande för att uppfylla kraven, säkerställa interoperabilitet och bygga beslutstödssystem som överensstämmer med medicinska arbetsflöden.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till professionella på mellan- till avancerad nivå som vill designa, implementera och hantera LangGraph-baserade lösningar inom hälsovården samt hantera regelverks-, etiska och operativa utmaningar.
Efter avslutad utbildning kommer deltagarna att kunna:
- Designa LangGraph-arbetsflöden inom hälsovården med fokus på att uppfylla kraven och möjliggöra granskning.
- Integrera LangGraph-applikationer med medicinska ontologier och standarder (FHIR, SNOMED CT, ICD).
- Tillämpa bästa praxis för pålitlighet, spårbarhet och förklarbarhet i känsliga miljöer.
- Distribuera, övervaka och validera LangGraph-applikationer i produktionsmiljöer inom hälsovården.
Utbildningens format
- Interaktiv föreläsning och diskussion.
- Hands-on-övningar med verkliga fallstudier.
- Implementationsövning i en live-labbmiljö.
Anpassningsalternativ för kursen
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
LangGraph för juridiska tillämpningar
35 TimmarLangGraph är ett ramverk för att bygga tillståndskänsliga, fleraktörerdrivna LLM-applikationer som komponerbara grafer med persistent tillstånd och noggrann kontroll över utförandet.
Detta instruktörsledda, liveutbildning (online eller på plats) är riktad till mellan- och avancerade professionella som önskar designa, implementera och driftsätta LangGraph-baserade juridiska lösningar med nödvändiga komplians-, spårbarhets- och styrningskontroller.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Designa juridiska specifika LangGraph-arbetsflöden som bevarar spårbarhet och komplians.
- Integrera juridiska ontologier och dokumentstandarder i grafens tillstånd och bearbetning.
- Implementera säkerhetsåtgärder, mänskliga godkännanden och spårbara beslutsbanor.
- Distribuera, övervaka och underhålla LangGraph-tjänster i produktion med observabilitet och kostnadskontroll.
Kursformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Handson-implementation i en live-labbmiljö.
Kursanpassningsalternativ
- För att begära anpassad utbildning för denna kurs, kontakta oss för att schemalägga.
Dynamiska Arbetsflöden med LangGraph och LLM Agents
14 TimmarLangGraph är ett ramverk för att sammansätta grafstrukturerade LLM-arbetsflöden som stöder förgrening, verktygsanvändning, minne och kontrollerad exekvering.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till ingenjörer och produktteam på mellannivå som vill kombinera LangGraphs graflogik med LLM-agentloopar för att bygga dynamiska, kontextmedvetna applikationer såsom kundsupportagenter, beslutsträd och informationshämtningsystem.
Vid utbildningens slut kommer deltagarna att kunna:
- Designa grafbaserade arbetsflöden som samordnar LLM-agenter, verktyg och minne.
- Implementera villkorsstyrd vägledning, omstart och återfall för robust exekvering.
- Integra hämtning, API:er och strukturerade utdata i agentloopar.
- Utvärdera, övervaka och hårdna agentbeteende för pålitlighet och säkerhet.
Kursformat
- Interaktiv föreläsning och ledd diskussion.
- Guidade labbar och kodgenomgångar i en sandlåde-omgivning.
- Scenariebaserade designövningar och kollegiala granskningar.
Alternativ för kursanpassning
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
LangGraph för Marknadsföringsautomatisering
14 TimmarLangGraph är ett grafbaserat orchestrationssramverk som möjliggör villkorliga, flerstegs LLM- och verktygsarbetsflöden, idealiskt för att automatisera och personanpassa innehållspipeliner.
Denna instruktörsledd, liveutbildning (online eller på plats) är riktad till mellannivån marknadsförare, innehållsstrateger och automatiseringsutvecklare som vill implementera dynamiska, grenande e-postkampanjer och innehållsgenererande pipeliner med hjälp av LangGraph.
Efter denna utbildning kommer deltagarna att kunna:
- Designa grafbaserade innehålls- och e-postarbetsflöden med villkorlig logik.
- Integrera LLM:er, API:er och datakällor för automatiserad personanpassning.
- Hantera status, minne och kontext över flerstegs kampanjer.
- Utvärdera, övervaka och optimera arbetsflödens prestanda och leveransresultat.
Kursformat
- Interaktiva föreläsningar och gruppdiskussioner.
- Praktiska laborationer för att implementera e-postarbetsflöden och innehållspipeliner.
- Scenario-baserade övningar om personanpassning, segmentering och grenad logik.
Kursanpassningsalternativ
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna det.
Le Chat Enterprise: Privat ChatOps, integreringar & adminkontroller
14 TimmarLe Chat Enterprise är en privat ChatOps-lösning som erbjuder säkra, anpassningsbara och styrda konversations-AI-kapaciteter för organisationer, med stöd för RBAC, SSO, anslutningar och integreringar med företagsappar.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till produktchefer, IT-ledare, lösningsingenjörer och säkerhets-/kompatibilitetsteam på mellannivå som vill distribuera, konfigurera och styra Le Chat Enterprise i företagsmiljöer.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Installera och konfigurera Le Chat Enterprise för säkra distribueringar.
- Aktivera RBAC, SSO och kontrollerna som drivs av kompatibilitet.
- Integrera Le Chat med företagsappar och datalagringsplatser.
- Designa och implementera styrnings- och administrativa handboksmönster för ChatOps.
Kursformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Hands-on-implementering i en live-lab-miljö.
Alternativ för anpassning av kursen
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
Kostnadseffektiva LLM-arkitekturer: Mistral i Skala (Prestanda/Kostnadsteknik)
14 TimmarMistral är en familj av högpresterande stora språkmodeller optimerade för kostnadseffektiv produktion och skalanläggning.
Denna instruktörsledda, live-träning (online eller på plats) är riktad till avancerade infrastrukturingenjörer, molnarkitekter och MLOps-leder som vill designa, distribuera och optimera Mistral-baserade arkitekturer för maximal genomströmning och minimala kostnader.
Vid slutet av denna träning kommer deltagarna att kunna:
- Implementera skalbara distributionsmönster för Mistral Medium 3.
- Använda batchning, kvantisering och effektiva servicestrategier.
- Optimera inferenskostnader samtidigt som prestandan upprätthålls.
- Designa produktionsklara servicetopologier för företagsarbetsbelastningar.
Kursens format
- Interaktiva föreläsningar och diskussioner.
- Många övningar och praktik.
- Hands-on implementering i en live-lab miljö.
Anpassningsalternativ för kursen
- För att begära en anpassad träning för denna kurs, vänligen kontakta oss för att arrangera.
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 TimmarMistral AI är en öppen AI-plattform som gör det möjligt för team att bygga och integrera konversationsassistenter i företags- och kundrelaterade arbetsflöden.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till produktchefer, full-stack-utvecklare och integrationsingenjörer på nybörjar- till mellannivå som vill designa, integrera och produktisera konversationsassistenter med hjälp av Mistral-anslutningar och integreringar.
Vid utbildningens slut kommer deltagarna att kunna:
- Integrera Mistral konversationsmodeller med företags- och SaaS-anslutningar.
- Implementera retrieval-augmented generation (RAG) för grundade svar.
- Designa UX-mönster för interna och externa chattassistenter.
- Distribuera assistenter i produktarbetsflöden för praktiska användningsområden.
Utbildningens format
- Interaktiva föreläsningar och diskussioner.
- Praktiska integrationsövningar.
- Live-labutveckling av konversationsassistenter.
Anpassningsalternativ för kursen
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att arrangera.
Enterprise-Grade Deployments med Mistral Medium 3
14 TimmarMistral Medium 3 är en högpresterande, multimodal stor språkmodell designad för produktionsnivådeployment i företagsmiljöer.
Denna instruktörsledda, levande utbildning (online eller på plats) riktar sig till AI/ML-ingenjörer, plattformarkitekter och MLOps-team med mellan- till avancerad nivå som vill deployera, optimera och säkra Mistral Medium 3 för företagsanvändningsfall.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Deployera Mistral Medium 3 med API och självvärdiga alternativ.
- Optimera inferensprestanda och kostnader.
- Implementera multimodala användningsfall med Mistral Medium 3.
- Tillämpa säkerhets- och compliance-bästa praxis för företagsmiljöer.
Utbildningsformat
- Interaktiv föreläsning och diskussion.
- Många övningar och praktik.
- Hands-on-implementering i en levande labbmiljö.
Alternativ för kursanpassning
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
Mistral för Ansvarsfull AI: Integritet, Databosättning & Företagsstyrningar
14 TimmarMistral AI är en öppen och företagsanpassad AI-plattform som erbjuder funktioner för säker, kompatibel och ansvarsfull AI-implementering.
Denna instruktörsledda, levande utbildning (online eller på plats) riktar sig till mellannivåansvariga för överensstämmelse, säkerhetsarkitekter och juridiska/operativa intressenter som vill implementera ansvarsfulla AI-praktiker med Mistral genom att utnyttja integritet, databosättning och företagsstyrningsmekanismer.
Efter denna utbildning kommer deltagarna att kunna:
- Implementera integritetsskyddande tekniker i Mistral-implementeringar.
- Tillämpa databosättningsstrategier för att uppfylla regleringskrav.
- Inställa företagsgraderade kontroller såsom RBAC, SSO och revisionsloggar.
- Utvärdera leverantörs- och implementeringsalternativ för överensstämmelse.
Utbildningens format
- Interaktiv föreläsning och diskussion.
- Överensstämmelsefokuserade fallstudier och övningar.
- Praktisk implementering av företags AI-kontroller.
Alternativ för utbildningsanpassning
- För att begära en anpassad utbildning för den här kursen, kontakta oss för att boka.