Kom i kontakt

Kursplan

Grunderna i säker lokal AI

  • Vad lokal och on-prem AI innebär i reglerade miljöer
  • Moln-AI jämfört med intern driftssättning för känsliga arbetslast
  • Vanliga företagsanvändningsfall för privata assistenter och arbetsflödesstöd
  • Komponenter i en säker lokal AI-arkitektur

Ollama och grunderna i öppna modeller

  • Hur Ollama passar in i en lokal utvecklingsstack
  • Hämta, köra och hantera modeller lokalt
  • Välja modeller baserat på storlek, kvalitet, hårdvara och licens
  • Matcha modellalternativ till praktiska affärsuppgifter

Förbereda on-prem-miljön

  • Förbereda värd, arbetsstation och server
  • Installera och konfigurera Ollama för lokal inferens
  • Använda containrar och intern utvecklingsverktygslåda
  • Bekräfta API-tillgång och grundläggande driftsbereDSKAP

Arbeta effektivt med lokala modeller

  • Köra prompts och forma utdata via systeminstruktioner
  • Ånvända mallar för konsekventa företagsuppgifter
  • Hantera modellversioner och interna artefakter
  • Grundläggande prestandatunadning för CPU- och GPU-driftssättningar

Bygga praktiska agentic arbetsflöden

  • Vad som gör ett arbetsflöde agentic i en kontrollerad miljö
  • Enkla mönster för planering, verktygsanvändning och svarsloopar
  • Designa uppgiftsfokuserade assistenter för interna operationer
  • Lägga till mänsklig granskning, fallback-logik och felhantering

Privata hämtningsarbetsflöden

  • Grunderna i retrieval-augmented generation för intern kunskapsåtkomst
  • Förbereda dokument för chunking, indexering och sökning
  • Ansluta ett lokalt vektorlagringsverktyg till en Ollama-baserad applikation
  • Förbättra relevans och svarskvalitet med bättre hämtningsmönster

Säkerhet, styrning och efterlevnadsmetoder

  • Datahanteringsgränser och integritetsöverväganden
  • Åtkomstkontroll, loggning och auditstöd
  • Prompt-säkerhet, utdata-controlls och guardrails
  • Styrningsmilestones för reglerad driftssättning och operation

Företagsintegrationsmönster

  • Exponera lokala AI-funktioner via interna API:er
  • Koppla assistenter till interna applikationer och tjänster
  • Stödja användningsfall för assistant, batch- och arbetsflödesautomatisering
  • Hålla lösningar inom kontrollerade nätverksgränser

Utvärdera lokala AI-lösningar

  • Bedöm kvalitet, tillförlitlighet och konsistens
  • Testa mot affärs-, policy- och säkerhetskrav
  • Jämför modellalternativ för specifika företagsuppgifter
  • Upprätta en praktisk förbättringscykel för interna team

Praktisk implementationslaboration

  • Bygga en privat assistent med Ollama och en öppen modell
  • Lägga till hämtning över godkända interna dokument
  • Införa enkla agentic handlingar och säkerhetskontroller
  • Granska deployment, operationer och styrningsmilestones

Ettableringsplanering och nästa steg

  • Granska viktiga design- och driftssättningsbeslut
  • Identifiera vanliga fallgropar i reglerade AI-projekt
  • Planera pilotanvändningsfall och intressentaffärsalignement
  • Definiera en roadmap för säker adoption av lokal AI

Krav

  • Grundläggande förståelse för AI-koncept och mjukvaruutveckling
  • Kunskap om kommandoradsverktyg, containrar eller lokala utvecklingsmiljöer
  • Grundläggande erfarenhet av skriptning eller programmering

Målgrupp

  • Utvecklare och tekniska team som bygger privata AI-lösningar på intern infrastruktur
  • Säkerhets-, efterlevnads- och plattformssakkunniga som stödjer AI i reglerade miljöer
  • Tekniska ledare inom finans, hälsovård, statlig förvaltning och försvar som utvärderar adoption av on-prem AI
 21 Timmar

Antal deltagare


Pris per deltagare

Kommande Kurser

Relaterade Kategorier