Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Varaktighet 21 timmar
Kursplan
Grunderna i säker lokal AI
- Vad lokal och on-prem AI innebär i reglerade miljöer
- Moln-AI jämfört med intern driftssättning för känsliga arbetslast
- Vanliga företagsanvändningsfall för privata assistenter och arbetsflödesstöd
- Komponenter i en säker lokal AI-arkitektur
Ollama och grunderna i öppna modeller
- Hur Ollama passar in i en lokal utvecklingsstack
- Hämta, köra och hantera modeller lokalt
- Välja modeller baserat på storlek, kvalitet, hårdvara och licens
- Matcha modellalternativ till praktiska affärsuppgifter
Förbereda on-prem-miljön
- Förbereda värd, arbetsstation och server
- Installera och konfigurera Ollama för lokal inferens
- Använda containrar och intern utvecklingsverktygslåda
- Bekräfta API-tillgång och grundläggande driftsbereDSKAP
Arbeta effektivt med lokala modeller
- Köra prompts och forma utdata via systeminstruktioner
- Ånvända mallar för konsekventa företagsuppgifter
- Hantera modellversioner och interna artefakter
- Grundläggande prestandatunadning för CPU- och GPU-driftssättningar
Bygga praktiska agentic arbetsflöden
- Vad som gör ett arbetsflöde agentic i en kontrollerad miljö
- Enkla mönster för planering, verktygsanvändning och svarsloopar
- Designa uppgiftsfokuserade assistenter för interna operationer
- Lägga till mänsklig granskning, fallback-logik och felhantering
Privata hämtningsarbetsflöden
- Grunderna i retrieval-augmented generation för intern kunskapsåtkomst
- Förbereda dokument för chunking, indexering och sökning
- Ansluta ett lokalt vektorlagringsverktyg till en Ollama-baserad applikation
- Förbättra relevans och svarskvalitet med bättre hämtningsmönster
Säkerhet, styrning och efterlevnadsmetoder
- Datahanteringsgränser och integritetsöverväganden
- Åtkomstkontroll, loggning och auditstöd
- Prompt-säkerhet, utdata-controlls och guardrails
- Styrningsmilestones för reglerad driftssättning och operation
Företagsintegrationsmönster
- Exponera lokala AI-funktioner via interna API:er
- Koppla assistenter till interna applikationer och tjänster
- Stödja användningsfall för assistant, batch- och arbetsflödesautomatisering
- Hålla lösningar inom kontrollerade nätverksgränser
Utvärdera lokala AI-lösningar
- Bedöm kvalitet, tillförlitlighet och konsistens
- Testa mot affärs-, policy- och säkerhetskrav
- Jämför modellalternativ för specifika företagsuppgifter
- Upprätta en praktisk förbättringscykel för interna team
Praktisk implementationslaboration
- Bygga en privat assistent med Ollama och en öppen modell
- Lägga till hämtning över godkända interna dokument
- Införa enkla agentic handlingar och säkerhetskontroller
- Granska deployment, operationer och styrningsmilestones
Ettableringsplanering och nästa steg
- Granska viktiga design- och driftssättningsbeslut
- Identifiera vanliga fallgropar i reglerade AI-projekt
- Planera pilotanvändningsfall och intressentaffärsalignement
- Definiera en roadmap för säker adoption av lokal AI
Krav
- Grundläggande förståelse för AI-koncept och mjukvaruutveckling
- Kunskap om kommandoradsverktyg, containrar eller lokala utvecklingsmiljöer
- Grundläggande erfarenhet av skriptning eller programmering
Målgrupp
- Utvecklare och tekniska team som bygger privata AI-lösningar på intern infrastruktur
- Säkerhets-, efterlevnads- och plattformssakkunniga som stödjer AI i reglerade miljöer
- Tekniska ledare inom finans, hälsovård, statlig förvaltning och försvar som utvärderar adoption av on-prem AI
