Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Kursplan
Grunderna i säker lokal AI
- Vad lokal och on-prem AI innebär i reglerade miljöer
- Moln-AI jämfört med intern driftssättning för känsliga arbetslast
- Vanliga företagsanvändningsfall för privata assistenter och arbetsflödesstöd
- Komponenter i en säker lokal AI-arkitektur
Ollama och grunderna i öppna modeller
- Hur Ollama passar in i en lokal utvecklingsstack
- Hämta, köra och hantera modeller lokalt
- Välja modeller baserat på storlek, kvalitet, hårdvara och licens
- Matcha modellalternativ till praktiska affärsuppgifter
Förbereda on-prem-miljön
- Förbereda värd, arbetsstation och server
- Installera och konfigurera Ollama för lokal inferens
- Använda containrar och intern utvecklingsverktygslåda
- Bekräfta API-tillgång och grundläggande driftsbereDSKAP
Arbeta effektivt med lokala modeller
- Köra prompts och forma utdata via systeminstruktioner
- Ånvända mallar för konsekventa företagsuppgifter
- Hantera modellversioner och interna artefakter
- Grundläggande prestandatunadning för CPU- och GPU-driftssättningar
Bygga praktiska agentic arbetsflöden
- Vad som gör ett arbetsflöde agentic i en kontrollerad miljö
- Enkla mönster för planering, verktygsanvändning och svarsloopar
- Designa uppgiftsfokuserade assistenter för interna operationer
- Lägga till mänsklig granskning, fallback-logik och felhantering
Privata hämtningsarbetsflöden
- Grunderna i retrieval-augmented generation för intern kunskapsåtkomst
- Förbereda dokument för chunking, indexering och sökning
- Ansluta ett lokalt vektorlagringsverktyg till en Ollama-baserad applikation
- Förbättra relevans och svarskvalitet med bättre hämtningsmönster
Säkerhet, styrning och efterlevnadsmetoder
- Datahanteringsgränser och integritetsöverväganden
- Åtkomstkontroll, loggning och auditstöd
- Prompt-säkerhet, utdata-controlls och guardrails
- Styrningsmilestones för reglerad driftssättning och operation
Företagsintegrationsmönster
- Exponera lokala AI-funktioner via interna API:er
- Koppla assistenter till interna applikationer och tjänster
- Stödja användningsfall för assistant, batch- och arbetsflödesautomatisering
- Hålla lösningar inom kontrollerade nätverksgränser
Utvärdera lokala AI-lösningar
- Bedöm kvalitet, tillförlitlighet och konsistens
- Testa mot affärs-, policy- och säkerhetskrav
- Jämför modellalternativ för specifika företagsuppgifter
- Upprätta en praktisk förbättringscykel för interna team
Praktisk implementationslaboration
- Bygga en privat assistent med Ollama och en öppen modell
- Lägga till hämtning över godkända interna dokument
- Införa enkla agentic handlingar och säkerhetskontroller
- Granska deployment, operationer och styrningsmilestones
Ettableringsplanering och nästa steg
- Granska viktiga design- och driftssättningsbeslut
- Identifiera vanliga fallgropar i reglerade AI-projekt
- Planera pilotanvändningsfall och intressentaffärsalignement
- Definiera en roadmap för säker adoption av lokal AI
Krav
- Grundläggande förståelse för AI-koncept och mjukvaruutveckling
- Kunskap om kommandoradsverktyg, containrar eller lokala utvecklingsmiljöer
- Grundläggande erfarenhet av skriptning eller programmering
Målgrupp
- Utvecklare och tekniska team som bygger privata AI-lösningar på intern infrastruktur
- Säkerhets-, efterlevnads- och plattformssakkunniga som stödjer AI i reglerade miljöer
- Tekniska ledare inom finans, hälsovård, statlig förvaltning och försvar som utvärderar adoption av on-prem AI
21 Timmar