Deployering och optimering av LLMs med Ollama Träningskurs
Ollama erbjuder ett effektivt sätt att distribuera och köra stora språkmodeller (LLMs) lokalt eller i produktionsmiljöer, med möjlighet att kontrollera prestanda, kostnad och säkerhet.
Denna instruktörsledda, live-utbildning (online eller på plats) är avsedd för yrkesverksamma på mellannivå som vill distribuera, optimera och integrera LLMs med hjälp av Ollama.
I slutet av utbildningen kommer deltagarna att kunna:
- Konfigurera och distribuera LLMs med hjälp av Ollama.
- Optimera AI-modeller för prestanda och effektivitet.
- Utnyttja GPU-acceleration för förbättrade inferenshastigheter.
- Integrera Ollama i arbetsflöden och applikationer.
- Övervaka och underhålla AI-modellens prestanda över tid.
Kursens format
- Interaktiv föreläsning och diskussion.
- Många övningar och praktiska moment.
- Hands-on-implementering i en live-lab-miljö.
Anpassningsmöjligheter för kursen
- För att begära en anpassad utbildning för denna kurs, vänligen kontakta oss för att ordna.
Kursplan
Introduktion till Ollama för LLM-distribution
- Översikt över Ollama:s funktioner
- Fördelar med lokal AI-modell-distribution
- Jämförelse med molnbaserade AI-hosterlösningar
Konfigurera distributionsmiljön
- Installera Ollama och nödvändiga beroenden
- Konfigurera hårdvara och GPU-acceleration
- Docker-anpassning av Ollama för skalbara distributioner
Distribuera LLM med Ollama
- Ladda och hantera AI-modeller
- Distribuera Llama 3, DeepSeek, Mistral och andra modeller
- Skapa API:er och slutpunkter för AI-modelltillgång
Optimera LLM-prestanda
- Finjustera modeller för effektivitet
- Minska latens och förbättra svarstider
- Hantera minne och resurstilldelning
Integrera Ollama i AI-arbetsflöden
- Anslut Ollama till applikationer och tjänster
- Automatisera AI-drivna processer
- Använda Ollama i edge computing-miljöer
Övervakning och underhåll
- Spåra prestanda och felsöka problem
- Uppdatera och hantera AI-modeller
- Säkerställa säkerhet och efterlevnad i AI-distributioner
Skalning av AI-modell-distributioner
- Bästa praxis för att hantera höga arbetsbelastningar
- Skala Ollama för företagsanvändning
- Framtida framsteg inom lokal AI-modell-distribution
Sammanfattning och nästa steg
Krav
- Grundläggande erfarenhet av maskininlärning och AI-modeller
- Förtrogenhet med kommandoradsgränssnitt och skriptning
- Förståelse för distributionsmiljöer (lokal, edge, moln)
Målgrupp
- AI-ingenjörer som optimerar lokala och molnbaserade AI-distributioner
- ML-praktiker som distribuerar och finjusterar LLM:er
- DevOps-specialister som hanterar integrering av AI-modeller
Öppna Utbildningskurser kräver 5+ deltagare.
Deployering och optimering av LLMs med Ollama Träningskurs - Bokning
Deployering och optimering av LLMs med Ollama Träningskurs - Fråga
Deployering och optimering av LLMs med Ollama - Konsultfråga
Konsultfråga
Kommande Kurser
Relaterade Kurser
Avancerad Ollama Model Debugging & Evaluation
35 timmarAdvanced Ollama Model Debugging & Evaluation är en djupgående kurs som fokuserar på diagnostik, testning och mätning av modellbeteende när lokala eller privata Ollama-uppsättningar körs.
Denna lärare-ledda, liveutbildning (online eller på plats) riktar sig till AI-ingenjörer på avancerad nivå, ML Ops-professionella och QA-praktiker som vill säkerställa pålitlighet, trohet och operativ beredskap för Ollama-baserade modeller i produktion.
Vid kursens slut kommer deltagarna att kunna:
- Utföra systematiskt felsökning av Ollama-värdade modeller och reproducera felmödrar tillförlitligt.
- Designa och genomföra robusta utvärderingsflöden med kvantitativa och kvalitativa mätvärden.
- Implementera observabilitet (loggar, spår, mätvärden) för att övervaka modellens hälsa och förskjutning.
- Automatisera testning, validering och regressionskontroller integrerade i CI/CD-flöden.
Kursformat
- Interaktiva föreläsningar och diskussioner.
- Hands-on-laborationer och felsökningsövningar med Ollama-uppsättningar.
- Fallstudier, gruppfelsökningssessioner och automatiseringsworkshops.
Alternativ för kursanpassning
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att ordna.
Bygga privata AI-arbetsflöden med Ollama
14 timmarDetta instruktörsledda, liveutbildning i Sverige (online eller på plats) är riktat till avancerade professionella som vill implementera säkra och effektiva AI-drivna arbetsflöden med Ollama.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Distribuera och konfigurera Ollama för privat AI-behandling.
- Integrera AI-modeller i säkra företagsarbetsflöden.
- Optimerar AI-prestanda samtidigt som de bevarar datasekretess.
- Automatisera företagsprocesser med lokala AI-förmågor.
- Säkerställa efterlevnad av företags säkerhets- och styrningspolicyer.
Finjustering och anpassning av AI-modeller på Ollama
14 timmarDetta instruktörsledda, liveutbildning i Sverige (online eller på plats) är riktat till avancerade professionella som önskar finjustera och anpassa AI-modeller på Ollama för förbättrad prestanda och domän-specifika tillämpningar.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Ställa in en effektiv miljö för finjustering av AI-modeller på Ollama.
- Förbereda dataset för övervakad finjustering och styrkt lärande.
- Optimera AI-modeller för prestanda, noggrannhet och effektivitet.
- Distribuera anpassade modeller i produktionsmiljöer.
- Utvärdera modellförbättringar och säkerställa robusthet.
Multimodal Applications with Ollama
21 timmarOllama är en plattform som möjliggör körning och finjustering av stora språk- och multimodella modeller lokalt.
Denna instruktörsledda, levande träning (online eller på plats) riktar sig till avancerade ML-ingenjörer, AI-forskare och produktutvecklare som vill bygga och distribuera multimodella applikationer med Ollama.
Vid kursens slut kommer deltagarna att kunna:
- Installera och köra multimodella modeller med Ollama.
- Integrera text, bild och ljudinmatningar för verkliga applikationer.
- Bygga dokumentförståelse och visuella QA-system.
- Utveckla multimodella agenter som kan resonera över modaliteter.
Kursens format
- Interaktiv föreläsning och diskussion.
- Praktisk övning med riktiga multimodella datamängder.
- Live-lab implementation av multimodella pipeline med Ollama.
Kursanpassningsalternativ
- För att begära en anpassad träning för denna kurs, vänligen kontakta oss för att ordna.
Kom igång med Ollama: Köra lokala AI-modeller
7 timmarDenna instruktörsvägleda, live-träning i Sverige (online eller på plats) riktas till nybörjare som vill installera, konfigurera och använda Ollama för att köra AI-modeller på sina lokala maskiner.
Till slutet av denna träning kommer deltagarna att kunna:
- Förstå grunderna i Ollama och dess möjligheter.
- Konfigurera Ollama för att köra lokala AI-modeller.
- Distribuera och interagera med LLMs med hjälp av Ollama.
- Optimera prestanda och resursanvändning för AI-arbetsbelastningar.
- Utforska användningsfall för lokala AI-distributioner i olika branscher.
Ollama & Data Privacy: Säkra Deployeringsmönster
14 timmarOllama är en plattform som möjliggör körning av stora språk- och multimodalmodeller lokalt samtidigt som säkra distribueringsstrategier stöds.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till professionella på mellannivå som vill distribuera Ollama med starka åtgärder för datasekretess och regelbundenhet.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Distribuera Ollama säkert i containeriserade och on-prem-miljöer.
- Använda differentierad sekretess för att skydda känslig data.
- Implementera säkra loggning, övervakning och granskning av praktiker.
- Genomföra dataåtkomstkontroll som är anpassad till regelbundenhetskrav.
Utbildningens Format
- Interaktiv föreläsning och diskussion.
- Hands-on-labb med säkra distribueringsmönster.
- Fallsstudier och praktiska övningar med fokus på regelbundenhet.
Alternativ för anpassning av kurs
- För att begära en anpassad utbildning för denna kurs, vänligen kontakta oss för att boka.
Ollama-programmering i finans
14 timmarOllama är en lätthållen plattform för att köra stora språkmodeller lokalt.
Denna instruktörsledd, liveutbildning (online eller på plats) riktar sig till mellannivåfinanspraktiker och IT-personal som vill implementera, anpassa och driftsätta AI-lösningar baserade på Ollama i finansiella miljöer.
Genom att slutföra denna utbildning kommer deltagarna att få de kunskaper som krävs för att:
- Distribuera och konfigurera Ollama för säker användning i finansiella operationer.
- Integrera lokala LLM:ar i analytiska och rapporteringsarbetsflöden.
- Anpassa modeller till finansspecifik terminologi och uppgifter.
- Tillämpa säkerhets-, integritets- och compliancebästa praxis.
Kursformat
- Interaktiv föreläsning och diskussion.
- Praktiska övningar med finansiell data.
- Live-lab implementering av finansfokuserade scenarier.
Kursanpassningsalternativ
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att boka.
Ollama-programmering i hälso- och sjukvården
14 timmarOllama är en lättviktd plattform för att köra stora språkmodeller lokalt.
Detta instruktörsguidade, levande utbildning (online eller på plats) riktas till mellannivån hälso- och sjukvårdspraktiker och IT-team som vill distribuera, anpassa och operativisera Ollama-baserade AI-lösningar inom kliniska och administrativa miljöer.
Efter att ha slutfört denna utbildning kommer deltagarna att kunna:
- Installera och konfigurera Ollama för säker användning inom hälso- och sjukvård.
- Integrera lokala LLMs i kliniska arbetsflöden och administrativa processer.
- Anpassa modeller för hälso- och sjukvårds-specifik terminologi och uppgifter.
- Tillämpa bästa praxis för integritet, säkerhet och regelverkskompatibilitet.
Kursformat
- Interaktiv föreläsning och diskussion.
- Praktiska demonstationer och vägledande övningar.
- Praktiskt implementering i en saniterad hälso- och sjukvårdsimuleringsmiljö.
Kursanpassningsalternativ
- För att begära en anpassad utbildning för denna kurs, kontakta oss för att boka.
Ollama för Ansvarsfull AI och Styrning
14 timmarOllama är en plattform för att köra stora språkoch multimodalmodeller lokalt, med stöd för styrning och ansvarsfull AI-praxis.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till yrkesverksamma på mellan- till avancerad nivå som vill implementera rättvisa, öppenhet och ansvar i Ollama-drivna applikationer.
Vid utbildningens slut kommer deltagarna att kunna:
- Använda principer för ansvarsfull AI i Ollama-implementeringar.
- Implementera strategier för innehållsfiltering och minskning av fördomar.
- Utforma styrningsarbetsflöden för AI-alignment och revisionsberedskap.
- Upprätta övervaknings- och rapporteringsramverk för överensstämmelse.
Utbildningens format
- Interaktiv föreläsning och diskussion.
- Praktiska laborationer för utformning av styrningsarbetsflöden.
- Fallstudier och övningar med fokus på överensstämmelse.
Alternativ för anpassning av utbildningen
- För att begära en anpassad utbildning för den här kursen, kontakta oss för att ordna.
Ollama Skalning & Infrastrukturoptimering
21 timmarOllama är en plattform för att köra stora språk- och multimodalmodeller lokalt och i stor skala.
Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till ingenjörer på mellan- till avancerad nivå som vill skalera Ollama-utplaceringar för fleranvändarmiljöer med hög genomströmning och kostnadseffektivitet.
Efter denna utbildning kommer deltagarna att kunna:
- Konfigurera Ollama för fleranvändar- och distribuerade arbetsbelastningar.
- Optimerade resursallokeringen för GPU och CPU.
- Implementera autoskalnings-, batch- och lativitetsreduceringsstrategier.
- Övervaka och optimera infrastrukturen för prestanda och kostnadseffektivitet.
Formatet på kursen
- Interaktiv föreläsning och diskussion.
- Hands-on-deployering och skalningslabb.
- Praktiska optimeringsövningar i live-miljöer.
Kursanpassningsalternativ
- För att begära en anpassad utbildning för denna kurs, vänligen kontakta oss för att arrangera.
Prompt Engineering Mastery with Ollama
14 timmarOllama är en plattform som möjliggör körning av stora språk- och multimodalmodeller lokalt.
Denna instruktörsledda, levande utbildning (online eller på plats) riktar sig till praktiker på mellannivå som vill mästra prompt engineering-tekniker för att optimera Ollama-utdata.
Vid slutet av denna utbildning kommer deltagarna att kunna:
- Skapa effektiva prompts för olika användningsfall.
- Använda tekniker som priming och chain-of-thought-strukturering.
- Implementera prompt-mallar och strategier för hantering av kontext.
- Bygga flerstegsprompting-pipelines för komplexa arbetsflöden.
Utbildningsformat
- Interaktiv föreläsning och diskussion.
- Hands-on-övningar med promptdesign.
- Praktisk implementation i en live-lab-miljö.
Alternativ för anpassning av kursen
- För att begära en anpassad utbildning för denna kurs, vänligen kontakta oss för att ordna.