Kom i kontakt

Kursplan

Introduktion till Ollama för LLM-distribution

  • Översikt över Ollamas funktioner
  • Fördelar med lokal AI-modelldistribution
  • Jämförelse med molnbaserade AI-hostningslösningar

Ställa in distributionsmiljön

  • Installera Ollama och nödvändiga beroenden
  • Konfigurera hårdvara och GPU-acceleration
  • Dockerisera Ollama för skalbara distributioner

Distribuera LLM med Ollama

  • Ladda och hantera AI-modeller
  • Distribuera Llama 3, DeepSeek, Mistral och andra modeller
  • Skapa API:er och slutpunkter för tillgång till AI-modeller

Optimera LLM-prestanda

  • Finjustera modeller för effektivitet
  • Minska latens och förbättra svars tid
  • Hantera minnes- och resursallokering

Integrera Ollama i AI-arbetsflöden

  • Koppla Ollama till applikationer och tjänster
  • Automatisera AI-drivna processer
  • Använda Ollama i edge computing-miljöer

Övervakning och underhåll

  • Följa prestanda och felsöka problem
  • Uppdatera och hantera AI-modeller
  • Säkerställa säkerhet och efterlevnad vid AI-distributioner

Skala AI-modelldistributioner

  • Bästa praxis för hantering av höga arbetsbelastningar
  • Skala Ollama för företagsanvändningsområden
  • Främstande utvecklingar inom lokal AI-modelldistribution

Sammanfattning och nästa steg

Krav

  • Grundläggande erfarenhet av maskininlärning och AI-modeller
  • Kunskap om kommandoradsgränssnitt och skriptning
  • Insikt i distributionsmiljöer (lokal, kant, moln)

Målgrupp

  • AI-ingenjörer som optimerar lokala och molnbaserade AI-distributioner
  • ML-praktiker som distribuerar och finjusterar LLM
  • DevOps-specialister som hanterar integration av AI-modeller
 14 Timmar

Antal deltagare


Pris per deltagare

Kommande Kurser

Relaterade Kategorier