Kursplan

Introduktion till Retrieval-Augmented Generation (RAG)

  • Vad är RAG och varför det är viktigt för företags AI
  • Komponenter i ett RAG-system: retriever, generator, dokumentlager
  • Jämförelse med fristående LLMs och vektorsökning

Installation av en RAG-Pipeline

  • Installation och konfiguration av Haystack eller liknande ramverk
  • Inmatning och förbehandling av dokument
  • Anslutning av retrievers till vektordatabaser (t.ex., FAISS, Pinecone)

Fine-Tuning Retrivern

  • Träning av täta retrievers med domänspecifika data
  • Användning av meningstransformatorer och kontrastivt lärande
  • Utvärdering av retrieverns kvalitet med top-k noggrannhet

Fine-Tuning Generatorn

  • Val av basmodeller (t.ex., BART, T5, FLAN-T5)
  • Instruktionstuning mot övervakad finjustering
  • LoRA- och PEFT-metoder för effektiva uppdateringar

Utvärdering och Optimerings

  • Mått för att utvärdera RAG-prestanda (t.ex., BLEU, EM, F1)
  • Latens, retrieverkvalitet och reduktion av hallucinationer
  • Experimentspårning och iterativ förbättring

Distribution och Integration i Verkliga Applikationer

  • Distribution av RAG i interna sökmotorer och chatbotar
  • Säkerhet, dataåtkomst och styrningsöverväganden
  • Integration med API:er, instrumentpaneler eller kunskapsportaler

Fallstudier och Bäst Praktiker

  • Företagsanvändningsfall inom finans, hälso- och sjukvård och juridik
  • Hantering av domänförskjutning och uppdateringar av kunskapsbasen
  • Framtida riktningar inom retrieval-augmenterade LLM-system

Sammanfattning och Nästa Steg

Krav

  • Förståelse för naturliga språkbearbetnings (NLP) begrepp
  • Erfarenhet av transformerbaserade språkmodeller
  • Kännedom om Python och grundläggande maskininlärningsarbetsflöden

Målgrupp

  • NLP-ingenjörer
  • Kunskapsförvaltningsgrupper
 14 timmar

Antal deltagare


Price per participant

Upcoming Courses

Relaterade Kategorier