Kursplan

Introduktion till QLoRA och Kvantisering

  • Översikt över kvantisering och dess roll i modelloptimering.
  • Introduktion till QLoRA-ramverket och dess fördelar.
  • Huvudsakliga skillnader mellan QLoRA och traditionella finjusteringsmetoder.

Fundament för Stora Språkmodeller (LLMs)

  • Introduktion till LLMs och deras arkitektur.
  • Utmaningar med att finjustera stora modeller i stor skala.
  • Hur kvantisering hjälper till att övervinna beräkningsbegränsningar vid finjustering av LLMs.

Implementering av QLoRA för Finjustering av LLMs

  • Sätt upp QLoRA-ramverket och miljön.
  • Förbered datauppsättningar för QLoRA-finjustering.
  • Steg-för-steg-guide till implementering av QLoRA på LLMs med Python och PyTorch/TensorFlow.

Optimering av Finjusteringsprestanda med QLoRA

  • Hur man balanserar modellens noggrannhet och prestanda med kvantisering.
  • Tekniker för att minska beräkningskostnader och minnesanvändning under finjustering.
  • Strategier för finjustering med minimala hårdvarukrav.

Utvärdering av Finjusterade Modeller

  • Hur man bedömer effektiviteten hos finjusterade modeller.
  • Vanliga utvärdningsmått för språkmodeller.
  • Optimering av modellens prestanda efter finjustering och felsökning av problem.

Distribuera och Skalera Finjusterade Modeller

  • Bästa praxis för att distribuera kvantisera LLMs i produktionsmiljöer.
  • Skala distributionen för att hantera realtidsförfrågningar.
  • Verktyg och ramverk för modellens distribution och övervakning.

Praktiska Exempel och Fallstudier

  • Fallstudie: Finjustering av LLMs för kundtjänst och NLP-uppgifter.
  • Exempel på finjustering av LLMs i olika branscher som hälso- och sjukvård, ekonomi och e-handel.
  • Lärdomar från praktiska distributioner av QLoRA-baserade modeller.

Sammanfattning och Nästa Steg

Krav

  • Ett förstående för grundläggande maskininlärning och neuronnät.
  • Erfarenhet av modelfinjustering och överföringsinlärning.
  • Familiaritet med stora språkmodeller (LLMs) och djupinlärningsramverk (t.ex., PyTorch, TensorFlow).

Målgrupp

  • Maskininlärningsingenjörer
  • AI-utvecklare
  • Datawissenschaftler
 14 timmar

Antal deltagare


Pris per deltagare

Kommande Kurser

Relaterade Kategorier