Kursplan

Introduktion till Fine-Tuning Utmaningar

  • Översikt över finjusteringsprocessen
  • Vanliga utmaningar vid finjustering av stora modeller
  • Förstå effekten av datakvalitet och förbearbetning

Åtgärda obalanser i data

  • Identifiera och analysera obalanser i data
  • Tekniker för att hantera obalanserade datamängder
  • Använda dataförstärkning och syntetisk data

Hantera över- och underanpassning

  • Förstå över- och underanpassning
  • Regulariseringstekniker: L1, L2 och dropout
  • Justera modellens komplexitet och träningens varaktighet

Förbättra modellkonvergensen

  • Diagnostisera konvergensproblem
  • Välja rätt inlärningshastighet och optimerare
  • Implementera scheman för inlärningstakt och uppvärmningar

Felsöka Fine-Tuning pipelines

  • Verktyg för övervakning av utbildningsprocesser
  • Loggning och visualisering av modellmått
  • Felsöka och lösa körningsfel

Optimera träningseffektiviteten

  • Strategier för batchstorlek och gradientackumulering
  • Användning av blandad precisionsträning
  • Distribuerad träning för storskaliga modeller

Fallstudier om felsökning i verkligheten

  • Fallstudie: Finjustering för sentimentanalys
  • Fallstudie: Lösa konvergensproblem i bildklassificering
  • Fallstudie: Att ta itu med överanpassning i textsammanfattning

Sammanfattning och nästa steg

Krav

  • Erfarenhet av ramverk för djupinlärning som PyTorch eller TensorFlow
  • Förståelse för maskininlärningsbegrepp som träning, validering och utvärdering
  • Kunskaper om finjustering av förtränade modeller

Publik

  • Datavetare
  • AI-ingenjörer
 14 timmar

Antal deltagare


Price per participant

Upcoming Courses

Relaterade Kategorier