Kursplan
Introduktion till modelloptimering och distribution
- Översikt över DeepSeek modeller och distributionsutmaningar
- Förstå modellens effektivitet: hastighet vs. noggrannhet
- Nyckelprestandametrar för AI-modeller
Optimera DeepSeek modeller för prestanda
- Tekniker för att minska inferenslatens
- Strategier för modellkvantisering och beskärning
- Att använda optimerade bibliotek för DeepSeek modeller
Implementering av MLOps för DeepSeek modeller
- Versionshantering och modellspårning
- Automatisering av modellåterträning och distribution
- CI/CD-pipelines för AI-applikationer
Distribuera DeepSeek modeller i molnet och lokalt
- Välja rätt infrastruktur för distribution
- Distribuera med Docker och Kubernetes
- Hantera API-åtkomst och autentisering
Skalning och övervakning av AI-distributioner
- Laddbalanseringsstrategier för AI-tjänster
- Övervaka modelldrift och prestandaförsämring
- Implementera automatisk skalning för AI-applikationer
säkerställa säkerhet och efterlevnad i AI-distributioner
- Hantera dataskydd i AI-arbetsflöden
- Efterlevnad av företags AI-föreskrifter
- Bästa praxis för säkra AI-distributioner
Framtida trender och AI-optimeringsstrategier
- Framsteg inom tekniker för optimering av AI-modeller
- Framväxande trender inom MLOps och AI-infrastruktur
- Bygga en AI-distributions roadmap
Sammanfattning och nästa steg
Krav
- Erfarenhet av AI-modellutbud och molninfrastruktur
- Färdighet i ett programmeringsspråk (t.ex. Python, Java, C++)
- Förståelse för MLOps och optimering av modellprestanda
Målgrupp
- AI-tekniker som optimerar och distribuerar DeepSeek modeller
- Dataforskare som arbetar med AI-prestandajustering
- Spezialister på maskininlärning som hanterar molnbaserade AI-system
Vittnesmål (2)
ML-ekosystemet omfattar inte bara MLflow utan också Optuna, Hyperopt, Docker och Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maskintolkat
Jag uppskattade att delta i Kubeflow-träningen, som hålls på avstånd. Denna träning möjliggjorde för mig att fastställa min kunskap om AWS-tjänster, K8s och alla devOps-verktyg runt Kubeflow, vilka är de nödvändiga grunderna för att tillämpligt ange ämnet. Jag vill tacka Malawski Marcin för hans tålamod och professionella inställning vid träningen och råd om bästa praxis. Malawski behandlar ämnet från olika perspektiv, med olika distributionsverktyg som Ansible, EKS kubectl och Terraform. Nu är jag säker på att jag går in i rätt tillämpningsområde.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maskintolkat