Kursplan
Inledning till modelloptimering och distribution
- Översikt över DeepSeek-modeller och utmaningar med distribution
- Förståelse av modellprestanda: hastighet kontra noggrannhet
- Viktiga prestandamått för AI-modeller
Optimering av DeepSeek-modeller för prestanda
- Metoder för att minska inferenslatens
- Strategier för modellkvantisering och beskärning
- Användning av optimerade bibliotek för DeepSeek-modeller
Implementering av MLOps för DeepSeek-modeller
- Versionskontroll och spårning av modeller
- Automatisering av modellåterträning och distribution
- CI/CD-pipeliner för AI-applikationer
Distribution av DeepSeek-modeller i moln- och lokala miljöer
- Välja rätt infrastruktur för distribution
- Distribution med Docker och Kubernetes
- Hantering av API-åtkomst och autentisering
Skalning och övervakning av AI-distributioner
- Lastbalanseringsstrategier för AI-tjänster
- Övervakning av modellförändringar och prestandaförsämring
- Implementering av automatisk skalning för AI-applikationer
Säkerhet och efterlevnad i AI-distributioner
- Hantering av datatäthet i AI-arbetsflöden
- Efterlevnad av företagsspecifika AI-föreskrifter
- Bästa praxis för säkra AI-distributioner
Framtidstrender och optimeringsstrategier för AI
- Utveckling inom optimeringsteknik för AI-modeller
- Uppkommande trender inom MLOps och AI-infrastruktur
- Bygga en karta för AI-distribution
Sammanfattning och nästa steg
Krav
- Erfarenhet av AI-modelldistribution och molninfrastruktur
- Kunskap i ett programmeringsspråk (t.ex. Python, Java, C++)
- Förståelse för MLOps och optimering av modellprestanda
Målgrupp
- AI-ingenjörer som optimerar och distribuerar DeepSeek-modeller
- Datavetare som arbetar med AI-prestandaanpassning
- Maskininlärningsspecialister som hanterar molnbaserade AI-system
Vittnesmål (2)
ML-ekosystemet omfattar inte bara MLflow utan också Optuna, Hyperopt, Docker och Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maskintolkat
Jag uppskattade att delta i Kubeflow-träningen, som hålls på avstånd. Denna träning möjliggjorde för mig att fastställa min kunskap om AWS-tjänster, K8s och alla devOps-verktyg runt Kubeflow, vilka är de nödvändiga grunderna för att tillämpligt ange ämnet. Jag vill tacka Malawski Marcin för hans tålamod och professionella inställning vid träningen och råd om bästa praxis. Malawski behandlar ämnet från olika perspektiv, med olika distributionsverktyg som Ansible, EKS kubectl och Terraform. Nu är jag säker på att jag går in i rätt tillämpningsområde.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maskintolkat
