Kursplan
Introduktion till modelloptimering och distribution
- Översikt över DeepSeek modeller och distributionsutmaningar
- Förstå modellens effektivitet: hastighet vs. noggrannhet
- Nyckelprestandametrar för AI-modeller
Optimera DeepSeek modeller för prestanda
- Tekniker för att minska inferenslatens
- Strategier för modellkvantisering och beskärning
- Att använda optimerade bibliotek för DeepSeek modeller
Implementering av MLOps för DeepSeek modeller
- Versionshantering och modellspårning
- Automatisering av modellåterträning och distribution
- CI/CD-pipelines för AI-applikationer
Distribuera DeepSeek modeller i molnet och lokalt
- Välja rätt infrastruktur för distribution
- Distribuera med Docker och Kubernetes
- Hantera API-åtkomst och autentisering
Skalning och övervakning av AI-distributioner
- Laddbalanseringsstrategier för AI-tjänster
- Övervaka modelldrift och prestandaförsämring
- Implementera automatisk skalning för AI-applikationer
säkerställa säkerhet och efterlevnad i AI-distributioner
- Hantera dataskydd i AI-arbetsflöden
- Efterlevnad av företags AI-föreskrifter
- Bästa praxis för säkra AI-distributioner
Framtida trender och AI-optimeringsstrategier
- Framsteg inom tekniker för optimering av AI-modeller
- Framväxande trender inom MLOps och AI-infrastruktur
- Bygga en AI-distributions roadmap
Sammanfattning och nästa steg
Krav
- Erfarenhet av AI-modellutbud och molninfrastruktur
- Färdighet i ett programmeringsspråk (t.ex. Python, Java, C++)
- Förståelse för MLOps och optimering av modellprestanda
Målgrupp
- AI-tekniker som optimerar och distribuerar DeepSeek modeller
- Dataforskare som arbetar med AI-prestandajustering
- Spezialister på maskininlärning som hanterar molnbaserade AI-system
Vittnesmål (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.