Kursplan
Introduktion till säkerhet i TinyML
- Säkerhetsutmaningar i resursbegränsade ML-system
- Hotmodeller för TinyML-distributioner
- Riskkategorier för inbäddade AI-tilämpningar
Dataintegritet i AI i kanten
- Integritetsoverväganden för databearbetning på enheten
- Minimera dataexponering och överföringar
- Te kniker för decentraliserad datahantering
Antagonistiska attacker på TinyML-modeller
- Hot om modellundvikande och förgiftning
- Manipulation av inmatning på inbäddade sensorer
- Bedömning av sårbarhet i begränsade miljöer
Säkerhetsförstärkning för inbäddad ML
- Firmware- och hårdvaruskyddslag
- Tillgångskontroll och säkra startmekanismer
- Bästa praxis för att skydda slutningspipeline
Te kniker för bevarande av integritet i TinyML
- Kvantifiering och överväganden kring modelldesign för integritet
- Te kniker för anonymisering på enheten
- Lättviktsskydd och metoder för säker beräkning
Säker distribution och underhåll
- Säker tillhandahållande av TinyML-enheter
- OTA-uppdateringar och patchstrategier
- Övervakning och incidenthantering i kanten
Testning och verifiering av säkra TinyML-system
- Testramverk för säkerhet och integritet
- Simulering av verkliga angreppsscenarier
- Verifierings- och efterlevnadsoverväganden
Case Studies och tillämpade scenarier
- Säkerhetsfel i AI-ökosystem i kanten
- Design av robusta TinyML-arkitekturer
- Utvärdering av avvägningar mellan prestanda och skydd
Sammanfattning och nästa steg
Krav
- Förståelse för inbäddade systemarkitekturer
- Upplevelse med maskininlärningsarbetsflöden
- Kunskap om grundläggande cybersäkerhet
Målgrupp
- Säkerhetsanalytiker
- AI-utvecklare
- Inbäddade ingenjörer
Vittnesmål (3)
inventering och identifiering av de olika riskexpositionerna inom AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskintolkat
Jag tyckte verkligen om att lära mig om AI-anfall och de verktyg som finns för att börja praktisera och aktivt använda inom säkerhetstestning. Jag tog med mig mycket kunskap som jag inte hade i början, och kursen uppfyllde mina förväntningar. Min favoritdel från utbildningen var Comet Browser, och jag var verkligen imponerad över vad den kunde göra. Det kommer definitivt att vara något jag undersöker mer. Sammanfattningsvis var det en fantastisk kurs, och jag njöt av att lära mig alla OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskintolkat
Den professionella kunskapen och hur han presenterade den för oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskintolkat