Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Varaktighet 21 timmar
Kursplan
Grundläggande kunskaper: Hotmodeller för agentic AI
- Typer av agentic hot: missbruk, eskalering, dataläckage och risker i leveranskedjan
- Antagonistprofiller och angriparers förmågor specifika för autonoma agenter
- Kartläggning av tillgångar, tillitgränser och viktiga kontrollpunkter för agenter
Styrning, policy och riskhantering
- Styrningsramverk för agentic system (roller, ansvar, godkännandeportar)
- Policydesign: acceptabelt bruk, eskaleringsregler, datahantering och granskningsbarhet
- Compliance-överväganden och insamling av bevis för revisioner
Icke-mänsklig identitet och autentisering för agenter
- Design av identiteter för agenter: tjänstekonton, JWT och kortlivade bevis
- Mönster för minsta möjliga åtkomst och just-in-time-provisionering av bevis
- Identitetens livscykel, rotation, delegering och återkallelsestrategier
Åtkomstkontroller, hemligheter och datasäkerhet
- Finkorniga åtkomstkontrollmodeller och kapabilitetsbaserade mönster för agenter
- Hemlighetshantering, kryptering under överföring och i viloläge, samt minimering av data
- Skydd för känsliga källor till kunskap och PII mot obehörig agentåtkomst
Observability, revision och incidenthantering
- Design av telemetri för agentbeteende: avsiktsspårning, kommandologgar och ursprung
- Integrering med SIEM, larmgränsvärden och förberedelse för forensik
- Runbooks och playbooks för agentrelaterade incidenter och containmet
Red-teaming av agentic system
- Planering av red-teamövningar: omfattning, engagemangsregler och säker failover
- Antagonistiska tekniker: promptinjektion, missbruk av verktyg, manipulerande chain-of-thought och API-missbruk
- Genomförande av kontrollerade attacker och mätning av exponering och påverkan
Hårdning och mitigationsåtgärder
- Teckniska kontroller: svarstrottling, kapabilitetsgating och sandboxning
- Policy- och orkestreringskontroller: godkännandeflöden, människa-i-loopen och styrningshooks
- Försvar på modell- och promptnivå: inputvalidering, kanonikalisering och utdatafilter
Operationalisering av säkra agentutrollningar
- Utrollningsmönster: staging, canary och progressiv utrollning för agenter
- Ändringskontroll, testpipelines och säkerhetskontroller före utrollning
- Interfunktionell styrning: playbooks för säkerhet, juridik, produkt och operationer
Capstone: Red-team / Blåteam-övning
- Genomför en simulerad red-teamattack mot en sandbaxad agentmiljö
- Försvara, upptäck och åtgärda som blåteam med hjälp av kontroller och telemetri
- Framläggande av resultat, åtgärdsplan och policyuppdateringar
Sammanfattning och nästa steg
Krav
- Fast grund i säkerhetsengineering, systemadministration eller molnoperationer
- Kännedom till AI/ML-koncept och beteende hos stora språkmodeller (LLM)
- Erfarenhet inom identitet och åtkomsthantering (IAM) samt säker systemdesign
Målgrupp
- Säkerhetsingenjörer och red-teammedlemmar
- AI-operationer och plattformstechniker
- Compliance-chefer och riskhanterare
- Engineeringledare ansvariga för agentutrollningar
Vittnesmål (1)
inventering och identifiering av de olika riskexpositionerna inom AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskintolkat