Kom i kontakt
 Varaktighet 21 timmar

Kursplan

Grundläggande kunskaper: Hotmodeller för agentic AI

  • Typer av agentic hot: missbruk, eskalering, dataläckage och risker i leveranskedjan
  • Antagonistprofiller och angriparers förmågor specifika för autonoma agenter
  • Kartläggning av tillgångar, tillitgränser och viktiga kontrollpunkter för agenter

Styrning, policy och riskhantering

  • Styrningsramverk för agentic system (roller, ansvar, godkännandeportar)
  • Policydesign: acceptabelt bruk, eskaleringsregler, datahantering och granskningsbarhet
  • Compliance-överväganden och insamling av bevis för revisioner

Icke-mänsklig identitet och autentisering för agenter

  • Design av identiteter för agenter: tjänstekonton, JWT och kortlivade bevis
  • Mönster för minsta möjliga åtkomst och just-in-time-provisionering av bevis
  • Identitetens livscykel, rotation, delegering och återkallelsestrategier

Åtkomstkontroller, hemligheter och datasäkerhet

  • Finkorniga åtkomstkontrollmodeller och kapabilitetsbaserade mönster för agenter
  • Hemlighetshantering, kryptering under överföring och i viloläge, samt minimering av data
  • Skydd för känsliga källor till kunskap och PII mot obehörig agentåtkomst

Observability, revision och incidenthantering

  • Design av telemetri för agentbeteende: avsiktsspårning, kommandologgar och ursprung
  • Integrering med SIEM, larmgränsvärden och förberedelse för forensik
  • Runbooks och playbooks för agentrelaterade incidenter och containmet

Red-teaming av agentic system

  • Planering av red-teamövningar: omfattning, engagemangsregler och säker failover
  • Antagonistiska tekniker: promptinjektion, missbruk av verktyg, manipulerande chain-of-thought och API-missbruk
  • Genomförande av kontrollerade attacker och mätning av exponering och påverkan

Hårdning och mitigationsåtgärder

  • Teckniska kontroller: svarstrottling, kapabilitetsgating och sandboxning
  • Policy- och orkestreringskontroller: godkännandeflöden, människa-i-loopen och styrningshooks
  • Försvar på modell- och promptnivå: inputvalidering, kanonikalisering och utdatafilter

Operationalisering av säkra agentutrollningar

  • Utrollningsmönster: staging, canary och progressiv utrollning för agenter
  • Ändringskontroll, testpipelines och säkerhetskontroller före utrollning
  • Interfunktionell styrning: playbooks för säkerhet, juridik, produkt och operationer

Capstone: Red-team / Blåteam-övning

  • Genomför en simulerad red-teamattack mot en sandbaxad agentmiljö
  • Försvara, upptäck och åtgärda som blåteam med hjälp av kontroller och telemetri
  • Framläggande av resultat, åtgärdsplan och policyuppdateringar

Sammanfattning och nästa steg

Krav

  • Fast grund i säkerhetsengineering, systemadministration eller molnoperationer
  • Kännedom till AI/ML-koncept och beteende hos stora språkmodeller (LLM)
  • Erfarenhet inom identitet och åtkomsthantering (IAM) samt säker systemdesign

Målgrupp

  • Säkerhetsingenjörer och red-teammedlemmar
  • AI-operationer och plattformstechniker
  • Compliance-chefer och riskhanterare
  • Engineeringledare ansvariga för agentutrollningar

Antal deltagare


Pris per deltagare

Vittnesmål (1)

Kommande Kurser

Relaterade Kategorier