Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Varaktighet 14 timmar
Kursplan
AI-hotlandskapet
- Variationen i AI-säkerhet: icke-determinism, opaque reasoning, prompt som attack surface
- Attack-taxonomi: training-time vs inference-time vs supply chain attacker
- ML-adversary model: vem attackerar AI-system och varför
OWASP Top 10 för LLM-applikationer
- Prompt-injection: direkta och indirekta attack-vectors
- Insecure output handling och cross-plugin request forgery
- Training data poisoning och supply chain sårbarheter
- Model denial of service, sensitive information disclosure och excessive agency
- Hands-on lab: exploiting varje OWASP-kategori mot en test-applikation
Prompt-injection och jailbreak red-teaming
- Injection-tekniker taxonomi: direkt, indirekt, multi-turn och multi-modal
- Automated red-teaming med Giskard, Garak och custom-fuzzing-verktyg
- Jailbreak-klassificering och defense evaluation
- Bygga en red-team-harness för kontinuerlig LLM-säkerhet testing
Modell-nivå attacker och försvar
- Model extraction: stjäla model weights och funktionality via API-queries
- Membership inference: avgöra om data var i training-set
- Adversarial examples: perturbationer som bluffar classifiers och embeddings
- Data poisoning: corrupting training-data för att inducera backdoors eller degrade prestanda
Input- och output-säkerhetskontroller
- Input-sanitization bortom traditionell web-säkerhet
- Output-filtering: toxicity, PII-leakage, hallucinated code execution
- Guardrails som säkerhets-infrastruktur: NeMo, Guardrails AI och custom-politik
- Structured output enforcement som en security boundary
AI-leverantörskedjesäkerhet
- Model-provenance: verifiera model autenticitet och integrity
- Dependency scanning för ML-frameworks och model-formats
- Säker model-serving: sandboxing, network isolation och least-privilege access
- Vetting fine-tuned and community models för embedded malware
Operativ säkerhet för AI-system
- Access control för model endpoints, vector stores och agent tools
- Audit logging för varje model-interaktion och decision
- Incident response för AI-specifika breaches: när modellen själv är komprometterad
- Kontinuerlig security testing i CI/CD för ML-pipelines
Bygga ett AI-säkerhetsprogram
- AI-security maturity model och roadmap
- Integrera AI-säkerhet i existing AppSec- och cloud-säkerhetsprogram
- Governance-frameworks och emerging regulations för AI-system
- Skapa och underhålla en organisatorisk AI-security playbook
Krav
- Erfarenhet av att deployer ML-modeller eller LLM-applikationer i produktion.
- Kunskaper inom säkerhetskategorier inklusive authentication, authorization och threat modelling.
- Python-färdigheter för adversarial testing-övningar.
Målgrupp
- Säkerhetsingenjörer som utökar till AI/ML-hotytor.
- ML-ingjärre ansvariga för modell-säkerhet och robustness.
- Red-team-medlemmar som lägger till AI-system i sin testing scope.
Vittnesmål (1)
inventering och identifiering av de olika riskexpositionerna inom AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskintolkat
