Tack för att du skickade din fråga! En av våra teammedlemmar kontaktar dig snart.
Tack för att du skickade din bokning! En av våra teammedlemmar kontaktar dig snart.
Kursplan
AI-hotlandskapet
- Variationen i AI-säkerhet: icke-determinism, opaque reasoning, prompt som attack surface
- Attack-taxonomi: training-time vs inference-time vs supply chain attacker
- ML-adversary model: vem attackerar AI-system och varför
OWASP Top 10 för LLM-applikationer
- Prompt-injection: direkta och indirekta attack-vectors
- Insecure output handling och cross-plugin request forgery
- Training data poisoning och supply chain sårbarheter
- Model denial of service, sensitive information disclosure och excessive agency
- Hands-on lab: exploiting varje OWASP-kategori mot en test-applikation
Prompt-injection och jailbreak red-teaming
- Injection-tekniker taxonomi: direkt, indirekt, multi-turn och multi-modal
- Automated red-teaming med Giskard, Garak och custom-fuzzing-verktyg
- Jailbreak-klassificering och defense evaluation
- Bygga en red-team-harness för kontinuerlig LLM-säkerhet testing
Modell-nivå attacker och försvar
- Model extraction: stjäla model weights och funktionality via API-queries
- Membership inference: avgöra om data var i training-set
- Adversarial examples: perturbationer som bluffar classifiers och embeddings
- Data poisoning: corrupting training-data för att inducera backdoors eller degrade prestanda
Input- och output-säkerhetskontroller
- Input-sanitization bortom traditionell web-säkerhet
- Output-filtering: toxicity, PII-leakage, hallucinated code execution
- Guardrails som säkerhets-infrastruktur: NeMo, Guardrails AI och custom-politik
- Structured output enforcement som en security boundary
AI-leverantörskedjesäkerhet
- Model-provenance: verifiera model autenticitet och integrity
- Dependency scanning för ML-frameworks och model-formats
- Säker model-serving: sandboxing, network isolation och least-privilege access
- Vetting fine-tuned and community models för embedded malware
Operativ säkerhet för AI-system
- Access control för model endpoints, vector stores och agent tools
- Audit logging för varje model-interaktion och decision
- Incident response för AI-specifika breaches: när modellen själv är komprometterad
- Kontinuerlig security testing i CI/CD för ML-pipelines
Bygga ett AI-säkerhetsprogram
- AI-security maturity model och roadmap
- Integrera AI-säkerhet i existing AppSec- och cloud-säkerhetsprogram
- Governance-frameworks och emerging regulations för AI-system
- Skapa och underhålla en organisatorisk AI-security playbook
Krav
- Erfarenhet av att deployer ML-modeller eller LLM-applikationer i produktion.
- Kunskaper inom säkerhetskategorier inklusive authentication, authorization och threat modelling.
- Python-färdigheter för adversarial testing-övningar.
Målgrupp
- Säkerhetsingenjörer som utökar till AI/ML-hotytor.
- ML-ingjärre ansvariga för modell-säkerhet och robustness.
- Red-team-medlemmar som lägger till AI-system i sin testing scope.
14 Timmar
