Red Teaming AI Systems: Offensive Security for ML Models Träningskurs

Denna ledarledda, levande utbildning (online eller på plats) vänder sig till företagsledare på mellanavancerad nivå som vill förstå hur man styr och säkrar AI-system ansvarsfullt och i enlighet med uppkommande globala ramverk såsom EU:s AI-förordning, GDPR, ISO/IEC 42001 och USA:s exekutiva order om AI.

Vid kursens slut kommer deltagarna att kunna:

• Förstå de juridiska, etiska och reglerande riskerna med att använda AI över olika avdelningar.
• Tolka och tillämpa de främsta AI-styrningsramverken (EU:s AI-förordning, NIST AI RMF, ISO/IEC 42001).
• Införa säkerhets-, revisions- och övervakningspolicys för AI-distribution i företaget.
• Utveckla inköps- och användningsriktlinjer för tredjeparts- och internt AI-system.

Artificial Intelligence (AI) introducerar nya dimensioner av operativ risk, styrningsutmaningar och cybersäkerhetsutställning för myndigheter och departement.Denna instruktörsledda, live-träning (online eller på plats) riktar sig till IT- och riskprofessionella inom den offentliga sektorn med begränsad tidigare erfarenhet av AI som vill förstå hur man utvärderar, övervakar och säkrar AI-system inom en regering eller regleringskontext.I slutet av denna träning kommer deltagarna att kunna:Interpretera nyckelriskbegrepp som rör AI-system, inklusive bias, oförutsägbarhet och modelldrift.Tillämpa AI-specifika styrnings- och revisionsramverk som NIST AI RMF och ISO/IEC 42001.Känna igen cybersäkerhetshot mot AI-modeller och datapipelines.Etablera tvärdepartementella riskhanteringsplaner och policyöverensstämmelse för AI-utplacering.Formatet för kursenInteraktiv föreläsning och diskussion om offentliga sektoranvändningsfall.AI-styrningsramverksövningar och policykartläggning.Scenariobaserat hotmodellering och riskutvärdering.KursanpassningsalternativFör att begära en anpassad träning för denna kurs, vänligen kontakta oss för att ordna.

Denna instruktörsledda, levande utbildning (online eller på plats) vänder sig till IT-professionella på nybörjar- till mellanivå som vill förstå och implementera AI TRiSM i sina organisationer.

I slutet av denna utbildning kommer deltagarna att kunna:

• Fatta de centrala begreppen och vikten av AI-tillförlitlighet, risk- och säkerhetshantering.
• Identifiera och minska risker som är förknippade med AI-system.
• Implementera säkerhetsbästa praxis för AI.
• Förstå regleringskompatibilitet och etiska överväganden för AI.
• Utveckla strategier för effektiv AI-styrning och hantering.

Denna instruktörsledda, liveutbildning i Sverige (online eller på plats) riktar sig till AI-utvecklare, arkitekter och produktchefer på mellan- och avancerad nivå som vill identifiera och minimera risker förknippade med LLM-drivna applikationer, inklusive promptinjektion, dataläckage och ofiltrerad utgång, samtidigt som säkerhetskontroller som inmatningsvalidering, människa-i-loopen övervakning och utgångsgränser införlivas.

Efter avslutad utbildning kommer deltagarna att kunna:

• Förstå de grundläggande sårbarheterna i LLM-baserade system.
• Använda säkra designprinciper för LLM-apparkitektur.
• Använda verktyg som Guardrails AI och LangChain för validering, filtrering och säkerhet.
• Integrera teknik som sandlådor, red-teaming och människa-i-loopen-granskning i produktionsgraderade pipeline.

Denna instruktörsledda, live-utbildning på plats (online eller på plats) riktar sig till mellanavancerade AI- och cybersäkerhetsprofessionella som vill förstå och åtgärda säkerhetsrisker specifika för AI-modeller och system, särskilt inom starkt reglerade branscher såsom finans, datastyrelse och konsulting.

Vid utbildningens slut kommer deltagarna att kunna:

• Förstå typerna av motståndarattacker som riktar in sig på AI-system och metoder för att försvara sig mot dem.
• Implementera modellförstärkningstekniker för att säkra maskininlärningspipelines.
• Säkerställa datasäkerhet och integritet i maskininlärningsmodeller.
• Navigera i de regelverkskrav som är relaterade till AI-säkerhet.

Denna instruktörledda, levande utbildning (online eller på plats) riktar sig till IT-säkerhets-, risk- och överensstämmelseprofessionella på nybörjar-nivå som vill förstå grundläggande AI-säkerhetskoncept, hotvektorer och globala ramverk som NIST AI RMF och ISO/IEC 42001.

Vid slutet av denna utbildning kommer deltagarna att kunna:

• Förstå de unika säkerhetsrisker som introduceras av AI-system.
• Identifiera hotvektorer som motståndsattacker, dataförgiftning och modellinversion.
• Tillämpa grundläggande styrningsmodeller som NIST AI Risk Management Ramverk.
• Anpassa AI-användning till uppkommande standarder, överensstämmelseanvisningar och etiska principer.

Denna ledarstyrda, live genomförda utbildningen (online eller på plats) riktar sig till professionella på avancerad nivå som vill implementera och utvärdera tekniker såsom federated learning, secure multiparty computation, homomorphic encryption och differential privacy i praktiska maskininlärningspipelines.

Vid utbildningens slut kommer deltagarna att kunna:

• Förstå och jämföra nyckeltekniker för att bevara integriteten i ML.
• Implementera federated learning-system med öppen källkod.
• Tillämpa differential privacy för säker datadelning och modelltränings.
• Använda kryptering och säker beräkning för att skydda modellens in- och utgångar.

Denna instruktörsledda, liveutbildning (online eller på plats) riktar sig till ingenjörer och säkerhetsprofessionella på mellanavancerad nivå som vill säkra AI-modeller som distribueras på kanten mot hot som manipulation, dataläckage, fientliga ingångar och fysiska attacker.

I slutet av denna utbildning kommer deltagarna att kunna:

• Identifiera och bedöma säkerhetsrisker i edge AI-distributioner.
• Använda teknik för motståndskraft mot manipulation och krypterad inferens.
• Härda modeller distribuerade på kanten och säkra datapipelines.
• Implementera hotminskningstekniker specifika för inbyggda och begränsade system.

Denna instruktörsledda, liveutbildning i Sverige (online eller på plats) riktar sig till maskininlärnings- och cybersecurity-professionella på mellannivå som vill förstå och motverka framväxande hot mot AI-modeller, med hjälp av både konceptuella ramverk och praktiska försvarsmekanismer som robust träning och differentialprivatskydd.

I slutet av denna utbildning kommer deltagarna att kunna:

• Identifiera och klassificera AI-specifika hot som adversära attacker, inversion och förgiftning.
• Använda verktyg som Adversarial Robustness Toolbox (ART) för att simulera attacker och testa modeller.
• Tillämpa praktiska försvarstekniker inklusive adversär träning, injektion av brus och integritetsskyddande metoder.
• Utforma hotmedvetna strategier för modellutvärdering i produktionsmiljöer.