Kursplan
Dag 1
Anatomi hos en modern AI-agent
Beyond chatbots: agenter som autonoma system för resonemang och handling
Reaktiva, proaktiva, hybrida och måldirigerade agentparadigm
Komponenter: perception, planering, minne, verktygsanvändning, handling
Fördelar och nackdelar vid design av enkla kontra multi-agent-system
Agentramverk och modern teknikstack
LangChain, LlamaIndex, AutoGen, CrewAI och deras skillnader
Jämförelse med klassiska ramverk som JADE och SPADE
Val av ramverk baserat på produktionskrav
Verktygsanrop, funktionsanrop och strukturerade utdata
Praktiskt: skapar en enkel Python-agent med verktygsanrop
Arkitektur för multi-agent-system
Centraliserad, decentraliserad, hybrid och lagerbaserad MAS-design
FIPA ACL, meddelandehantering och moderna motsvarigheter
Koordinationsmönster: planering, förhandling, synkronisering
Emergent beteende och självorganisation i agentpopulationer
Beslutsfattande och inlärning hos agenter
Spelteori för kooperativa och konkurrenskraftiga agentinteraktioner
Förstärkningsinlärning (reinforcement learning) i multi-agent-miljöer
Överföringsinlärning och kunskapsdelning mellan agenter
Konfliktlösning och förtroende mellan samordnade agenter
Dag 2
Förutsättningar för multiperspektiviska agenter
Multiperspektivisk AI som ett enhetligt arbetsflöde över text, bild, tal och video
Ledande multiperspektiviska modeller: GPT-4 Vision, Gemini, Claude, Whisper
Fusionstekniker för att kombinera perspektiv inuti en agents resonemangscykel
Kompromisser avseende latens, kostnad och noggrannhet i multiperspektiva pipelines
Bygger perceptionsskiktet
Bildbehandling för agenter: klassificering, bildtextning, objektdetektering
Taligenkänning med Whisper ASR och strömmande transkription
Talgenerering (TTS) och naturlig röstinteraktion
Koppling av perceptionens utdata till LLM-drivet resonemang och verktygsval
Praktiskt - Att bygga en multiperspektivisk agent i Python
Definiera agentens uppgift, kontextfönster och verktygsinventory
Koppla GPT-4 Vision och Whisper API:erna end-to-end
Implementera minne, tillståndshantering och konversationshantering
Lägga till verktygsanrop som genererar säkra side effects i verkliga världen
Praktiskt - Orkestrering av ett multi-agent-system
Komponera specialiserade agenter med AutoGen eller CrewAI
Definiera roller, ansvar och protokoll för kommunikation mellan agenter
Resursallokering och koordination i en simulerad miljö
Logga agentens resonemang, verktygsanrop och beslut för inspektion och revision
Dag 3
Förtroendepunkt för produktions-agenter
Hvad gör agentic AI unikt sårbart jämfört med traditionell mjukvara
Attakyta: data, modell, prompt, verktyg, utdata och gränssnittslager
Hotmodellering för agentbaserade system med autonom verktygsanvändning
Jämförelse av AI-cybersäkerhetspraktiker med traditionell cybersäkerhet
Praktiskt: Adverterande attacker
Adverterande exempel och perturbationsmetoder: FGSM, PGD, DeepFool
Vitlåda (white-box) kontra svartlåda (black-box)-attackscenarier
Modellinversion och inlärningsattacker för medlemsinspelning
Dataprovning och backdoor-inspjutning under träning
Promptinjektion, jailbreak och missbruk av verktyg i LLM-baserade agenter
Försvarstekniker och modellhärdning
Adverterande träning och strategier för datapolymering (data augmentation)
Defensiv distillation och andra robusthetstekniker
Preprocessing av indata, gradientmaskering och regularisering
Differentiell integritet, brusinspjutning och integritetsbudgetar
Federated learning och säker aggregering för distribuerad träning
Praktiskt med Adversarial Robustness Toolbox
Simulera attacker mot den multiperspektiviska agent som skapades på dag 2
Mäta robusthet under perturbation och kvantifiera försämring
Tillämpa försvar iterativt och omvärdera framgångsgrad för attacker
Stress-testa verktygsanropsvägar och promptinjektionsvektorer
Dag 4
Riskhanteringsramverk för AI
NIST AI Risk Management Framework: styra, mappa, mäta, hantera
ISO/IEC 42001 och nya AI-specifika standarder
Koppling av AI-risk till befintliga företags-GRC-ramverk (Governance, Risk & Compliance)
AI-ränsbarhet, granskbarhet och dokumentationskrav
Regulatorisk efterlevnad för agentbaserade system
EU AI Act: risknivåer, förbjudna användningar och skyldigheter för högrisksystem
GDPR och CCPA:s konsekvenser för agents datapipelines
Amerikanska exekutivorder om säker, trygg och tillförlitlig AI
Branschspecifik vägledning för finans, hälsovård och offentlig sektor
Risk med tredjepartsaktörer och användning av leverantörernas AI-verktyg
Eetik, bias och förklarbarhet
Biasdetektering och minskning över agentens perception och resonemang
Förklarbarhet och transparens som säkerhetsrelevanta egenskaper
Rättvisa, nedströms skador och ansvarig utplacering
Design av inkluderande, granskbara agentbeteenden
Produktionsutplacering, övervakning och incidenthantering
Säkra utplaceringsmönster för enkla och multi-agent-system
Kontinuerlig övervakning av drift (drift), anomalier och missbruk
Loggning, revisionsbevis och forensisk beredskap för agenthandlingar
Svarsspelböcker för AI-säkerhetsincidenter och återhämtning
Kasusstudier av verkliga AI-brott och insikter därifrån
Capstone och syntes
Granskning av det multiperspektiviska multi-agent-system som skapats under kursen
End-to-end-granskning av pipelines: design, bygga, säkra, styra, utplacera
Självbedömning av systemet mot NIST AI RMF-funktioner
Framtidsperspektiv på nya trender inom agentic AI och AI-säkerhet
Sammanfattning och nästa steg
Krav
Målgrupp
AI-ingenjörer och arkitekter som utvecklar agentbaserade system för produktionsbruk. Experter inom cybersäkerhet, riskhantering och efterlevnad som ansvarar för AI-säkerhet i reglerade branscher såsom finans, hälsovård och konsultverksamhet. Erfarna utvecklare och lösningssamordnare som integrerar multi-modal och multi-agent-funktionalitet i företagsplattformar.
Vittnesmål (3)
Instruktören är tålmodig och väldigt hjälpsam. Han känner väl till ämnet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maskintolkat
Bra blandning av kunskap och praktik
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Agentic AI for Enterprise Applications
Maskintolkat
Blandningen av teori och praktik samt högnivå- och lågnivåperspektiv
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maskintolkat
