Kursplan
Dag 1
Modern AI-agentens anatomi
Beyond chatbots, agenter som autonoma system för resonemang och handling
Reaktiva, proaktiva, hybrida och mål-styrda agentparadigm
Komponenter: perception, planering, minne, verktygsanvändning, handling
Avvägningar i design mellan enskilda och multi-agent-system
Agentramverk och den moderna stacken
LangChain, LlamaIndex, AutoGen, CrewAI och deras avvägningar
Jämförelse med klassiska ramverk som JADE och SPADE
Att välja ramverk baserat på produktionskrav
Verktygsanrop, funktioneranrop och strukturerade utdata
Praktiskt: Skapa grunden för en enskild Python-agent med verktygsanrop
Arkitekturer för multi-agent-system
Centraliserad, decentraliserad, hybrid och lagerdelad MAS-design
FIPA ACL, meddelandehantering och moderna motsvarigheter
Samarbetsmönster: planering, förhandling, synkronisering
Uppståendet beteende och självorganisering i agentpopulationer
Beslutsfattande och inlärning i agenter
Spelteori för kooperativa och konkurrensutsatta agentinteraktioner
Förstärkande inlärning (Reinforcement learning) i multi-agent-miljöer
Överföringsinlärning och kunskapsdelning mellan agenter
Konfliktlösning och tillit mellan samordnande agenter
Dag 2
Multimodala grunder för agenter
Multimodal AI som ett enhetligt arbetsflöde över text, bild, tal och video
Ledande multimodella modeller: GPT-4 Vision, Gemini, Claude, Whisper
Fusionstekniker för att kombinera modaliteter inom en agents resonemangsslinga
Avvägningar i latens, kost och noggrannhet i multimodala pipelines
Bygga perceptionsskiktet
Bildbehandling för agenter: klassificering, bildtextning, objektigenkänning
Taligenkänning med Whisper ASR och strömmad transkribering
Text-till-tal-syntes och naturlig röstinteraktion
Ansluta perceptionens utdata till LLM-driven resonemang och verktygsval
Praktiskt - Bygga en multimodal agent i Python
Definiera agentens uppgift, sammanhangsfönster och verktygsinventering
Koppla GPT-4 Vision och Whispher API:er i slutna ledd
Implementera minne, tillstånd och konversationshantering
Lägga till verktygsanrop som skapar verkliga biverkningar på ett säkert sätt
Praktiskt - Orchestration av ett multi-agent-system
Sammansättning av specialiserade agenter med AutoGen eller CrewAI
Definiera roller, ansvar och inter-agentkommunikationsprotokoll
Resursallokering och samordning i en simulerad miljö
Logga agentens resonemang, verktygsanrop och beslut för inspektion och revision
Dag 3
Hotytan för produktions-AI-agenter
Vad gör agentic AI unikt sårbar jämfört med traditionell mjukvara
Anfallsytan: data, modell, prompt, verktyg, utdata och gränssnittslager
Hotmodellering för agentsystem med autonom verktygsanvändning
Jämförelse av AI-cybersäkerhetspraxis mot traditionell cybersäkerhet
Praktiskt med adversarieattacker
Adversarialexempel och perturbationsmetoder: FGSM, PGD, DeepFool
Vitlåda vs svartlåda attackscenarier
Modellinversion och medlemsinferensattacker
Dataförgiftning och backdoor-injection under träning
Prompt-injection, jailbreaking och verktygsfelaktigheter i LLM-baserade agenter
Försvarstekniker och modellhårdgning
Adversarie-träning och strategier för dataaugmentering
Defensiv distillation och andra robusthetstekniker
Ingångsförbehandling, gradientmaskering och regularisering
Differentiell integritet, brusinsprutning och integritetsbudgetar
Federated learning och säker aggregation för distribuerad träning
Praktiskt med Adversarial Robustness Toolbox
Simulera attacker mot den multimodala agenten byggd på dag 2
Mäta robusthet under perturbation och kvantifiera försämring
Tillämpa försvar iterativt och omvärdera attackframgångsfrekvens
Stress-testa verktygsanropsvägar och prompt-injektionsvektorer
Dag 4
Riskhanteringsramverk för AI
NIST AI Risk Management Framework: styra, mappa, mäta, hantera
ISO/IEC 42001 och framväxande AI-specifika standarder
Mappa AI-risk till befintliga enterprise GRC-ramverk
AI-ansvarighet, revisionsbarhet och dokumentationskrav
Regulatorisk efterlevnad för agentic system
EU:s AI-lag: risknivåer, förbjudna användningar och skyldigheter för högresta system
GDPR och CCPA-implikationer för agentdata-pipelines
USA:s exekutiva order om säker, trygg och tillitsvärd AI
Branschspecifik vägledning för finans, vård och offentlig sektor
Tredjepartsrisker och användning av leverantörers AI-verktyg
Ethik, bias och förklarbarhet
Bias-upptäckt och mildring över agentens perception och resonemang
Förklarbarhet och transparens som säkerhetsrelevanta egenskaper
Rättvisa, nedströms skador och ansvarig utplacering
Designa inkluderande, revisionsbara agenterbeteenden
Produktionsutplacering, övervakning och incidenthantering
Säkra utplaceringsmönster för enskilda och multi-agent-system
Kontinuerlig övervakning av drift, anomaler och missbruk
Logging, revisionsloggar och forensisk beredskap för agentaktioner
Spelböcker för AI-säkerhetsincidenthantering och återhämtning
Studier av verkliga AI-säkerhetsintrång och läror av dem
Capstone och syntes
Genomgång av det multimodala multi-agent-systemet byggt under kursen
Slut-i-slut-pipelinegenomgång: design, bygg, säkra, styra, placera ut
Självbedömning av systemet mot NIST AI RMF-funktioner
Framåtblick på framväxande trender inom agentic AI och AI-säkerhet
Sammanfattning och nästa steg
Krav
Avsedd målgrupp
AI-ingenjörer och arkitekter som bygger agentic-system för produktionsanvändning. Professionals inom cybersäkerhet, risk och efterlevnad som ansvarar för AI-assurance i reglerade branscher såsom finans, vård och konsulttjänster. Erfarna utvecklare och lösningssamordnare som integrerar multimodala och multi-agent-funktioner i företagsplattformar.
Vittnesmål (3)
Instruktören är tålmodig och väldigt hjälpsam. Han känner väl till ämnet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maskintolkat
Bra blandning av kunskap och praktik
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Agentic AI for Enterprise Applications
Maskintolkat
Blandningen av teori och praktik samt högnivå- och lågnivåperspektiv
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maskintolkat
