Съдържание и теми, включени в курса
Ден 1
Анатомия на един модерен AI агент
Отвъд чатботовете: агентите като автономни системи за разсъждение и действие
Реактивни, проактивни, хибридни и целево-ориентирани агентни парадигми
Основни компоненти: възприятие, планиране, памет, използване на инструменти, действие
Компромиси при проектирането на системи с един агент спрямо множество агенти
Агентни рамки и модерният стек
LangChain, LlamaIndex, AutoGen, CrewAI и техните компромиси
Сравнение с класически рамки като JADE и SPADE
Избор на рамка според производствените изисквания
Извикване на инструменти, извикване на функции и структурирани изходи
Практическо упражнение: създаване на скелет на единичен Python агент с извиквания на инструменти
Архитектури на мулти-агентни системи
Централизирани, децентрализирани, хибридни и многослойни дизайни на МАС
FIPA ACL, обмен на съобщения и съвременни еквиваленти
Координационни модели: планиране, договаряне, синхронизация
Възникващо поведение и самоорганизация в агентни популации
Вземане на решения и учене при агентите
Теория на игрите за кооперативни и конкурентни агентни взаимодействия
Обучение с подкрепление в мулти-агентни среди
Трансферно обучение и споделяне на знания между агенти
Разрешаване на конфликти и доверие между координиращи се агенти
Ден 2
Мултимодални основи за агенти
Мултимодалният ИИ като унифициран работен поток за текст, изображения, реч и видео
Водещи мултимодални модели: GPT-4 Vision, Gemini, Claude, Whisper
Техники за сливане на модалности в рамките на разсъдителния цикъл на агента
Компромиси между латентност, цена и точност в мултимодалните конвейери
Изграждане на слоя за възприятие
Обработка на изображения за агенти: класификация, генериране на описания, откриване на обекти
Разпознаване на реч с Whisper ASR и поточна транскрипция
Синтез на реч от текст и естествено гласово взаимодействие
Свързване на изходите от възприятието с разсъждение, задвижвано от ГГМ (LLM), и избор на инструменти
Практическо упражнение – Изграждане на мултимодален агент в Python
Дефиниране на задачата на агента, контекстния прозорец и инвентара от инструменти
Свързване на GPT-4 Vision и Whisper API от край до край
Внедряване на памет, състояние и управление на разговора
Добавяне на извиквания на инструменти, които предизвикват реални странични ефекти по безопасен начин
Практическо упражнение – Оркестриране на мулти-агентна система
Композиране на специализирани агенти с AutoGen или CrewAI
Дефиниране на роли, отговорности и протоколи за комуникация между агенти
Разпределение на ресурси и координация в симулирана среда
Логване на разсъжденията на агента, извикванията на инструменти и решенията за проверка и одит
Ден 3
Повърхност на заплахите за производствени AI агенти
Какво прави агентния ИИ уникално уязвим в сравнение с традиционния софтуер
Атакуваща повърхност: слоеве на данни, модел, промит, инструмент, изход и интерфейс
Моделиране на заплахи за агентно-базирани системи с автономно използване на инструменти
Сравняване на практиките за киберсигурност на ИИ с традиционната киберсигурност
Практически упражнения за атаки чрез противопоставяне
Примери за атаки и методи на смущение: FGSM, PGD, DeepFool
Сценарии за атаки тип "бяла кутия" срещу "черна кутия"
Атаки за обръщане на модел и извод за принадлежност
Отравяне на данни и инжектиране на задна врата по време на обучение
Инжектиране на промити, джейлбрейк и злоупотреба с инструменти при агенти, базирани на ГГМ (LLM)
Отбранителни техники и укрепване на модела
Обучение срещу атаки и стратегии за обогатяване на данни
Отбранителна дестилация и други техники за устойчивост
Предварителна обработка на входа, маскиране на градиента и регуларизация
Диференциална поверителност, инжектиране на шум и бюджети за поверителност
Федерирано обучение и сигурно агрегиране за разпределено обучение
Практическо упражнение с Adversarial Robustness Toolbox
Симулиране на атаки срещу мултимодалния агент, изграден на Ден 2
Измерване на устойчивостта при смущение и количествено определяне на влошаването
Итеративно прилагане на защити и преоценка на процента на успех на атаките
Стрес тестване на пътищата за извикване на инструменти и векторите за инжектиране на промити
Ден 4
Рамки за управление на риска при ИИ
NIST AI Рамка за управление на риска: управлявай, картографирай, измервай, менажирай
ISO/IEC 42001 и нововъзникващи стандарти, специфични за ИИ
Съотнасяне на риска от ИИ към съществуващи корпоративни рамки за УРС (GRC)
Отчетност, възможност за одит и изисквания за документация на ИИ
Регулаторно съответствие за агентни системи
Законодателен акт на ЕС за ИИ: рискови нива, забранени употреби и задължения за високорискови системи
Импликации на GDPR и CCPA за агентните конвейери за данни
Изпълнителна заповед на САЩ за безопасен, сигурен и надежден ИИ
Секторни насоки за финанси, здравеопазване и публични услуги
Риск от трети страни и използване на AI инструменти от доставчици
Етика, пристрастия и обяснимост
Откриване и смекчаване на пристрастия в агентното възприятие и разсъждение
Обяснимост и прозрачност като свойства, релевантни за сигурността
Справедливост, последваща вреда и отговорно внедряване
Проектиране на приобщаващо и подлежащо на одит агентно поведение
Производствено внедряване, мониторинг и реакция при инциденти
Сигурни модели на внедряване за системи с един и множество агенти
Непрекъснат мониторинг за отклонения, аномалии и злоупотреба
Логване, одитни следи и готовност за криминалистичен анализ на агентните действия
Наръчници за реакция при инциденти със сигурността на ИИ и възстановяване
Казуси за реални пробиви в ИИ и извлечени поуки
Кулминационен проект и синтез
Преглед на мултимодалната мулти-агентна система, изградена по време на курса
Преглед на цялостния конвейер: проектиране, изграждане, осигуряване, управление, внедряване
Самооценка на системата спрямо функциите на NIST AI RMF
Перспективи за бъдещи тенденции в агентния ИИ и сигурността на ИИ
Обобщение и следващи стъпки
Изисквания
Целева аудитория
Инженери и архитекти в областта на ИИ, които изграждат агентни системи за производствена употреба. Професионалисти по киберсигурност, управление на риска и съответствие, отговорни за осигуряването на ИИ в регулирани индустрии като финанси, здравеопазване и консултиране. Старши разработчици и ръководители на решения, които вграждат мултимодални и мулти-агентни възможности в корпоративни платформи.
Отзиви от участници (3)
Тренерът е търпелив и много полезен. Той познава добре темата.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Курс - Agentic AI for Business Automation: Use Cases & Integration
Машинен превод
Добра смес от знания и практика
Ion Mironescu - Facultatea S.A.I.A.P.M.
Курс - Agentic AI for Enterprise Applications
Машинен превод
Мистото на теорията и практиката, както и на високонивелните и нисконивелните перспективи
Ion Mironescu - Facultatea S.A.I.A.P.M.
Курс - Autonomous Decision-Making with Agentic AI
Машинен превод