Свържете се с нас

Съдържание и теми, включени в курса

Ден 1
Анатомия на един модерен AI агент

Отвъд чатботовете: агентите като автономни системи за разсъждение и действие

Реактивни, проактивни, хибридни и целево-ориентирани агентни парадигми

Основни компоненти: възприятие, планиране, памет, използване на инструменти, действие

Компромиси при проектирането на системи с един агент спрямо множество агенти

Агентни рамки и модерният стек

LangChain, LlamaIndex, AutoGen, CrewAI и техните компромиси

Сравнение с класически рамки като JADE и SPADE

Избор на рамка според производствените изисквания

Извикване на инструменти, извикване на функции и структурирани изходи

Практическо упражнение: създаване на скелет на единичен Python агент с извиквания на инструменти

Архитектури на мулти-агентни системи

Централизирани, децентрализирани, хибридни и многослойни дизайни на МАС

FIPA ACL, обмен на съобщения и съвременни еквиваленти

Координационни модели: планиране, договаряне, синхронизация

Възникващо поведение и самоорганизация в агентни популации

Вземане на решения и учене при агентите

Теория на игрите за кооперативни и конкурентни агентни взаимодействия

Обучение с подкрепление в мулти-агентни среди

Трансферно обучение и споделяне на знания между агенти

Разрешаване на конфликти и доверие между координиращи се агенти

Ден 2
Мултимодални основи за агенти

Мултимодалният ИИ като унифициран работен поток за текст, изображения, реч и видео

Водещи мултимодални модели: GPT-4 Vision, Gemini, Claude, Whisper

Техники за сливане на модалности в рамките на разсъдителния цикъл на агента

Компромиси между латентност, цена и точност в мултимодалните конвейери

Изграждане на слоя за възприятие

Обработка на изображения за агенти: класификация, генериране на описания, откриване на обекти

Разпознаване на реч с Whisper ASR и поточна транскрипция

Синтез на реч от текст и естествено гласово взаимодействие

Свързване на изходите от възприятието с разсъждение, задвижвано от ГГМ (LLM), и избор на инструменти

Практическо упражнение – Изграждане на мултимодален агент в Python

Дефиниране на задачата на агента, контекстния прозорец и инвентара от инструменти

Свързване на GPT-4 Vision и Whisper API от край до край

Внедряване на памет, състояние и управление на разговора

Добавяне на извиквания на инструменти, които предизвикват реални странични ефекти по безопасен начин

Практическо упражнение – Оркестриране на мулти-агентна система

Композиране на специализирани агенти с AutoGen или CrewAI

Дефиниране на роли, отговорности и протоколи за комуникация между агенти

Разпределение на ресурси и координация в симулирана среда

Логване на разсъжденията на агента, извикванията на инструменти и решенията за проверка и одит

Ден 3
Повърхност на заплахите за производствени AI агенти

Какво прави агентния ИИ уникално уязвим в сравнение с традиционния софтуер

Атакуваща повърхност: слоеве на данни, модел, промит, инструмент, изход и интерфейс

Моделиране на заплахи за агентно-базирани системи с автономно използване на инструменти

Сравняване на практиките за киберсигурност на ИИ с традиционната киберсигурност

Практически упражнения за атаки чрез противопоставяне

Примери за атаки и методи на смущение: FGSM, PGD, DeepFool

Сценарии за атаки тип "бяла кутия" срещу "черна кутия"

Атаки за обръщане на модел и извод за принадлежност

Отравяне на данни и инжектиране на задна врата по време на обучение

Инжектиране на промити, джейлбрейк и злоупотреба с инструменти при агенти, базирани на ГГМ (LLM)

Отбранителни техники и укрепване на модела

Обучение срещу атаки и стратегии за обогатяване на данни

Отбранителна дестилация и други техники за устойчивост

Предварителна обработка на входа, маскиране на градиента и регуларизация

Диференциална поверителност, инжектиране на шум и бюджети за поверителност

Федерирано обучение и сигурно агрегиране за разпределено обучение

Практическо упражнение с Adversarial Robustness Toolbox

Симулиране на атаки срещу мултимодалния агент, изграден на Ден 2

Измерване на устойчивостта при смущение и количествено определяне на влошаването

Итеративно прилагане на защити и преоценка на процента на успех на атаките

Стрес тестване на пътищата за извикване на инструменти и векторите за инжектиране на промити

Ден 4
Рамки за управление на риска при ИИ

NIST AI Рамка за управление на риска: управлявай, картографирай, измервай, менажирай

ISO/IEC 42001 и нововъзникващи стандарти, специфични за ИИ

Съотнасяне на риска от ИИ към съществуващи корпоративни рамки за УРС (GRC)

Отчетност, възможност за одит и изисквания за документация на ИИ

Регулаторно съответствие за агентни системи

Законодателен акт на ЕС за ИИ: рискови нива, забранени употреби и задължения за високорискови системи

Импликации на GDPR и CCPA за агентните конвейери за данни

Изпълнителна заповед на САЩ за безопасен, сигурен и надежден ИИ

Секторни насоки за финанси, здравеопазване и публични услуги

Риск от трети страни и използване на AI инструменти от доставчици

Етика, пристрастия и обяснимост

Откриване и смекчаване на пристрастия в агентното възприятие и разсъждение

Обяснимост и прозрачност като свойства, релевантни за сигурността

Справедливост, последваща вреда и отговорно внедряване

Проектиране на приобщаващо и подлежащо на одит агентно поведение

Производствено внедряване, мониторинг и реакция при инциденти

Сигурни модели на внедряване за системи с един и множество агенти

Непрекъснат мониторинг за отклонения, аномалии и злоупотреба

Логване, одитни следи и готовност за криминалистичен анализ на агентните действия

Наръчници за реакция при инциденти със сигурността на ИИ и възстановяване

Казуси за реални пробиви в ИИ и извлечени поуки

Кулминационен проект и синтез

Преглед на мултимодалната мулти-агентна система, изградена по време на курса

Преглед на цялостния конвейер: проектиране, изграждане, осигуряване, управление, внедряване

Самооценка на системата спрямо функциите на NIST AI RMF

Перспективи за бъдещи тенденции в агентния ИИ и сигурността на ИИ

Обобщение и следващи стъпки

Изисквания

Целева аудитория

Инженери и архитекти в областта на ИИ, които изграждат агентни системи за производствена употреба. Професионалисти по киберсигурност, управление на риска и съответствие, отговорни за осигуряването на ИИ в регулирани индустрии като финанси, здравеопазване и консултиране. Старши разработчици и ръководители на решения, които вграждат мултимодални и мулти-агентни възможности в корпоративни платформи.

 28 Часа

Брой участници


Цена за участник

Отзиви от участници (3)

Предстоящи Курсове

Свързани Kатегории