Свържете се с нас

План на курса

Ден 1
Анатомия на модерен AI агент

Над чатботовете: агентите като автономни системи за разсъждение и действие

Парадигми на агентите: реактивни, проактивни, хибридни и цели-ориентирани

Основни компоненти: възприятие, планиране, памет, използване на инструменти, действие

Компромиси при дизайн: единичен агент срещу многоагентен дизайн

Рамки за агенти и модерен стек

LangChain, LlamaIndex, AutoGen, CrewAI и техните компромиси

Сравнение с класически рамки като JADE и SPADE

Избор на рамка въз основа на производствени изисквания

Извикване на инструменти, извикване на функции и структурирани изходи

Практическо занятие: създаване на скелет за единичен Python агент с извиквания на инструменти

Архитектури на многоагентни системи

Централизирани, децентрализирани, хибридни и слоеви дизайни на MAS

FIPA ACL, предаване на съобщения и съвременни еквиваленти

Патерни за координация: планиране, преговори, синхронизация

Емерджентно поведение и самоорганизация в популации от агенти

Създаване на решения и обучение при агентите

Теория на игрите за кооперативни и конкурентни взаимодействия между агенти

Обучение с подкрепление в многоагентни среди

Трансферно обучение и споделяне на знания между агентите

Разрешаване на конфликти и установяване на доверие между координиращите агенти

Ден 2
Мултимодални основи за агентите

Мултимодален AI като обединен работен процес за текст, изображение, аудио и видео

Водещи мултимодални модели: GPT-4 Vision, Gemini, Claude, Whisper

Техники за фузия за комбиниране на модуси в цикъла на разсъждение на агента

Компромиси между закъснение, разходи и точност в мултимодалните тръби

Изграждане на слоя за възприятие

Обработка на изображения за агенти: класификация, описание, откриване на обекти

Разпознаване на реч с Whisper ASR и стрийминг транскрипция

Синтезиране на текст-в-реч и естествено говорене в комуникацията

Свързване на изходите от възприятието с разсъждания и избор на инструменти, базирани на LLM

Практическо занятие - Изграждане на мултимодален агент в Python

Дефиниране на задачата на агента, контекстния прозорец и инвентара от инструменти

Връзване на API-тата на GPT-4 Vision и Whisper в края до края

Реализиране на памет, състояние и управление на разговора

Добавяне на извиквания на инструменти, които произвеждат реални странични ефекти безопасно

Практическо занятие - Оркестриране на многоагентна система

Съставяне на специализирани агенти с AutoGen или CrewAI

Дефиниране на роли, отговорности и протоколи за межагентна комуникация

Разпределение на ресурси и координация в симулирана среда

Логване на разсъждението на агентите, извикванията на инструменти и решенията за проверка и одит

Ден 3
Повърхност на заплахи за продуктивните AI агенти

Какво прави агентния AI уникално уязвим в сравнение с традиционния софтуер

Повърхност на атаките: данни, модели, промпти, инструменти, изходи и интерфейси

Моделиране на заплахи за агент-базирани системи с автономно използване на инструменти

Сравнение на практиките за AI киберсигурност с традиционната киберсигурност

Практическо занятие - Атаки на враждебност

Враждебни примери и методи за пертурбация: FGSM, PGD, DeepFool

Сценарии на атаки с бясна кутия срещу сива кутия

Атаки за инверсия на модел и извличане на членство

Отравяне на данни и инжектиране на задни врати по време на обучението

Инжекция на промпт, jailbreaking и злоупотреба с инструменти при агентите, базирани на LLM

Защитни техники и затвърждаване на моделите

Стратегии за враждебно обучение и разширяване на данните

Дефанзивна дистилация и други техники за устойчивост

Предварителна обработка на входа, маскиране на градиенти и регуларизация

Диференциална поверителност, инжектиране на шум и бюджети за поверителност

Федеративно обучение и сигурна агрегация за разпределено обучение

Практическо занятие с инструментарията Adversarial Robustness Toolbox

Симулиране на атаки срещу мултимодалния агент, изграден в Ден 2

Мериене на устойчивост при пертурбация и количествено определяне на влошаването

Прилагане на защити итеративно и преоценка на успеха на атаките

Стрес тестване на пътищата за извикване на инструменти и векторите за инжекция на промпт

Ден 4
Рамки за управление на риска при AI

NIST AI Risk Management Framework: управлявай, картирай, измервай, управлявай

ISO/IEC 42001 и нововъзникващите специфични за AI стандарти

Картиране на AI риска към съществуващите GRC рамки на предприятието

Изисквания за отговорност, осчетоводяваемост и документация при AI

Регулаторно съответствие за агентни системи

EU AI Act: нива на риск, забранени употреби и задължения за високорискови системи

Импликации на GDPR и CCPA за тръбите с данни на агентите

Изпълнителна заповед на САЩ за безопасен, сигурен и надежден AI

Секторно-специфични насоки за финанси, здравеопазване и публични услуги

Риск от трети страни и използване на AI инструменти от доставчици

Етика, пристрастия и обяснимост

Откриване и смекчаване на пристрастията във възприятието и разсъждението на агентите

Обяснимостта и прозрачността като свойства, релевантни за сигурността

Справедливост, последици и отговорно разполагане

Дизайн на инклузивно и одитируемо поведение на агентите

Продуктивно разполагане, мониторинг и реакция при инциденти

Патерни за сигурно разполагане на единични и многоагентни системи

Непрекъснат мониторинг за отклонения, аномалии и злоупотреба

Логване, одитни следи и готовност за форензика при действията на агентите

Скриптове за реакция при инциденти с AI сигурност и възстановяване

Кейсове на реални нарушения на AI и извлечени уроци

Капсула и синтез

Преглед на мултимодалната многоагентна система, изградена през курса

Общ преглед на тръбата: дизайн, изграждане, сигурност, управление, разполагане

Самооценка на системата спрямо функциите на NIST AI RMF

Гледна точка за бъдещите тенденции в агентния AI и AI сигурността

Обобщение и следващи стъпки

Изисквания

Целева аудитория

AI инженери и архитекти, изграждащи агентни системи за производствена употреба. Специалисти по киберсигурност, рискове и съответствие, отговорни за гарантирането на AI в регулирани отрасли като финанси, здравеопазване и консултантски услуги. Senior разработчици и лидери на решения, интегриращи мултимодални и многоагентни възможности в корпоративни платформи.

 28 Часове

Брой участници


Цена за участник

Отзиви от потребители (3)

Предстоящи Курсове

Свързани Kатегории