План на курса
Ден 1
Анатомия на модерен AI агент
Над чатботовете: агентите като автономни системи за разсъждение и действие
Парадигми на агентите: реактивни, проактивни, хибридни и цели-ориентирани
Основни компоненти: възприятие, планиране, памет, използване на инструменти, действие
Компромиси при дизайн: единичен агент срещу многоагентен дизайн
Рамки за агенти и модерен стек
LangChain, LlamaIndex, AutoGen, CrewAI и техните компромиси
Сравнение с класически рамки като JADE и SPADE
Избор на рамка въз основа на производствени изисквания
Извикване на инструменти, извикване на функции и структурирани изходи
Практическо занятие: създаване на скелет за единичен Python агент с извиквания на инструменти
Архитектури на многоагентни системи
Централизирани, децентрализирани, хибридни и слоеви дизайни на MAS
FIPA ACL, предаване на съобщения и съвременни еквиваленти
Патерни за координация: планиране, преговори, синхронизация
Емерджентно поведение и самоорганизация в популации от агенти
Създаване на решения и обучение при агентите
Теория на игрите за кооперативни и конкурентни взаимодействия между агенти
Обучение с подкрепление в многоагентни среди
Трансферно обучение и споделяне на знания между агентите
Разрешаване на конфликти и установяване на доверие между координиращите агенти
Ден 2
Мултимодални основи за агентите
Мултимодален AI като обединен работен процес за текст, изображение, аудио и видео
Водещи мултимодални модели: GPT-4 Vision, Gemini, Claude, Whisper
Техники за фузия за комбиниране на модуси в цикъла на разсъждение на агента
Компромиси между закъснение, разходи и точност в мултимодалните тръби
Изграждане на слоя за възприятие
Обработка на изображения за агенти: класификация, описание, откриване на обекти
Разпознаване на реч с Whisper ASR и стрийминг транскрипция
Синтезиране на текст-в-реч и естествено говорене в комуникацията
Свързване на изходите от възприятието с разсъждания и избор на инструменти, базирани на LLM
Практическо занятие - Изграждане на мултимодален агент в Python
Дефиниране на задачата на агента, контекстния прозорец и инвентара от инструменти
Връзване на API-тата на GPT-4 Vision и Whisper в края до края
Реализиране на памет, състояние и управление на разговора
Добавяне на извиквания на инструменти, които произвеждат реални странични ефекти безопасно
Практическо занятие - Оркестриране на многоагентна система
Съставяне на специализирани агенти с AutoGen или CrewAI
Дефиниране на роли, отговорности и протоколи за межагентна комуникация
Разпределение на ресурси и координация в симулирана среда
Логване на разсъждението на агентите, извикванията на инструменти и решенията за проверка и одит
Ден 3
Повърхност на заплахи за продуктивните AI агенти
Какво прави агентния AI уникално уязвим в сравнение с традиционния софтуер
Повърхност на атаките: данни, модели, промпти, инструменти, изходи и интерфейси
Моделиране на заплахи за агент-базирани системи с автономно използване на инструменти
Сравнение на практиките за AI киберсигурност с традиционната киберсигурност
Практическо занятие - Атаки на враждебност
Враждебни примери и методи за пертурбация: FGSM, PGD, DeepFool
Сценарии на атаки с бясна кутия срещу сива кутия
Атаки за инверсия на модел и извличане на членство
Отравяне на данни и инжектиране на задни врати по време на обучението
Инжекция на промпт, jailbreaking и злоупотреба с инструменти при агентите, базирани на LLM
Защитни техники и затвърждаване на моделите
Стратегии за враждебно обучение и разширяване на данните
Дефанзивна дистилация и други техники за устойчивост
Предварителна обработка на входа, маскиране на градиенти и регуларизация
Диференциална поверителност, инжектиране на шум и бюджети за поверителност
Федеративно обучение и сигурна агрегация за разпределено обучение
Практическо занятие с инструментарията Adversarial Robustness Toolbox
Симулиране на атаки срещу мултимодалния агент, изграден в Ден 2
Мериене на устойчивост при пертурбация и количествено определяне на влошаването
Прилагане на защити итеративно и преоценка на успеха на атаките
Стрес тестване на пътищата за извикване на инструменти и векторите за инжекция на промпт
Ден 4
Рамки за управление на риска при AI
NIST AI Risk Management Framework: управлявай, картирай, измервай, управлявай
ISO/IEC 42001 и нововъзникващите специфични за AI стандарти
Картиране на AI риска към съществуващите GRC рамки на предприятието
Изисквания за отговорност, осчетоводяваемост и документация при AI
Регулаторно съответствие за агентни системи
EU AI Act: нива на риск, забранени употреби и задължения за високорискови системи
Импликации на GDPR и CCPA за тръбите с данни на агентите
Изпълнителна заповед на САЩ за безопасен, сигурен и надежден AI
Секторно-специфични насоки за финанси, здравеопазване и публични услуги
Риск от трети страни и използване на AI инструменти от доставчици
Етика, пристрастия и обяснимост
Откриване и смекчаване на пристрастията във възприятието и разсъждението на агентите
Обяснимостта и прозрачността като свойства, релевантни за сигурността
Справедливост, последици и отговорно разполагане
Дизайн на инклузивно и одитируемо поведение на агентите
Продуктивно разполагане, мониторинг и реакция при инциденти
Патерни за сигурно разполагане на единични и многоагентни системи
Непрекъснат мониторинг за отклонения, аномалии и злоупотреба
Логване, одитни следи и готовност за форензика при действията на агентите
Скриптове за реакция при инциденти с AI сигурност и възстановяване
Кейсове на реални нарушения на AI и извлечени уроци
Капсула и синтез
Преглед на мултимодалната многоагентна система, изградена през курса
Общ преглед на тръбата: дизайн, изграждане, сигурност, управление, разполагане
Самооценка на системата спрямо функциите на NIST AI RMF
Гледна точка за бъдещите тенденции в агентния AI и AI сигурността
Обобщение и следващи стъпки
Изисквания
Целева аудитория
AI инженери и архитекти, изграждащи агентни системи за производствена употреба. Специалисти по киберсигурност, рискове и съответствие, отговорни за гарантирането на AI в регулирани отрасли като финанси, здравеопазване и консултантски услуги. Senior разработчици и лидери на решения, интегриращи мултимодални и многоагентни възможности в корпоративни платформи.
Отзиви от потребители (3)
Тренерът е търпелив и много полезен. Той познава добре темата.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Курс - Agentic AI for Business Automation: Use Cases & Integration
Машинен превод
Добра смес от знания и практика
Ion Mironescu - Facultatea S.A.I.A.P.M.
Курс - Agentic AI for Enterprise Applications
Машинен превод
Мистото на теорията и практиката, както и на високонивелните и нисконивелните перспективи
Ion Mironescu - Facultatea S.A.I.A.P.M.
Курс - Autonomous Decision-Making with Agentic AI
Машинен превод