Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Основи: Модели на заплахи за агентен AI
- Видове агентни заплахи: злоупотреба, ескалация, изтичане на данни и рискове във веригата на доставки
- Профили на противници и способности на атакуващи, специфични за автономни агенти
- Картографиране на активи, граници на доверие и критични точки за контрол за агенти
Управление, политика и управление на риска
- Рамки за управление на агентни системи (роли, отговорности, врати за одобрение)
- Проектиране на политики: приемливо използване, правила за ескалация, обработка на данни и възможност за одит
- Съображения за съответствие и събиране на доказателства за одити
Нечовешка идентичност и удостоверяване за агенти
- Проектиране на идентичности за агенти: сервизни акаунти, JWT и краткотрайни удостоверения
- Модели за достъп с най-ниски привилегии и оторизиране точно навреме
- Жизнен цикъл на идентичността, ротация, делегиране и стратегии за отнемане
Контрол на достъпа, секрети и защита на данните
- Модели за детайлен контрол на достъпа и модели, базирани на способности, за агенти
- Управление на секрети, криптиране при пренос и в покой и минимизиране на данните
- Защита на чувствителни източници на знания и лични данни от неоторизиран достъп от агенти
Наблюдаемост, одитиране и реакция при инциденти
- Проектиране на телеметрия за поведение на агенти: проследяване на намерения, командни логове и произход
- Интеграция със SIEM, прагове за предупреждение и готовност за криминалистичен анализ
- Сборници с процедури и планове за действие при инциденти, свързани с агенти, и ограничаване
Red-teaming на агентни системи
- Планиране на red-team упражнения: обхват, правила за участие и безопасно превключване при отказ
- Техники на противника: инжектиране на промпт, злоупотреба с инструменти, манипулация на веригата на разсъждение и злоупотреба с API
- Провеждане на контролирани атаки и измерване на излагането на риск и въздействието
Укрепване и смекчаване
- Инженерни контроли: ограничаване на отговорите, стробиране на способности и пясъчна кутия
- Контроли на политики и оркестрация: потоци за одобрение, човек в цикъла и куки за управление
- Защити на ниво модел и промпт: валидиране на входа, каноникализация и изходни филтри
Операционализиране на безопасни внедрявания на агенти
- Модели на внедряване: поетапно, канарско и прогресивно разпространение за агенти
- Контрол на промените, тестови конвейери и проверки за безопасност преди внедряване
- Междуфункционално управление: сборници с процедури за сигурност, правни, продуктови и оперативни екипи
Капстоун: Red-team / Blue-team упражнение
- Изпълнение на симулирана red-team атака срещу изолирана агентна среда
- Защита, откриване и отстраняване като blue team, използвайки контроли и телеметрия
- Представяне на констатации, план за отстраняване и актуализации на политики
Обобщение и следващи стъпки
Изисквания
- Солиден опит в инженерството по сигурност, системно администриране или облачни операции
- Запознатост с концепциите за AI/ML и поведението на големи езикови модели (LLM)
- Опит с управление на идентичност и достъп (IAM) и проектиране на сигурни системи
Аудитория
- Инженери по сигурност и red-teamers
- Инженери по AI операции и платформи
- Служители по съответствие и мениджъри на риска
- Инженерни ръководители, отговорни за внедряване на агенти
21 Часа