Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Продължителност 21 часa
Съдържание и теми, включени в курса
Основи: Модели на заплахи за агентни ИС
- Видове заплахи за агенти: злоупотреба, ескалация, изтичане на данни и рискове за веригата на доставката
- Профили на противниците и способностите на атакующите, специфични за автономни агенти
- Картиране на активите, границите на доверието и критичните точки на контрол за агенти
Управление, политика и управление на риска
- Рамоките за управление на агентните системи (роли, отговорности, одитни врати)
- Дизайн на политика: приемливо използване, правила за ескалация, обработка на данни и одит
- Прекрати на съответствието и събиране на доказателства за одити
Нечовешка идентичност и автентикация за агенти
- Проектиране на идентичности за агенти: служебни акаунти, JWT и краткосрочни креденциали
- Модели за достъп с минимални привилегии и краткосрочно предоставяне на креденциали
- Жизнен цикъл на идентичността, ротация, делегиране и стратегии за отнемане
Контрол на достъпа, тайни и защита на данни
- Финно детайлирани модели за контрол на достъпа и способност-базира модели за агенти
- Управление на тайни, криптиране при преход и в покой, и минимизация на данни
- Защита на чувствителните източници на знание и ПУИД от неразрешен достъп на агенти
Наблюдаваемост, одит и отговор при инциденти
- Проектиране на телеметрия за поведение на агенти: проследяване на намерение, записи на команди и произход
- Интеграция със SIEM, прагове за предупреждение и готовност за форензика
- Сценарии и планове за действие при инциденти, свързани с агенти, и съдържание
Червено отровяване на агентни системи
- Планиране на упражнения за червено отровяване: обхват, правила за ангажимент и безопасно отменяне
- Противнически техники: инжектиране на промпт, злоупотреба с инструменти, манипулация на веригата на мисли и злоупотреба с API
- Провеждане на контролирани атаки и измерване на експозицията и влиянието
Затвърдяване и смекчаване
- Инженерни контроли: ограничаване на отговора, контролиране на способностите и сандбокинг
- Политически и оркестрационни контроли: потоци за одит, човек в цикъла и хукове за управление
- Защита на ниво модел и промпт: валидиране на входа, канонизация и филтри за изход
Операциониране на безопасни разгръщания на агенти
- Модели за разгръщане: staging, канари и прогресивно разгръщане за агенти
- Контрол на промените, тестови пайплайни и проверки за безопасност преди разгръщане
- Междудисциплинарно управление: сценарии за сигурност, право, продукт и операции
Заключително: Упражнение Червено / Синьо отровяване
- Изпълнение на симулирана атака от червен екип срещу сандбоксована среда на агент
- Защита, откриване и отстраняване като син екип, използвайки контроли и телеметрия
- Презентация на резултатите, план за отстраняване и актуализации на политиката
Резюме и следващи стъпки
Изисквания
- Твърда основа в областта на инженерството на сигурността, системното администриране или облачните операции
- Знакомство с концепциите на ИИ/МО и поведението на моделите с големи езикови способности (LLM)
- Опит с управлението на идентичност и достъпа (IAM) и дизайна на безопасни системи
Аудитория
- Инженери по сигурността и специалисти по червено отровяване
- Специалисти по операциите с ИИ и инженери по платформите
- Офицери по съответствието и мениджъри на риска
- Водачи на инженерни екипи, отговорни за разгръщането на агенти
Отзиви от участници (1)
инвентаризация и идентифициране на различните рискови експозиции в ИИ
Gary Cook - Cybersecurity and Information Technology Risk Division
Курс - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Машинен превод
