Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Основи: Модели на заплахи за агентния AI
- Видове агентни заплахи: злоупотреба, ескалация, изтичане на данни и рискове във веригата на доставки
- Профили на противниците и способности на атакуващите, специфични за автономните агенти
- Картографиране на активи, граници на доверие и критични контролни точки за агенти
Управление, политики и управление на риска
- Рамки за управление на агентни системи (роли, отговорности, точки на одобрение)
- Проектиране на политики: приемлива употреба, правила за ескалация, обработка на данни и възможност за одит
- Съображения за съответствие и събиране на доказателства за одити
Нечовешка идентичност и удостоверяване за агенти
- Проектиране на идентичности за агенти: сервизни акаунти, JWT и краткотрайни удостоверения
- Модели на достъп с минимални привилегии и предоставяне на удостоверения точно навреме
- Жизнен цикъл на идентичността, ротация, делегиране и стратегии за отнемане
Контрол на достъпа, тайни и защита на данните
- Модели за финогранулиран контрол на достъпа и модели, базирани на способности за агенти
- Управление на тайни, криптиране при пренос и при покой, както и минимизиране на данните
- Защита на чувствителни източници на знания и лични данни от неоторизиран достъп на агенти
Наблюдаемост, одит и реакция при инциденти
- Проектиране на телеметрия за поведението на агентите: проследяване на намеренията, командни регистри и произход
- SIEM интеграция, прагове за сигнализиране и готовност за криминалистично разследване
- Наръчници и планове за действие при инциденти, свързани с агенти, и ограничаване на щетите
Red-teaming на агентни системи
- Планиране на red-team упражнения: обхват, правила за участие и безопасно превключване при отказ
- Техники за симулиране на противник: инжектиране на промптове, злоупотреба с инструменти, манипулиране на веригата на разсъждения и злоупотреба с API
- Провеждане на контролирани атаки и измерване на експозицията и въздействието
Укрепване и смекчаване на рисковете
- Инженерен контрол: ограничаване на отговорите, ограничаване на способностите и поставяне в пясъчна среда
- Контрол на политиките и оркестрацията: потоци на одобрение, човешко участие в процеса и куки за управление
- Защити на ниво модел и промпт: валидиране на входа, канонизация и филтри на изхода
Операционализиране на безопасното внедряване на агенти
- Модели на внедряване: етапно, канарско и прогресивно пускане на агенти
- Контрол на промените, тестови конвейери и проверки за безопасност преди внедряване
- Кросфункционално управление: наръчници за сигурност, правни, продуктови и оперативни екипи
Заключителен проект: Red-team / Blue-team упражнение
- Изпълнение на симулирана red-team атака срещу пясъчна среда с агенти
- Защита, откриване и отстраняване като blue team чрез контроли и телеметрия
- Представяне на констатации, план за отстраняване и актуализации на политиките
Обобщение и следващи стъпки
Изисквания
- Солидна основа в инженерството на сигурността, системното администриране или облачните операции
- Познаване на концепциите за AI/ML и поведението на големи езикови модели (LLM)
- Опит с управлението на идентичности и достъп (IAM) и сигурното проектиране на системи
Аудитория
- Инженери по сигурността и red-team специалисти
- Инженери по AI операции и платформи
- Служители по съответствието и мениджъри на риска
- Технически ръководители, отговорни за внедряването на агенти
21 Часа
Отзиви от участници (1)
инвентаризация и идентифициране на различните рискови експозиции в ИИ
Gary Cook - Cybersecurity and Information Technology Risk Division
Курс - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Машинен превод
