Свържете се с нас

Съдържание и теми, включени в курса

Основи: Модели на заплахи за агентен AI

  • Видове агентни заплахи: злоупотреба, ескалация, изтичане на данни и рискове във веригата на доставки
  • Профили на противници и способности на атакуващи, специфични за автономни агенти
  • Картографиране на активи, граници на доверие и критични точки за контрол за агенти

Управление, политика и управление на риска

  • Рамки за управление на агентни системи (роли, отговорности, врати за одобрение)
  • Проектиране на политики: приемливо използване, правила за ескалация, обработка на данни и възможност за одит
  • Съображения за съответствие и събиране на доказателства за одити

Нечовешка идентичност и удостоверяване за агенти

  • Проектиране на идентичности за агенти: сервизни акаунти, JWT и краткотрайни удостоверения
  • Модели за достъп с най-ниски привилегии и оторизиране точно навреме
  • Жизнен цикъл на идентичността, ротация, делегиране и стратегии за отнемане

Контрол на достъпа, секрети и защита на данните

  • Модели за детайлен контрол на достъпа и модели, базирани на способности, за агенти
  • Управление на секрети, криптиране при пренос и в покой и минимизиране на данните
  • Защита на чувствителни източници на знания и лични данни от неоторизиран достъп от агенти

Наблюдаемост, одитиране и реакция при инциденти

  • Проектиране на телеметрия за поведение на агенти: проследяване на намерения, командни логове и произход
  • Интеграция със SIEM, прагове за предупреждение и готовност за криминалистичен анализ
  • Сборници с процедури и планове за действие при инциденти, свързани с агенти, и ограничаване

Red-teaming на агентни системи

  • Планиране на red-team упражнения: обхват, правила за участие и безопасно превключване при отказ
  • Техники на противника: инжектиране на промпт, злоупотреба с инструменти, манипулация на веригата на разсъждение и злоупотреба с API
  • Провеждане на контролирани атаки и измерване на излагането на риск и въздействието

Укрепване и смекчаване

  • Инженерни контроли: ограничаване на отговорите, стробиране на способности и пясъчна кутия
  • Контроли на политики и оркестрация: потоци за одобрение, човек в цикъла и куки за управление
  • Защити на ниво модел и промпт: валидиране на входа, каноникализация и изходни филтри

Операционализиране на безопасни внедрявания на агенти

  • Модели на внедряване: поетапно, канарско и прогресивно разпространение за агенти
  • Контрол на промените, тестови конвейери и проверки за безопасност преди внедряване
  • Междуфункционално управление: сборници с процедури за сигурност, правни, продуктови и оперативни екипи

Капстоун: Red-team / Blue-team упражнение

  • Изпълнение на симулирана red-team атака срещу изолирана агентна среда
  • Защита, откриване и отстраняване като blue team, използвайки контроли и телеметрия
  • Представяне на констатации, план за отстраняване и актуализации на политики

Обобщение и следващи стъпки

Изисквания

  • Солиден опит в инженерството по сигурност, системно администриране или облачни операции
  • Запознатост с концепциите за AI/ML и поведението на големи езикови модели (LLM)
  • Опит с управление на идентичност и достъп (IAM) и проектиране на сигурни системи

Аудитория

  • Инженери по сигурност и red-teamers
  • Инженери по AI операции и платформи
  • Служители по съответствие и мениджъри на риска
  • Инженерни ръководители, отговорни за внедряване на агенти
 21 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории