Съдържание и теми, включени в курса
Основи на управлението на сигурността на AI
- Основни принципи на управлението на AI
- Корпоративни рамки за сигурност за AI
- Роли и отговорности на заинтересованите страни
Методологии за оценка на риска на AI
- Идентифициране и категоризиране на рискове за сигурността на AI
- Моделиране на заплахи за системи, базирани на AI
- Оценка на въздействието и приоритизиране
Сигурно проектиране на AI системи
- Проектиране за конфиденциалност, цялостност и наличност
- Внедряване на контроли за сигурност в AI потоците
- Съображения за управление на жизнения цикъл на моделите
Защита на данните и поверителност в AI
- Управление на данни за машинно обучение
- Управление на чувствителни и регулирани данни
- Технологии, подобряващи поверителността
Мониторинг и осигуряване на сигурността на AI операциите
- Непрекъсната оценка на поведението на AI
- Откриване на отклонения, аномалии и злоупотреби
- Оперативна разузнавателна информация за заплахи за AI системи
Съответствие с регулации и стандарти
- Глобални стандарти, засягащи сигурността на AI
- Документация и готовност за одит
- Съгласуване на управлението със законовите задължения
Реагиране при инциденти за AI системи
- Специфични за AI вектори на атака и индикатори
- Работни потоци за реагиране при компрометирани модели
- Преглед след инцидент и отстраняване на последствията
Стратегическо управление на сигурността на AI
- Изграждане на дългосрочен капацитет за сигурност на AI
- Интегриране на AI риска в корпоративната стратегия
- Оценки на зрелостта и непрекъснато подобрение
Обобщение и следващи стъпки
Изисквания
- Разбиране на принципите на риска в киберсигурността
- Опит с AI или системи, управлявани от данни
- Запознатост с управлението на корпоративната сигурност
Аудитория
- Мениджъри по сигурността, надзираващи AI инициативи
- Професионалисти по управление и риск
- Технически ръководители, отговорни за сигурното внедряване на AI
Отзиви от участници (3)
Оценявам много обучението по AI атаки и инструментите, които са налични за започване на практика и активно използване при тестове за сигурност. Придобих много знания, които не имах в началото, а курсът реализира очакванията ми. Най-интересната част за мен беше Comet Browser, което ме впечатли с възможностите си. Определено ще се задълба по-задълбочено в тази тема. Като цяло, курсът беше изключително добър и насладих на ученето на всички точки от OWASP GenAI Top 10.
Patrick Collins - Optum
Курс - OWASP GenAI Security
Машинен превод
Професионалните знания и начинът, по който ни ги представи
Miroslav Nachev - PUBLIC COURSE
Курс - Cybersecurity in AI Systems
Машинен превод
Начинът да получите информацията от тренера
Mohamed Romdhani - Shams Power
Курс - CISM - Certified Information Security Manager
Машинен превод