План на курса
Основи на управлението на сигурността в AI
- Ключовите принципи за управление на AI
- Фреймворки за сигурност в предприятията, свързани с AI
- Роли и отговорности на заинтересованите страни
Методологии за оценка на рисковете в AI
- Идентифициране и класификация на рисковете за сигурността в AI
- Моделироване на заплахи за системите със способности към AI
- Оценка на влиянието и приоритизация
Безопасен дизайн на системи с AI
- Проектиране за конфиденциалност, цялост и наличност
- Въвеждане на мерки за сигурност в пайплайните на AI
- Раз/Dk преминаването през жизнения циклус на моделите
Защита и поверителност на данните в AI
- Управление на данни за машинно учение
- Управление на чувствителните и регулирани данни
- Технологии, усилващи поверителността
Мониторинг и защита на операциите с AI
- Непрекъснато оценяване на поведението на AI
- Определяне на промяна, аномалии и злоупотреби
- Интелект за заплахи в операциите с AI
Регулаторно и комплаенс съответствие
- Глобални стандарти, влияещи върху сигурността на AI
- Документация и готовност за аудит
- Подръждане на управлението с правните задължения
Отговор на инциденти в системите с AI
- Вектори на атака и индикатори, специфични за AI
- Течения на работа при компрометирани модели
- Преглед и възстановяване след инциденти
Стратегическо управление на сигурността в AI
- Построяване на дългосрочна способност за сигурност на AI
- Интегриране на рисковете от AI в стратегията на предприятието
- Оценка на зрелостта и непрекъснато подобряване
Резюме и следващи стъпки
Изисквания
- Разбиране на принципите за рискове в киберсигурността
- Опътване с AI или системи, основанни на данни
- Познаване на управлението на сигурността в предприятията
Публика
- Мениджмънт за сигурност, отговарящ за инициативите с AI
- Професионалисти в управлението на рискове и регулаторното управление
- Технически лидери, отговорни за безопасната адаптация на AI
Отзиви от потребители (4)
Оценявам много обучението по AI атаки и инструментите, които са налични за започване на практика и активно използване при тестове за сигурност. Придобих много знания, които не имах в началото, а курсът реализира очакванията ми. Най-интересната част за мен беше Comet Browser, което ме впечатли с възможностите си. Определено ще се задълба по-задълбочено в тази тема. Като цяло, курсът беше изключително добър и насладих на ученето на всички точки от OWASP GenAI Top 10.
Patrick Collins - Optum
Курс - OWASP GenAI Security
Машинен превод
Професионалните знания и начинът, по който ни ги представи
Miroslav Nachev - PUBLIC COURSE
Курс - Cybersecurity in AI Systems
Машинен превод
Начинът да получите информацията от тренера
Mohamed Romdhani - Shams Power
Курс - CISM - Certified Information Security Manager
Машинен превод
Обзор на темите за рискови фактори и подготвка за изпита
Leszek - EY GLOBAL SERVICES (POLAND) SP Z O O
Курс - CRISC - Certified in Risk and Information Systems Control
Машинен превод