Съдържание и теми, включени в курса
Разбиране на специфичния за ИИ риск в правителствена среда
- Как рискът от ИИ се различава от традиционния ИТ и риск от данни
- Категории риск от ИИ: технически, оперативен, репутационен и етичен
- Публична отчетност и възприемане на риска в правителството
Рамки за управление на риска при ИИ
- NIST AI Risk Management Framework (AI RMF)
- ISO/IEC 42001:2023 — стандарт за система за управление на ИИ
- Други секторни и международни насоки (напр. OECD, UNESCO)
Заплахи за сигурността на ИИ системите
- Адверсариални входни данни, отравяне на данни и инверсия на модели
- Излагане на чувствителни обучителни данни
- Рискове от веригата на доставки и модели на трети страни
Управление, одит и контроли
- Механизми за човешки контрол и отчетност
- Одитируем ИИ: документация, версиониране и интерпретируемост
- Вътрешни контроли, надзорни роли и контролни точки за съответствие
Оценка на риска и планиране на смекчаване
- Изграждане на рискови регистри за случаи на използване на ИИ
- Сътрудничество с екипи по обществени поръчки, правни въпроси и проектиране на услуги
- Провеждане на оценки преди и след внедряването
Реакция при инциденти и устойчивост в публичния сектор
- Реагиране на инциденти и пробиви, свързани с ИИ
- Комуникация със заинтересованите страни и обществеността
- Вграждане на практики за риск от ИИ в наръчниците по киберсигурност
Обобщение и следващи стъпки
Изисквания
- Опит в ИТ операциите, управлението на риска, киберсигурността или съответствието в правителствени институции
- Познаване на организационните практики за сигурност и предоставянето на цифрови услуги
- Не се изисква предишен технически опит в ИИ системите
Аудитория
- Правителствени ИТ екипи, участващи в цифрови услуги и системна интеграция
- Професионалисти по киберсигурност и риск в публични институции
- Персонал по одит, съответствие и управление в публичния сектор
Отзиви от участници (2)
Как най-добре да се интегрира изкуственият интелект в ежедневните операции, управлението на проекти и стратегическото планиране на организацията.
Mincho Dimitrov Benov
Курс - AI and Modern Project Management for NGOs
Машинен превод
Научих повече за Microsoft Copilot – нещо, което в началото мислех, че е същото като ChatGPT, но открих множество възможности, които ще ползвам за по-лесния си живот.
Thato Malapane - MSP Mine Support Products (Pty) ltd
Курс - AI Tools for Administrative Efficiency (ChatGPT, Copilot, Gemini)
Машинен превод