План на курса

Разбиране на риск, специфичен за AI в държавни обстановки

  • Как се различава рискът, свързан с AI, от традиционния IT и данъчен риск
  • Категории на риск, свързан с AI: технически, операционни, репутационни и етични
  • Обществен отговорност и възприемане на риска в държавния сектор

Рамки за AI

  • NIST AI рамка за управление на риск (AI RMF)
  • ISO/IEC 42001:2023 — Стандарт за системи за AI
  • Други специфични за сектора и международни указания (например, OECD, UNESCO)

Застрашения за сигурността на системите за AI

  • Враждебни входни данни, отравяне на данни и инверсия на модели
  • Разкриване на чувствителни данни за обучение
  • Рискове на веригата за доставка и на трети страни модели

Управление, аудит и контрол

  • Човек в цикъла и механизми за отговорност
  • Аудируема AI: документация, версиониране и интерпретируемост
  • Вътрешни контролни мерки, роли за надзор и точки за съответствие

Оценка на риска и планиране за намаляване

  • Създаване на регистри на риск за употреба на AI
  • Сътрудничество с отсеци за закупуване, юридически и дизайн на услуги
  • Провеждане на оценки преди и след развертяване

Отговор на инциденти и устойчивост на обществения сектор

  • Отговарене на инциденти и нарушения, свързани с AI
  • Комуникация с заинтересовани страни и общественост
  • Вграждане на практики за риск, свързан с AI, в киберсигурностни процедури

Резюме и следващи стъпки

Изисквания

  • Опит в ИТ операции, управление на рисковете, киберсигурност или съответствие в държавните институции
  • Познание на организационните практики за сигурност и доставка на цифрови услуги
  • Не е необходим предварителен технически опит в системи с изкуствен интелигент

Целева група

  • Goправителствени ИТ екипи, включени в цифрови услуги и интеграция на системи
  • Професионалисти в областта на киберсигурността и управлението на рисковете в публичните институции
  • Персонал от публичния сектор за аудит, съответствие и управление

 7 часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории