Курс за обучение по Introduction to AI Security and Risk Management

AI Security и Risk Management е практиката за идентифициране, намаляване и управление на сигурностни застрашения, рискове за съответствие и операционни излази в системи и процесове, базирани на изкуствен интелигент. Това обучение с инструктор (онлайн или на място) е предназначено за професионалисти от началния ниво в областта на ИТ сигурност, рискове и съответствие, които искат да разберат основателните концепции за сигурност на ИИ, застрашения и глобални рамки като NIST AI RMF и ISO/IEC 42001. Към края на това обучение участниците ще могат да: - Разберат уникалните сигурностни рискове, въведени от системи на ИИ. - Идентифицират застрашения като злонамерени атаки, отравяне на данни и инвертиране на модели. - Прилагат основателни модели за управление като NIST AI Risk Management Framework. - Синхронизират използването на ИИ с излизащи стандарти, насоки за съответствие и етични принципи. Формат на курса - Интерактивна лекция и дискусия. - Много упражнения и практика. - Ръчно изпълнение в среда на живо лаборатория. Опции за персонализиране на курса - За заявка за персонализиран тренинг за този курс, моля, свържете се с нас за уреждане. Въведение в AI Security и Risk Management Основи на ИИ и сигурност - Какво прави системите на ИИ уникални от сигурностна перспектива - Преглед на животния цикъл на ИИ: данни, обучение, инференция и развертане - Основна таксономия на рисковете на ИИ: технически, етични, правни и организационни Застрашения, специфични за ИИ - Злонамерени примерци и манипулиране на модели - Инвертиране на модели и рискове от изтичане на данни - Отравяне на данни по време на фази на обучение - Рискове в генеративен ИИ (например, злоупотреба с LLM, инжектиране на подсказки) Рамки за сигурност Risk Management - NIST AI Risk Management Framework (NIST AI RMF) - ISO/IEC 42001 и други стандарти, специфични за ИИ - Отнасяне на риска на ИИ към съществуващи корпоративни рамки за управление на рисковете, съответствие и управление (GRC) Принципи за управление и съответствие на ИИ - Отговорност и проверка на ИИ - Прозрачност, обяснителност и справедливост като свойства, свързани със сигурността - Предразсъдъци, дискриминация и вреди, произлизащи от това Корпоративна готовност и политики AI Security - Определяне на роли и отговорности в програми за сигурност на ИИ - Елементи на политиката: разработка, закупка, използване и изоставяне - Рискове от трети страни и използване на инструменти за ИИ от доставчици Регулаторна среда и глобални тенденции - Преглед на Закона за ИИ на ЕС и международно регулиране - Указ на президента на САЩ за безопасен, сигурен и доверен ИИ - Излизащи национални рамки и секторно специфични насоки Опционален семинар: Картиране на рискове и самопроверка - Картиране на реални случаи на използване на ИИ към функции на NIST AI RMF - Извършване на основна самопроверка на риска на ИИ - Идентифициране на вътрешни продухи в готовността за сигурност на ИИ Резюме и следващи стъпки AI Security и Risk Management е практиката за идентифициране, намаляване и управление на сигурностни застрашения, рискове за съответствие и операционни излази в системи и процесове, базирани на изкуствен интелигент. Това обучение с инструктор (онлайн или на място) е предназначено за професионалисти от началния ниво в областта на ИТ сигурност, рискове и съответствие, които искат да разберат основателните концепции за сигурност на ИИ, застрашения и глобални рамки като NIST AI RMF и ISO/IEC 42001. Към края на това обучение участниците ще могат да: - Разберат уникалните сигурностни рискове, въведени от системи на ИИ. - Идентифицират застрашения като злонамерени атаки, отравяне на данни и инвертиране на модели. - Прилагат основателни модели за управление като NIST AI Risk Management Framework. - Синхронизират използването на ИИ с излизащи стандарти, насоки за съответствие и етични принципи. Формат на курса - Интерактивна лекция и дискусия. - Много упражнения и практика. - Ръчно изпълнение в среда на живо лаборатория. Опции за персонализиране на курса - За заявка за персонализиран тренинг за този курс, моля, свържете се с нас за уреждане. - Разбиране на основните принципи на киберсигурност - Опит с рамки за управление на ИТ или управление на рискове - Знакомство с общи концепции за ИИ е полезно, но не е задължително Целева аудитория - Екипи за ИТ сигурност - Мениджъри на рискове - Професионалисти в областта на съответствието Това обучение с инструктор (онлайн или на място) е предназначено за професионалисти от началния ниво в областта на ИТ сигурност, рискове и съответствие, които искат да разберат основателните концепции за сигурност на ИИ, застрашения и глобални рамки като NIST AI RMF и ISO/IEC 42001. Към края на това обучение участниците ще могат да: - Разберат уникалните сигурностни рискове, въведени от системи на ИИ. - Идентифицират застрашения като злонамерени атаки, отравяне на данни и инвертиране на модели. - Прилагат основателни модели за управление като NIST AI Risk Management Framework. - Синхронизират използването на ИИ с излизащи стандарти, насоки за съответствие и етични принципи.