Курс за обучение по Red Teaming AI Systems: Offensive Security for ML Models

Това обучение с инструкторско ръководство, провеждащо се онлайн или на място, е предназначено за ръководители на предприятия с среден ниво, които искат да разберат как да управляват и да осигурят изкуствен интелигентни системи отговорно и в съответствие с излизащи глобални рамки като Закона за ИИ на ЕС, GDPR, ISO/IEC 42001 и Изпълнителната заповед за ИИ на Съединените щати.

До края на това обучение участниците ще могат да:

• Разберат правните, етичните и регулаторните рискове при използването на ИИ в различни отдели.
• Тълкуваят и прилагат основните рамки за управление на ИИ (Закона за ИИ на ЕС, NIST AI RMF, ISO/IEC 42001).
• Създават политики за сигурност, аудит и надзор за развертяването на ИИ в предприятието.
• Разработват ръководства за закупуване и използване на третични и вътрешни ИИ системи.

Artificial Intelligence (AI) представя нови измерения на операционния риск, предизвикателства в управлението и възможности за киберсигурност за правителствени агенции и министерства.

Този курс с инструктор, проведен в живо (онлайн или на място), е предназначен за IT и рискови професионалисти в публичния сектор с ограничен предишен опит в AI, които искат да разберат как да оценяват, следят и сигурнят системите с AI в правителствен или регулаторен контекст.

Към края на този курс участниците ще могат да:

• Интерпретират ключови рискови концепции, свързани със системи с AI, включително предвзетост, непредсказуемост и отклонение на модели.
• Прилагат специфични за AI рамки за управление и аудит, като NIST AI RMF и ISO/IEC 42001.
• Разпознават киберсигурностни заплахи, насочени към модели на AI и данни.
• Установяват междовъзпроизводствени планове за управление на риска и съгласуване на политиките за развой на AI.

Формат на курса

• Интерактивни лекции и дискусии на случаи от публичния сектор.
• Упражнения на рамки за управление на AI и картиране на политики.
• Сценариозно моделиране на заплахи и оценка на риска.

Опции за персонализация на курса

• За запрашване на персонализиран тренинг за този курс, моля, свържете се с нас, за да уредим.

Това инструкторско, живо обучение (онлайн или на място) е насочено към IT професионалисти с начално и средно ниво, които желаят да разберат и да внедрят AI TRiSM в своите организации.

До края на това обучение участниците ще могат да:

• Разберат ключовите концепции и важността на управлението на доверие, риск и сигурност в AI.
• Идентифицират и намалят рисковете, свързани със системи за AI.
• Внедрят най-добрите практики за сигурност в AI.
• Разберат регулаторното съответствие и етичните разсъждения за AI.
• Разработят стратегии за ефективно управление и управление на AI.

Този курс с инструктор, проводим живо (онлайн или на място) е насочен към средно ниво до напреднали AI разработчици, архитекти и продуктови мениджъри, които искат да идентифицират и намалят рисковете, свързани с приложения с подкрепа от LLM, включително инжектиране на подсказки, изтичане на данни и непрофилиран изход, докато включват контролни мерки за сигурност като валидация на вход, човешки надзор и ограничения за изход.

Към края на този курс участниците ще могат да:

• Разберат основните уязвимости на системите, базирани на LLM.
• Прилагат принципи за сигурен дизайн към архитектурата на приложения с LLM.
• Използват инструменти като Guardrails AI и LangChain за валидация, филтриране и сигурност.
• Интегрират техники като изолация, атакуващи екипи и човешки надзор в производствени канали.

Това обучение, водено от инструктор, в България (онлайн или на място) е насочено към професионалисти на средно ниво в областта на ИС и киберсигурност, които искат да разберат и да се справят със уязвимостите в сигурността, специфични за модели и системи на ИС, особено в високо регулираните отрасли като финанси, управление на данни и консалтинг.

До края на това обучение участниците ще могат да:

• Разберат видовете злонамерени атаки, насочени към системи на ИС, и методи за защита срещу тях.
• Приложат техники за затвърдяване на моделите за сигурност на машинните обучаващи линии.
• Обеспечат сигурността и целостта на данните в моделите на машинното обучение.
• Навигация през изискванията за съответствие на регулациите, свързани със сигурността на ИС.

Това обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за начинаещи IT специалисти по сигурност, риск и съответствие, които искат да разберат основните концепции за сигурност на AI, вектор на заплахи и глобални рамки като NIST AI RMF и ISO/IEC 42001.

След завършване на това обучение участниците ще могат да:

• Разберат уникалните рискове за сигурност, въведени от AI системи.
• Идентифицират вектор на заплахи като вражески атаки, отрова на данни и инверсия на модели.
• Прилагат основни модели за управление като NIST AI Risk Management Framework.
• Подредят използването на AI с излизащи стандарти, ръководства за съответствие и етични принципи.

Товата обучение с инструктор, провеждащо се онлайн или на място, е предназначено за професионалисти на напреднал нив, които искат да внедряват и оценяват техники като федеративно обучение, сигурно изчисление с участието на повече от една страна, хомоморфно шифриране и диференциална приватност в реални машинен-обучаващи пиплайни.

До края на това обучение участниците ще могат да:

• Разбират и сравняват ключовите техники за защита на приватността в ML.
• Внедряват системи за федеративно обучение, използвайки отворени платформи.
• Прилагат диференциална приватност за сигурно споделяне на данни и обучение на модели.
• Използват техники за шифриране и сигурно изчисление за защита на входа и изхода на моделите.

Този курс с инструктор, проведен в живо (онлайн или на място), е насочен към инженерни специалисти и специалисти по сигурност на средно ниво, които желаят да осигурят сигурност на модели на изкуствен интелигент, разгърнати на периферията, срещу заплахи като манипулации, изтичане на данни, злонамерени входни данни и физически атаки.

По края на този курс участниците ще могат да:

• Идентифицират и оценят сигурностни рискове в разгрънати на периферията модели на изкуствен интелигент.
• Прилагат техники за отпорност към манипулации и закритата извличане на заключения.
• Укрепват разгърнатите на периферията модели и осигуряват сигурност на каналите за данни.
• Имплементират стратегии за намаляване на заплахи, специфични за вграждени и ограничени системи.

Този обучение с инструктор, което може да се проведе онлайн или на място, е предназначено за професионалисти с среден ниво на знания в областта на машинното обучение и киберсигурността, които искат да разберат и да ограничат изразяващите се заплахи срещу модели на изкуствен интелект, използвайки както концептуални рамки, така и практични отбрани като устойчиво обучение и диференциална приватност.

До края на това обучение участниците ще бъдат в състояние да:

• Идентифицират и класифицират специфични за ИИ заплахи като адверсални атаки, инверсия и отрова.
• Използват инструменти като Adversarial Robustness Toolbox (ART) за симулиране на атаки и тестване на модели.
• Прилагат практични отбрани като адверсално обучение, инжектиране на шум и техники за запазване на приватността.
• Проектират стратегии за оценка на модели, осъзнаващи заплахите в производствени среди.