Introduction to AI Trust, Risk, and Security Management (AI TRiSM) Training Course

Този курс с инструктор, проводим на живо (онлайн или на място), е направен за ръководители на предприятия с среден ниво, които искат да разберат как да управляват и осигуряват AI системи отговорно и в съответствие с новите глобални рамки като Закона за AI на ЕС, GDPR, ISO/IEC 42001 и изпълнителната заповед на САЩ за AI.

До края на този курс участниците ще бъдат способни да:

• Разберат правните, етичните и регулаторните рискове при използването на AI в различните отдели.
• Интерпретират и приложат основните рамки за управление на AI (Закон за AI на ЕС, NIST AI RMF, ISO/IEC 42001).
• Създават политики за сигурност, аудит и надзор за развертането на AI в предприятията.
• Разработват указания за закупуване и използване на третостранни и вътрешни AI системи.

Участвуващите в курс Artificial Intelligence (AI) представят нови измерения на операционния риск, изисквания за управление и киберсигурност за държавни агенции и министерства.Този курс с инструктор и живо обучение (онлайн или на място) е направен за IT и рискови специалисти от публичния сектор с ограничен предишен опит в AI, които искат да разберат как да оценяват, мониторират и сигурнят AI системи в контекста на държавна или регулаторна рамка.Към края на този курс участниците ще бъдат в състояние да:

• Интерпретират ключови концепции за риск, свързани с AI системи, включително предвзетост, непредсказуемост и промяна на модели.
• Прилагат специфични за AI рамки за управление и аудит, като NIST AI RMF и ISO/IEC 42001.
• Разпознават киберсигурностни застрашения, насочени към AI модели и данни.
• Създават междинституционални планове за управление на риска и съгласуване на политиките за развертяване на AI.

Формат на курса

• Интерактивни лекции и обсъждане на случаи от публичния сектор.
• Упражнения с рамки за управление на AI и картиране на политики.
• Моделиране на застрашения и оценка на риска, базирани на сценарии.

Опции за персонифициране на курса

• За заповяждане на персонифициран курс за този обучаващ курс, моля свържете се с нас за уреждане.

Този курс с инструктор, проводим живо (онлайн или на място) е насочен към средно ниво до напреднали AI разработчици, архитекти и продуктови мениджъри, които искат да идентифицират и намалят рисковете, свързани с приложения с подкрепа от LLM, включително инжектиране на подсказки, изтичане на данни и непрофилиран изход, докато включват контролни мерки за сигурност като валидация на вход, човешки надзор и ограничения за изход.

Към края на този курс участниците ще могат да:

• Разберат основните уязвимости на системите, базирани на LLM.
• Прилагат принципи за сигурен дизайн към архитектурата на приложения с LLM.
• Използват инструменти като Guardrails AI и LangChain за валидация, филтриране и сигурност.
• Интегрират техники като изолация, атакуващи екипи и човешки надзор в производствени канали.

Това водено от инструктор обучение на живо в България (онлайн или на място) е насочено към специалисти по ИИ и киберсигурност на средно ниво, които желаят да разберат и да се справят с уязвимостите в сигурността, специфични за моделите и системите на ИИ, особено в силно регулирани индустрии като финанси , управление на данни и консултиране.

До края на това обучение участниците ще могат:

• Разберете видовете състезателни атаки, насочени към AI системи и методите за защита срещу тях.
• Внедрете техники за укрепване на модела, за да осигурите тръбопроводи за машинно обучение.
• Осигурете сигурност и цялост на данните в моделите за машинно обучение.
• Навигирайте в изискванията за регулаторно съответствие, свързани със сигурността на AI.

Това обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за професионалисти в областта на ИТ сигурността, риска и съответствието, които желаят да разберат основните концепции за сигурността на AI, векторовете на заплахи и глобалните рамки като NIST AI RMF и ISO/IEC 42001.

До края на това обучение участниците ще могат да:

• Разберат уникалните рискове за сигурност, които въвеждат системите на AI.
• Идентифицират векторове на заплахи като злонамерени атаки, отравяне на данни и инверсия на модели.
• Прилагат основни модели на управление като NIST AI Risk Management Framework.
• Съгласуват използването на AI с възникващите стандарти, принципи за съответствие и етични принципи.

Този курс с инструктор, който се провежда на живо (онлайн или на място), е предназначен за професионалисти на напреднал ниво, които искат да реализират и оценят техники като федеративно обучение, сигурно многостранно изчисление, хомоморфно шифриране и диференциална приватност в реални машинни обучващи пайплайни.

До края на този курс участниците ще могат да:

• Разбират и сравняват ключови техники за защита на приватността в ML.
• Реализират системи за федеративно обучение с отворени платформи.
• Прилагат диференциална приватност за сигурно споделяне на данни и обучение на модели.
• Използват шифриране и сигурни техники за изчисления за защита на входа и изхода на моделите.

This instructor-led, live training in България (online or onsite) is aimed at advanced-level security professionals and ML specialists who wish to simulate attacks on AI systems, uncover vulnerabilities, and enhance the robustness of deployed AI models.

By the end of this training, participants will be able to:

• Simulate real-world threats to machine learning models.
• Generate adversarial examples to test model robustness.
• Assess the attack surface of AI APIs and pipelines.
• Design red teaming strategies for AI deployment environments.

Това обучение с инструктор, провеждано на живо в България (онлайн или на място), е предназначено за инженери и специалисти по сигурност на среден ниво, които искат да осигурят сигурност на модели на изкуствен интелигент, разпознати на периферията, срещу загрози като омагьосване, изтичане на данни, враждебни входни данни и физически атаки.

След края на това обучение участниците ще могат да:

• Идентифицират и оценят сигурностни рискове в разпознати на периферията изкуствени интелигентни разпознавания.
• Прилагат техники за отпорност към омагьосване и закодирана инференция.
• Укрепват периферно разпознати модели и осигуряват сигурност на данни.
• Прилагат стратегии за намаляване на загрози, специфични за вградени и ограничени системи.

Това обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за специалисти с интермедиен уровень в областа на машиното обучение и киберсигурността, които искат да разберат и намалят възникващите застрашения срещу AI модели, използвайки както концептуални рамки, така и ръчни отбранителни техники, като устойчиво обучение и диференциално приватност.

До края на това обучение участниците ще могат да:

• Идентифицират и класифицират застрашения, специфични за AI, като адверзариални атаки, инверсия и отрова.
• Използват инструменти като Adversarial Robustness Toolbox (ART), за да симулират атаки и тестират модели.
• Прилагат практични отбрани, включително адверзариално обучение, инжектиране на шум и техники за запазване на приватността.
• Проектират стратегии за оценка на модели с осъзнаване на застрашения в продуктивни среди.