Курс за обучение по Red Teaming AI Systems: Offensive Security for ML Models

Този курс с инструктор, проводим на живо (онлайн или на място), е направен за ръководители на предприятия с среден ниво, които искат да разберат как да управляват и осигуряват AI системи отговорно и в съответствие с новите глобални рамки като Закона за AI на ЕС, GDPR, ISO/IEC 42001 и изпълнителната заповед на САЩ за AI.

До края на този курс участниците ще бъдат способни да:

• Разберат правните, етичните и регулаторните рискове при използването на AI в различните отдели.
• Интерпретират и приложат основните рамки за управление на AI (Закон за AI на ЕС, NIST AI RMF, ISO/IEC 42001).
• Създават политики за сигурност, аудит и надзор за развертането на AI в предприятията.
• Разработват указания за закупуване и използване на третостранни и вътрешни AI системи.

Този курс с инструктор, проводим живо (онлайн или на място) е насочен към средно ниво до напреднали AI разработчици, архитекти и продуктови мениджъри, които искат да идентифицират и намалят рисковете, свързани с приложения с подкрепа от LLM, включително инжектиране на подсказки, изтичане на данни и непрофилиран изход, докато включват контролни мерки за сигурност като валидация на вход, човешки надзор и ограничения за изход.

Към края на този курс участниците ще могат да:

• Разберат основните уязвимости на системите, базирани на LLM.
• Прилагат принципи за сигурен дизайн към архитектурата на приложения с LLM.
• Използват инструменти като Guardrails AI и LangChain за валидация, филтриране и сигурност.
• Интегрират техники като изолация, атакуващи екипи и човешки надзор в производствени канали.

Това обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за професионалисти в областта на ИТ сигурността, риска и съответствието, които желаят да разберат основните концепции за сигурността на AI, векторовете на заплахи и глобалните рамки като NIST AI RMF и ISO/IEC 42001.

До края на това обучение участниците ще могат да:

• Разберат уникалните рискове за сигурност, които въвеждат системите на AI.
• Идентифицират векторове на заплахи като злонамерени атаки, отравяне на данни и инверсия на модели.
• Прилагат основни модели на управление като NIST AI Risk Management Framework.
• Съгласуват използването на AI с възникващите стандарти, принципи за съответствие и етични принципи.

Този курс с инструктор, който се провежда на живо (онлайн или на място), е предназначен за професионалисти на напреднал ниво, които искат да реализират и оценят техники като федеративно обучение, сигурно многостранно изчисление, хомоморфно шифриране и диференциална приватност в реални машинни обучващи пайплайни.

До края на този курс участниците ще могат да:

• Разбират и сравняват ключови техники за защита на приватността в ML.
• Реализират системи за федеративно обучение с отворени платформи.
• Прилагат диференциална приватност за сигурно споделяне на данни и обучение на модели.
• Използват шифриране и сигурни техники за изчисления за защита на входа и изхода на моделите.

Това обучение с инструктор, провеждано на живо в България (онлайн или на място), е предназначено за инженери и специалисти по сигурност на среден ниво, които искат да осигурят сигурност на модели на изкуствен интелигент, разпознати на периферията, срещу загрози като омагьосване, изтичане на данни, враждебни входни данни и физически атаки.

След края на това обучение участниците ще могат да:

• Идентифицират и оценят сигурностни рискове в разпознати на периферията изкуствени интелигентни разпознавания.
• Прилагат техники за отпорност към омагьосване и закодирана инференция.
• Укрепват периферно разпознати модели и осигуряват сигурност на данни.
• Прилагат стратегии за намаляване на загрози, специфични за вградени и ограничени системи.

Това обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за специалисти с интермедиен уровень в областа на машиното обучение и киберсигурността, които искат да разберат и намалят възникващите застрашения срещу AI модели, използвайки както концептуални рамки, така и ръчни отбранителни техники, като устойчиво обучение и диференциално приватност.

До края на това обучение участниците ще могат да:

• Идентифицират и класифицират застрашения, специфични за AI, като адверзариални атаки, инверсия и отрова.
• Използват инструменти като Adversarial Robustness Toolbox (ART), за да симулират атаки и тестират модели.
• Прилагат практични отбрани, включително адверзариално обучение, инжектиране на шум и техники за запазване на приватността.
• Проектират стратегии за оценка на модели с осъзнаване на застрашения в продуктивни среди.