Курс за обучение по Въведение в управлението на доверие, риск и сигурност в ИИ (AI TRiSM)

Това обучение с инструктор на живо в България (онлайн или на място) е насочено към корпоративни лидери на средно ниво, които желаят да разберат как да управляват и защитават ИИ системи отговорно и в съответствие с нововъзникващи глобални рамки като Законодателния акт на ЕС за ИИ, ОРЗД, ISO/IEC 42001 и Изпълнителната заповед на САЩ относно ИИ.

До края на това обучение участниците ще могат да:

• Разбират правните, етичните и регулаторните рискове от използването на ИИ в различните отдели.
• Тълкуват и прилагат основни рамки за управление на ИИ (Законодателен акт на ЕС за ИИ, NIST AI RMF, ISO/IEC 42001).
• Създават политики за сигурност, одит и надзор при внедряване на ИИ в предприятието.
• Разработват насоки за доставка и използване на ИИ системи от трети страни и вътрешни такива.

Този курс предоставя практическо въведение в защитата на съвременни приложения с изкуствен интелект, API, копилоти и автономни агенти. Участниците научават как AI сигурността се различава от традиционната уеб сигурност, изследват често срещани специфични за AI заплахи като инжектиране на промптове, RAG poisoning и злоупотреба с агенти и разбират как да защитават AI системи, използвайки многослойни защити, включително WAF, AI шлюзове, API сигурност и преградни механизми. Чрез практически лабораторни упражнения и примери от реалния свят студентите придобиват умения да идентифицират модели на AI атаки, да защитават приложения, базирани на LLM, и да внедряват ефективни защити по време на изпълнение за продукционни среди.

Това обучение с инструктор, на живо в България (онлайн или на място), е насочено към разработчици на AI, архитекти и продуктови мениджъри на средно до напреднало ниво, които желаят да идентифицират и намалят рисковете, свързани с приложения, захранвани от LLM, включително инжектиране на промптове, изтичане на данни и нефилтриран резултат, като същевременно включват контроли за сигурност като валидиране на входа, човешки надзор и предпазни механизми за изхода.

До края на това обучение участниците ще могат:

• Да разбират основните уязвимости на системи, базирани на LLM.
• Да прилагат принципи за сигурен дизайн в архитектурата на LLM приложения.
• Да използват инструменти като Guardrails AI и LangChain за валидиране, филтриране и безопасност.
• Да интегрират техники като sandboxing, red teaming и преглед с човешка намеса в производствени потоци.

Този курс учи софтуерните разработчици как да изграждат задвижвани от AI приложения, сигурни по дизайн. Участниците се научават как да защитават чатботове, копилоти, RAG pipelines и AI агенти срещу специфични за AI заплахи, като инжектиране на промптове, замърсяване на данни, злоупотреба с инструменти, изтичане на тайни и несигурен изход от модела. Курсът покрива сигурен дизайн на промптовете, сигурност на RAG, достъп с най-малко привилегии, предпазни огради и red-team тестове, помагайки на разработчиците да изградят AI функционалности, които са сигурни, надеждни и устойчиви в реални среди.

Това обучение, водено от инструктор и провеждано на живо в България (онлайн или на място), е насочено към специалисти на средно ниво в областта на ИИ и киберсигурността, които желаят да разберат и да се справят с уязвимостите в сигурността, специфични за моделите и системите с ИИ, особено в строго регулирани индустрии като финанси, управление на данни и консултиране.

В края на обучението участниците ще могат да:

• Разбират видовете adversarial атаки, насочени срещу системи с ИИ, и методите за защита срещу тях.
• Прилагат техники за укрепване на моделите, за да осигурят сигурността на pipeline-ите за машинно обучение.
• Осигуряват сигурност и цялост на данните в моделите за машинно обучение.
• Ориентират се в изискванията за регулаторно съответствие, свързани със сигурността на ИИ.

Това обучение с инструктор на живо в България (онлайн или на място) е предназначено за инженери по сигурността и служители по съответствието, които искат да подсилят внедряванията на EXO, да контролират достъпа до модели и да управляват AI работни натоварвания, изпълнявани изцяло на място.

Това обучение с инструктор на живо в България (онлайн или на място) е насочено към начинаещи професионалисти в областта на ИТ сигурността, риска и съответствието, които желаят да разберат основните концепции за сигурност на ИИ, векторите на заплахи и глобалните рамки като NIST AI RMF и ISO/IEC 42001.

До края на това обучение участниците ще могат да:

• Разбират уникалните рискове за сигурността, въведени от ИИ системите.
• Идентифицират вектори на заплахи като атаки чрез противопоставяне, отравяне на данни и обръщане на модели.
• Прилагат основни модели за управление като Рамката за управление на риска при ИИ на NIST.
• Съгласуват използването на ИИ с нововъзникващи стандарти, насоки за съответствие и етични принципи.

Тази тренировка, водена от инструктор, живо в България (онлайн или на място), е предназначена за инженери по сигурност и ML, които се нуждаят да идентифицират, тестват и защитават срещу атаки върху AI модели и LLM-обогатени приложения.

Базирано на най-новите насоки на OWASP GenAI Security Project, участниците ще научат как да идентифицират, оценяват и смекчават заплахи, специфични за AI, чрез практически упражнения и реални сценарии.

Това обучение с инструктор на живо в България (онлайн или на място) е насочено към професионалисти на напреднало ниво, които желаят да внедрят и оценят техники като федеративно обучение, сигурни многостранни изчисления, хомоморфно криптиране и диференциална неприкосновеност в реални процеси за машинно обучение.

До края на това обучение участниците ще могат да:

• Разбират и сравняват ключови техники за запазване на неприкосновеността в машинното обучение.
• Внедряват системи за федеративно обучение, използвайки рамки с отворен код.
• Прилагат диференциална неприкосновеност за сигурно споделяне на данни и обучение на модели.
• Използват техники за криптиране и сигурни изчисления, за да защитят входните и изходните данни на моделите.

Това обучение, водено от инструктор на живо в България (онлайн или на място), е насочено към напреднали професионалисти по сигурността и ML специалисти, които желаят да симулират атаки срещу AI системи, да разкриват уязвимости и да подобрят устойчивостта на внедрените AI модели.

До края на това обучение участниците ще могат:

• Да симулират реални заплахи за моделите за машинно обучение.
• Да генерират противникови примери за тестване на устойчивостта на моделите.
• Да оценяват атакуващата повърхност на AI API и тръбопроводи.
• Да проектират стратегии за red teaming за среди за внедряване на AI.

Това обучение с инструктор на живо в България (онлайн или на място) е насочено към инженери и специалисти по сигурността на средно ниво, които искат да защитят AI модели, разгърнати на гранични устройства, срещу заплахи като манипулиране, изтичане на данни, враждебни входни данни и физически атаки.

След завършване на обучението участниците ще могат:

• Да идентифицират и оценяват рисковете за сигурността при внедряване на Edge AI.
• Да прилагат техники за устойчивост на манипулации и криптирани изводи.
• Да укрепват модели, разгърнати на гранични устройства, и да защитават потоците от данни.
• Да внедряват стратегии за смекчаване на заплахи, специфични за вградени и ограничени системи.

Това обучение с инструктор на живо в България (онлайн или на място) е насочено към специалисти на средно ниво в областта на машинното обучение и киберсигурността, които желаят да разберат и смекчат нововъзникващите заплахи срещу AI модели, използвайки както концептуални рамки, така и практически защити като стабилно обучение и диференциална поверителност.

До края на това обучение участниците ще могат да:

• Идентифицират и класифицират специфични за AI заплахи, като враждебни атаки, инверсия и отравяне.
• Използват инструменти като Adversarial Robustness Toolbox (ART) за симулиране на атаки и тестване на модели.
• Прилагат практически защити, включително враждебно обучение, инжектиране на шум и техники за запазване на поверителността.
• Проектират стратегии за оценка на модели, съобразени със заплахите, в производствени среди.