Свържете се с нас

Съдържание и теми, включени в курса

Основи на безопасния и справедлив ИИ

  • Ключови концепции: безопасност, отклонение, справедливост, прозрачност
  • Видове отклонения: в данните, представянето, алгоритмични
  • Преглед на регулаторните рамки (Закон за ИИ на ЕС, GDPR и др.)

Отклонения във фино настроените модели

  • Как фината настройка може да внесе или усили отклонения
  • Казуси и реални провали
  • Идентифициране на отклонения в наборите от данни и прогнозите на моделите

Техники за намаляване на отклоненията

  • Стратегии на ниво данни (ребалансиране, разширяване)
  • Стратегии по време на обучението (регуляризация, атакуващо дебиасиране)
  • Стратегии след обработка (филтриране на изхода, калибриране)

Безопасност и устойчивост на моделите

  • Откриване на небезопасни или вредни резултати
  • Справяне с атакуващи входни данни
  • Red teaming и стрес тестване на фино настроени модели

Одитиране и наблюдение на ИИ системи

  • Показатели за оценка на отклонения и справедливост (напр. демографски паритет)
  • Инструменти за обяснимост и рамки за прозрачност
  • Практики за текущо наблюдение и управление

Инструментариум и практическа работа

  • Използване на библиотеки с отворен код (напр. Fairlearn, Transformers, CheckList)
  • Практическо занятие: Откриване и намаляване на отклоненията във фино настроен модел
  • Генериране на безопасни резултати чрез дизайн на промптове и ограничения

Корпоративни приложения и готовност за съответствие

  • Най-добри практики за интегриране на безопасността в работните потоци с LLM
  • Документация и модели с информационни карти за съответствие
  • Подготовка за одити и външни прегледи

Обобщение и следващи стъпки

Изисквания

  • Разбиране на моделите за машинно обучение и процесите на трениране
  • Опит в работата с фина настройка и големи езикови модели (LLM)
  • Познаване на Python и концепциите за обработка на естествен език (NLP)

Аудитория

  • Екипи по ИИ съответствие
  • ML инженери
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории