План на курса

Въведение в CI/CD за работен процес с ИИ

  • Уникалните предизвикателства на работният процес по доставяне на модели за ИИ
  • Сравнение между традиционните DevOps и MLOps процеси
  • Основни компоненти на автоматизирания разграждане на модели

Контейнеризация на модели за ИИ с Docker

  • Проектиране на ефективни Dockerfile-и за ML инференция
  • Управление на зависимости и модели артефакти
  • Създаване на сигурни и оптимизирани образи

Настройване на канали за CI/CD

  • Опции за инструменти за CI/CD и техните екосистеми
  • Създаване на канали за автоматизирано пакетиране на модели
  • Проверка на канали с автоматизирани проверки

Тестване на модели за ИИ в CI

  • Автоматизиране на проверките за целостта на данните
  • Юнит и интеграционни тестове за услуги с модели
  • Проверки за производителност и регресия

Автоматизирано разграждане на ИИ услуги, основани на Docker

  • Разграждане на контейнери с ИИ в облачни среди
  • Прилагане на синий-зелен и канарски разпространения
  • Стратегии за откатване при неуспешни разграждания

Управление на версиите и артефактите на модели

  • Използване на реестри за контрол на версиите на модели и контейнери
  • Тагиране, подписване и продвижение на образи
  • Координация на актуализации на модели в услуги

Мониторинг и наблюдаемост в CI/CD за ИИ

  • Следене на производителността на канали и модели
  • Подкрепа при неуспешни сборки или размъкване на моделите
  • Трейсинг на поведението на инференцията в различни среди

Масштабиране на канали за CI/CD за системи с ИИ

  • Паралелно изпълнение на сборки за големи модели
  • Оптимизация на ресурсите за изчисления и съхранение
  • Интеграция на разпределени и дистанционни екзекутори

Резюме и следващи стъпки

Изисквания

  • Разбиране на жизнените цикли на модели за машинно обучение
  • Опит с контейнеризация с Docker
  • Запознатост с концепции и канали за CI/CD

Целева група

  • Инженери DevOps
  • Команди MLOps
  • Инженери за AI-ops
 21 часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории