Свържете се с нас

Съдържание и теми, включени в курса

Въведение във внедряването в продукционна среда

  • Ключови предизвикателства при внедряване на финно настроени модели
  • Разлики между развойна и продукционна среда
  • Инструменти и платформи за внедряване на модели

Подготовка на моделите за внедряване

  • Експортиране на модели в стандартни формати (ONNX, TensorFlow SavedModel и др.)
  • Оптимизиране на моделите за латентност и пропускателна способност
  • Тестване на модели с гранични случаи и данни от реалния свят

Контейнеризация за внедряване на модели

  • Въведение в Docker
  • Създаване на Docker изображения за ML модели
  • Най-добри практики за сигурност и ефективност на контейнерите

Мащабиране на внедряванията с Kubernetes

  • Въведение в Kubernetes за AI натоварвания
  • Настройка на Kubernetes клъстери за хостинг на модели
  • Балансиране на натоварването и хоризонтално мащабиране

Мониторинг и поддръжка на модели

  • Внедряване на мониторинг с Prometheus и Grafana
  • Автоматизирано логване за проследяване на грешки и производителност
  • Тръбопроводи за преобучение при дрейф на модела и актуализации

Осигуряване на сигурност в продукционна среда

  • Защита на API за инференция на модели
  • Механизми за удостоверяване и оторизация
  • Адресиране на опасенията за поверителност на данните

Казуси и практически лабораторни упражнения

  • Внедряване на модел за анализ на настроения
  • Мащабиране на услуга за машинен превод
  • Внедряване на мониторинг за модели за класификация на изображения

Обобщение и следващи стъпки

Изисквания

  • Солидно разбиране на работните потоци в машинното обучение
  • Опит с финна настройка на ML модели
  • Запознатост с принципите на DevOps или MLOps

Аудитория

  • DevOps инженери
  • MLOps практици
  • Специалисти по внедряване на AI
 21 Часа

Брой участници


Цена за участник

Отзиви от участници (2)

Предстоящи Курсове

Свързани Kатегории