План на курса

Въведение в производственото внедряване

  • Ключови предизвикателства при внедряването на фино настроени модели
  • Разлики между среда за разработка и среда за производство
  • Инструменти и платформи за внедряване на модели

Подготовка на модели за внедряване

  • Експортиране на модели в стандартни формати (ONNX, TensorFlow SavedModel и др.)
  • Оптимизиране на модели за латентност и пропускателна способност
  • Тестване на модели на крайни случаи и данни от реалния свят

Контейнеризация за внедряване на модел

  • Въведение в Docker
  • Създаване на Docker изображения за ML модели
  • Най-добри практики за сигурност и ефективност на контейнерите

Мащабиране на внедрявания с Kubernetes

  • Въведение в Kubernetes за натоварвания на AI
  • Настройване на Kubernetes клъстера за хостинг на модела
  • Балансиране на натоварването и хоризонтално мащабиране

Мониторинг и поддръжка на модела

  • Прилагане на мониторинг с Prometheus и Grafana
  • Автоматизирано регистриране за проследяване на грешки и производителност
  • Тръбопроводи за преквалификация за дрейф и актуализации на модела

Осигуряване на сигурност в производството

  • Защита на API за извеждане на модела
  • Механизми за автентификация и авторизация
  • Справяне с проблемите, свързани с поверителността на данните

Казуси от практиката и практически упражнения

  • Внедряване на модел за анализ на настроението
  • Мащабиране на услуга за машинен превод
  • Внедряване на мониторинг за модели за класификация на изображения

Обобщение и следващи стъпки

Изисквания

  • Силно разбиране на работните процеси на машинно обучение
  • Опит с фина настройка на ML модели
  • Познаване на DevOps или MLOps принципи

Публика

  • DevOps инженери
  • MLOps практикуващи
  • Специалисти по внедряване на AI
 21 Часа

Брой участници


Цена за участник

Oтзиви от потребители (1)

Предстоящи Курсове

Свързани Kатегории