Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
План на курса
Въведение в производственото внедряване
- Ключови предизвикателства при внедряването на фино настроени модели
- Разлики между среда за разработка и среда за производство
- Инструменти и платформи за внедряване на модели
Подготовка на модели за внедряване
- Експортиране на модели в стандартни формати (ONNX, TensorFlow SavedModel и др.)
- Оптимизиране на модели за латентност и пропускателна способност
- Тестване на модели на крайни случаи и данни от реалния свят
Контейнеризация за внедряване на модел
- Въведение в Docker
- Създаване на Docker изображения за ML модели
- Най-добри практики за сигурност и ефективност на контейнерите
Мащабиране на внедрявания с Kubernetes
- Въведение в Kubernetes за натоварвания на AI
- Настройване на Kubernetes клъстера за хостинг на модела
- Балансиране на натоварването и хоризонтално мащабиране
Мониторинг и поддръжка на модела
- Прилагане на мониторинг с Prometheus и Grafana
- Автоматизирано регистриране за проследяване на грешки и производителност
- Тръбопроводи за преквалификация за дрейф и актуализации на модела
Осигуряване на сигурност в производството
- Защита на API за извеждане на модела
- Механизми за автентификация и авторизация
- Справяне с проблемите, свързани с поверителността на данните
Казуси от практиката и практически упражнения
- Внедряване на модел за анализ на настроението
- Мащабиране на услуга за машинен превод
- Внедряване на мониторинг за модели за класификация на изображения
Обобщение и следващи стъпки
Изисквания
- Силно разбиране на работните процеси на машинно обучение
- Опит с фина настройка на ML модели
- Познаване на DevOps или MLOps принципи
Публика
- DevOps инженери
- MLOps практикуващи
- Специалисти по внедряване на AI
21 Часа
Oтзиви от потребители (1)
Имахме много практически упражнения, които бяха надглеждани и помощни от треньора.
Aleksandra - Fundacja PTA
Курс - Mastering Make: Advanced Workflow Automation and Optimization
Машинен превод