Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Подготовка на модели за машинно обучение за внедряване
- Пакетиране на модели с Docker
- Експортиране на модели от TensorFlow и PyTorch
- Съображения относно версиониране и съхранение
Обслужване на модели в Kubernetes
- Преглед на inference сървъри
- Внедряване на TensorFlow Serving и TorchServe
- Настройка на крайни точки за модели
Техники за оптимизация на изводи
- Стратегии за пакетна обработка
- Обработка на конкурентни заявки
- Настройка на латентност и пропускателна способност
Автоматично мащабиране на ML работни натоварвания
- Хоризонтален автоматичен мащабиращ механизъм за подове (HPA)
- Вертикален автоматичен мащабиращ механизъм за подове (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Осигуряване на GPU и управление на ресурси
- Конфигуриране на GPU възли
- Преглед на NVIDIA device plugin
- Заявки за ресурси и лимити за ML работни натоварвания
Стратегии за внедряване и пускане на модели
- Blue/green внедрявания
- Canary модели на пускане
- A/B тестване за оценка на модели
Мониторинг и наблюдаемост за ML в продукционна среда
- Метрики за inference работни натоварвания
- Практики за логване и проследяване
- Табла и известяване
Сигурност и съображения за надеждност
- Защита на крайни точки на модели
- Мрежови политики и контрол на достъпа
- Осигуряване на висока достъпност
Обобщение и следващи стъпки
Изисквания
- Разбиране на работните потоци на контейнеризирани приложения
- Опит с Python-базирани модели за машинно обучение
- Запознатост с основите на Kubernetes
Аудитория
- ML инженери
- DevOps инженери
- Екипи по платформено инженерство
14 Часа
Отзиви от участници (3)
За микросервисите и как да поддържате Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Курс - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Машинен превод
Как тренинзите предават знания толкова ефективно
Vu Thoai Le - Reply Polska sp. z o. o.
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
Знанието и обмените с Августин
Laurent - L'Office national des vacances annuelles (ONVA)
Курс - Docker and Kubernetes
Машинен превод