План на курса
Введение в извода с Docker
- Разбиране на работните зареди за AI извод
- Предимствата на контейниран извод
- Сценарии и ограничения за разгъване
Създаване на контейнери за AI извод
- Избиране на базови образи и фреймворки
- Пакетиране на предварително обучени модели
- Структуриране на кода за извод за изпълнение в контейнер
Осигуряване на контейнирани AI услуги
- Минимизиране на уязвимостите на контейнерите
- Управление на тайни и чувствителни файлове
- Безопасни стратегии за мрежова връзка и експозиция на API
Техники за переносимо разгъване
- Оптимиране на образите за переносимост
- Гарантиране на предсказуеми среди за изпълнение
- Управление на зависимости в различни платформи
Локално разгъване и тестирание
- Разгъване на услуги локално с Docker
- Отстраняване на грешки в контейнерите за извод
- Тестирание на производителността и надеждността
Разгъване на сървъри и облачни VM
- Приспособяване на контейнерите за отдалечени среди
- Настройка на сигурен достъп до сървъри
- Разгъване на API за извод в облак VMs
Използване на Docker Compose за многоуслужни AI системи
- Оркестриране на извод с подкрепящи компоненти
- Управление на променливи и конфигурации за средата
- Масштабиране на микроуслугите с Compose
Мониторинг и поддръжка на услуги за AI извод
- Подходи към логване и наблюдаемост
- Разпознаване на събивания в пайплайните за извод
- Обновяване и версиониране на модели в продакшън
Резюме и следващи стъпки
Изисквания
- Разбиране на основни концепции в машинното обучение
- Опит с Python или разработка за бекенд
- Познаване на основни концепции в контейнерите
Целева аудитория
- Разработчици
- Инженери за бекенд
- Екипи, разгъващи AI услуги
Отзиви от потребители (5)
Той обясни всичко, не само концепции за k8s.
Stefan Voinea - EMAG IT Research S.R.L
Курс - Certified Kubernetes Application Developer (CKAD) - exam preparation
Машинен превод
Дълбочина на знанията на инструктора
Grant Miller - BMW
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
Много информативен и до точка. Практическа работа
Gil Matias - FINEOS
Курс - Introduction to Docker
Машинен превод
Отлично съдържание
Alan Kavanagh - FINEOS Corporation Ltd
Курс - Docker from Basic to Advanced
Машинен превод
Лаборатории и технически дискусии.
Dinesh Panchal - AXA XL
Курс - Advanced Docker
Машинен превод