План на курса
Введение в извода с Docker
- Разбиране на работните зареди за AI извод
- Предимствата на контейниран извод
- Сценарии и ограничения за разгъване
Създаване на контейнери за AI извод
- Избиране на базови образи и фреймворки
- Пакетиране на предварително обучени модели
- Структуриране на кода за извод за изпълнение в контейнер
Осигуряване на контейнирани AI услуги
- Минимизиране на уязвимостите на контейнерите
- Управление на тайни и чувствителни файлове
- Безопасни стратегии за мрежова връзка и експозиция на API
Техники за переносимо разгъване
- Оптимиране на образите за переносимост
- Гарантиране на предсказуеми среди за изпълнение
- Управление на зависимости в различни платформи
Локално разгъване и тестирание
- Разгъване на услуги локално с Docker
- Отстраняване на грешки в контейнерите за извод
- Тестирание на производителността и надеждността
Разгъване на сървъри и облачни VM
- Приспособяване на контейнерите за отдалечени среди
- Настройка на сигурен достъп до сървъри
- Разгъване на API за извод в облак VMs
Използване на Docker Compose за многоуслужни AI системи
- Оркестриране на извод с подкрепящи компоненти
- Управление на променливи и конфигурации за средата
- Масштабиране на микроуслугите с Compose
Мониторинг и поддръжка на услуги за AI извод
- Подходи към логване и наблюдаемост
- Разпознаване на събивания в пайплайните за извод
- Обновяване и версиониране на модели в продакшън
Резюме и следващи стъпки
Изисквания
- Разбиране на основни концепции в машинното обучение
- Опит с Python или разработка за бекенд
- Познаване на основни концепции в контейнерите
Целева аудитория
- Разработчици
- Инженери за бекенд
- Екипи, разгъващи AI услуги
Отзиви от потребители (5)
ОЦ е ново за нас и научихме се много, а лабораториите бяха отлични
sharkey dollie
Курс - OpenShift 4 for Administrators
Машинен превод
Много информативно и до точка. Практика на място.
Gil Matias - FINEOS
Курс - Introduction to Docker
Машинен превод
Лаборатории и технически дискусии.
Dinesh Panchal - AXA XL
Курс - Advanced Docker
Машинен превод
Дал добри основи за Docker и Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Курс - Docker (introducing Kubernetes)
Машинен превод
Много ми харесва знанието на треньора.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Курс - Docker, Kubernetes and OpenShift for Developers
Машинен превод