План на курса
Въведение в GPU-ускорената контейнизация
- Разбиране на използването на GPU в работни процеси на дълбоко обучение
- Как Docker поддържа GPU-базирани зареди
- Ключовите предимства за производителността
Инсталиране и конфигуриране на NVIDIA Container Toolkit
- Настройка на драйвери и CUDA съвместимост
- Валидиране на GPU достъп в контейнери
- Конфигуриране на работната среда
Създаване на GPU-ускорени Docker образи
- Използване на CUDA базови образи
- Пакетиране на ИИ фреймворки в GPU-предпазени контейнери
- Управление на зависимости за обучение и интерференция
Изпълнение на GPU-ускорени ИИ зареди
- Извършване на задачи за обучение с използване на GPU
- Управление на мулти-GPU зареди
- Мониторинг на GPU употребата
Оптимизиране на производителността и разпределението на ресурсите
- Ограничаване и изолация на GPU ресурси
- Оптимизиране на паметта, размера на бачовете и разположението на устройства
- Налагане на производителност и диагностика
Контейниризирана интерференция и обслугване на модели
- Създаване на контейнери, готови за интерференция
- Обслужване на зареди с висока натовареност на GPU
- Интегриране на модели и API-та
Масштабиране на GPU заредите с Docker
- Стратегии за разпределено GPU обучение
- Масштабиране на микросервиските за интерференция
- Координация на мулти-контейнерни ИИ системи
Безопасност и надеждност за GPU-ускорени контейнери
- Гарантиране на безопасен достъп до GPU в споделена среда
- Укрепване на контейнерни образи
- Управление на актуализации, версии и съвместимост
Резюме и следващи стъпки
Изисквания
- Разбиране на основите на дълбокото обучение
- Опит с Python и общи ИИ фреймворки
- Запознаност с основни концепции за контейнизация
Целева група
- Инженери по дълбоко обучение
- Екипи за изследвания и развитие
- Трениращи ИИ модели
Отзиви от потребители (5)
ОЦ е ново за нас и научихме се много, а лабораториите бяха отлични
sharkey dollie
Курс - OpenShift 4 for Administrators
Машинен превод
Много информативно и до точка. Практика на място.
Gil Matias - FINEOS
Курс - Introduction to Docker
Машинен превод
Лаборатории и технически дискусии.
Dinesh Panchal - AXA XL
Курс - Advanced Docker
Машинен превод
Дал добри основи за Docker и Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Курс - Docker (introducing Kubernetes)
Машинен превод
Много ми харесва знанието на треньора.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Курс - Docker, Kubernetes and OpenShift for Developers
Машинен превод