План на курса
Въведение в GPU-ускорената контейнизация
- Разбиране на използването на GPU в работни процеси на дълбоко обучение
- Как Docker поддържа GPU-базирани зареди
- Ключовите предимства за производителността
Инсталиране и конфигуриране на NVIDIA Container Toolkit
- Настройка на драйвери и CUDA съвместимост
- Валидиране на GPU достъп в контейнери
- Конфигуриране на работната среда
Създаване на GPU-ускорени Docker образи
- Използване на CUDA базови образи
- Пакетиране на ИИ фреймворки в GPU-предпазени контейнери
- Управление на зависимости за обучение и интерференция
Изпълнение на GPU-ускорени ИИ зареди
- Извършване на задачи за обучение с използване на GPU
- Управление на мулти-GPU зареди
- Мониторинг на GPU употребата
Оптимизиране на производителността и разпределението на ресурсите
- Ограничаване и изолация на GPU ресурси
- Оптимизиране на паметта, размера на бачовете и разположението на устройства
- Налагане на производителност и диагностика
Контейниризирана интерференция и обслугване на модели
- Създаване на контейнери, готови за интерференция
- Обслужване на зареди с висока натовареност на GPU
- Интегриране на модели и API-та
Масштабиране на GPU заредите с Docker
- Стратегии за разпределено GPU обучение
- Масштабиране на микросервиските за интерференция
- Координация на мулти-контейнерни ИИ системи
Безопасност и надеждност за GPU-ускорени контейнери
- Гарантиране на безопасен достъп до GPU в споделена среда
- Укрепване на контейнерни образи
- Управление на актуализации, версии и съвместимост
Резюме и следващи стъпки
Изисквания
- Разбиране на основите на дълбокото обучение
- Опит с Python и общи ИИ фреймворки
- Запознаност с основни концепции за контейнизация
Целева група
- Инженери по дълбоко обучение
- Екипи за изследвания и развитие
- Трениращи ИИ модели
Отзиви от потребители (5)
Той обясни всичко, не само концепции за k8s.
Stefan Voinea - EMAG IT Research S.R.L
Курс - Certified Kubernetes Application Developer (CKAD) - exam preparation
Машинен превод
Дълбочина на знанията на инструктора
Grant Miller - BMW
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
Много информативен и до точка. Практическа работа
Gil Matias - FINEOS
Курс - Introduction to Docker
Машинен превод
Отлично съдържание
Alan Kavanagh - FINEOS Corporation Ltd
Курс - Docker from Basic to Advanced
Машинен превод
Лаборатории и технически дискусии.
Dinesh Panchal - AXA XL
Курс - Advanced Docker
Машинен превод