Съдържание и теми, включени в курса
Въведение в GPU-ускорената контейнеризация
- Разбиране на използването на GPU в работните потоци за дълбоко обучение
- Как Docker поддържа натоварвания, базирани на GPU
- Ключови съображения за производителността
Инсталиране и конфигуриране на NVIDIA Container Toolkit
- Настройка на драйвери и съвместимост с CUDA
- Валидиране на достъпа до GPU вътре в контейнерите
- Конфигуриране на средата за изпълнение
Създаване на Docker образи с поддръжка на GPU
- Използване на базови CUDA образи
- Пакетиране на AI рамки в контейнери, готови за GPU
- Управление на зависимостите за обучение и инференция
Изпълнение на AI натоварвания с GPU ускорение
- Изпълнение на задачи за обучение с използване на GPU
- Управление на натоварвания с множество GPU
- Мониторинг на използването на GPU
Оптимизиране на производителността и разпределението на ресурси
- Ограничаване и изолиране на GPU ресурси
- Оптимизиране на паметта, размерите на партидите и разположението на устройствата
- Настройка на производителността и диагностика
Контейнеризирана инференция и обслужване на модели
- Създаване на контейнери, готови за инференция
- Обслужване на натоварвания с висок интензитет върху GPU
- Интегриране на инструменти за изпълнение на модели и API
Мащабиране на GPU натоварвания с Docker
- Стратегии за разпределено GPU обучение
- Мащабиране на микросервиси за инференция
- Координиране на AI системи с множество контейнери
Сигурност и надеждност за контейнери с GPU ускорение
- Осигуряване на безопасен достъп до GPU в споделени среди
- Укрепване на сигурността на контейнерните образи
- Управление на актуализации, версии и съвместимост
Обобщение и следващи стъпки
Изисквания
- Разбиране на основите на дълбокото обучение
- Опит с Python и популярни AI рамки
- Запознатост с основните концепции за контейнеризация
Аудитория
- Инженери по дълбоко обучение
- Екипи за изследвания и развитие
- Специалисти по обучение на AI модели
Отзиви от участници (3)
Как тренинзите предават знания толкова ефективно
Vu Thoai Le - Reply Polska sp. z o. o.
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
тренерът имаше много знания и търпение, които сподели с нас
Bogdan Olaru
Курс - Introduction to Docker
Машинен превод
Знанието и обмените с Августин
Laurent - L'Office national des vacances annuelles (ONVA)
Курс - Docker and Kubernetes
Машинен превод