Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Въведение в контейнеризацията с GPU-ускорение
- Разбиране на използването на GPU в процеси за дълбоко обучение
- Как Docker поддържа задачи с GPU
- Ключови съображения за производителност
Инсталиране и конфигуриране на NVIDIA Container Toolkit
- Настройка на драйвери и съвместимост с CUDA
- Валидиране на достъпа до GPU в контейнерите
- Конфигуриране на средата за изпълнение
Изграждане на Docker изображения с GPU
- Използване на базови изображения за CUDA
- Пакиране на ИИ фреймуъркове в контейнери, готови за GPU
- Управление на зависимости за обучение и инференс
Изпълнение на ИИ задачи с GPU-ускорение
- Стартиране на задачи за обучение с GPU
- Управление на задачи с множество GPU
- Мониторинг на използването на GPU
Оптимизиране на производителността и разпределението на ресурсите
- Ограничаване и изолация на GPU ресурсите
- Оптимизиране на паметта, размерите на партидите и позиционирането на устройствата
- Настройка на производителността и диагностика
Контейнеризиран инференс и сервирание на модели
- Изграждане на контейнери, готови за инференс
- Сервиране на задачи с висока натоварваемост върху GPU
- Интегриране на изпълнители на модели и API
Мащабиране на GPU задачи с Docker
- Стратегии за разпределено обучение с GPU
- Мащабиране на микросервиси за инференс
- Координиране на ИИ системи с множество контейнери
Сигурност и надеждност на контейнерите с GPU
- Обезпечаване на безопасен достъп до GPU в споделени среди
- Подсилване на сигурността на контейнерните изображения
- Управление на актуализации, версии и съвместимост
Резюме и следващи стъпки
Изисквания
- Разбиране на основите на дълбокото обучение
- Опит с Python и общоизползвани ИИ фреймуъркове
- Запознатост с основни концепции за контейнеризация
Целева аудитория
- Инженери за дълбоко обучение
- Екипи за разработка и изследвания
- Тренери на ИИ модели
21 Часа
Отзиви от участници (3)
Как тренинзите предават знания толкова ефективно
Vu Thoai Le - Reply Polska sp. z o. o.
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
тренерът имаше много знания и търпение, които сподели с нас
Bogdan Olaru
Курс - Introduction to Docker
Машинен превод
Знанието и обмените с Августин
Laurent - L'Office national des vacances annuelles (ONVA)
Курс - Docker and Kubernetes
Машинен превод