План на курса

Въведение в GPU-ускорената контейнизация

  • Разбиране на използването на GPU в работни процеси на дълбоко обучение
  • Как Docker поддържа GPU-базирани зареди
  • Ключовите предимства за производителността

Инсталиране и конфигуриране на NVIDIA Container Toolkit

  • Настройка на драйвери и CUDA съвместимост
  • Валидиране на GPU достъп в контейнери
  • Конфигуриране на работната среда

Създаване на GPU-ускорени Docker образи

  • Използване на CUDA базови образи
  • Пакетиране на ИИ фреймворки в GPU-предпазени контейнери
  • Управление на зависимости за обучение и интерференция

Изпълнение на GPU-ускорени ИИ зареди

  • Извършване на задачи за обучение с използване на GPU
  • Управление на мулти-GPU зареди
  • Мониторинг на GPU употребата

Оптимизиране на производителността и разпределението на ресурсите

  • Ограничаване и изолация на GPU ресурси
  • Оптимизиране на паметта, размера на бачовете и разположението на устройства
  • Налагане на производителност и диагностика

Контейниризирана интерференция и обслугване на модели

  • Създаване на контейнери, готови за интерференция
  • Обслужване на зареди с висока натовареност на GPU
  • Интегриране на модели и API-та

Масштабиране на GPU заредите с Docker

  • Стратегии за разпределено GPU обучение
  • Масштабиране на микросервиските за интерференция
  • Координация на мулти-контейнерни ИИ системи

Безопасност и надеждност за GPU-ускорени контейнери

  • Гарантиране на безопасен достъп до GPU в споделена среда
  • Укрепване на контейнерни образи
  • Управление на актуализации, версии и съвместимост

Резюме и следващи стъпки

Изисквания

  • Разбиране на основите на дълбокото обучение
  • Опит с Python и общи ИИ фреймворки
  • Запознаност с основни концепции за контейнизация

Целева група

  • Инженери по дълбоко обучение
  • Екипи за изследвания и развитие
  • Трениращи ИИ модели
 21 часа

Брой участници


Цена за участник

Отзиви от потребители (5)

Предстоящи Курсове

Свързани Kатегории