Свържете се с нас

Съдържание и теми, включени в курса

Въведение в GPU-ускорената контейнеризация

  • Разбиране на използването на GPU в работните потоци за дълбоко обучение
  • Как Docker поддържа натоварвания, базирани на GPU
  • Ключови съображения за производителността

Инсталиране и конфигуриране на NVIDIA Container Toolkit

  • Настройка на драйвери и съвместимост с CUDA
  • Валидиране на достъпа до GPU вътре в контейнерите
  • Конфигуриране на средата за изпълнение

Създаване на Docker образи с поддръжка на GPU

  • Използване на базови CUDA образи
  • Пакетиране на AI рамки в контейнери, готови за GPU
  • Управление на зависимостите за обучение и инференция

Изпълнение на AI натоварвания с GPU ускорение

  • Изпълнение на задачи за обучение с използване на GPU
  • Управление на натоварвания с множество GPU
  • Мониторинг на използването на GPU

Оптимизиране на производителността и разпределението на ресурси

  • Ограничаване и изолиране на GPU ресурси
  • Оптимизиране на паметта, размерите на партидите и разположението на устройствата
  • Настройка на производителността и диагностика

Контейнеризирана инференция и обслужване на модели

  • Създаване на контейнери, готови за инференция
  • Обслужване на натоварвания с висок интензитет върху GPU
  • Интегриране на инструменти за изпълнение на модели и API

Мащабиране на GPU натоварвания с Docker

  • Стратегии за разпределено GPU обучение
  • Мащабиране на микросервиси за инференция
  • Координиране на AI системи с множество контейнери

Сигурност и надеждност за контейнери с GPU ускорение

  • Осигуряване на безопасен достъп до GPU в споделени среди
  • Укрепване на сигурността на контейнерните образи
  • Управление на актуализации, версии и съвместимост

Обобщение и следващи стъпки

Изисквания

  • Разбиране на основите на дълбокото обучение
  • Опит с Python и популярни AI рамки
  • Запознатост с основните концепции за контейнеризация

Аудитория

  • Инженери по дълбоко обучение
  • Екипи за изследвания и развитие
  • Специалисти по обучение на AI модели
 21 Часа

Брой участници


Цена за участник

Отзиви от участници (3)

Предстоящи Курсове

Свързани Kатегории