План на курса

Преглед на китайската AI GPU екосистема

  • Сравнение на Huawei Ascend, Biren, Cambricon MLU
  • CUDA vs CANN, Biren SDK, и BANGPy модели
  • Трендове в индустрията и екосистеми на доставчици

Подготовка за миграция

  • Оценка на вашата CUDA кодова база
  • Идентифициране на целеви платформи и версии на SDK
  • Инсталация на инструментална верига и настройка на среда

Техники за превод на код

  • Прехвърляне на CUDA достъп до памет и логика на ядро
  • Картиране на модели за изчисления мрежа/поток
  • Автоматичен срещу ръчен превод

Реализации специфични за платформа

  • Използване на оператори на Huawei CANN и потребителски ядра
  • Конверционен пиплайни на Biren SDK
  • Повторно изграждане на модели с BANGPy (Cambricon)

Тестиране и оптимизация на крос-платформено ниво

  • Профилиране на изпълнение на всяка целева платформа
  • Настройка на паметта и сравнение на паралелно изпълнение
  • Следване на производителност и итерации

Управление на смесени GPU среди

  • Хибридни развертания с много архитектури
  • Стратегии за възстановяване и откриване на устройства
  • Абстракционни слоеве за поддръжка на код

Случаи за използване и добри практики

  • Прехвърляне на модели за визуализация/NLP към Ascend или Cambricon
  • Модернизация на пиплайните за извод в кластери Biren
  • Работа с несоответствия в версиите и пролуки в API

Резюме и следващи стъпки

Изисквания

  • Имате опит в програмиране с CUDA или приложения, базирани на GPU
  • Разбирате се в паметните модели и изчислителните ядра на GPU
  • Свързаност с процесите за развертане или ускоряване на AI модели

Целева аудитория

  • Програмисти на GPU
  • Системни архитекти
  • Специалисти по преобразуване
 21 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории