Свържете се с нас

Съдържание и теми, включени в курса

Въведение в Cambricon и архитектурата на MLU

  • Преглед на портфолиото от AI чипове на Cambricon
  • Архитектура на MLU и конвейер на инструкциите
  • Поддържани типове модели и случаи на употреба

Инсталиране на веригата от инструменти за разработка

  • Инсталиране на BANGPy и Neuware SDK
  • Настройка на средата за Python и C++
  • Съвместимост на моделите и предварителна обработка

Разработка на модели с BANGPy

  • Структура на тензорите и управление на размерите
  • Изграждане на изчислителна графа
  • Поддръжка на персонализирани операции в BANGPy

Внедряване с Neuware Runtime

  • Конвертиране и зареждане на модели
  • Контрол на изпълнението и инференцията
  • Практики за внедряване на крайни устройства и в центрове за данни

Оптимизация на производителността

  • Картиране на паметта и настройка на слоевете
  • Проследяване на изпълнението и профилиране
  • Чести тесни места и решения

Интегриране на MLU в приложения

  • Използване на Neuware API за интеграция на приложения
  • Поддръжка на стрийминг и множество модели
  • Хибридни сценарии за CPU-MLU инференция

Проект от край до край и случай на употреба

  • Лабораторно упражнение: Внедряване на модел за компютърно зрение или NLP
  • Инференция на крайни устройства с интеграция на BANGPy
  • Тестване на точност и пропускателна способност

Обобщение и следващи стъпки

Изисквания

  • Разбиране на структурите на модели за машинно обучение
  • Опит с Python и/или C++
  • Запознатост с концепциите за внедряване и ускорение на модели

Аудитория

  • Разработчици на вградени AI системи
  • ML инженери, внедряващи на крайни устройства или в центрове за данни
  • Разработчици, работещи с китайска AI инфраструктура
 21 Часа

Брой участници


Цена за участник

Отзиви от участници (1)

Предстоящи Курсове

Свързани Kатегории