Свържете се с нас

Съдържание и теми, включени в курса

Въведение в разработката на персонализирани оператори

  • Защо да изграждаме персонализирани оператори? Случаи на употреба и ограничения
  • Структура на средата за изпълнение на CANN и точки за интеграция на оператори
  • Общ преглед на TBE, TIK и TVM в AI екосистемата на Huawei

Използване на TIK за нисконивово програмиране на оператори

  • Разбиране на програмния модел на TIK и поддържаните API-та
  • Управление на паметта и стратегия за разпределение на плочки в TIK
  • Създаване, компилиране и регистриране на персонализиран оператор с CANN

Тестване и валидиране на персонализирани оператори

  • Модулно тестване и интеграционно тестване на оператори в графа
  • Отстраняване на проблеми с производителността на ниво ядро
  • Визуализиране на изпълнението на оператори и поведението на буферите

Планиране и оптимизация, базирани на TVM

  • Общ преглед на TVM като компилатор за тензорни операции
  • Писане на график за персонализиран оператор в TVM
  • TVM настройка, сравнителен анализ и генериране на код за Ascend

Интеграция с фреймуърци и модели

  • Регистриране на персонализирани оператори за MindSpore и ONNX
  • Проверка на целостта на модела и поведението при резервен вариант
  • Поддръжка на графи с множество оператори със смесена точност

Казуси и специализирани оптимизации

  • Казус: високоефективна конволюция за малки входни форми
  • Казус: оптимизация на оператор за внимание, съобразена с паметта
  • Най-добри практики при внедряване на персонализирани оператори на различни устройства

Обобщение и следващи стъпки

Изисквания

  • Задълбочени познания за вътрешната структура на AI моделите и изчисленията на ниво оператор
  • Опит със среди за разработка на Python и Linux
  • Запознатост с компилатори за невронни мрежи или оптимизатори на ниво граф

Аудитория

  • Инженери по компилатори, работещи върху AI инструментални вериги
  • Системни разработчици, фокусирани върху нисконивова AI оптимизация
  • Разработчици, изграждащи персонализирани оператори или насочени към нови AI натоварвания
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории