Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Въведение в разработката на персонализирани оператори
- Защо да изграждаме персонализирани оператори? Случаи на употреба и ограничения
- Структура на средата за изпълнение на CANN и точки за интеграция на оператори
- Общ преглед на TBE, TIK и TVM в AI екосистемата на Huawei
Използване на TIK за нисконивово програмиране на оператори
- Разбиране на програмния модел на TIK и поддържаните API-та
- Управление на паметта и стратегия за разпределение на плочки в TIK
- Създаване, компилиране и регистриране на персонализиран оператор с CANN
Тестване и валидиране на персонализирани оператори
- Модулно тестване и интеграционно тестване на оператори в графа
- Отстраняване на проблеми с производителността на ниво ядро
- Визуализиране на изпълнението на оператори и поведението на буферите
Планиране и оптимизация, базирани на TVM
- Общ преглед на TVM като компилатор за тензорни операции
- Писане на график за персонализиран оператор в TVM
- TVM настройка, сравнителен анализ и генериране на код за Ascend
Интеграция с фреймуърци и модели
- Регистриране на персонализирани оператори за MindSpore и ONNX
- Проверка на целостта на модела и поведението при резервен вариант
- Поддръжка на графи с множество оператори със смесена точност
Казуси и специализирани оптимизации
- Казус: високоефективна конволюция за малки входни форми
- Казус: оптимизация на оператор за внимание, съобразена с паметта
- Най-добри практики при внедряване на персонализирани оператори на различни устройства
Обобщение и следващи стъпки
Изисквания
- Задълбочени познания за вътрешната структура на AI моделите и изчисленията на ниво оператор
- Опит със среди за разработка на Python и Linux
- Запознатост с компилатори за невронни мрежи или оптимизатори на ниво граф
Аудитория
- Инженери по компилатори, работещи върху AI инструментални вериги
- Системни разработчици, фокусирани върху нисконивова AI оптимизация
- Разработчици, изграждащи персонализирани оператори или насочени към нови AI натоварвания
14 Часа