Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Продължителност 14 часa
Съдържание и теми, включени в курса
Въведение в разработването на персонализирани оператори
- Защо да изграждаме персонализирани оператори? Случаи на употреба и ограничения
- Структура на изпълнителната среда на CANN и точки на интеграция на оператори
- Преглед на TBE, TIK и TVM в екосистемата за изкуствен интелект на Huawei
Използване на TIK за нисконивово програмиране на оператори
- Разбиране на програмния модел TIK и поддържаните API-та
- Управление на паметта и стратегия за разпределение на плочки в TIK
- Създаване, компилиране и регистриране на персонализирана операция с CANN
Тестване и валидиране на персонализирани операции
- Модулно и интеграционно тестване на операции в графа
- Отстраняване на грешки в производителността на ниво ядро
- Визуализиране на изпълнението на операциите и поведението на буферите
Базирано на TVM планиране и оптимизация
- Преглед на TVM като компилатор за тензорни операции
- Писане на график за персонализирана операция в TVM
- Настройване, сравнителен анализ и генериране на код с TVM за Ascend
Интеграция с рамки и модели
- Регистриране на персонализирани операции за MindSpore и ONNX
- Проверка на целостта на модела и резервното поведение
- Поддръжка на графи с множество оператори със смесена точност
Казуси и специализирани оптимизации
- Казус: високоефективна конволюция за малки входни форми
- Казус: оптимизация на оператор за внимание, съобразена с паметта
- Най-добри практики при внедряване на персонализирани операции в различни устройства
Обобщение и следващи стъпки
Изисквания
- Солидни познания за вътрешната структура на AI моделите и изчисленията на ниво оператори
- Опит със среди за разработка на Python и Linux
- Запознатост с компилатори за невронни мрежи или оптимизатори на ниво граф
Аудитория
- Инженери по компилатори, работещи върху AI инструментални вериги
- Системни разработчици, фокусирани върху нисконивова AI оптимизация
- Разработчици, изграждащи персонализирани операции или насочени към нови AI натоварвания
