План на курса

Въведение в Huawei CloudMatrix

  • Екосистема на CloudMatrix и поток на разверване
  • Поддържани модели, формати и режими на разверване
  • Типични употреби и поддържани чипове

Подготовка на модели за разверване

  • Експорт на модели от инструменти за обучение (MindSpore, TensorFlow, PyTorch)
  • Използване на ATC (Ascend Tensor Compiler) за конвертиране на формати
  • Статични vs динамични модели с форма

Развертане в CloudMatrix

  • Създаване на услуги и регистрация на модели
  • Развертане на услуги за извличане на заключения през UI или CLI
  • Маршрутизиране, аутентификация и контрол на достъпа

Обработка на заявки за извличане на заключения

  • Поток на пакетно vs реално време за извличане на заключения
  • Пиплайни за предобработка и постобработка на данни
  • Извикване на услуги на CloudMatrix от външни приложения

Мониторинг и оптимизация на производителността

  • Логове за развертане и следене на заявки
  • Мащабиране на ресурси и балансиране на натоварване
  • Оптимизация на закъснение и оптимизация на пропускателна способност

Интеграция с корпоративни инструменти

  • Съединяване на CloudMatrix с OBS и ModelArts
  • Използване на пиплайни и версииране на модели
  • CI/CD за развертане и откатване на модели

Енд-ту-енд пиплайн за извличане на заключения

  • Развертане на комплектен пиплайн за класификация на изображения
  • Бенчмаркинг и валидиране на точност
  • Симулиране на отказ на система и системни известия

Резюме и следващи стъпки

Изисквания

  • Разбиране на процеси за обучение на AI модели
  • Опит с базирани на Python ML фреймуоркове
  • Основна знакомост с концепции за облачно развертане

Целева аудитория

  • Екипи за AI Ops
  • Инженери по машинно обучение
  • Специалисти по облачно развертане, работащи с инфраструктура на Huawei
 21 часа

Брой участници


Цена за участник

Отзиви от потребители (1)

Предстоящи Курсове

Свързани Kатегории