План на курса

Въведение в разпространеното изчисление с AI и оптимизацията на моделите

  • Разбиране на разпространеното изчисление и задачите на AI.
  • Компромиси: производителност срещу ограничения по ресурсите
  • Общ преглед на стратегии за оптимизация на моделите.

Избор и предварително обучение на модели

  • Избор на лековесни модели (например, MobileNet, TinyML, SqueezeNet)
  • Разбиране на архитектурите на моделите, подходящи за устройства с разпространено AI.
  • Използване на предварително обучени модели като база

Оптимизиране и преучаване на моделите

  • Принципи на преучаването
  • Адаптиране на модели към персонализирани набори от данни.
  • Практически работни процеси за оптимизиране

Квантизиране на моделите

  • Техники за квантизиране след обучението.
  • Квантизация със засягане на обучението
  • Оценка и компромиси

Прюниране и компресия на моделите

  • Стратегии за прюниране (структурирани срещу неструктурирани)
  • Компресия и споделяне на тегла
  • Бенчмаркиране на компресираните модели.

Фреймворки и инструменти за изпълнение

  • TensorFlow Lite, PyTorch Mobile, ONNX.
  • Съвместимост на разпространеното изчисление и средата за изпълнение
  • Инструменти за кръстосано изпълнение на платформите.

Практическо изпълнение

  • Изпълнение на Raspberry Pi, Jetson Nano и мобилни устройства.
  • Профилиране и бенчмаркиране
  • Отстраняване на проблеми при изпълнението.

Заключение и следващи стъпки

Изисквания

  • Разбиране на основите на машинното учене
  • Опит с Python и фреймворки за дълбоко учене
  • Познаване на вградени системи или ограниченията на устройствата с разпространено AI.

Публика

  • Ръководители по вградената AI
  • Специалисти по разпространено изчисление
  • Инженери за машинно учене, фокусирани върху разпространеното изпълнение с AI.
 14 Часове

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории