План на курса

Въведение в Edge AI и Nano Banana

  • Основни характеристики на edge-AI работните зареждана
  • Архитектура и възможности на Nano Banana
  • Сравнение между стратегиите за разполагане в края на мрежата и облака

Подготовка на модели за разполагане в края на мрежата

  • Избор на модели и базова оценка
  • Разглеждане на зависимости и съвместимост
  • Експортиране на модели за допълнителна оптимизация

Техники за компресия на модели

  • Стратегии за прунинг и структурна редуцираност
  • Разделяне на тегла и редуциране на параметри
  • Оценка на въздействията от компресията

Квантация за по-добра перформанса в края на мрежата

  • Методи за квантация след обучението
  • Работни процеси с осъзнаване на квантацията
  • Подходи INT8, FP16 и смесени-прецизност

Ускоряване с Nano Banana

  • Използване на ускорители на Nano Banana
  • Интегриране на ONNX и хардверни бекенди
  • Тестиране на ускоренията при извършването

Разполагане в околнините на края на мрежата

  • Интегриране на модели в ембедирани или мобилни приложения
  • Настройка и мониторинг на операцията
  • Решаване на проблеми, свързани с разполагането

Профилиране на перформанса и анализ на компромисите

  • Забавяне, пропускайки способности и термални ограничения
  • Компромиси между точността и перформанса
  • Итеративни стратегии за оптимизация

Белодадените практики за поддръжка на системите с edge-AI

  • Версиониране и непрекъснато обновяване
  • Отмяна на модели и управление на съвместимостта
  • Разглеждане на сигурността и целостта

Заключение и следващи стъпки

Изисквания

  • Разбиране на работните процеси при машинно обучение
  • Опит с разработка на модели, базирани на Python
  • Основни познания за архитектурата на невронните мрежи

Публика

  • ML инженери
  • Дейтъ скьентисти
  • Практици в MLOps
 14 Часове

Брой участници


Цена за участник

Отзиви от потребители (1)

Предстоящи Курсове

Свързани Kатегории