Свържете се с нас

Съдържание и теми, включени в курса

Въведение в крайния AI и Nano Banana

  • Ключови характеристики на натоварванията за краен AI
  • Архитектура и възможности на Nano Banana
  • Сравняване на стратегии за внедряване в крайни среди спрямо облак

Подготовка на модели за внедряване на крайни устройства

  • Избор на модел и базова оценка
  • Съображения за зависимости и съвместимост
  • Експортиране на модели за по-нататъшна оптимизация

Техники за компресия на модели

  • Стратегии за прунинг и структурна разреденост
  • Споделяне на тегла и намаляване на параметрите
  • Оценка на въздействието от компресията

Квантуване за производителност в крайни среди

  • Методи за квантуване след обучение
  • Работни процеси за обучение с отчитане на квантуването
  • Подходи с INT8, FP16 и смесена прецизност

Ускорение с Nano Banana

  • Използване на ускорителите на Nano Banana
  • Интегриране на ONNX и хардуерни бекендове
  • Бенчмаркинг на ускорени изводи

Внедряване на крайни устройства

  • Интегриране на модели във вградени или мобилни приложения
  • Конфигурация и мониторинг по време на изпълнение
  • Отстраняване на проблеми при внедряване

Профилиране на производителността и анализ на компромисите

  • Ограничения за латентност, пропускателна способност и температура
  • Компромиси между точност и производителност
  • Итеративни стратегии за оптимизация

Най-добри практики за поддръжка на системи с краен AI

  • Версиониране и непрекъснати актуализации
  • Връщане на модели и управление на съвместимостта
  • Съображения за сигурност и интегритет

Обобщение и следващи стъпки

Изисквания

  • Разбиране на работните процеси в машинното обучение
  • Опит в разработването на модели с Python
  • Запознатост с архитектури на невронни мрежи

Аудитория

  • ML инженери
  • Data учени
  • MLOps практици
 14 Часа

Брой участници


Цена за участник

Отзиви от участници (1)

Предстоящи Курсове

Свързани Kатегории