Свържете се с нас

Съдържание и теми, включени в курса

Въведение в оптимизирането на големи модели

  • Преглед на архитектурите на големи модели
  • Предизвикателства при финото настройване на големи модели
  • Значение на рентабилната оптимизация

Техники за разпределено обучение

  • Въведение в паралелизма на данните и модела
  • Рамки за разпределено обучение: PyTorch и TensorFlow
  • Мащабиране през множество GPU и възли

Квантуване и прунинг на модели

  • Разбиране на техниките за квантуване
  • Прилагане на прунинг за намаляване на размера на модела
  • Компромиси между точност и ефективност

Хардуерна оптимизация

  • Избор на правилния хардуер за задачи по фино настройване
  • Оптимизиране на използването на GPU и TPU
  • Използване на специализирани ускорители за големи модели

Ефективно управление на данни

  • Стратегии за управление на големи набори от данни
  • Предварителна обработка и групиране за производителност
  • Техники за обогатяване на данни

Внедряване на оптимизирани модели

  • Техники за внедряване на фино настроени модели
  • Мониторинг и поддържане на производителността на модела
  • Примери от реалния свят за внедряване на оптимизирани модели

Напреднали техники за оптимизация

  • Изследване на нискорангова адаптация (LoRA)
  • Използване на адаптери за модулно фино настройване
  • Бъдещи тенденции в оптимизацията на модели

Обобщение и следващи стъпки

Изисквания

  • Опит с рамки за дълбоко обучение като PyTorch или TensorFlow
  • Запознатост с големи езикови модели и техните приложения
  • Разбиране на концепциите за разпределени изчисления

Аудитория

  • Инженери по машинно обучение
  • Специалисти по облачен AI
 21 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории