План на курса

Въведение в QLoRA и Квантизация

  • Преглед на квантизацията и нейната роля в оптимизирането на модели
  • Въведение в рамката на QLoRA и нейните предимства
  • Ключови различия между QLoRA и традиционните методи за дообучаване

Основи на големите езикови модели (LLMs)

  • Въведение в LLMs и техната архитектура
  • Проблемите при дообучаване на големи модели в големи мащаби
  • Как квантизацията помага да се преодолят изчислителни ограничения при дообучаването на LLMs

Имплементация на QLoRA за дообучаване на LLMs

  • Настройка на рамката и средата за QLoRA
  • Подготовка на набори от данни за дообучаване с QLoRA
  • Постъпково ръководство за имплементиране на QLoRA в LLMs с Python и PyTorch/TensorFlow

Оптимизация на производителността при дообучаване с QLoRA

  • Как да балансирате точността и производителността на модела с квантизация
  • Техники за намаляване на изчислителните разходи и използването на памет по време на дообучаване
  • Стратегии за дообучаване с минимални аппаратни изисквания

Оценяване на дообучените модели

  • Как да оцените ефективността на дообучените модели
  • Общи метрики за оценка на езикови модели
  • Оптимизация на производителността на модела след дообучаването и отстраняване на проблеми

Разработване и масово разпространение на дообучените модели

  • Най-добрите практики за разпространение на квантизирани LLMs в продукционни среди
  • Масово разпространение за обработка на реални заявки
  • Инструменти и рамки за разпространение и мониторинг на модели

Реални примери за използване и случаи на успех

  • Случай на успех: дообучаване на LLMs за поддръжка на клиенти и NLP задачи
  • Примери за дообучаване на LLMs в различни индустрии като здравеопазване, финанси и електронна търговия
  • Уроци, извлекли се от реални разпространения на модели, базирани на QLoRA

Резюме и следващи стъпки

Изисквания

  • Разбиране на основните принципи на машинно обучение и невронни мрежи
  • Опит в настройка на модели и трансферно обучение
  • Запознатост с големи езикови модели (LLMs) и рамки за дълбоко обучение (напр., PyTorch, TensorFlow)

Целева група

  • Инженери по машинно обучение
  • Разработчици на ИИ
  • Специалисти по данни
 14 часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории