Свържете се с нас

Съдържание и теми, включени в курса

Въведение в QLoRA и квантуването

  • Преглед на квантуването и неговата роля в оптимизацията на модели
  • Въведение в рамката QLoRA и нейните предимства
  • Ключови разлики между QLoRA и традиционните методи за фина настройка

Основи на големите езикови модели (LLM)

  • Въведение в LLM и тяхната архитектура
  • Предизвикателства при мащабна фина настройка на големи модели
  • Как квантуването помага за преодоляване на изчислителните ограничения при фина настройка на LLM

Прилагане на QLoRA за фина настройка на LLM

  • Настройка на рамката и средата за QLoRA
  • Подготовка на набори от данни за фина настройка с QLoRA
  • Ръководство стъпка по стъпка за прилагане на QLoRA върху LLM чрез Python и PyTorch/TensorFlow

Оптимизиране на производителността на фина настройка с QLoRA

  • Как да балансираме точността и производителността на модела с квантуването
  • Техники за намаляване на изчислителните разходи и използването на памет по време на фина настройка
  • Стратегии за фина настройка с минимални хардуерни изисквания

Оценяване на фино настроени модели

  • Как да оценим ефективността на фино настроените модели
  • Общи показатели за оценка на езикови модели
  • Оптимизиране на производителността на модела след настройка и отстраняване на проблеми

Внедряване и мащабиране на фино настроени модели

  • Най-добри практики за внедряване на квантувани LLM в производствени среди
  • Мащабиране на внедряването за обработка на заявки в реално време
  • Инструменти и рамки за внедряване и наблюдение на модели

Приложения от реалния свят и казуси

  • Казус: Фина настройка на LLM за обслужване на клиенти и NLP задачи
  • Примери за фина настройка на LLM в различни индустрии като здравеопазване, финанси и електронна търговия
  • Научени уроци от реални внедрявания на модели, базирани на QLoRA

Обобщение и следващи стъпки

Изисквания

  • Разбиране на основите на машинното обучение и невронните мрежи
  • Опит с фина настройка на модели и обучение с прехвърляне
  • Запознаване с големите езикови модели (LLM) и рамките за дълбоко обучение (напр. PyTorch, TensorFlow)

Аудитория

  • Инженери по машинно обучение
  • AI разработчици
  • Специалисти по данни
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории