Свържете се с нас

Съдържание и теми, включени в курса

Въведение в open-source LLM

  • Какво представляват моделите с отворени тегла и защо са важни
  • Общ преглед на LLaMA, Mistral, Qwen и други модели от общността
  • Случаи на употреба за частни, локални или сигурни внедрявания

Настройка на средата и инструменти

  • Инсталиране и конфигуриране на библиотеките Transformers, Datasets и PEFT
  • Избор на подходящ хардуер за фино настройване
  • Зареждане на предварително обучени модели от Hugging Face или други хранилища

Подготовка на данни и предварителна обработка

  • Формати на наборите от данни (instruction tuning, данни за чат, само текст)
  • Токенизация и управление на последователности
  • Създаване на персонализирани набори от данни и зареждащи модули за данни

Техники за фино настройване

  • Стандартно пълно фино настройване срещу методи с ефективно използване на параметри
  • Прилагане на LoRA и QLoRA за ефективно фино настройване
  • Използване на Trainer API за бързо експериментиране

Оценка и оптимизация на модела

  • Оценяване на фино настроени модели с показатели за генериране и точност
  • Управление на пренастройването, обобщаването и валидационните набори
  • Съвети за настройка на производителността и регистриране

Внедряване и частна употреба

  • Запазване и зареждане на модели за извод
  • Внедряване на фино настроени модели в сигурни корпоративни среди
  • Стратегии за внедряване на място срещу облачно внедряване

Казуси и случаи на употреба

  • Примери за корпоративна употреба на LLaMA, Mistral и Qwen
  • Справяне с многоезично и специфично за домейн фино настройване
  • Дискусия: Компромиси между отворени и затворени модели

Обобщение и следващи стъпки

Изисквания

  • Разбиране на големите езикови модели (LLM) и тяхната архитектура
  • Опит с Python и PyTorch
  • Основни познания за екосистемата на Hugging Face

Аудитория

  • ML специалисти
  • AI разработчици
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории