Курс за обучение по Фино настройване на open-source LLM (LLaMA, Mistral, Qwen и др.)

Въведение в open-source LLM

• Какво представляват моделите с отворени тегла и защо са важни
• Общ преглед на LLaMA, Mistral, Qwen и други модели от общността
• Случаи на употреба за частни, локални или сигурни внедрявания

Настройка на средата и инструменти

• Инсталиране и конфигуриране на библиотеките Transformers, Datasets и PEFT
• Избор на подходящ хардуер за фино настройване
• Зареждане на предварително обучени модели от Hugging Face или други хранилища

Подготовка на данни и предварителна обработка

• Формати на наборите от данни (instruction tuning, данни за чат, само текст)
• Токенизация и управление на последователности
• Създаване на персонализирани набори от данни и зареждащи модули за данни

Техники за фино настройване

• Стандартно пълно фино настройване срещу методи с ефективно използване на параметри
• Прилагане на LoRA и QLoRA за ефективно фино настройване
• Използване на Trainer API за бързо експериментиране

Оценка и оптимизация на модела

• Оценяване на фино настроени модели с показатели за генериране и точност
• Управление на пренастройването, обобщаването и валидационните набори
• Съвети за настройка на производителността и регистриране

Внедряване и частна употреба

• Запазване и зареждане на модели за извод
• Внедряване на фино настроени модели в сигурни корпоративни среди
• Стратегии за внедряване на място срещу облачно внедряване

Казуси и случаи на употреба

• Примери за корпоративна употреба на LLaMA, Mistral и Qwen
• Справяне с многоезично и специфично за домейн фино настройване
• Дискусия: Компромиси между отворени и затворени модели

Обобщение и следващи стъпки