Курс за обучение по Фина настройка на модели и големи езикови модели (LLM)

Въведение във фината настройка

• Какво представлява фината настройка?
• Случаи на употреба и ползи от фината настройка
• Преглед на предварително обучените модели и трансферното обучение

Подготовка за фина настройка

• Събиране и почистване на набори от данни
• Разбиране на специфичните изисквания към данните за дадена задача
• Проучвателен анализ на данни и предварителна обработка

Техники за фина настройка

• Трансферно обучение и извличане на характеристики
• Фина настройка на трансформъри с Hugging Face
• Фина настройка за задачи с учител срещу задачи без учител

Фина настройка на големи езикови модели (LLM)

• Адаптиране на LLM за задачи в областта на обработката на естествен език (напр. класификация на текст, обобщаване)
• Обучение на LLM с персонализирани набори от данни
• Контролиране на поведението на LLM чрез промпт инженеринг

Оптимизация и оценка

• Настройка на хиперпараметри
• Оценка на производителността на модела
• Справяне с пренастройване и поднастройване

Мащабиране на усилията за фина настройка

• Фина настройка върху разпределени системи
• Използване на облачно базирани решения за мащабируемост
• Казуси: Мащабни проекти за фина настройка

Най-добри практики и предизвикателства

• Най-добри практики за успешна фина настройка
• Често срещани предизвикателства и отстраняване на проблеми
• Етични съображения при фината настройка на модели с изкуствен интелект

Разширени теми (по избор)

• Фина настройка на мултимодални модели
• Обучение с нулеви и малко примери
• Изследване на техниките LoRA (нискорангова адаптация)

Обобщение и следващи стъпки