План на курса

Въведение в Retrieval-Augmented Generation (RAG)
  • Какво е RAG и защо е важно за корпоративния ИА
  • Компоненти на системата RAG: ретривър, генератор, хранилище на документи
  • Сравнение с самостоятелни LLM и векторно търсене
Настройка на конвейера RAG
  • Инсталиране и настройка на Haystack или подобни рамки
  • Внасяне и преобразуване на документи
  • Свързване на ретриъври с векторни бази данни (например, FAISS, Pinecone)
Ретривърът
  • Обучение на гъсти ретриъври с данни специфични за областта
  • Използване на трансформери на изречения и контрастно обучение
  • Оценка на качеството на ретриъра с точност top-k
Генераторът
  • Избор на базови модели (например, BART, T5, FLAN-T5)
  • Инструкционно нагласяване срещу надзорно тонко настройване
  • Методи LoRA и PEFT за ефективни обновления
Оценка и оптимизация
  • Метрики за оценка на производителността на RAG (например, BLEU, EM, F1)
  • Задържане, качество на ретрив и намаляване на халюцинации
  • Следване на експериментите и итеративно подобрение
Разработка и интеграция в реалния свят
  • Разработка на RAG в вътрешни търсачки и чатботи
  • Разглеждане на сигурност, достъп до данни и управление
  • Интеграция с API, таблици или портали за знания
Примерни случаи и добри практики
  • Корпоративни случаи за използване в финансовия, здравеопазвания и правния сектор
  • Управление на промяна в областта и обновления на базата знания
  • Бъдещи направления в системи за ретривал-авгументирани LLM
Резюме и следващи стъпки

Изисквания

  • Разбиране в концепции за обработка на естествен език (NLP)
  • Опит с трансформерни модели за езици
  • Знание на Python и базови процесове за машинно обучение

Целева аудитория

  • Инженери за обработка на естествен език
  • Екипи за управление на знания
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории