Свържете се с нас

Съдържание и теми, включени в курса

Въведение в извличането и генерирането на информация (RAG)

  • Какво е RAG и защо е от значение за корпоративния изкуствен интелект
  • Компоненти на RAG системата: извличащ модул, генериращ модул, хранилище за документи
  • Сравнение със самостоятелни LLM и векторно търсене

Настройка на RAG конвейр

  • Инсталиране и конфигуриране на Haystack или подобни рамки
  • Поглъщане и предварителна обработка на документи
  • Свързване на извличащи модули с векторни бази данни (напр. FAISS, Pinecone)

Фино настройване на извличащия модул

  • Обучение на плътни извличащи модули с данни от конкретна област
  • Използване на sentence transformers и контрастивно обучение
  • Оценка на качеството на извличащия модул чрез точност top-k

Фино настройване на генериращия модул

  • Избор на базови модели (напр. BART, T5, FLAN-T5)
  • Настройка чрез инструкции срещу супервизирано фино настройване
  • Методи LoRA и PEFT за ефективни актуализации

Оценка и оптимизация

  • Метрики за оценка на производителността на RAG (напр. BLEU, EM, F1)
  • Латентност, качество на извличането и намаляване на халюцинациите
  • Проследяване на експерименти и итеративно подобрение

Внедряване и интеграция в реалния свят

  • Внедряване на RAG във вътрешни търсачки и чатботове
  • Съображения за сигурност, достъп до данни и управление
  • Интеграция с API, табла за управление или портали за знания

Казуси и добри практики

  • Корпоративни случаи на употреба във финансите, здравеопазването и правото
  • Управление на отклонението в областта и актуализации на базата от знания
  • Бъдещи насоки в LLM системите с разширено извличане

Обобщение и следващи стъпки

Изисквания

  • Разбиране на концепциите за обработка на естествен език (NLP)
  • Опит с езикови модели, базирани на трансформъри
  • Запознатост с Python и основни работни процеси в машинното обучение

Аудитория

  • NLP инженери
  • Екипи за управление на знания
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории