Съдържание и теми, включени в курса
Ден 1 – Основи на генеративния AI и LLM
Въведение в генеративния AI и случаите на употреба на LLM
Разбиране на трансформър-базирани модели (GPT, LLaMA, T5 и др.)
Токени, токенизация и ембединги (embeddings)
Работа с предварително обучени модели чрез API (OpenAI, Claude)
Работа с предварително обучени модели чрез Hugging Face
Основи на промптването: zero-shot и few-shot промптване
Практическо упражнение: промпт инженеринг в Python notebook
Изграждане на просто LLM-задвижвано приложение (CLI или уеб)
Практически ограничения: токени, лимити на заявки и основни техники за надеждност
Ден 2 – RAG и векторно търсене
Защо RAG: комбиниране на LLM със собствени данни
RAG архитектура: поглъщане (ingest), индексиране, извличане, генериране
Подготовка и раздробяване (chunking) на документи за извличане
Генериране на текстови ембединги чрез API или Hugging Face
Въведение в векторни хранилища (напр. Chroma, Pinecone)
Практическо упражнение: изграждане на базов скрипт за семантично търсене
Практическо упражнение: изграждане на система за въпроси и отговори върху документи с RAG
Мащабиране на поглъщането и ембедингите (преглед на работни потоци с по-големи данни)
Компромиси в дизайна на RAG: раздробяване (chunking), top-k, цена спрямо качество
Ден 3 – Работни потоци, агенти и производствена среда
Какво представляват AI агентите и кога да ги използваме
Въведение в LangGraph и графово-базирани LLM работни потоци
Практическо упражнение: изграждане на прост LangGraph работен поток с инструменти
Добавяне на памет и многостъпково разсъждение към работните потоци
Комбиниране на RAG и агенти (агентен RAG)
Наблюдение и оценка на LLM и RAG системи
Опции за внедряване на LLM приложения (API, контейнери, услуги)
Стратегии за оптимизация на разходите и производителността
Основна безопасност, предпазни механизми (guardrails) и отговорна употреба
Завършващ мини-проект: демонстрация на цялостно RAG/агент приложение
Изисквания
солидни умения за програмиране на Python и познаване на API.
Целева аудитория:
Този курс е предназначен за организации, които искат да преминат от експериментиране към реални решения, задвижвани от LLM. Подходящ е за софтуерни инженери, бекенд инженери и full-stack инженери, интегриращи LLM в продукти и услуги; инженери по данни и машинно обучение, работещи с RAG, ембединги (embeddings) и векторно търсене; архитекти на решения и корпоративни архитекти, проектиращи архитектури, базирани на LLM; както и за технически продуктови мениджъри и технически лидери, отговорни за оценка на AI случаи на употреба, разходи и рискове.
Отзиви от участници (2)
Интерактивният стил, упражненията
Tamas Tutuntzisz
Курс - Introduction to Prompt Engineering
Машинен превод
Отличен събир на ресурси за бъдещо ползване, стил на преподавателя (пълен с добър чувството за хумор, великолепен ниво на детайлnost)
Adam - GE Aerospace Poland Sp. z o.o.
Курс - Prompt Engineering for ChatGPT
Машинен превод
