Съдържание и теми, включени в курса
Ден 1 – Основи на генеративния ИИ и LLM
Въведение в случаите на използване на генеративния ИИ и LLM
Разбиране на модели, базирани на трансформатори (GPT, LLaMA, T5 и др.)
Токени, токенизация и embeddings
Работа с предварително обучени модели чрез API-та (OpenAI, Claude)
Работа с предварително обучени модели чрез Hugging Face
Основи на промптинга: zero-shot и few-shot промптинг
Практическа работа: инженеринг на промпти в Python notebook
Изграждане на просто приложение, захранвано от LLM (CLI или уеб)
Практически ограничения: токени, лимити на заявки и основни техники за надеждност
Ден 2 – RAG и векторно търсене
Защо RAG: комбиниране на LLM със собствени данни
Архитектура на RAG: ingest, index, retrieve, generate
Подготовка и разделяне на документи за извличане
Генериране на текстови embeddings чрез API-та или Hugging Face
Въведение във векторните хранилища (напр. Chroma, Pinecone)
Практическа работа: изграждане на основен скрипт за семантично търсене
Практическа работа: изграждане на система за въпроси и отговори с RAG
Мащабиране на ingest и embeddings (преглед на работни потоци с по-големи данни)
Компромиси в дизайна на RAG: разделяне, top-k, разходи спрямо качество
Ден 3 – Работни потоци, агенти и продукционна среда
Какво представляват ИИ агентите и кога да ги използваме
Въведение в LangGraph и граф-базирани LLM работни потоци
Практическа работа: изграждане на прост LangGraph работен поток с инструменти
Добавяне на памет и многостъпково разсъждение към работните потоци
Комбиниране на RAG и агенти (agentic RAG)
Мониторинг и оценка на LLM и RAG системи
Опции за внедряване на LLM приложения (API-та, контейнери, услуги)
Стратегии за оптимизация на разходите и производителността
Основни практики за безопасност, защитни механизми и отговорна употреба
Капстон мини-проект: демонстрация на цялостно RAG/агент приложение
Изисквания
Стабилни умения за програмиране на Python и познания с API-та.
Целева аудитория:
Този курс е предназначен за организации, които искат да преминат от експериментиране към реални решения, захранвани от LLM. Подходящ е за софтуерни инженери, backend и full-stack разработчици, интегриращи LLM в продукти и услуги; инженери по данни и машинно обучение, работещи с RAG, embeddings и векторно търсене; solution и enterprise архитекти, проектиращи архитектури на базата на LLM; както и технически собственици на продукти и ръководители на инженерни екипи, отговорни за оценка на случаите на използване на ИИ, разходите и рисковете.
Отзиви от участници (2)
употреба на правилни и ефективни промптове
Marses Pacaldo
Курс - Generative AI and Prompt Engineering for Corporate Professionals
Машинен превод
Интерактивният стил, упражненията
Tamas Tutuntzisz
Курс - Introduction to Prompt Engineering
Машинен превод
