Курс за обучение по Лекции за Лекотежни Модели за Развертане
Променяване на модели е процесът на адаптиране на предобученни модели към специфични задачи или среди.
Това ръководено от инструктор, живо обучение (онлайн или на място) е направено за разработчици на вградено AI с среден ниво и специалисти по обработка на периферни устройства, които искат да променят и оптимизират лековидни AI модели за развертане на устройства с ограничени ресурси.
До края на това обучение участниците ще могат да:
- Изберете и адаптирате предобученни модели, подходящи за развертане в периферната среда.
- Прилагайте квантизация, подрязване и други техники за компресия, за да намалите размера на модела и латиенса.
- Променяйте модели с помощта на трансферно обучение за изпълнение на специфични задачи.
- Развернете оптимизирани модели на реални периферни устройства.
Формат на курса
- Интерактивна лекция и дискусия.
- Много упражнения и практика.
- Практично реализиране в живо лабораторно среда.
Опции за персонализиране на курса
- За да поставите заявка за персонализиран тренинг за този курс, моля свържете се с нас, за да организирате.
План на курса
Въведение в Edge AI и оптимизация на модели
- Разбиране на едж компютърите и AI задачи
- Компромис: производителност срещу ограничения на ресурсите
- Обзор на стратегии за оптимизация на модели
Избор на модели и предобучение
- Избор на леки модели (например, MobileNet, TinyML, SqueezeNet)
- Разбиране на архитектури на модели, подходящи за едж устройства
- Използване на предобучени модели като база
Fine-Tuning и преобучение на модели
- Принципи на преобучение на модели
- Адаптиране на модели към специални набори от данни
- Практични процеси за преобучение
Квантизация на модели
- Техники за квантизация след обучение
- Квантизация, осъзнаваща обучение
- Оценка и компромис
Очистване и компресиране на модели
- Стратегии за очистване (структурирано vs. неструктурирано)
- Компресиране и споделяне на тегла
- Бенчмарк на компресирани модели
Платформи и инструменти за развой
- TensorFlow Lite, PyTorch Mobile, ONNX
- Съвместимост с едж хардуер и среда за изпълнение
- Инструментални вериги за развой на платформи с кръстови настройки
Практически пример за развой
- Развой на Raspberry Pi, Jetson Nano и мобилни устройства
- Профилиране и бенчмарк
- Отстраняване на проблеми с развоя
Резюме и следващи стъпки
Изисквания
- Разбиране на основните принципи на машинно обучение
- Опит с Python и рамки за дълбоко обучение
- Завършеност с ограниченията на вградени системи или периферни устройства
Целева аудитория
- Разработчици на вградени AI
- Специалисти по периферно изчисляване
- Инженери по машинно обучение, фокусирани върху периферно развертане
Отворените курсове за обучение изискват 5+ участника.
Курс за обучение по Лекции за Лекотежни Модели за Развертане - Booking
Курс за обучение по Лекции за Лекотежни Модели за Развертане - Enquiry
Лекции за Лекотежни Модели за Развертане - Консултантско запитване
Консултантско запитване
Предстоящи Курсове
Свързани Kурсове
Напредни техники в трансферно обучение
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти в машинното обучение на напреднало ниво, които желаят да овладеят авангардни техники за трансфер на обучение и да ги прилагат към сложни проблеми от реалния свят.
До края на това обучение участниците ще могат:
- Разберете съвременни концепции и методологии в трансферното обучение.
- Прилагане на специфични за домейн техники за адаптация за предварително обучени модели.
- Прилагайте непрекъснато обучение, за да управлявате развиващи се задачи и набори от данни.
- Овладейте многозадачната фина настройка, за да подобрите производителността на модела в различните задачи.
Развертане на точно настроени модели в производство
21 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на напреднало ниво, които желаят да разположат фино настроени модели надеждно и ефективно.
До края на това обучение участниците ще могат:
- Разберете предизвикателствата на внедряването на фино настроени модели в производството.
- Контейнеризирайте и разгръщайте модели с помощта на инструменти като Docker и Kubernetes.
- Внедрете наблюдение и регистриране за внедрени модели.
- Оптимизирайте модели за латентност и мащабируемост в сценарии от реалния свят.
Домейноспецифично Добавяне на Подробности за Финанси
21 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на средно ниво, които искат да придобият практически умения за персонализиране на AI модели за критични финансови задачи.
До края на това обучение участниците ще могат:
- Разберете основите на фината настройка за финансови приложения.
- Използвайте предварително обучени модели за специфични за домейна задачи във финансите.
- Прилагайте техники за откриване на измами, оценка на риска и генериране на финансови съвети.
- Осигурете съответствие с финансовите разпоредби като GDPR и SOX.
- Внедряване на сигурност на данните и етични AI практики във финансови приложения.
Fine-Tuning of Models and Large Language Models (LLMs)
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти от средно до напреднало ниво, които желаят да персонализират предварително обучени модели за конкретни задачи и набори от данни.
До края на това обучение участниците ще могат:
- Разберете принципите на фината настройка и нейните приложения.
- Подгответе набори от данни за фина настройка на предварително обучени модели.
- Фина настройка на големи езикови модели (LLM) за NLP задачи.
- Оптимизирайте производителността на модела и адресирайте общи предизвикателства.
Efficient Fine-Tuning with Low-Rank Adaptation (LoRA)
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към разработчици на средно ниво и практикуващи AI, които желаят да приложат стратегии за фина настройка за големи модели без необходимост от обширни изчислителни ресурси.
До края на това обучение участниците ще могат:
- Разберете принципите на адаптация от нисък ранг (LoRA).
- Внедрете LoRA за ефективна фина настройка на големи модели.
- Оптимизирайте фината настройка за среди с ограничени ресурси.
- Оценявайте и внедрявайте настроени според LoRA модели за практически приложения.
Fine-Tuning на мултимодални модели
28 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на напреднало ниво, които желаят да овладеят фината настройка на мултимодален модел за иновативни AI решения.
До края на това обучение участниците ще могат:
- Разберете архитектурата на мултимодални модели като CLIP и Flamingo.
- Подгответе и предварителна обработка на мултимодални набори от данни ефективно.
- Настройте фино мултимодалните модели за конкретни задачи.
- Оптимизирайте модели за реални приложения и производителност.
Fine-Tuning for Natural Language Processing (NLP)
21 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на средно ниво, които желаят да подобрят своите НЛП проекти чрез ефективна фина настройка на предварително обучени езикови модели.
До края на това обучение участниците ще могат:
- Разберете основите на фината настройка за NLP задачи.
- Фина настройка на предварително обучени модели като GPT, BERT и T5 за специфични NLP приложения.
- Оптимизирайте хиперпараметрите за подобрена производителност на модела.
- Оценявайте и внедрявайте фино настроени модели в сценарии от реалния свят.
Файн-Тюнин DeepSeek LLM за Късномоделни AI приложения
21 часаТози курс с инструктор, провеждан живо (онлайн или на място), е предназначен за специалисти на повишен ниво в областта на изкуствен интелигент, инженери на машинно обучение и разработчици, които искат да настройват модели DeepSeek LLM за създаване на специализирани приложения на изкуствен интелигент, насочени към специфични отрасли, области или бизнес нужди.
До края на този курс участниците ще бъдат в състояние да:
- Разберат архитектурата и възможностите на модели DeepSeek, включително DeepSeek-R1 и DeepSeek-V3.
- Подготвят набори от данни и предварително обработват данни за настройване.
- Настроят DeepSeek LLM за приложения специфични за област.
- Опитимизират и разпространяват настройвани модели ефикасно.
Fine-Tuning Large Language Models Using QLoRA
14 часаТова обучение с инструктор, което се провежда на живо България (онлайн или на място), е предназначено за инженерi на машинен обучение, разработчици на ИИ и ученi данни с междуен и напреднал ниво, които искат да научат как да използват QLoRA за ефективното микронастройване на големи модели за специфични задачи и персонализирани приложения.
До края на това обучение участниците ще могат да:
- Разберат теорията зад QLoRA и техниките за квантовация за големи модели на езика.
- Имплементират QLoRA в микронастройването на големи модели на езика за приложения, специфични за домейна.
- Оптимизират микронастройването на производителността на ограничени компютърни ресурси с квантовация.
- Разработват и оценяват микронастройвани модели в реални приложения ефективно.
Fine-Tuning с Reinforcement Learning от Човешка Обратна Връщаща Свързаност (RLHF)
14 часаТова обучение с инструктор, провеждано на живо в България (онлайн или на място), е предназначено за машинни учени инженери и изследователи на изкуствен интелект на напреднал нив, които искат да приложат RLHF за настройване на големи модели на изкуствен интелект за по-добър резултат, сигурност и съответствие.
До края на това обучение участниците ще могат да:
- Разбират теоретичните основи на RLHF и защо то е необходимо в съвременното развитие на изкуствен интелект.
- Реализират модели на награди на базата на човешка обратна връзка, за да насочат процесите на подкрепящо обучение.
- Настройват големи модели на естествен език с помощта на техники на RLHF, за да съобразят изходите с човешки предпочитания.
- Прилагат най-добрите практики за масштабиране на RLHF процеси за AI системи на производствен стандарт.
Оптимизиране на големи модели за ефективно финално настройване
21 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на напреднало ниво, които желаят да овладеят техники за оптимизиране на големи модели за рентабилна фина настройка в сценарии от реалния свят.
До края на това обучение участниците ще могат:
- Разберете предизвикателствата на фината настройка на големи модели.
- Прилагайте техники за разпределено обучение към големи модели.
- Използвайте квантуването и съкращаването на модела за ефективност.
- Оптимизирайте използването на хардуера за задачи за фина настройка.
- Внедрете ефективно фино настроени модели в производствени среди.
Prompt Engineering and Few-Shot Fine-Tuning
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на средно ниво, които желаят да се възползват от силата на бързото инженерство и краткото обучение, за да оптимизират работата на LLM за приложения в реалния свят.
До края на това обучение участниците ще могат:
- Разберете принципите на бързото инженерство и обучението с няколко изстрела.
- Проектирайте ефективни подкани за различни NLP задачи.
- Използвайте техники за няколко изстрела, за да адаптирате LLM с минимални данни.
- Оптимизирайте производителността на LLM за практически приложения.
Техники за ефективна параметризация на големи езикови модели (PEFT)
14 часаТози обучение с инструктор, провеждано живо (онлайн или на място) е предназначено за данни учени с среден ниво и инженери на изкуствен интелигент, които искат да оптимизират големи езикови модели по-ефективно и по-евтино, използвайки методи като LoRA, Adapter Tuning и Prefix Tuning.
До края на това обучение участниците ще бъдат в състояние да:
- Разбират теорията зад подходите за ефективна оптимизация на параметри.
- Имплементират LoRA, Adapter Tuning и Prefix Tuning използвайки Hugging Face PEFT.
- Сравняват производителността и компромисите в цена между методите PEFT и пълната оптимизация.
- Разпространяват и масовират оптимизирани LLMs с намалени изисквания за изчислителни мощности и памет.
Introduction to Transfer Learning
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти в областта на машинното обучение от начинаещи до средно ниво, които желаят да разберат и прилагат техники за трансфер на обучение, за да подобрят ефективността и производителността в AI проекти.
До края на това обучение участниците ще могат:
- Разберете основните концепции и предимствата на трансферното обучение.
- Разгледайте популярните предварително обучени модели и техните приложения.
- Извършете фина настройка на предварително обучени модели за персонализирани задачи.
- Приложете трансферно обучение за решаване на проблеми от реалния свят в НЛП и компютърното зрение.
Решаване на проблеми при настройка на модели
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на напреднало ниво, които желаят да усъвършенстват уменията си при диагностициране и решаване на предизвикателства за фина настройка на модели за машинно обучение.
До края на това обучение участниците ще могат:
- Диагностицирайте проблеми като прекомерно оборудване, недостатъчно оборудване и дисбаланс на данните.
- Прилагане на стратегии за подобряване на конвергенцията на модела.
- Оптимизирайте тръбопроводите за фина настройка за по-добра производителност.
- Отстраняване на грешки в процесите на обучение с помощта на практически инструменти и техники.