Курс за обучение по Ollama Scaling & Infrastructure Optimization
Ollama е платформа за изпълнение на големи езикови и мултимодални модели локално и на масовата.
Това ръководено от инструктор живо обучение (онлайн или на място) е предназначено за инженери на среден до напреднал ниво, които искат да масштабират развертванията на Ollama в много потребителски, високоскоростни и ефективни по цена среди.
След края на това обучение участниците ще могат да:
- Конфигурират Ollama за многопотребителски и разпределени работни натоварвания.
- Оптимизират разпределението на ресурсите на GPU и CPU.
- Имплементират стратегии за автоматическо масшталиране, батчеване и намаляване на закъснение.
- Мониторират и оптимизират инфраструктурата за производителност и ефективност по цена.
Формат на курса
- Интерактивни лекции и дискусии.
- Практическа работа с развертване и масшталиране в лаборатории.
- Практическо оптимизиране в живи среди.
Опции за персонализация на курса
- За да поставите заявка за персонализирано обучение за този курс, свържете се с нас за уреждане.
План на курса
Въведение в масштабирането на Ollama
- Архитектура на Ollama и фактори за масштабиране
- Общи флашъчни точки в развертането за множество потребители
- Наи-добри практики за готовност на инфраструктурата
Разпределяне на ресурси и оптимизация на GPU
- Ефективни стратегии за използване на CPU/GPU
- Разглеждане на памет и лентовия проток
- Ограничения на ресурсите на ниво контейнери
Развертане с контейнери и Kubernetes
- Контейнериране на Ollama с Docker
- Запуск на Ollama в кластери на Kubernetes
- Балансиране на натоварването и откриване на услуги
Автоматично масштабиране и пакетиране
- Проектиране на политики за автоматично масштабиране на Ollama
- Техники за пакетно извеждане на изводи за оптимизация на пропускателната способност
- Забавеност срещу пропускателна способност
Оптимизация на забавеността
- Профилиране на извеждането на изводи
- Стратегии за кеширане и загряване на модели
- Съкращаване на натоварването при I/O и комуникационните разходи
Мониторинг и наблюдаемост
- Интегриране на Prometheus за метрики
- Създаване на дашбордове с Grafana
- Сигнализиране и реагиране на инциденти за инфраструктурата на Ollama
Управление на разходите и стратегии за масштабиране
- Разпределяне на GPU с отчет за разходите
- Разглеждане на облачни срещу онпрем развертане
- Стратегии за устойчиво масштабиране
Резюме и следващи стъпки
Изисквания
- Опит в управление на системи Linux
- Разбиране в контейнеризация и оркестрация
- Знакомство с развертането на модели за машинно обучение
Целева аудитория
- Инженери по DevOps
- Екипи за инфраструктура на ML
- Инженери за надеждност на сайта
Отворените курсове за обучение изискват 5+ участника.
Курс за обучение по Ollama Scaling & Infrastructure Optimization - Резервация
Курс за обучение по Ollama Scaling & Infrastructure Optimization - Запитване
Ollama Scaling & Infrastructure Optimization - Консултантско запитване
Консултантско запитване
Предстоящи Курсове
Свързани Kурсове
Авансено отстраняване на грешки и оценка на модели Ollama
35 часаAdvanced Ollama Model Debugging & Evaluation е един дълбок курс, фокусиран върху диагностика, тестиране и измерване на поведението на модели при изпълнение на локални или частни развертвания на Ollama.
Това обучение, ръководено от инструктор (онлайн или на място), е предназначено за специалисти с напреднали знания в областта на изкуствен интелигент и AI, специалисти по ML Ops и специалисти по контрол на качеството, които искат да гарантират надежност, точност и операционална готовност на моделите, базирани на Ollama, в производството.
До края на обучението участниците ще могат да:
- Извършват систематично отстраняване на грешки на моделите, хостнати от Ollama, и да възпроизвеждат навярно режимите на срив.
- Проектират и изпълняват робустни евалуационни пиплайни с количествени и качествени метрики.
- Имплементират наблюдаемост (логове, траси, метрики) за мониторинг на здравето и отдалечаването на моделите.
- Автоматизират тестване, валидация и проверки за регресия, интегрирани в CI/CD пиплайните.
Формат на курса
- Интерактивни лекции и дискусии.
- Практически лабораторни упражнения и отстраняване на грешки с използването на развертвания на Ollama.
- Кейс студи, групови сесии за отстраняване на грешки и семинари по автоматизация.
Опции за персонализиране на курса
- За да поискате персонализирано обучение за този курс, моля свържете се с нас, за да уредим това.
Изграждане на частни AI работни процеси с Ollama
14 часаТози обучение с инструктор, провеждано на живо (онлайн или на място), е предназначено за професионалисти на напреднал ниво, които искат да реализират сигурни и ефективни AI-ориентирани работни процеси с използване на Ollama.
До края на това обучение участниците ще могат да:
- Развернете и конфигурирайте Ollama за частно обработване на AI.
- Интегрирайте AI модели в сигурни корпоративни работни процеси.
- Оптимизирайте производителността на AI, като същевременно запазите приватността на данните.
- Автоматизирайте бизнес процеси с на-место AI възможности.
- Обеспечете съответствие с корпоративните политики за сигурност и управление.
Развертане и оптимизиране на голямо езикови модели с Ollama
14 часаТова водено от инструктор обучение на живо в България (онлайн или на място) е насочено към професионалисти на средно ниво, които желаят да разположат, оптимизират и интегрират LLMs с помощта на Ollama.
До края на това обучение участниците ще могат:
- Настройте и внедрите LLM с помощта на Ollama.
- Оптимизирайте AI моделите за производителност и ефективност.
- Използвайте GPU ускорението за подобрени скорости на извод.
- Интегрирайте Ollama в работни процеси и приложения.
- Наблюдавайте и поддържайте производителността на AI модела във времето.
Fine-Tuning и персонализиране на AI модели на Ollama
14 часаТози курс с инструктор, провеждан онлайн или на място, е предназначен за професионалисти на напреднал нива, които искат да подправят и персонализират модели на изкуствен интелект на Ollama за подобрена производителност и приложения, специфични за определена област.
До края на този курс участниците ще бъдат в състояние да:
- Настроят ефективна среда за подправка на модели на изкуствен интелект на Ollama.
- Подготовят набори данни за супервизирана подправка и подсилвано обучение.
- Оптимизират модели на изкуствен интелект за производителност, точност и ефективност.
- Разплават персонализирани модели в производствени среди.
- Оценят подобренията на модела и осигуряват робустност.
Приложения с множествени модули с Ollama
21 часаOllama е платформа, която позволява да се изпълняват и настройват големи езикови и мултимодални модели локално.
Това инструкторско, живо обучение (онлайн или на място) е предназначено за ML инженери на напреднал ниво, изследователи в областта на изкуствения интелигент и разработчици на продукти, които искат да създават и разпространяват мултимодални приложения с Ollama.
До края на това обучение участниците ще могат да:
- Настройват и изпълняват мултимодални модели с Ollama.
- Интегрират текст, изображения и аудио входове за практическо приложение.
- Създават системи за разбиране на документи и визуално QA.
- Разработват мултимодални агенти, способни на разсъждение в различните модалности.
Формат на курса
- Интерактивна лекция и дискусия.
- Практикуване с ръка с реални мултимодални набори данни.
- Жива лабораторна реализация на мултимодални пътища, използвайки Ollama.
Опции за настройка на курса
- За да поискате персонализирано обучение за този курс, моля свържете се с нас за уреждане.
Първи стъпки с Ollama: Изпълнение на локални AI модели
7 часаТози курс с инструктор, проведен на живо (онлайн или на място), е предназначен за професионалисти на начално ниво, които искат да инсталират, конфигурират и използват Ollama за изпълнение на модели на изкуствен интелигент на локалните си машини.
По време на този курс участващите ще бъдат в състояние да:
- Разберат основните принципи на Ollama и възможностите му.
- Настроят Ollama за изпълнение на локални модели на изкуствен интелигент.
- Разгърнат и взаимодействат с големи модели на език (LLMs) чрез Ollama.
- Оптимизират производителността и използването на ресурси за натоварване с изкуствен интелигент.
- Разгледат случаи за използване на локално разгръщане на изкуствен интелигент в различни отрасли.
Ollama & Data Privacy: Patterns for Secure Deployment
14 часаOllama е платформа, която позволява изпълнение на големи езикови и мултимодални модели локално, докато поддържа стратегии за сигурно развъртане.
Това обучение с инструктор (онлайн или на място) е предназначено за професионалисти с среден ниво, които искат да развъртат Ollama с силни меры за защита на данните и съответствие на регламенти.
До края на това обучение участниците ще могат да:
- Развъртат Ollama сигурно в контейнеризирани и локални среди.
- Прилагат техники за диференциална приватност, за да защитят чувствителни данни.
- Имплементират сигурни практики за регистриране, мониторинг и аудит.
- Налагат контрол на достъп до данни в съответствие с изискванията за съответствие.
Формат на курса
- Интерактивни лекции и дискусии.
- Ръководствени лаборатории с сигурни модели за развъртане.
- Студии на случаи и практични упражнения, фокусирани върху съответствие.
Опции за персонализиране на курса
- За запълване на заявка за персонализирано обучение за този курс, моля свържете се с нас, за да уредите.
Применения на Ollama в финансовия сектор
14 часаOllama е лек платформа за изпълнение на големи езикови модели локално.
Това обучение, водено от инструктор (онлайн или на място), е насочено към средноуровневите финансови практици и IT персонал, които желаят да имплементират, приспособяват и операционизират решения за изкуствен интелект базирани на Ollama в финансовата среда.
Изпълнявайки това обучение, участниците ще придобият уменията необходими да:
- Разграждат и конфигурират Ollama за сигурно използване в финансовите операции.
- Интегрират локалните ЛЕМ (large language models) в аналитични и репортажни проучвания.
- Приспособяват моделите към финансовата терминология и задачи.
- Прилагат най-добрите практики за сигурност, поверителност и съответствие на законите.
Формат на курса
- Интерактивен лекции и дискусии.
- Практически упражнения с финансови данни.
- Живо прилагане на финансови сценарии.
Опции за персонализация на курса
- За да заявите персонализирано обучение за този курс, моля, свържете се с нас.
Применения на Ollama в здравеопазването
14 часаOllama е лесна за използване платформа за локално изпълнение на големи модели на естествен език.
Това обучение под ръководството на инструктор (онлайн или на място) е насочено към медитерни работници и IT екипи с интермедиатен ниво, които желаят да разгърнат, персонализират и операционализират решения за изкуствен интелект базирани на Ollama в клинични и административни среди.
След завършване на обучението, участниците ще могат да:
- Инсталират и конфигурират Ollama за сигурно използване в медицински среди.
- Интегрират локални модели на естествен език (LLM) в клинични работни процеси и административни процедури.
- Персонализират моделите за специфична терминология и задачи в здравеопазването.
- Прилагат най-добри практики за поверителност, сигурност и съблюдаване на регулации.
Формат на курса
- Интерактивно предаване и дискусия.
- Практични демонстрации и ръководени упражнения.
- Практическа имплементация в симулационна среда за здравеопазване.
Опции за персонализиране на курса
- За да поискате персонализирано обучение за този курс, моля свържете се с нас.
Ollama за Отговорно Искусствено Интелигентно и Управление
14 часаOllama е платформа за изпълнение на големи езикови и мултимодални модели локално, която поддържа управлението и отговорните практики на изкуствен интелигент.
Това обучение с инструктор (онлайн или на място) е предназначено за професионалисти с интермедиен до напреднал ниво, които искат да внедрят справедливост, прозрачност и отговорност в приложенията, работящи с Ollama.
До края на това обучение участниците ще могат да:
- Прилагат принципи на отговорен изкуствен интелигент в развертането на Ollama.
- Внедряват стратегии за филтриране на съдържанието и намаляване на предразсъдъците.
- Дизайнират работни процеси за управление за съответствие на изкуствения интелигент и аудиторност.
- Създават рамки за мониторинг и докладване за съответствие с изискванията.
Формат на курса
- Интерактивни лекции и дискусии.
- Лаборатории за дизайн на работни процеси за управление с ръчно управление.
- Случаи за изучаване и упражнения, фокусирани върху съответствие с изискванията.
Опции за персонализиране на курса
- За да попитате персонализирано обучение за този курс, моля свържете се с нас, за да уредите.
Промотно Инженерство със Знание с Ollama
14 часаOllama е платформа, която позволява изпълнение на големи езикови и многомоделни модели локално.
Този курс с инструктор, воден в режима на живо (онлайн или на място), е предназначен за практикуващи на средно ниво, които искат да овладят техники за проектиране на промпти, за да оптимизират изходовете на Ollama.
До края на този курс участниците ще бъдат способни да:
- Проектират ефективни промпти за различни случаи на употреба.
- Прилагат техники като подготовка и структуриране на веригата от мисли.
- Въвеждат шаблони за промпти и стратегии за управление на контекста.
- Създават многоетапни поредици от промпти за сложни работни процеси.
Формат на курса
- Интерактивни лекции и дискусии.
- Практическа работа с проектиране на промпти.
- Практическо приложение в среда на живо лабораторно обучение.
Опции за персонализиране на курса
- За настройка на персонализиран тренинг за този курс, моля свържете се с нас, за да уредите.