Свържете се с нас

Съдържание и теми, включени в курса

Въведение в Ollama за разполагане на LLM

  • Преглед на възможностите на Ollama
  • Предимства на локалното разполагане на AI модели
  • Сравнение с облачни решения за хостинг на AI

Настройка на средата за разполагане

  • Инсталиране на Ollama и необходимите зависимости
  • Конфигуриране на хардуера и ускорението чрез GPU
  • Контейнеризиране на Ollama за мащабируеми разполагания

Разполагане на LLM с Ollama

  • Зареждане и управление на AI модели
  • Разполагане на модели като Llama 3, DeepSeek, Mistral и други
  • Създаване на API и крайни точки за достъп до AI модели

Оптимизиране на производителността на LLM

  • Финетинг на модели за ефективност
  • Намаляване на латентността и подобряване на времето за отговор
  • Управление на паметта и разпределение на ресурсите

Интегриране на Ollama в AI работни процеси

  • Свързване на Ollama с приложения и услуги
  • Автоматизиране на AI-обезпечени процеси
  • Използване на Ollama в среди на пресмятане на ръба (edge computing)

Мониториране и поддръжка

  • Следене на производителността и дебъгване на проблеми
  • Актуализиране и управление на AI модели
  • Осигуряване на сигурност и съответствие в AI разполаганията

Мащабиране на разполаганията на AI модели

  • Най-добри практики за справяне с високи натоварвания
  • Мащабиране на Ollama за корпоративни случай на употреба
  • Бъдещи напредъци в локалното разполагане на AI модели

Обобщение и следващи стъпки

Изисквания

  • Базов опит с машинно обучение и AI модели
  • Знаене на командния ред и скриптовото програмиране
  • Разбиране на средите за разполагане (локални, ръбени, облачни)

За кого е предназначен курсът

  • Инженери по AI, които оптимизират локални и облачни AI разполагания
  • Практикуващи машинно обучение, които разполагат и финетингват LLM
  • Специалисти по DevOps, управляващи интеграцията на AI модели
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории