Свържете се с нас

Съдържание и теми, включени в курса

Въведение в AI изводението с Docker

  • Разбиране на натоварванията при AI изводене
  • Предимства на контейнеризираното изводене
  • Сценарии и ограничения при разполагане

Изграждане на контейнери за AI изводене

  • Избор на базови образи и рамки
  • Пакетиране на предварително обучени модели
  • Структуриране на кода за изводене за изпълнение в контейнер

Засигуряване на контейнеризираните AI услуги

  • Минимизиране на атакующата повърхност на контейнера
  • Управление на секрети и чувствителни файлове
  • Стратегии за сигурна мрежа и експониране на API

Техники за преносимо разполагане

  • Оптимизиране на образите за преносимост
  • Гарантиране на предвидими среди за изпълнение
  • Управление на зависимостите между платформи

Локално разполагане и тестване

  • Изпълнение на услуги локално с Docker
  • Отстраняване на неизправности в контейнерите за изводене
  • Тестване на производителност и надеждност

Разполагане на сървъри и облачни VM-и

  • Адаптиране на контейнерите за дистанирани среди
  • Конфигуриране на сигурен достъп до сървърите
  • Разполагане на API-тата за изводене в облачни VM-и

Използване на Docker Compose за многокомпонентни AI системи

  • Оркестриране на изводението с подпомагани компоненти
  • Управление на променливите на средата и конфигурациите
  • Мащабиране на микросервисите с Compose

Мониторинг и поддръжка на услуги за AI изводене

  • Подходи за дневник и наблюдаемост (observability)
  • Обнаружаване на неизправности в каналите за изводене
  • Актуализиране и версиониране на моделите в продуктивна среда

Обобщение и следващи стъпки

Изисквания

  • Разбиране на основните концепции в машинното обучение
  • Опит с Python или разработка на бекенд
  • Запознаване с основните концепции за контейнери

Аудитория

  • Разработчици
  • Бекенд инженери
  • Екипи, разполагащи AI услуги
 14 Часа

Брой участници


Цена за участник

Отзиви от участници (3)

Предстоящи Курсове

Свързани Kатегории