План на курса

Введение в извода с Docker

  • Разбиране на работните зареди за AI извод
  • Предимствата на контейниран извод
  • Сценарии и ограничения за разгъване

Създаване на контейнери за AI извод

  • Избиране на базови образи и фреймворки
  • Пакетиране на предварително обучени модели
  • Структуриране на кода за извод за изпълнение в контейнер

Осигуряване на контейнирани AI услуги

  • Минимизиране на уязвимостите на контейнерите
  • Управление на тайни и чувствителни файлове
  • Безопасни стратегии за мрежова връзка и експозиция на API

Техники за переносимо разгъване

  • Оптимиране на образите за переносимост
  • Гарантиране на предсказуеми среди за изпълнение
  • Управление на зависимости в различни платформи

Локално разгъване и тестирание

  • Разгъване на услуги локално с Docker
  • Отстраняване на грешки в контейнерите за извод
  • Тестирание на производителността и надеждността

Разгъване на сървъри и облачни VM

  • Приспособяване на контейнерите за отдалечени среди
  • Настройка на сигурен достъп до сървъри
  • Разгъване на API за извод в облак VMs

Използване на Docker Compose за многоуслужни AI системи

  • Оркестриране на извод с подкрепящи компоненти
  • Управление на променливи и конфигурации за средата
  • Масштабиране на микроуслугите с Compose

Мониторинг и поддръжка на услуги за AI извод

  • Подходи към логване и наблюдаемост
  • Разпознаване на събивания в пайплайните за извод
  • Обновяване и версиониране на модели в продакшън

Резюме и следващи стъпки

Изисквания

  • Разбиране на основни концепции в машинното обучение
  • Опит с Python или разработка за бекенд
  • Познаване на основни концепции в контейнерите

Целева аудитория

  • Разработчици
  • Инженери за бекенд
  • Екипи, разгъващи AI услуги
 14 часа

Брой участници


Цена за участник

Отзиви от потребители (5)

Предстоящи Курсове

Свързани Kатегории