Свържете се с нас

Съдържание и теми, включени в курса

Основи на хибридното внедряване на ИИ

  • Разбиране на моделите за хибридно, облачно и edge внедряване
  • Характеристики на ИИ товарове и инфраструктурни ограничения
  • Избор на подходящия топологичен модел за внедряване

Контейнеризиране на ИИ товари с Docker

  • Създаване на inference контейнери за GPU и CPU
  • Управление на сигурни образи и регистри
  • Прилагане на възпроизводими среди за ИИ

Внедряване на ИИ услуги в облачни среди

  • Изпълнение на inference върху AWS, Azure и GCP чрез Docker
  • Разпределяне на облачни изчислителни ресурси за обслужване на модели
  • Сигурност на облачните ИИ endpoint-и

Техники за edge и локално внедряване

  • Изпълнение на ИИ върху IoT устройства, гейтуеи и микро-сървъри
  • Леки рантайми за edge среди
  • Управление на прекъсната връзка и локално съхранение

Хибридна мрежова архитектура и сигурна свързаност

  • Сигурни тунели между edge и облака
  • Сертификати, секрети и достъп на базата на токени
  • Настройка на производителността за ниска латентност при inference

Оркестриране на разпределени ИИ внедрявания

  • Използване на K3s, K8s или леки инструменти за оркестрация в хибридни среди
  • Откриване на услуги и планиране на товари
  • Автоматизиране на стратегии за внедряване в много локации

Мониторинг и наблюдаемост през средите

  • Следене на ИИ производителността през локациите
  • Централизирано лого-ване за хибридни ИИ системи
  • Откриване на неуспехи и автоматично възстановяване

Мащабиране и оптимизация на хибридни ИИ системи

  • Мащабиране на edge кластери и облачни нодове
  • Оптимизиране на използването на bandwidth и кеш паметта
  • Балансиране на изчислителните натоварвания между облака и edge

Обобщение и следващи стъпки

Изисквания

  • Разбиране на концепциите за контейнеризация
  • Опит с линукс команден ред
  • Запознаване с работните потоци за внедряване на ИИ модели

Целева аудитория

  • Архитекти на инфраструктура
  • Инженери за сигурност и разположение (SRE)
  • Разработчици на edge и IoT
 21 Часа

Брой участници


Цена за участник

Отзиви от участници (3)

Предстоящи Курсове

Свързани Kатегории