Свържете се с нас
 Продължителност 21 часa

Съдържание и теми, включени в курса

Основи на хибридното внедряване на AI

  • Разбиране на хибридни, облачни и периферни модели на внедряване
  • Характеристики на AI натоварванията и ограничения на инфраструктурата
  • Избор на правилната топология за внедряване

Контейнеризиране на AI натоварвания с Docker

  • Изграждане на GPU и CPU контейнери за инференция
  • Управление на сигурни изображения и регистри
  • Внедряване на възпроизводими среди за AI

Внедряване на AI услуги в облачни среди

  • Изпълнение на инференция в AWS, Azure и GCP чрез Docker
  • Осигуряване на облачни изчислителни ресурси за обслужване на модели
  • Защита на облачно базирани AI крайни точки

Техники за периферно и локално внедряване

  • Изпълнение на AI върху IoT устройства, шлюзове и микросървъри
  • Леки среди за изпълнение за периферни среди
  • Управление на прекъсваща се свързаност и локално съхранение

Хибридна мрежова свързаност и сигурна комуникация

  • Сигурно тунелиране между периферията и облака
  • Сертификати, тайни и достъп, базиран на токени
  • Настройка на производителността за инференция с ниска латентност

Оркестриране на разпределени AI внедрявания

  • Използване на K3s, K8s или лека оркестрация за хибридни конфигурации
  • Откриване на услуги и планиране на натоварвания
  • Автоматизиране на стратегии за разпространение в множество локации

Мониторинг и наблюдаемост в различни среди

  • Проследяване на производителността на инференцията в различни локации
  • Централизирано регистриране на събития за хибридни AI системи
  • Откриване на повреди и автоматизирано възстановяване

Мащабиране и оптимизиране на хибридни AI системи

  • Мащабиране на периферни клъстери и облачни възли
  • Оптимизиране на използването на честотната лента и кеширането
  • Балансиране на изчислителните натоварвания между облака и периферията

Обобщение и следващи стъпки

Изисквания

  • Разбиране на концепциите за контейнеризация
  • Опит с операции от командния ред на Linux
  • Запознатост с работните процеси за внедряване на AI модели

Аудитория

  • Архитекти на инфраструктура
  • Инженери по надеждност на сайтове (SRE)
  • Разработчици на периферни и IoT решения

Брой участници


Цена за участник

Отзиви от участници (2)

Предстоящи Курсове

Свързани Kатегории