Съдържание и теми, включени в курса
Основи на хибридното внедряване на AI
- Разбиране на хибридни, облачни и крайни модели за внедряване
- Характеристики на работните натоварвания за AI и ограничения на инфраструктурата
- Избор на правилната топология за внедряване
Контейнеризиране на работни натоварвания за AI с Docker
- Изграждане на контейнери за изводи с GPU и CPU
- Управление на сигурни образи и регистри
- Внедряване на възпроизводими среди за AI
Внедряване на AI услуги в облачни среди
- Изпълнение на изводи в AWS, Azure и GCP чрез Docker
- Осигуряване на облачни изчислителни ресурси за обслужване на модели
- Осигуряване на сигурност на облачно базираните AI крайни точки
Техники за внедряване на крайни устройства и локално
- Изпълнение на AI върху IoT устройства, шлюзове и микросървъри
- Леки среди за изпълнение за крайни среди
- Управление на непостоянна свързаност и локално съхранение на данни
Хибридна мрежова свързаност и сигурна комуникация
- Сигурно тунелиране между крайни устройства и облак
- Сертификати, тайни и достъп, базиран на токени
- Настройка на производителността за изводи с ниска латентност
Оркестриране на разпределени AI внедрявания
- Използване на K3s, K8s или лека оркестрация за хибридни конфигурации
- Откриване на услуги и планиране на работни натоварвания
- Автоматизиране на стратегии за разпространение в множество локации
Мониторинг и наблюдаемост в различни среди
- Проследяване на производителността на изводите в различни локации
- Централизирано логване за хибридни AI системи
- Откриване на откази и автоматизирано възстановяване
Мащабиране и оптимизиране на хибридни AI системи
- Мащабиране на клъстери от крайни устройства и облачни възли
- Оптимизиране на използването на честотна лента и кеширане
- Балансиране на изчислителните натоварвания между облак и крайни устройства
Обобщение и следващи стъпки
Изисквания
- Разбиране на концепциите за контейнеризация
- Опит с операции в команден ред на Linux
- Запознатост с работни процеси за внедряване на AI модели
Аудитория
- Архитекти на инфраструктура
- Инженери по надеждност на сайта (SRE)
- Разработчици на крайни устройства и IoT
Отзиви от участници (3)
Как тренинзите предават знания толкова ефективно
Vu Thoai Le - Reply Polska sp. z o. o.
Курс - Certified Kubernetes Administrator (CKA) - exam preparation
Машинен превод
тренерът имаше много знания и търпение, които сподели с нас
Bogdan Olaru
Курс - Introduction to Docker
Машинен превод
Знанието и обмените с Августин
Laurent - L'Office national des vacances annuelles (ONVA)
Курс - Docker and Kubernetes
Машинен превод