План на курса
Въведение в оптимизацията и разгръщането на модели
- Обзор на моделите на DeepSeek и предизвикателствата при разгръщането им
- Разбиране на ефективността на моделите: скорост срещу точност
- Ключови метрики за оценка на производителността на AI моделите
Оптимизиране на моделите на DeepSeek за производителност
- Техники за намаляване на латентността при извод
- Стратегии за квантуване и прореждане на модели
- Използване на оптимизирани библиотеки за моделите на DeepSeek
Прилагане на MLOps за моделите на DeepSeek
- Контрол на версиите и проследяване на моделите
- Автоматизиране на преобучаването и разгръщането на модели
- CI/CD конвейери за приложения за изкуствен интелект
Разгръщане на моделите на DeepSeek в облачни и локални среди
- Избор на подходящата инфраструктура за разгръщане
- Разгръщане с помощта на Docker и Kubernetes
- Управление на достъпа до API и аутентификация
Мащабиране и наблюдение на разгръщанията за AI
- Стратегии за балансировка на натоварването за AI услуги
- Наблюдение на отклонението на моделите и влошаването на производителността
- Прилагане на автоматично мащабиране за AI приложения
Осигуряване на сигурност и съответствие при разгръщания за AI
- Управление на поверителността на данните в AI работни потоци
- Съответствие с корпоративните регулации за изкуствен интелект
- Най-добри практики за сигурни разгръщания на AI
Бъдещи тенденции и стратегии за оптимизация на AI
- Напредъка в техниките за оптимизация на моделите за изкуствен интелект
- Нарастващи тенденции в MLOps и AI инфраструктурата
- Изграждане на пътна карта за разгръщане на AI
Обобщение и следващи стъпки
Изисквания
- Опит с разгръщането на модели за изкуствен интелект и облачни инфраструктури
- Овладяване на език за програмиране (например Python, Java, C++)
- Разбиране на MLOps и оптимизация на производителността на моделите
Целева аудитория
- AI инженери, които оптимизират и разгръщат модели на DeepSeek
- Учени по данни, работещи върху настройка на производителността на AI
- Специалисти по машинно обучение, управляващи облачни системи за изкуствен интелект
Отзиви от потребители (2)
МЛ екосистемата включва не само MLFlow, но и Optuna, Hyperopt, Docker и Docker-Compose.
Guillaume GAUTIER - OLEA MEDICAL
Курс - MLflow
Машинен превод
Ужасно ми хареса да участвам в обучението по Kubeflow, което се провежда на разстояние. Това обучение ми позволи да утвърдя знанията си за услугите AWS, K8s и всички инструменти DevOps около Kubeflow, които са необходимата база, за да се справя правилно с темата. Искам да благодаря на Малауски Марцин за неговото търпение и професионализъм при обучението и съветите му за най-добри практики. Малауски разглежда темата от различни ъгли, използвайки различни инструменти за развиване като Ansible, EKS kubectl, Terraform. Сега съм напълно убеден, че влизам в правилната област на приложение.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Курс - Kubeflow
Машинен превод