Свържете се с нас

Съдържание и теми, включени в курса

Основни принципи на агентните системи в производство

  • Агентни архитектури: петли, инструменти, памет и слоеве за оркестрация
  • Животен цикъл на агентите: разработка, разгръщане и непрекъсната експлоатация
  • Предизвикателства при управлението на агенти в производствен мащаб

Инфраструктура и модели за разгръщане

  • Разгръщане на агенти в контейнеризирани и облачни среди
  • Модели за мащабиране: хоризонтално срещу вертикално мащабиране, конкурентност и ограничаване на честотата
  • Оркестрация на множествени агенти и балансиране на натоварванията

Мониторинг и възможност за наблюдение

  • Ключови метрики: закъснение, процент на успех, използване на памет и дълбочина на агентните повиквания
  • Следене на активността на агентите и графи на повикванията
  • Инструментиране на възможността за наблюдение с Prometheus, OpenTelemetry и Grafana

Журналиране, одитиране и съответствие

  • Централизирано журналиране и структурирано събиране на събития
  • Съответствие и възможност за одитиране в агентните работни потоци
  • Проектиране на следи за одит и механизми за повтаряне за отстраняване на грешки

Оптимизация на производителността и ресурсите

  • Намаляване на натоварването при инференс и оптимизация на циклите на оркестрация на агентите
  • Кеширане на модели и леки вграждания за по-бързо извличане
  • Тестове на натоварване и стрес сценарии за ИИ пайплайни

Контрол на разходите и управление

  • Разбиране на факторите, влияещи върху разходите за агентите: API повиквания, памет, изчислителна мощ и външни интеграции
  • Следене на разходите на ниво агент и внедряване на модели за възстановяване на разходите
  • Политики за автоматизация, за да се предотврати „агентното раздуване“ и консумацията на ресурси в неактивно състояние

Стратегии за CI/CD и разгръщане на агенти

  • Интегриране на агентните пайплайни в CI/CD системи
  • Тестване, версияране и стратегии за откат при итеративни актуализации на агентите
  • Прогресивни разгръщания и механизми за безопасно разгръщане

Възстановяване при сбиване и инженерство на надеждността

  • Проектиране за толерантност към грешки и плавно затлъстяване
  • Шаблони за повторни опити, изтичане на времето и прекъсване на веригата за надеждност на агентите
  • Рама за реакция на инциденти и последващ анализ за ИИ операциите

Финален проект

  • Изграждане и разгръщане на агентна ИИ система с пълно наблюдение и проследяване на разходите
  • Симулация на натоварване, измерване на производителността и оптимизация на използването на ресурсите
  • Представяне на крайната архитектура и дашборда за наблюдение пред колеги

Резюме и следващи стъпки

Изисквания

  • Твърдо разбиране на MLOps и системите за машинно обучение в производство
  • Опит с контейнеризирани разгръщания (Docker/Kubernetes)
  • Ознакомление с инструментите за оптимизация на облачните разходи и наблюдение

Аудитория

  • Инженери по MLOps
  • Инженери за сигурност и надеждност (SREs)
  • Управители на инженерия, отговарящи за ИИ инфраструктурата
 21 Часа

Брой участници


Цена за участник

Отзиви от участници (3)

Предстоящи Курсове

Свързани Kатегории