Свържете се с нас

План на курса

Основи на безопасното локално ИИ

  • Какво означава локалната и на-премна ИИ в регулирани среди
  • Облачно ИИ срещу вътрешен разпространение за чувствителни зареждане
  • Общи предприемерски сценарии за частни помагачи и поддръжка на работните протоци
  • Основните компоненти на архитектурата на безопасното локално ИИ

Ollama и основи на отворените модели

  • Как Ollama се вписва в локалния стек за развитие
  • Тръгване, изпълнение и управление на модели локално
  • Избиране на модели според размера, качеството, хардуера и лицензите
  • Мачиране на опциите за модели с практически бизнес задачи

Подготовка на на-премната среда

  • Подготовка на хост, работна станция и сървъри
  • Инсталиране и конфигуриране на Ollama за локално извод
  • Използване на контейнери и вътрешни инструменти за развитие
  • Проверка на достъпа към API и основна оперативна готовност

Ефективно работа с локални модели

  • Изпълнение на призови и формиране на изходите с системни инструкции
  • Повторно използване на шаблони за последователност в предприемерски задачи
  • Управление на версиите на модели и вътрешните артефакти
  • Основно оптимизиране на производителността за CPU и GPU разпространения

Изграждане на практични агентични работни протоци

  • Какво прави работния проток агентичен в контролирана среда
  • Прости патерни за планиране, използване на инструменти и цикли на отговор
  • Проектиране на фокусирани помагачи за вътрешни операции
  • Добавяне на човешка ревизия, логика при изпадане и обработка на грешки

Вътрешни работни протоци с изтегляне

  • Основи за изтегляно-усилиено генериране за достъп до вътрешните знания
  • Подготовка на документи за дробно раздробяване, индексиране и търсене
  • Свързване на локален векторен магазин с приложение базирано на Ollama
  • Подобряване на релевантността и качеството на отговорите с по-добри патерни за изтегляне

Практики за сигурност, управление и съответствие

  • Границите на обработването на данни и разглеждания относно поверителността
  • Контрол за достъп, логиране и поддръжка на аудита
  • Безопасност на призовите, контроли над изходите и ограничения
  • Точки за управление в регулирани разпространение и операции

Патерни за интеграция с предприятията

  • Излагане на локалните способности на ИИ чрез вътрешни API-то
  • Интегриране на помагачи с вътрешни приложения и услуги
  • Поддръжка на помагачите, батчовите и работните протоци за автоматизация
  • Държане на решенията в контролирани мрежни граници

Оценка на локалните решения за ИИ

  • Оценка на качеството, надеждността и последователността
  • Тестване според бизнес, политики и изисквания за безопасност
  • Сравняване на опциите за модели за специфични предприемерски задачи
  • Установяване на практичен цикъл за подобрявания за вътрешните тимове

Лаборатория за практическа имплементация

  • Изграждане на частен помагач с Ollama и отворен модел
  • Добавяне на изтегляне върху одобрени вътрешни документи
  • Въвеждане на прости агентични действия и контроли за безопасност
  • Ревизия на точки за разпространение, операции и управление

План за приемане и следващи стъпки

  • Ревизия на ключовите решения по проектиране и разпространение
  • Идентифициране на общи ловушки в регулирани проекти за ИИ
  • Планиране на пилотни сценарии и съгласуване с ангажираните страни
  • Дефиниране на роудмап за приемане на безопасната локална ИИ

Изисквания

  • Основно разбиране на концепции от ИИ и софтуерно развитие
  • Осъзнаване с командните инструменти, контейни или локални среди за развитие
  • Основен опит от скриптове или програмиране

Публика

  • Програмисти и технически тимове, които изграждат частни решения ИИ на вътрешна инфраструктура
  • Специалисти по сигурност, съответствие и платформи, които подкрепят ИИ в регулирани среди
  • Технически лидери в финанси, здравеопазване, правителството и обороната, оценяващи приемането на ИИ на прем
 21 Часове

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории