Свържете се с нас

Съдържание и теми, включени в курса

Основи на сигурния локален ИИ

  • Какво означават локален и локален на място ИИ в регулирани среди
  • Сравнение между облачен ИИ и вътрешно внедряване за чувствителни задачи
  • Често срещани корпоративни сценарии за частни асистенти и поддръжка на работни потоци
  • Основни компоненти на сигурна локална ИИ архитектура

Основи на Ollama и отворените модели

  • Как Ollama се вписва в локален стек за разработка
  • Изтегляне, стартиране и управление на модели локално
  • Избор на модели според размер, качество, хардуер и лиценз
  • Съпоставяне на опциите на моделите с практически бизнес задачи

Подготовка на средата на място

  • Подготовка на хост, работна станция и сървър
  • Инсталиране и конфигуриране на Ollama за локално изпълнение
  • Използване на контейнери и инструменти за вътрешна разработка
  • Проверка на API достъпа и основната оперативна готовност

Ефективна работа с локални модели

  • Изпълнение на промптове и оформяне на изходни данни със системни инструкции
  • Повторно използване на шаблони за последователни корпоративни задачи
  • Управление на версиите на моделите и вътрешните артефакти
  • Основна настройка на производителността за CPU и GPU внедряване

Изграждане на практически агентни работни потоци

  • Какво прави един работен поток агентен в контролирана среда
  • Прости модели за планиране, използване на инструменти и цикли на отговор
  • Проектиране на ориентирани към задачи асистенти за вътрешни операции
  • Добавяне на човешки преглед, резервна логика и обработка на грешки

Частни работни потоци за извличане на информация

  • Основи на генерирането, подпомогнато от извличане, за достъп до вътрешни знания
  • Подготовка на документи за раздробяване, индексиране и търсене
  • Свързване на локално векторно хранилище с приложение, базирано на Ollama
  • Подобряване на релевантността и качеството на отговорите чрез по-добри модели на извличане

Практики за сигурност, управление и съответствие

  • Граници на обработка на данни и съображения за поверителност
  • Контрол на достъпа, логване и поддръжка на одит
  • Безопасност на промптовете, контрол на изходните данни и предпазни механизми
  • Контролни точки за управление при регулирано внедряване и експлоатация

Модели за корпоративна интеграция

  • Предоставяне на локални ИИ възможности чрез вътрешни API
  • Интегриране на асистенти с вътрешни приложения и услуги
  • Поддръжка на сценарии за асистент, пакетна обработка и автоматизация на работни потоци
  • Запазване на решенията в рамките на контролирани мрежови граници

Оценяване на локални ИИ решения

  • Оценка на качество, надеждност и последователност
  • Тестване спрямо бизнес изисквания, политики и изисквания за безопасност
  • Сравняване на опциите на модели за специфични корпоративни задачи
  • Създаване на практически цикъл за подобрение за вътрешни екипи

Лаборатория за практическо внедряване

  • Изграждане на частен асистент с Ollama и отворен модел
  • Добавяне на извличане на информация от одобрени вътрешни документи
  • Въвеждане на прости агентни действия и контроли за безопасност
  • Преглед на контролни точки за внедряване, експлоатация и управление

Планиране на внедряване и следващи стъпки

  • Преглед на ключови решения за проектиране и внедряване
  • Идентифициране на често срещани капани в регулирани ИИ проекти
  • Планиране на пилотни сценарии и съгласуване със заинтересованите страни
  • Определяне на пътна карта за сигурно внедряване на локален ИИ

Изисквания

  • Основно разбиране на концепциите за ИИ и разработка на софтуер
  • Запознаване с инструменти за команден ред, контейнери или среди за локална разработка
  • Основен опит със скриптове или програмиране

Публика

  • Разработчици и технически екипи, изграждащи частни ИИ решения на вътрешна инфраструктура
  • Специалисти по сигурност, съответствие и платформи, поддържащи ИИ в регулирани среди
  • Технически ръководители във финансите, здравеопазването, правителствения и отбранителния сектор, оценяващи въвеждането на локален ИИ на място
 21 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории