Свържете се с нас

Съдържание и теми, включени в курса

Основи на безопасния локален ИИ

  • Какво означава локален и ИИ на място в регулirани среди
  • Облачен ИИ срещу вътрешно разгръщане за чувствителни натоварвания
  • Чести корпоративни случаи на употреба за частни асистенти и поддръжка на работни процеси
  • Основни компоненти на безопасна архитектура за локален ИИ

Ollama и основи на отворените модели

  • Как Ollama се вписва във стек за локална разработка
  • Изтегляне, изпълнение и управление на модели локално
  • Избор на модели въз основа на размер, качество, хардуер и лиценз
  • Съпоставяне на моделни опции към практически бизнес задачи

Подготовка на средата на място

  • Подготовка на хост, работна станция и сървър
  • Инсталиране и конфигуриране на Ollama за локално извличане
  • Използване на контейнери и вътрешни инструменти за разработка
  • Проверка на достъпа до API и базова оперативна готовност

Ефективна работа с локални модели

  • Изпълнение на промптове и оформяне на отговори със системни инструкции
  • Повторно използване на шаблони за последователни корпоративни задачи
  • Управление на версиите на моделите и вътрешните артефакти
  • Основна оптимизация на производителността за внедрявания с CPU и GPU

Изграждане на практически агентни работни процеси

  • Какво прави един работен процес агентен в контролирана среда
  • Прости модели за планиране, използване на инструменти и цикли на отговор
  • Проектиране на асистенти, фокусирани върху задачи, за вътрешни операции
  • Добавяне на човешки контрол, логика за резервни варианти и обработка на грешки

Частни работни процеси за търсене

  • Основи на генерирането с разширено търсене за вътрешен достъп до знания
  • Подготовка на документи за парчене, индексиране и търсене
  • Свързване на локален векторен магазин към приложение, базирано на Ollama
  • Подобряване на релевантността и качеството на отговорите с по-добри модели за търсене

Практики за сигурност, управление и съответствие

  • Граници за обработка на данни и разглеждания на поверителността
  • Контрол на достъпа, регистриране и поддръжка на одита
  • Сигурност на промптовете, контроли на отговорите и предпазни мрежи
  • Контролни точки за управление за регулирано разгръщане и работа

Модели за корпоративна интеграция

  • Предоставяне на локалните способности на ИИ чрез вътрешни API
  • Интегриране на асистенти с вътрешни приложения и услуги
  • Подкрепа за случаи на употреба на асистенти, пакетна обработка и автоматизация на работни процеси
  • Поддържане на решенията вътре в контролирани мрежови граници

Оценяване на локалните решения за ИИ

  • Оценка на качеството, надеждността и последователността
  • Тестиране спрямо бизнес, политически и безопасностни изисквания
  • Сравняване на моделните опции за конкретни корпоративни задачи
  • Установяване на практичен цикъл за подобрение за вътрешни екипи

Лаборатория за практически внедряване

  • Изграждане на частен асистент с Ollama и отворен модел
  • Добавяне на търсене върху одобрени вътрешни документи
  • Въвеждане на прости агентни действия и контроли за сигурност
  • Преглед на разгръщането, операциите и контролните точки за управление

План за приемане и следващи стъпки

  • Преглед на ключови решения при проектиране и разгръщане
  • Идентифициране на чести капани в регулirани проекти за ИИ
  • Планиране на пилотни случаи на употреба и съгласуване със заинтересованите страни
  • Дефиниране на пътна карта за безопасно приемане на локален ИИ

Изисквания

  • Основополагащо разбиране на концепциите за ИИ и софтуерното разработване
  • Запознаване с инструменти за команден ред, контейнери или локални среди за разработка
  • Основно опит със скриптове или програмиране

Целева аудитория

  • Разработчици и технически екипи, изграждащи частни решения за ИИ върху вътрешна инфраструктура
  • Професионалисти в областта на сигурността, съответствието и платформите, подкрепящи ИИ в регулirани среди
  • Технически лидери във финансите, здравеопазването, държавния сектор и отбраната, оценяващи внедряването на ИИ на място
 21 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории