Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Основи на сигурния локален ИИ
- Какво означават локален и локален на място ИИ в регулирани среди
- Сравнение между облачен ИИ и вътрешно внедряване за чувствителни задачи
- Често срещани корпоративни сценарии за частни асистенти и поддръжка на работни потоци
- Основни компоненти на сигурна локална ИИ архитектура
Основи на Ollama и отворените модели
- Как Ollama се вписва в локален стек за разработка
- Изтегляне, стартиране и управление на модели локално
- Избор на модели според размер, качество, хардуер и лиценз
- Съпоставяне на опциите на моделите с практически бизнес задачи
Подготовка на средата на място
- Подготовка на хост, работна станция и сървър
- Инсталиране и конфигуриране на Ollama за локално изпълнение
- Използване на контейнери и инструменти за вътрешна разработка
- Проверка на API достъпа и основната оперативна готовност
Ефективна работа с локални модели
- Изпълнение на промптове и оформяне на изходни данни със системни инструкции
- Повторно използване на шаблони за последователни корпоративни задачи
- Управление на версиите на моделите и вътрешните артефакти
- Основна настройка на производителността за CPU и GPU внедряване
Изграждане на практически агентни работни потоци
- Какво прави един работен поток агентен в контролирана среда
- Прости модели за планиране, използване на инструменти и цикли на отговор
- Проектиране на ориентирани към задачи асистенти за вътрешни операции
- Добавяне на човешки преглед, резервна логика и обработка на грешки
Частни работни потоци за извличане на информация
- Основи на генерирането, подпомогнато от извличане, за достъп до вътрешни знания
- Подготовка на документи за раздробяване, индексиране и търсене
- Свързване на локално векторно хранилище с приложение, базирано на Ollama
- Подобряване на релевантността и качеството на отговорите чрез по-добри модели на извличане
Практики за сигурност, управление и съответствие
- Граници на обработка на данни и съображения за поверителност
- Контрол на достъпа, логване и поддръжка на одит
- Безопасност на промптовете, контрол на изходните данни и предпазни механизми
- Контролни точки за управление при регулирано внедряване и експлоатация
Модели за корпоративна интеграция
- Предоставяне на локални ИИ възможности чрез вътрешни API
- Интегриране на асистенти с вътрешни приложения и услуги
- Поддръжка на сценарии за асистент, пакетна обработка и автоматизация на работни потоци
- Запазване на решенията в рамките на контролирани мрежови граници
Оценяване на локални ИИ решения
- Оценка на качество, надеждност и последователност
- Тестване спрямо бизнес изисквания, политики и изисквания за безопасност
- Сравняване на опциите на модели за специфични корпоративни задачи
- Създаване на практически цикъл за подобрение за вътрешни екипи
Лаборатория за практическо внедряване
- Изграждане на частен асистент с Ollama и отворен модел
- Добавяне на извличане на информация от одобрени вътрешни документи
- Въвеждане на прости агентни действия и контроли за безопасност
- Преглед на контролни точки за внедряване, експлоатация и управление
Планиране на внедряване и следващи стъпки
- Преглед на ключови решения за проектиране и внедряване
- Идентифициране на често срещани капани в регулирани ИИ проекти
- Планиране на пилотни сценарии и съгласуване със заинтересованите страни
- Определяне на пътна карта за сигурно внедряване на локален ИИ
Изисквания
- Основно разбиране на концепциите за ИИ и разработка на софтуер
- Запознаване с инструменти за команден ред, контейнери или среди за локална разработка
- Основен опит със скриптове или програмиране
Публика
- Разработчици и технически екипи, изграждащи частни ИИ решения на вътрешна инфраструктура
- Специалисти по сигурност, съответствие и платформи, поддържащи ИИ в регулирани среди
- Технически ръководители във финансите, здравеопазването, правителствения и отбранителния сектор, оценяващи въвеждането на локален ИИ на място
21 Часа