Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Основи на безопасния локален ИИ
- Какво означава локален и ИИ на място в регулirани среди
- Облачен ИИ срещу вътрешно разгръщане за чувствителни натоварвания
- Чести корпоративни случаи на употреба за частни асистенти и поддръжка на работни процеси
- Основни компоненти на безопасна архитектура за локален ИИ
Ollama и основи на отворените модели
- Как Ollama се вписва във стек за локална разработка
- Изтегляне, изпълнение и управление на модели локално
- Избор на модели въз основа на размер, качество, хардуер и лиценз
- Съпоставяне на моделни опции към практически бизнес задачи
Подготовка на средата на място
- Подготовка на хост, работна станция и сървър
- Инсталиране и конфигуриране на Ollama за локално извличане
- Използване на контейнери и вътрешни инструменти за разработка
- Проверка на достъпа до API и базова оперативна готовност
Ефективна работа с локални модели
- Изпълнение на промптове и оформяне на отговори със системни инструкции
- Повторно използване на шаблони за последователни корпоративни задачи
- Управление на версиите на моделите и вътрешните артефакти
- Основна оптимизация на производителността за внедрявания с CPU и GPU
Изграждане на практически агентни работни процеси
- Какво прави един работен процес агентен в контролирана среда
- Прости модели за планиране, използване на инструменти и цикли на отговор
- Проектиране на асистенти, фокусирани върху задачи, за вътрешни операции
- Добавяне на човешки контрол, логика за резервни варианти и обработка на грешки
Частни работни процеси за търсене
- Основи на генерирането с разширено търсене за вътрешен достъп до знания
- Подготовка на документи за парчене, индексиране и търсене
- Свързване на локален векторен магазин към приложение, базирано на Ollama
- Подобряване на релевантността и качеството на отговорите с по-добри модели за търсене
Практики за сигурност, управление и съответствие
- Граници за обработка на данни и разглеждания на поверителността
- Контрол на достъпа, регистриране и поддръжка на одита
- Сигурност на промптовете, контроли на отговорите и предпазни мрежи
- Контролни точки за управление за регулирано разгръщане и работа
Модели за корпоративна интеграция
- Предоставяне на локалните способности на ИИ чрез вътрешни API
- Интегриране на асистенти с вътрешни приложения и услуги
- Подкрепа за случаи на употреба на асистенти, пакетна обработка и автоматизация на работни процеси
- Поддържане на решенията вътре в контролирани мрежови граници
Оценяване на локалните решения за ИИ
- Оценка на качеството, надеждността и последователността
- Тестиране спрямо бизнес, политически и безопасностни изисквания
- Сравняване на моделните опции за конкретни корпоративни задачи
- Установяване на практичен цикъл за подобрение за вътрешни екипи
Лаборатория за практически внедряване
- Изграждане на частен асистент с Ollama и отворен модел
- Добавяне на търсене върху одобрени вътрешни документи
- Въвеждане на прости агентни действия и контроли за сигурност
- Преглед на разгръщането, операциите и контролните точки за управление
План за приемане и следващи стъпки
- Преглед на ключови решения при проектиране и разгръщане
- Идентифициране на чести капани в регулirани проекти за ИИ
- Планиране на пилотни случаи на употреба и съгласуване със заинтересованите страни
- Дефиниране на пътна карта за безопасно приемане на локален ИИ
Изисквания
- Основополагащо разбиране на концепциите за ИИ и софтуерното разработване
- Запознаване с инструменти за команден ред, контейнери или локални среди за разработка
- Основно опит със скриптове или програмиране
Целева аудитория
- Разработчици и технически екипи, изграждащи частни решения за ИИ върху вътрешна инфраструктура
- Професионалисти в областта на сигурността, съответствието и платформите, подкрепящи ИИ в регулirани среди
- Технически лидери във финансите, здравеопазването, държавния сектор и отбраната, оценяващи внедряването на ИИ на място
21 Часа