Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
План на курса
Основи на безопасното локално ИИ
- Какво означава локалната и на-премна ИИ в регулирани среди
- Облачно ИИ срещу вътрешен разпространение за чувствителни зареждане
- Общи предприемерски сценарии за частни помагачи и поддръжка на работните протоци
- Основните компоненти на архитектурата на безопасното локално ИИ
Ollama и основи на отворените модели
- Как Ollama се вписва в локалния стек за развитие
- Тръгване, изпълнение и управление на модели локално
- Избиране на модели според размера, качеството, хардуера и лицензите
- Мачиране на опциите за модели с практически бизнес задачи
Подготовка на на-премната среда
- Подготовка на хост, работна станция и сървъри
- Инсталиране и конфигуриране на Ollama за локално извод
- Използване на контейнери и вътрешни инструменти за развитие
- Проверка на достъпа към API и основна оперативна готовност
Ефективно работа с локални модели
- Изпълнение на призови и формиране на изходите с системни инструкции
- Повторно използване на шаблони за последователност в предприемерски задачи
- Управление на версиите на модели и вътрешните артефакти
- Основно оптимизиране на производителността за CPU и GPU разпространения
Изграждане на практични агентични работни протоци
- Какво прави работния проток агентичен в контролирана среда
- Прости патерни за планиране, използване на инструменти и цикли на отговор
- Проектиране на фокусирани помагачи за вътрешни операции
- Добавяне на човешка ревизия, логика при изпадане и обработка на грешки
Вътрешни работни протоци с изтегляне
- Основи за изтегляно-усилиено генериране за достъп до вътрешните знания
- Подготовка на документи за дробно раздробяване, индексиране и търсене
- Свързване на локален векторен магазин с приложение базирано на Ollama
- Подобряване на релевантността и качеството на отговорите с по-добри патерни за изтегляне
Практики за сигурност, управление и съответствие
- Границите на обработването на данни и разглеждания относно поверителността
- Контрол за достъп, логиране и поддръжка на аудита
- Безопасност на призовите, контроли над изходите и ограничения
- Точки за управление в регулирани разпространение и операции
Патерни за интеграция с предприятията
- Излагане на локалните способности на ИИ чрез вътрешни API-то
- Интегриране на помагачи с вътрешни приложения и услуги
- Поддръжка на помагачите, батчовите и работните протоци за автоматизация
- Държане на решенията в контролирани мрежни граници
Оценка на локалните решения за ИИ
- Оценка на качеството, надеждността и последователността
- Тестване според бизнес, политики и изисквания за безопасност
- Сравняване на опциите за модели за специфични предприемерски задачи
- Установяване на практичен цикъл за подобрявания за вътрешните тимове
Лаборатория за практическа имплементация
- Изграждане на частен помагач с Ollama и отворен модел
- Добавяне на изтегляне върху одобрени вътрешни документи
- Въвеждане на прости агентични действия и контроли за безопасност
- Ревизия на точки за разпространение, операции и управление
План за приемане и следващи стъпки
- Ревизия на ключовите решения по проектиране и разпространение
- Идентифициране на общи ловушки в регулирани проекти за ИИ
- Планиране на пилотни сценарии и съгласуване с ангажираните страни
- Дефиниране на роудмап за приемане на безопасната локална ИИ
Изисквания
- Основно разбиране на концепции от ИИ и софтуерно развитие
- Осъзнаване с командните инструменти, контейни или локални среди за развитие
- Основен опит от скриптове или програмиране
Публика
- Програмисти и технически тимове, които изграждат частни решения ИИ на вътрешна инфраструктура
- Специалисти по сигурност, съответствие и платформи, които подкрепят ИИ в регулирани среди
- Технически лидери в финанси, здравеопазване, правителството и обороната, оценяващи приемането на ИИ на прем
21 Часове