Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
План на курса
Обзор на архитектурата и атакуемата област на LLM
- Как се строият, разверват и достъпват LLM чрез API
- Ключови компоненти в стека на приложенията за LLM (например, подсказки, агенти, памет, API)
- Къде и как възникват проблеми със сигурност в реалното използване
Атаки с вмъкване на подсказки и пречупване на сигурността
- Какво е вмъкването на подсказки и защо е опасно
- Сценарии за директно и косвено вмъкване на подсказки
- Техники за пречупване на сигурността за обходи на филтри
- Стратегии за откриване и намаляване на риска
Проблеми със защитеност на данни и рискове за конфиденциалност
- Непреднамерено разкриване на данни чрез отговори
- Проблеми с лични данни и неправилно използване на паметта на модела
- Дизайн на подсказки, ориентирани към защита на конфиденциалност и използване на RAG
Филтриране и защита на изходния сигнал на LLM
- Използване на Guardrails AI за филтриране и валидиране на съдържанието
- Определяне на схеми и ограничения за изходния сигнал
- Мониторинг и записване на несигурни изходи
Подходи с човешкият фактор и процесни подходи
- Къде и кога да се внесе човешкото наблюдение
- Редици за одобрение, прагове за оценяване, обработка на запасни варианти
- Калибриране на доверието и ролята на обяснимост
Сигурен LLM приложение Design Patterns
- Минимални привилегии и изолация за извиквания на API и агенти
- Ограничаване на честотата, намаляване на пропускливостта и откриване на злоупотреби
- Робустно свързване с LangChain и изолация на подсказките
Съответствие, записване и Go управление
- Обеспечаване на проверяемост на изходите на LLM
- Поддържане на проследимост и управление на подсказки/версии
- Съответствие с вътрешни политики за сигурност и регулаторни изисквания
Резюме и следващи стъпки
Изисквания
- Разбиране на големи езикови модели и интерфейси, базирани на подсказки
- Опит в създаване на приложения с LLM, използвайки Python
- Започване с интеграции на API и облачни развертаня
**Целева аудитория**
- Разработчици на AI
- Архитекти на приложения и решения
- Технически мениджъри на продукти, работящи с инструменти за LLM
14 Часа