План на курса

Обзор на архитектурата и атакуемата област на LLM

  • Как се строият, разверват и достъпват LLM чрез API
  • Ключови компоненти в стека на приложенията за LLM (например, подсказки, агенти, памет, API)
  • Къде и как възникват проблеми със сигурност в реалното използване

Атаки с вмъкване на подсказки и пречупване на сигурността

  • Какво е вмъкването на подсказки и защо е опасно
  • Сценарии за директно и косвено вмъкване на подсказки
  • Техники за пречупване на сигурността за обходи на филтри
  • Стратегии за откриване и намаляване на риска

Проблеми със защитеност на данни и рискове за конфиденциалност

  • Непреднамерено разкриване на данни чрез отговори
  • Проблеми с лични данни и неправилно използване на паметта на модела
  • Дизайн на подсказки, ориентирани към защита на конфиденциалност и използване на RAG

Филтриране и защита на изходния сигнал на LLM

  • Използване на Guardrails AI за филтриране и валидиране на съдържанието
  • Определяне на схеми и ограничения за изходния сигнал
  • Мониторинг и записване на несигурни изходи

Подходи с човешкият фактор и процесни подходи

  • Къде и кога да се внесе човешкото наблюдение
  • Редици за одобрение, прагове за оценяване, обработка на запасни варианти
  • Калибриране на доверието и ролята на обяснимост

Сигурен LLM приложение Design Patterns

  • Минимални привилегии и изолация за извиквания на API и агенти
  • Ограничаване на честотата, намаляване на пропускливостта и откриване на злоупотреби
  • Робустно свързване с LangChain и изолация на подсказките

Съответствие, записване и Go управление

  • Обеспечаване на проверяемост на изходите на LLM
  • Поддържане на проследимост и управление на подсказки/версии
  • Съответствие с вътрешни политики за сигурност и регулаторни изисквания

Резюме и следващи стъпки

Изисквания

- Разбиране на големи езикови модели и интерфейси, базирани на подсказки - Опит в създаване на приложения с LLM, използвайки Python - Започване с интеграции на API и облачни развертаня **Целева аудитория** - Разработчици на AI - Архитекти на приложения и решения - Технически мениджъри на продукти, работящи с инструменти за LLM
 14 Часа

Брой участници


Цена за участник

Предстоящи Курсове

Свързани Kатегории