Prompt Injection
Также: инъекция промпта, prompt injection attack, LLM injection, атака на промпт
Prompt injection - класс атак на LLM-приложения, при котором злоумышленник встраивает в пользовательский ввод инструкции, перезаписывающие или обходящие системный промпт. Вошёл в OWASP LLM Top 10 2023 как уязвимость №1. Особенно опасен в RAG-системах с доступом к внутренним данным: вредоносные инструкции могут попасть в контекст через документы или веб-страницы, которые модель обрабатывает без участия пользователя.
Статьи с этим термином · 4
- Threat model LLM-агента после OWASP Top-10 2026: два вектора и OPA-guardrails · 24 марта 2026
- OWASP LLM Top 10 v1.1: применяем к нашим RAG-пилотам · 27 ноября 2024
- Prompt injection в корпоративных LLM: угроза №1 по OWASP и что с этим делать · 25 апреля 2024
- Prompt injection в LLM-пилотах: OWASP Top 10 для LLM и что делать с корпоративным RAG · 11 мая 2023