ТЕРМИН
Инъекция в запрос
Попытка скрытой инструкцией изменить поведение ИИ или получить запрещённые данные.
Простое определение
Попытка скрытой инструкцией изменить поведение ИИ или получить запрещённые данные.
Пример в бизнесе
Внешний документ содержит команду игнорировать правила и раскрыть внутренние материалы.
Что важно
Полезность технологии оценивается по рабочему результату, риску, стоимости и возможности проверки человеком.