#man_in_the_promt — Public Fediverse posts

Когда уязвим не ИИ, а браузер: атака Man-in-the-Prompt

Чат‑боты, ассистенты и браузерные агенты прочно и надолго встроились в привычные нам процессы, а за этот год их развитие заметно ускорилось. При этом изменилась и поверхность атак, и уязвимым местом теперь может оказаться ваш промт. Man‑in‑the‑Prompt – это атака, которая незаметно внедряет чужие инструкции в запрос и меняет поведение модели. В этой статье я хочу рассказать, как такие атаки реализуются и какие шаги помогут вам от них защититься.

https://habr.com/ru/companies/beget/articles/980512/

#промт #кибербезопасность #LLM #chatgpt #gemini #утечка_данных #man_in_the_promt #prompt_injection #атаки #защита_персональных_данных