#claude_coce — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #claude_coce, aggregated by home.social.
-
ИИ-агента взломали простым PNG-файлом — и он послушно слил пароли злоумышленнику
Prompt injection — один из самых распространенных способов взлома ИИ-агентов. В текст, с которым работает модель, прячется вредоносная инструкция в расчете на то, что человек не будет проверять все подряд, а ИИ прочитает и выполнит. Очевидно, что системы безопасности современных моделей настроены в первую очередь на распознание и игнорирование подобных инструкций. Поэтому злоумышленники постоянно ищут способы, как запрятать их еще глубже.