#инъекция_промпта — Public Fediverse posts

[Перевод] От инъекции промпта до RCE в AI-агентах

AI-агенты всё чаще получают доступ к файловой системе и командам — и это удобно ровно до того момента, пока «безопасные» утилиты не начинают вести себя как универсальные инструменты атаки. В разборе Trail of Bits показывают, как защита вида «allowlist команд + человек подтверждает опасное» обходится через инъекцию аргументов и приводит к удалённому выполнению кода — без классической shell-инъекции. Также поговорим про архитектурные антипаттерны, почему regex-фильтры не спасают, и какие инженерные меры реально снижают ущерб. Разобрать риски

https://habr.com/ru/companies/otus/articles/992174/

#ai_агенты #инъекция_промпта #инъекция_аргументов #RCE #безопасность_LLM #выполнение_команд #humanintheloop #песочница

[Перевод] От инъекции промпта до RCE в AI-агентах

AI-агенты всё чаще получают доступ к файловой системе и командам — и это удобно ровно до того момента, пока «безопасные» утилиты не начинают вести себя как универсальные инструменты атаки. В разборе Trail of Bits показывают, как защита вида «allowlist команд + человек подтверждает опасное» обходится через инъекцию аргументов и приводит к удалённому выполнению кода — без классической shell-инъекции. Также поговорим про архитектурные антипаттерны, почему regex-фильтры не спасают, и какие инженерные меры реально снижают ущерб. Разобрать риски

https://habr.com/ru/companies/otus/articles/992174/

#ai_агенты #инъекция_промпта #инъекция_аргументов #RCE #безопасность_LLM #выполнение_команд #humanintheloop #песочница

[Перевод] От инъекции промпта до RCE в AI-агентах

AI-агенты всё чаще получают доступ к файловой системе и командам — и это удобно ровно до того момента, пока «безопасные» утилиты не начинают вести себя как универсальные инструменты атаки. В разборе Trail of Bits показывают, как защита вида «allowlist команд + человек подтверждает опасное» обходится через инъекцию аргументов и приводит к удалённому выполнению кода — без классической shell-инъекции. Также поговорим про архитектурные антипаттерны, почему regex-фильтры не спасают, и какие инженерные меры реально снижают ущерб. Разобрать риски

https://habr.com/ru/companies/otus/articles/992174/

#ai_агенты #инъекция_промпта #инъекция_аргументов #RCE #безопасность_LLM #выполнение_команд #humanintheloop #песочница

[Перевод] От инъекции промпта до RCE в AI-агентах

AI-агенты всё чаще получают доступ к файловой системе и командам — и это удобно ровно до того момента, пока «безопасные» утилиты не начинают вести себя как универсальные инструменты атаки. В разборе Trail of Bits показывают, как защита вида «allowlist команд + человек подтверждает опасное» обходится через инъекцию аргументов и приводит к удалённому выполнению кода — без классической shell-инъекции. Также поговорим про архитектурные антипаттерны, почему regex-фильтры не спасают, и какие инженерные меры реально снижают ущерб. Разобрать риски

https://habr.com/ru/companies/otus/articles/992174/

#ai_агенты #инъекция_промпта #инъекция_аргументов #RCE #безопасность_LLM #выполнение_команд #humanintheloop #песочница

[Перевод] DeepSeek AI: От инъекции промпта до захвата аккаунта

Около двух недель назад китайская лаборатория DeepSeek представила свою новую AI модель DeepSeek-R1-Lite, которая специализируется на логических рассуждениях. Конечно, у всего AI-сообщества быстро загорелся огонь в глазах от заявленных возможностей модели. И я один из них. Как обычно: раз новая модель - значит новые идеи и тесты...

https://habr.com/ru/companies/bothub/articles/863032/

#xss #веббезопасность #инъекция_промпта #llm #ai #эксплойт #base64 #пентестинг #ии #машинное+обучение