#выполнение_команд — Public Fediverse posts

[Перевод] От инъекции промпта до RCE в AI-агентах

AI-агенты всё чаще получают доступ к файловой системе и командам — и это удобно ровно до того момента, пока «безопасные» утилиты не начинают вести себя как универсальные инструменты атаки. В разборе Trail of Bits показывают, как защита вида «allowlist команд + человек подтверждает опасное» обходится через инъекцию аргументов и приводит к удалённому выполнению кода — без классической shell-инъекции. Также поговорим про архитектурные антипаттерны, почему regex-фильтры не спасают, и какие инженерные меры реально снижают ущерб. Разобрать риски

https://habr.com/ru/companies/otus/articles/992174/

#ai_агенты #инъекция_промпта #инъекция_аргументов #RCE #безопасность_LLM #выполнение_команд #humanintheloop #песочница