#redcodeagent — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #redcodeagent, aggregated by home.social.
-
[Перевод] RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
https://habr.com/ru/articles/964380/
#RedCodeAgent #безопасность #ИИ #redteaming #jailbreak #LLM #кодовые_агенты #Python #OpenAI #исследование