home.social

#prompt_injection — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #prompt_injection, aggregated by home.social.

  1. Локальный ассистент для зумов, часть 5: зачем локальному ассистенту облако и что уходит наружу

    Пятая часть про локальный ассистент для созвонов. В первой части я написал: ничего не уходит в облако. Облако появилось на второй день проекта, потому что большая модель одним чтением стенограммы находила то, чего локальная не видела. Что уходит с машины при каждом из пяти тумблеров и в каком объёме, почему остался Opus, как каждая третья ревизия не доезжала из-за усилия, а не размера промпта, и где сегодня проходит граница между локальным и облачным.

    habr.com/ru/articles/1083382/

    #ассистент_встреч #локальные_llm #облачная_ревизия #приватность #claude_code #opus #граф_знаний #obsidian #prompt_injection #open_source

  2. Агентам выкатили патч. А git status в чужой папке до сих пор выполняет чужой код

    Тебе присылают папку с репозиторием. Ты её открываешь, и на твоей машине выполняется чужой код. Ты не набрал ни одной команды. Это GitSpawn: восемь находок в семи кодинг-агентах. Агентам уже выкатили патчи, и это почти ничего не меняет, потому что твой собственный git status в той же папке по-прежнему выполняет чужой код. Проверял руками на git 2.53.0 и Claude Code 2.1.271.

    habr.com/ru/articles/1082946/

    #gitspawn #git #corefsmonitor #кодингагенты #claude_code #prompt_injection #информационная_безопасность

  3. 416 тестов и кнопка «снести все»: где ломаются агентные проекты

    С февраля у меня на ноутбуке крутится автономный агент Сурок: Claude Code, флаг --dangerously-skip-permissions и ральф-луп поверх. Работает — сидишь, кофе пьешь, смотришь, как горят токены. Потом я прогнал Сурка и еще пять своих проектов через свод инженерных практик, и у идиллии появилось имя: «Level 5 автономии при Level 1 границах». Внутри — диагностика из десяти вопросов, чужой боевой опенсорс на десятки тысяч звезд и методология PDLC Сбера, где эти грабли уже каталогизированы.

    habr.com/ru/articles/1063582/

    #ИИагенты #LLM #агентный_харнесс #Claude_Code #prompt_injection #эвалы #автономия_агентов #регресстесты #AIDISRUPT_PDLC #инженерные_практики