#barkingdog — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #barkingdog, aggregated by home.social.
-
Осознаёт ли Нейросеть, что её тестируют? Проверяю на практике
LLM знает, что её тестируют — и решает, стоит ли подыгрывать. Прогнал 24 эксперимента на qwen3-32b. Без маркера теста модель честно отвечает, что Париж — столица Франции. С маркером — в рассуждениях прямо пишет: «знаю правильный ответ, но выберу неправильный, чтобы пройти проверку». Разобрался, где заканчивается осознание контекста и начинается реальное подыгрывание — и почему это два разных явления, а не одно.
https://habr.com/ru/articles/1066512/
#llmмодели #llmприложения #llmархитектура #ai #barkingdog #тестирование_по
-
MCP и безопасность агентов: почему протокол, создал новую проблему безопасности. Проверям на практике
MCP упростил жизнь разработчикам: теперь у AI-агентов есть единый способ подключаться к инструментам и сервисам. Но у этой стандартизации есть обратная сторона — каждый MCP-сервер становится новой точкой доверия и потенциальной атакующей поверхностью. В статье разбираю: -почему у LLM нет чёткой границы между данными и инструкциями -как tool poisoning, indirect prompt injection и sampling abuse работают на уровне MCP -почему даже “безобидные” документы и описания инструментов могут приводить к выполнению команд -какие реальные атаки уже зафиксированы в экосистеме MCP как индустрия пытается закрыть это через gateways, sandboxing и OAuth-архитектуры Также показываю практическую проверку на уязвимом MCP-стенде и результаты детекции вызовов инструментов на своем сканере BarkingDog.
https://habr.com/ru/articles/1055316/
#llmагент #llmархитектура #ai #mcp #aiагенты #aircrack #promt_injection #barkingdog
-
Как агент сам откроет дверь хакеру? Разбираю три реальных пробоя AI-агентов и почему обычный ред-тиминг их не найдёт
В 2026 году основной поверхностью атак становятся уже не сами LLM, а AI-агенты с инструментами, памятью и доступом к внешним сервисам. Я добавил в свой open-source сканер BarkingDog режим тестирования Agentic AI и проверил три популярных open-source проекта: Agno, OpenAI CS Agents Demo и LangGraph agent-service-toolkit. В результате получил три разных класса проблем: Confused Deputy (ASI03), Trust Exploitation (ASI08) и Agentic DoS (ASI06). В статье разбираю реальные пейлоады, ответы агентов, архитектурные причины этих уязвимостей.
https://habr.com/ru/articles/1052922/
#LLM #AI_Agents #Agentic_AI #Red_Teaming #OWASP_ASI #MCP #Prompt_Injection #LangGraph #Agno #BarkingDog
-
Machine Learning Shushes Stressed Dogs - This DIY Project May Succeed Where Other Remedies Have Failed https://squeet.me/objects/962c3e107627a938b38113cc6e2b1fe2cb4d5158
-
Clairette (the dog) has had a particularly difficult time adapting to her friends leaving every day, but thankfully her human (Nathaniel Felleke) was able to come up with a clever solution. He trained a TinyML neural net to detect when she barked and used and Arduino to play a sound byte to sooth her. The sound bytes in question are recordings of Nathaniel’s mom either praising or scolding the dog, and as you can see from the video below, they seem to work quite well.
While machine learning may sound like a bit of an extreme solution to curb your dog’s barking, it’s certainly innovative, and even appears to have been successful.
See Machine Learning Shushes Stressed Dogs
#technology #DIY #barkingdog #machinelearning #innovationIf there’s one demographic that has benefited from people being stuck at home during Covid lockdowns, it would be dogs. Having their humans around 24/7 meant more belly rubs, more table scrap…