#llmsecops — Public Fediverse posts

My new article is about a deep dive into how AI models work and how to improve them. https://dev.to/toxy4ny/beyond-human-language-why-ai-needs-its-own-dictionary-and-how-to-build-it-3gd4 #ai #llm #AiResearch #llmsecops #LLM #llmsecurity

I’ve started developing a new benchmark. I’d welcome any criticism, comments, or participation—if anyone wants to join the project right at the start, feel free. I’ve put together a visual demo here: gitlab.com/toxy4ny/delirium-ai-safety-benchmark/ #redteam #ai-safety #benchmark #delirium #llm #llmsecops #theory #KL3FT3Z

LLM Firewall: как вписать LLM в контур информационной безопасности

Привет, Хабр! Я Исмагилов Ильнур, разработчик команды Центра интеллектуальной автоматизации Innostage. В прошлой статье мы кратко рассмотрели угрозы ИИ‑сервисам и базовые меры защиты — этого достаточно, чтобы правильно стартовать внедрение ИИ в бизнес-процессы и заложить фундамент best‑практик для масштабирования. Во второй части мы смотрим на LLM Firewall как на рабочий элемент LLMSecOps: от требований приказа ФСТЭК до минимально достаточной архитектуры безопасной эксплуатации LLM в компании. Разбираем, какие защитные меры действительно имеют смысл, где проходит граница разумного контроля и как наращивать защиту по мере роста ИИ-систем, не уходя в overengineering. Материал будет полезен AI-инженерам, специалистам по информационной безопасности и руководителям ИТ и ИБ. Мы обсуждаем, как сохранить управляемость и контроль рисков при внедрении ИИ без лишних затрат, и показываем более глубокие техники выявления атак на LLM — от анализа поведенческой телеметрии до оценки угроз в реальном времени.

https://habr.com/ru/articles/981408/

#LLM_Firewall #LLMSecOps #AIGateway #LLM_as_a_judge #llm #prompt_injection