home.social

#llm_firewall — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #llm_firewall, aggregated by home.social.

  1. Habr @[email protected] ·

    LLM/AI Firewall и Agent Runtime Security: как защитить корпоративных ИИ-агентов в 2026 году

    В 2025–2026 годах компании массово переходят от простых чат-ботов к автономным ИИ-агентам. При этом агенты не просто отвечают, а выполняют реальные действия: работают с почтой, базами данных, API, кодом и даже запускают цепочки задач в мультиагентных системах. Вместе с возможностями пришли новые риски. Классические средства защиты – WAF, DLP и даже первые поколения LLM Firewall оказались недостаточными. Появилось новое направление – Agent Runtime Security. В этой статье разберём, почему так произошло, как эволюционировала защита ИИ систем и как с задачами справляется INFERA AI.Firewall, в котором уже реализованы ключевые элементы этой парадигмы.

    habr.com/ru/companies/infera_s

    #защита_ИИагентов #INFERA_AIFirewall #Agent_Runtime_Security #LLM_Firewall #безопасность_ии #multiagent_архитектура #внедрение_ИИагентов #OWASP_Agentic

    #owasp_agentic #внедрение_ииагентов #multiagent_архитектура #безопасность_ии #llm_firewall #agent_runtime_security
  2. Habr @[email protected] ·

    LLM Firewall: как вписать LLM в контур информационной безопасности

    Привет, Хабр! Я Исмагилов Ильнур, разработчик команды Центра интеллектуальной автоматизации Innostage. В прошлой статье мы кратко рассмотрели угрозы ИИ‑сервисам и базовые меры защиты — этого достаточно, чтобы правильно стартовать внедрение ИИ в бизнес-процессы и заложить фундамент best‑практик для масштабирования. Во второй части мы смотрим на LLM Firewall как на рабочий элемент LLMSecOps: от требований приказа ФСТЭК до минимально достаточной архитектуры безопасной эксплуатации LLM в компании. Разбираем, какие защитные меры действительно имеют смысл, где проходит граница разумного контроля и как наращивать защиту по мере роста ИИ-систем, не уходя в overengineering. Материал будет полезен AI-инженерам, специалистам по информационной безопасности и руководителям ИТ и ИБ. Мы обсуждаем, как сохранить управляемость и контроль рисков при внедрении ИИ без лишних затрат, и показываем более глубокие техники выявления атак на LLM — от анализа поведенческой телеметрии до оценки угроз в реальном времени.

    habr.com/ru/articles/981408/

    #LLM_Firewall #LLMSecOps #AIGateway #LLM_as_a_judge #llm #prompt_injection

    #prompt_injection #llm #llm_as_a_judge #aigateway #llmsecops #llm_firewall