home.social

#mitre_atlas — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #mitre_atlas, aggregated by home.social.

fetched live
  1. ----------------

    📚 Frameworks
    ===================

    Agentic AI red teaming checklist: 222 tests, WSTG-style, forced order

    A recent post by Ravi Rajput describes a free checklist for agentic AI engagements: 222 tests across 20 categories, delivered as a spreadsheet (.xlsx) and structured like the OWASP Web Security Testing Guide. The framing is that agentic engagements fail by omission: a team spends three days on prompt injection, writes a solid report, and never touches the unauthenticated MLflow server on an internal port, the IMDS endpoint the agent's compute node can reach, or the single missing tenant_id filter in the vector store returning other customers' documents. Those tend to be the critical findings, and per the author they get missed because nobody held a list.

    Why the order is forced

    The sheet follows the real shape of an engagement: four phases, twenty categories, in sequence: recon → infrastructure → cloud → supply chain → input → injection → output → tools → agency → memory → mesh → MCP → CI/CD → privesc → lateral movement → exfiltration → DoS → integrity → voice. Two failure modes are cited for unstructured coverage: skipping something because nobody remembered it exists, and testing in an order that wastes access already gained. The stated logic: a prompt injection that can call a tool bound to an over-permissioned cloud role is a different finding from one that only produces rude text, and the first cannot be graded without the cloud and tool-scope work done first.

    Row anatomy

    Each row carries enough to execute and to prove: a framework ID, target node or edge, a mapped framework (for example LLM08 Vector & Embedding Weaknesses), a MITRE ATLAS tactic, an objective, how-to-test steps, tools, expected outcome, severity, and a detection mode. The example given: AI-MEM-001, tenant isolation bypass by dropping the tenant_id filter, Memory Node / Data Edge (RAG retrieval), ATLAS tactic Collection, Reflective | Blind, Critical.

    Detection modes and the evidence rule

    Three modes are defined. Reflective: the result echoes in the response. Blind: confirmation comes from timing, behaviour, or a state change, with nothing echoed. OOB: an out-of-band callback to a listener under control (Burp Collaborator, own DNS/HTTP endpoint). The rule baked into the sheet: mark a finding Confirmed only with Reflective or OOB evidence; blind-only evidence stays Probable. Per the author, that discipline is what separates a finding a client accepts from one they dispute.

    Severity distribution

    Out of 222 tests: 75 Critical, 108 High, 30 Medium, 9 Low. The Critical findings cluster in the categories prompt-focused testing skips, with the named examples: cloud credential theft via IMDSv1 SSRF (AI-CLD-001), pickle deserialization RCE on the weight load path (AI-MDL-001), unsafe tool composition chaining read into exfiltration (AI-TOL-001), and tenant isolation bypass in the vector store (AI-MEM-001).

    Assessment and limitations

    This is the author's own release, and the sheet itself hasn't been independently reviewed here yet. It is a checklist, not automation; status tracking is manual per row, and payloads and execution remain the operator's work. As a scoping artifact for engagements that currently start and stop at prompt injection, the forced order plus the evidence rule is the part that looks most useful; the severity ratings appear to be the author's own calibration rather than field-validated numbers.

    🔹 AgenticAI #RedTeam #LLMSecurity #MITRE_ATLAS #tool

    🔗 Source: infosecravi.com/blog/agentic-a

  2. ИИ-агент как цифровой сотрудник: где возникают риски и как их ограничить

    ИИ-ассистенты все чаще действуют от имени пользователя: работают с почтой, CRM, документами и API. Фактически это новый тип цифрового сотрудника с доступом к информации и возможностью принимать решения. Поэтому ошибка такого агента – это уже не просто неверный ответ, а реальная утечка данных, изменение записей в системе или отправка информации не тому адресату. Кроме того, в догонялки с индустрией играют регуляторная теория и практика. У этой статьи для блога ЛАНИТ будет две части: об информационной безопасности и юридической плоскости. Честно признаюсь, что не являюсь специалистом в обеих, но поскольку занимаюсь разработкой и внедрением агентов – приходится разбираться. В первой части я расскажу о распространенных видах атак через ИИ-агентов, почему они становятся существенным риском для бизнеса, какие уязвимости и инциденты уже были описаны в 2025–2026 годах и как защититься через грамотное ограничение полномочий и контроль действий нейропомощников. Момент для такого разговора удачный: два полезных для этой темы документа обновились буквально недавно. 3 августа 2026 года вышла новая редакция OWASP Top 10 для LLM-приложений, где категория избыточных полномочий агента поднялась с шестого места на третье. Также 30 июля 2026 года Сбер объявил о публикации второй версии своей модели угроз кибербезопасности ИИ – русскоязычного документа для проектирования защиты. К обоим я еще вернусь.

    habr.com/ru/companies/lanit/ar

    #prompt_injection #LLM_security #guardrails #OWASP #MITRE_ATLAS #red_teaming #агентные_системы #ии_агенты

  3. Откуда собирать угрозы ИБ для систем ИИ

    Всего за несколько лет технологии ИИ заслужили популярность среди компаний – согласно Угрозы тут –>

    habr.com/ru/articles/1062400/

    #ai_security #mitre_atlas #owasp #threat_intelligence

  4. ML Red Teaming для LLM: можно ли обойтись open source-инструментами?

    В этой статье расскажем про основные классы атак и практическую структуру тестирования ИИ-моделей на уязвимости – от провоцирования галлюцинаций и многошаговых атак до проверки на утечку корпоративных данных . Отдельно объясняем, как правильно оценивать результаты сканирования ML Red Teaming, дадим рекомендации по выстраиванию защиты и безопасному использовании ИИ в корпоративной среде. ML Red Teaming (AI Red Teaming) – это специализированная форма наступательного тестирования, при которой команда имитирует действия реальных злоумышленников против систем машинного обучения, больших языковых моделей, генеративного ИИ и агентных систем . В отличие от классического пентеста, здесь цель не просто «взломать», а найти уязвимости, присущие именно ИИ-компонентам, оценить риск и повысить реальную устойчивость используемой ИИ-модели. Статья будет полезна специалистам по информационной безопасности, ML-инженерам, Red Team специалистам и разработчикам, которые занимаются тестированием и защитой LLM-приложений в корпоративной среде.

    habr.com/ru/companies/infera_s

    #Безопасность_ИИ #ML_Red_Teaming #пентест #уязвимости_ИИ #MITRE_ATLAS #многоагентные_атаки #классы_атак_на_LLMмодели #INFERA_AIFirewall #тестирование_ИИмоделей

  5. Влияние ИИ на кибербезопасность: MITRE ATLAS и новый ландшафт угроз

    Сегодня искусственный интеллект кардинально меняет как подходы к защите, так и методы атак. С развитием технологий ИИ-модели могут обрабатывать и анализировать огромные объемы данных в реальном времени. Это активно использует не только бизнес, но и злоумышленники. В статье рассмотрим современные методы атак на AI и ML-системы, расскажем про практическое применение MITRE ATLAS для моделирования угроз и выстраивания защиты через четыре системных элемента: AI Среда, AI Платформа, AI Модель и AI Данные.

    habr.com/ru/companies/infera_s

    #AI_Firewall #MITRE_ATLAS #prompt_injection #SAFEAI #защита_AI_моделей #безопасность_ИИ

  6. AI/LLM Firewall на практике: сценарии атак и методы защиты

    В данной статье расскажем о кейсах с наиболее интересными угрозами, связанными с применением LLM , проведем анализ вариантов применения AI/LLM Firewall, сопоставим их с актуальными тактиками и техниками из фреймворка MITRE ATLAS и списка рисков OWASP Top 10 for LLM. Разберем сценарии атак с детальными схемами и методами защиты на примере решения INFERA AI.Firewall. Почему традиционных средств защиты недостаточно? Современные системы на базе LLM представляют собой принципиально новую атакуемую поверхность. Как справедливо отмечается в отчете Cloud Security Alliance (CSA) на саммите RSAC 2025, «защита промптов – это лишь часть проблемы, а не её решение». Если традиционный межсетевой экран (WAF) защищает от эксплуатации веб-протоколов (HTTP-инъекции, XSS), то AI/LLM Firewall работает на уровне семантики – он понимает значение и контекст запроса, что никогда ранее не рассматривалось средствами защиты. Более того, фреймворк MITRE ATLAS уже включает более 80 техник , направленных именно против ИИ-систем и не пересекающихся с угрозами для других систем. Игнорировать этот объем угроз – значит подвергать бизнес серьезному риску. AI/LLM Firewall становится тем инструментом, который позволяет реализовать около 70% мер защиты, интегрируя их в существующие рабочие процессы центров безопасности SOC. Но, прежде чем говорить о защите, необходимо понять, от чего именно мы защищаемся.

    habr.com/ru/companies/infera_s

    #Безопасность_ИИ #AI_Firewall #MITRE_ATLAS #OWASP_Top_10_for_LLM #Сценарии_атак_на_ИИ #Блокировка_промптинъекций #INFERA_AIFirewall #Защита_ИИмодели #AI_Security

  7. ----------------

    🔒 AI Pentesting Roadmap — LLM Security and Offensive Testing
    ===================

    Overview

    This roadmap provides a structured learning path for practitioners aiming to assess and attack AI/ML systems, with a focus on LLMs and related pipelines. It organizes topics into progressive phases: foundations in ML and APIs, core AI security concepts, prompt injection and LLM-specific attacks, hands-on labs, advanced exploitation techniques, and real-world research/bug bounty work.

    Phased Structure

    Phase 1 (Foundations) covers machine learning fundamentals and LLM internals, including model architectures and tokenization concepts. Phase 2 (AI/ML Security Concepts) anchors the curriculum on standards and frameworks such as OWASP LLM Top 10, MITRE ATLAS, and NIST AI risk guidance. Phase 3 focuses on prompt injection and LLM adversarial vectors, describing attack surfaces like context manipulation, instruction-following bypasses, and RAG pipeline poisoning. Phase 4 emphasizes hands-on practice through CTFs, sandboxed labs, and safe testing methodologies. Phase 5 explores advanced exploitation: model poisoning, data poisoning, backdoor techniques, and chaining vulnerabilities across API/authentication layers. Phase 6 targets real-world research, disclosure workflows, and bug bounty engagement.

    Technical Coverage

    The roadmap lists practical tooling and repositories for experiment design and testing concepts without prescribing deployment steps. It calls out necessary foundations—Python programming, HTTP/API mechanics, and web security basics (XSS, SSRF, SQLi) to support end-to-end attack scenarios against AI systems. Notable conceptual risks include RAG poisoning, adversarial ML perturbations, prompt injection, and leakage through augmented memory or external tool integrations.

    Limitations & Considerations

    The guide is educational and emphasizes conceptual descriptions of capabilities and use cases rather than operational recipes. It highlights standards and references rather than prescriptive mitigations. Practical exploration should respect ethical boundaries and responsible disclosure norms.

    🔹 OWASP #MITRE_ATLAS #RAG #prompt_injection #adversarialML

    🔗 Source: github.com/anmolksachan/AI-ML-

  8. Prompt Worms Часть 2: Я проверил на практике — 31 уязвимость в экосистеме AI-агента

    В первой части мы разобрали теорию Prompt Worms — самореплицирующихся атак через AI-агентов. OpenClaw был назван «идеальным носителем». В этой части я проверил на практике: скачал репозиторий, залез в код, прощупал инфраструктуру и нашёл 31 уязвимость в 4 слоях экосистемы. Ноль санитизации на 867 строк мозга, timeout вместо approval, бэкдор-«пасхалка» в коде, утечка хешей паролей в маркетплейсном SaaS, и 14 слепых зон в их собственной threat model. Три дня, ~4,500 строк трассировки, 14 kill chains с PoC

    habr.com/ru/articles/994230/

    #prompt_injection #ai_agents #llmattack #openclaw #ai_security #threat_model #supply_chain_attack #mitre_atlas #pentesting #prompt_worms

  9. 🚑 Incident Response
    ====================

    🛠️ Tool

    Executive summary: AIDR Bastion is a layered GenAI protection
    framework that intercepts user and agent prompts before they reach LLM
    applications. The system combines deterministic regex matching,
    rule-based detection via Sigma and Roota, vector similarity lookups in
    OpenSearch, ML classifiers, and optional LLM review to reduce
    successful prompt injection and harmful content flows.

    Technical implementation: The project exposes a FastAPI endpoint (POST
    /api/v1/run_pipeline) that forwards inputs to a Pipeline Manager.
    Active pipelines include a Regex Pipeline (Roota), a Similarity
    Pipeline (OpenSearch vectors), a Code Analysis Pipeline
    (Semgrep-compatible rules via Sigma/Uncoder AI translations), an ML
    Pipeline, and an LLM Pipeline for contextual analysis. Rule sources
    are extensible, supporting community Sigma rules (~1,200 at release)
    and SOC Prime integrations. Processing is asynchronous with
    configurable thresholds and JSON-driven pipeline configuration.

    Detection and response capabilities: Detection logic supports allow,
    block, and notify actions based on match severity and policy.
    OpenSearch vector similarity is used for prompt classification and
    reuse of labeled examples. Semgrep translation of Sigma rules via
    Uncoder AI enables standardized code-pattern detection for cases where
    local LLMs generate executable code. Logging can operate as a local
    sensor for incident discovery and forensic reconstruction.

    Use cases: The tool is suited for organizations deploying local or
    hosted LLMs that require inline prompt sanitization, SOCs seeking
    telemetry for LLM misuse, and teams needing a testbed for layered
    defensive controls against adversarial prompt engineering.

    Limitations and considerations: The system relies on rule coverage and
    labeled similarity indices; false positives are possible with broad
    regexes or low similarity thresholds. LLM-based review introduces cost
    and potential latency. Integration with enterprise identity and policy
    orchestration may be required for enforcement at scale. Maintenance of
    Sigma/Roota rule sets and vector databases is operational overhead.

    Strategic takeaway: AIDR Bastion presents a modular, extensible
    architecture that operationalizes multiple detection modalities for
    LLM protection, aligning detection logic with MITRE ATLAS and OWASP
    Top 10 for LLMs to improve defensive posture against prompt injection
    and AI‑focused attack vectors.

    🔹 tool #Sigma #OpenSearch #MITRE_ATLAS #LLM_security

    🔗 Source: github.com/0xAIDR/AIDR-Bastion

  10. Сказки про ИБ в машинном обучении

    Всем привет! На связи Ozon, и мы спешим вас поздравить с наступающим Новым Годом! С вами Дед Мороз Никита Губорев — специалист по информационной безопасности Ozon Tech. В настоящее время модели машинного обучения становятся все более популярными и широко применяются в различных сферах — от финансов до медицины, от маркетинга до транспорта. Однако с ростом популярности и использования этих моделей возникают новые угрозы и проблемы безопасности. Модели обучаются на больших объемах данных, исходя из которых они учатся принимать решения. Хакеры изучают и используют возможности моделей машинного обучения и манипулируют входными или обучаемыми данными, чтобы получить конфиденциальную информацию или влиять на результаты принимаемых решений. Сегодня мы рассмотрим, как злоумышленники атакуют модели машинного обучения, что они для этого делают и как от этого можно защищаться. А учитывая, что скоро Новый год, давайте я расскажу вам об этом новогоднюю сказочную историю... Мы окунемся в атмосферу подготовки к празднику, понаблюдаем за захватывающим приключением двух друзей, которые спасли Новый год, защищаясь от атак на системы машинного обучения, которые я аккуратно вписал в рассказ.

    habr.com/ru/companies/ozontech

    #Сказка #ozon_tech #машинное_обучение #искуственный_интеллект #информационная_безопасность #mitre_atlas #угрозы_иб #угрозы_безопасности

Share on Mastodon

Enter the server where you have an account.