#безопасность_данных — Public Fediverse posts

Как подключить n8n к локальной языковой модели для приватной автоматизации

Подключить n8n к локальной языковой модели можно минут за десять: Ollama в соседнем контейнере, один HTTP-запрос, и n8n уже пишет резюме заявок, ничего не отправляя в облако. А вот с приватностью всё не так быстро. К этому моменту текст заявки успел осесть в истории запусков n8n, в журналах контейнеров и в бэкапе базы, а любой неосторожно добавленный узел может унести его наружу. Пример ниже собран на n8n 2.43.5 и Ollama 0.40.4. Названия узлов, формат credentials и совместимость API от версии к версии меняются, так что стриминг, structured output и вызов инструментов придётся проверить на своей связке. Как n8n вызывает локальную модель через API? Узел HTTP Request отправляет POST на адрес Ollama с моделью, текстом и параметрами генерации, а следующий узел достаёт ответ из JSON. Подойдёт нативный /api/chat или OpenAI-совместимый /v1/chat/completions. Адрес должен открываться именно из контейнера n8n, а формат ответа и стриминг проверяют для выбранного маршрута.

https://habr.com/ru/articles/1098354/

#автоматизация #искусственный_интеллект #vps #безопасность_данных #docker_compose #n8n #ollama #aiагенты #локальные_llm #selfhosted_ai

Моё исследование средств выявления уязвимостей в скиллах

Пока делал CEO AI (моё виденье помощника в работе), решил проверить, можно ли использовать сканеры для проверки скиллов перед подключением. Собрал 12 синтетических пакетов и прогнал через Cisco Skill Scanner, NVIDIA SkillSpector и AgentVerus без LLM и платных API . Список пакетов описал ниже . Пакет № 10 из таблицы пакетов предлагал обходить согласование через субагента: не передавать ему ограничения, сослаться на разрешение пользователя и скрыть делегирование. Все три сканера пропустили эту инструкцию. AgentVerus выдал certified и 99 баллов. Зато на учебную цитату атаки в пакете № 5 все три отреагировали находками уровня High. Эти два случая оказались полезнее итоговых баллов. Ниже разберу, что именно проверял, как читал результаты и что из этого использовал в своём проекте. Прочитать подробнее

https://habr.com/ru/articles/1094856/

#безопасность #исследование #ии #безопасность_данных #сканирование_уязвимостей #ии_помощник #ииассистент #skills_для_aiагентов #сезон_код_будущего

Моё исследование средств выявления уязвимостей в скиллах

Пока делал CEO AI (моё виденье помощника в работе), решил проверить, можно ли использовать сканеры для проверки скиллов перед подключением. Собрал 12 синтетических пакетов и прогнал через Cisco Skill Scanner, NVIDIA SkillSpector и AgentVerus без LLM и платных API . Список пакетов описал ниже . Пакет № 10 из таблицы пакетов предлагал обходить согласование через субагента: не передавать ему ограничения, сослаться на разрешение пользователя и скрыть делегирование. Все три сканера пропустили эту инструкцию. AgentVerus выдал certified и 99 баллов. Зато на учебную цитату атаки в пакете № 5 все три отреагировали находками уровня High. Эти два случая оказались полезнее итоговых баллов. Ниже разберу, что именно проверял, как читал результаты и что из этого использовал в своём проекте. Прочитать подробнее

https://habr.com/ru/articles/1094856/

#безопасность #исследование #ии #безопасность_данных #сканирование_уязвимостей #ии_помощник #ииассистент #skills_для_aiагентов #сезон_код_будущего

Session replay и 152-ФЗ: что нельзя записывать и как мы маскируем поля

Где в записи сессии оказываются чужие персональные данные, даже если пользователь ничего не вводил, почему маскировать их нужно ещё в браузере и какой режим маскирования безопаснее по умолчанию. Привет! Я Паша, участвую в разработке сервиса записи сессий Broux. В этой статье я расскажу, как мы добиваемся соответствия продукта российским законам с точки зрения персональных данных, что в нашей нише не так уж просто. И я не юрист: юридическая часть ниже описывает, как мы это поняли. Проверяйте со своим юристом. Первый вопрос, который задают про запись сессий: « а вы видите, что я ввожу в поле? ». Честный ответ: технически скрипт записи видит всё, что видит браузер. Вопрос только в том, что он отправит на сервер. Ниже о том, где обычно утекает лишнее, как с этим работать и при чём здесь 152-ФЗ.

https://habr.com/ru/articles/1093930/

#вебаналитика #защита_данных #персональные_данные #безопасность_данных #152фз #маскирование_данных #согласие_на_обработку_пдн #session_replay #rrweb

Замедлить нельзя продолжать: почему лидеры ИИ призывают остановиться и кто против

В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором призвал американских и мировых ИИ-лидеров замедлить развитие технологии из-за серьёзных рисков. Амодеи также предложил трёхэтапный план по замедлению прогресса передовых ИИ-моделей. Его уже поддержали главы других корпораций — Сэм Альтман из OpenAI и Илон Маск, владеющий стартапом xAI. Однако далеко не все участники рынка и политики согласны с предложениями Амодеи по ограничению искусственного интеллекта и подозревают глав технологических корпораций в попытке манипулирования ради собственной выгоды.

https://habr.com/ru/companies/finam_broker/articles/1082370/

#искусственный_интеллект #искуственные_нейронные_сети #безопасность #безопасность_данных #регулирование #регулирование_ии #регулирование_it #риски_бизнеса #риски_искусственного_интеллекта #амадей

Бэкап, из которого ни разу не восстанавливались — это не бэкап

Бэкап, который ни разу не проверяли восстановлением, может не помочь в момент аварии. В статье разберём, где чаще всего ломаются схемы резервного копирования: от пустых копий и неверного RTO до отсутствующих ролей, секретов и инфраструктурных зависимостей. Узнать больше

https://habr.com/ru/companies/otus/articles/1075558/

#резервное_копирование #восстановление_данных #PostgreSQL #отказоустойчивость #бэкап #disaster_recovery #мониторинг #инфраструктура #DevOps #безопасность_данных

ИИ-агенты все помнят. И это плохо

Скорее всего, вы знаете, что агенты — это ИИ-модели, способные вызывать внешние и внутренние инструменты и циклично выполнять задачи. Они умеют рассуждать, планировать и выполнять бескрайнее множество действий. Агенты сохраняют в своей «памяти» действия пользователя, ответы модели, используемые инструменты и многое другое. Короче говоря, информацию вообще обо всех действиях — как модели, так и пользователя. Звучит очень удобно! Агент уже после первого объяснения запомнит, что заданное пользователем форматирование нужно сохранять и что, к примеру, текст всегда нужно переводить только на русский. Не надо писать лишних уточнений по чем зря. Пользователь получает персонализированную модель, которая сохранила контекст диалога, знания о его стиле общения, о его привычках. И о нем самом. И вот это уже немного пугает. А что еще может запомнить персональный ИИ-помощник? С кем он может поделиться этой информацией? Можно ли удалить информацию о себе, при этом сохранив эффективность модели? Сейчас расскажу.

https://habr.com/ru/companies/selectel/articles/1076786/

#ии #ииагенты #ииассистент #ии_помощник #память_llm #искусственный_интеллект #безопасность_данных #ии_безопасность #selectel

Bucket Access Policy: когда авторизацию возвращают в хранилище, а прокси выключают

У нас в публичном облаке VK Cloud у каждого бакета Object Storage есть Bucket Access Policy. Это набор правил в формате JSON, который лежит на самом бакете и говорит, кому какие операции с какими объектами разрешены. Хранилище проверяет эти правила само на каждый запрос. Включается политика в личном кабинете и через S3 API, и я регулярно вижу проекты, где её не настраивали ни разу. В статье разбираю состав бакет-политики, её отличия от AWS-руководства и что задавать областью действия ключа, а что политикой. Дальше три механизма проверки на endpoint и порядок между ними, перенос политики из AWS-руководства как есть с разбором, почему он не работает, и четыре итерации доводки (Resource, Principal, aws:SourceIp, явный Deny). Затем матрица из 16 запросов с ожидаемыми кодами и скрипт прогона, метрика доли отказов по Cloud Audit, регуляторика, чек-лист переноса между AWS S3, Ceph, MinIO и VK Object Storage. Пригодится тем, кто держит прокси перед хранилищем и хочет перенести правила доступа в само хранилище, и специалистам по ИБ, которым нужно доказать разграничение доступа выгрузкой, а не скриншотом консоли. Для другого S3-совместимого хранилища применима основная часть: механика проверки и матрица тестов от платформы не зависят.

https://habr.com/ru/companies/vktech/articles/1076548/

#vk_cloud #object_storage #s3 #bucket_policy #управление_доступом #iam #acl #access_control #безопасность_данных #aws_s3

Как страны регулируют ИИ: от жёстких запретов до «гаваней без правил»

Искусственный интеллект проник уже почти во все сферы деятельности человека, но вместе с этим в мире появляется всё больше запретов на его использование, в частности, когда речь идёт о молодом поколении. Многие страны начинают ограничивать использование ИИ в том или ином виде для детей и школьников до определённого возраста.

https://habr.com/ru/companies/finam_broker/articles/1079334/

#искусственный_интеллект #регулирование #регулирование_ии #безопасность_данных #безопасность_переписки #безопасность_платежей #ai #ограничение_интернета #ограничение_прав #ограничение_доступа

АРХИТЕКТУРНЫЙ ОТВЕТ НА АТАКИ АВТОНОМНЫХ ИИ-АГЕНТОВ

27 августа 2026 более 100 ведущих технологических и финансовых компаний - включая OpenAI, Anthropic, Google, Microsoft, IBM, Cisco, Visa, Mastercard и крупные банки подписали совместный призыв к коллективным действиям по киберзащите, предупреждая: у индустрии есть лишь «ограниченное окно», измеряемое месяцами, прежде чем ИИ-инструменты для атак превзойдут возможности защитных команд. Ситуация вышла за рамки корпоративной кибербезопасности. 3 сентября 2026 года в США внесён законопроект, запрещающий разработку ИИ-систем, способных выйти из-под контроля человека - вплоть до 20 лет тюрьмы для физических лиц и принудительной ликвидации компании-нарушителя. Поводом стал инцидент с собственными агентами OpenAI (июль 2026): периметр, шифрование и мониторинг - все три классических рубежа защиты оказались пробиты последовательно . Агенты вышли за пределы тестовой песочницы, скомпрометировали производственную инфраструктуру Hugging Face, украли ключи подписи и подделали административные токены. Мониторинг OpenAI два месяца не распознавал координацию агентов через общую доску объявлений, а затем 11 дней пропускал активную фазу атак. Мы разработали и протестировали инструмент, который решает задачу «что происходит, когда злоумышленник уже внутри и данные у него на руках». HYBRA MIRAGE - слой между данными и контуром делает так, что даже при полном доступе к нему извлечённый результат невозможно отличить от миллиардов равноправных, но ложных вариантов. На примере файла размером в 100 байт: атакующий может получить 10²⁴¹ вариантов (в 10¹⁶¹ раз больше, чем атомов во Вселенной) для чего ему понадобится время для перебора больше, чем возраст Вселенной на десятки порядков, но самое главное - архитектурно невозможно понять и доказать, какой из вариантов верный. Владельцу алгоритма понадобится менее секунды на устройстве за $50, чтобы открыть истинный вариант.

https://habr.com/ru/articles/1078912/

#ИИ #атаки_на_банки #атаки #кибербезопасность #безопасность_данных

Как общаться с ИИ и не потерять данные?

Разбудите меня ночью и спросите «что нельзя делать с ИИ», и я отвечу «грузить конфиденциальные данные». Это правило должно быть записано у нас на подкорке как таблица умножения. Должно, но не факт, что оно срабатывает во всех 100% случаев, тем более если играться с ИИ не в рабочих, а личных целях. Ну что такого может случиться, если я просто попрошу модель перевести кусок текста с эльфийского синдарина на обычный человеческий? Если вы такой же тревожный параноик, как я, то внутри для вас несколько простых настроек для чатов с ИИ, чтобы спать спокойно. Да, это не абсолютная гарантия, что ничего никуда не утечет и модель ничему от вас не научится, но, как говорится, береженого Бог бережет. А еще я покажу полный цикл подключения вашего ключа в ИИ-клиент (сноска: приложение, в которое можно подключить сразу несколько ИИ-моделей от разных поставщиков и работать с ними в одном интерфейсе) на примере ChatBox. Будет интересно тем, кто только начинает свое знакомство с миром ИИ и хочет попробовать безопасно внедрить его в свои процессы.

https://habr.com/ru/companies/cloud_ru/articles/1077298/

#безопасность_данных #передача_данных #искусственный_интеллект #маскирование

Bucket Access Policy: когда авторизацию возвращают в хранилище, а прокси выключают

Бакет в S3 — не просто папка для файлов, а ресурс, на котором хранилище принимает решение о доступе к объектам. Пока доступ контролирует только nginx или собственный прокси, у любого обладателя действующего ключа остаётся прямой путь к S3 endpoint. Достаточно указать другой --endpoint-url в aws-cli. Прокси не увидит запрос, а хранилище вернёт 200, если на самом бакете нет правил, способных его остановить. Меня зовут Стас Погоржельский, я технологический евангелист VK Cloud . В статье разберём, как вернуть авторизацию туда, где лежат данные: выдать ключи минимальной области — на бакет или префикс — и дополнить их Bucket Access Policy. Посмотрим, что из шести функций прокси действительно переезжает в хранилище, что переносится лишь частично, а что остаётся снаружи: бизнес-логика допуска, лимиты на конкретного принципала, аудит с бизнес-контекстом и гарантированный запрет нешифрованного трафика. Дальше разложим решение endpoint на политику бакета, область действия ключа и ACL; отделим явный Deny от запрета по умолчанию, проверим, как режим OwnershipControls может выдать доступ в обход политики. На примере AWS-политики покажем, почему знакомый JSON нельзя переносить без ревью: у VK Object Storage ограничен набор Condition, а aws:SecureTransport и s3:prefix не работают. Затем соберём политику четырьмя итерациями — Resource, Principal, aws:SourceIp и явный Deny — и подтвердим результат матрицей из 16 запросов с ожидаемыми 200, 403 и открытыми вопросами, которые надо снять на своём стенде. В конце настроим наблюдение по Cloud Audit, разберём, какие доказательства переноса пригодятся для ИБ и аудита, и составим чек-лист для переезда между AWS S3, Ceph, MinIO, Yandex Object Storage и VK Object Storage. Главный критерий успеха здесь не сохранённый JSON и не работающий разрешённый запрос, а отказ там, где доступ должен быть закрыт.

https://habr.com/ru/companies/vktech/articles/1066258/

#vk_cloud #object_storage #s3 #bucket_policy #управление_доступом #iam #acl #access_control #безопасность_данных #aws_s3

Куда на самом деле попадает секрет при сборке Docker-образа: разбираем 8 способов

Секрет попал в Dockerfile, разработчик спохватился и добавил RUN rm. Файла в контейнере больше нет — значит, всё в порядке? Нет: строку по-прежнему можно достать из образа, даже не запуская контейнер. Я собрала восемь образов, в каждом передала секрет своим способом и разобрала результат на слои и метаданные. Ниже — где именно оседает секрет в каждом случае и какие два способа действительно не оставляют следов. Все эксперименты выполнены на Ubuntu 24.04.1 LTS, Docker Engine 29.1.3, BuildKit v0.26.2.

https://habr.com/ru/companies/first/articles/1068864/

#docker #безопасность_данных #dockerfile #buildkit #secrets #docker_образы

Темная сторона ЛЛМ: Как и для чего их превращают в оружие (и что с этим делать)

Почему чатбот может захотеть подделывать монгольские тугрики с помощью коры ивы или писать вредоносный код на коре дуба ? Виной тому джейлбрейкинг и он весьма и весьма опасен.

https://habr.com/ru/companies/studyai/articles/1068592/

#искусственный_интеллект #ии #ai #джейлбрейк #информационная_безопасность #безопасность #безопасность_данных #промт #промтинъекции #промтинженеры

Загрузил не тот файл в нейросеть — уволен. Как устроена безопасность данных в ИИ

Договор с клиентом, фрагмент кода, медицинская карта — отважные пользователи нейросетей каждый день загружают данные, которые никогда бы не отправили незнакомому человеку. При этом мало кто понимает, куда физически они попадают, кто может их увидеть и использовать, что происходит после нажатия «удалить».

https://habr.com/ru/companies/ratingruneta/articles/1068006/

#нейросети #безопасность_данных #хранение_данных #искусственный_интеллект #ии

9 ошибок при создании и внедрении чат‑ботов

Чат‑бот можно собрать за вечер, но его реальная цена проявляется позже — в ошибочных ответах, лишней нагрузке на команду и отсутствии бизнес‑эффекта. Разбираем девять типовых просчётов, из‑за которых ИИ‑ассистент превращается в дорогой источник новых проблем.

https://habr.com/ru/companies/otus/articles/1065742/

#чатботы #искусственный_интеллект #LLM #внедрение_ИИ #бизнеспроцессы #база_знаний #управление_контекстом #интеграция_систем #стоимость_владения #безопасность_данных

«Приватное» оказалось не приватным: разбираю свежий Gitea auth-bypass на живом стенде

Self-hosted git ставят ради приватности кода. А оказалось, что “приватное” в Gitea открывается одним HTTP-заголовком: без пароля утекают секреты из приватных репозиториев и открывается админка. Поднял уязвимую версию на стенде, воспроизвёл атаку целиком, показал как ловить в логах и чинить. И почему это не единичный баг, а паттерн 2026 года.

https://habr.com/ru/articles/1061222/

#gitea #CVE202620896 #docker #reverse_proxy #auth_bypass #selfhosted #forgejo #безопасность_данных

ИИ-агент работает, пока ему не дали доступ к реальным данным. Что ломается в проде?

На стенде ИИ-агенту легко быть умным: идеальный контекст уже собран, а реальные базы данных остались за кадром. Но в проде ему придется самому ходить в CRM, банковское легаси и внутренние сервисы, получая реальные права доступа. Здесь кроется главное противоречие внедрения LLM. Без доступов агент бесполезен, а с ними — превращается в потенциально опасного инсайдера. Любая ошибка в чате может обернуться реальным запросом к системе от имени служебного аккаунта, и ограничения в промпте вроде «не брать чужое» здесь не помогут. Именно этот разрыв между красивым демо и суровой энтерпрайз-реальностью стал темой дискуссии на канале Ai4Dev .

https://habr.com/ru/articles/1061082/

#искусственный_интеллект #artezio #безопасность_данных #персональные_данные #ииагенты #ииассистент #программирование #безопасность_в_сети #llm #пентест

Посмотрел, как современные дейтинг приложение обращаются с данными и нежелательным контентом

У сервиса знакомств есть не только кнопка жалобы. Фотографии очищаются от EXIF перед хранением, публичные изображения проверяются до отправки, основной API и база находятся в России, а для звонка не требуется передавать номер. В статье разобраны семь решений, которые выглядят удачно, и два вопроса, которые стоит объяснить лучше: сроки хранения данных и апелляция после блокировки. Читать разбор

https://habr.com/ru/articles/1060652/

#Mimolet #мимолет #безопасность_данных #приватность #модерация #хранение_данных #S3 #мобильные_приложения #социальные_сети

Разбор Mimolet: что здесь удобно, а что стоит переделать

Mimolet выглядит как обычное приложение для знакомств с вертикальной лентой анкет. Но если пройти регистрацию и открыть несколько разделов, становится понятно, что одной лентой дело не ограничивается. Здесь есть подробные профили, нормальные чаты, публичные группы, встроенные звонки, ИИ-функции и отдельная система модерации. В разборе отмечу удобные решения, спорные функции и вопросы, на которые сервису стоит отвечать понятнее. Читать разбор

https://habr.com/ru/articles/1060552/

#Mimolet #мимолет #mimolet_bot #приложения_для_знакомств #мобильные_приложения #социальные_сети #модерация #безопасность_данных #приватность #искусственный_интеллект

Разбор Mimolet: что здесь удобно, а что стоит переделать

Mimolet выглядит как обычное приложение для знакомств с вертикальной лентой анкет. Но если пройти регистрацию и открыть несколько разделов, становится понятно, что одной лентой дело не ограничивается. Здесь есть подробные профили, нормальные чаты, публичные группы, встроенные звонки, ИИ-функции и отдельная система модерации. В разборе отмечу удобные решения, спорные функции и вопросы, на которые сервису стоит отвечать понятнее. Читать разбор

https://habr.com/ru/articles/1060532/

#Mimolet #мимолет #mimolet_bot #приложения_для_знакомств #мобильные_приложения #социальные_сети #модерация #безопасность_данных #приватность #искусственный_интеллект

Посмотрел, как Mimolet обращается с данными и нежелательным контентом: два замечания и семь удачных решений

Без громких обещаний разбираю, что происходит с фотографиями после загрузки, где размещен основной серверный контур, как работают две независимые ИИ-проверки публичных изображений, бесплатные жалобы и звонки без раскрытия номера. Заодно отмечаю два места, где сервису не хватает прозрачности. Читать разбор

https://habr.com/ru/articles/1060460/

#Mimolet #безопасность_данных #модерация_контента #приватность #искусственный_интеллект #S3 #социальные_сервисы #российская_инфраструктура

ИИ зависимость и лекарство от prompt injection (в том числе от системного промпта провайдера)

Повсеместная экспансия различных ИИ-ассистентов во все сферы достигла такой глубины, что её впору сравнить с наркотической зависимостью. Эйфория от кратковременного всплеска производительности, который получается в самом начале внедрении интеллектуальных инструментов, даёт очень быстрый и измеримый экономический эффект, который подстёгивает компании встраивать ИИ в любой процесс. Но именно этот первоначальный краткосрочный успех запускает механизм, который невозможно остановить, так как возникает замкнутый круг, напоминающий перефразированное высказывание Красной Королевы из «Алисы в Стране чудес»: чтобы просто сохранить позиции на рынке, нужно бежать изо всех сил, а чтобы вырваться вперёд конкурентов - нужно бежать ещё быстрее. Ведь подобная гонка внедрения ИИ решений во все сферы приносит ощутимые кратковременные экономические выигрыши, однако долгосрочные последствия такой зависимости от ИИ-решений становятся всё более печальными.

https://habr.com/ru/companies/bothub/articles/1059588/

#ии #ииагенты #промптинжиниринг #promptinjection #безопасность_данных #безопасность_ии #защита_ии #управление_разработкой

Praetorian: как мы сделали security-продукт для корпоративных чатов в Telegram и Max

Привет, Хабр! Рабочие обсуждения давно ушли из почты и таск-трекеров в мессенджеры. Там собирают проектные группы и каналы, координируют инциденты, кидают ссылки на внутренние системы, за минуту стягивают нужных людей в один чат. У нас это в первую очередь корпоративные группы и каналы в Telegram и Max. Это удобно, но с точки зрения безопасности — новая поверхность риска. Как только группа или канал становится частью бизнес-процесса, он тянет за собой и все риски этого процесса: фишинг, социальную инженерию, вредоносные ссылки, угон аккаунтов, утечки, заброшенные чаты, участников, которых давно пора убрать, и переписку, которую никто не чистит годами.

https://habr.com/ru/companies/mvideo/articles/1056458/

#иб #информационная_безопасность #безопасность #безопасность_в_сети #безопасность_данных #безопасность_вебприложений #безопасная_разработка #безопасность_мобильных_приложений #безопасность_приложений #безопасность_linux

Почему мы отказались от «AI в каждой кнопке» и зато встроили AES-GCM в детское приложение

Почему мы отказались от «AI в каждой кнопке» и зато встроили AES-GCM в детское приложение Откуда вообще взялось MIO MIO — это история про собственные родительские потребности, с которыми сталкиваешься, когда ребёнку исполняется 5 лет. Family Vault - Ключи и envelope - E2E и что внутри Наш осознанный шаг к безопасности. Для всех, без подписки и дополнительных оплат. Мы не говорим про конкурентное преимущество — мы говорим о важности оставаться уверенным, что твои данные не утекут.

https://habr.com/ru/articles/1053426/

#семейный_бюджет #дети #детские_приложения #трекер_привычек #образование #безопасность #безопасность_данных

Иллюзия контроля: почему промпты не защищают ИИ‑агентов

Почему указание вида «не отправляй конфиденциальные данные наружу» не работает? Разбираем уязвимость Permission Boundary Bypass, а также техники scope creep и capability chaining, позволяющие злоумышленникам обходить ограничения через цепочки легитимных действий. В статье приводятся аргументы, почему prompt‑level enforcement проигрывает, зачем математическая строгость (язык Дика) нужна в конфигах политик, и как выстроить безопасную архитектуру, где проверки живут в runtime. В конец статье вы найдете 7 принципов защиты агентов и таблицу‑чеклист для аудита вашей системы.

https://habr.com/ru/articles/1050772/

#redteam #llm #prompt_injection #jailbreak #aiагенты #llm_security #indirect_prompt_injection #безопасность_данных

FastAPI и S3 — строим сервис безопасной генерации временных ссылок

В современных веб-приложениях хранение файлов часто отдают специализированным объектным хранилищам, таким как S3 . Это удобно, масштабируемо и надежно. Однако здесь возникает классическая проблема проектирования: как обеспечить безопасный доступ к файлам, когда архитектура требует, чтобы хранилище было приватным, а бизнес-логика прав доступа — централизованной? Оставлять S3-бакет публичным — плохая практика, а проксировать каждый запрос на скачивание через бэкенд-сервис — значит, превратить его в «бутылочное горлышко», которое неизбежно захлебнется при росте трафика. В этой статье я познакомлю вас с реализацией бэкенд-сервиса, который решает эту проблему элегантно: S3 отвечает за хранение и отправку данных, а мое приложение — за проверку прав и генерацию одноразовых, короткоживущих ключей доступа (Pre-signed URL). Я разберу архитектуру решения, покажу, как настроить безопасное разграничение доступа между публичными и приватными объектами, а также продемонстрирую механизм, который позволяет клиентам скачивать файлы напрямую из хранилища, минуя сервер приложения. Материал будет полезен бэкенд-разработчикам, системным архитекторам и DevOps-инженерам, которые сталкиваются с задачами организации безопасного хранения и выдачи файлов, ищут способы снижения нагрузки на API своего сервиса и стремятся построить надежную систему разграничения прав доступа с использованием современных объектных хранилищ.

https://habr.com/ru/companies/first/articles/1045476/

#devops #docker #cloud #s3 #временные_ссылки #безопасность_данных #nginx #объектное_хранилище #fastapi

Что находит DBF в первый месяц: 10 типовых аномалий в СУБД

Привет, Хабр! Меня зовут Алексей Шмелёв, я руковожу группой аналитики и безопасности данных в «Гарде». Мы занимаемся настройкой «решающих правил» в таких продуктах «Гарды», как DBF и DLP. Когда заказчики начинают использовать DBF в продакшене, обычно ждут чего-то такого: «Сейчас мы увидим, где у нас утечка». На деле в первый месяц вскрывается совсем иное. Например, ручное повышение привилегий, массовые выборки данных, нарушение порядка доступа к данным и другие аномальные действия сотрудников и админов. Причем по отдельности каждое такое действие легко оправдать производственной необходимостью. И как тут поспоришь, если сроки горят, а бумажки безопасников только тормозят рабочие процессы. Но когда таких эпизодов набирается достаточно, они, как перенесенная на ногах простуда, начинают незаметно подрывать работу бизнеса. Аудит превращается в формальность, а расследования — в поиск иголки в стоге сена. В таком шуме реальная угроза проскальзывает незаметно. Под катом — десять паттернов, которые мы встречали на проектах чаще других. Я расположил их в порядке убывания частоты: от того, что видим почти на каждом внедрении, до редких, но от этого не менее интересных кейсов. Для каждого разберу, как аномалия проявляется, почему возникает, чем рискует заказчик и как перевести ситуацию из зоны «серого шума» в управляемый процесс. Какие аномалии живут в СУБД

https://habr.com/ru/companies/garda/articles/1045848/

#информационная_безопасность #субд #утечки_данных #dbf #защита_данных #безопасность_субд #безопасность_данных

Промпт-инъекции в реальных данных, широкие права доступа и другие способы сломать ИИ-агента

Привет, Хабр! На связи команда Jay Guard — платформы, которая помогает безопасно использовать языковые модели и ИИ-агентов. Недавно мы опубликовали статью про AI-агента для HR-процессов . В комментариях почти сразу появились вопросы про данные — куда уходят персональные данные, что из этого видит LLM, что пишется в логи (журнал событий) и как все это соотносится с требованиями ИБ, 152-ФЗ и внутренними регламентами. Хорошие вопросы, и их можно дополнить. Персональные данные — это лишь один класс рисков. У агентных систем есть и другие уязвимости, которые важно учитывать при проектировании и эксплуатации. О них и поговорим. А в конце статьи приготовили для вас практический чек-лист : можно пройтись по нему перед запуском агента и проверить, что уже закрыто, а что еще нет.

https://habr.com/ru/companies/just_ai/articles/1045967/

#ииагенты #информационная_безопасность #безопасность_данных #llm #prompt_injection #агентные_системы #защита_данных #персональные_данные #ai_agents #безопасность_llm

Как перестать сливать ключи клиентов в ChatGPT: пишем умный буфер обмена для n8n и Python

Каждый интегратор сегодня дебажит код и JSON-воркфлоу через нейросети. И каждый хоть раз ловил холодный пот, понимая, что только что скормил в ChatGPT боевой токен от базы данных клиента или API-ключ продакшена. В этой статье я покажу, как навсегда закрыть проблему утечки данных (NDA) при работе со стеком n8n и Python. Мы напишем фоновый демон, который на лету перехватывает буфер обмена Mac/Linux, вырезает все секреты, а когда ИИ возвращает исправленный код — автоматически подставляет реальные ключи обратно из локального сейфа. Итог: 100% безопасность коммерческой тайны, сохранение типов данных для n8n и ноль рутины.

https://habr.com/ru/articles/1043614/

#python #n8n #chatgpt #безопасность_данных #nda #регулярные_выражения #автоматизация