#ииагенты — Public Fediverse posts

[Перевод] Я запустил 100 ИИ-агентов, чтобы они меня взломали. Пять раз у них получилось

Около сотни ИИ-агентов получили простую задачу — взломать аккаунты человека, зная только его имя. Я проверил это на себе: за пять часов агенты пять раз добились успеха, используя уязвимости старых проектов и слабые пароли. В статье рассказываю, как действовали агенты, сколько стоил эксперимент и почему подобные атаки вскоре могут стать массовыми. Читать про эксперимент

https://habr.com/ru/companies/otus/articles/1097872/

#социальная_инженерия #взлом_аккаунтов #кибербезопасность #пентест #поиск_уязвимостей #llm #ииагенты #автономные_ииагенты #аблитерация_моделей

Эволюция личных ИИ‑агентов: от суммаризации до автономной организации

Как четыре бытовых кейса превратились в инвестиционный офис из агентов — и почему человек из контура так и не выпал. Когда говорят о SDD, AI PDLC или HG PDLC, обычные люди считают эти аббревиатуры очень далёкими от реальной жизни и принадлежащими жёсткой корпоративной ИТ‑сфере. Расскажу на примере ряда своих опытов (от простого к сложному), как эти абстрактные понятия реализуются для личных идей и проектов.

https://habr.com/ru/articles/1098802/

#ai #sdd #aiагенты #pdlc #ииагенты #aiagent #opencode

Как я с нуля собрал кино-сервис с рекомендациями: Node.js, SQLite и немноголинейной алгебры

Знакомая ситуация: вечер, вы вдвоём или компанией хотите посмотреть кино — и следующие сорок минут листаете каталоги стримингов. Рекомендации «по вашим просмотрам» тут не помогают: смотрит-то компания, а не один человек. Разбираем архитектуру KINO PARTY (partykino.com) — каталога фильмов и сериалов на 900 000 тайтлов с рекомендациями без нейросетей и ML-инфраструктуры: разрежённые векторы, косинусное сходство, инвертированный индекс, real-time комнаты кино-свайпера на SSE и честное SEO.

https://habr.com/ru/articles/1098672/

#seo #express #sqlite #рекомендательные_системы #nodejs #capacitor #ииагенты #tmdb

PSLC и Agent-Ops: от поддержки продукта к изменению инфраструктуры

Привет! Я Сергей Житинский, основатель Git in Sky. Мы занимаемся эксплуатацией ИТ-инфраструктуры и разрабатываем открытую методологию Agent-Ops. О ней я уже рассказывал на Хабре . 19 октября я был на митапе OPS Talk by Sber. На стенде PSLC поговорил с Александром Шаповаловым, который представился архитектором методологии. После встречи захотелось прочитать материалы подробнее и разобраться, как подход Сбера соотносится с нашей работой. В AI-Disrupt PSLC много знакомого: агенты, контроль решений, сохранение опыта. Но выбирать между PSLC и Agent-Ops, на мой взгляд, незачем. Они описывают работу с разным масштабом: сопровождение продукта в целом и конкретную задачу на инфраструктуре. Покажу это на примере и расскажу, что сравнение подсказало для развития Agent-Ops.

https://habr.com/ru/articles/1098652/

#open_source #искусственный_интеллект #devops #llm #ииагенты #автоматизация_инфраструктуры #сезон_код_будущего

Как внедрить ИИ в бизнес: 5 уровней ИИтизации процессов и AI-Native-подход

Вы внедрили ИИ-агента в свою работу. Он показывает информацию по счетам, формирует сводки, разбирает входящие сообщения и делает ещё много полезного. Но на каком уровне автоматизации вы находитесь? И что делать дальше? В этой статье разберём, что такое ИИтизация, как внедрить ИИ-агента в рабочий процесс и почему следующий шаг - не обязательно более умный агент, а движение в сторону AI-Native-подхода к управлению процессами . В своей практике я выделяю 5 уровней ИИтизации (красивая формулировка для обозначения автоматизаций с помощью ИИ), все примеры рассмотрим на одном простом процессе - обработке входящих заявок. Узнать 5 уровней

https://habr.com/ru/articles/1098154/

#искусственный_интеллект #автоматизация_бизнеспроцессов #проектирование_бизнеспроцессов #llm #ииагенты #ainative #внедрение_ии_в_бизнес #автоматизация_с_помощью_ии #иитизация_бизнеспроцессов #интеграция_ии_в_бизнессистемы

Сначала радиус поражения: семь рамок, прежде чем пустить ИИ на свои серверы

Истории о том, как ИИ-агент «натворил дел» на сервере, похожи одна на другую. Модель не злая, она уверенная. Сделать её безошибочной нельзя, а решить заранее, во что обойдётся её ошибка, можно. Семь рамок, которые стоит поставить до первого запроса — независимо от того, какой инструмент вы выберете.

https://habr.com/ru/articles/1098582/

#резервное_копирование #mcp #ansible #ииагенты #безопасность_серверов #минимальные_привилегии

Дайджест новостей: PHP и его критические уязвимости, KYA в массы и QWEN-шпион ком-партии китая

Привет Хабр! Делюсь с вами интересными инфоповодами. Сегодняшнее направление моего ресёрча — Агентная экономика и её издержки.

https://habr.com/ru/articles/1098386/

#php #уязвимость #инфобез #ииагенты

ИИ-агенту запретили менять проект. Он удалил рабочую базу данных

В июле 2025 года основатель SaaStr Джейсон Лемкин экспериментировал с ИИ-агентом Replit. Проект уже работал, и Лемкин попросил агента ничего не менять без разрешения. По его словам, запрет он повторил одиннадцать раз. Не помогло. Агент удалил данные о более чем тысяче руководителей и компаний из рабочей базы. Позже информацию удалось восстановить, но сначала система сообщила, что это невозможно. Самое любопытное здесь даже не поведение ИИ. У агента вообще была техническая возможность удалить данные, хотя для выполнения задачи она ему не требовалась. Разбираюсь, почему инструкции в промпте не заменяют права доступа и какие ограничения стоит предусмотреть до подключения ИИ к рабочим системам. Читать разбор

https://habr.com/ru/articles/1098246/

#автоматизация #базы_данных #права_доступа #продакшен #replit #безопасность_ии #ииагенты #humanintheloop

Сколько примеров нужно, чтобы проверить безопасность AI-приложения

С этим вопросом мы столкнулись при улучшении нашего продукта для red-teaming. Вы реализовали приложение, меры безопасности для него, и проверили, что все работает. Если приложение выдержало все попытки обойти защиту, хочется считать проверку успешной. Но, возможно, их было недостаточно, чтобы обнаружить нарушения. В статье описываем решение, которое помогает различать «нарушений не нашли» от «у нас данных недостаточно».

https://habr.com/ru/articles/1098234/

#безопасность #opensource #ai #llm #ииагенты #promptinjection

Ошибки нейросетей – не повод для шуток, а список правил, которые мы не записали

Привет, Хабр! Меня зовут Дмитрий Старов, я руковожу департаментом «Инструменты и технологии разработки» в компании «Диасофт». В профессии я уже 28 лет, и все эти годы честно работал в том, что про себя называю «цехом». Цех – это мы с вами: разработчики, аналитики, тестировщики, архитекторы. За десятилетия мы выстроили для себя очень удобный мир. В этом мире – свой язык, свои ритуалы и своя сложность, в которой со стороны никто не разбирается. Человек из бизнеса смотрит на схему наших микросервисов и хватается за голову, а мы понимающе киваем: так и задумано. Внутри – интересно, комфортно. А остальное человечество давно привыкло к простому правилу: хочешь что-то автоматизировать, иди на поклон к ИТ. Когда в этот наш мир пришли нейросети, которые пишут код, цех отреагировал так, как реагирует любое сообщество на угрозу. В профессиональных чатах обмен практиками сменился обменом анекдотами. Жанр узнаваемый: то модель выдумает метод, которого нет ни в одной библиотеке, то ассистент уверенно починит падающий тест, закомментировав проверку, то агент с правами на прод распорядится ими по-своему. Подтекст у всех историй один: «хрень это все, ИИ-разработка, этот модный вайб-кодинг скоро помрет». Я читал эти чаты, в том числе на тг-канале «Департамент разработки» . Над какими-то особенно прикольными случаями и сам посмеялся. Но уже тогда для себя решил, что ИИ пришел надолго, если не навсегда. И вопрос не в том, ошибается ли модель, а в том, как с этим жить и как этим управлять. Как сказал кто-то из классиков, если что-то нельзя предотвратить – это нужно возглавить. В итоге, в результате переосмысления подходов, в последний год я практически перестал заглядывать в сгенерированный код. Не потому, что махнул рукой: проверять теперь приходится другое – спецификацию, тесты и то, что система в итоге делает.

https://habr.com/ru/companies/diasoft_company/articles/1097972/

#мультиагентные_системы #aiагенты #ииагенты #вайбкодинг #harness #ai_sdlc #aidriven_разработка #экосистема_digital_q

Не знаю базы ЯП, но с агентами построил ИИ, которому нужно в 250 раз меньше опыта, чем PPO

Не знаю базы ЯП, но с агентами построил ИИ, которому нужно в 250 раз меньше опыта, чем PPO. Всем привет, меня зовут Никита, я AI Native разработчик. Сегодня покажу свой главный проект - WorldBased Spiked Neuralsymbolic AI. Это ИИ с моделью мира на спайковой нейросимвольной сети.

https://habr.com/ru/articles/1098108/

#обучение_с_подкреплением #спайковые_нейронные_сети #dqn #ppo #ииагенты #claude_code #нейросимвольный_ии #ainative #world_model #minigrid

Тестирование ИИ-агента реального действия на выполнение неназванных условий: прогоны на DeepSeek

Что показали 3360 испытаний и что агент при этом сообщал пользователю Ранее мы описывали методологию создания тестовой системы для ИИ-агентов с вызовом функций, имеющих реальный эффект. https://habr.com/ru/articles/1090748/ . Ее основная идея заключается в том, что для совершения действия агент должен проанализировать условия, которые обеспечивают правомерность действия, но при этом он может их узнать только из внешнего источника – из ответа функции чтения или из доступного ему документа, то есть условие имеет статус неназванного. Методология позволяет воспроизводимо проверить, вызовет ли ИИ-агент функцию, когда вызывать ее нельзя, а также сопоставить с действием ответ агента, который он даст при этом пользователю. Метод, план прогона, карты ошибок и подробный анализ опубликованы в препринте https://doi.org/10.5281/zenodo.23556771 . Здесь мы представим лишь некоторые выводы, касающиеся работы агента плюс несколько замечаний о методе. Главный результат прогона: удержит ли агент условие, зависит прежде всего от того, как оно записано в данных. Норму, записанную словом в имени поля или значением-запретом, DeepSeek соблюдал почти всегда. Запрет, который нужно вывести из описания объекта, он нарушал и без всякого давления. В большинстве срывов агент называл препятствие и всё равно выполнял действие.

https://habr.com/ru/articles/1098088/

#методы_тестирования #ииагенты #deepseek

Как я заставил ИИ-агентов собирать себе harness под конкретную задачу

Я дал Claude Code (Opus 5.5) тестовое задание: нарисовать в SVG сцену из «Бегущего по лезвию 2049». Агенты, которые я пробовал, провалили его одинаково: на настоящий кадр никто не посмотрел, рисовали по памяти и сообщали бездумно, что готово. Тогда я начал подсказывать агенту вопросы: есть ли документация, с чем сравнивать результат, когда остановиться. Из этих вопросов вырос AutoHarness — скилл, который заставляет агента подготовиться к задаче до того, как он начнёт её делать.

https://habr.com/ru/articles/1098004/

#open_source #mcp #skills #codex #ииагенты #claude_code #gemini_cli #harness

Чёлка MacBook как пульт для ИИ-агентов: Claude Code, Codex, Cursor и Copilot в одном месте

Вы запускаете трёх агентов сразу. Один закончил. Второй уже десять минут ждёт вашего «да». Третий упал, и вы об этом не знаете. Узнаёте, только когда по очереди переключаете окна. Мы сделали Lumio, чтобы больше так не работать. Это бесплатное приложение для Mac, которое превращает чёлку MacBook в пульт для ИИ-агентов. В версии 1.2 к Claude Code и Codex добавились Cursor и GitHub Copilot в VS Code. Теперь все четыре видны в одном месте, и почти на всё можно ответить, не открывая редактор.

https://habr.com/ru/articles/1097994/

#macbook #macos #cursor #github_copilot #codex #aiагенты #ииагенты #claude_code #вайбкодинг #челка_macbook

[Перевод] 8 новых терминов в области ИИ, которые полезно знать

Как ИИ-энтузиаст и технический писатель, который уже более пяти лет пишет об ИИ, я и так знаком со многими терминами. Но потом я подумал: «Есть же термины из области ИИ, которые людям стоит знать, в том числе и более новые». Поэтому я написал эту статью, чтобы рассказать о 8 терминах и объяснить их как можно проще, не углубляясь в технические детали. В следующий раз, когда вы услышите или прочитаете о них, вы будете знать, что они означают.

https://habr.com/ru/articles/1097880/

#ии #термины #agi #ииагенты

ИИ‑агент захватил штурвал моего пет‑проекта. Возвращаю его с помощью интерактивных объяснений и двух промптов

Всем привет! Меня зовут Дина, я Java‑разработчик, около шести лет в энтерпрайзе. С апреля начала делать пет‑проект вместе с ИИ‑агентом: он писал код, я ставила задачи и смотрела на тесты. Всё шло хорошо: тесты были зелёными, сценарии закрывались, а потом я открыла проект и поняла, что чётко не осознаю, как в нём устроен главный сценарий: от запроса до готового видео. Эта статья о том, как я возвращала себе понимание собственного кода.

https://habr.com/ru/articles/1097826/

#тестирование #java #code_review #springboot #промпты #ииагенты #claude_code #вайбкодинг #когнитивный_долг #агентская_разработка

Применение агентских пайплайнов в игровой разработке

Буквально летом прошлого года я писал статью про первые шаги в разработке игры на Unity, и в этой статье, в том числе, я описывал свое мнение на тему того, что вайбкодинг - по сути зло, потому что типа ты сейчас создашь кучу кода, не разберешься как она работает, и потом не сможешь ее отладить. Так вот, спустя год я описываю подход в котором.....ну вы поняли, да?))) Используется чисто вайбкодинг. Есть конечно сложности (одну из них вы можете видеть на обложке этой статьи) В статье расскажу про пайплайны, которые мне прямо сейчас помогают в типовых рутинных операциях в ходе работы над проектом.

https://habr.com/ru/articles/1097802/

#unity #разработка_игр #ииагенты

Как мы переписали legacy-систему с помощью ИИ и оставили работать в ней ИИ-агентов

Есть старые системы, которые работают как часы. Они годами встроены в бизнес-процессы, обмениваются данными с другими приложениями, а пользователи знают их сценарии почти наизусть. Поэтому выключить такую систему потому, что просто хочется более современный стек, довольно сложно. Но рано или поздно технологию всё равно приходится менять. И тут возникает закономерный вопрос: как перенести систему, от которой зависит привычная работа пользователей, на новую технологическую платформу и при этом не потратить на миграцию годы и огромную команду? В НЛМК ИТ мы решили проверить на реальном проекте не только новый инструмент, но и новый подход к организации разработки. Вместо привычной проектной группы мы дали задачу одному инженеру, который координировал команду ИИ-агентов. На первом этапе эксперимента трудозатраты IT на разработку сократились в 10 раз. Но самое интересное произошло уже после миграции. Мы оставили ИИ-агента работать внутри новой системы — теперь он помогает пользователям. Получилась история не только о том, как переписать legacy с помощью ИИ, а о том, что происходит с разработкой и поддержкой, когда у инженера появляется слаженная команда цифровых помощников.

https://habr.com/ru/companies/nlmk/articles/1091666/

#ии #ииагенты #legasy

Запускаем локальные альтернативы ChatGPT и Claude: пять открытых ИИ-моделей для GPU 8–32 ГБ

В сентябре появились новые, более мощные модели: Claude Fable 5.1, GPT-6 Astra, Gemini 3.8 Flash. Однако использовать эти модели становится всё сложнее — из-за сокращающихся лимитов подписок, роста стоимости (уже есть подписка по 500 долларов в месяц!) и внезапных блокировок аккаунтов. Альтернатива — открытые модели, которые можно развернуть на своем оборудовании или арендованном сервере. Для части из них достаточно обычной RTX с 8–12 ГБ видеопамяти; для более крупных можно использовать GPU с 24–32 ГБ. Мы выбрали несколько таких моделей, включая новинки последних месяцев, чтобы разобрать, на что они способны и какие задачи могут решать.

https://habr.com/ru/companies/mclouds/articles/1094338/

#нейросети #gpt #mimo #иимодель #ииассистент #gemma #qwen #ииагенты #deepseek #локальные_модели