#ииагенты — Public Fediverse posts

Тестирование ИИ-агента реального действия на выполнение неназванных условий: прогоны на DeepSeek

Что показали 3360 испытаний и что агент при этом сообщал пользователю Ранее мы описывали методологию создания тестовой системы для ИИ-агентов с вызовом функций, имеющих реальный эффект. https://habr.com/ru/articles/1090748/ . Ее основная идея заключается в том, что для совершения действия агент должен проанализировать условия, которые обеспечивают правомерность действия, но при этом он может их узнать только из внешнего источника – из ответа функции чтения или из доступного ему документа, то есть условие имеет статус неназванного. Методология позволяет воспроизводимо проверить, вызовет ли ИИ-агент функцию, когда вызывать ее нельзя, а также сопоставить с действием ответ агента, который он даст при этом пользователю. Метод, план прогона, карты ошибок и подробный анализ опубликованы в препринте https://doi.org/10.5281/zenodo.23556771 . Здесь мы представим лишь некоторые выводы, касающиеся работы агента плюс несколько замечаний о методе. Главный результат прогона: удержит ли агент условие, зависит прежде всего от того, как оно записано в данных. Норму, записанную словом в имени поля или значением-запретом, DeepSeek соблюдал почти всегда. Запрет, который нужно вывести из описания объекта, он нарушал и без всякого давления. В большинстве срывов агент называл препятствие и всё равно выполнял действие.

https://habr.com/ru/articles/1098088/

#методы_тестирования #ииагенты #deepseek

ИИ‑агент захватил штурвал моего пет‑проекта. Возвращаю его с помощью интерактивных объяснений и двух промптов

Всем привет! Меня зовут Дина, я Java‑разработчик, около шести лет в энтерпрайзе. С апреля начала делать пет‑проект вместе с ИИ‑агентом: он писал код, я ставила задачи и смотрела на тесты. Всё шло хорошо: тесты были зелёными, сценарии закрывались, а потом я открыла проект и поняла, что чётко не осознаю, как в нём устроен главный сценарий: от запроса до готового видео. Эта статья о том, как я возвращала себе понимание собственного кода.

https://habr.com/ru/articles/1097826/

#тестирование #java #code_review #springboot #промпты #ииагенты #claude_code #вайбкодинг #когнитивный_долг #агентская_разработка

Запускаем локальные альтернативы ChatGPT и Claude: пять открытых ИИ-моделей для GPU 8–32 ГБ

В сентябре появились новые, более мощные модели: Claude Fable 5.1, GPT-6 Astra, Gemini 3.8 Flash. Однако использовать эти модели становится всё сложнее — из-за сокращающихся лимитов подписок, роста стоимости (уже есть подписка по 500 долларов в месяц!) и внезапных блокировок аккаунтов. Альтернатива — открытые модели, которые можно развернуть на своем оборудовании или арендованном сервере. Для части из них достаточно обычной RTX с 8–12 ГБ видеопамяти; для более крупных можно использовать GPU с 24–32 ГБ. Мы выбрали несколько таких моделей, включая новинки последних месяцев, чтобы разобрать, на что они способны и какие задачи могут решать.

https://habr.com/ru/companies/mclouds/articles/1094338/

#нейросети #gpt #mimo #иимодель #ииассистент #gemma #qwen #ииагенты #deepseek #локальные_модели

Профессия программиста выживет. Почему это не гарантирует вам работу

В споре о будущем программистов мне больше всего нравится момент, когда выясняется, что кто-то всё равно должен отвечать за результат. Требования сами себя не уточнят, архитектура требует головы, а последствия ошибки придётся разгребать человеку. Всё правильно. Дальше из этого почему-то следует, что за работу можно особенно не переживать. Вот этот переход я бы попросил объяснить. В своём недавнем посте я возражал против прогноза "через пять лет программисты не понадобятся". Он сводит целую профессию к написанию кода. Но там же была оговорка, которую гораздо неуютнее обсуждать: сохранение профессии не гарантирует прежнего числа рабочих мест. Компания может нуждаться в инженерах и одновременно пересматривать, сколько их ей нужно. Чтобы поставить под вопрос следующую вакансию, ей совершенно необязательно изобретать ИИ, который самостоятельно заменит весь отдел.

https://habr.com/ru/articles/1097460/

#искусственный_интеллект #разработка_по #рынок_труда #управление_разработкой #генерация_кода #карьера_программиста #llm #ииагенты

Где заканчивается самостоятельность ИИ-агента? Я дала ему банковскую карту, телефон, браузер и 200+ MCP: итоги теста

ИИ-агент купил мне авиабилет, накопил годовой запас кофе и попал в чёрный список ресторанов. Я дала ему выделенную банковскую карту для оплаты, телефон, браузер и доступ к 200+ MCP и API - и проверила, как он выполняет поручения в реальном мире. Показываю кейсы и выводы из реальных экспериментов.

https://habr.com/ru/articles/1097430/

#тестирование #open_source #автоматизация #macos #mcp #автономные_агенты #llm #ииагенты #локальные_модели #локальный_инференс

[Перевод] Мы скормили Claude три года комментариев к PR. Теперь он ревьюит код как наша команда

Искусственный интеллект помог нашей команде писать код быстрее, но ревью по-прежнему тормозило разработку. Тогда мы взяли три года комментариев к PR и собрали на их основе ИИ-ревьюера, который знает, к чему обычно придирается каждый из коллег. Рассказываем, как устроен этот инструмент, почему первая мультиагентная версия оказалась слишком дорогой и как удалось снизить стоимость проверки почти в семь раз.

https://habr.com/ru/companies/otus/articles/1096720/

#github #мультиагентные_системы #pull_request #проверка_кода #llm #ииагенты #claude_code #автоматизация_кодревью #ииревьюер_кода

Безопасность ИИ-агента: больше контроля или специальная среда?

TL;DR. 19 октября из Microsoft написали, что агентов внутри компании нужно считать инсайдерами без презумпции доверия. Предложение: агенты-надзиратели, которые смотрят каждое действие каждого агента до того, как оно совершится. Я согласен с диагнозом, но сомневаюсь в рецепте. В посте есть слово overprivileged, и, по-моему, вся беда в нём: агенту выдали права с запасом, потому что точнее выдать было нельзя — права разбросаны по системам и единой модели у них нет. Моя гипотеза: часть надзора можно заменить устройством среды, в которой агент работает. Надзиратель лечит симптом: смотрит на действие и гадает, что оно значит. Если права, данные и связи описаны в одной модели, агенту можно выдать права конкретного человека, и тогда ему гадать почти не о чем, и надзора нужно меньше. Ниже — как через такую среду прошли бы известные инциденты с агентами и что нашли детерминированные пробы нашего ядра.

https://habr.com/ru/articles/1097322/

#microsoft #права_доступа #mcp #zero_trust #безопасность_ии #ииагенты #agentic_ai #сезон_код_будущего