#agentic_ai — Public Fediverse posts

In today's episode of don't trust LLMs with your private data:

#GitLost: How We Tricked GitHub's AI Agent Into Leaking Private Repos

https://noma.security/blog/gitlost-how-we-tricked-githubs-ai-agent-into-leaking-private-repos/

#llm #ai #cybersecurity #promptinjection #github #agents #agent #agentic #agentic_ai

In today's episode of don't trust LLMs with your private data:

#GitLost: How We Tricked GitHub's AI Agent Into Leaking Private Repos

https://noma.security/blog/gitlost-how-we-tricked-githubs-ai-agent-into-leaking-private-repos/

#llm #ai #cybersecurity #promptinjection #github #agents #agent #agentic #agentic_ai

My new book is out: "Agentic AI. Technical Autonomy, Human Responsibility, and Legal Governance".

AI systems no longer merely generate content: they act. What limits before? What evidence during? Who answers after? A method, from the AI Act and GDPR to executable code.

https://www.nicfab.eu/en/pages/book-agentic-ai/

#AI #AIAct #agentic_ai #gdpr #artificialintelligence

My new book is out: "Agentic AI. Technical Autonomy, Human Responsibility, and Legal Governance".

AI systems no longer merely generate content: they act. What limits before? What evidence during? Who answers after? A method, from the AI Act and GDPR to executable code.

https://www.nicfab.eu/en/pages/book-agentic-ai/

#AI #AIAct #agentic_ai #gdpr #artificialintelligence

[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу

ИИ-агент может написать убедительный ответ и при этом вызвать не тот инструмент, потерять состояние между ходами или принять неверное решение с высокой уверенностью. Для обычной языковой модели это была бы проблема качества текста. Для агентной системы это уже риск в цепочке действий, где результату доверяют другие сервисы и люди. Поэтому валидация агентов начинается с вопроса не «насколько точна модель», а «как именно система может дать сбой». Разобрать отказы

https://habr.com/ru/companies/otus/articles/1056170/

#ииагент #agentic_ai #валидация_ИИ #LLM #галлюцинации #использование_инструментов #многошаговое_рассуждение #отказоустойчивость

Problem: Self-improving agents are only as strong as the evaluator scoring them, they eventually stall.

Red Queen hypothesis in evolutionary biology: species must constantly adapt, evolve against similarly ever-evolving opposing species (co-evolution).

The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators https://arxiv.org/abs/2606.26294

In Red Queen Gödel Machine (RQGM) the evaluator is part of the search, letting agents and the criteria that judge them co-evolve.

This is very preliminary work, but the idea seems interesting.

#ml #agentic_ai #ai

Problem: Self-improving agents are only as strong as the evaluator scoring them, they eventually stall.

Red Queen hypothesis in evolutionary biology: species must constantly adapt, evolve against similarly ever-evolving opposing species (co-evolution).

The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators https://arxiv.org/abs/2606.26294

In Red Queen Gödel Machine (RQGM) the evaluator is part of the search, letting agents and the criteria that judge them co-evolve.

This is very preliminary work, but the idea seems interesting.

#ml #agentic_ai #ai

https://theherpetologistsocialscientist.substack.com/p/first-impressions-of-kepler

My first impressions of Gitkraken's Kepler.

#agentic_ai #agentic_coding

https://theherpetologistsocialscientist.substack.com/p/first-impressions-of-kepler

My first impressions of Gitkraken's Kepler.

#agentic_ai #agentic_coding

Шесть недель с agentic AI против фрода в adversarial-системе

Я слишком рано понёс первые результаты в наш продукт. Тогда это выглядело логично: мы прикрутили агентный ИИ к анализу логов и поведения пользователей в regulated продукте с реальными денежными операциями, качество обнаружения пошло вверх, аналитики по фроду стали меньше возвращать инженерам мусорные кейсы. Снаружи это уже выглядело рабочим слоем защиты: аналитики видели меньше мусора, инженеры получали более понятные issues, и продукт наконец увидел практическую пользу вместо очередного демо. Я примерно так и сказал: “смотрите, это уже не игрушка”. Плохая фраза, как оказалось. Потому что как только защита начинает работать, даже чуть-чуть, вокруг сразу появляются нормальные взрослые вопросы. А давайте это в платежи? А в бонусный абьюз? А в L7? А в социнженерию? А в странные кейсы саппорта, где один тикет внезапно объясняет половину графика? Вопросы честные. Только дорогие. И в системах с живым противником есть ещё одна неприятная деталь: рабочая защита становится сигналом для другой стороны. Пишу по собственному инженерному опыту. Детали слегка обобщены и обезличены, потому что в антифроде лишняя конкретика быстро превращается в инструкцию для другой стороны.

https://habr.com/ru/articles/1053668/

#fraud_detection #llm #agentic_ai #observability #clickhouse #kafka #langgraph #антиабьюз

Как агент сам откроет дверь хакеру? Разбираю три реальных пробоя AI-агентов и почему обычный ред-тиминг их не найдёт

В 2026 году основной поверхностью атак становятся уже не сами LLM, а AI-агенты с инструментами, памятью и доступом к внешним сервисам. Я добавил в свой open-source сканер BarkingDog режим тестирования Agentic AI и проверил три популярных open-source проекта: Agno, OpenAI CS Agents Demo и LangGraph agent-service-toolkit. В результате получил три разных класса проблем: Confused Deputy (ASI03), Trust Exploitation (ASI08) и Agentic DoS (ASI06). В статье разбираю реальные пейлоады, ответы агентов, архитектурные причины этих уязвимостей.

https://habr.com/ru/articles/1052922/

#LLM #AI_Agents #Agentic_AI #Red_Teaming #OWASP_ASI #MCP #Prompt_Injection #LangGraph #Agno #BarkingDog

Как агент сам откроет дверь хакеру? Разбираю три реальных пробоя AI-агентов и почему обычный ред-тиминг их не найдёт

В 2026 году основной поверхностью атак становятся уже не сами LLM, а AI-агенты с инструментами, памятью и доступом к внешним сервисам. Я добавил в свой open-source сканер BarkingDog режим тестирования Agentic AI и проверил три популярных open-source проекта: Agno, OpenAI CS Agents Demo и LangGraph agent-service-toolkit. В результате получил три разных класса проблем: Confused Deputy (ASI03), Trust Exploitation (ASI08) и Agentic DoS (ASI06). В статье разбираю реальные пейлоады, ответы агентов, архитектурные причины этих уязвимостей.

https://habr.com/ru/articles/1052922/

#LLM #AI_Agents #Agentic_AI #Red_Teaming #OWASP_ASI #MCP #Prompt_Injection #LangGraph #Agno #BarkingDog

Как агент сам откроет дверь хакеру? Разбираю три реальных пробоя AI-агентов и почему обычный ред-тиминг их не найдёт

В 2026 году основной поверхностью атак становятся уже не сами LLM, а AI-агенты с инструментами, памятью и доступом к внешним сервисам. Я добавил в свой open-source сканер BarkingDog режим тестирования Agentic AI и проверил три популярных open-source проекта: Agno, OpenAI CS Agents Demo и LangGraph agent-service-toolkit. В результате получил три разных класса проблем: Confused Deputy (ASI03), Trust Exploitation (ASI08) и Agentic DoS (ASI06). В статье разбираю реальные пейлоады, ответы агентов, архитектурные причины этих уязвимостей.

https://habr.com/ru/articles/1052922/

#LLM #AI_Agents #Agentic_AI #Red_Teaming #OWASP_ASI #MCP #Prompt_Injection #LangGraph #Agno #BarkingDog

Mario #Zechner - the creator of the #piagent (https://pi.dev) opens the first #AICodingGraz Meeting by showing (and talking about) his latest creation: a tiny, super cheap, speach-driven, ai-hooked adorable toy #robot.

full stack open source -
this guy rocks!

https://github.com/badlogic/pibot
https://mariozechner.at/posts/2026-05-30-shitty-robot/

#agentic_ai #llm #ai #graz

Mario #Zechner - the creator of the #piagent (https://pi.dev) opens the first #AICodingGraz Meeting by showing (and talking about) his latest creation: a tiny, super cheap, speach-driven, ai-hooked adorable toy #robot.

full stack open source -
this guy rocks!

https://github.com/badlogic/pibot
https://mariozechner.at/posts/2026-05-30-shitty-robot/

#agentic_ai #llm #ai #graz

ИИ в химии: история участия в хакатоне и рефлексия после

Всем привет! Меня зовут Константин Ушенин, я — ведущий научный сотрудник в AIRI, занимаюсь приложениями искусственного интеллекта в химии и фармакологии. В конце марта 2026 года мы с коллегами выиграли суточный хакатон от Сбера, ИТМО и СПБ ГБУ Молодёжного пространства «ПРОСТО» по созданию ИИ‑ассистента для планирования синтеза в лаборатории органической химии. Мероприятие прошло три месяца назад, однако мы завершили рефлексию результата только сейчас и решили сделать полный разбор. В этом посте вы узнаете про этапы нашей подготовки, выработку победной стратегии, решение проблем, возникавших по ходу соревнований, и наш подход к подготовке финальной презентации. В конце проведен анализ наших правильных и неправильных решений, а также дана оценка того, как реальное продуктовое решение должно отличаться от созданного на хакатоне. Но технологический ИИ‑стек на службе у химии — это не самое главное, о чём я хотел бы рассказать. Ключевую роль в нашей победе сыграла организация команды, распределение ролей и стрессоустойчивость всех её членов. Путь к первому месту оказался полным разных испытаний: начиная от неудобного стола и заканчивая хакерской атакой на наше решение за полчаса до защиты. В общем, получилось довольно остросюжетно, приятного чтения!

https://habr.com/ru/companies/airi/articles/1050580/

#hackaton #agentic_ai #chemistry #cheminformatics #llmагент #агентный_ии #хакатон

Если клиент не идёт в больничку — телефонный бот для телемедицины

Расскажу, как я писал телефонного бота для обзвона клиентов страховой компании. Как сокращал время ответа и боролся с подвисанием при вызове API.

https://habr.com/ru/articles/1047236/

#agentic_ai #voice_assistant #twilio #promptengineering #langgraph #cloudformation #aws

Prompt injection нельзя запатчить: год «летальной триады» и лента CVE 2026 года

В марте 2026-го бэкдор пролежал на PyPI около трёх часов. За это время заражённый пакет скачали почти 47 тысяч раз. Пакет назывался LiteLLM — это шлюз к языковым моделям, на котором держатся CrewAI, DSPy, Microsoft GraphRAG и ещё десятки агентных фреймворков. Тот, кто за эти три часа обновлял зависимости, вместе с обновлением затащил к себе автономного бота-атакующего по имени hackerbot-claw. Самое неприятное здесь даже не масштаб. А то, что человека в этой цепочке практически не было. Бот сам, без ручного управления после запуска, отравил инфраструктуру, на которой работают другие боты. Сначала, в феврале, он находил неправильно сконфигурированные GitHub Actions в открытых репозиториях. Потом через скомпрометированную сборку Trivy у Aqua Security увёл токен публикации LiteLLM на PyPI. И залил две версии с бэкдором напрямую в реестр. Никакого нуля-дня в традиционном смысле, никакого переполнения буфера. Просто агент, которому дали достаточно прав и достаточно автономии. Я начинаю с этой истории не ради хайпа, а потому что она хорошо показывает, во что превратился prompt injection к 2026 году. Это уже не лабораторный курьёз и не «а что если модель послушает злую инструкцию из письма». Это рабочий класс атак с собственной лентой CVE, своими supply-chain инцидентами и — что важнее всего — без понятного способа «взять и починить». В этой статье я разберу, почему так вышло, пройдусь по конкретным дырам прошедшего года и покажу, какие защиты реально работают, а какие только выглядят убедительно.

https://habr.com/ru/articles/1048208/

#prompt_injection #ИИагенты #LLM #информационная_безопасность #летальная_триада #OWASP #EchoLeak #CaMeL #agentic_AI #MCP

Fedora: Agentic AI stiftet Chaos
https://linuxnews.de/fedora-agentic-ai-stiftet-chaos/ #fedora #agentic_ai #linux #linuxnews

Fedora: Agentic AI stiftet Chaos
https://linuxnews.de/fedora-agentic-ai-stiftet-chaos/ #fedora #agentic_ai #linux #linuxnews

Siemens «сломал» игру: почему их новый ИИ-агент навсегда изменит программирование ПЛК в TIA Portal

Интеграция больших языковых моделей (LLM) в процессы промышленной автоматизации долгое время упиралась в серьезное ограничение: базовые ИИ-модели предлагают лишь обобщенные фрагменты кода, которые инженеру приходится вручную адаптировать под архитектуру конкретного проекта. Этот процесс сопряжен с риском галлюцинаций, не учитывает реальную топологию сети и часто сводит на нет всю экономию времени.

https://habr.com/ru/articles/1047308/

#Siemens #TIA_Portal #ПЛК #PLC #HMI #AI #Agentic_AI #LLM #SCL #автоматизация

في غابة #لينكدإن" المزدحمة بقصص النجاح المعلبة التي تدعي بناء شركات #يونيكورن في أسبوعين عبر ما يسمى بـ #Vibe_Coding طرد مدير تقني،قضى عقدين في البرمجة ،فريقه البشري واستبدله بالكامل #Agentic_AI لمدة 40 يوماً. هذه النتيجة. النقاش في #FuturNowPodcast
https://tinyurl.com/37sh3t9h

في غابة #لينكدإن" المزدحمة بقصص النجاح المعلبة التي تدعي بناء شركات #يونيكورن في أسبوعين عبر ما يسمى بـ #Vibe_Coding طرد مدير تقني،قضى عقدين في البرمجة ،فريقه البشري واستبدله بالكامل #Agentic_AI لمدة 40 يوماً. هذه النتيجة. النقاش في #FuturNowPodcast
https://tinyurl.com/37sh3t9h

Почему мы спорим о памяти для AI-агентов

На днях наткнулся на статью про память для AI-агентов. Сама статья была вполне типичной: SQLite, хранение контекста, поиск по накопленным знаниям, экономия токенов. Но гораздо интереснее оказались комментарии. Под публикацией быстро возник спор, который на первый взгляд выглядел техническим. Одни утверждали:

https://habr.com/ru/articles/1046944/

#AI_Agents #Agent_Memory #LLM #Agentic_AI #Knowledge_Management #Context_Engineering #Longterm_Memory #Project_Memory #Retrieval_Systems #AI_Architecture

Почему мы спорим о памяти для AI-агентов

На днях наткнулся на статью про память для AI-агентов. Сама статья была вполне типичной: SQLite, хранение контекста, поиск по накопленным знаниям, экономия токенов. Но гораздо интереснее оказались комментарии. Под публикацией быстро возник спор, который на первый взгляд выглядел техническим. Одни утверждали:

https://habr.com/ru/articles/1046944/

#AI_Agents #Agent_Memory #LLM #Agentic_AI #Knowledge_Management #Context_Engineering #Longterm_Memory #Project_Memory #Retrieval_Systems #AI_Architecture

Почему мы спорим о памяти для AI-агентов

На днях наткнулся на статью про память для AI-агентов. Сама статья была вполне типичной: SQLite, хранение контекста, поиск по накопленным знаниям, экономия токенов. Но гораздо интереснее оказались комментарии. Под публикацией быстро возник спор, который на первый взгляд выглядел техническим. Одни утверждали:

https://habr.com/ru/articles/1046944/

#AI_Agents #Agent_Memory #LLM #Agentic_AI #Knowledge_Management #Context_Engineering #Longterm_Memory #Project_Memory #Retrieval_Systems #AI_Architecture

Самая опасная ошибка AI‑агента — не плохой код

За последний год вокруг AI-агентов сформировался довольно устойчивый набор ожиданий. Нам обещают всё более умные модели, всё более длинные контекстные окна, всё более автономных агентов. Создаётся впечатление, что осталось решить ещё пару технических проблем — и агент сможет самостоятельно разрабатывать сложные проекты почти без участия человека. Я тоже так думал.

https://habr.com/ru/articles/1046920/

#AI_Agents #LLM #Agentic_AI #Agent_Memory #AI_Governance #AI_Safety #Human_in_the_Loop #Context_Engineering #CapabilityBased_Security #Agent_Workflow

Самая опасная ошибка AI‑агента — не плохой код

За последний год вокруг AI-агентов сформировался довольно устойчивый набор ожиданий. Нам обещают всё более умные модели, всё более длинные контекстные окна, всё более автономных агентов. Создаётся впечатление, что осталось решить ещё пару технических проблем — и агент сможет самостоятельно разрабатывать сложные проекты почти без участия человека. Я тоже так думал.

https://habr.com/ru/articles/1046920/

#AI_Agents #LLM #Agentic_AI #Agent_Memory #AI_Governance #AI_Safety #Human_in_the_Loop #Context_Engineering #CapabilityBased_Security #Agent_Workflow

Самая опасная ошибка AI‑агента — не плохой код

За последний год вокруг AI-агентов сформировался довольно устойчивый набор ожиданий. Нам обещают всё более умные модели, всё более длинные контекстные окна, всё более автономных агентов. Создаётся впечатление, что осталось решить ещё пару технических проблем — и агент сможет самостоятельно разрабатывать сложные проекты почти без участия человека. Я тоже так думал.

https://habr.com/ru/articles/1046920/

#AI_Agents #LLM #Agentic_AI #Agent_Memory #AI_Governance #AI_Safety #Human_in_the_Loop #Context_Engineering #CapabilityBased_Security #Agent_Workflow

📊 Hermes Insights (Letzte 24h)
* Gesamt-Token: 17.758.833
* Input (deine Prompts + Kontext): 17.532.105
* Output (meine Antworten): 226.728

Ein paar weitere interessante Fakten von heute:
* Sessions: 38 insgesamt.
* Nachrichten: 1.091 Nachrichten wurden hin- und hergeschickt.
* Meistgenutztes Tool: terminal (53,4% der Aufrufe) – wir haben heute also ordentlich "gearbeitet".
* Meistes Modell: Gemma 4 (26B).

Nach ein paar Stunden intensiver arbeit: 0 - #zero #nada #niente #nix - #loops

und #gemma macht seinen job besser als #qwen - ich weiß nicht warum ich gemma damals direkt abgeschrieben habe - wirklich brauchbar als #agentic_ai

das bleibt auf jeden fall ein bissel länger wie qwen =)

Почему AI-агент с доступом к API опаснее обычного ChatGPT

Небольшое уточнение перед началом. В статье будет упоминаться некий (скриптовый) язык описания политик SIL (Security Intent Language). На его месте могло бы быть любое другое название, формат или технология. В рамках материала SIL используется исключительно как пример удобного способа описания правил поведения AI-агентов. Основная цель статьи - объяснить проблему контроля действий AI и показать один из возможных подходов к её решению.

https://habr.com/ru/articles/1042998/

#AI_Agents #Agentic_AI #LLM #Tool_Calling #Prompt_Injection #AI_Security #API_Security #RBAC #Runtime_Control #Policy_Engine

Почему AI-агент с доступом к API опаснее обычного ChatGPT

Небольшое уточнение перед началом. В статье будет упоминаться некий (скриптовый) язык описания политик SIL (Security Intent Language). На его месте могло бы быть любое другое название, формат или технология. В рамках материала SIL используется исключительно как пример удобного способа описания правил поведения AI-агентов. Основная цель статьи - объяснить проблему контроля действий AI и показать один из возможных подходов к её решению.

https://habr.com/ru/articles/1042998/

#AI_Agents #Agentic_AI #LLM #Tool_Calling #Prompt_Injection #AI_Security #API_Security #RBAC #Runtime_Control #Policy_Engine

Почему AI-агент с доступом к API опаснее обычного ChatGPT

Небольшое уточнение перед началом. В статье будет упоминаться некий (скриптовый) язык описания политик SIL (Security Intent Language). На его месте могло бы быть любое другое название, формат или технология. В рамках материала SIL используется исключительно как пример удобного способа описания правил поведения AI-агентов. Основная цель статьи - объяснить проблему контроля действий AI и показать один из возможных подходов к её решению.

https://habr.com/ru/articles/1042998/

#AI_Agents #Agentic_AI #LLM #Tool_Calling #Prompt_Injection #AI_Security #API_Security #RBAC #Runtime_Control #Policy_Engine

“Автомойка в 50 метрах. Дойдем пешком”. Разбор первых рецензий на Claude Opus 4.8

Загадка. Автомойка находится 50 метрах от дома. Как доберетесь до нее? Поедете на машине или пойдете пешком? Если вы ответили “конечно, пешком — отчего не прогуляться”, поздравляем: вы угодили в ловушку абсурдности. 50 метров ехать на машине действительно неэффективно, вот только без нее на автомойке вам нечего будет мыть. Но не переживайте! Ровно так же на этот вопрос ответила и новая модель Claude Opus 4.8, заявленная Anthropic как самая мощная на сегодняшний день нейросеть. Раз уж искусственному сверхразуму незазорно попадать в смысловые ловушки, то нам с вами и подавно. В этом материале мы разбираем первые рецензии на новую нейросеть и делаем короткий вывод: кому нужно перейти на нее прямо сейчас, кто может без проблем продолжить пользоваться предыдущей моделью, а кому будет достаточно и ChatGPT, Grok и других бесплатных аналогов.

https://habr.com/ru/articles/1042744/

#claude_opus_48 #anthropic #llm #искусственный_интеллект #нейросети #большие_языковые_модели #agentic_ai #claude_code #chatgpt #grok

[Перевод] Почему только 27% организаций готовы к AI

Ключевые выводы 94% руководителей предприятий считают, что тесно взаимосвязанные данные, процессы и приложения критически важны для успеха ИИ. Только 27% говорят, что их организация обладает ими. 65% сообщают, что их структурированные данные готовы к ИИ. Только 39% говорят то же самое о своих неструктурированных данных, в которых хранится большая часть институциональных знаний. 39% организаций используют ИИ как автономные инструменты, расположенные рядом с рабочим процессом. Только 12% внедрили ИИ непосредственно внутри самого рабочего процесса. 17% предприятий развёрнули агентский ИИ. 32% прекратили попытки. Основное ограничение ценности корпоративного ИИ — операционная модель, а не технология.

https://habr.com/ru/articles/1042030/

#искусственный_интеллект #ииагенты #unstructured_data #idc #agentic_ai #roi

TokenSpiracy: How AI Providers Are Picking Our Pockets https://medium.com/p/tokenspiracy-how-ai-providers-are-picking-our-pockets-d38b2893c39f?source=social.tw

#ai #context_engineering #softwareengineering #observability #agentic_ai #finops

TokenSpiracy: How AI Providers Are Picking Our Pockets https://medium.com/p/tokenspiracy-how-ai-providers-are-picking-our-pockets-d38b2893c39f?source=social.tw

#ai #context_engineering #softwareengineering #observability #agentic_ai #finops

Обзор российских ИИ-платформ корпоративного уровня: изучаем архитектуру SimpleOne GenAI, BPMSoft AI, ELMA Cortex

В 2026-м я наблюдаю любопытную картину у клиентов. Пилоты с ИИ прошли почти у всех — кто-то прикрутил GigaChat к Service Desk, кто-то сделал HR-бота на коленке, кто-то OCR-распознавалку счетов. Вау-эффект на демо был. А в продакшене — три-четыре разрозненных решения, никто не понимает, сколько компания тратит на токены, и СБ уже принесла пачку отчётов про сотрудников, льющих ТЗ в публичный ChatGPT. Это и есть «фаза отрезвления», про которую сейчас пишут McKinsey и Gartner: проблема ИИ — не в моделях, а в том, чтобы перевести их из эксперимента в управляемую инфраструктуру. По сути, это запрос на отдельный класс решений — корпоративные GenAI-платформы . Ниже — разбор трёх российских платформ, которые я для себя считаю наиболее показательными в этом сегменте:

https://habr.com/ru/companies/simpleone/articles/1035466/

#simpleone #genaiплатформа #ииагенты #GenAI #Agentic_AI #rag

Как я сделал AI-директора для малого бизнеса и почему отказался от RAG

Маленькая компания, человек 20. Гендир тонет в задачах. Помнить кто что обещал, отслеживать движение по целям, держать в голове десяток проектов одновременно. У больших корпораций для этого есть штат руководителей среднего звена и проджектов. У малых есть один директор, который пытается быть всем сразу. Лира берёт на себя часть этой работы. Это не корпоративный чат-бот, не ChatGPT с настройками компании. Конкретный продукт с конкретными функциями:

https://habr.com/ru/articles/1034298/

#ai #llm #claude #rag #aiагенты #agentic_ai #knowledge_graph #python #fastapi #бизнесавтоматизация

Yes! It’s time to party! The OWASP Foundation is celebrating 25 incredible years of open source security. That’s why OWASP Cornucopia is launching its 25th anniversary edition. #appsec #security #owasp #cornucopia #llm #agentic_ai #devops #cloud #frontend #threatmodeling

Yes! It’s time to party! The OWASP Foundation is celebrating 25 incredible years of open source security. That’s why OWASP Cornucopia is launching its 25th anniversary edition. #appsec #security #owasp #cornucopia #llm #agentic_ai #devops #cloud #frontend #threatmodeling

Как Gemma и LangGraph написали законопроект победившего биопанка

Для специального бенчмарка мне потребовался нормативно-правовой документ с научной терминологией, перекрестными ссылками и набором сложных для векторизации имён. По традиции для подобных задач я использую тексты в жанре Киберпанк. Сразу вспомнил о «Манифесте Киберпанка» (слишком коротком для моей задачи) и Предложении 653 из «Видоизмененного углерода», у которого в реальности вообще нет текста. Делать подобный текст руками долго и довольно странно. В итоге решил совместить, опробовать агентную архитектуру для подготовки корпоративной «нетленки» и проверить, на что способна локальная модель в плане юридических и околонаучных текстов.

https://habr.com/ru/articles/1030684/

#text_generation #ollama #gemma #киберпанк #будущее #langgraph #agentic_ai #legal_ai

Как ИИ‑агенты меняют управление IT‑проектами

Кто из PM не мечтал переложить рутину на робота? С появлением Agentic AI и мультиагентных систем это перестало быть фантастикой. Обсудим как ИИ‑агенты уже сегодня умеют планировать спринты, оценивать риски и назначать задачи — и делают это не хуже живого проджекта. В статье: принципиальная схема работы связки GPT‑4 + Claude 3, реальный кейс IBM с сокращением MTTR на 65% и пошаговый план внедрения для вашей Jira без строчки кода. Все это для того, чтобы разобраться, как остаться главным, делегировав рутину нейросетям.

https://habr.com/ru/companies/otus/articles/1022176/

#управление #искусственный_интеллект #управление_проектами #agentic_ai #jira #мультиагентные_системы #автоматизация #pm

AI-ready ITSM: платформа или коробка – и почему это главный вопрос 2026 года

Ещё три года назад ИИ в ITSM представлялся как просто чат-бот на входе, который пытается угадать категорию тикета. Сегодня уже другой разговор: ведущие платформы встраивают AI не как надстройку над тикет-системой, а как архитектурный слой, который участвует в маршрутизации, предсказывает инциденты до их возникновения, автономно закрывает типовые обращения и генерирует постмортемы. Рынок уже видит пользу — по данным Forrester , компании, внедрившие предиктивные ITSM-практики, восстанавливаются после инцидентов вдвое быстрее тех, кто полагается на ручную обработку.

https://habr.com/ru/articles/1024216/

#ITSM #GenAI #Agentic_AI #LLM #RAG #Enterprise_AI #AIOps #Service_Desk #Automation #Onpremise

AI-ready ITSM: платформа или коробка – и почему это главный вопрос 2026 года

Ещё три года назад ИИ в ITSM представлялся как просто чат-бот на входе, который пытается угадать категорию тикета. Сегодня уже другой разговор: ведущие платформы встраивают AI не как надстройку над тикет-системой, а как архитектурный слой, который участвует в маршрутизации, предсказывает инциденты до их возникновения, автономно закрывает типовые обращения и генерирует постмортемы. Рынок уже видит пользу — по данным Forrester , компании, внедрившие предиктивные ITSM-практики, восстанавливаются после инцидентов вдвое быстрее тех, кто полагается на ручную обработку.

https://habr.com/ru/articles/1024216/

#ITSM #GenAI #Agentic_AI #LLM #RAG #Enterprise_AI #AIOps #Service_Desk #Automation #Onpremise

AI-ready ITSM: платформа или коробка – и почему это главный вопрос 2026 года

Ещё три года назад ИИ в ITSM представлялся как просто чат-бот на входе, который пытается угадать категорию тикета. Сегодня уже другой разговор: ведущие платформы встраивают AI не как надстройку над тикет-системой, а как архитектурный слой, который участвует в маршрутизации, предсказывает инциденты до их возникновения, автономно закрывает типовые обращения и генерирует постмортемы. Рынок уже видит пользу — по данным Forrester , компании, внедрившие предиктивные ITSM-практики, восстанавливаются после инцидентов вдвое быстрее тех, кто полагается на ручную обработку.

https://habr.com/ru/articles/1024216/

#ITSM #GenAI #Agentic_AI #LLM #RAG #Enterprise_AI #AIOps #Service_Desk #Automation #Onpremise

Как меняются метрики контроля при переходе от чат‑ботов к агентным системам

Когда LLM перестаёт быть просто чат-интерфейсом и начинает сама планировать шаги, вызывать инструменты и общаться с другими агентами, ломаются и привычные способы контроля. В статье — о том, почему для агентных систем уже недостаточно мерить качество ответа, какие новые метрики нужны для оценки их работы и как меняются требования к безопасности, трассировке и эксплуатации таких архитектур.

https://habr.com/ru/companies/otus/articles/1017734/

#агентные_системы #AIагенты #мультиагентные_системы #LLM #Agentic_AI #безопасность_ИИ #контроль_агентов #трассировка_решений #tool_calling #ModelOps

NVIDIA захватывает AI, Cursor на китайской модели, SambaNova бьет GPU: ML‑дайджест

Мартовские анонсы показывают, куда движется Извлечь инсайты

https://habr.com/ru/companies/selectel/articles/1015864/

#digest #дайджкст_ml #NVIDIA #AI_инфраструктура #SambaNova #GPU #нейросети #ииагенты #agentic_ai #cursor

Готовим ИИ-агента к продакшену

Всем привет! На связи Сергей Смирнов, действующий и практикующий AI-инженер. ИИ интересовал меня задолго до нынешнего хайпа: ещё со времён защиты кандидатской, он всегда был для меня не панацеей, а инструментом автоматизации и решения прикладных задач. С началом «эры» генеративного ИИ я занимаюсь разработкой агентских систем — и в этой статье хочу поделиться тем, что происходит, когда агента нужно не просто запустить, а сделать так, чтобы он работал надёжно, предсказуемо и без страха отдать его реальным пользователям. Это будет своего рода дорожная карта подготовки агента к продакшену .

https://habr.com/ru/companies/llmstart/articles/1015508/

#ииагенты #rag #aiagents #llm #agentic_ai #evaluation #observability #mcp

I use AGENTS.md (https://agents.md) to define AI agent work discipline:

- be honest, don't aim to please
- work in small, verifiable batches
- write checkpoints
- when and how to commit
- how to document work
- decision-making hygiene
- core principles of the solution
- etc.

I then use agent skills (https://agentskills.io/) to add details and best practices.

What do you use to keep your AI agent on track?

#ai #coding #it #programming #development #agentic_ai #dev #generativeAI