#агенты — Public Fediverse posts

Почему мы забрали у LLM браузер: 8 выводов после года работы над расширением для промокодов

Изначально отдали GPT полный контроль: вот тебе страница магазина, вот список промокодов, разбирайся. На демо это выглядело хорошо. Ровно до того дня, когда он зашел на страницу оформления, увидел заполненную форму, прикинул, что задача выглядит примерно так, и двинулся нажимать кнопку покупки. Формально он выполнял инструкцию. Фактически мы в этот момент поняли, что полный контроль над чужим браузером LLM давать нельзя. Да и в релизе это было дорого, нестабильно и оказалось местами опасно. Почти каждая деталь этой системы появилась после того, как что-то сломалось на проде. Так что дальше в основном собраны истории провалов. Предлагаю вашему вниманию разбор в деталях и наши выводы про работу с LLM в Web разработке и про построение AI-native продуктов. Будет полезно! -->

https://habr.com/ru/articles/1098250/

#ии #опыт #агенты #расширение_для_chrome #llm #иимодель #llmприложения #агентные_системы #deepseek

Как мы научили ИИ-агента не выдумывать цифры в отчётах

Это статья о том как мы делали модуль автономного выполнения целей в корпоративном ИИ-ассистенте KW-7 AI.

https://habr.com/ru/articles/1098124/

#искусственный_интеллект #ии #цели #нейросети #агенты #языковые_модели #rtx3090 #оркестратор #llm #qwen

Fable vs DeepSeek Uncesored: как я пентестил банк и потом занялся травлей самого себя

Как разрабатывать продукты, когда их могут круглосуточно атаковать самые лучшие пентестеры за всю историю? Мне было интересно проверить, действительно ли модель, которая хороша в кибербезе, может сама сразу писать хороший и надежный код. «Чтобы тебя не взломал Mythos надо писать код на Fable» — такое мнение мне не очень нравится. Поэтому я на Fable написал банковское приложение, развернул его на свеженьком сервере, а затем натравил на него для автономного взлома расцензуренный DeepSeek. Потом разыграл угон токена и дал покопаться с улицы в своём экспериментальном bare metal, а под конец решил проверить, насколько далеко модели готовы зайти за пределами кибербезопасности и спланировать буллинг. Спойлер: «просто писать код на Fable» — не всегда работает. Я проверил. Давайте разбираться, будет весело.

https://habr.com/ru/articles/1097598/

#security #agent #агенты #llm #claude #mythos #harness #harness_engineering