#стоимость_llm — Public Fediverse posts

Писать агенту по-английски ради экономии? 40 прогонов: разница 12 токенов на задачу

Частый совет: пишите агенту по-английски, русский съедает в полтора раза больше токенов. Токенизатор это подтверждает: 194 токена против 132 на одном и том же абзаце. Я прогнал пять рутинных задач на двух моделях, на обоих языках, по два раза. Сорок прогонов. Оба языка решили по 17 задач из 20, русский промпт к задаче длиннее в среднем на 12 токенов, а это 0,005% от того, что агент читает за прогон. Разброс между двумя одинаковыми запусками доходит до 3,4 раза. Рассказываю, куда делись полтора раза и где язык всё-таки стоит денег.

https://habr.com/ru/articles/1090848/

#промпты #токены #токенизатор #русский_язык #Claude_Code #кодингагенты #LLM #стоимость_LLM

Сколько стоит час работы кодинг-агента: рейтинг пяти API-шлюзов по расходам

Вышли Claude Opus 5.5 и GPT-6 Sol, и все пошли смотреть прайсы шлюзов. Я собрал цены пяти шлюзов с оплатой из России и посчитал иначе: сколько стоит час работы в Claude Code, если нагрузка как у меня — по логам 49 моих сессий, 138 часов работы. Разброс получился почти десятикратный: от 181 до 1 756 рублей за один и тот же час на одной модели. Половина счёта уходит на запись в кэш, хотя её всего 5% от входящих токенов. А самый дешёвый ценник в таблице даёт не самый дешёвый час: когда чтение кэша стоит столько же, сколько обычный ввод, час работы агента выходит почти вдвое дороже, чем у шлюза с дешёвым кэшем.

https://habr.com/ru/articles/1087564/

#Claude_Opus_55 #GPT6_Sol #Claude_Code #API #стоимость_LLM #кэширование #LLMшлюзы #цены_API

Нужна ли умная модель для рутины? Дал четырём моделям пять одинаковых задач и сравнил

На этой неделе на Хабре спорили, нужны ли программисту самые умные модели или для рутины хватит дешёвых. Триста комментариев и ни одного замера на одинаковых задачах. Я сделал: пять рутинных задач, четыре модели одного семейства, по два прогона, скрытые тесты. Сорок прогонов. Самая дорогая модель оказалась самой быстрой: 341 секунда против 395 у самой дешёвой, потому что ей нужно меньше ходов и вдвое меньше текста. Четыре задачи из пяти решили все, 32 прогона из 32. А на пятой младшая модель написала баг и отчиталась двумя галочками подряд, вторая из которых опровергает первую.

https://habr.com/ru/articles/1084270/

#кодингагенты #Claude_Code #LLM #выбор_модели #стоимость_LLM #reasoning #тестирование #Python #рутинные_задачи #сезон_код_будущего

MCP-сервер или API: сколько стоит один запрос к GoCD

Не так давно мы решили запустить свой собственный MCP-сервер для GoCD. Ну а что, у всех есть MCP, а у нас не было. И у GoCD не было такого, который бы подошел нам. Мы уже больше месяца им активно пользуемся. Сам проект тоже живет и развивается — его версия за это время выросла до 1.2.0: https://github.com/Ivinco/gocd-mcp После того как прошел первый восторг от осознания важности собственного вклада в мир open source, перед нами встал еще один вопрос. Да, у нас есть MCP. Но зачем нам MCP. И на этот вопрос, если хорошо подумать, не так уж и просто ответить.

https://habr.com/ru/articles/1079322/

#mcp #model_context_protocol #llmагенты #aiагенты #gocd #rest_api #бенчмарк #стоимость_ll #стоимость_llm #claude

Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены

В конце марта 2026 года Figma открыла канвас для AI-агентов . Claude Code, Codex и подобные инструменты получили возможность создавать и редактировать макеты через MCP-сервер Figma. Я решил проверить, насколько хорошо Claude Code сможет перенести дизайн сайтов в макет и сколько это будет стоить. Для этого я выбрал несколько лендингов и попросил агента перенести их на канвас - пробовал давать ему либо скриншот, либо ссылку на сайт. Каждый раз я смотрел, какие шаги выполняет агент, сколько раз обращается к инструментам и сколько токенов (то есть денег) тратит.

https://habr.com/ru/articles/1078882/

#Claude_Code #Figma #Figma_MCP #MCPсервер #AIагенты #генерация_макетов #автоматизация_дизайна #токены_LLM #стоимость_LLM #вебдизайн

Цена за успешный результат: почему дешёвая модель может обойтись дороже дорогой

Дешёвая LLM легко превращается в дорогую, если агент чаще ошибается, уходит в повторные прогоны и требует внимания инженера. В статье разберём, как считать стоимость закрытой задачи, учитывать кэш и человеко‑время и почему прайс за миллион токенов почти ничего не говорит об итоговой экономике. Посчитать стоимость

https://habr.com/ru/companies/otus/articles/1067744/

#ИИагенты #LLM #стоимость_LLM #стоимость_токенов #выбор_модели #AIагенты #кэширование #маршрутизация_моделей #человековремя #eval

ИИ-Автопилот: поток принятых задач вырос в тринадцать раз

Вторая часть. В первой я собрал конвейер из ИИ-агентов: он сам ведёт задачу от тикета в YouTrack до коммита - разбирает, правит C++ в проекте на три миллиона строк, собирает и доказывает исправление кадром из живого интерфейса. Здесь - цифры за девять недель работы на боевых задачах. Например, на код у агентов уходит лишь пятая часть машинного времени. Остальные четыре пятых на то, чтобы доказать, что написанное работает. Тринадцатикратный рост из заголовка тоже разбираю. Но самое интересное оказалось не в нём.

https://habr.com/ru/articles/1065128/

#ииагенты #llm #метрики_разработки #автоматизация_разработки #youtrack #стоимость_llm #dora #производительность_команды

Нашёл модель в 8 раз дешевле. Она начала писать иероглифы в русских новостях

Нашёл модель в 8 раз дешевле. Она начала писать иероглифы в русских новостях У меня новостной бот, и каждая новость в нём проходит через LLM: категория, перевод, тон, разбор. Выходит около 936 вызовов в сутки, и в какой-то момент мне захотелось платить за это меньше. Я перебрал все бесплатные модели OpenRouter на живых промптах, нашёл платную в 8 раз дешевле текущей, обрадовался и выкатил в прод. Через час в ленте появился заголовок: «Как не，让智能手机 перегревать: советы в жару».

https://habr.com/ru/articles/1062906/

#OpenRouter #LLM #нейросети #DeepSeek #max_tokens #стоимость_LLM #Python #Telegramбот #мультиязычность #продакшен

Скрытая цена LLM: как KV-cache увеличивает стоимость инференса и как эту проблему решает Google TurboQuant

При инференсе LLM общее потребление памяти определяется не только размером самой модели, но и промежуточными данными, накапливаемыми в процессе ее работы. С ростом контекста объем этих данных растет почти линейно и может стать сопоставимым или даже превышать размер самой модели. В основе этой проблемы лежит KV-cache. Пример : у LLaMA 2 7B веса занимают около 14 ГБ, но при контексте 8K токенов KV-cache весит уже примерно 4 ГБ. Всего при четырех параллельных запросах это около 16 ГБ. Это и есть скрытая цена инференса, которая не так очевидна на первый взгляд.

https://habr.com/ru/companies/ru_mts/articles/1029644/

#LLM #KVcache #инференс_LLM #стоимость_LLM #оптимизация_инференса