#failclosed — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #failclosed, aggregated by home.social.
-
Дешевая LLM в проде: как мы ушли с прогнозных $2000 в месяц на $30 и какие минусы
Каждую ночь у нас в JobPath запускается Celery-задача, которая берёт свежие вакансии из каталога (мы собираем их из открытых источников и Telegram-каналов) и превращает сырой текст в структурированную карточку. Изначально это делала Claude Sonnet, и делала отлично. Проблема была в цене: по прогнозу на наш объём выходило около двух тысяч долларов в месяц, и цифра росла вместе с каталогом.. К цифрам
https://habr.com/ru/articles/1061466/
#LLM #qwen #Claude #OpenRouter #tool_calling #structured_output #оптимизация_расходов #эвал_моделей #failclosed