#structured_output — Public Fediverse posts

Вики из 48 часов видео: конвейер, который не даёт LLM выдумывать

У меня было 48 часов видеозаписей учебного курса и простая мысль: пересматривать это я не буду никогда. Сырой транскрипт немногим лучше — болото на сотни страниц. Я собрал конвейер, который превратил записи в Obsidian-вики: 47 связанных статей, и каждое утверждение в любой из них — в двух кликах от места в записи, где это было сказано.

https://habr.com/ru/articles/1069706/

#LLM #Whisper #Obsidian #RAG #база_знаний #structured_output

Как приручить LLM

- Пробовали сделать цифрового сотрудника на LLM? - У вас получилось? - Долго старались? - Насколько он качественный? - Сколько он стоит в обслуживании? Очень много вопросов возникает к технологии ведения диалогов нейросетями.

https://habr.com/ru/articles/1066298/

#LLM #Chatbot #Conversational_AI #AI_Agents #Prompt_Engineering #Responses_API #Structured_Output #Software_Architecture #Open_Source

Дешевая LLM в проде: как мы ушли с прогнозных $2000 в месяц на $30 и какие минусы

Каждую ночь у нас в JobPath запускается Celery-задача, которая берёт свежие вакансии из каталога (мы собираем их из открытых источников и Telegram-каналов) и превращает сырой текст в структурированную карточку. Изначально это делала Claude Sonnet, и делала отлично. Проблема была в цене: по прогнозу на наш объём выходило около двух тысяч долларов в месяц, и цифра росла вместе с каталогом.. К цифрам

https://habr.com/ru/articles/1061466/

#LLM #qwen #Claude #OpenRouter #tool_calling #structured_output #оптимизация_расходов #эвал_моделей #failclosed

AI для PHP-разработчиков. Часть 7: Экосистема AI-агентов в PHP – от простых вызовов OpenAI до мультиагентных платформ

За последние два года в экосистеме PHP вокруг AI-разработки сформировалась целая индустрия. Если раньше интеграция LLM выглядела как несколько строк кода с вызовом OpenAI API, то сегодня разработчики строят полноценные агентные системы: с памятью, инструментами, workflow, наблюдаемостью (observability) и даже командами специализированных агентов. Обычно, когда говорят об AI-разработке, в первую очередь говорят о Python. Тут полно интересных вещей, таких как: LangChain, LangGraph, CrewAI, AutoGen – весь основной шум долгое время происходил именно там. Но параллельно интересная история развивается и в PHP. И меня это, безусловно, очень радует. Причем если еще пару лет назад PHP-разработчику приходилось буквально собирать все вручную поверх SDK провайдеров, то сегодня уже существует полноценная экосистема инструментов разного уровня абстракции – от клиентов для работы с моделями до платформ управления многоагентными системами. Давайте посмотрим, как выглядит этот рынок сейчас.

https://habr.com/ru/articles/1041594/

#php #ииагенты #LLM #OpenAI #MultiAgent_Systems #Prism_PHP #Laravel_AI #Neuron_AI #RAG #Structured_Output

Почему Хомский неудобен для AI-индустрии

О grammar constraints, валидном JSON и ошибочном понимании языка Кажется, что разговор о формальных грамматиках в LLM - это узкая инженерная тема для тех, кто заставляет модель соблюдать формат ответа. Но вокруг этого частного приема все чаще вырастает более сильный тезис: будто ограничение генерации не просто делает вывод надежнее, а подводит модель ближе к смыслу, пониманию и даже к самой природе языка. Именно в этот момент технический разговор перестает быть только инженерным.

https://habr.com/ru/articles/1027916/

#llm #grammar_constrained_decoding #structured_output #NLP #Хомский #искусственный_интеллект #синтаксис #семантика

JSON-render: LLM-based JSON-to-UI tool
https://json-render.dev/
#ycombinator #json_render #AI_UI_generation #React_components #guardrails #structured_output #dashboard_builder

Виды Structured Output и способы их реализации

Structured Output это способ “заставить” LLM отвечать в строго заданном формате. Есть несколько вариантов добиться этого и есть много библиотек реализующие эти варианты. В данный статье рассмотрим основные из них... Мои курсы: Разработка LLM с нуля | Алгоритмы Машинного обучения с нуля

https://habr.com/ru/articles/978534/

#structured_output #llm #agent

Schema-Guided Reasoning: как научить языковые модели последовательно рассуждать

LLM умеют многое: генерировать тексты, анализировать документы, писать код. Но на практике их работа часто непредсказуема — сегодня модель даёт точный ответ, а завтра на тех же данных ошибается, пропускает ключевые шаги или придумывает факты. Для AI-инженеров это системная проблема. Возьмём автоматизацию документооборота: нужно классифицировать договоры, извлекать реквизиты, проверять стандарты. Но модель работает как лотерея — результат не поддаётся логике или меняется при повторном запуске с одинаковыми данными. Как встроить такой результат в бизнес-процесс? Для решения этой задачи появился подход Schema-Guided Reasoning (SGR) . Его активно продвигает Ринат Абдуллин в материалах по работе с LLM. Идея проста и эффективна: заставить модель мыслить не хаотично, а внутри заданной схемы. Это не панацея, но SGR серьёзно снижает количество ошибок, делает процесс прозрачнее, а также позволяет тестировать отдельные компоненты рассуждений.

https://habr.com/ru/companies/redmadrobot/articles/962236/

#scheme #sgr #llm #модели #схемы #системы #structured_output #function_calling

Structured Output как полноценная замена Function Calling

В этой статье мы рассмотрим альтернативный подход вызова инструментов LLM, который использует Structured Output вместо традиционного Function Calling для обеспечения надежности и предсказуемости.

https://habr.com/ru/articles/923096/

#LLM #Structured_Output #Function_Calling #AI