#assistants_api — Public Fediverse posts

OpenAI Assistants API: подводные камни продакшена

OpenAI активно продвигает свой Assistants API как новую основу для создания кастомных AI-агентов. Многие пробуют внедрять его в поддержку клиентов, devtools, работу с документацией. Однако за видимой простотой скрываются нюансы, которые могут привести к неожиданным проблемам в продакшене. Если не учитывать эти нюансы, вместо эффективного инструмента мы получаем искаженные метрики производительности, неконтролируемые расходы и риск «сгореть» под нагрузкой. Такая ситуация возникает не только в теории, это реальность, когда вы пытаетесь использовать новый, более абстрактный уровень API для задач, где важен полный контроль над каждым шагом. Проблемы появляются и там, где ваши ожидания от мгновенного ответа модели сталкиваются с многошаговой логикой работы агента. В таких системах необходим другой подход к внедрению. В этой статье разберемся, чем Assistants API отличается от классического Chat Completions API, какие у него ограничения и когда его стоит использовать, а когда лучше держаться подальше.

https://habr.com/ru/articles/918330/

#assistants_api #openai #aiагенты #aiагенты_в_работе

Делаем карманного аналитика данных с помощью OpenAI Assistants API и Code Interpreter в Telegram

Языковая модель генерирует текст, но она не может проводить сколько-нибудь сложные математические вычисления или анализ данных, она просто не предназначена для этого. Однако, модель может генерировать код и очень хорошо. Что, если давать модели задание, для выполнения которого она сгенерирует программный код, он исполнится в изолированной среде разработки, и полученный результат модель уже использует для генерации ответа? Именно эту задачу и выполняет Code Interpreter.

https://habr.com/ru/articles/829186/

#openai #codeinterpreter #assistants_api #openai_api #proxyapi

Делаем AI-официанта с помощью OpenAI Assistants API и Vector Store в Telegram

Что, если в качестве контекста нам необходимо, чтобы модель знала не только историю переписки с конкретным пользователем, но ещё и какую-то общую информацию про бизнес или продукт? Все эти проблемы призваны решить такие продукты OpenAI, как Assistants API и Vector Store . Vector Store — это векторное хранилище, в которое можно загрузить файлы с вашей документацией или базой знаний, они автоматически будут трансформированы в векторный формат, и при каждом запросе из хранилища будет выбираться только информация, актуальная для этого конкретного запроса, тем самым помогая модели точнее отвечать на вопросы и экономить токены.

https://habr.com/ru/articles/822249/

#openai #openai_api #assistants_api #vector_store #proxyapi #телеграмбот #yandexcloud