#llm_api_keys — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #llm_api_keys, aggregated by home.social.
-
OpenAI‑совместимый API без переписывания приложения: что проверить перед сменой базового адреса
У вас уже есть серверная часть на клиентской библиотеке OpenAI. Новый поставщик предлагает OpenAI-совместимый API и показывает знакомый пример: другой base_url , другой ключ, тот же вызов chat.completions.create() . На тесте «ответь одним словом» всё работает. Можно переносить боевой трафик? Пока нет. Такой запрос подтверждает, что клиент подключился, прошёл авторизацию и получил один успешный ответ. Он ничего не говорит о потоковой выдаче, вызовах инструментов, структуре ошибок и даже о том, как выбранная модель обработает параметры рабочего запроса. Поэтому совместимость полезнее рассматривать не как свойство сервиса, а как набор контрактов между вашим приложением и API. До миграции нужно проверить семь вещей: Посмотреть, что нужно проверить