home.social
  1. 私は APIGOTO チームで働いています。APIGOTO は独立したサービスで、OpenAI・Anthropic・Google とは提携関係にありません。

    APIGOTO は OpenAI 互換の LLM API ゲートウェイです。
    ・base_url は https://api.apigoto.com/v1 の1つだけで Claude / GPT / Gemini を呼び出せます
    ・上流エラー時は自動フェイルオーバー(リトライは最大3回まで)
    ・リクエストごとのログ
    ・BYOK(自分のプロバイダーキーを持ち込み可)
    ・従量課金

    質問です:429(レート制限)のときも 5xx と同じようにフェイルオーバーすべきでしょうか?それとも同じプロバイダーでバックオフすべきでしょうか?

    www.china-aiapi.com
    #LLM #API #プログラミング
Share on Mastodon

Enter the server where you have an account.