API リファレンス
レート制限
TokSpan のレート制限システム、クォータ、およびアプリケーションで制限エラーを適切に処理する方法について説明します。
レート制限ヘッダー
すべての API レスポンスには以下のレート制限ヘッダーが含まれます：
| ヘッダー | 説明 |
|---|---|
x-ratelimit-limit-requests | 1分間あたりの最大リクエスト数 |
x-ratelimit-remaining-requests | 現在のウィンドウでの残りリクエスト数 |
x-ratelimit-limit-tokens | 1分間あたりの最大トークン数 |
x-ratelimit-remaining-tokens | 現在のウィンドウでの残りトークン数 |
x-ratelimit-reset-requests | リクエストクォータがリセットされるまでの秒数 |
デフォルト制限値
| ティア | RPM | TPM |
|---|---|---|
| 無料 | 60 | 100,000 |
| 従量課金 | 500 | 1,000,000 |
| エンタープライズ | カスタム | カスタム |
制限を超過すると、API は 429 Too Many Requests を返します。本番環境の耐障害性のために、ジッター付きの指数バックオフを実装してください。