API 參考
Rate Limits
了解 TokSpan 的速率限制系統、配額,以及如何在應用程式中優雅地處理限制錯誤。
速率限制標頭
每個 API 回應都包含速率限制標頭:
| 標頭 | 說明 |
|---|---|
x-ratelimit-limit-requests | 每分鐘最大請求數 |
x-ratelimit-remaining-requests | 目前時間視窗中的剩餘請求數 |
x-ratelimit-limit-tokens | 每分鐘最大 Token 數 |
x-ratelimit-remaining-tokens | 目前時間視窗中的剩餘 Token 數 |
x-ratelimit-reset-requests | 請求配額重設前的秒數 |
預設限制
| 方案層級 | RPM | TPM |
|---|---|---|
| 免費 | 60 | 100,000 |
| 按使用量付費 | 500 | 1,000,000 |
| 企業 | 自訂 | 自訂 |
當您超過限制時,API 會返回 429 Too Many Requests。為確保生產環境韌性,請實作帶有抖動的指數退避。