進階功能
供應商金鑰與 BYOK
在 TokSpan 中使用您自己的供應商 API 金鑰。BYOK 流量免收服務費,保留您現有的供應商合作關係,並將您的金鑰與 TokSpan 的金鑰池結合以獲得最大靈活性。
什麼是 BYOK?
自帶金鑰(BYOK)讓您可以直接在 TokSpan 中設定現有的供應商 API 金鑰(OpenAI、Anthropic、Google 等)。當您呼叫與 BYOK 供應商匹配的模型時,TokSpan 會透過您的 金鑰進行路由,而非我們的共享池。
使用 BYOK,您直接按供應商費率向供應商付款 — TokSpan 對 BYOK 請求不收取服務費。您仍可享有 TokSpan 的統一端點、自動容錯移轉、成本追蹤和速率限制管理。
為何使用 BYOK?
| 情境 | 優勢 |
|---|---|
| 您擁有 OpenAI / Anthropic 的企業定價 | 保留您的協商費率,避免雙重加價 |
| 您的組織需要按供應商直接計費 | 供應商費用顯示在您的供應商帳單上,而非 TokSpan |
| 您需要嚴格的資料政策合規 | 資料透過您的金鑰傳輸 — 您直接控制供應商關係 |
| 您想要漸進式遷移路徑 | 從 BYOK 開始,加入 TokSpan 池作為備援,按您的節奏轉換 |
設定 BYOK
- 前往儀表板 → 設定 → 供應商金鑰
- 點擊新增供應商金鑰
- 選擇供應商(OpenAI、Anthropic、Google 等)
- 貼上您的供應商 API 金鑰
- 可選擇限制至特定模型 — 僅這些模型會使用此金鑰
- 設定優先順序 — 數字越小越優先嘗試
BYOK 路由邏輯
當您發出請求時,TokSpan 按以下順序解析使用哪個金鑰:
- BYOK 金鑰(按優先順序) — 若與請求模型匹配,優先嘗試您的金鑰
- TokSpan 池 — 若無 BYOK 金鑰匹配(或所有 BYOK 金鑰失敗),則備援至我們的共享池
您可以切換「始終使用此金鑰」以防止備援至池 — 若您的金鑰失敗,請求將報錯(適用於嚴格的資料政策要求)。
設定範例
基於優先順序路由的典型設定:
Dashboard Configuration
{
"providers": {
"openai": {
"api_key": "sk-your-openai-key",
"models": ["gpt-4o", "gpt-4o-mini"],
"priority": 1
},
"anthropic": {
"api_key": "sk-ant-your-key",
"priority": 2
}
}
}在此設定中:GPT-4o 或 GPT-4o-mini 的請求使用您的 OpenAI 金鑰(無服務費)。Claude 模型的請求使用您的 Anthropic 金鑰。其他所有請求備援至 TokSpan 池。
監控 BYOK 用量
在儀表板用量日誌中,BYOK 請求會標記所使用的供應商金鑰。按供應商篩選可查看您的直接供應商支出與 TokSpan 池支出的對比。活動日誌顯示每個請求由哪個金鑰提供服務 — 對除錯和成本分配很有用。
最佳實踐
- 保持備援啟用 — 除非有嚴格的政策原因,否則讓 TokSpan 在您的金鑰失敗時備援至池。這是提升可靠性的首要關鍵。
- 設定模型限制 — 將每個 BYOK 金鑰限定到特定模型,避免意外透過您的金鑰路由昂貴模型。
- 監控供應商帳單 — BYOK 請求會顯示在供應商的發票上。定期與 TokSpan 的用量日誌交叉比對。
- 輪換 BYOK 金鑰 — 適用相同的 90 天輪換政策。從供應商儀表板撤銷舊金鑰,在 TokSpan 中更新。
供應商速率限制仍然適用。BYOK 不會解除供應商自身的速率限制。TokSpan 的速率限制標頭反映我們的閘道限制 — 您的供應商可能施加額外限制。若 BYOK 請求出現 429,請檢查您的供應商儀表板。