進階功能

供應商金鑰與 BYOK

在 TokSpan 中使用您自己的供應商 API 金鑰。BYOK 流量免收服務費,保留您現有的供應商合作關係,並將您的金鑰與 TokSpan 的金鑰池結合以獲得最大靈活性。

什麼是 BYOK?

自帶金鑰(BYOK)讓您可以直接在 TokSpan 中設定現有的供應商 API 金鑰(OpenAI、Anthropic、Google 等)。當您呼叫與 BYOK 供應商匹配的模型時,TokSpan 會透過您的 金鑰進行路由,而非我們的共享池。

使用 BYOK,您直接按供應商費率向供應商付款 — TokSpan 對 BYOK 請求不收取服務費。您仍可享有 TokSpan 的統一端點、自動容錯移轉、成本追蹤和速率限制管理。

為何使用 BYOK?

情境優勢
您擁有 OpenAI / Anthropic 的企業定價保留您的協商費率,避免雙重加價
您的組織需要按供應商直接計費供應商費用顯示在您的供應商帳單上,而非 TokSpan
您需要嚴格的資料政策合規資料透過您的金鑰傳輸 — 您直接控制供應商關係
您想要漸進式遷移路徑從 BYOK 開始,加入 TokSpan 池作為備援,按您的節奏轉換

設定 BYOK

  1. 前往儀表板 → 設定 → 供應商金鑰
  2. 點擊新增供應商金鑰
  3. 選擇供應商(OpenAI、Anthropic、Google 等)
  4. 貼上您的供應商 API 金鑰
  5. 可選擇限制至特定模型 — 僅這些模型會使用此金鑰
  6. 設定優先順序 — 數字越小越優先嘗試

BYOK 路由邏輯

當您發出請求時,TokSpan 按以下順序解析使用哪個金鑰:

  1. BYOK 金鑰(按優先順序) — 若與請求模型匹配,優先嘗試您的金鑰
  2. TokSpan 池 — 若無 BYOK 金鑰匹配(或所有 BYOK 金鑰失敗),則備援至我們的共享池

您可以切換「始終使用此金鑰」以防止備援至池 — 若您的金鑰失敗,請求將報錯(適用於嚴格的資料政策要求)。

設定範例

基於優先順序路由的典型設定:

Dashboard Configuration
{
  "providers": {
    "openai": {
      "api_key": "sk-your-openai-key",
      "models": ["gpt-4o", "gpt-4o-mini"],
      "priority": 1
    },
    "anthropic": {
      "api_key": "sk-ant-your-key",
      "priority": 2
    }
  }
}

在此設定中:GPT-4o 或 GPT-4o-mini 的請求使用您的 OpenAI 金鑰(無服務費)。Claude 模型的請求使用您的 Anthropic 金鑰。其他所有請求備援至 TokSpan 池。

監控 BYOK 用量

在儀表板用量日誌中,BYOK 請求會標記所使用的供應商金鑰。按供應商篩選可查看您的直接供應商支出與 TokSpan 池支出的對比。活動日誌顯示每個請求由哪個金鑰提供服務 — 對除錯和成本分配很有用。

最佳實踐

  • 保持備援啟用 — 除非有嚴格的政策原因,否則讓 TokSpan 在您的金鑰失敗時備援至池。這是提升可靠性的首要關鍵。
  • 設定模型限制 — 將每個 BYOK 金鑰限定到特定模型,避免意外透過您的金鑰路由昂貴模型。
  • 監控供應商帳單 — BYOK 請求會顯示在供應商的發票上。定期與 TokSpan 的用量日誌交叉比對。
  • 輪換 BYOK 金鑰 — 適用相同的 90 天輪換政策。從供應商儀表板撤銷舊金鑰,在 TokSpan 中更新。
供應商速率限制仍然適用。BYOK 不會解除供應商自身的速率限制。TokSpan 的速率限制標頭反映我們的閘道限制 — 您的供應商可能施加額外限制。若 BYOK 請求出現 429,請檢查您的供應商儀表板。