高度な機能

プロバイダーキーと BYOK

独自のプロバイダーAPIキーを TokSpan で使用できます。BYOK トラフィックにはサービス料がかからず、既存のプロバイダー関係を維持しながら、TokSpan のプールと組み合わせて最大限の柔軟性を実現します。

BYOK とは？

Bring Your Own Key（BYOK）を使用すると、既存のプロバイダー API キー（OpenAI、Anthropic、Google など）を TokSpan に直接設定できます。BYOK プロバイダーに一致するモデルを呼び出すと、TokSpan は共有プールではなくお客様のキーを経由してルーティングします。

BYOK では、プロバイダーに直接その料金で支払います — TokSpan は BYOK リクエストにサービス料金を一切加算しません。TokSpan の統合エンドポイント、自動フェイルオーバー、コスト追跡、レート制限管理は引き続きご利用いただけます。

BYOK を使用する理由

シナリオメリット
OpenAI / Anthropic とエンタープライズ価格契約があります交渉済みの料金を維持し、二重マージンを回避
組織がプロバイダーごとの直接課金を要求していますプロバイダー料金が TokSpan ではなくプロバイダーの請求書に表示される
厳格なデータポリシー準拠が必要ですデータがお客様のキーを経由 — プロバイダーとの関係を直接管理可能
段階的な移行パスが必要ですBYOK から始め、フォールバックとして TokSpan プールを追加し、お客様のペースで移行

BYOK の設定

  1. ダッシュボード → 設定 → プロバイダーキー に移動します
  2. プロバイダーキーを追加 をクリックします
  3. プロバイダー（OpenAI、Anthropic、Google など）を選択します
  4. プロバイダー API キーを貼り付けます
  5. 必要に応じて特定のモデルに制限します — それらのモデルのみがこのキーを使用します
  6. 優先度を設定します — 数値が小さいほど先に試行されます

BYOK のルーティングロジック

リクエストを行うと、TokSpan は以下の順序で使用するキーを解決します：

  1. BYOK キー（優先度順） — リクエストされたモデルに一致する場合、お客様のキーが最初に試行されます
  2. TokSpan プール — 一致する BYOK キーがない（またはすべての BYOK キーが失敗した）場合、共有プールにフォールバックします

「このキーを常に使用」を有効にすると、プールへのフォールバックを防止できます — キーが失敗した場合、リクエストはエラーになります（厳格なデータポリシー要件に有用です）。

設定例

優先度ベースのルーティングを使用した典型的な設定：

Dashboard Configuration
{
  "providers": {
    "openai": {
      "api_key": "sk-your-openai-key",
      "models": ["gpt-4o", "gpt-4o-mini"],
      "priority": 1
    },
    "anthropic": {
      "api_key": "sk-ant-your-key",
      "priority": 2
    }
  }
}

この設定では：GPT-4o または GPT-4o-mini のリクエストはお客様の OpenAI キーを使用します（サービス料金なし）。Claude モデルのリクエストはお客様の Anthropic キーを使用します。それ以外はすべて TokSpan プールにフォールバックします。

BYOK 使用状況の監視

ダッシュボードの使用量ログでは、BYOK リクエストに使用されたプロバイダーキーがタグ付けされます。プロバイダーでフィルタリングして、直接プロバイダーへの支払いと TokSpan プールの支払いを比較できます。アクティビティログには各リクエストを処理したキーが表示され、デバッグやコスト配分に役立ちます。

ベストプラクティス

  • フォールバックを有効のままに — 厳格なポリシー上の理由がない限り、キーが失敗した場合に TokSpan がプールにフォールバックできるようにしてください。これが信頼性向上の最も重要なポイントです。
  • モデル制限を設定 — 各 BYOK キーを特定のモデルにスコープして、高コストモデルが誤ってお客様のキーを経由するのを防ぎます。
  • プロバイダー課金を監視 — BYOK リクエストはプロバイダーの請求書に表示されます。TokSpan の使用量ログと定期的に照合してください。
  • BYOK キーをローテーション — 90日間のローテーションポリシーが適用されます。プロバイダーダッシュボードで古いキーを無効化し、TokSpan で更新してください。
プロバイダーのレート制限は引き続き適用されます。BYOK はプロバイダー独自のレート制限を解除しません。TokSpan のレート制限ヘッダーは当社のゲートウェイ制限を反映しています — プロバイダーが追加の制限を適用する場合があります。BYOK リクエストで 429 が発生した場合は、プロバイダーダッシュボードを確認してください。