概述
設計原則
TokSpan 建立在四個指導每項架構決策的核心原則之上。了解這些原則有助於您建立更好、更具韌性的 AI 應用程式。
1. 零供應商鎖定
每家 AI 供應商各有優缺點。模型每週都在改進。價格不斷變化。TokSpan 確保您永遠不會被單一供應商綁住。
只需更改單一參數即可切換模型。無需重寫 SDK。無需重建管線。您的程式碼今天呼叫 gpt-4o,明天即可零摩擦地呼叫 claude-opus-4-8。
專業提示:使用自動容錯移轉,在主要供應商發生停機時自動切換至備援模型。零請求遺失。
2. 透明、按使用量付費的定價
TokSpan 在上游供應商費率之上收取小額、透明的服務費 — 無隱藏成本、無意外帳單。您每次呼叫前都能看到確切的每 token 價格。
- 每個模型的每 token 成本在儀表板上即時顯示
- 無最低承諾 — 充值任意金額即可開始建置
- 設定每個金鑰的預算與消費上限,實現完全成本控制
- 僅為您消耗的 token 付費 — 無需月費訂閱
3. 全球低延遲存取
TokSpan 透過全球邊緣基礎設施路由,為全球開發者提供低於 100 毫秒的路由開銷。自託管部署可放置在任何區域,為您的使用者提供最佳延遲。
我們的基礎設施專為韌性設計:水平擴展、自動容錯移轉,且無單點故障。
4. 隱私優先架構
TokSpan 預設不記錄或儲存您的提示詞/回應內容。您的資料即時通過我們的基礎設施。對於自託管部署,您擁有完整的記錄政策控制權。API 金鑰經靜態加密(AES-256),所有流量使用 TLS 1.3。
針對有嚴格資料駐留要求的企業,TokSpan 可完全自託管,透過 Docker 或 Kubernetes — 部署在您的防火牆後方,擁有完全的資料主權。