Khóa Nhà Cung Cấp & BYOK

BYOK Là Gì?

Bring Your Own Key (BYOK) cho phép bạn cấu hình khóa API nhà cung cấp hiện có của mình (OpenAI, Anthropic, Google, v.v.) trực tiếp trong TokSpan. Khi bạn gọi một mô hình khớp với nhà cung cấp BYOK, TokSpan sẽ định tuyến qua khóa của bạn thay vì nhóm chia sẻ của chúng tôi.

Với BYOK, bạn thanh toán trực tiếp cho nhà cung cấp theo giá của họ — TokSpan không tính phí dịch vụ cho các yêu cầu BYOK. Bạn vẫn nhận được endpoint hợp nhất, tự động chuyển đổi dự phòng, theo dõi chi phí và quản lý giới hạn tốc độ của TokSpan.

Tại Sao Nên Dùng BYOK?

Thiết Lập BYOK

1. Đi tới Bảng điều khiển → Cài đặt → Khóa Nhà Cung Cấp
2. Nhấp Thêm Khóa Nhà Cung Cấp
3. Chọn nhà cung cấp (OpenAI, Anthropic, Google, v.v.)
4. Dán khóa API nhà cung cấp của bạn
5. Tùy chọn giới hạn cho các mô hình cụ thể — chỉ những mô hình đó mới sử dụng khóa này
6. Đặt ưu tiên — số thấp hơn được thử trước

Logic Định Tuyến Với BYOK

Khi bạn thực hiện một yêu cầu, TokSpan giải quyết khóa nào sẽ được sử dụng theo thứ tự sau:

1. Khóa BYOK (theo ưu tiên) — Khóa của bạn được thử trước nếu chúng khớp với mô hình được yêu cầu
2. Nhóm TokSpan — Nếu không có khóa BYOK nào khớp (hoặc tất cả khóa BYOK đều thất bại), chúng tôi lùi về nhóm chia sẻ của mình

Bạn có thể bật "Luôn sử dụng khóa này" để ngăn lùi về nhóm — yêu cầu sẽ báo lỗi nếu khóa của bạn thất bại (hữu ích cho các yêu cầu chính sách dữ liệu cứng).

Ví Dụ Cấu Hình

Một thiết lập điển hình với định tuyến dựa trên ưu tiên:

{
  "providers": {
    "openai": {
      "api_key": "sk-your-openai-key",
      "models": ["gpt-4o", "gpt-4o-mini"],
      "priority": 1
    },
    "anthropic": {
      "api_key": "sk-ant-your-key",
      "priority": 2
    }
  }
}

Trong thiết lập này: yêu cầu cho GPT-4o hoặc GPT-4o-mini sử dụng khóa OpenAI của bạn (không phí dịch vụ). Yêu cầu cho các mô hình Claude sử dụng khóa Anthropic của bạn. Mọi thứ khác lùi về nhóm TokSpan.

Giám Sát Mức Sử Dụng BYOK

Trong nhật ký sử dụng của Bảng điều khiển, các yêu cầu BYOK được gắn thẻ với khóa nhà cung cấp đã sử dụng. Lọc theo nhà cung cấp để xem chi tiêu trực tiếp với nhà cung cấp so với chi tiêu qua nhóm TokSpan. Nhật ký hoạt động hiển thị khóa nào đã phục vụ mỗi yêu cầu — hữu ích cho việc gỡ lỗi và phân bổ chi phí.

Thực Tiễn Tốt Nhất

• Để dự phòng được bật — Trừ khi bạn có lý do chính sách cứng, hãy để TokSpan lùi về nhóm nếu khóa của bạn thất bại. Đây là yếu tố chiến thắng về độ tin cậy số một.
• Đặt giới hạn mô hình — Giới hạn mỗi khóa BYOK cho các mô hình cụ thể để tránh vô tình định tuyến các mô hình đắt tiền qua khóa của bạn.
• Giám sát hóa đơn nhà cung cấp — Yêu cầu BYOK xuất hiện trên hóa đơn của nhà cung cấp. Đối chiếu định kỳ với nhật ký sử dụng của TokSpan.
• Xoay vòng khóa BYOK — Cùng chính sách xoay vòng 90 ngày được áp dụng. Thu hồi khóa cũ từ bảng điều khiển nhà cung cấp, cập nhật trong TokSpan.