Расширенные возможности
Ключи провайдеров и BYOK
Используйте собственные API-ключи провайдеров с TokSpan. Нулевая комиссия за BYOK-трафик, сохраняйте существующие отношения с провайдерами и комбинируйте свои ключи с пулом TokSpan для максимальной гибкости.
Что такое BYOK?
Bring Your Own Key (BYOK) позволяет настроить ваши существующие ключи API провайдеров (OpenAI, Anthropic, Google и др.) непосредственно в TokSpan. Когда вы вызываете модель, соответствующую провайдеру BYOK, TokSpan маршрутизирует запрос через ваш ключ вместо нашего общего пула.
С BYOK вы платите провайдеру напрямую по его тарифам — TokSpan добавляет нулевую комиссию за запросы BYOK. При этом вы сохраняете единый endpoint TokSpan, автоматическое переключение, отслеживание затрат и управление лимитами запросов.
Зачем использовать BYOK?
| Сценарий | Преимущество |
|---|---|
| У вас корпоративные цены с OpenAI / Anthropic | Сохраняйте согласованные тарифы, избегайте двойной маржи |
| Ваша организация требует прямой биллинг по каждому провайдеру | Расходы провайдера отражаются в его счёте, а не в TokSpan |
| Вам требуется строгое соблюдение политик обработки данных | Данные проходят через ваши ключи — вы напрямую контролируете отношения с провайдером |
| Вам нужен постепенный путь миграции | Начните с BYOK, добавьте пул TokSpan как резерв, переходите в своём темпе |
Настройка BYOK
- Перейдите в Панель управления → Настройки → Ключи провайдеров
- Нажмите Добавить ключ провайдера
- Выберите провайдера (OpenAI, Anthropic, Google и др.)
- Вставьте ваш API-ключ провайдера
- При необходимости ограничьте конкретными моделями — только эти модели будут использовать данный ключ
- Установите приоритет — меньшие числа пробуются первыми
Логика маршрутизации с BYOK
При выполнении запроса TokSpan определяет, какой ключ использовать, в следующем порядке:
- Ключи BYOK (по приоритету) — Ваши ключи пробуются первыми, если они соответствуют запрошенной модели
- Пул TokSpan — Если ни один ключ BYOK не подходит (или все ключи BYOK недоступны), используется наш общий пул
Вы можете включить «Всегда использовать этот ключ», чтобы запретить переход к пулу — запрос завершится ошибкой при отказе вашего ключа (полезно для строгих требований политики обработки данных).
Пример конфигурации
Типовая настройка с приоритетной маршрутизацией:
{
"providers": {
"openai": {
"api_key": "sk-your-openai-key",
"models": ["gpt-4o", "gpt-4o-mini"],
"priority": 1
},
"anthropic": {
"api_key": "sk-ant-your-key",
"priority": 2
}
}
}В этой конфигурации: запросы к GPT-4o или GPT-4o-mini используют ваш ключ OpenAI (без комиссии). Запросы к моделям Claude используют ваш ключ Anthropic. Всё остальное переходит в пул TokSpan.
Мониторинг использования BYOK
В журналах использования Панели управления запросы BYOK помечаются использованным ключом провайдера. Фильтруйте по провайдеру, чтобы увидеть ваши прямые расходы на провайдера в сравнении с расходами через пул TokSpan. Журналы активности показывают, какой ключ обслужил каждый запрос — полезно для отладки и распределения затрат.
Лучшие практики
- Оставьте резервный переход включённым — Если у вас нет веских причин, связанных с политикой компании, разрешите TokSpan переходить к пулу при отказе вашего ключа. Это главный выигрыш в надёжности.
- Установите ограничения по моделям — Ограничьте каждый ключ BYOK конкретными моделями, чтобы избежать случайной маршрутизации дорогих моделей через ваш ключ.
- Отслеживайте счета провайдеров — Запросы BYOK отражаются в счёте вашего провайдера. Периодически сверяйте с журналами использования TokSpan.
- Ротируйте ключи BYOK — Действует та же политика ротации каждые 90 дней. Отзывайте старые ключи в панели провайдера, обновляйте в TokSpan.