Funciones Avanzadas

Conmutación Automática

Cuando su proveedor de modelos principal experimenta tiempo de inactividad, TokSpan enruta automáticamente el tráfico a su modelo de respaldo — sin solicitudes perdidas y sin intervención manual.

Cómo Funciona

TokSpan monitorea la salud de los proveedores upstream en tiempo real. Cuando un proveedor devuelve errores 5xx repetidos o excede un umbral de tiempo de espera, el tráfico se redirige automáticamente al siguiente modelo en su cadena de conmutación. Una vez que el primario se recupera, el tráfico reanuda el enrutamiento normal.

La cadena de conmutación se configura por modelo en el Panel — no se requieren headers personalizados ni cambios de código en el lado del cliente.

Configurando la Conmutación en el Panel

  1. Inicie sesión en el Panel de TokSpan en api.tokspan.com/dashboard
  2. Navegue a Canales en la barra lateral
  3. Seleccione el canal de modelo que desea proteger con conmutación
  4. En la configuración del canal, localice la opción de Mapeo de Modelos o Prioridad
  5. Agregue sus modelos de respaldo en orden de prioridad — el primer modelo disponible en la lista servirá el tráfico
  6. Establezca los umbrales de tiempo de espera y cantidad de reintentos que activan una conmutación
  7. Guarde la configuración del canal

Construyendo una Cadena de Conmutación Resiliente

Para cargas de trabajo en producción, recomendamos una estrategia de conmutación entre proveedores:

PrioridadModeloProveedorRol
1 (Primario)GPT-4oOpenAIPredeterminado — mejor calidad general
2 (Respaldo)Claude Sonnet 4.6AnthropicSe activa si OpenAI está caído
3 (Último recurso)Gemini 2.5 FlashGoogleRed de seguridad económica
Consejo profesional: Incluya siempre al menos un modelo de un proveedor diferente en su cadena de conmutación. Las caídas a nivel de proveedor son el modo de falla más común. Una cadena entre proveedores (OpenAI → Anthropic → Google) brinda la protección más sólida.

Monitoreando Eventos de Conmutación

Puede rastrear la actividad de conmutación a través de:

  • Registros del panel — Filtre por canal para ver solicitudes activadas por conmutación
  • Webhooks — Suscríbase a eventos system.incident para notificaciones de conmutación en tiempo real (consulte Webhooks)
  • Analíticas de uso — Los picos de uso por modelo indican actividad de conmutación