OpenRouter frente a Together AI: distinguir rutas, conexión directa y facturas al cambiar API de modelos
Para cambiar entre proveedores y utilizar alternativas de respaldo, conviene validar OpenRouter. Si ya se eligieron modelos Together o recursos dedicados, la conexión directa facilita aclarar la ruta del servicio. Compruebe parámetros efectivos, alcance del respaldo, tarifas BYOK y coste de réplicas dedicadas, no solo el precio de los tokens.
Una aplicación ya usa un modelo de chat y quiere elegir modelos distintos para resúmenes, preguntas y llamadas a herramientas. OpenRouter encaja con equipos que desean varios proveedores de inferencia, acceso unificado y un punto común para alternativas de respaldo. Together AI encaja mejor cuando ya se han elegido modelos compatibles y se quiere gestionar directamente la cuenta de inferencia o adquirir un despliegue dedicado. En ambos casos hay que validar solicitudes concretas. «Compatible con la API de OpenAI» no significa un comportamiento idéntico.
Tampoco son catálogos separados: Together es uno de los proveedores de OpenRouter. El mismo modelo puede llegar a Together a través de OpenRouter o mediante conexión directa. La decisión real es quién selecciona el proveedor de origen, cómo se fija la ruta de ejecución y en qué capa se forma la factura. Este análisis se basa en documentación oficial, sin pruebas de latencia, disponibilidad o calidad de salida.
Tras cambiar la dirección, comprobar si los parámetros tienen efecto
Supongamos que se necesitan respuestas en streaming, llamadas a herramientas y salida de formato fijo. La validación de migración debe emplear las mismas entradas representativas para comprobar esos comportamientos y los campos de uso, no ampliar el tráfico tras una única respuesta correcta. También hay que confirmar identificadores de modelo, versiones y endpoints por separado en ambos lados, no solo los nombres visibles.
La documentación de compatibilidad de Together permite utilizar el cliente OpenAI con una clave Together y https://api.together.ai/v1. Sin embargo, aclara que service_tier, store, metadata y prediction se aceptan pero se ignoran. seed se respeta en la medida de lo posible, sin garantizar determinismo entre réplicas, versiones o condiciones de carga. Si la aplicación depende del efecto de esos parámetros, la conexión directa también requiere adaptación. Una respuesta exitosa no demuestra que la restricción se haya aplicado.
OpenRouter añade una capa de selección de proveedor. Su documentación de enrutamiento ofrece require_parameters: true para excluir proveedores que no admiten los parámetros enviados. Convierte la compatibilidad en condición de ruta, pero no garantiza que la generación cumpla el requisito de negocio. Mantenga la validación estricta en la aplicación y trate la falta de una ruta válida como un resultado que gestionar. No relaje las restricciones silenciosamente para recuperar la tasa de éxito.
Fijar un proveedor reduce las opciones automáticas de respaldo
La misma documentación de OpenRouter distingue preferencias de límites: order establece prioridades, only restringe los proveedores permitidos y allow_fallbacks está activado por defecto. Si solo se autoriza un proveedor validado, limite expresamente los candidatos y configure las reglas de respaldo. Un nombre de proveedor puede abarcar varias variantes de endpoint. Compruebe el endpoint elegido durante las pruebas, no registre solo la marca.
La conexión directa fija Together como proveedor externo, pero no otorga al serverless hardware exclusivo ni latencia fija. Su descripción de serverless indica que una carga elevada puede activar limitaciones de tasa y que la respuesta varía según el modelo y la demanda. Para controlar hardware reservado, evalúe aparte un dedicated endpoint. Fijar proveedor comercial y fijar recursos de despliegue son dos decisiones de compra diferentes.
Por ejemplo, las preguntas y respuestas pueden admitir un modelo alternativo validado, mientras que las llamadas a herramientas deben conservar los mismos acuerdos de parámetros. El respaldo entre modelos de OpenRouter permite intentar otros modelos por orden mediante la lista models. Es distinto de cambiar de proveedor para el mismo modelo. Mantenga listas separadas de proveedores y modelos sustituibles, y compruebe model en la respuesta final. Un modelo alternativo sin validación de negocio no debe entrar en el respaldo de producción solo porque pueda invocarse.
Distinguir limitación de tasa, impago y fallo de negocio al reintentar
Together recomienda reducir la tasa y repartir picos para 429, esperar brevemente antes de reintentar para 503, y utilizar espera exponencial. Su explicación de errores asocia 402 con crédito agotado o límite de gasto alcanzado. Reintentar continuamente esos problemas de pago no restaura el servicio. La aplicación necesita alertas y una respuesta de fallo explícita.
OpenRouter puede gestionar alternativas de proveedor o modelo dentro de la configuración, reduciendo la orquestación de llamadas de respaldo propia. Pero el respaldo consume tiempo de espera y una respuesta recibida puede no superar la validación de negocio. Ambas rutas deben tener un tiempo total máximo, límites de reintento y protección contra acciones externas duplicadas por herramientas. Son condiciones de validación propuestas, no un simulacro de fallo ya realizado.
Separar inferencia, tarifas de plataforma y réplicas en funcionamiento
La página de precios de OpenRouter explica que la inferencia se cobra al precio de lista del proveedor y la tarifa de plataforma al comprar crédito: 5,5 % en Standard y 8 % en Business. El mismo precio por token no implica el mismo desembolso total al recargar. Registre por separado consumo de inferencia, tarifas de recarga e impuestos aplicables. Comprar crédito tampoco significa haberlo consumido íntegramente ese mes.
BYOK sigue otra vía de facturación. La documentación BYOK de OpenRouter y la página de precios indican que Standard y Business incluyen mensualmente 25.000 dólares estadounidenses de coste de inferencia a precio de lista exentos de tarifa BYOK. El exceso paga un 5 % del coste de lista del mismo modelo y proveedor en OpenRouter, descontado del saldo de OpenRouter. El cupo Enterprise se negocia aparte. El proveedor de origen sigue cobrando directamente la inferencia: el cupo gratuito no elimina esa factura ni se calcula por número de solicitudes.
Por ejemplo, si el coste mensual BYOK a precio de lista es de 30.000 dólares estadounidenses y se aplica el cupo de 25.000, el exceso de 5.000 genera 250 dólares de tarifa BYOK. El ejemplo excluye la factura de inferencia del proveedor, los cargos por comprar crédito para pagar la tarifa y los impuestos. Tampoco significa que los descuentos contractuales del proveedor cambien la base de precio de lista. Ante un fallo BYOK, revise además si se permite pasar a endpoints compartidos de OpenRouter, para evitar que la vía real de pago difiera de la prevista.
El serverless de texto conectado directamente a Together se cobra por uso. La tarifa de inferencia dedicada cobra los minutos de cada réplica en funcionamiento, incluso si no recibe solicitudes. Por tanto, no compare directamente el precio por hora de GPU dedicated con el precio serverless por millón de tokens. Mida primero cuántas réplicas se necesitan con el tráfico real, cuánto tiempo funcionan y qué proporción permanecen inactivas, y después calcule si compensa. Este artículo no supone que un despliegue dedicado sea siempre más barato.
Fijar la ruta antes de comparar el coste por resultado válido
Si el equipo cambia con frecuencia de modelos y proveedores y acepta mantener rutas aprobadas, valide primero OpenRouter. Si el tráfico principal ya utilizará modelos Together y necesita gestionar directamente uso, soporte o recursos dedicados, valide Together primero. Se pueden conservar ambas rutas, pero «OpenRouter hacia Together» y «Together directo» deben registrarse por separado; de lo contrario se mezclan el análisis de fallos y los costes.
Antes de producción, use las mismas entradas para comprobar identidad de modelo y proveedor, parámetros necesarios, formato tras el respaldo, espera total y campos de factura. Utilice los resultados aprobados por la validación de negocio como denominador del coste, registrando también el consumo de fallos y reintentos. Así se compara el coste real del servicio necesario, no dos direcciones de API aparentemente intercambiables.
Nota sobre el contenido:Este artículo se basa en información pública y sirve como referencia para comparar y elegir herramientas. Las funciones, los precios y las políticas relacionadas pueden cambiar en cualquier momento; consulta la información oficial más reciente.
Fuente original:openrouter.ai