LiteLLM frente a Portkey: quién protege permisos, presupuestos y rutas de respaldo al compartir modelos entre áreas
LiteLLM encaja con equipos de plataforma capaces de mantener bases de datos, versiones y seguridad. Los Workspaces Enterprise y la gestión centralizada de modelos de Portkey favorecen la administración delegada por áreas. Antes de elegir, hay que someter la separación de presupuestos, las rutas de respaldo autorizadas y la responsabilidad de mantenimiento a las mismas pruebas de aceptación, sin limitarse al precio del código abierto o a las listas de funciones.
Cuando el asistente de atención al cliente, los resúmenes comerciales y las herramientas internas de desarrollo comparten proveedor de modelos, ocultar las claves del proveedor es solo el primer paso. El responsable de la plataforma también debe responder a otras preguntas: ¿seguirá funcionando atención al cliente cuando ventas agote su presupuesto? ¿Un error del modelo principal enviará la solicitud a una región no autorizada? ¿Quién revisará el despliegue y rotará las credenciales si aparece un aviso de seguridad durante el fin de semana?
Tanto LiteLLM Proxy como Portkey pueden situarse entre las aplicaciones y los proveedores de modelos para centralizar el acceso, el consumo y el enrutamiento. Si el equipo ya tiene capacidad para operar una plataforma y quiere controlar el despliegue del gateway y sus políticas, merece la pena validar primero LiteLLM. Si la dificultad principal consiste en delegar los permisos y recursos de varias áreas en sus respectivos responsables, y se acepta comprar funciones de gobierno empresarial, Portkey merece una evaluación de compra prioritaria. Ninguno de los dos elimina la responsabilidad del equipo sobre las facturas de los proveedores, las rutas de los datos o la respuesta a incidentes.
Este artículo compara gateways para organizaciones a partir de documentación oficial; no compara el número de interfaces de los SDK ni clasificaciones de latencia. La denominación oficial actual de Portkey ya incluye Prisma AIRS AI Gateway. Aquí seguiremos usando Portkey para facilitar la consulta de la documentación, pero las antiguas condiciones de despliegue, licencia o precio no deben interpretarse como compromisos del contrato actual.
Los límites entre áreas deben concretar quién puede llamar y quién puede modificar
La documentación de Virtual Keys de LiteLLM vincula el acceso a modelos y la atribución de costes a las claves del proxy, que pueden asociarse a usuarios y equipos. La gestión de claves necesita PostgreSQL; la master key es la credencial del administrador del proxy. Un equipo de plataforma con esa capacidad puede asignar claves de equipo por área e incorporar las listas de modelos y los permisos a sus propios procesos de configuración y entrega. A cambio, la base de datos, los permisos de administrador y los cambios de políticas también pasan a formar parte de su operación. Las aplicaciones de negocio no deberían utilizar la clave de administrador en lugar de credenciales específicas para realizar llamadas.
La documentación de administración de Portkey separa equipos, proyectos y recursos mediante Organization y Workspace, y especifica que Workspace pertenece actualmente al plan Enterprise. Las Integrations de Model Catalog permiten guardar de forma centralizada las credenciales de los proveedores y asignar modelos, presupuestos y límites de velocidad a determinados Workspaces. Esto se ajusta mejor a una plataforma que compra recursos de forma conjunta y los reparte entre las áreas. Sin embargo, disponer de un gateway de código abierto no implica disponer gratis de ese plano de control.
Hay otra condición de compra fácil de pasar por alto: la guía de actualización de Portkey convierte las antiguas Virtual Keys en AI Providers y recomienda Model Catalog para gestionar modelos. Esa misma guía sigue indicando que hay que contactar con el equipo para activar la función. En una nueva compra, conviene pedir al proveedor que muestre las pantallas y API realmente disponibles en el tenant de destino. Los usuarios existentes deben comprobar la compatibilidad de las llamadas actuales y el alcance de la migración de las API de administración. Un nombre nuevo en la documentación no significa que la cuenta propia ya esté actualizada.
La independencia de los presupuestos sostiene la continuidad del negocio
Supongamos que atención al cliente y ventas disponen de presupuestos separados y un proceso por lotes de ventas se descontrola. El objetivo de aceptación debe ser que ventas quede bloqueada, atención al cliente pueda seguir llamando y los costes se atribuyan al área correcta. No basta con mostrar dos cifras en un panel.
La documentación presupuestaria de LiteLLM admite presupuestos de equipo y de sus miembros, y aclara que a una clave de equipo no se le aplica además el presupuesto personal de su propietario. Más importante aún, estos presupuestos dependen de la base de datos: un despliegue sin ella no limita el gasto simplemente por tener configurado un presupuesto global. Un equipo que opere la solución por su cuenta debe incluir en las pruebas la salud de la base de datos, la actualización de los costes y las solicitudes concurrentes. Un archivo de configuración no equivale a un control financiero ya efectivo.
La documentación de Integrations de Portkey permite establecer presupuestos y límites de velocidad distintos por Workspace, detener el uso una vez agotado el presupuesto y enviar notificaciones de umbral. Es necesario representar con claridad cómo se relacionan los límites de las credenciales del proveedor, del Workspace y de las credenciales de llamada de la aplicación. Compartir una cuenta del proveedor puede seguir implicando compartir su propia cuota. Separar la contabilidad dentro del gateway no aísla automáticamente la capacidad del proveedor aguas arriba.
Sea cual sea la elección, conviene contrastar los registros de costes del gateway y la factura del proveedor para un mismo conjunto de solicitudes, revisando precios personalizados, reintentos y modelos de respaldo. Un presupuesto controla solicitudes; sin pruebas, no se puede prometer que jamás se excederá ni un céntimo bajo cualquier nivel de concurrencia. Las alertas también necesitan un destinatario y un procedimiento de actuación.
La conmutación debe preservar la tarea, no solo devolver un resultado exitoso
La documentación de Fallbacks de LiteLLM indica que una solicitud que sigue fallando tras el número de reintentos establecido puede pasar a otro grupo de modelos. Portkey configura la conmutación mediante una lista ordenada de destinos. Por defecto se activa ante códigos de estado distintos de 2xx; on_status_codes permite restringirla, por ejemplo, a 429 o 503. Ambos ofrecen conmutación por error. La diferencia que importa es cómo el equipo administra y valida las rutas, no qué página comercial utiliza la palabra «fiable».
Por ejemplo, si atención al cliente solo puede usar endpoints de modelos en una región determinada, los destinos de respaldo también deben respetar esa regla. Los resúmenes comerciales podrían admitir un modelo de respaldo más barato, pero su salida estructurada debe seguir cumpliendo los requisitos de campos del siguiente procesamiento. Cambiar de proveedor o modelo modifica el precio, el tiempo de respuesta y el comportamiento de la salida. En la aceptación, se debería provocar deliberadamente una limitación de velocidad en el destino principal, observar el respaldo realmente utilizado, la salida final y el registro completo de intentos, y comprobar que el tiempo de espera total y el número de reintentos no arruinen la experiencia de una sola solicitud. Este es un plan de pruebas propuesto, no una prueba práctica ya realizada para este artículo.
La responsabilidad de mantenimiento decide si el gateway puede sostener el control
Antes de operar LiteLLM por cuenta propia, hay que incorporar los hechos recientes de seguridad a las condiciones de puesta en producción. El proveedor confirmó que la versión v1.107.0 publicada el 21 de octubre de 2026 fue comprometida y que el incidente quedó contenido. Sin embargo, la explicación de las medidas correctivas del 30 de octubre aún incluía actuaciones en curso o previstas. «Incidente contenido» no sustituye la comprobación de si el entorno propio resultó afectado ni significa que todas las mejoras estén terminadas. Los equipos que desplegaron artefactos afectados deben investigar y responder según el informe oficial. Actualizar el paquete, por sí solo, no permite suponer que las credenciales no estuvieron expuestas.
La política de mantenimiento también está cambiando. El 2 de noviembre LiteLLM anunció un piloto de un mes para la rama LTS 1.108, suspendiendo durante ese periodo la política de parches para las cuatro ramas estables más recientes. Una actualización del 6 de noviembre describe la nueva etiqueta de imagen lts. Antes de comprar o desplegar, hay que volver a comprobar el alcance del soporte, elegir un artefacto concreto y verificado, y documentar su digest, la aprobación de actualizaciones y el procedimiento de reversión. Seguir los avisos, probar parches y rotar credenciales exige un responsable claro; la licencia de código abierto no hace ese trabajo. Estos hechos no demuestran que Portkey carezca de riesgos ni que LiteLLM haya dejado de mantenerse.
La arquitectura híbrida de Portkey sitúa el plano de datos en la VPC del cliente y deja el plano de control alojado por Portkey. El gateway funciona con una configuración en caché local y se sincroniza con el plano de control. Los registros pueden almacenarse en el entorno del cliente o en la nube de Portkey. Esto reduce parte del mantenimiento del plano de control, pero los contenedores, la caché, la red y las políticas de registros del lado del cliente siguen necesitando un responsable. En particular, hay que comprobar el flujo de datos al consultar registros en la consola y cuándo se aplican nuevas configuraciones o revocaciones de claves si se pierde la conexión con el plano de control. «Híbrido» no significa que todos los datos y funciones de administración permanezcan locales y sin conexión.
Convertir la elección en condiciones de compra verificables
Los equipos que ya operan PostgreSQL, aprueban versiones y cuentan con guardias de seguridad, y que desean integrar permisos de modelos y rutas en su plataforma actual, pueden empezar con un piloto de LiteLLM limitado a ciertas actividades. Si nadie asume esas responsabilidades, un coste de licencia bajo no basta para justificar el paso directo a producción. Los equipos que necesitan repartir centralmente recursos de proveedores, delegar la administración en responsables de negocio y aceptan un plano de control alojado pueden priorizar Portkey Enterprise. La condición es que el contrato actual de Prisma AIRS incluya realmente los Workspaces, Model Catalog, el modo de despliegue y las responsabilidades de soporte necesarios.
Exija a ambos las mismas pruebas de aceptación: revocar las credenciales de llamada de un área sin afectar a otra; agotar el presupuesto de ventas mientras atención al cliente sigue funcionando; utilizar solo rutas de respaldo aprobadas cuando falle el modelo principal; exportar los registros y explicar el coste de cada intento. Los presupuestos comerciales también deben desglosar las tarifas de los proveedores de modelos, la licencia o servicio del gateway, la infraestructura, la retención y exportación de registros, el soporte Enterprise y las horas de operación. En esta investigación no se verificaron ofertas empresariales comparables bajo criterios homogéneos. Por tanto, no se afirma que ninguna opción tenga un coste total inferior.
La elección final debe ser la solución que supere las pruebas dentro de los límites de permisos, escenarios de fallo y capacidad de mantenimiento propios. Si actualmente solo hay una aplicación, un proveedor y ningún problema de gobierno entre áreas, también se puede conservar la cadena de llamadas existente e incorporar un gateway cuando la necesidad de control centralizado esté claramente definida.
Nota sobre el contenido:Este artículo se basa en información pública y sirve como referencia para comparar y elegir herramientas. Las funciones, los precios y las políticas relacionadas pueden cambiar en cualquier momento; consulta la información oficial más reciente.
Fuente original:docs.litellm.ai