Banana

Banana es una plataforma de alojamiento de inferencia para equipos de IA que ejecutan cargas de trabajo de modelos de alto rendimiento en GPU. Ajusta automáticamente las réplicas de GPU a medida que cambia la demanda y aplica precios de computación al coste, combinando los costes de infraestructura con una tarifa fija de plataforma. La plataforma reúne el despliegue y las operaciones en un único flujo de trabajo mediante la integración con GitHub, CI/CD, una CLI, despliegues progresivos, seguimiento, registros con búsqueda, análisis de solicitudes y análisis empresariales. Los equipos pueden examinar el tráfico, la latencia, los errores, la utilización, el uso de los endpoints y el gasto, mientras que una API abierta, los SDK y la CLI permiten automatizar el despliegue. Banana también utiliza el framework HTTP de código abierto Potassium para backends personalizados en contenedores, lo que permite a los desarrolladores emplear bibliotecas como PyTorch, TensorFlow y Hugging Face Transformers. El plan Equipo indicado admite hasta 10 miembros, 5 proyectos y 50 GPU en paralelo. Las organizaciones que necesiten SAML SSO, límites de GPU mayores, colas personalizables, GPU para el proceso de compilación o soporte dedicado deben optar por el plan Empresa.