
Inception
Modelos de lenguaje de difusión rápidos para razonamiento, programación, voz, soporte y otras aplicaciones en las que la latencia es importante.
Acerca de Inception
Inception desarrolla Mercury, una familia de modelos de lenguaje de difusión creada para aplicaciones en las que el tiempo de respuesta determina la experiencia del usuario. Mercury 2 combina razonamiento, uso de herramientas, salida estructurada y una ventana de contexto de 128K; Inception afirma que sus modelos funcionan a más de 1,000 tokens por segundo en GPU NVIDIA comerciales. Mercury Edit 2 es un modelo más pequeño y centrado en la programación, con una ventana de contexto de 32K para flujos de trabajo de autocompletado y edición siguiente. Ambos modelos aplican precios basados en tokens y ofrecen una API compatible con OpenAI, lo que puede reducir el trabajo de integración de los equipos que ya utilizan esa interfaz. Inception también ofrece acceso mediante AWS Bedrock y Azure Foundry, mientras que el ajuste fino, las implementaciones privadas, los SLA personalizados y el soporte prioritario se plantean como temas de conversación comercial para empresas. Para los compradores, las contrapartidas son concretas: los equipos obtienen una latencia de generación excepcionalmente baja y una compatibilidad de API conocida, pero deben evaluar el comportamiento de los modelos de difusión con sus propias cargas de trabajo, tener en cuenta los cargos separados de entrada y salida, y elegir entre el conjunto más amplio de funciones de Mercury 2 y el enfoque más limitado en programación de Mercury Edit 2.
Funciones
Agentes de voz en tiempo real
Utiliza Mercury 2 para ofrecer interacciones de voz ágiles cuando la latencia del razonamiento afecta al flujo de la conversación.
Flujos de programación rápidos
Ejecuta iteraciones de programación y subagentes de flujo de trabajo con Mercury 2, incluidos el uso de herramientas y la salida estructurada.
Edición de código de baja latencia
Utiliza Mercury Edit 2 para el autocompletado y las sugerencias de edición siguiente en herramientas para desarrolladores sensibles a la latencia.
Ventajas
- La compatibilidad con la API de OpenAI puede reducir los cambios necesarios en una integración de modelos existente.
- Mercury 2 combina una ventana de contexto de 128K con razonamiento, uso de herramientas y salida estructurada.
- Las tarifas por token se publican por separado para el uso de entrada, entrada en caché y salida.
Limitaciones
- Los cargos basados en el uso se aplican por separado a los tokens de entrada, entrada en caché y salida.
- Mercury Edit 2 tiene una ventana de contexto de 32K y un enfoque en programación más limitado que Mercury 2.
- Las implementaciones privadas, el ajuste fino, los SLA personalizados y el soporte prioritario requieren hablar con el equipo comercial.
Planes de precios
Mercury 2
- Ventana de contexto de 128K
- Razonamiento
- Uso de herramientas
- Salida estructurada
Mercury Edit 2
- Ventana de contexto de 32K
- Autocompletado
- Edición siguiente
* La información de precios es solo orientativa. Consulta el anuncio más reciente en el sitio web oficial de Inception.