
Inception
Modelos de linguagem de difusão rápidos para raciocínio, programação, voz, suporte e outras aplicações em que a latência é importante.
Sobre Inception
A Inception desenvolve o Mercury, uma família de modelos de linguagem de difusão criada para aplicações em que o tempo de resposta determina a experiência do usuário. O Mercury 2 combina raciocínio, uso de ferramentas, saída estruturada e uma janela de contexto de 128K; segundo a Inception, seus modelos operam a mais de 1,000 tokens por segundo em GPUs NVIDIA comerciais. O Mercury Edit 2 é um modelo menor e voltado à programação, com uma janela de contexto de 32K para fluxos de trabalho de preenchimento automático e próxima edição. Ambos os modelos usam preços baseados em tokens e oferecem uma API compatível com a OpenAI, o que pode reduzir o trabalho de integração para equipes que já utilizam essa interface. A Inception também oferece acesso pelo AWS Bedrock e pelo Azure Foundry, enquanto ajuste fino, implantações privadas, SLA personalizados e suporte prioritário são apresentados como assuntos para conversas comerciais com empresas. Para os compradores, as contrapartidas são concretas: as equipes obtêm latência de geração excepcionalmente baixa e uma compatibilidade de API conhecida, mas precisam avaliar o comportamento dos modelos de difusão com suas próprias cargas de trabalho, considerar a cobrança separada de entrada e saída e escolher entre o conjunto mais amplo de recursos do Mercury 2 e o foco mais restrito em programação do Mercury Edit 2.
Funcionalidades
Agentes de voz em tempo real
Use o Mercury 2 para interações de voz responsivas quando a latência do raciocínio afetar o fluxo da conversa.
Fluxos rápidos de programação
Execute iterações de programação e subagentes de fluxo de trabalho com o Mercury 2, incluindo uso de ferramentas e saída estruturada.
Edição de código com baixa latência
Use o Mercury Edit 2 para preenchimento automático e sugestões de próxima edição em ferramentas para desenvolvedores sensíveis à latência.
Vantagens
- A compatibilidade com a API da OpenAI pode reduzir as mudanças necessárias em uma integração de modelos existente.
- O Mercury 2 combina uma janela de contexto de 128K com raciocínio, uso de ferramentas e saída estruturada.
- As tarifas por token são publicadas separadamente para o uso de entrada, entrada em cache e saída.
Limitações
- As cobranças baseadas no uso são aplicadas separadamente aos tokens de entrada, entrada em cache e saída.
- O Mercury Edit 2 tem uma janela de contexto de 32K e um foco em programação mais restrito que o Mercury 2.
- Implantações privadas, ajuste fino, SLA personalizados e suporte prioritário exigem uma conversa com a equipe comercial.
Planos de preços
Mercury 2
- Janela de contexto de 128K
- Raciocínio
- Uso de ferramentas
- Saída estruturada
Mercury Edit 2
- Janela de contexto de 32K
- Preenchimento automático
- Próxima edição
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de Inception.