
Langfuse
Plataforma de código aberto para rastrear, avaliar e melhorar aplicações de LLM e agentes de IA.
Sobre Langfuse
Langfuse é uma plataforma de engenharia de IA de código aberto para equipes que desenvolvem aplicações de LLM e agentes. Ela reúne rastreamentos, gerenciamento de prompts, avaliações, conjuntos de dados e análises de produção em um único fluxo de trabalho. Os desenvolvedores podem capturar chamadas de LLM e de outros sistemas com SDKs de Python ou JavaScript, OpenTelemetry, um gateway de LLM ou mais de 100 integrações com frameworks. Os rastreamentos exibem latência, custo, etapas de recuperação, chamadas de API, sessões, usuários e grafos de agentes, o que ajuda as equipes a investigar falhas e comparar alterações. O versionamento de prompts facilita a colaboração e a implantação, enquanto as ferramentas de avaliação medem a qualidade das saídas e monitoram a integridade do ambiente de produção. O Langfuse Cloud oferece regiões separadas nos Estados Unidos, na União Europeia e no Japão, além de uma região compatível com a HIPAA. As equipes que precisam controlar a infraestrutura podem hospedar por conta própria a plataforma de código aberto. A escolha afeta principalmente as operações: o Cloud reduz a manutenção, mas adota preços por assinatura; a hospedagem própria transfere para a equipe as tarefas de implantação, atualização, armazenamento e confiabilidade.
Funcionalidades
Rastrear aplicações de LLM
Capture chamadas de LLM, recuperação, embeddings, chamadas de API, sessões, usuários e grafos de agentes para investigar comportamento, custo e latência.
Gerenciar prompts
Versione, teste, edite de forma colaborativa e implante prompts em um fluxo de trabalho compartilhado.
Avaliar a qualidade das saídas
Execute avaliações, monitore a integridade do ambiente de produção e teste alterações na aplicação antes de um lançamento mais amplo.
Vantagens
- É de código aberto e pode ser hospedada por conta própria por equipes que precisam controlar a infraestrutura.
- O amplo suporte à instrumentação reduz dificuldades de compatibilidade e a dependência de fornecedores.
- A integração de rastreamento, prompts e avaliação encurta o fluxo de depuração.
Limitações
- A hospedagem própria exige trabalho contínuo de implantação, atualização, armazenamento e confiabilidade.
- A mudança entre regiões do Cloud exige uma nova conta e a migração dos dados.
- A implantação hospedada acrescenta um custo recorrente de assinatura.
Planos de preços
Langfuse Cloud
- Implantação gerenciada na nuvem
- Rastreamento, gerenciamento de prompts e avaliação
- Escolha entre regiões de dados compatíveis e separadas
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de Langfuse.