TraceLLM
Plataforma de observabilidade e rastreamento de LLM para aplicações reais de IA
Sobre TraceLLM
O TraceLLM conecta prompts, recuperação, chamadas de ferramentas, spans de modelos, uso de tokens, erros e exportações em um fluxo de trabalho inspecionável. Ele encapsula modelos reais, Agents, RAG e chamadas de ferramentas por meio de um SDK, sem alterar o local de execução das solicitações; sessões, spans, eventos, erros, uso, metadados e conteúdo opcional podem ser vinculados a uma única interação, com controle sobre o armazenamento de conteúdo, a desidentificação, a amostragem e os tipos de span. O TraceLLM oferece suporte a OpenAI, Claude, Gemini, gateways personalizados, ferramentas internas e fluxos de trabalho no formato MCP, e pode encaminhar traces selecionados para SigNoz, Honeycomb, Tempo, Datadog ou um coletor HTTP OTLP.
Ideal para
Melhores casos de uso
Rastreamento de chamadas de modelos
Observabilidade de recuperação RAG e chamadas de ferramentas
Depuração de fluxos de trabalho de Agents
Exportação de traces de aplicações de IA
Funcionalidades
Contexto de trace unificado
Vincula sessões, spans, eventos, erros, uso de tokens, metadados e conteúdo opcional a uma única interação.
Captura de dados controlável
Seleciona conforme necessário conteúdo, metadados, erros, uso, desidentificação, amostragem e tipos de span.
Suporte a vários provedores e fluxos de trabalho
Funciona com OpenAI, Claude, Gemini, gateways personalizados, ferramentas internas e fluxos de trabalho no formato MCP.
Exportação de traces externos
Encaminha traces selecionados para SigNoz, Honeycomb, Tempo, Datadog ou um coletor HTTP OTLP.
Vantagens
- Reúne prompts, recuperação, chamadas de ferramentas, spans de modelos, uso de tokens e erros em um único fluxo de trabalho.
- Encapsula modelos, Agents, RAG e chamadas de ferramentas por meio de um SDK, sem alterar o local de execução das solicitações.
- Controla a captura de conteúdo, metadados, erros, uso, desidentificação, amostragem e tipos de span.
- Exporta traces para SigNoz, Honeycomb, Tempo, Datadog ou um coletor HTTP OTLP.