TraceLLM
Plateforme d'observabilité et de traçage LLM pour les applications IA réelles
À propos de TraceLLM
TraceLLM relie les prompts, la récupération, les appels d'outils, les spans de modèle, la consommation de jetons, les erreurs et les exports dans un workflow inspectable. Il encapsule les vrais modèles, agents, flux RAG et appels d'outils via un SDK, sans modifier le lieu d'exécution des requêtes ; les sessions, spans, événements, erreurs, utilisation, métadonnées et contenus facultatifs peuvent être associés à une même interaction, avec contrôle du stockage du contenu, du masquage, de l'échantillonnage et des types de spans. TraceLLM prend en charge OpenAI, Claude, Gemini, les passerelles personnalisées, les outils internes et les workflows de type MCP, et peut transférer les traces sélectionnées vers SigNoz, Honeycomb, Tempo, Datadog ou un collecteur HTTP OTLP.
Idéal pour
Meilleurs cas d'utilisation
Traçage des appels de modèles
Observabilité de la récupération RAG et des appels d'outils
Débogage des workflows d'agents
Export de traces d'applications IA
Fonctionnalités
Contexte de trace unifié
Associe les sessions, spans, événements, erreurs, consommation de jetons, métadonnées et contenu facultatif à une même interaction.
Collecte de données contrôlable
Sélectionne au besoin le contenu, les métadonnées, les erreurs, l'utilisation, le masquage, l'échantillonnage et les types de spans.
Prise en charge de plusieurs fournisseurs et workflows
Prend en charge OpenAI, Claude, Gemini, les passerelles personnalisées, les outils internes et les workflows de type MCP.
Export de traces externes
Transfère les traces sélectionnées vers SigNoz, Honeycomb, Tempo, Datadog ou un collecteur HTTP OTLP.
Avantages
- Réunit les prompts, la récupération, les appels d'outils, les spans de modèle, la consommation de jetons et les erreurs dans un même workflow.
- Encapsule les modèles, agents, flux RAG et appels d'outils via un SDK, sans modifier le lieu d'exécution des requêtes.
- Contrôle la collecte du contenu, des métadonnées, des erreurs, de l'utilisation, du masquage, de l'échantillonnage et des types de spans.
- Exporte les traces vers SigNoz, Honeycomb, Tempo, Datadog ou un collecteur HTTP OTLP.