Langfuse

Langfuse est une plateforme open source d’ingénierie de l’IA destinée aux équipes qui développent des applications LLM et des agents. Elle réunit les traces, la gestion des prompts, les évaluations, les jeux de données et l’analyse de la production dans un même flux de travail. Les développeurs peuvent collecter les appels LLM et non-LLM avec les SDK Python ou JavaScript, OpenTelemetry, une passerelle LLM ou plus de 100 intégrations de frameworks. Les traces présentent la latence, les coûts, les étapes de récupération, les appels d’API, les sessions, les utilisateurs et les graphes d’agents, ce qui aide les équipes à analyser les défaillances et à comparer les changements. Le versionnage des prompts facilite la collaboration et le déploiement, tandis que les outils d’évaluation mesurent la qualité des résultats et surveillent l’état de la production. Langfuse Cloud propose des régions distinctes aux États-Unis, dans l’UE et au Japon, ainsi qu’une région conforme à la HIPAA. Les équipes qui ont besoin de contrôler leur infrastructure peuvent auto-héberger la plateforme open source. Le choix concerne principalement l’exploitation : Cloud réduit la maintenance, mais repose sur un abonnement, tandis que l’auto-hébergement confie à votre équipe le déploiement, les mises à niveau, le stockage et la fiabilité.