Experiential Labs
Passerelle IA open source pour fournisseurs hébergés, clés et GPU personnels
À propos de Experiential Labs
Experiential Labs est une passerelle IA open source qui place les fournisseurs hébergés, vos propres clés API et vos propres GPU derrière un seul point d’accès, puis route les requêtes aux prix des fournisseurs. La page officielle indique 0 % de majoration sur les tokens routés et une passerelle gratuite et open source ; avec le cache activé, les tokens répétés bénéficient d’une remise de 90 %. La plateforme fournit aussi des modèles ajustés et validés sur le trafic via le même point d’accès et applique à chaque requête un plafond de dépenses défini par un administrateur.
Idéal pour
Meilleurs cas d'utilisation
Connecter plusieurs fournisseurs de modèles via un seul point d’accès
Appeler des modèles avec ses propres clés API
Connecter sa propre inférence GPU
Contrôler le budget des requêtes de routage
Fonctionnalités
Accès multi-sources
Placez les fournisseurs hébergés, vos propres clés API et vos propres GPU derrière un seul point d’accès.
Aucune majoration de routage
Les tokens routés n’ont aucune majoration ; la passerelle elle-même est gratuite et open source.
Remise du cache
Une fois activé, le cache offre 90 % de remise sur les tokens répétés.
Modèles ajustés sur le trafic
Connectez des modèles ajustés et validés sur le trafic au même point d’accès ; activation requise.
Avantages
- Point d’accès unifié pour les fournisseurs hébergés, vos clés et vos GPU
- 0 % de majoration sur les tokens routés ; passerelle gratuite et open source
- 90 % de remise sur les tokens répétés