Not Diamond

Not Diamond est un routeur de modèles intelligent conçu pour les charges de travail des agents de programmation. Il évalue chaque étape d’une session et recommande un modèle ainsi qu’un niveau d’effort de raisonnement parmi les options disponibles, en s’appuyant sur des signaux tels que la sémantique de la charge utile, l’état du cache, les échanges précédents, la structure des sous-agents, les événements de compactage et les résultats de la session. Le routeur s’intègre à une infrastructure d’exécution d’agents et à une passerelle existantes au lieu de remplacer la passerelle. Il convient aux équipes d’ingénierie qui souhaitent maîtriser leurs dépenses d’inférence sans affecter par défaut le modèle le plus coûteux à chaque tâche. Le tarif à l’usage est de $0.05 par million de jetons routés, tandis que la tarification entreprise est personnalisée et comprend des remises sur volume, des analyses à l’échelle de l’organisation, des contrôles de sécurité et d’administration, SAML SSO, des SLA et une assistance disponible 24 h/24 et 7 j/7. Le routage ajoute en moyenne 100 à 200 ms par étape. Le mode de protection de la confidentialité fonde ses décisions sur des caractéristiques dérivées des requêtes et des attributs calculés localement, plutôt que sur les charges utiles, les entrées ou les sorties. Le service est conforme aux normes SOC 2 et ISO 27001. Il fonctionne avec plusieurs infrastructures d’exécution d’agents de programmation, dont Claude Code, et apprend continuellement à partir des retours d’utilisation et des résultats des sessions. Le compromis est simple : les équipes ajoutent une dépendance de routage et un peu de latence en échange d’une sélection de modèles optimisée pour le coût et la qualité.