Not Diamond

Not Diamond ist ein intelligenter Modell-Router für Workloads von Coding-Agenten. Er bewertet jeden Schritt einer Sitzung und empfiehlt aus dem verfügbaren Pool ein Modell sowie einen Umfang für den Reasoning-Aufwand. Dabei nutzt er Signale wie die Semantik der Nutzdaten, den Cache-Status, frühere Dialogschritte, die Struktur von Sub-Agenten, Komprimierungsereignisse und Sitzungsergebnisse. Der Router lässt sich in eine bestehende Ausführungsumgebung für Agenten und ein vorhandenes Gateway integrieren, anstatt das Gateway zu ersetzen. Er eignet sich für Entwicklungsteams, die ihre Inferenzkosten kontrollieren möchten, ohne standardmäßig jede Aufgabe dem teuersten Modell zuzuweisen. Der nutzungsabhängige Tarif beträgt $0.05 pro Million gerouteter Tokens. Die Enterprise-Preise werden individuell festgelegt und umfassen Mengenrabatte, organisationsweite Analysen, Sicherheits- und Administrationskontrollen, SAML SSO, SLAs sowie Support rund um die Uhr. Das Routing verlängert jeden Schritt durchschnittlich um 100–200 ms. Der datenschutzfreundliche Modus stützt Entscheidungen auf abgeleitete Anfrageeigenschaften und lokal berechnete Merkmale statt auf Nutzdaten, Eingaben oder Ausgaben. Der Dienst ist SOC-2- und ISO-27001-konform. Er funktioniert mit mehreren Ausführungsumgebungen für Coding-Agenten, darunter Claude Code, und lernt fortlaufend aus Nutzungsfeedback und Sitzungsergebnissen. Die Abwägung ist klar: Teams nehmen eine zusätzliche Routing-Abhängigkeit und etwas Latenz in Kauf und erhalten dafür eine auf Kosten und Qualität abgestimmte Modellauswahl.