DSPy

DSPy ist ein Python-Framework, mit dem sich KI-Systeme als modulare Programme statt als Sammlungen manuell geschriebener Prompts erstellen lassen. Entwickler deklarieren typisierte Signaturen für Ein- und Ausgaben und wählen anschließend wiederverwendbare Module aus, die steuern, wie ein Sprachmodell schlussfolgert, Werkzeuge aufruft oder strukturierte Ergebnisse zurückgibt. Die Adapter unterstützen Interaktionsmuster für Chat, JSON, zweistufige Abläufe und XML, während die Modellschicht Schnittstellen für Sprachmodelle und Einbettungen umfasst. Durch die Trennung von Aufgabendefinition und Ausführungsstrategie lassen sich Modelle oder Workflows leichter wechseln, ohne die Anwendung rund um Prompt-Zeichenfolgen neu aufbauen zu müssen. DSPy unterstützt außerdem Agenten wie ReAct und kann während der Entwicklung mit Tracing-Werkzeugen zusammenarbeiten. Es eignet sich für Python-Teams, die bereit sind, Programmstrukturen zu definieren, Evaluierungen zu pflegen und die zugrunde liegenden Modelldienste zu betreiben. Das Framework verwendet die MIT-Lizenz und erfordert Python 3.10 oder höher. Teams benötigen weiterhin Beispiele oder Evaluierungskriterien für die Optimierung, müssen sich mit den Abstraktionen von DSPy vertraut machen und bleiben für die Anbieternutzung, Zuverlässigkeit und Betriebskosten verantwortlich.