
DSPy
Un framework Python qui utilise des signatures typées et des modules réutilisables pour créer des programmes de modèles de langage optimisables.
À propos de DSPy
DSPy est un framework Python permettant de concevoir des systèmes d’IA sous forme de programmes modulaires plutôt que de collections de prompts écrits manuellement. Les développeurs déclarent des signatures typées pour les entrées et les sorties, puis choisissent des modules réutilisables qui déterminent comment un modèle de langage raisonne, appelle des outils ou renvoie des résultats structurés. Ses adaptateurs couvrent les modes d’interaction par chat, JSON, en deux étapes et XML, tandis que la couche de modèles comprend des interfaces pour les modèles de langage et les plongements. La séparation des définitions de tâches et de la stratégie d’exécution facilite le changement de modèles ou de workflows sans reconstruire l’application autour de chaînes de prompts. DSPy prend également en charge des agents comme ReAct et peut fonctionner avec des outils de traçage pendant le développement. Il convient aux équipes Python prêtes à définir la structure des programmes, à maintenir des évaluations et à exploiter les services de modèles sous-jacents. Le framework est distribué sous licence MIT et nécessite Python 3.10 ou une version ultérieure. Les équipes doivent tout de même fournir des exemples ou des critères d’évaluation pour l’optimisation, apprendre les abstractions de DSPy et assumer la responsabilité de l’utilisation des fournisseurs, de la fiabilité et des coûts d’exploitation.
Fonctionnalités
Extraction structurée
Déclarez des champs d’entrée et de sortie typés pour extraire des événements ou des détails d’un texte.
Recherche et classement
Composez la recherche, l’évaluation de la pertinence et l’évaluation hors ligne sous forme de workflows modulaires.
Agents utilisant des outils
Créez des agents en plusieurs étapes qui appellent des outils et exposent des traces pendant le développement.
Avantages
- Les signatures typées explicitent les entrées et sorties attendues, ce qui améliore la maintenabilité lorsque les workflows évoluent.
- Les modules et adaptateurs réutilisables permettent aux équipes de modifier les stratégies de raisonnement ou de sortie sans réécrire la définition de la tâche.
- La licence MIT et le paquet Python rendent le framework accessible pour les expérimentations internes et l’ingénierie en production.
Limites
- Les équipes doivent apprendre les signatures, modules, adaptateurs et concepts d’optimisation de DSPy avant de pouvoir utiliser efficacement le framework.
- L’exploitation de systèmes en production nécessite toujours un accès distinct aux modèles, un déploiement, une surveillance et une maîtrise des coûts d’utilisation des fournisseurs.
- L’optimisation est surtout utile lorsqu’une équipe peut fournir des exemples représentatifs ou des critères d’évaluation, ce qui ajoute un travail de préparation.
Formules tarifaires
Abonnement
- Framework Python pour les programmes d’IA modulaires
- Signatures, modules, adaptateurs et interfaces de modèles
- Workflows d’agents et d’optimisation
* Les informations tarifaires sont données à titre indicatif. Consultez les dernières annonces sur le site officiel de DSPy.