LangChain und LlamaIndex: Wie arbeitet ein Wissensagent nach einer menschlichen Freigabe weiter?
Interne Wissensagenten müssen Informationen suchen und nach Freigabe in Geschäftssysteme schreiben. Sind Wiederaufnahmepunkt und Ausführungshistorie zentrale Entwurfsbedingungen, prüfen Sie zuerst LangGraph. Besteht bereits ein LlamaIndex-Daten- und Werkzeugsystem, können Workflows weitergenutzt werden, sofern die Verantwortung für Snapshots und Wiederherstellung geklärt ist. Keine der Lösungen ersetzt die Deduplizierung von Geschäftsaktionen.
Beantwortet ein interner Wissensassistent nicht nur Richtlinienfragen, sondern erstellt auf Basis seiner Antwort auch Tickets, erweitert sich das Risiko: Neben der Richtigkeit der Antwort zählt, was ein Mensch genehmigt hat und ob nach einem Prozessneustart ein weiteres Ticket entsteht. Teams, die solche Einzelagenten-Anwendungen entwickeln, können mit LangChain wie mit LlamaIndex Werkzeuge anbinden, Zustände speichern und auf menschliche Eingaben warten. Entscheidend ist, wie der Wiederherstellungsmechanismus in den eigenen Dienst eingebunden wird.
Soll das Team Unterbrechungspunkte, Zustandshistorie und Wiederaufnahme nach Neustarts über einen gemeinsamen Ausführungsmechanismus verwalten, lohnt sich zuerst LangGraph aus dem LangChain-Ökosystem. Bestehen Retrieval und Werkzeuge bereits auf LlamaIndex-Basis und ist das Team bereit, Ereignisse und Persistenz zu verwalten, gibt es gute Gründe für dessen Workflows. Die folgende Analyse basiert auf der offiziellen Python-Dokumentation. Sie ist kein Laufzeittest und garantiert kein bestimmtes Wiederherstellungsverhalten bei Fehlern.
Zuerst die verglichene Ebene festlegen
Der offizielle LangChain-Überblick trennt mehrere Ebenen: LangChains create_agent bietet eine zusammensetzbare Agentenschleife, LangGraph das zugrunde liegende Orchestrierungsframework, Deep Agents darauf aufbauend ein umfassenderes Agentenframework und LangSmith Plattformfunktionen wie Tracing, Debugging und Evaluation. Hier geht es um Ausführungssteuerung selbst entwickelter Agenten. Der Kauf von LangSmith oder die Verwendung von Deep Agents ist nicht gleichbedeutend mit der Konfiguration von LangGraph-Persistenz.
Auch das LlamaIndex-Framework umfasst längst Agenten und ereignisgesteuerte Workflows. Retrieval ist nur eine Art von Werkzeug, die ein Agent aufrufen kann. Das Framework ist getrennt von den LlamaCloud-Dokumentdiensten zu bewerten. Die aktuellen offiziellen Seiten präsentieren entsprechende gehostete Parsing- und Indexierungsfunktionen zudem unter der LlamaParse-Plattform. Ihre Anbindung macht den eigenen Agentenprozess noch nicht wiederherstellbar.
Derselbe Freigabepunkt, zwei Ausdrucksweisen
Angenommen, der Assistent hat die Richtlinie zur Gerätereparatur gefunden und will ein Ticket erstellen. Die Freigabeoberfläche sollte das vorgesehene Gerät, die Problembeschreibung und die Zielwarteschlange zeigen und die Zustimmung an genau diese Parameterversion binden. Dies ist das Entwurfsszenario dieses Beitrags, kein Kundenfall eines Anbieters.
LangGraph pausiert über interrupt und erhält bei der Wiederaufnahme menschliche Eingaben über Command. Die Anwendung muss einen checkpointer konfigurieren und mit derselben thread_id den Ausführungszustand wiederfinden. So lassen sich „Recherche, Bildung einer freizugebenden Aktion, Schreibzugriff“ in klare Knoten aufteilen, deren gespeicherte Inhalte je Phase prüfbar sind.
Das Beispiel für menschliche Beteiligung in LlamaIndex lässt dagegen ein Werkzeug auf Ereignisse warten: InputRequiredEvent fordert eine Eingabe an, HumanResponseEvent liefert die Antwort und wait_for_event übernimmt das Warten. Teams mit vorhandenen Diensten zur Ereignisverarbeitung können über diese Schnittstellen eine Freigabeoberfläche anbinden. Identitätsprüfung der genehmigenden Person, Parameterversionen und Geschäftsabläufe nach einer Ablehnung muss weiterhin die Anwendung definieren.
Beide erlauben die Einbindung menschlicher Eingaben in den Ausführungsablauf. Eine Freigabeschaltfläche ist aber kein Berechtigungssystem. Ein beliebiger Client darf nicht allein mit einem „Zustimmen“ die Tickets anderer Personen fortsetzen können.
Kontext zum richtigen Zeitpunkt speichern
LangGraphs checkpointer speichert den Graphzustand pro super-step und organisiert Checkpoints nach thread. In einer selbst betriebenen Laufzeit müssen Persistenzbackend und Schreibstrategie weiterhin gewählt werden. Ein In-Memory-Beispiel darf nicht direkt mit prozessübergreifender Wiederherstellung gleichgesetzt werden. Der Nutzen liegt im gemeinsamen Checkpoint-Modell, nicht in der Abschaffung des Datenbankbetriebs.
LlamaIndex’ Context kann über mehrere Ausführungen wiederverwendet, serialisiert und in einer Datenbank oder Datei gespeichert werden. Verfügt das Team bereits über zuverlässigen Zustandsspeicher und Ereignisverarbeitung, passt das leicht zu vorhandenen Dienstgrenzen. Wird aber erst nach Ende eines vollständigen Durchlaufs gespeichert, bleibt der jüngste Fortschritt vor einem Absturz während der Ausführung ungesichert.
Die Dokumentation zu dauerhaften Workflows beschreibt, wie Zustandsänderungen während der Ausführung erfasst, Snapshots geschrieben und Context wiederhergestellt werden. Im standardmäßigen prozessinternen Betrieb muss diese Checkpoint-Schleife selbst verwaltet werden. Die offizielle Dokumentation nennt zugleich Laufzeit-Plugins wie DBOS, die Persistenz und Wiederherstellung übernehmen können. Deshalb ist weder die Aussage richtig, LlamaIndex könne nicht wiederherstellen, noch die Annahme, ein serialisierbarer Context bedeute automatisch zuverlässig konfigurierten Speicher.
Trotz Freigabe kann eine Aktion mehrfach ausgeführt werden
Wiederaufnahme bedeutet nicht, an einer bestimmten Codezeile unverändert weiterzulaufen. Der Knoten mit dem LangGraph-Interrupt wird von vorn ausgeführt. Auch die LlamaIndex-Dokumentation erklärt, dass beim Snapshot noch laufende Schritte neu beginnen und die Wiederherstellung mindestens einmalige Ausführung bedeutet. Beide Entwürfe verlangen sorgfältigen Umgang mit Seiteneffekten.
Beispielsweise hat das Ticketsystem die Erstellung bereits erfolgreich verarbeitet, doch der Agent stürzt ab, bevor er das Erfolgsergebnis speichert. Den Schreibzugriff hinter die Freigabe zu setzen begrenzt nur den Zeitpunkt der erlaubten Ausführung, verhindert aber keine erneute Einreichung nach der Wiederherstellung. Speichern Sie für genau diese genehmigte Aktion eine stabile Operationskennung, anhand derer das empfangende System dedupliziert. Unterstützt es keine idempotenten Anfragen, muss zuerst das Ausführungsergebnis abgefragt oder eine menschliche Prüfung veranlasst werden. Blindes Wiederholen ist keine Lösung.
Genehmigte Parameter, genehmigende Person, Operationskennung und externe Ticketnummer gemeinsam zu speichern ist hilfreicher als ein reines Chatprotokoll. Ändern sich nach der Freigabe Zielgerät oder Beschreibung, ist gemäß den Geschäftsregeln eine neue Freigabe einzuholen. Das sind Anwendungsempfehlungen, keine automatisch von einem der Frameworks bereitgestellten Transaktionsgarantien.
An Fehlergrenzen die endgültige Auswahl treffen
Prüfen Sie mit demselben Reparaturablauf 3 Stellen: Prozessneustart während des Wartens auf Freigabe, erneute Wiederaufnahme nach Ablehnung und Unterbrechung nach Ticketerstellung, aber vor Speicherung des Ergebnisses. Kontrollieren Sie jeweils, ob die ursprüngliche Aktion wiedergefunden wird, die Ablehnung erhalten bleibt und im externen System nur das eine erwartete Ticket existiert. Dies sind Prüfungen vor dem Produktivstart, keine in diesem Beitrag erzielten Testergebnisse.
Teams, die diese Abläufe über Checkpoints und Knotengrenzen einheitlich verwalten wollen, können zuerst LangGraph testen und Zustandsbackend sowie idempotente Werkzeuge in den Projektumfang aufnehmen. Teams mit vorhandenem LlamaIndex-Retrieval und Ereignisworkflows können zunächst Context-Snapshots oder eine passende dauerhafte Laufzeit prüfen. Nur wegen „Agentenunterstützung“ muss die vorhandene Datenschicht nicht neu geschrieben werden.
Bleibt die Anwendung ausschließlich lesend und ist eine vollständig neue Antwort nach einem Fehler akzeptabel, muss die Langzeitwiederherstellung beider Seiten möglicherweise nicht sofort eingeführt werden. Investitionen werden vor allem dann nötig, wenn der Assistent auf Freigaben wartet und externe Systeme verändert. Dann entscheidet der Nachweis, dass dieselbe Genehmigung keine doppelten Geschäftsaktionen erzeugt, stärker über die Eignung als der Frameworkname.
Hinweis zum Inhalt:Dieser Artikel basiert auf öffentlich verfügbaren Informationen und dient als Orientierung bei der Auswahl von Tools. Funktionen, Preise und zugehörige Richtlinien können sich jederzeit ändern; maßgeblich sind die aktuellen offiziellen Angaben.
Originalquelle:docs.langchain.com