LangChain과 LlamaIndex: 지식 에이전트는 사람의 승인을 기다린 뒤 어떻게 이어서 실행할까?
내부 지식 에이전트는 자료를 검색하고, 승인 후 업무 시스템에도 기록해야 한다. 재개 위치와 실행 이력이 주요 설계 제약이라면 LangGraph를 우선 평가하자. 기존 LlamaIndex 데이터 및 도구 체계가 있다면 Workflows를 계속 사용할 수 있지만, 스냅샷과 복구의 책임 주체를 명확히 해야 한다. 어느 쪽도 업무 동작의 중복 제거를 대신하지는 못한다.
내부 지식 도우미가 사내 규정에 답한 다음 그 답을 바탕으로 티켓까지 생성한다면, 위험은 “답이 맞는가”에서 “사람이 무엇을 승인했는가, 프로세스 재시작 후 티켓이 하나 더 생기지는 않는가”로 확대된다. 이런 단일 에이전트 애플리케이션을 개발하는 팀에 LangChain과 LlamaIndex는 모두 도구 연결, 상태 저장, 사람의 입력 대기 기능을 제공한다. 선택의 핵심은 복구 메커니즘을 자체 서비스에 어떻게 통합하느냐에 있다.
팀이 일시 정지 위치, 상태 이력, 재시작 후 복구를 통합 실행 메커니즘으로 다루려 한다면 LangChain 생태계의 LangGraph를 우선 평가하자. 이미 LlamaIndex를 중심으로 검색과 도구를 구축했고 이벤트와 영속화를 관리할 의향이 있다면 Workflows를 계속 사용할 충분한 이유가 있다. 다음 분석은 2026-11-10에 확인한 공식 Python 문서에 근거하며, 실행 테스트가 아니고 장애 복구 효과도 보장하지 않는다.
먼저 어느 계층을 비교하는지 정하자
LangChain 공식 개요는 여러 계층을 구분한다. LangChain의 create_agent는 조합 가능한 에이전트 루프를 제공하고, LangGraph는 하위 오케스트레이션 프레임워크이며, Deep Agents는 그 위에서 더 완전한 에이전트 프레임워크를 제공한다. LangSmith는 추적, 디버깅, 평가 등의 플랫폼 기능을 담당한다. 이 글은 자체 구축 에이전트의 실행 제어를 다룬다. LangSmith 구매나 Deep Agents 도입을 LangGraph 영속화 설정과 같은 뜻으로 받아들여서는 안 된다.
LlamaIndex 프레임워크 역시 이미 에이전트와 이벤트 기반 Workflows를 포함하며, 검색은 에이전트가 호출할 수 있는 도구의 한 종류일 뿐이다. LlamaCloud 문서 서비스와는 별도로 평가해야 한다. 현재 공식 페이지는 관련 관리형 파싱 및 인덱싱 기능을 LlamaParse 플랫폼 아래에도 소개한다. 이 서비스들을 연결한다고 자체 에이전트 프로세스에 복구 능력이 생기는 것은 아니다.
같은 승인 지점을 표현하는 두 가지 방식
도우미가 장비 수리 요청 정책을 찾아 티켓을 생성하려 한다고 가정하자. 승인 화면에는 제출할 장비, 문제 설명, 수신 큐를 표시하고, 동의를 해당 버전의 매개변수와 연결해야 한다. 이는 이 글의 설계 시나리오이지 공급업체의 고객 사례가 아니다.
LangGraph는 interrupt로 일시 정지하고, 재개할 때 Command로 사람의 입력을 전달한다. 애플리케이션은 checkpointer를 설정하고 같은 thread_id로 실행 상태를 찾아야 한다. “검색, 승인 대기 동작 구성, 쓰기 실행”을 명확한 노드로 나누기에 적합하며, 단계별로 무엇을 저장했는지 확인하기 쉽다.
반면 LlamaIndex의사람 참여 예제는 도구가 이벤트를 기다리게 한다. InputRequiredEvent로 입력을 요청하고 HumanResponseEvent로 응답을 반환하며, wait_for_event가 대기를 담당한다. 기존 이벤트 소비 서비스가 있는 팀은 이 인터페이스를 따라 승인 화면을 연결할 수 있다. 다만 승인자 신원 확인, 매개변수 버전, 거부 이후의 업무 처리는 여전히 애플리케이션이 정의해야 한다.
두 방식 모두 사람의 입력을 실행 흐름에 연결할 수 있다. 승인 버튼 자체는 권한 시스템이 아니다. 임의의 클라이언트가 “동의”만 제출해서 다른 사람의 티켓 처리를 재개할 수 있게 해서는 안 된다.
컨텍스트를 저장하되 적절한 시점에 저장해야 한다
LangGraph의 checkpointer는 super-step마다 그래프 상태를 저장하고 thread 단위로 체크포인트를 구성한다. 자체 런타임에서는 여전히 영속화 백엔드와 쓰기 전략을 선택해야 하며, 메모리 기반 예제를 프로세스 간 복구와 곧바로 동일시해서는 안 된다. 그 가치는 통합 체크포인트 모델을 제공하는 데 있지, 팀의 데이터베이스 운영을 없애 주는 데 있지 않다.
LlamaIndex의 Context는 여러 실행에 걸쳐 재사용할 수 있고, 직렬화한 뒤 데이터베이스나 파일에 기록할 수 있다. 신뢰할 만한 상태 저장 및 이벤트 처리 코드가 이미 있는 팀이라면 이 방식을 기존 서비스 경계에 맞추기 쉽다. 하지만 전체 실행이 끝난 뒤에만 저장하면 도중에 충돌하기 직전의 최신 진행 상황을 지킬 수 없다.
지속성 워크플로 문서는 실행 중 상태 변화를 포착하고 스냅샷을 기록한 뒤 Context를 복구하는 방법을 제시한다. 기본 프로세스 내부 실행 방식에서는 이 체크포인트 루프를 직접 관리해야 한다. 공식 문서는 DBOS 같은 런타임 플러그인에 영속화와 복구를 맡기는 경로도 함께 나열한다. 따라서 LlamaIndex에 복구 능력이 없다고 말할 수도, 직렬화 가능한 Context를 기본적으로 설정된 신뢰할 만한 저장소라고 볼 수도 없다.
사람이 승인해도 중복 실행은 가능하다
복구한다고 특정 코드 줄에서 그대로 이어서 실행되는 것은 아니다. LangGraph에서는 중단이 발생한 노드를 처음부터 실행한다. LlamaIndex 문서 역시 스냅샷을 포착할 때 실행 중이던 단계는 다시 시작하며, 복구가 최소 한 번 실행 의미론을 갖는다고 설명한다. 두 설계 모두 부작용을 신중하게 처리해야 한다.
예를 들어 티켓 생성 요청이 티켓 시스템에서는 성공했지만 에이전트가 성공 결과를 저장하기 전에 충돌할 수 있다. 쓰기를 승인 뒤에 배치하는 것은 실행을 허용하는 시점만 제한할 뿐, 복구 후 중복 제출을 막지는 못한다. 승인된 해당 버전의 동작에 안정적인 작업 식별자를 저장하고 수신 시스템이 이를 기준으로 중복을 제거하도록 해야 한다. 시스템이 멱등 요청을 지원하지 않는다면 실행 결과부터 조회하거나 사람이 확인하도록 넘겨야 하며, 무작정 재시도해서는 안 된다.
승인된 매개변수, 승인자, 작업 식별자, 외부 티켓 번호를 함께 저장하는 것이 채팅 기록만 남기는 것보다 유용하다. 승인 후 대상 장비나 설명이 달라졌다면 업무 규칙에 따라 다시 승인받아야 한다. 이는 애플리케이션 설계 권고이며, 어느 프레임워크가 자동으로 제공하는 트랜잭션 보장도 아니다.
장애 경계를 기준으로 최종 선택하자
같은 수리 요청 흐름에서 3개 지점을 검증하기를 권한다. 승인 대기 중 프로세스를 재시작하기, 승인 거부 후 다시 복구하기, 티켓은 생성됐지만 결과는 아직 저장되지 않은 시점에 중단하기다. 원래 동작을 찾을 수 있는지, 거부 결과가 유지되는지, 외부 시스템에 예상한 티켓 한 건만 생기는지를 각각 확인하자. 이는 출시 전에 수행해야 할 검증이지, 이 글에서 확보한 테스트 결과가 아니다.
체크포인트와 노드 경계로 위 흐름을 통합 관리해야 하는 팀은 LangGraph부터 시험하고, 상태 백엔드와 멱등 도구를 프로젝트 범위에 포함할 수 있다. 기존 LlamaIndex 검색 및 이벤트 워크플로가 있는 팀은 Context 스냅샷이나 적합한 지속성 런타임부터 검증하면 된다. 단지 “Agent 지원”을 위해 기존 데이터 계층을 다시 작성할 필요는 없다.
애플리케이션이 항상 읽기 전용이고 실패 후 처음부터 답해도 괜찮다면, 양쪽의 장시간 실행 복구 설계 모두 당장 도입할 가치가 있는 것은 아니다. 본격적으로 투자해야 할 때는 도우미가 승인을 기다리고 외부 시스템을 변경하기 시작할 때다. 그때는 같은 승인이 업무 동작의 중복을 초래하지 않는다고 입증할 수 있는지가 프레임워크 이름보다 방안의 실용성을 더 크게 좌우한다.
콘텐츠 안내:이 글은 공개 자료를 바탕으로 정리한 도구 선택 참고 자료입니다. 제품 기능, 가격 및 관련 정책은 수시로 변경될 수 있으니 최신 공식 정보를 확인해 주세요.
원문 출처:docs.langchain.com