OpenRouter로 고객 피드백을 티켓으로 전환하기: JSON 검증에 맞춰 라우팅 규칙 설계하기
고객 피드백을 티켓 필드로 변환할 때 OpenRouter의 모델 선택은 중간 단계에 불과합니다. 먼저 검증할 구조를 정의하고, 필요한 매개변수를 지원하는 공급자로 범위를 제한하며, 실패한 항목은 처리 대기열에 남겨 두어야 형식은 맞지만 내용은 잘못된 결과가 업무 시스템에 바로 들어가는 일을 막을 수 있습니다.
운영팀이 고객 피드백을 자동으로 정리해 티켓으로 만들려면, 실제로 필요한 것은 유려한 요약이 아니라 일관된 필드와 추적 가능한 원문입니다. OpenRouter는 모델 요청을 처리할 공급자를 선택할 수 있지만, 어떤 결과를 저장할지는 여전히 수신 시스템이 결정해야 합니다. 먼저 통제된 흐름을 구축하는 것이 좋습니다. 비식별화한 피드백을 대기열에 넣고, 모델이 필드를 추출한 뒤, 프로그램이 검증하고, 사람이 예외를 처리하며, 마지막으로 티켓을 생성하는 방식입니다. 아래에서는 공식 문서를 바탕으로 이 흐름을 설계합니다. 실제 실행 테스트 결과는 아닙니다.
먼저 티켓 시스템에서 산출물을 정의하기
“내보내기가 실패합니다. 최대한 빨리 처리해 주세요”라는 피드백을 예로 들면, 출처 식별자, 문제 유형, 요약, 원문 근거를 출력하도록 요구할 수 있습니다. 담당자나 기한이 명확하지 않으면 null 값을 유지해야 하며, 모델이 이를 채워 넣어 약속으로 만들게 해서는 안 됩니다. 필드 이름, 허용되는 유형, 필수 항목, null 처리 규칙은 티켓을 받는 팀이 먼저 확정한 다음 JSON Schema에 반영해야 합니다.
검증에는 두 계층이 있습니다. 구조 검증에서는 결과가 유효한 JSON인지, 필드 유형과 열거형 값이 정해진 규칙에 맞는지 확인합니다. 업무 검증에서는 요약이 원문에 충실한지, 출처 식별자가 일치하는지, 근거 없이 긴급도를 높이지 않았는지 확인합니다. 먼저 비식별화한 소규모 샘플을 준비해 정상적인 피드백, 정보 부족, 서로 모순되는 내용을 포함하고, 사람이 허용 가능한 결과를 표시하는 것이 좋습니다. 샘플 수는 업무 위험에 따라 결정하며, 특정한 고정 개수를 신뢰성의 증거로 삼아서는 안 됩니다.
구조 요구 사항을 라우팅에 반영하기
OpenRouter의 구조화된 출력 문서에 따르면 지원 여부는 개별 엔드포인트에 따라 다르며, 같은 모델이라도 공급자가 다르면 기능이 다를 수 있습니다. 따라서 모델 이름만 기록할 것이 아니라, 모델 페이지에서 공급자의 structured_outputs 지원 정보를 확인해야 합니다.
Chat Completions API를 사용한다면 요청에 response_format을 넣고, type을 json_schema로 설정하며, json_schema 안에 이름, strict, 구체적인 스키마를 제공해야 합니다. 이어서 공급자 기본 설정의 require_parameters를 true로 설정합니다. 공식 가이드는 매개변수 지원 여부를 라우팅 조건에 포함하기 위해 이 조합을 권장합니다. 이 설정은 필요한 매개변수를 지원하지 않는 엔드포인트를 걸러 내는 데 도움이 되지만, 티켓 내용이 사실인지를 대신 판단해 주지는 않습니다.
먼저 선택한 모델과 승인된 공급자로 샘플을 실행하고, 요청 설정과 검증 결과를 저장하세요. 모델, 공급자 또는 스키마를 변경한 후에는 다시 확인해야 합니다. 이는 출시 전 권장 작업이며, 이 글에서 이미 얻은 테스트 성적이 아닙니다.
장애 시 대체 경로의 경계 정하기
공급자 라우팅 문서에서 allow_fallbacks의 기본값은 true이며, order는 시도 순서를 지정하는 데 사용됩니다. 우선순위 목록 자체를 구매 승인이 완료된 공급자 목록으로 취급해서는 안 됩니다. 지정된 공급자만 이 데이터를 처리할 수 있다면 only로 허용 범위를 제한하세요. 추가 공급자로의 폴백을 끄려면 allow_fallbacks: false도 명시적으로 설정해야 합니다.
이렇게 하면 사용 가능한 엔드포인트 범위가 좁아집니다. 공식 오류 설명에는 라우팅 조건을 충족하는 공급자가 없는 실패 상황이 나열되어 있습니다. 따라서 업무 흐름은 “당장은 결과가 없음”을 받아들일 수 있어야 하며, 대기열을 비우기 위해 제한을 자동으로 완화해서는 안 됩니다. 처리 대기 기록에는 출처 식별자, 시도 횟수, 오류 원인을 남기고, 담당자가 재시도를 기다릴지, 입력을 수정할지, 수동으로 티켓을 생성할지 판단하도록 해야 합니다. 해당 데이터를 OpenRouter와 관련 공급자에게 전송해도 되는지는 팀 자체의 데이터 승인 요건도 따라야 합니다.
검증을 통과한 뒤 저장하고, 재시도 전에 중복 확인하기
API 응답을 받은 뒤에는 먼저 오류를 확인하고, 그다음 내용을 파싱하고 검증합니다. OpenRouter의 오류 문서는 모델이 생성을 시작한 뒤 발생한 오류가 응답 본문이나 스트리밍 이벤트에 나타날 수 있다고 주의를 줍니다. 따라서 HTTP 상태만으로 성공 여부를 판단해서는 안 됩니다. 피드백을 일괄 정리하는 초기 버전에서는 비스트리밍 호출부터 사용하면 미완성 내용을 바탕으로 후속 작업이 잘못 실행될 가능성을 줄일 수 있습니다.
“추출 완료”와 “티켓 생성 완료”를 별도 상태로 나누는 것이 좋습니다. 구조 검증과 업무 검증을 모두 통과한 경우에만 생성 단계로 진행하세요. 출처 식별자별로 해당 티켓을 기록하고, 저장 결과가 불명확하면 먼저 수신 시스템을 조회한 뒤 재시도 여부를 결정해야 같은 피드백으로 중복 티켓이 만들어지는 일을 피할 수 있습니다. 필드가 누락되거나, 근거가 부족하거나, 서로 모순되는 결과는 사람이 처리하도록 남겨 두고, 자동 재시도로 내용 문제를 덮어서는 안 됩니다.
이 흐름의 이점은 여러 공급자 중에서 선택하는 일과 티켓 검증을 분리해 관리한다는 점입니다. 대신 스키마, 샘플, 예외 대기열을 계속 유지해야 합니다. 피드백이 적고 검증 로직을 관리할 사람이 없다면 사람이 계속 정리하는 편이 더 경제적일 수 있습니다. 고정된 단일 공급자만 필요하다면 직접 연결 방식의 유지 관리 비용도 비교해야 합니다. OpenRouter를 채택할 조건은 팀에 라우팅 선택이 실제로 필요하고, 검증 책임을 자체 업무 흐름 안에 두려는 의지가 있다는 것입니다.
콘텐츠 안내:이 글은 공개 자료를 바탕으로 정리한 도구 선택 참고 자료입니다. 제품 기능, 가격 및 관련 정책은 수시로 변경될 수 있으니 최신 공식 정보를 확인해 주세요.
원문 출처:openrouter.ai