요청 처리 파이프라인 계측

개선 옵션

핵심 결과와 부가 작업 분리

리포트 생성, 로그 보강, 외부 확장 응답을 핵심 결과 이후로 지연 실행합니다.

요청 유형별 빠른 처리 경로

계획 수립이 단순한 요청은 전체 플래너와 고비용 리랭킹을 우회합니다.

중간 결과 캐시

반복 검색과 리랭킹 후보군을 짧은 TTL로 재사용합니다.

외부 연동 타임아웃·폴백

느린 외부 응답이 전체 요청의 Tail Latency로 전파되지 않도록 제한합니다.

핵심 결과 노출 완료
사용자가 바로 소비할 수 있는 요약, 근거 후보, 우선순위 응답을 먼저 표시했습니다.

동시 사용자50명

외부 API 지연1100ms

기준선개선 후

외부 응답이 늦어져도 핵심 결과는 내부 검색과 리랭킹 결과로 먼저 반환합니다. 외부 보강 정보는 늦게 도착하면 별도 이벤트로 추가됩니다.

그래프 탐색이 지연될 경우 벡터 기반 상위 후보를 기준으로 핵심 결과를 노출하고, 그래프 근거는 후속 보강으로 분리합니다.

큐 대기 시간이 임계치를 넘으면 경량 랭킹 점수와 최근 중간 캐시를 조합해 선노출하고, 고정밀 리랭킹은 완료 후 갱신합니다.