지원 기능과 처리 방식

사용 중인 API에서 어떤 개선을 시작할 수 있는지 확인하세요.

링클비는 LLM API 사용 데이터에서 비용 구성과 개선 기회를 분석합니다. 엔진이 지속 최적화의 적용 여부와 수준을 조정합니다. 서비스 동작에 영향을 주는 선택은 변경 내용을 설명하고 확인합니다. 문서 수정 여부와 관계없이 보유한 데이터에서 분석 가능한 항목을 진단합니다. 변경 부분 생성의 효과는 해당 요청이 있는 경우 별도로 산정합니다.

진단 결과를 바탕으로 운영 환경에 맞는 개선을 진행하고, 링클비 엔진을 연동해 지속 최적화를 적용합니다.

요청 유형처리 방식근거·제약
적용 가능
이전 버전을 바탕으로 문서를 수정하는 요청✓ 적용실측: 법령·고시·규정·허가사항 개정 실험 세 건(측정 방법)
요청 본문에 이전 버전을 포함한 문서 수정 요청✓ 적용문서 ID 헤더가 없어도 관련 요청을 자동으로 연결합니다. 문서 식별자를 제거한 개정 데이터 5종으로 재현 실험을 수행한 결과, 문서 연결 정밀도는 0.9988~1.000, 잘못 연결된 다른 문서의 초안을 사용한 편집은 0건이었습니다(LLM 호출 없이 측정).
스트리밍 요청✓ 적용변경 부분 생성이 적용되는 스트리밍 요청은 전체 응답을 준비한 뒤 기존 제공사와 동일한 이벤트 형식으로 전달하므로, 첫 응답까지 더 기다릴 수 있습니다.
기능별 처리 방식과 현재 지원 조건
변경 부분 생성: 현재 유사도 기준에 해당하지 않는 요청변경 부분 생성 미적용현재 기준은 이전 버전과 응답 유사도 78% 미만입니다. 실험에서 비용 증가와 품질 저하가 확인됐습니다. 그 구간 법령 207건 실제 API 호출: 출력 +19%, 품질 0.9175 → 0.6865, 207건 중 100건은 출력 길이 제한으로 응답이 중단됐습니다.
응답 유사도 99% 초과인 응답✘ 추가 생성 필요성 검토이전 버전 자체가 목표 응답과 매우 유사한 구간입니다. 101건에서 이전 버전 재사용 0.9938, 링클비 0.9815. 진단기가 이 구간을 따로 표시합니다.
AI 추가 호출 없이 기존 응답 재사용✘ 기본 꺼짐특허 통지 데이터에서 API 호출 없이 이전 응답을 재사용한 334건 중 19건이 실제와 달랐고, 그중 17건이 심사관 이름·법조항 번호·청구항 번호 차이였습니다. 응답 유사도만으로는 이러한 오류를 식별하기 어렵습니다.
도구 호출, n > 1, JSON 형식 출력, previous_response_id변경 부분 생성 없이 기존 요청 전달변경 부분 생성 없이 AI 제공사로 보냅니다.
임베딩·이미지·음성 API 호출최적화 없이 원본 요청 전달현재 임베딩·이미지·음성 요청에는 최적화를 적용하지 않으며, 기존 제공사로 전달합니다. 이 요청의 비용은 절감액 산정에 포함하지 않습니다.
진단기가 찾아 알려 드리는 것
캐시 최소 토큰 수를 충족하지 못하는 요청
실제 캐시 적중률
여러 요청에 반복되는 공통 접두부
접두부의 직렬화 순서가 달라 캐시가 적용되지 않는 요청
짧은 시간 내에 반복 전송된 동일 요청
실패하거나 출력 길이 제한으로 중단됐지만 비용이 청구된 호출
청구된 출력 토큰 수와 실제 응답 길이 비교
더 낮은 단가의 OpenAI Flex로 처리할 수 있었던 호출

리포트에는 각 항목의 진단 결과를 개선 항목 확인 / 해당 항목 없음 / 추가 데이터 필요로 표시합니다.

호출 로그 또는 AI 제공사의 사용량 파일이 있는 폴더에서 실행해 주세요. 둘 다 없으면 진단에 필요한 로그 필드를 안내합니다.

진단기 다운로드 →