환각을 플래그하는 RAG — 문장 단위 인용 검증 파이프라인

그럴듯한 오답이 가장 위험하다

엔지니어링 실무에서 AI의 최대 리스크는 "모르는 것"이 아니라 "그럴듯하게 틀리는 것"입니다. 법령 조항 번호를 위조하고, 존재하지 않는 판례를 인용하고, 계산 결과를 자신 있게 잘못 말하는 것 — 일반 LLM 챗봇의 이 습성은 도면과 시방서를 다루는 산업에서는 채택 불가 사유입니다.

두아즈는 이 문제를 프롬프트가 아니라 구조로 풉니다.

문장 단위 인용 검증

두아즈의 RAG 파이프라인은 LLM 답변을 문장 단위로 분해한 뒤, 각 문장을 검색된 원본 청크와 의미적으로 대조합니다. 인용이 부재하거나 약한 문장은 그대로 통과되지 않고 환각 리포트에 표시됩니다 — "이 문장은 출처가 없습니다"를 사용자가 한눈에 확인하는 화이트박스 구조입니다.

핵심 원칙은 세 가지입니다.

• —모든 답변에 문서·페이지 인용 강제 — 출처 없는 답변은 존재할 수 없는 구조
• —근거가 약하면 보류(Abstain) — 검색 점수가 낮으면 AI가 먼저 "판단 보류"를 선언하고 사람에게 이관
• —숫자는 결정론 엔진이 소유 — LLM은 계산에 관여하지 않고, 어디서 찾을지 제안하고 왜 그런지 설명할 뿐

실측 결과

이 구조는 롯데건설 시방서 QA에서 출처 귀속률 97.8%로 프로덕션 실증되었습니다. 분모 없는 수치는 쓰지 않습니다 — 모든 정확도는 동결 정답셋(frozen gold set) 기준으로 계측합니다.

검증 가능한 AI가 채택되는 AI입니다.