Glean 같은 서비스 제작하기: 권한 기반 사내 문서 검색과 출처 답변 기능 제작법

핵심 요약

1. 직원이 볼 수 있는 문서 안에서 근거를 찾아 원문 링크와 함께 답하는 사내 검색 서비스를 만듭니다. 2. Google Drive API로 자료를 연결하고 Cohere Embed·Rerank API로 근거를 찾은 뒤 Claude Citations로 답변을 구성합니다. 3. 권한 필터, 문서 변경·삭제 반영, 인용 연결과 답변 불가 처리는 자체 로직으로 구현합니다.

문서와 접근 권한을 함께 수집하기

Glean의 사용자 가치를 구현 관점으로 바꾸면 흩어진 사내 문서 찾기와 반복 질문에 답하는 기능으로 나눌 수 있습니다. 사내 지식 검색 서비스 개발에서는 문서 본문만 모으지 않고 누가 열람할 수 있는지도 함께 관리해야 합니다. 다음은 유사 기능을 구성하는 기술 제안입니다.

Google Drive API로 이용 승인을 받은 문서의 식별자, 수정 정보와 접근 정보를 연결합니다. 자체 코드가 지원 형식에 맞게 본문을 준비하고 문서별 수집 상태를 기록합니다. 문서가 이동·수정·삭제되거나 공유 범위가 달라졌다면 색인에도 반영하는 작업 큐가 필요합니다.

구글 드라이브 사내 검색의 출력 데이터는 본문 조각, 원본 문서 ID, 위치와 권한 정보가 연결된 형태입니다. 이 연결을 유지하면 검색 결과를 클릭했을 때 실제 원문으로 돌아갈 수 있습니다.

질문에 맞는 근거를 권한 범위 안에서 찾기

입력은 질문과 요청자의 조직·접근 정보입니다. Cohere Embed API로 질문과 문서 내용을 검색에 사용할 표현으로 바꾸고, 검색 후보를 Cohere Rerank API로 재정렬하는 구성을 사용할 수 있습니다. 검색 결과를 저장하고 조회하는 색인 계층과 권한 적용은 별도로 구현합니다.

권한 기반 RAG에서는 모델에 전달하기 전에 허용 문서만 후보로 남기는 것이 핵심입니다. 답변을 생성한 뒤 화면에서 링크만 숨기는 방식으로는 자료 노출을 막을 수 없습니다. 부서별 업무 매뉴얼과 전사 공지를 섞어 검색하더라도 사용자에게 허용된 범위만 답변 근거에 포함되도록 설계합니다.

검색 결과에는 문서 제목, 관련 구절과 원문 위치를 담습니다. 사용자가 질문을 좁힐 수 있도록 문서 종류나 적용 시점을 함께 보여주면 회사 업무 매뉴얼 검색에 도움이 됩니다.

원문을 인용하는 답변 생성하기

선별한 근거와 질문을 Claude의 문서 인용 기능에 연결해 답변과 출처를 생성합니다. 출처 표시 AI 답변의 자체 검수는 인용된 문서가 실제 검색 후보에 있는지, 인용 위치를 다시 열 수 있는지 확인하는 단계입니다. 모델의 문장과 원문을 함께 볼 수 있도록 화면을 구성합니다.

서로 다른 시행일의 규정이 검색되면 하나로 합쳐 확정하지 않고 적용 시점을 구분합니다. 근거가 부족하면 추가 질문이나 확인할 문서를 안내하도록 응답 규칙을 작성합니다. 문서 인용 챗봇 만들기에서는 자신 있게 답하는 문장보다 근거 범위를 유지하는 흐름이 중요합니다.

문서 갱신과 답변 품질을 운영하기

기업용 RAG 구축의 입력 자료는 계속 바뀝니다. 문서의 수정 버전과 색인 버전을 기록하고, 삭제된 자료나 철회된 공유 권한이 검색에 남아 있는지 점검합니다. 캐시를 사용한다면 요청자 권한이 달라졌을 때 이전 결과를 그대로 돌려주지 않도록 설계합니다.

평가는 신입사원 온보딩 챗봇의 실제 질문처럼 업무별 사례로 구성합니다. 정답 근거를 찾았는지, 다른 부서의 제한 문서가 섞이지 않았는지, 답변에서 원문을 열 수 있는지를 나눠 확인합니다. 검색 성공과 답변 정확성을 구분해 기록하면 어느 단계를 개선할지 판단할 수 있습니다.

사내 문서의 위치와 권한 구조, 반복 질문 목록을 정리하면 조직에 맞는 기업용 AI 검색의 첫 범위를 잡을 수 있습니다. 트램스 AI 제작 문의: https://trams.co.kr/ai-si/contact/#inquiry