CLOVA Studio 같은 서비스 제작하기: 프롬프트 비교·사내 검색·업무 도구 연결 제작법

핵심 요약

1. 프롬프트 결과를 비교하고 사내 자료 검색과 업무 API 실행을 연결하는 AI 플랫폼을 만듭니다. 2. CLOVA Studio API·Embedding·Reranker·Function Calling·Tuning을 기능별 후보로 활용합니다. 3. 실험 조건과 평가, 문서 권한, 도구 실행 승인과 모델 버전 관리는 자체 개발합니다.

CLOVA Studio의 기능을 참고하면 기업용 생성형 AI 개발 플랫폼에 필요한 흐름을 나눠 볼 수 있습니다. 질문에 답하는 모델 호출 외에도 실험 결과를 비교하고 회사 데이터와 업무에 연결하는 기능이 필요합니다. 아래는 이를 자체 서비스로 구성하는 방법입니다.

LLM 프롬프트 결과 비교 화면 만들기

입력은 테스트할 질문 묶음과 프롬프트, 모델 설정입니다. CLOVA Studio API로 각 조건의 응답을 받아 같은 질문에 대한 결과를 나란히 보여줍니다. 자체 코드는 질문 버전과 설정값, 응답 시간과 사용량을 묶어 저장합니다.

LLM 플레이그라운드 구축에서는 한 번 잘 나온 답변만으로 프롬프트를 선택하지 않도록 평가 묶음을 관리합니다. 형식 준수와 필요한 내용의 포함 여부, 사람이 수정한 부분을 비교할 수 있게 합니다. 출력은 조건별 결과와 평가 기록이며, 실패한 호출은 빈 답변과 구분합니다.

사내 자료를 검색할 수 있게 준비하기

입력은 접근 권한을 확보한 회사 문서와 질문입니다. CLOVA Studio Embedding으로 문서와 질문의 검색 표현을 만들고, Reranker로 후보 문서의 관련성을 다시 평가하는 구성을 사용할 수 있습니다. 두 기능은 검색 후보 구성과 순서 조정이라는 서로 다른 역할입니다.

자체 로직은 문서를 문단으로 나누고 원문 위치와 갱신 시각, 접근 권한을 연결합니다. 검색 단계부터 사용자에게 허용된 자료만 선택합니다. 출력은 답변에 사용할 근거 문단과 출처이며, 삭제되거나 공유가 해제된 문서도 검색 대상에서 반영합니다.

출처 있는 RAG 답변 생성하기

입력은 질문과 선별한 근거입니다. 생성 API에 근거를 전달하고 문서에 있는 내용과 추가로 확인할 사항을 구분해 답하도록 구성합니다. 자체 코드는 답변에 붙은 출처가 실제 문서로 연결되는지 확인합니다.

사내 RAG 챗봇 개발에서는 서로 충돌하는 문서와 오래된 정책을 구분해야 합니다. 충분한 근거가 없으면 확인 질문이나 담당 부서 안내로 연결합니다. 출력은 근거를 열어 볼 수 있는 답변이며, 모델이 지어낸 문서 제목이나 주소를 출처로 저장하지 않습니다.

업무 API를 승인된 도구로 연결하기

입력은 사용자의 업무 요청과 허용된 도구 목록입니다. CLOVA Studio Function Calling으로 도구와 인자 후보를 얻고 자체 서버가 실제 API를 호출하는 구조로 구성할 수 있습니다. 모델이 제안한 인자는 실행 전에 형식과 권한을 검사합니다.

AI 에이전트 업무 API 연동에서 조회와 변경 작업은 필요한 승인 수준이 다릅니다. 변경 전후를 보여주고 승인받은 범위만 실행하며, 같은 요청이 다시 도착해도 중복 처리하지 않도록 기록합니다. 출력은 실제 API 결과와 실행 이력이며 실패를 완료로 요약하지 않습니다.

맞춤 모델과 평가 흐름 운영하기

입력은 이용 권한이 있고 품질을 검토한 학습 예시입니다. CLOVA Studio Tuning을 후보로 검토할 때 학습 자료와 평가 자료를 분리하고 지원 모델·형식·비용 조건을 확인합니다. 회사 문서가 자주 바뀌는 문제는 검색 자료 갱신으로, 반복되는 응답 형식 문제는 프롬프트와 튜닝 후보로 나누어 접근할 수 있습니다.

자체 코드는 이전 모델과 새 모델을 같은 질문으로 비교하고 문제 발생 시 되돌릴 버전을 관리합니다. AI 스킬에는 작업 순서와 답변 원칙을 담고 권한·승인·저장은 코드로 처리합니다. 필요한 실험 화면과 사내 업무 연결 범위를 정리해 트램스 AI에 제작을 문의해 주세요: https://trams.co.kr/ai-si/contact/#inquiry