제품 상세
문서에서 근거를 찾아 답하는 챗봇입니다. 모델이 알고 있는 것으로 답하지 않고, 넣어 둔 자료에서 해당 대목을 찾아 그것을 바탕으로 답합니다.
■ 검색이 정확해야 답이 정확합니다
문서를 의미 단위로 잘라 색인하고, 한국어에 맞춘 임베딩으로 뜻이 비슷한 대목을 찾습니다. 여기에 단어가 그대로 일치하는 검색(BM25)을 함께 돌려 두 결과를 합치고, 다시 순위를 매겨(리랭킹) 실제로 답에 쓸 대목만 남깁니다. 제품명이나 품번처럼 뜻으로는 찾기 어려운 표현이 검색에서 새지 않게 하기 위해서입니다.
■ 답에 근거가 따라옵니다
답변과 함께 어느 문서의 어느 대목을 근거로 삼았는지 제시합니다. 찾은 자료가 없으면 지어내는 대신 찾지 못했다고 답하도록 구성합니다.
■ 자료가 밖으로 나가지 않습니다
오픈웨이트 모델을 자체 서버에 올려 폐쇄망에서 운영할 수 있습니다. 사내 규정이나 계약서처럼 외부 서비스로 보낼 수 없는 자료도 그대로 다룰 수 있습니다.
■ 활용
사내 규정·매뉴얼 안내, 상담 응대, 상품 검색, 기술 문서 질의처럼 자료는 있는데 찾기 어려운 일에 적용합니다.
구성 및 사양
| 검색 방식 | 하이브리드 — 벡터(의미) 검색과 BM25(키워드) 검색 결과를 합친 뒤 리랭킹 |
| 임베딩 | 한국어 특화 임베딩 모델 |
| 문서 처리 | 청킹(의미 단위 분할) · 메타데이터 색인 · 자료 갱신분 반영 |
| 답변 | 근거 문서·대목을 함께 제시. 근거를 찾지 못하면 답하지 않도록 구성 |
| 모델 | 오픈웨이트 LLM(Llama · Qwen · Gemma 계열) 자체 서빙 · LoRA 파인튜닝은 선택 |
| 입력 자료 | 사내 문서, 매뉴얼, 규정, 상품 정보 등 |
| 구축 형태 | 클라우드 서비스 또는 온프레미스(폐쇄망) 설치 |
| 활용 | 사내 문서 안내, 상담 응대, 상품 검색, 기술 문서 질의 |