고정 헤더 영역
상세 컨텐츠
본문
이번 멘토링에서는 사내 AI 챗봇의 설계 방향과 핵심 기능을 구체화하기 위해, 개인화 기능, RAG 구조, KB 설계 방식 등을 중심으로 전반적인 개선 방향을 논의하였습니다.
■ 1) 챗봇 방향성: 개인화 기능 중심 설계 필요
- 단순 문서 검색형 RAG 기반 챗봇이 아니라, 휴가 / 급여 / 근속일 등 개인 정보를 활용한 맞춤형 응답이 핵심이 되어야 함.
- 사용자의 질문이 애매하거나 어순이 뒤죽박죽이어도 → 챗봇이 판단해서 적절한 도메인(API 또는 KB)을 자동으로 선택해야 함.
예)- “나 휴가 몇 개 있어?” → 휴가 API
- “이번달 얼마나 받아?” → 급여 API
→ 즉, Intent Classification + Routing(분기) 구조가 필수.
■ 2) RAG 설계: 정확한 근거 제시
- RAG 기반 답변 시 출처 문서와 문단을 정확하게 표현해야 함.
예) “○○ 규정 3조 2항에서 인용함” - 이는 신뢰도 확보에 매우 중요하므로 필수 기능.
■ 3) RAG·OCR 관련 기술적 조언
- OCR이 필요한 문서(스캔, 이미지 기반 문서)가 많은 경우
→ 어떤 포맷으로 변환해서 넣을지 전처리 규정집 작성이 필요. - Word(docx)는 상대적으로 RAGFlow에서 인식률이 좋음.
- “텍스트가 이미지 형태로 포함된 문서”는
→ OCR을 안 쓰고 직접 레이아웃 기반 파싱할 대체 방안도 고려.
■ 4) Knowledge Base 설계 전략
문서가 많아지고 성격이 다르면 하나의 KB만으로는 정확도가 떨어질 가능성이 큼.
→ 따라서 도메인 기반으로 KB를 여러 개로 분리하는 것이 권장됨.
예)
- 법규·정책 관련 KB
- 교육·수강 관련 KB
- 인사(HR) 관련 KB
- 복지/급여 KB 등
이때, 질문 라우팅(Intent → KB 선택)까지 설계해야 함.
■ 5) 교육·수업진도율 등 추가적인 개인화 시나리오 필요
- 회사에서 실제로 활용 가능한 개인화 질문 예시가 더 필요함.
- 나의 교육 이수 현황
- 아직 미이수 과목
- 올해 반드시 들어야 하는 필수 교육
- 지금 설계에는 이 부분이 부족하므로 시나리오 추가 필요.
■ 6) API 연동 기반의 개인화 설계
- 회사 내부 시스템(인사, 휴가, 급여 등)과 연결된 기존 API가 있다고 가정하고
→ 챗봇이 해당 API를 호출하여 개인화된 응답을 줄 수 있게 설계해야 함. - 개인화 항목은 4~5개 정도면 충분.
중요 포인트는 “개인화가 되는 구조 자체를 설계했는가”.
이번 멘토링에서 제시된 방향을 바탕으로 개인화 기능 설계와 도메인별 KB 구조 재정비를 우선적으로 진행하며, 보다 정확하고 실용적인 챗봇으로 발전시킬 계획입니다.
댓글 영역