챗봇2024
RAG 기반 기업용 AI 챗봇
사내 문서와 지식베이스를 학습한 RAG(Retrieval-Augmented Generation) 기반의 맞춤형 AI 챗봇입니다. 단순 FAQ 봇을 넘어, 복잡한 업무 질문에도 정확한 답변을 제공하며, 고객 응대와 내부 업무 지원을 동시에 수행합니다.
Client
기업 F사
Challenge
고객 문의의 70%가 반복적인 질문이었지만, 기존 FAQ 시스템으로는 다양한 표현의 질문에 대응하기 어려웠습니다. 또한 사내 직원들도 필요한 정보를 찾기 위해 여러 문서를 뒤지는 데 많은 시간을 소비하고 있었습니다. 일반 ChatGPT를 사용하자니 기업 정보 유출 우려가 있었습니다.
Solution
RAG 아키텍처를 기반으로 기업 전용 AI 챗봇을 구축했습니다. 사내 문서, 매뉴얼, FAQ 등을 벡터 데이터베이스에 임베딩하여 저장하고, 사용자 질문과 관련된 문서를 실시간으로 검색하여 LLM이 정확한 답변을 생성하도록 했습니다. 기업 데이터는 자체 서버에서만 처리되어 보안도 확보했습니다.
Results
프로젝트 성과
고객 문의 응대 시간 70% 단축
답변 정확도 90% 이상 달성
24시간 무중단 고객 서비스 제공
내부 직원 정보 검색 시간 80% 절감
Tech Stack
사용 기술
OpenAI APILangChainPineconePythonFastAPIReact