사내 문서 기반 생성형 AI(RAG) 플랫폼
사내 문서 기반 생성형 AI(RAG) 플랫폼
Overview
본 제품은 사내 파일서버의 업무 문서를 수집·파싱·분할(청킹)하여 벡터 데이터베이스에 색인하고, 의미 검색과 한국어 형태소 기반 키워드 검색을 결합한 하이브리드 검색으로 질문의 근거 문서를 찾으며, 사내 GPU 서버에서 구동되는 대규모 언어모델(LLM)을 OpenAI 호환 API로 제공하는 완전 온프레미스 생성형 AI 플랫폼이다.
사내 데이터를 외부 클라우드 AI API로 전송하지 않으며, 사내 여러 업무 시스템이 공통으로 사용하는 AI 백엔드(API 서버)를 목적으로 한다.