Challenge
벡터 DB만 먼저 두면 다른 팀 문서가 답변에 섞입니다. 환각이 치명적인 화면인데 출처가 없으면 현업이 결과를 쓸 수 없습니다.
Solution
권한 필터를 검색 앞에 두고, 답변 옆에 출처 문단을 보여 줍니다. 근거가 없으면 모른다고 말하게 하고, 결제·집행은 승인 단계를 남깁니다.
Technology
문서 수집, 임베딩, 벡터 검색, LLM API. 홈과 기존 서비스 설명에서 다룬 범위는 GPT 계열 연동, RAG, 이미지 분석입니다.
Deliverables
- 문서 수집과 권한 필터
- 검색과 프롬프트
- 출처가 보이는 답변
- 사용량 한도
- 평가용 질문 셋
RAG가 문서를 답변으로 바꾸는 흐름
- 기업 내부 문서
- Data Processing
- Vector Database
- LLM
- Enterprise AI Assistant
Generative AI
초안과 요약처럼 사람이 고칠 수 있는 출력에 맞춥니다.
LLM Integration
질문 유형별로 모델을 나누고, 사용량 한도와 재시도를 둡니다.
RAG
문서 수집, 청크, 임베딩, 권한 필터, 프롬프트, 평가 셋을 분리합니다.
AI Chatbot
고객 문의 초안은 근거가 없으면 모른다고 말하게 합니다.
AI Agent
도구 호출은 조회와 초안까지. 결제처럼 집행이 필요한 일은 사람 승인을 남깁니다.
Document AI
위키, 티켓, 계약 조항처럼 입력이 문서인 업무에 붙입니다.
Vision AI
영상·이미지에서 상태를 읽고, 사람이 확인할 분류 결과를 남깁니다.
Recommendation
추천 이유와 제외 조건을 운영자가 볼 수 있게 둡니다.
Business Automation
반복 초안과 분류를 줄이되, 자동 집행 범위는 따로 정합니다.
Data Pipeline
수집과 적재, 실패 재처리를 모델 호출과 분리합니다.
AI API Integration
외부 모델 API의 지연과 오류를 제품 흐름 안에서 처리합니다.