RAG A부터 Z까지: 먼저 문서를 찾고 답변하기
Spring AI로 완전한 RAG 파이프라인 구축하기: 문서 분할, 임베딩 생성, 벡터 검색, 출처가 있는 프롬프트 생성 및 각 단계의 테스트
Spring AI로 완전한 RAG 파이프라인 구축하기: 문서 분할, 임베딩 생성, 벡터 검색, 출처가 있는 프롬프트 생성 및 각 단계의 테스트
LLM은 당신 회사의 개인 데이터를 자동으로 알지 못합니다. 이 글은 RAG 메커니즘, retrieval이 답변 품질을 결정하는 이유, 실행 가능한 Java 예제를 설명합니다.
RAG의 Flat search는 O(n)으로 동작하며 완벽히 정확하지만, 데이터가 크면 비용이 많이 듭니다. IVF, nprobe, Java 예제를 통한 recall/속도 트레이드오프를 설명합니다.
관련 문단을 찾았다고 해서 답변을 얻는 건 아닙니다. 이 글에서는 LLM이 근거 있는 답변을 하고 데이터가 부족할 때 거절할 수 있도록 rerank, hybrid search, grounding을 활용한 파이프라인을 소개합니다.
임베딩이 텍스트를 벡터로 변환하여 의미에 따라 매칭하는 방법을 배워보세요. 실행 가능한 Java 예제를 통해 RAG에 적용해봅시다.