[RAG] RAG를 사용한 LLM Application 개발
·
Tech
RAG(Retrieval-Augmented Generation) 사전에 학습된 LLM이 모르는 사실을 외부 지식 베이스에서 검색하여 그 결과를 프롬프트에 주입한 뒤에 생성으로 최종 답을 만드는 패턴이다. 1) Retrieval LLM이 답을 만들기 전에 외부 지식에서 관련 문서를 찾아오는 단계 2) Augmented AR/VR의 "증강"이 아닌, 찾아온 텍스트를 프롬프트에 구조적으로 주입하는 것 3) Generation 주입된 컨텍스트를 근거로 최종 답을 작성하는 단계 개발자는 ? 답변을 생성하는 것은 LLM의 역할이고, 우리는 데이터를 잘 가져와서 LLM에게 잘 전달해야한다. 데이터를 잘 가져오려면 ? → 일단 잘 저장해야한다. 잘 전달하려면 ? → 프롬프트를 잘 활용해야한다. 문맥을 어떻게 제공할..