Retrieval-Augmented Generation (RAG)

RAG-এ user query অনুযায়ী external knowledge source থেকে relevant information retrieve করে LLM-এর prompt-এ দেওয়া হয়। তারপর model সেই context ব্যবহার করে answer generate করে।

Question
  ↓
Retrieve relevant documents
  ↓
Add documents to prompt
  ↓
LLM generates grounded answer

RAG private বা frequently updated knowledge ব্যবহার করতে সাহায্য করে। তবে retrieval ভুল হলে generation-ও ভুল হতে পারে। তাই RAG system evaluate করতে retrieval এবং final answer—দুটিই আলাদাভাবে দেখতে হয়।

RAG generation-এর আগে external source থেকে relevant context retrieve করে, যাতে LLM updated বা domain-specific information-এর ভিত্তিতে answer দিতে পারে।