LLM confident tone-এ ভুল, unsupported বা fabricated information generate করলে তাকে hallucination বলা হয়। Model plausible next token তৈরি করে; factual database থেকে সবসময় verified answer তুলে আনে না।
Hallucination কমাতে:
trustworthy context বা RAG ব্যবহার;
source citation চাওয়া ও verify করা;
constrained/structured output;
domain-specific evaluation;
“জানি না” বলার সুযোগ রাখা।
কোনো technique hallucination সম্পূর্ণ eliminate করে না, বিশেষ করে high-stakes use case-এ external verification দরকার।
Hallucination হলো এমন fluent output যা factualভাবে ভুল বা provided evidence দ্বারা supported নয়; grounding ও verification এর risk কমাতে পারে।