Context window হলো একবারে model কত token input ও generated output মিলিয়ে handle করতে পারে তার limit। Conversation history, system instruction, retrieved documents এবং response—সবই এই budget ব্যবহার করে।
Long context থাকলেই model সব information সমানভাবে ব্যবহার করবে—এমন নয়। গুরুত্বপূর্ণ information হারিয়ে যেতে পারে বা distant parts-এর relationship দুর্বল হতে পারে। তাই relevant context নির্বাচন ও concise prompt গুরুত্বপূর্ণ।
Context window হলো একটি request-এ LLM কত token বিবেচনা করতে পারে তার সীমা; limit-এর মধ্যে থাকলেও irrelevant বা poorly organized context performance কমাতে পারে।