Base language model text continue করতে ভালো হলেও user instruction follow করার জন্য আলাদা training প্রয়োজন হতে পারে। বিভিন্ন instruction ও desired response pair দিয়ে model train করাকে instruction tuning বলা হয়।
Instruction: লেখাটি সংক্ষেপ করো
Input: দীর্ঘ paragraph
Desired output: সংক্ষিপ্ত summary
Instruction tuning model-কে question answering, summarization ও formatting-এর মতো task follow করতে সাহায্য করে। এটি নতুন factual database তৈরি করে না; মূলত interaction behavior improve করে।
Instruction tuning supervised instruction-response examples ব্যবহার করে pretrained model-কে user request ভালোভাবে follow করতে শেখায়।