Reward Shaping এবং তার ঝুঁকি

শুধু final goal-এ reward দিলে agent-এর শেখা ধীর হতে পারে। Intermediate progress-এর জন্য additional reward দেওয়াকে reward shaping বলা হয়।

Maze example:

Goal-এ পৌঁছানো       → +100
Goal-এর কাছে যাওয়া    → +2
প্রতি unnecessary step → -0.1

এতে agent দ্রুত useful behavior শিখতে পারে। কিন্তু ভুল reward দিলে reward hacking হতে পারে। Agent designer-এর intention পূরণ না করে reward পাওয়ার loophole খুঁজে নিতে পারে।

Reward shaping learning-কে guide করতে intermediate feedback যোগ করে, কিন্তু poorly designed reward unintended behavior তৈরি করতে পারে।