ক্ষতি কমানো: শেখার হার অপ্টিমাইজ করা

অনুশীলনী 1

স্লাইডারে শেখার হার 0.03 সেট করুন। গ্রেডিয়েন্ট ডিসেন্ট অ্যালগরিদম ক্ষতি বক্ররেখার সর্বনিম্ন বিন্দুতে না পৌঁছানো পর্যন্ত STEP বোতাম টিপতে থাকুন। এটা কত পদক্ষেপ নিয়েছে?

ব্যায়াম 2

আপনি কি উচ্চতর শিক্ষার হারের সাথে ন্যূনতম আরও দ্রুত পৌঁছাতে পারেন? 0.1 এর একটি শেখার হার সেট করুন, এবং গ্রেডিয়েন্ট ডিসেন্ট ন্যূনতম না হওয়া পর্যন্ত STEP টিপতে থাকুন। এই সময় এটি কত পদক্ষেপ নিয়েছে?

ব্যায়াম 3

কিভাবে একটি এমনকি বড় শেখার হার সম্পর্কে. গ্রাফ রিসেট করুন, শেখার হার 1 সেট করুন এবং সর্বনিম্ন ক্ষতি বক্ররেখায় পৌঁছানোর চেষ্টা করুন। এবার কি হলো?

ঐচ্ছিক চ্যালেঞ্জ

আপনি কি এই বক্ররেখার জন্য Goldilocks শেখার হার খুঁজে পেতে পারেন, যেখানে গ্রেডিয়েন্ট ডিসেন্ট সবচেয়ে কম সংখ্যক ধাপে সর্বনিম্ন বিন্দুতে পৌঁছায়? ন্যূনতম পৌঁছানোর জন্য প্রয়োজন সর্বনিম্ন সংখ্যক ধাপ কত?