संग्रह की मदद से व्यवस्थित रहें
अपनी प्राथमिकताओं के आधार पर, कॉन्टेंट को सेव करें और कैटगरी में बांटें.
अपनी जानकारी देखें: बैच का साइज़
नीचे दिए गए विकल्पों को एक्सप्लोर करें.
बड़े डेटा सेट पर ग्रेडिएंट डीसेंट करते समय, इनमें से
किस बैच साइज़ से ज़्यादा बेहतर नतीजे मिल सकते हैं?
पूरा बैच.
किसी पूरे बैच से ग्रेडिएंट की गिनती करना सही नहीं है. इसका मतलब है कि
ग्रेडिएंट का हिसाब आम तौर पर, एक बड़े बैच के मुकाबले, एक छोटे बैच से ज़्यादा बेहतर (और सटीक रूप से)
लगाया जा सकता है.
छोटा बैच या किसी उदाहरण का बैच (एसजीडी).
हैरानी की बात यह है कि एक छोटे बैच या यहां तक कि किसी उदाहरण के बैच पर ग्रेडिएंट डिसेंट परफ़ॉर्म करना, आम तौर पर पूरे बैच की तुलना में ज़्यादा असरदार होता है. ऐसा इसलिए है, क्योंकि किसी एक उदाहरण का ग्रेडिएंट
ढूंढना, लाखों उदाहरणों के ग्रेडिएंट का ग्रेडिएंट ढूंढने से काफ़ी सस्ता है.
यह पक्का करने के लिए कि सैंपल अच्छी तरह से काम करे, एल्गोरिदम हर बार दोहराए जाने वाले
एक से ज़्यादा छोटे बैच (या किसी एक के बैच) का इस्तेमाल करता है.
