Kayıpları Azaltma: Öğrendiklerinizi Sınayın

Bilginizi Kontrol Edin: Grup Boyutu

Aşağıdaki seçeneklere göz atın.

Büyük bir veri kümesinde gradyan azalma gerçekleştirirken aşağıdaki grup boyutlarından hangisinin daha verimli olması muhtemeldir?
Grubun tamamı.
Tam bir grupta renk geçişinin hesaplanması verimsizdir. Diğer bir deyişle, renk geçişi genellikle çok daha büyük bir tam gruptan çok daha küçük bir gruptan çok daha verimli (ve aynı derecede doğru) hesaplanabilir.
Küçük bir grup, hatta bir örnek grubu (SGD).
Şaşırtıcı bir şekilde, küçük bir grupta veya bir örnekten oluşan bir grupta gradyan azalma gerçekleştirmek, genellikle tam paketten daha verimlidir. Sonuçta bir örneğin gradyanını bulmak, milyonlarca örneğin gradyanını bulmaktan çok daha ucuzdur. Algoritma, iyi bir temsili örnek sağlamak için her iterasyonda başka bir rastgele küçük grup (veya bir grup) toplar.