Hutan Keputusan

Hutan keputusan adalah istilah umum untuk mendeskripsikan model yang dibuat dari beberapa pohon keputusan. Prediksi hutan keputusan adalah agregasi prediksi pohon keputusannya. Penerapan agregasi ini bergantung pada algoritma yang digunakan untuk melatih hutan keputusan. Misalnya, dalam random forest klasifikasi multi-class (jenis hutan keputusan), setiap pohon akan memilih satu class, dan prediksi random forest adalah class yang paling diwakili. Dalam klasifikasi biner, Pohon yang Ditingkatkan dengan Gradien (GBT) (jenis hutan keputusan lainnya), setiap pohon menghasilkan logit (nilai floating point), dan prediksi pohon yang ditingkatkan dengan gradien adalah jumlah nilai tersebut, diikuti dengan fungsi aktivasi (misalnya, sigmoid).

Dua bab berikutnya menjelaskan kedua algoritma hutan keputusan tersebut.