Foreste di decisione

Una foresta di alberi decisionali è un termine generico per descrivere i modelli costituiti da più alberi decisionali. La previsione di una foresta decisionale è l'aggregazione delle predizioni dei suoi alberi decisionali. L'implementazione di questa aggregazione dipende dall'algoritmo utilizzato per addestrare la foresta decisionale. Ad esempio, in una foresta random per la classificazione multiclasse (un tipo di foresta decisionale), ogni albero vota per una singola classe e la previsione della foresta random è la classe più rappresentata. In un albero con boosting per la classificazione binaria (GBT) (un altro tipo di foresta decisionale), ogni albero genera un logit (un valore in virgola mobile) e la previsione dell'albero con boosting è la somma di questi valori followed da una funzione di attivazione (ad es. sigmoidea).

I due capitoli successivi descrivono in dettaglio questi due algoritmi delle foreste di alberi decisionali.