Drzewa decyzji: sprawdź swoją wiedzę

Na tej stronie znajdziesz odpowiedzi na serię ćwiczeń jednokrotnego wyboru dotyczących materiałów omawianych w &&tt;Training Decision Trees&quot.

Pytanie 1

Jakie są skutki zastąpienia cech liczbowych ich wartościami ujemnymi (na przykład zmianę wartości +8 na -8) dokładnym ograniczeniem liczbowym?

Warunki zostaną spełnione. Zostaną przeniesione tylko te elementy podrzędne/dodatnie.

Fantastyczne.

Zostaną wyświetlone różne warunki, ale ogólna struktura drzewa decyzji pozostanie bez zmian.

Jeśli warunki się zmienią, zmienią się warunki.

Struktura drzewa decyzji będzie zupełnie inna.

Struktura drzewa decyzji będzie mniej więcej taka sama. Warunki się jednak zmienią.

Pytanie 2

Które 2 odpowiedzi najlepiej opisują wpływ testowania tylko połowy (losowych) wartości progowych kandydatów w X?

Uzyskane informacje będą wyższe lub równe.

Uzyskane informacje będą mniejsze lub równe.

Gratulacje.

Końcowe drzewo decyzyjne mogłyby być mniej precyzyjne.

Końcowe drzewo decyzyjne byłoby mniej dokładne.

Gratulacje.

Pytanie 3

Co by się stało, gdy krzywa „wzrostu informacji” różni się od krzywej &progu?

Nie można mieć wielu lokalnych wartości maksymalnych.

Można użyć wielu lokalnych maksimów.

Algorytm wybiera lokalną maksimum z najmniejszą wartością progową.

Algorytm wybierze globalną wartość maksymalną.

Gratulacje.

Pytanie 4

Oblicz wartość informacyjną następującego podziału:

Węzeł	Liczba pozytywnych przykładów	Liczba przykładów negatywnych
węzeł nadrzędny	10	6
pierwsze dziecko	8	2
drugie dziecko	2	4

Kliknij ikonę, aby zobaczyć odpowiedź.

# Positive label distribution
p_parent = 10 / (10+6) # = 0.625
p_child_1 = 8 / (8+2) # = 0.8
p_child_2 = 2 / (2+4) # = 0.3333333

# Entropy
h_parent = -p_parent * log(p_parent) - (1-p_parent) * log(1-p_parent) # = 0.6615632
h_child_1 = ... # = 0.5004024
h_child_2 = ... # = 0.6365142

# Ratio of example in the child 1
s = (8+2)/(10+6)
f_final = s * h_child_1 + (1-s) * h_child_2 # = 0.5514443

information_gain = h_parent - f_final # = 0.1101189

---