Überkreuzen?

Bevor Sie sich das Video ansehen oder die Dokumentation lesen, in der die übermäßige Verwendung von Funktionsverknüpfungen untersucht wird.

Aufgabe 1: Das Modell unverändert mit allen vorhandenen produktübergreifenden Funktionen. Gibt es Überraschungen bei der Art und Weise, wie das Modell zu den Daten passt? Was ist das Problem?

Aufgabe 2: Versuchen Sie, verschiedene produktübergreifende Funktionen zu verbessern. Leistung erzielen (wenn auch nur geringfügig). Warum sollte das Entfernen von Funktionen die Leistung zu verbessern?

(Die Antworten werden direkt unter der Übung angezeigt.)

---

---

Klicken Sie auf das Plus-Symbol, um eine Antwort auf Aufgabe 1 zu erhalten.

Überraschenderweise sieht die Entscheidungsgrenze des Modells etwas verrückt aus. Insbesondere gibt es links oben eine Region, die einen Hinweis in Richtung Blau zeigt, obwohl gibt es dafür in den Daten keine sichtbare Unterstützung.

Beachten Sie die relative Stärke der fünf Linien, die von INPUT bis OUTPUT verlaufen. Diese Linien stellen die relative Gewichtung der fünf Merkmale dar. Die Linien, die von X₁ und X₂ ausgehen, sind viel dicker als die aus den Funktionsverknüpfungen stammen. Funktionsverknüpfungen sind also wesentlich weniger zum Modell beitragen als die normalen (nicht gekreuzten) Merkmale.

Klicken Sie auf das Plus-Symbol, um eine Antwort auf Aufgabe 2 zu erhalten.

Das Entfernen aller Funktionsverknüpfungen ermöglicht ein sinnvolleres Modell. keine gekrümmte Begrenzung mehr, die auf eine Überanpassung hindeutet) und führt dazu, dass der Testverlust konvergiert.

Nach 1.000 Durchläufen sollte der Wert der Testverluste etwas niedriger sein. als bei Funktionsverknüpfungen (obwohl die Ergebnisse kann je nach Datensatz leicht variieren.

Die Daten in dieser Übung sind im Grunde lineare Daten plus Rauschen. Wenn wir ein Modell verwenden, das zu kompliziert ist, zum Beispiel ein Modell mit zu vielen können wir es an das Rauschen der Trainingsdaten anpassen, häufig auf Kosten der schlechten Leistung des Modells mit Testdaten.