Sobrevoo?

Antes de assistir ao vídeo ou ler a documentação, preencha este exercício que explora o uso excessivo de cruzamentos de atributos.

Tarefa 1:execute o modelo no estado em que se encontra, com todos os produtos atributos de machine learning. Há alguma surpresa na maneira como o modelo ajusta os dados? Qual é o problema?

Tarefa 2:remover vários recursos de vários produtos para melhorar desempenho (embora seja pouco). Por que remover recursos melhorar o desempenho?

As respostas aparecem logo abaixo do exercício.

---

---

Clique no ícone de adição para receber uma resposta à Tarefa 1.

Surpreendentemente, a fronteira de decisão do modelo parece meio estranha. Especificamente, há uma região no canto superior esquerdo que sugere azul, embora não há suporte visível para isso nos dados.

Observe a espessura relativa das cinco linhas que vão de INPUT a OUTPUT. Essas linhas mostram os pesos relativos dos cinco atributos. As linhas que emanam de X₁ e X₂ são muito mais grossas que aqueles provenientes dos cruzamentos de atributos. Portanto, os cruzamentos de atributos são contribuindo muito menos para o modelo do que os atributos normais (não cruzados).

Clique no ícone de adição para receber uma resposta à Tarefa 2.

Remover todos os cruzamentos de atributos resulta em um modelo mais razoável (não há não é mais uma fronteira curva sugestiva de overfitting) e faz a perda de teste convergir.

Após 1.000 iterações, a perda de teste vai ser um valor um pouco menor do que quando os cruzamentos de atributos estavam ativos (embora seus resultados pode variar um pouco, dependendo do conjunto de dados).

Os dados neste exercício são basicamente lineares mais o ruído. Se usarmos um modelo muito complicado, como um com muitas cruzamentos, damos a ele a oportunidade de se ajustar ao ruído nos dados de treinamento, muitas vezes prejudicando o desempenho do modelo com os dados de teste.