第一個類神經網路

在本練習中,我們會訓練第一個小小的類神經網路。 類神經網路可讓我們學會在沒有線性模型的情況下 交叉性特徵關係

任務 1:上述模型將我們的兩個輸入特徵合而為一 單一神經元這個模型是否會學習任何非線性?執行該程式碼以確認

工作 2:嘗試增加隱藏層的神經元數量: 1 到 2,並嘗試從「線性啟用」變更為非線性啟用 就像 ReLU 一樣您能建立可以學習非線性的模型嗎?可以模擬 如何有效保護資料呢?

工作 3:嘗試增加隱藏層的神經元數量: 2 到 3,使用 ReLU 這類非線性活化機制。是否能建立資料模型 有效?模型品質在執行後會如何變化?

工作 4:新增或移除隱藏圖層,即可繼續進行實驗 以及每個層的神經元另外,你也可以調整學習率 和其他學習設定最小是什麼? 您可以降低模型的負荷量和層數 0.177 以下?

增加模型大小是否能改善配適度,或者凝結速度有多快? 這項變更是否會改變模型收穫良好模型的頻率?舉例來說,您可以 以下架構:

  • 第一個隱藏層,有 3 個神經元。
  • 第二個隱藏層,有 3 個神經元。
  • 有 2 個神經元的第三層隱藏層。

(答案會顯示在運動正下方)。