ニューラル ネットの初期化

この演習でも XOR データを使用しますが、再現性に注目します。 初期化の重要性について説明しました。

タスク 1: 指定されたとおりにモデルを 4 回または 5 回実行します。各トライアルの前に [ネットワークをリセット] ボタンをクリックして、新たにランダムに初期化されるようにします。 （[ネットワークをリセット] ボタンは、 クリックします）。各トライアルを少なくとも 500 ステップ実行する 確実に収束するようにします各モデルの出力はどの形状に収束しますか。 このことから、非凸面における初期化の役割について何がわかるか。 最適化できるか

タスク 2: レイヤを追加してモデルを少し複雑にしてみる いくつかの追加ノードが必要になりますタスク 1 のトライアルを繰り返します。この内容 結果に安定性が加わりますか？

（解答は演習のすぐ下に表示されます）。

---

---

タスク 1 の解答のプラスアイコンをクリックします。

学習したモデルの形状は実行ごとに異なります。合流 テスト損失は低い値と最大値でほぼ 2 倍に変化しました。

プラスアイコンをクリックすると、タスク 2 の解答が表示されます。

レイヤと追加のノードを追加することで、再現可能な結果が生成されました。 各実行で、生成されたモデルはほぼ同じに見えました。さらに 収束テスト損失では実行間のばらつきが小さくなりました。