GAN 訓練

由於 GAN 包含兩個單獨訓練的網路,因此訓練演算法必須解決兩個小工具:

  • GAN 必須切換兩種不同類型的訓練 (產生器和歧視器)。
  • 難以識別 GAN 融合。

替代訓練

產生器和歧視器有不同的訓練程序。那麼,該如何全面訓練 GAN?

GAN 訓練會在固定期間繼續:

  1. 歧視一或多個訓練週期的歧視者。
  2. 產生器會訓練一或多個訓練週期。
  3. 重複步驟 1 和 2,繼續訓練發電機和歧視網路。

我們會在可辨識的訓練階段中將產生器保持不變。由於差異化器訓練會嘗試辨別如何辨別實際資料與假資料,因此必須學習如何辨識產生器的瑕疵。這與完整訓練的產生器與產生隨機輸出的未訓練產生器不同,這個問題的不一樣。

同樣地,我們會在發電機訓練階段持續使用歧視器常數。否則,產生器可能會嘗試移動移動中的目標,且不會收縮。

可讓 GAN 順利處理衍生問題。我們先從較簡單的分類問題開始,才能夠解決棘手的生成問題。反之,如果無法訓練初始隨機產生器輸出內容,就能讓分類器分辨實際和產生的資料之間的差異,就無法啟動 GAN 訓練。

融合

隨著訓練機的改進,訓練器的表現將會較差,因為歧視器的效能無法輕易判斷真偽。如果產生器成功地執行,則辨識器的準確率為 50%。事實上,歧視者反對著代幣以進行預測。

此進展會讓整體 GAN 的融合問題發生:隨著歧視使用者的意見逐漸漸趨重要,如果 GAN 繼續訓練,直到歧視者提供完全隨機的意見回饋後,產生器就會開始針對垃圾資料進行訓練,而品質可能會因此消失。

對 GAN 來說,融合通常是機群,而非穩定狀態。