การปรับให้เป็นมาตรฐานเพื่อความเรียบง่าย: การออกกำลังกาย Playground (การทำปกติ L2)

การตรวจสอบรูปแบบปกติ L2

แบบฝึกหัดนี้มีชุดข้อมูลการฝึกขนาดเล็กที่มีเสียงดัง ในการตั้งค่าแบบนี้ การปรับให้มากเกินไปถือเป็นเรื่องที่น่ากังวลมาก โชคดีที่การปรับรูปแบบสม่ำเสมออาจช่วยได้

แบบฝึกหัดนี้ประกอบไปด้วยงานที่เกี่ยวข้อง 3 งาน หากต้องการลดความซับซ้อนในการเปรียบเทียบงานทั้ง 3 งาน ให้เรียกใช้แต่ละงานในแท็บแยกต่างหาก

  • งานที่ 1: เรียกใช้โมเดลตามที่กำหนดไว้อย่างน้อย 500 Epoch ข้อควรทราบ
    • การสูญเสียทดสอบ
    • เดลต้าระหว่างการสูญเสียทดสอบกับการสูญเสียการฝึก
    • น้ำหนักที่เรียนรู้ของฟีเจอร์และคุณสมบัตินั้นมีการไขว้กัน (ความหนาสัมพัทธ์ของแต่ละเส้นที่ทำงานจาก FEATURES ถึง OUTPUT แสดงน้ำหนักที่เรียนรู้สำหรับคุณลักษณะหรือกากบาทของจุดสนใจ คุณสามารถดูค่าน้ำหนักที่แน่นอนได้โดยวางเมาส์เหนือแต่ละบรรทัด)
  • งาน 2: (พิจารณาทำงานนี้ในแท็บแยกต่างหาก) เพิ่มอัตราการสม่ำเสมอจาก 0 เป็น 0.3 จากนั้นเรียกใช้โมเดลเป็นเวลาอย่างน้อย 500 Epoch แล้วหาคําตอบสําหรับคําถามต่อไปนี้
    • การสูญเสียการทดสอบในงานที่ 2 แตกต่างจากการสูญหายของการทดสอบในงานที่ 1 อย่างไร
    • เดลต้าระหว่างการสูญเสียการทดสอบกับการสูญเสียการฝึกในงานที่ 2 แตกต่างจากงานที่ 1 อย่างไร
    • น้ำหนักที่เรียนรู้ของแต่ละฟีเจอร์และข้ามฟีเจอร์แตกต่างจากงานที่ 2 ไปยังงานที่ 1 อย่างไร
    • ผลลัพธ์ของคุณระบุข้อมูลเกี่ยวกับความซับซ้อนของโมเดลอย่างไร
  • งานที่ 3: ทดสอบอัตราความสม่ำเสมอโดยพยายามหาค่าที่เหมาะสมที่สุด

(คำตอบจะปรากฏที่ด้านล่างของแบบฝึกหัด)