Kiểm tra quy trình chuẩn hoá L₂

Bài tập này chứa một tập dữ liệu huấn luyện nhỏ và nhiễu. Trong loại bối cảnh này, việc điều chỉnh quá mức là rất đáng lo ngại. Rất may là điều chỉnh có thể giúp ích.

Bài tập này bao gồm 3 nhiệm vụ liên quan. Để đơn giản hoá thông tin so sánh trên 3 công việc, hãy chạy từng công việc trong một thẻ riêng.

• Nhiệm vụ 1: Chạy mô hình như đã nêu trong ít nhất 500 khoảng thời gian bắt đầu của hệ thống. Ghi chú như sau:
  • Kiểm thử tổn thất.
  • Giá trị delta giữa Số lượt ngừng kiểm thử và Số lượt ngừng huấn luyện.
  • Trọng số đã học của các đối tượng và đối tượng kết hợp. (Độ dày tương đối của mỗi đường chạy từ FEATURES đến OUTPUT thể hiện trọng số đã học cho đối tượng hoặc đối tượng chéo đó. Bạn có thể tìm thấy giá trị trọng lượng chính xác bằng cách di chuột qua từng dòng.)
• Nhiệm vụ 2: (Cân nhắc thực hiện Nhiệm vụ này trong một thẻ riêng.) Tăng tỷ lệ chuẩn hoá từ 0 đến 0,3. Sau đó, chạy mô hình cho ít nhất 500 thời gian bắt đầu của hệ thống và tìm câu trả lời cho các câu hỏi sau:
  • Mất kiểm thử trong Tác vụ 2 khác với mất kiểm thử trong Tác vụ như thế nào 1?
  • Mức chênh lệch giữa Số lượt ngừng kiểm thử và Số lượt ngừng huấn luyện trong Nhiệm vụ 2 như thế nào khác với Nhiệm vụ 1?
  • Trọng số đã học của từng tính năng và đối tượng chéo khác nhau như thế nào từ Nhiệm vụ 2 sang Nhiệm vụ 1?
  • Kết quả của bạn cho biết điều gì về độ phức tạp của mô hình?
• Nhiệm vụ 3: Thử nghiệm với tỷ lệ điều chỉnh, cố gắng tìm giá trị tối ưu.

(Câu trả lời sẽ xuất hiện ngay bên dưới bài tập).

---

---

Hãy nhấp vào biểu tượng dấu cộng để xem câu trả lời.

Tăng tốc độ điều chỉnh từ 0 lên 0,3 sẽ dẫn đến kết quả sau hiệu ứng:

• Tỷ lệ mất kiểm thử giảm đáng kể.

  Lưu ý: Mặc dù số lần ngừng thử nghiệm giảm, nhưng số lần huấn luyện trên thực tế lại giảm tăng. Đây là lỗi bình thường vì bạn đã thêm một lỗi khác thuật ngữ cho hàm mất đi để phạt sự phức tạp. Cuối cùng, tất cả những điều đó vấn đề là thất bại trong kiểm thử, vì đó là thước đo thực sự về khả năng đưa ra dự đoán chính xác về dữ liệu mới.

• Mức chênh lệch giữa Số lượt ngừng kiểm thử và Số lượt ngừng huấn luyện giảm đáng kể.
• Trọng số của các đối tượng và một số đối tượng lai có trọng số thấp hơn giá trị tuyệt đối, ngụ ý rằng độ phức tạp của mô hình giảm xuống.

Do tính ngẫu nhiên trong tập dữ liệu nên không thể dự đoán được tỷ lệ điều chỉnh nào mang lại kết quả tốt nhất cho bạn. Đối với chúng tôi, tỷ lệ điều chỉnh của 0, 3 hoặc 1 thường được tạo ra mức hao tổn trong kiểm thử thấp nhất.