Chuẩn hoá để đơn giản hoá: Bài tập trên sân chơi (Chuẩn hoá L2)

Kiểm tra quy trình chính quy L2

Bài tập này chứa một tập dữ liệu huấn luyện nhỏ, ồn ào. Trong loại chế độ cài đặt này, việc trang bị quá mức thực sự là một vấn đề đáng lo ngại. May mắn là việc chuẩn hoá có thể giúp ích.

Bài tập này bao gồm 3 nhiệm vụ có liên quan. Để đơn giản hoá việc so sánh 3 tác vụ, hãy chạy từng tác vụ trong một thẻ riêng.

  • Nhiệm vụ 1: Chạy mô hình như đã nêu cho ít nhất 500 khoảng thời gian bắt đầu của hệ thống. Xin lưu ý những điều sau:
    • Kiểm thử thất bại.
    • Giá trị delta giữa Mất kiểm thử và Mất trong quá trình huấn luyện.
    • Trọng số đã học của các tính năng và các đối tượng kết hợp. (Độ dày tương đối của mỗi đường chạy từ FEATURES đến OUTPUT thể hiện trọng số đã học cho tính năng hoặc kết hợp tính năng đó. Bạn có thể tìm thấy giá trị trọng số chính xác bằng cách di chuột qua từng dòng.)
  • Nhiệm vụ 2: (Cân nhắc thực hiện Nhiệm vụ này trong một thẻ riêng.) Tăng tỷ lệ chính quy từ 0 lên 0,3. Sau đó, hãy chạy mô hình này trong ít nhất 500 khoảng thời gian bắt đầu của hệ thống rồi tìm câu trả lời cho những câu hỏi sau:
    • Mất kiểm thử trong Nhiệm vụ 2 khác với Mất kiểm thử ở Nhiệm vụ 1 như thế nào?
    • Giá trị delta giữa Mất kiểm thử và Mất huấn luyện trong Nhiệm vụ 2 khác với Giá trị đồng bằng của Nhiệm vụ 1 như thế nào?
    • Các trọng số đã học của mỗi tính năng và chéo tính năng khác nhau như thế nào giữa Nhiệm vụ 2 và Nhiệm vụ 1?
    • Kết quả của bạn cho biết gì về độ phức tạp của mô hình?
  • Nhiệm vụ 3: Thử nghiệm tỷ lệ chính quy để tìm ra giá trị tối ưu.

(Câu trả lời xuất hiện ngay bên dưới bài tập.)