Chuẩn hoá cho sự khan hiếm

Mô-đun này tập trung vào các yêu cầu đặc biệt đối với các mô hình được học dựa trên vectơ tính năng có nhiều kích thước.

Điều chỉnh chính quy để tăng độ giãn

  • Chú ý: Các đặc điểm thưa thớt có thể làm tăng đáng kể không gian của tính năng
  • Vấn đề có thể xảy ra:
    • Kích thước mô hình (RAM) có thể trở nên lớn
    • Hệ số "tiếng ồn" (gây ra hiện tượng quá mức)
  • Muốn phạt tiêu chuẩn L0 về trọng số
    • Tối ưu hoá không lồi; NP-hard
  • Muốn phạt tiêu chuẩn L0 về trọng số
    • Tối ưu hoá không lồi; NP-hard
  • Thư giãn đến điều chuẩn L1:
    • Phạt tổng AB(trọng lượng)
    • Bài toán lồi
    • Khuyến khích sự thưa thớt không giống như L2
Trước
Bài tập lập trình
Tiếp
Chuẩn hoá L1