희소성을 위한 정규화

이 모듈에서는 여러 차원을 갖는 특성 벡터에 대해 학습한 모델의 특수한 요구사항을 중점적으로 설명합니다.

예상 시간: 2분

학습 목표

• RAM을 절약하기 위해 유용하지 않은 계수 값을 정확히 0으로 유도하는 방법을 알아보세요.
• L₂ 외에 다른 종류의 정규화에 대해 알아보세요.

희소성을 위한 정규화

특성 교차로 돌아가기

• 주의: 희소 특성 교차는 특성 공간을 크게 늘릴 수 있습니다.
• 발생 가능한 문제:
• 모델 크기 (RAM)가 커질 수 있음
• '노이즈' 계수 (과적합의 원인)

L₁ 정규화

• L₀ 가중치 기준에 페널티를 주고자 함
• 볼록하지 않은 최적화, NP-난해

L₁ 정규화

• L₀ 가중치 기준에 페널티를 주고자 함
• 볼록하지 않은 최적화, NP-난해
• L₁ 정규화로의 완화:
• 절대값(가중치)의 합에 페널티를 줌
• 볼록 문제
• L₂와 달리 희소성을 유도

이 동영상 강의의 음성 더빙은 머신러닝 기술을 사용하여 생성되었습니다. Google의 음성 더빙 기술을 개선하도록 도와주세요. 위의 '의견 보내기'를 클릭하여 버그 신고 및 제안사항을 제출해 주세요.

영어 오디오로 변경하려면 페이지 왼쪽 하단의 드롭다운에서 영어를 선택합니다.

동영상이 표시되지 않나요?

문제 해결에 도움이 필요하면 커뮤니티 페이지를 참조하세요.

고객센터