공정성

공정성은 알고리즘 기반 의사 결정을 통해 인종, 소득, 성적 지향, 성별과 같은 민감한 특성과 관련하여 최종 사용자가 경험할 수 있는 불균형한 결과를 다룹니다. 예를 들어 채용 알고리즘에 특정 성별 또는 민족과 관련된 이름을 가진 지원자에 대한 편향이 있을 수 있나요?

이 동영상에서 머신러닝 시스템이 인간의 편향에 취약할 수 있는 이유를 자세히 알아보세요.

실제 사례는 Google 검색 및 Google 포토와 같은 제품이 Monk 피부 톤 스케일을 통해 피부 톤 표현의 다양성을 개선한 방법을 참고하세요.

모델에서 편향을 식별, 측정, 완화하는 신뢰할 수 있는 방법이 있습니다. 머신러닝 단기집중과정공정성 모듈에서는 공정성과 편향 완화 기법을 자세히 살펴봅니다.

People + AI Research (PAIR)에서는 공정성 측정숨겨진 편향에 관한 대화형 AI 탐색 도구를 제공하여 이러한 개념을 설명합니다. ML 공정성과 관련된 용어는 머신러닝 용어집: 공정성 | Google for Developers를 참고하세요.