Justiça

A imparcialidade aborda os possíveis resultados diferentes que os usuários finais podem ter relacionados a características sensíveis, como raça, renda, orientação sexual ou gênero, por meio da tomada de decisões algorítmicas. Por exemplo, um algoritmo de contratação pode ter vieses a favor ou contra candidatos com nomes associados a um gênero ou etnia específica?

Saiba mais sobre como os sistemas de aprendizado de máquina podem ser suscetíveis a vieses humanos neste vídeo:

Para um exemplo do mundo real, leia sobre como produtos como a Pesquisa Google e o Google Fotos melhoraram a diversidade de representação de tons de pele com a Escala Monk de tons de pele.

Existem métodos confiáveis para identificar, medir e reduzir o viés nos modelos. O módulo Imparcialidade do Curso intensivo de machine learning oferece uma análise detalhada das técnicas de imparcialidade e redução de viés.

A People + AI Research (PAIR) oferece recursos interativos de IA explicáveis sobre Medição da justiça e Viés oculto para explicar esses conceitos. Para mais termos relacionados à imparcialidade do ML, consulte Glossário de machine learning: imparcialidade | Google para Desenvolvedores.