Equidad

Evaluar un modelo de aprendizaje automático requiere actuar de manera responsable y no simplemente limitarse a calcular las métricas de pérdida. Antes de implementar un modelo en producción, es fundamental controlar los datos de entrenamiento y evaluar las predicciones para detectar sesgos.

Este módulo analiza los distintos tipos de sesgos cognitivos humanos que se pueden manifestar en los datos de entrenamiento. Posteriormente, ofrece estrategias para poder identificarlos y evaluar sus efectos.

Equidad

Un racimo de bananas en un estante de una tienda.
  • Bananas
Un racimo de bananas.
  • Bananas
  • Calcomanías
Un racimo de bananas.
  • Bananas
  • Calcomanías
  • Bananas en estantes
Un racimo de bananas.
  • Bananas verdes
  • Bananas inmaduras
Un racimo de bananas verdes.
  • Bananas maduras
  • Ideales para el pan de banana
Un racimo de bananas marrones.

Bananas amarillas

El amarillo es prototípico de las bananas

Un racimo de bananas amarillas.
Un diagrama que muestra un flujo de trabajo típico de aprendizaje automático: recopilar datos, posteriormente entrenar un modelo y finalmente generar un resultado.
Un diagrama que muestra dos tipos de sesgos de datos: sesgos cognitivos humanos que se manifiestan en los datos (como el sesgo de homogeneidad de los demás) y sesgos cognitivos humanos que afectan la recopilación y la anotación de datos (como el sesgo de confirmación).
  1. Consideren el problema.
  1. Consideren el problema.
  2. Consulten a los expertos.
  1. Consideren el problema.
  2. Consulten a los expertos.
  3. Entrenen los modelos para que consideren el sesgo.
  1. Consideren el problema.
  2. Consulten a los expertos.
  3. Entrenen los modelos para que consideren el sesgo.
  4. Interpreten los resultados.
  1. Consideren el problema.
  2. Consulten a los expertos.
  3. Entrenen los modelos para que consideren el sesgo.
  4. Interpreten los resultados.
  5. Publiquen con contexto.