Obiektywność

Obiektywność odnosi się do możliwych nierównych wyników, jakie mogą uzyskać użytkownicy w związku z wrażliwymi cechami, takimi jak rasa, dochód, orientacja seksualna czy płeć, w procesie podejmowania decyzji przez algorytmy. Na przykład czy algorytm rekrutacyjny może być stronniczy wobec kandydatów o imionach i nazwiskach kojarzonych z określoną płcią lub pochodzeniem etnicznym?

Więcej informacji o tym, jak systemy uczące się mogą być podatne na ludzkie uprzedzenia, znajdziesz w tym filmie:

Aby zobaczyć przykład z życia, przeczytaj, jak usługi takie jak wyszukiwarka Google i Zdjęcia Google zwiększyły różnorodność reprezentacji odcieni skóry dzięki skali odcieni skóry Monka.

Istnieją niezawodne metody identyfikowania, mierzenia i minimalizowania uprzedzeń w modelach. Moduł Obiektywnośćszybkim szkoleniu z uczenia maszynowego zawiera szczegółowe informacje o obiektywności i technikach ograniczania uprzedzeń.

Zespół People + AI Research (PAIR) udostępnia interaktywne materiały edukacyjne AI Explorables na temat pomiaru sprawiedliwościukrytych uprzedzeń, które pomagają zrozumieć te koncepcje. Więcej terminów związanych z obiektywnością ML znajdziesz w Słowniczku uczenia maszynowego: obiektywność | Google dla deweloperów.