יחס הוגן

הוגנות מתייחסת לתוצאות שונות שאולי משתמשי הקצה יחוו, שקשורות למאפיינים רגישים כמו גזע, הכנסה, נטייה מינית או מגדר, באמצעות קבלת החלטות אלגוריתמית. לדוגמה, האם אלגוריתם לגיוס עובדים עלול להפלות לטובה או לרעה מועמדים שהשמות שלהם משויכים למגדר או למוצא אתני מסוים?

בסרטון הזה אפשר לקבל מידע נוסף על האופן שבו מערכות למידת מכונה עשויות להיות רגישות להטיות אנושיות:

כדי לראות דוגמה מהעולם האמיתי, אפשר לקרוא על האופן שבו מוצרים כמו חיפוש Google ו-Google Photos שיפרו את הייצוג של גווני העור באמצעות הסולם של Monk לגווני עור.

יש שיטות אמינות לזיהוי הטיות במודלים, למדידתן ולצמצום שלהן. מודול ההוגנות של קורס מקוצר על למידת מכונה מספק מבט מעמיק על הוגנות ועל טכניקות לצמצום הטיה.

ב-People + AI Research (PAIR) מוצעים הסברים אינטראקטיביים על AI בנושאים מדידת הוגנות והטיה סמויה. במילון המונחים של למידת מכונה: הוגנות | Google for Developers מפורטים תנאים נוספים שקשורים להוגנות ב-ML.