निष्पक्षता

निष्पक्षता से यह पता चलता है कि एल्गोरिदम के फ़ैसले लेने की वजह से, असली उपयोगकर्ताओं को नस्ल, आय, यौन रुझान या लिंग जैसी संवेदनशील विशेषताओं से जुड़े अलग-अलग नतीजे मिल सकते हैं. उदाहरण के लिए, क्या ऐसा हो सकता है कि नौकरी देने के लिए इस्तेमाल किया जाने वाला कोई एल्गोरिदम, किसी खास लिंग या जातीयता से जुड़े नामों वाले आवेदकों के पक्ष या विपक्ष में काम करे?

इस वीडियो में, इस बारे में ज़्यादा जानें कि मशीन लर्निंग सिस्टम, इंसानों के पूर्वाग्रहों से कैसे प्रभावित हो सकते हैं:

असल दुनिया से जुड़े उदाहरण के लिए, इस बारे में पढ़ें कि Google Search और Google Photos जैसे प्रॉडक्ट ने मंक स्किन टोन स्केल की मदद से, स्किन टोन के प्रतिनिधित्व में विविधता को कैसे बेहतर बनाया.

मॉडल में फ़र्क़ का पता लगाने, उसे मेज़र करने, और उसे कम करने के भरोसेमंद तरीके मौजूद हैं. मशीन लर्निंग क्रैश कोर्स के निष्पक्षता मॉड्यूल में, निष्पक्षता और भेदभाव कम करने की तकनीकों के बारे में पूरी जानकारी दी गई है.

People + AI Research (PAIR) की ओर से, निष्पक्षता का आकलन करने और छिपे हुए पक्षपात के बारे में जानने के लिए, इंटरैक्टिव एआई एक्सप्लोरेबल उपलब्ध कराए जाते हैं. इनकी मदद से, इन सिद्धांतों को आसानी से समझा जा सकता है. एमएल फ़ेयरनेस से जुड़े अन्य शब्दों के बारे में जानने के लिए, मशीन लर्निंग की शब्दावली: फ़ेयरनेस | Google for Developers पर जाएं.