Bu sayfada, Adalet sözlüğü sözlüğü terimleri bulunmaktadır. Tüm sözlük terimleri için burayı tıklayın.
A
özellik
Özellik ile eş anlamlıdır.
Makine öğrenimi adaletinde özellikler, genellikle bireylerle ilgili özelliklere işaret eder.
otomasyon sapması
Gerçek kişi olan bir karar yetkilisi, otomatik karar verme sistemi hata yapsa bile otomasyonsuz yapılan bilgilere göre otomatik bir karar alma sisteminin yaptığı önerileri tercih eder.
B
önyargı (etik/adil)
1. Bazı şeylere, kişilere veya gruplara karşı belirli yargılar, ön yargılar ya da favorilere ekleme işlemleri. Bu sapmalar, verilerin toplanıp yorumlanmasını, bir sistemin tasarımını ve kullanıcıların bir sistemle nasıl etkileşimde bulunduğunu etkileyebilir. Bu tür ön yargılardan bazıları şunlardır:
- otomasyon sapması
- onaylı değerlendirme
- deneycinin taraflılığı
- grup ilişkilendirme ön yargısı
- dolaylı ön yargı
- grup içi sapma
- grup dışı homojenlik eğilimi
2. Örnekleme veya raporlama prosedürüyle ortaya çıkan sistematik hata. Bu tür ön yargılardan bazıları şunlardır:
- kapsam sapması
- yanıt verilmemesi eğilimi
- katılım eğilimi
- raporlama ön yargısı
- örnekleme sapması
- seçim yapma eğilimi
Makine öğrenimi modellerinde ön yargı terimi veya tahmin ön yargısı ile karıştırılmamalıdır.
C
onay ön yargısı
Önceden var olan inançları veya hipotezlerini doğrulayacak şekilde bilgileri arama, yorumlama, tercih etme ve hatırlama eğilimi. Makine öğrenimi geliştiricileri, verileri mevcut inançlarını destekleyecek şekilde etkileyerek farkında olmadan toplayabilir veya etiketleyebilir. Onay ön yargısı, bir dolaylı ön yargı biçimidir.
Denemeci ön yargısı, mevcut bir hipotez onaylanana kadar modellerinin eğitime devam ettiği bir onay ön yargısıdır.
gerçeğe dayalı adalet
Bir veya daha fazla hassas özellik söz konusu olduğunda, sınıflandırıcının bir kişi için aynı sonucu sağlayıp sağlamadığını kontrol eden adillik metriği. Bir sınıflandırıcının varsayımsal adalet açısından değerlendirilmesi, bir modelde potansiyel taraflı kaynakların bulunmasını sağlamanın bir yöntemidir."Dünyalar çarpıştığında: Farklı Karşı Karşılıklı Düşünceleri Entegre Etme Adalette Varsayımlar"Fazla adalet hakkında daha ayrıntılı bir tartışma için.
kapsam sapması
Seçim ön yargısı konusuna bakın.
D
demografik benzerlik
Bir modelin sınıflandırmasının sonuçları belirli bir hassas özelliğe bağlı değilse ortaya çıkan bir adillik metriği.
Örneğin, hem Lilliputyalılar hem de Brobdingnagi Dili için geçerliyse demografik eşitlik, kabul edilen Libyalıların yüzdesinin, kabul edilen Brobdingnagi dilinin yüzdesiyle aynı olması durumunda, bir grubun ortalama olarak diğer gruba göre daha uygun olup olmadığına bakılmadan elde edilir.
Sınıflandırma sonuçlarının toplu olarak hassas özelliklere dayalı olmasına izin verirken belirli kesin referans etiketleri için hassas sonuçlara dayalı sınıflandırma sonuçlarına izin vermeyen eşittir oranlara ve fırsat eşitliğine aykırıdır. Demografik denklik için optimizasyonla ilgili dezavantajları araştıran bir görselleştirme için "Daha akıllı makine öğrenimiyle ayrımcılığa saldırı" bölümüne bakın.
farklı etki
Farklı nüfus alt gruplarını orantısız bir şekilde etkileyen kullanıcılarla ilgili kararlar vermek. Bu, genellikle algoritmik bir karar verme sürecinin bazı alt gruplara diğerlerine göre daha fazla zarar verdiği veya fayda sağladığı durumlar için kullanılır.
Örneğin, bir Lilliputian'ın minyatür ev kredisine uygun olup olmadığını belirleyen bir algoritmanın, posta adresinde belirli bir posta kodu bulunması durumunda kendisini "uygun değil" olarak sınıflandırma olasılığının daha yüksek olduğunu varsayalım. Big-Endian Lilliputyalılarının posta adresleri Little-Endian Lilliputian'larına göre daha yüksek olursa bu algoritma farklı etkilere neden olabilir.
Alt grup özellikleri algoritmik karar verme sürecine açık şekilde giriş yaptığında ortaya çıkan eşitsizliklere odaklanan farklı değerlendirme ile kontrasttır.
farklı tedavi
Nesnelerin hassas özelliklerini algoritmik bir karar verme sürecine dahil ederek kullanıcıların farklı alt gruplarının farklı şekilde ele alınması gerekir.
Örneğin, Lilliputyalıların kredi başvurularında sağladıkları verilere dayanarak minyatür ev kredisine uygun olup olmadığını belirleyen bir algoritmayı ele alalım. Algoritma, bir Lilliputian'ın Big-Endian veya Little-Endian ilişkisini giriş olarak kullanırsa bu boyut boyunca farklı muameleye neden olur.
Alt grupların modele girdi girip girmediğinden bağımsız olarak, algoritmik kararların alt gruplar üzerindeki toplumsal etkisindeki farklılıklara odaklanan farklı etki ile kıyaslanabilir.
E
fırsat eşitliği
Sınıflandırıcı, tercih edilen etiket için (insan için avantaj veya fayda sağlayan) ve belirli bir özellik için tercih edilen etiketin, o özelliğin tüm değerleri için eşit derecede iyi tahmin ettiğini kontrol eden bir adillik metriği. Başka bir deyişle, fırsat eşitliği, grup üyeliğinden bağımsız olarak, fırsata hak kazanması gereken kişilerin bunu gerçekleştirme olasılığının eşit olup olmadığını ölçer.Örneğin, Glubbdubdrib Üniversitesi'nin hem Lilliputyalıları hem de Brobdingnagiyenleri titiz bir matematik programına kabul ettiğini varsayalım. Lillihanlılar ortaokulları sağlam bir matematik müfredatı sunmaktadır ve öğrencilerin büyük çoğunluğu üniversite programına katılmaya hak kazanmıştır. Brobringnagians'ın ortaokulları hiç matematik dersi sunmadığı için öğrencilerinin sayısı çok daha azdır. Fırsat eşitliği, nitelikli öğrencilerin bir Lilliputlu veya Brobringnagian olmalarına bakılmaksızın kabul edilme olasılıklarının yanı sıra, uyruk (Lilliputyalı veya Brobdingnagian) tercih edilen etiketi için tercih edilir.
Örneğin, Glubbdubdrib Üniversitesi için 100 Lilliputian ve 100 Brobdingnagian kullanıcısı olduğunu ve kayıt kabullerinin aşağıdaki gibi olduğunu varsayalım:
Tablo 1. Libyalı başvuru sahipleri (%90 uygun)
| Uygun | Uygun Değil | |
|---|---|---|
| Kabul edildi | 45 | 3 |
| Reddedildi | 45 | 7 |
| Toplam | 90 | 10 |
|
Kabul edilen uygun öğrencilerin yüzdesi: 45/90 =%50 Reddedilen uygun öğrencilerin yüzdesi: 7/10 =%70 Kabul edilen Lilluvan öğrencilerin toplam yüzdesi: (45+3)/100 = %48. |
||
Tablo 2. Brobringnagian başvuru sahipleri (%10 uygun):
| Uygun | Uygun Değil | |
|---|---|---|
| Kabul edildi | 5 | 9 |
| Reddedildi | 5 | 81 |
| Toplam | 10 | 90 |
|
Kabul edilen öğrencilerin yüzdesi: 5/10 =%50 Reddedilen uygun öğrenci yüzdesi: 81/90 =%90 Kabul edilen Brobringnag öğrencilerinin toplam yüzdesi: (5+9)/100 = %14 |
||
Önceki örneklerde, nitelikli öğrencileri kabul etme şansı eşittir, çünkü uygun Libyalı ve Brobringnagiçlilerin kabul edilme olasılığı% 50'dir.
Fırsat eşitliği ile ilgili daha ayrıntılı bir tartışma için "Gözetimli Öğrenimde Fırsat Eşitliği" bölümüne bakın. Fırsat eşitliği için optimizasyon yaparken göz önünde bulundurulan zorlukları gösteren bir görsel için "Daha akıllı makine öğrenimiyle ayrımcılığa maruz kalma" bölümüne de bakın.
dengeli ihtimal
Belirli bir etiket ve özellik için bir sınıflandırıcının, o özelliğin tüm değerleri için eşit derecede iyi bir tahmin gerçekleştirip gerçekleştirmediğini kontrol eden bir adillik metriği.Örneğin, Glubbdubdrib Üniversitesi'nin hem Lilliputluları hem de Brobdingnagians'ı titiz bir matematik programına kabul ettiğini varsayalım. Lilluputyalıların ortaokulları matematik derslerinden oluşan sağlam bir müfredat sunar. Öğrencilerin büyük çoğunluğu üniversite programı için uygundur. Brobringnagians'ın ortaokulları hiç matematik dersi sunmaz ve bunun sonucunda öğrencilerinin çok daha azı uygun olur. Başvuran kişinin bir Lilliputian veya Brobdingnagian olmasından bağımsız olmaması, eşit olmaları halinde programa kabul edilme olasılıkları eşit olduğunda ve koşulların yeterli olmaması durumunda başvurularını reddetme olasılıkları eşittir.
100 Lilluputalı ve 100 Brobrdingnagilinin Glubbdubdrib Üniversitesi için geçerli olduğunu varsayalım. Kabul kararları şu şekildedir:
Tablo 3. Libyalı başvuru sahipleri (%90 uygun)
| Uygun | Uygun Değil | |
|---|---|---|
| Kabul edildi | 45 | 2 |
| Reddedildi | 45 | 8 |
| Toplam | 90 | 10 |
|
Kabul edilen uygun öğrencilerin yüzdesi: 45/90 =%50 Reddedilen uygun öğrencilerin yüzdesi: 8/10 =%80 Kabul edilen Lilluvan öğrencilerin toplam yüzdesi: (45+2)/100 = %47 |
||
Tablo 4. Brobringnagian başvuru sahipleri (%10 uygun):
| Uygun | Uygun Değil | |
|---|---|---|
| Kabul edildi | 5 | 18 |
| Reddedildi | 5 | 72 |
| Toplam | 10 | 90 |
|
Kabul edilen öğrencilerin yüzdesi: 5/10 =%50 Reddedilen uygun öğrencilerin yüzdesi: 72/90 =%80 Kabul edilen Brobringnag öğrencilerinin toplam yüzdesi: (5+18)/100 = %23. |
||
Uygun Lilliputian ve Brobdingnagian öğrencileri kabul edilme olasılığı% 50, uygun niteliklere sahip olmayan Lilliputian ve Brobdingnagian öğrencileri% 80 reddedilme olasılığına sahip olduğundan dengeli ihtimal karşılandı.
Eşit oranlı kazanma oranları, "Gözetimli Öğrenim'de Eşitlik Eşitliği"nde şu şekilde resmi olarak tanımlanır: "Tahmin eden Ŷ, Koruyucu A özelliği ile Ŷ ve A'nın bağımsız olması durumunda Y sonucuna karşılık gelen eşitlikleri karşılıyor."
denemeci ön yargısı
Onay ön yargısı konusuna bakın.
F
adalet kısıtlaması
Bir veya daha fazla adalet tanımının karşılandığından emin olmak için bir algoritmaya kısıtlama uygulama. Adalet kısıtlamalarına örnekler:- Modelinizin çıkışının işleme sonrası.
- Kayıp işlevini değiştirmek için adillik metriğini
- Optimizasyon problemine doğrudan matematiksel kısıtlama ekleme.
adalet metriği
"Adilliğin" ölçülebilir ölçülebilir tanımı. Yaygın olarak kullanılan bazı adalet metrikleri şunlardır:
Birçok adalet metriği birbirini dışlar. Adalet metrikleriyle uyumsuzluk bölümüne bakın.
G
grup ilişkilendirme ön yargısı
Bir kişi için doğru olan şeyin, bu gruptaki herkes için de doğru olduğunu varsayarak. Veri toplama için kullanışlı örnekleme kullanılırsa grup ilişkilendirme ön yargısının etkileri daha da artabilir. Gerçekçi olmayan bir örnekte, gerçeği yansıtmayan ilişkilendirmeler yapılabilir.
Ayrıca, grup dışı homojen ön yargı ve grup içi ön yargı bölümlerine de bakın.
I
dolaylı ön yargı
Bir kullanıcının zihinsel modellerine ve anılarına dayalı otomatik bir ilişkilendirme veya varsayımda bulunma. Dolaylı ön yargılar aşağıdakileri etkileyebilir:
- Verilerin toplanma ve sınıflandırılma şekli.
- Makine öğrenimi sistemlerinin tasarımı ve geliştirilmesi.
Örneğin, bir mühendis düğün fotoğraflarını tanımlamak için bir sınıflandırıcı oluştururken özellik olarak fotoğraftaki beyaz bir elbisenin varlığını kullanabilir. Ancak beyaz elbiseler yalnızca belirli dönemlerde ve belirli kültürlerde alışılmışın dışındadır.
Onay ön yargısı konusuna da bakın.
adalet metrikleriyle uyumsuzluk
Bazı adalet kavramlarının birlikte kullanılamayacağı ve aynı anda karşılanamayacağı fikri. Sonuç olarak, adalet miktarının hesaplanması için tüm ML sorunlarına uygulanabilecek tek bir evrensel metrik yoktur.
Bu durum sinir bozucu görünse de, adalet metrikleriyle uyumsuzluk, adaletle ilgili çalışmaların işe yaramadığına işaret etmez. Bunun yerine, belirli bir ML sorunu için adaletin, kullanım alanına özgü zararları önlemek amacıyla bağlamsal olarak tanımlanması gerekir.
Bu konu hakkında daha ayrıntılı bilgi için "(im) adil olma ihtimaline" bakın.
bireysel adalet
Benzer kişilerin benzer şekilde sınıflandırılıp sınıflandırılmadığını kontrol eden adalet metriği. Örneğin, Brobdingnagian Akademisi, notları ve standart test puanları aynı olan iki öğrencinin girişe eşit eşitlik kazanmasını sağlayarak bireysel adaleti karşılamak isteyebilir.
Bireysel adaletin tamamen "benzerlik" kavramını (bu örnekte notlar ve test puanları) nasıl tanımladığınıza bağlı olduğunu ve benzerlik metriğinizin önemli bilgileri (örneğin, bir öğrencinin müfredatının ne kadar zahmetli olduğu) göz ardı ettiği takdirde yeni adalet sorunlarını ortaya çıkarma riskiyle karşı karşıya kalabileceğinizi unutmayın.
Bireysel adaletle ilgili daha ayrıntılı bir tartışma için "Bilinirlikle Adalet" bölümüne bakın.
grup içi sapma
Bir kişinin kendi grubuna veya özelliklerine benzer olması. Test kullanıcıları veya değerlendiriciler makine öğrenimi geliştiricisinin arkadaşları, aileleri veya iş arkadaşlarından oluşuyorsa grup içi sapma, ürün testini ya da veri kümesini geçersiz kılabilir.
Grup içi sapma, bir grup ilişkilendirme ön yargısı biçimidir. Ayrıca grup dışı homojenlik sapmasını da inceleyin.
N
yanıt dışı sapma
Seçim ön yargısı konusuna bakın.
O
grup dışı homojen ön yargı
Tutumlar, değerler, kişilik özellikleri ve diğer özellikler karşılaştırılırken grup dışı üyelerden daha çok grup dışı üyeler olarak görülme eğilimi. Grup içi, düzenli olarak etkileşimde bulunduğunuz kişileri belirtir. Grup dışı ise düzenli olarak etkileşimde bulunmadığınız kişileri belirtir. Kullanıcılardan gruplar hakkında özellik sağlamalarını isteyerek bir veri kümesi oluşturursanız bu özellikler, katılımcıların gruplardaki kullanıcılar için listelediği özelliklerden daha az ayrıntıya inebilir ve kalıplaşmış olabilir.
Örneğin, Lilliputyalılar mimari tarzlar, pencereler, kapılar ve boyutlardaki küçük farklılıklardan alıntı yaparak diğer Lilliputluların evlerini ayrıntılı bir şekilde tanımlayabilirler. Bununla birlikte, aynı Lillipliceliler tüm Brobdingnagialıların aynı evlerde yaşadığını açıklayabilirler.
Grup dışı homojenlik ön yargısı, grup ilişkilendirme ön yargısı biçimidir.
Grup içi sapmayı da inceleyin.
P
katılım ön yargısı
Yanıt vermeyen ön yargının eş anlamlısı. Seçim ön yargısı konusuna bakın.
işleme sonrası
Model çalıştırıldıktan sonra modelin çıkışını ayarlama. İşleme sonrası, modelleri değiştirmeden önce adalet kısıtlamalarını uygulamak için kullanılabilir.
Örneğin, bir sınıflandırma sonrası gerçek pozitif oranı'nın bu özelliğin tüm değerleri için aynı olup olmadığını kontrol ederek fırsat eşitliği'nin korunduğu bir sınıflandırma eşiği ayarlayarak ikili sınıflandırıcıya son işleme uygulanabilir.
tahmini benzerlik
Belirli bir sınıflandırıcının hassaslık oranlarının, değerlendirilen alt gruplar için eşdeğer olup olmadığını kontrol eden bir adillik metriği.
Örneğin, kesinlik oranı Lilliputyalılar ve Brobringnagians için aynıysa üniversite kabulünü tahmin eden bir model, milliyet için tahminî denkliğe uygundur.
Tahmine dayalı denkliğe bazen tahmini ücret denkliği de denir.
Tahmine dayalı denkliğe ilişkin daha ayrıntılı bir tartışma için "Adalet Tanımları Açıklandı" bölümüne (bölüm 3.2.1) bakın.
tahmini ücret denkliği
Tahmini benzerliğin başka bir adıdır.
ön işleme
Veriler, bir model eğitmek için kullanılmadan önce işleniyor. Ön işleme, İngilizce sözlükte yer almayan bir İngilizce metin kitaplığından kelimeleri kaldırmak kadar basit veya hassas özellikler ile bağlantılı mümkün olduğunca fazla özelliği ortadan kaldıracak şekilde veri noktalarını yeniden ifade etmek kadar karmaşık olabilir. Ön işleme, adillik kısıtlamalarının yerine getirilmesine yardımcı olabilir.proxy (hassas özellikler)
Hassas özellikler için stand-up olarak kullanılan özellikler. Örneğin bir kişinin posta kodu gelir, ırk veya etnik köken için proxy olarak kullanılabilir.balon
raporlama ön yargısı
Kullanıcıların eylem, sonuç veya mülk hakkında yazı yazma sıklığı, gerçek dünyadaki sıklıkların veya bir mülk sınıfının karakteristik özelliğinin bir yansıması değildir. Raporlamada sapma, makine öğrenimi sistemlerinin öğrendiği verilerin yapısını etkileyebilir.
Örneğin kitaplarda kahkaha kelimesi, nefes kelimesinden daha yaygındır. Bir kitap topluluğundaki kahkaha ve nefeslerin göreli sıklığını tahmin eden bir makine öğrenimi modeli, muhtemelen gülmenin nefes almaktan daha yaygın olduğunu belirler.
C
örnekleme ağırlıklandırması
Seçim ön yargısı konusuna bakın.
seçim ön yargısı
Verilerde gözlemlenen örnekler ile gözlemlenmeyen örnekler arasında sistematik farklılıklar oluşturan bir seçim işlemi nedeniyle örneklenmiş verilerden alınan sonuçlardaki hatalar. Aşağıdaki seçim ön yargısı biçimleri vardır:
- kapsam ön yargısı: Veri kümesinde gösterilen popülasyon, makine öğrenimi modelinin tahmin ettiği nüfusla eşleşmiyor.
- örnekleme eğimi: Veriler hedef gruptan rastgele toplanmaz.
- yanıt vermeme ön yargısı (katılım ön yargısı olarak da bilinir): Belirli gruplardaki kullanıcılar, diğer gruplardaki kullanıcılara kıyasla farklı oranlarda anketlerin kapsamı dışında kalmayı seçebilir.
Örneğin, kullanıcıların bir filmden ne kadar keyif aldığını tahmin eden bir makine öğrenimi modeli oluşturduğunuzu varsayalım. Eğitim verilerini toplamak için filmi gösteren bir sinemanın ön sırasındaki herkese bir anket verirsiniz. Bu veri kümesi toplamak için makul bir yol gibi görünebilir ancak bu veri toplama biçimi aşağıdaki seçim önyargısı biçimlerini ortaya çıkarabilir:
- kapsam ön yargısı: Filmi görmeyi seçen bir nüfustan örnek alarak, modelinizin tahminleri, filme bu düzeyde ilgi duymamış kullanıcıları genelleştirmeyebilir.
- örnekleme ön yargısı: Amaçlanan nüfustan (filmdeki tüm kişiler) rastgele örnekleme yapmak yerine, yalnızca ön satırdaki kullanıcıları örneklediniz. Ön sırada oturan kişilerin diğer satırlardakilere kıyasla filme daha fazla ilgi duyması mümkündür.
- Yanıt vermeyen ön yargı: Genel olarak, güçlü görüşlere sahip kişiler isteğe bağlı anketlere hafif görüşlere sahip kişilerden daha sık yanıt verme eğilimindedir. Film anketi isteğe bağlı olduğundan, yanıtların normal (çan şeklindeki) dağıtımdan iki yönlü dağılım oluşturma olasılığı daha yüksektir.
hassas özellik
Yasal, etik, sosyal veya kişisel nedenlerle özel olarak dikkate alınabilen insani bir özellik.U
farkındalık (hassas bir özelliğe)
Hassas özelliklerin bulunduğu ancak eğitim verilerine dahil edilmediği durum. Hassas özellikler genellikle bir kişinin verilerinin diğer özellikleriyle ilişkilendirildiğinden, hassas bir özellik hakkında bilgi sahibi olmadan eğitilen bir modelin, bu özellikle ilgili farklı bir etkisi olabilir veya diğer adillik kısıtlamalarını ihlal edebilir.