Keadilan: Jenis Bias

Objektivitas bukan merupakan sifat dasar model machine learning. Para engineer melatih model dengan memasukkan kumpulan data contoh pelatihan, dan keterlibatan manusia dalam penyediaan dan kurasi data ini dapat membuat prediksi model rentan terhadap bias.

Saat membuat model, penting untuk menyadari bias umum manusia yang dapat muncul di data, sehingga Anda dapat mengambil langkah proaktif untuk mengurangi efeknya.

Bias Pelaporan

Bias pelaporan terjadi saat frekuensi kejadian, properti, dan/atau hasil yang ditangkap dalam kumpulan data tidak mencerminkan frekuensi yang ada di dunia nyata secara akurat. Bias ini dapat muncul karena orang cenderung mengutamakan dokumentasi keadaan yang tidak biasa atau sangat mengesankan, dengan asumsi bahwa keadaan yang normal "sudah jelas".

Bias Otomatisasi

Bias otomatisasi adalah kecenderungan untuk lebih memilih hasil dari sistem otomatis daripada hasil dari sistem tidak otomatis, terlepas dari tingkat error tiap sistem.

Bias Seleksi

Bias seleksi terjadi jika contoh kumpulan data dipilih dengan cara yang tidak mewakili distribusinya di dunia nyata. Terdapat berbagai bentuk bias seleksi:

  • Bias cakupan: Data tidak dipilih secara representatif.
  • Bias abstain (atau bias partisipasi): Data tidak representatif karena kesenjangan partisipasi dalam proses pengumpulan data.
  • Bias sampling: Pengacakan yang benar tidak digunakan saat pengumpulan data.

Bias Atribusi Golongan

Bias atribusi golongan adalah kecenderungan untuk menggeneralisasi bahwa hal yang benar tentang individu juga benar untuk seluruh anggota kelompok tempat individu tersebut berasal. Dua manifestasi utama dari bias ini adalah:

  • Bias dalam golongan: Preferensi untuk anggota kelompok tempat Anda berasal, atau untuk karakteristik yang sama dengan karakteristik Anda.
  • Bias kehomogenan luar golongan: Kecenderungan untuk melakukan stereotip terhadap anggota individu suatu kelompok yang bukan asal Anda, atau untuk menganggap sama karakteristik semua anggota suatu kelompok.

Bias Implisit

Bias implisit terjadi ketika asumsi dibuat berdasarkan model mental dan pengalaman personal seseorang, yang belum tentu berlaku secara lebih umum.

Bentuk bias implisit yang umum adalah bias konfirmasi, yang mana pembuat model secara tidak sadar memproses data dengan cara yang menguatkan keyakinan dan hipotesis yang sudah ada sebelumnya. Dalam beberapa kasus, seorang pembuat model dapat terus melatih sebuah model sampai model tersebut memberikan hasil yang selaras dengan hipotesis semula; hal ini disebut bias pelaku eksperimen.