Keadilan: Jenis Bias

Perkiraan Waktu: 5 menit

Model machine learning pada dasarnya tidak objektif. Para engineer melatih model dengan memasukkan kumpulan data contoh pelatihan, dan keterlibatan manusia dalam penyediaan dan seleksi data ini dapat membuat prediksi model rentan terhadap bias.

Saat membuat model, penting untuk menyadari bias umum manusia yang dapat muncul dalam data, sehingga Anda dapat mengambil langkah-langkah proaktif untuk mengurangi efeknya.

PERINGATAN: Inventaris bias berikut hanya memberikan sejumlah kecil bias yang sering ditemukan dalam set data machine learning; daftar ini tidak dimaksudkan untuk lengkap. Katalog bias kognitif Wikipedia menyebutkan lebih dari 100 jenis bias manusia yang berbeda yang dapat memengaruhi penilaian kami. Saat mengaudit data, Anda harus waspada terhadap setiap dan semua potensi sumber bias yang dapat mendistorsi prediksi model Anda.

Bias Pelaporan

Bias pelaporan terjadi saat frekuensi peristiwa, properti, dan/atau hasil yang ditangkap dalam set data tidak mencerminkan frekuensi yang sebenarnya. Bias ini dapat muncul karena orang-orang cenderung berfokus pada dokumentasi keadaan yang tidak biasa atau sangat berkesan, dengan asumsi bahwa hal yang biasa dapat dilakukan tanpa mengatakan."

CONTOH: Model analisis sentimen dilatih untuk memprediksi apakah ulasan buku positif atau negatif berdasarkan korpus kiriman pengguna ke situs populer. Sebagian besar ulasan dalam set data pelatihan mencerminkan pendapat yang ekstrem (pengulas yang menyukai atau tidak menyukai buku), karena orang cenderung tidak mengirimkan ulasan buku jika mereka tidak meresponsnya dengan kuat. Akibatnya, model kurang dapat memprediksi aksen ulasan dengan benar yang menggunakan bahasa yang lebih halus untuk mendeskripsikan buku.

Bias Otomatisasi

Bias otomatisasi adalah kecenderungan untuk lebih memilih hasil dari sistem otomatis daripada hasil dari sistem tidak otomatis, terlepas dari tingkat error tiap sistem.

CONTOH: Engineer software yang bekerja untuk produsen sproket sangat ingin men-deploy model "groundbreaking" baru yang dilatih untuk mengidentifikasi cacat gigi, sampai pengawas pabrik menunjukkan bahwa tingkat presisi dan perolehan model tersebut 15% lebih rendah daripada pemeriksa manusia.

Bias Pemilihan

Bias seleksi terjadi jika contoh set data dipilih dengan cara yang tidak mencerminkan distribusinya di dunia nyata. Terdapat berbagai bentuk bias seleksi:

• Bias cakupan: Data tidak dipilih secara representatif.

CONTOH: Model dilatih untuk memprediksi penjualan produk baru di masa mendatang berdasarkan survei telepon yang dilakukan dengan sampel konsumen yang membeli produk. Konsumen yang memilih untuk membeli produk pesaing tidak disurvei, dan akibatnya, kelompok orang ini tidak direpresentasikan dalam data pelatihan.

• Bias non-respons (atau bias partisipasi): Data tidak representatif karena kesenjangan partisipasi dalam proses pengumpulan data.

CONTOH: Model dilatih untuk memprediksi penjualan produk baru di masa mendatang berdasarkan survei telepon yang dilakukan dengan sampel konsumen yang membeli produk dan dengan sampel konsumen yang membeli produk pesaing. Konsumen yang membeli produk pesaing 80% lebih cenderung menolak untuk menyelesaikan survei, dan data mereka kurang diwakili dalam sampel.

• Bias pengambilan sampel: Pengacakan yang tepat tidak digunakan selama pengumpulan data.

CONTOH: Model dilatih untuk memprediksi penjualan produk baru di masa mendatang berdasarkan survei telepon yang dilakukan dengan sampel konsumen yang membeli produk dan dengan sampel konsumen yang membeli produk pesaing. Petugas survei tidak menargetkan konsumen secara acak, melainkan memilih 200 konsumen pertama yang merespons email. Mereka mungkin lebih antusias terhadap produk tersebut daripada pembeli pada umumnya.

Bias Atribusi Grup

Bias atribusi grup adalah kecenderungan untuk menggeneralisasi apa yang benar tentang individu terhadap seluruh kelompok tempat mereka berada. Dua manifes utama bias ini adalah:

• Bias dalam grup: Preferensi untuk anggota grup tempat Anda juga menjadi anggota, atau untuk karakteristik yang juga Anda bagikan.

CONTOH: Dua engineer yang melatih model penyaringan resume untuk developer software cenderung menganggap bahwa pelamar yang berasal dari akademi ilmu komputer yang sama dengan mereka lebih memenuhi syarat untuk pekerjaan tersebut.

• Bias kehomogenan luar grup: Kecenderungan untuk melakukan stereotip terhadap anggota individu suatu grup yang tidak Anda sertakan, atau untuk melihat karakteristik mereka sebagai lebih seragam.

CONTOH: Dua engineer yang melatih model penyaringan resume untuk developer software cenderung percaya bahwa semua pelamar yang tidak mengikuti akademi ilmu komputer tidak memiliki keahlian yang cukup untuk peran tersebut.

Bias Implisit

Bias implisit terjadi ketika asumsi dibuat berdasarkan model mental dan pengalaman pribadi seseorang yang belum tentu berlaku secara lebih umum.

CONTOH: Seorang engineer yang melatih model pengenalan gestur menggunakan gelengan kepala sebagai fitur yang menunjukkan bahwa seseorang menyampaikan kata &not" Namun, di beberapa wilayah di dunia, gelengan kepala sebenarnya menandakan "ya."

Bentuk bias implisit yang umum adalah bias konfirmasi, yang mana pembuat model secara tidak sadar memproses data dengan cara yang menegaskan keyakinan dan hipotesis yang sudah ada sebelumnya. Dalam beberapa kasus, pembuat model dapat terus melatih model sampai memberikan hasil yang selaras dengan hipotesis awal; ini disebut bias eksperimen.

CONTOH: Teknisi akan membuat model yang memprediksi agresivitas pada anjing berdasarkan berbagai fitur (tinggi, berat, ras, lingkungan). Engineer tersebut memiliki pengalaman yang tidak menyenangkan dengan pudel mainan yang hiperaktif saat masih kecil, dan sejak saat itu engineer tersebut mengaitkan ras anjing pudel dengan agresi. Ketika model terlatih memprediksi sebagian besar pudel mainan relatif relatif jinak, engineer melatih ulang model beberapa kali hingga menghasilkan hasil yang menunjukkan pudel yang lebih kecil sebagai lebih kasar.

Istilah Penting

bias otomatisasi	bias konfirmasi
bias cakupan	bias eksperimen
bias dalam grup	bias atribusi grup
bias implisit	bias non-respons
bias kehomogenan luar grup	bias pelaporan
bias pengambilan sampel	bias seleksi

Pusat Bantuan