Apa itu bias AI?

Jika bias AI tidak ditangani, hal itu dapat memengaruhi keberhasilan organisasi dan menghambat kemampuan orang untuk berpartisipasi dalam ekonomi dan masyarakat. Bias mengurangi akurasi AI, dan dengan demikian mengurangi potensinya.

Bisnis cenderung tidak mendapat manfaat dari sistem yang menghasilkan hasil yang terdistorsi. Dan skandal yang dihasilkan dari bias AI dapat menumbuhkan ketidakpercayaan di antara pelanggan saat ini dan calon pelanggan.

Model yang menjadi dasar upaya AI menyerap bias masyarakat yang secara tidak disadari dapat tertanam dalam sejumlah besar data ang digunakan untuk melatihnya. Pengumpulan data yang secara historis bias dan mencerminkan ketidaksetaraan sosial dapat mengakibatkan kerugian bagi kelompok-kelompok yang secara historis terpinggirkan dalam berbagai contoh penggunaan, termasuk perekrutan, penegakan hukum, penilaian kredit, dan banyak lainnya. Menurut The Wall Street Journal, “Seiring dengan semakin meluasnya penggunaan kecerdasan buatan, bisnis masih berjuang untuk mengatasi bias yang menyebar.”¹

Hasil yang menyimpang dapat membahayakan organisasi dan masyarakat pada umumnya. Berikut adalah beberapa jenis bias AI yang lebih umum⁷.

• Bias algoritma: Informasi yang salah dapat terjadi jika masalah atau pertanyaan yang diajukan tidak sepenuhnya benar atau spesifik, atau jika masukan ke algoritma machine learning tidak membantu memandu pencarian solusi.
  
  
• Bias kognitif: Teknologi AI membutuhkan input manusia, dan manusia dapat salah. Bias pribadi dapat merasuk tanpa disadari oleh para praktisi. Ini dapat memengaruhi kumpulan data atau perilaku model.
  
  
• Bias konfirmasi: Terkait erat dengan bias kognitif, hal ini terjadi ketika AI terlalu bergantung pada keyakinan atau tren yang sudah ada sebelumnya dalam data - menggandakan bias yang sudah ada, dan tidak dapat mengidentifikasi pola atau tren baru.

• Bias pengecualian: Jenis bias ini terjadi ketika data penting tidak disertakan dalam data yang digunakan, sering kali karena pengembang gagal melihat faktor-faktor baru dan penting.
  
  
• Bias pengukuran: Bias pengukuran disebabkan oleh data yang tidak lengkap. Ini paling sering merupakan kurangnya perhatian atau kurangnya persiapan yang menyebabkan kumpulan data tidak menyertakan seluruh populasi yang harus dipertimbangkan. Sebagai contoh, jika sebuah perguruan tinggi ingin memprediksi faktor keberhasilan kelulusan, tetapi hanya menyertakan lulusannya saja, jawabannya akan benar-benar melewatkan faktor-faktor yang menyebabkan beberapa orang putus sekolah.

• Bias homogenitas di luar kelompok: Ini adalah kasus tidak mengetahui apa yang tidak diketahui. Ada kecenderungan bagi orang untuk memiliki pemahaman yang lebih baik tentang anggota ingroup (kelompok di mana seseorang berada) dan berpikir bahwa mereka lebih beragam daripada anggota outgroup. Hasil dapat membuat pengembang algoritma yang kurang mampu membedakan antara individu yang bukan bagian dari kelompok mayoritas dalam data pelatihan, yang mengarah pada bias rasial, kesalahan klasifikasi, dan jawaban yang salah.

• Bias prasangka: Terjadi ketika stereotip dan asumsi sosial yang salah menemukan jalan mereka ke dalam kumpulan data algoritma, yang pasti mengarah pada hasil yang bias. Misalnya, AI dapat mengembalikan hasil yang menunjukkan bahwa hanya laki-laki yang dokter dan semua perawat adalah perempuan.
  
  
• Bias recall: Ini berkembang selama pelabelan data, di mana label diterapkan secara tidak konsisten oleh pengamatan subjektif.
  
  
• Bias Sampel/Seleksi: Hal ini menjadi masalah ketika data yang digunakan untuk melatih model machine learning tidak cukup besar, tidak cukup representatif, atau terlalu tidak lengkap untuk melatih sistem secara memadai. Jika semua guru sekolah yang dikonsultasi untuk melatih model AI memiliki kualifikasi akademik yang sama, maka semua calon guru yang dinilai di masa depan harus memiliki kualifikasi akademik yang identik.
  
  
• Bias stereotip: Hal ini terjadi ketika sistem AI biasanya secara tidak sengaja memperkuat stereotip yang berbahaya. Misalnya, sistem terjemahan bahasa dapat mengaitkan beberapa bahasa dengan jenis kelamin atau stereotip etnis tertentu. McKinsey memberikan kata peringatan tentang mencoba menghilangkan prasangka dari kumpulan data: “Pendekatan naif menghapus kelas yang dilindungi (seperti jenis kelamin atau ras) dari data dan menghapus label yang membuat algoritma menjadi bias. Namun, pendekatan ini mungkin tidak akan berhasil karena label yang dihapus dapat memengaruhi pemahaman model dan akurasi hasil Anda bisa menjadi lebih buruk.”²

Langkah pertama untuk menghindari jebakan bias adalah dengan mundur di awal dan memikirkan upaya AI. Seperti halnya dengan hampir semua tantangan bisnis, masalah jauh lebih mudah untuk diperbaiki di awal daripada menunggu melatih dan kemudian memilah-milah hasil yang rusak. Tetapi banyak organisasi terburu-buru: hemat di hal kecil tetapi boros di hal besar, dan itu merugikan mereka.

Mengidentifikasi dan mengatasi bias dalam AI membutuhkan tata kelola AI, atau kemampuan untuk mengarahkan, mengelola, dan memantau aktivitas AI suatu organisasi. Dalam praktiknya, tata kelola AI menciptakan serangkaian kebijakan, praktik, dan kerangka kerja untuk memandu pengembangan dan penggunaan teknologi AI yang bertanggung jawab. Ketika dilakukan dengan baik, tata kelola AI membantu memastikan bahwa ada keseimbangan manfaat yang diberikan kepada bisnis, pelanggan, karyawan, dan masyarakat secara keseluruhan.

Tata kelola AI sering kali mencakup metode yang bertujuan untuk menilai keadilan, kesetaraan, dan inklusi. Pendekatan seperti keadilan kontrafaktual mengidentifikasi bias dalam pengambilan keputusan model dan memastikan hasil yang adil, bahkan ketika atribut sensitif, seperti jenis kelamin, ras, atau orientasi seksual disertakan.

Karena kompleksitas AI, sebuah algoritma dapat menjadi sistem kotak hitam dengan sedikit insight tentang data yang digunakan untuk membuatnya. Praktik dan teknologi transparansi membantu memastikan bahwa data tidak bias digunakan untuk membangun sistem dan hasilnya akan adil. Perusahaan yang bekerja untuk melindungi informasi pelanggan membangun kepercayaan merek dan lebih mungkin akan membuat sistem AI yang dapat dipercaya.

Untuk memberikan lapisan jaminan kualitas lainnya, buatlah sistem "human-in-the-loop" untuk menawarkan opsi atau membuat rekomendasi yang kemudian dapat disetujui oleh keputusan manusia.

Berikut adalah daftar periksa enam langkah proses yang dapat menjaga program AI bebas dari bias.

1. Pilih model pembelajaran yang benar: Saat menggunakan model yang diawasi, pemangku kepentingan memilih data pelatihan. Sangat penting bahwa tim pemangku kepentingan memiliki anggota yang beragam, bukan hanya ilmuwan data, dan bahwa mereka telah menjalani pelatihan untuk membantu mencegah bias bawah sadar. Model tanpa pengawasan menggunakan AI itu sendiri untuk mengidentifikasi bias. Alat pencegahan bias perlu dibangun ke dalam jaringan neural agar sistem dapat belajar untuk mengenali bias.

2. Melatih dengan data yang tepat: machine learning yang dilatih pada data yang salah akan menghasilkan hasil yang salah. Data apa pun yang dimasukkan ke dalam AI harus lengkap dan seimbang untuk mereplikasi demografi aktual dari kelompok yang dipertimbangkan.

3. Pilih tim yang seimbang: Semakin beragam tim AI secara ras, ekonomi, tingkat pendidikan, jenis kelamin, dan deskripsi pekerjaan, semakin besar kemungkinan tim tersebut akan mengenali bias. Talenta dan sudut pandang dalam tim AI yang menyeluruh harus mencakup inovator bisnis AI, pencipta AI, pelaksana AI, dan representasi konsumen dari upaya AI khusus ini.³

4. Lakukan pemrosesan data dengan hati-hati: Bisnis perlu menyadari adanya bias pada setiap langkah saat memproses data. Risiko tidak hanya pada pemilihan data: baik selama pra-pemrosesan, dalam pemrosesan, atau pasca-pemrosesan, bias dapat merayap masuk kapan saja dan dimasukkan ke dalam AI.

5. Pantau terus menerus: Tidak ada model yang pernah lengkap atau permanen. Pemantauan dan pengujian yang sedang berlangsung dengan data dunia nyata dari seluruh organisasi dapat membantu deteksi dan mengoreksi bias sebelum hal tersebut menyebabkan kerugian. Untuk menghindari bias, organisasi harus mempertimbangkan penilaian oleh tim independen dari dalam organisasi atau pihak ketiga yang tepercaya.

6. Hindari masalah infrastruktur: Selain pengaruh manusia dan data, terkadang infrastruktur itu sendiri dapat menyebabkan bias. Misalnya, dengan menggunakan data yang dikumpulkan dari sensor mekanis, peralatan itu sendiri dapat menyuntikkan bias jika sensor tersebut tidak berfungsi dengan baik. Bias semacam ini sulit dideteksi dan memerlukan investasi dalam infrastruktur digital dan teknologi terkini.