Apa itu bias kognitif?

Bahkan orang yang paling analitis dan rasional pun bisa terjebak dalam bias kognitif, yang sering kali terjadi tanpa disadari. Banyak bias yang tersembunyi sekaligus meluas, yang berpotensi memengaruhi baik analisis data maupun struktur pengumpulan data itu sendiri. 

Seiring dengan kemajuan besar yang terjadi belakangan ini dalam machine learning (ML) dan kecerdasan buatan (AI), minat dan kesadaran terhadap bias kognitif pun semakin meningkat. Seiring dengan pertumbuhan investasi dalam sistem cerdas ini yang semakin pesat, upaya untuk mengurangi bias AI dan bias data menjadi sangat penting baik bagi etika AI maupun tata kelola AI. 

Meskipun istilah kesalahan logika dan bias kognitif kadang-kadang digunakan secara bergantian, keduanya sebenarnya berbeda. Kesalahan logika berasal dari kesalahan yang terjadi dalam suatu argumen logis. Kesalahan akibat bias kognitif bersifat lebih mendalam, karena muncul pada tahap-tahap pemrosesan pikiran. Bias kognitif sering kali berakar pada masalah yang berkaitan dengan memori, daya ingat, perhatian, atribusi, dan bentuk-bentuk meta-analisis lainnya.   

Selain itu, banyak jenis kesalahan logika yang secara langsung berasal dari contoh-contoh bias kognitif. Bias kognitif memengaruhi pemikiran penting. Ketika argumen logis dibangun di atas penalaran yang bias, kesalahan sistemik biasanya menciptakan kekeliruan logis terkait. 

Sebagai contoh sunk cost fallacy, sebuah istilah yang dapat menggambarkan baik bias kognitif maupun kesalahan logika informal. Relatif: 

Sebagai kesalahan logika: Sunk cost fallacy mengacu pada argumen yang cacat secara logika untuk terus menginvestasikan sumber daya (waktu, uang, upaya, dan sebagainya) dalam sebuah proyek hanya berdasarkan jumlah sumber daya yang tidak dapat dipulihkan yang telah diinvestasikan. Seorang penjudi yang memainkan permainan dengan peluang yang tidak menguntungkan tidak dapat secara logis membenarkan untuk terus bermain hanya karena mereka telah kehilangan sejumlah besar uang. Secara logis, uang yang telah hilang tidak relevan terhadap keputusan saat ini untuk bertaruh lagi atau berhenti.

Sebagai bias kognitif: Ungkapan yang umum, “terus mengeluarkan uang untuk sesuatu yang sudah merugi,” menggambarkan inti dari sunk cost fallacy dengan sangat baik. Dari perspektif kognitif, faktor-faktor emosional seperti aversi terhadap kerugian, tekanan sosial, rasa malu, dan kepanikan dapat membuat penjudi berpikir secara tidak rasional. Mereka mungkin menyimpulkan bahwa, meskipun bukti di masa lalu menunjukkan ketidakmampuan mereka untuk memenangkan uang, putaran berikutnya akan berbeda. 

Bias kognitif bersifat menyesatkan karena keputusan yang dihasilkannya tidak selalu terlihat secara gamblang sebagai sesuatu yang salah. Sebaliknya, keputusan tersebut mungkin hanya sedikit kurang optimal, atau bahkan secara kebetulan tepat. Tidak adanya masukan yang jelas merupakan salah satu alasan mengapa bias kognitif terus bertahan. 

Jika tidak terdeteksi sejak dini, dampak lanjutan dari bias kognitif selama tahap perencanaan dapat menimbulkan masalah sistemik yang berpotensi menghasilkan hasil yang keliru, tidak adil, atau berbahaya. Namun, dengan mempelajari dan memahami bias kognitif, para pengambil keputusan serta pihak yang merancang atau mengamankan sistem pengambilan keputusan dapat membantu mencapai hasil yang lebih baik.

Memahami bias kognitif dapat membantu tim keamanan membangun sistem yang lebih kuat dan lebih aman.

Dengan memperhatikan kesalahan umum dalam cara berpikir manusia, para profesional keamanan siber dapat lebih baik dalam mengenali kelemahan pada alat dan solusi keamanan. Kesadaran terhadap bias kognitif juga dapat membantu pengembang maupun profesional keamanan menghindari potensi kelemahan kritis saat merancang, membangun, dan mengimplementasikan platform keamanan, aplikasi, serta sistem lainnya.

Dalam situasi di mana keamanan sangat penting—seperti mengamankan komunikasi bisnis yang sensitif, melindungi rahasia negara, atau menjaga keamanan informasi keuangan konsumen—bias kognitif dapat menyebabkan kerentanan sistemik yang memungkinkan pihak-pihak berniat jahat menembus langkah-langkah keamanan yang sebenarnya sudah ketat. 

Sebagai contoh, bias kognitif false consensus merupakan kecenderungan seseorang untuk berasumsi bahwa pendapatnya sendiri secara luas dianggap benar, meskipun tidak ada data yang mendukung kesimpulan itu. “Bias ini dapat membuat seorang pengembang beranggapan bahwa beberapa jenis fitur keamanan tidak diperlukan untuk jenis aplikasi yang sedang dikembangkannya. Sebagai akibatnya, mereka dapat secara tidak sengaja membiarkan sistem mereka tetap rentan terhadap serangan siber yang sebelumnya tidak pernah mereka antisipasi.

Bias kognitif mengganggu kemampuan untuk menafsirkan data dan membuat keputusan berdasarkan informasi.

Untuk keputusan yang kurang penting, meskipun bias kognitif dapat mengakibatkan pengambilan keputusan yang buruk, taruhannya jelas kecil. Pada keputusan yang lebih besar, bias kognitif dapat menjadi ancaman yang jauh lebih besar.

Mungkin ancaman terbesar yang ditimbulkan oleh bias kognitif berasal dari potensi dampak kesalahan ini ketika merancang sistem yang akan membuat banyak keputusan sendiri. Oleh karena itu, seiring dengan semakin lazimnya sistem AI, kebutuhan akan perlindungan terhadap bias AI menjadi sangat penting .

Model AI sering kali memiliki kelemahan yang berasal dari bias kognitif yang melekat pada para pengembang manusia yang merancang sistem ini, serta dari bias yang terkandung dalam data pelatihan sistem tersebut. Sistem yang dihasilkan kemudian memiliki biasnya sendiri, yang dapat mengakibatkan diskriminasi dan dampak merugikan lainnya. 

Tata kelola AI membantu mengatasi dan mencegah masalah seperti bias algoritmik, di mana algoritma ML menghasilkan hasil yang tidak adil atau diskriminatif yang dapat memperkuat ketidaksetaraan sosial ekonomi, ras, atau gender yang sudah ada sebelumnya. 

Tata kelola, proses, standar, dan batasan AI membantu para arsitek sistem AI menciptakan alat yang aman dan etis. Tata kelola AI menjadi kerangka kerja bagi kerangka kerja riset, pengembangan, dan penerapan AI yang membantu menjamin keselamatan, keadilan, serta penghormatan terhadap hak asasi manusia.

Salah satu cara tata kelola AI mengatasi bias adalah dengan mendorong penyertaan kumpulan data pelatihan yang lebih beragam. Dalam bidang seperti layanan kesehatan, sangat penting untuk menggunakan data yang berasal dari berbagai kelompok populasi yang mungkin memiliki kondisi kontekstual yang khas.

Sebagai contoh, bayangkan sebuah AI layanan kesehatan yang dirancang untuk mendeteksi tanda-tanda kanker paru-paru. Jika model ini hanya dilatih menggunakan data dari orang yang tidak merokok dan tinggal di daerah pedesaan, model tersebut mungkin kurang efektif saat menganalisis subjek yang merokok dan tinggal di daerah dengan tingkat polusi tinggi. Untuk membuat AI yang lebih efektif, penting untuk memasukkan data pelatihan yang mewakili sebanyak mungkin skenario potensial. 

Contoh lain dari tata kelola AI dalam praktiknya adalah upaya untuk menerapkan dan memelihara sistem human-in-the-loop (HITL). Jenis sistem ini memerlukan pengawasan manusia terhadap output AI. Kerangka kerja HITL membantu memastikan pemeriksaan tambahan. Jika manusia mendeteksi bias yang dilewatkan oleh sistem AI, maka manusia dapat mengesampingkan keputusan AI.  

Sementara bias kognitif telah diamati selama berabad-abad, konsep ini pertama kali diperkenalkan secara resmi pada 1970-an oleh psikolog penelitian Amos Tversky dan Daniel Kahneman. Pada tahun 1974, pasangan tersebut menerbitkan makalah mereka, Judgment Under Uncertainty: Heuristics and Biases, yang untuk pertama kalinya menguraikan cara orang cenderung mengandalkan jalan pintas mental, yang dikenal sebagai heuristik, ketika membuat keputusan atau menarik kesimpulan. 

Dalam bidang psikologi sosial dan ekonomi perilaku, para peneliti berteori bahwa manusia berevolusi untuk menggunakan heuristik guna mengurangi beban kognitif, terutama ketika akurasi yang sempurna tidak sepenting efisiensi. Tversky dan Kahneman menemukan bahwa heuristik—aturan praktis yang umum atau ‘trik yang biasa digunakan’—sangat lazim dalam situasi ketika penilaian harus dibuat dengan cepat, tanpa konteks yang lengkap, atau dalam kondisi ketidakpastian umum. 

Meskipun beberapa heuristik dapat membantu individu, organisasi, dan mesin mengambil keputusan secara cepat dan efektif, Tversky dan Kahneman menunjukkan bahwa bias kognitif sering kali dapat mengarah pada hasil yang tidak diinginkan. 

Sayangnya, bahkan orang yang memahami adanya bias kognitif pun tetap dapat terpengaruh olehnya. Namun, dengan mempelajari berbagai jenis bias kognitif, seseorang dapat secara efektif meminimalkan dampak negatifnya dalam proses pengambilan keputusan. Hal ini dapat menjadi sangat membantu jika analisis dan keputusan ditinjau oleh tim dari luar atau sistem yang secara khusus dilatih untuk mengenali bias kognitif.  

Langkah pertama untuk melawan bias adalah memahami berbagai bentuk manifestasinya. Sejak diterbitkannya makalah terobosan Tversky dan Kahneman, para peneliti telah menemukan banyak jenis bias kognitif.

Beberapa jenis bias kognitif yang paling umum adalah:

Bias konfirmasi adalah kecenderungan untuk memberikan nilai berlebih pada informasi yang mengonfirmasi keyakinan yang sudah ada, sambil meremehkan informasi yang bertentangan dengannya. Sebagai contoh, seseorang yang percaya bahwa sebagian besar serangan siber merupakan akibat dari ancaman pihak luar mungkin akan mengabaikan meningkatnya laporan tentang serangan dari orang dalam sebagai kasus yang menyimpang.

Kecenderungan untuk menganggap bahwa kondisi, pengalaman, atau keadaan diri sendiri dapat disebabkan oleh faktor eksternal, sementara keadaan orang lain merupakan hasil dari tindakan mereka sendiri. Sebagai contoh, seseorang yang tertipu oleh email phishing mungkin percaya bahwa para penjahat siber tersebut sangat licik. Namun, orang yang sama mungkin melihat rekan kerjanya tertipu oleh penipuan serupa dan menyimpulkan bahwa rekan tersebut mudah percaya dan gampang ditipu.

Seperti bias aktor-pengamat, bias mementingkan diri sendiri mengaitkan hasil pribadi negatif dengan kekuatan eksternal sambil memberi diri sendiri kredit yang tidak semestinya untuk hasil positif. Self-serving bias dapat membuat seseorang menganggap bahwa kemenangan dalam permainan poker adalah hasil keterampilannya sendiri, sementara kekalahan dipandang sebagai takdir buruk yang tidak terhindarkan. 

Kesalahan atribusi fundamental (fundamental attribution error) adalah kecenderungan untuk menilai orang lain sebagai baik atau buruk berdasarkan motivasi internal mereka. Sebagai contoh, seseorang yang frustrasi karena terjebak di belakang pengemudi yang lambat mungkin berasumsi bahwa pengemudi tersebut ceroboh dan tidak sopan, tanpa mempertimbangkan kemungkinan faktor eksternal seperti kondisi jalan yang buruk atau masalah mesin.

Kecenderungan untuk memberi penekanan berlebihan pada informasi pertama yang diperoleh mengenai suatu topik baru. Vendor dapat memanfaatkan bias jangkar ketika mereka mengiklankan harga produk sebelumnya yang lebih tinggi. Dengan menjadikan angka yang lebih tinggi sebagai acuan awal bagi pelanggan, harga yang telah didiskon akan terlihat sebagai penawaran yang lebih menguntungkan.

Efek halo (halo effect) mengacu pada bagaimana kesan seseorang terhadap orang lain dapat memengaruhi kemampuannya dalam menilai karakter atau kemampuan orang tersebut. Jenis bias kognitif ini dapat muncul dalam berbagai cara, tetapi salah satu contohnya yang cukup disayangkan adalah kemampuan orang yang secara konvensional menarik atau memiliki kepribadian menyenangkan untuk dengan cepat mendapatkan kepercayaan orang asing. Penjahat siber sering kali menyalahgunakan efek halo ketika mencoba serangan rekayasa sosial, misalnya dengan menggunakan avatar yang menarik. 

Kecenderungan selama pengambilan keputusan untuk lebih memperhatikan faktor-faktor tertentu sambil mengabaikan yang lain. Sebagai contoh, ketika memilih solusi keamanan siber, seseorang yang mengalami bias perhatian mungkin lebih memusatkan perhatian pada total biaya produk tanpa mempertimbangkan apakah produk tersebut benar-benar memenuhi seluruh kebutuhannya.

Kecenderungan untuk memahami pengalaman subjektif sendiri tentang realitas sebagai objektif dan mengharapkan orang lain untuk memandang dunia dengan cara yang sama. Ironisnya, seseorang yang menderita realisme naif mungkin mengabaikan pandangan yang berbeda sebagai irasional atau bias.

Kecenderungan analisis luar dari suatu peristiwa untuk mempengaruhi persepsi pribadi seseorang terhadap data yang disajikan. Jenis bias ini telah membuat pengamat saksi mata meragukan mata mereka sendiri berdasarkan analisis pihak ketiga yang bias. 

Kecenderungan untuk berasumsi bahwa hanya karena sesuatu tidak dirancang untuk menjalankan fungsi tertentu, maka benda tersebut tidak mungkin dapat menjalankan fungsi itu. Sebagai contoh, karena kunci inggris tidak dirancang untuk memukul paku, orang mungkin berasumsi bahwa kunci inggris tidak dapat digunakan sebagai palu. Namun, dalam keadaan darurat, kunci inggris memang dapat digunakan seperti palu. 

Kecenderungan untuk percaya seseorang lebih kecil kemungkinannya untuk gagal dan lebih mungkin untuk berhasil. Sementara bias terhadap optimisme dapat berharga dalam situasi tertentu, asumsi keberhasilan yang tidak dapat dibenarkan dapat menyebabkan kehancuran. Keputusan yang dipengaruhi oleh bias optimisme lebih cenderung mengabaikan masalah serius dan membuat pengambil keputusan terpapar pada hasil yang berpotensi menghancurkan. 

Sebagai salah satu jenis bias sampel, survivorship bias adalah kecenderungan untuk keliru menganggap sebagian kecil dari suatu kelompok yang lebih besar sebagai keseluruhan kelompok tersebut. Survivorship bias membuat orang secara keliru hanya memusatkan perhatian pada titik-titik data yang "lolos" dari sejumlah uji kelayakan tertentu.

Salah satu contoh paling terkenal dari survivorship bias berasal dari Perang Dunia II.¹ Ketika dimintai pendapat tentang di mana sebaiknya memperkuat lapisan baja pesawat, Abraham Wald memberikan rekomendasinya berdasarkan analisis statistik mengenai bagian pesawat yang paling banyak mengalami kerusakan pada pesawat yang kembali dari pertempuran. Namun, alih-alih memperkuat area ini, Wald menyarankan untuk memperkuat area yang menunjukkan kerusakan paling sedikit. Wald mengerti bahwa datanya hanya mewakili pesawat yang selamat dari pertempuran, jadi dia dengan tepat menyimpulkan bahwa kerusakan yang ditimbulkan pesawat ini tidak se-kritis kerusakan yang dilakukan di tempat lain. Pesawat yang mengalami kerusakan di bagian yang tidak terwakili tersebut telah hancur dan tidak bertahan untuk dicatat dalam analisis distribusi kerusakan. 

Kecenderungan untuk membuat keputusan, sampai pada kesimpulan atau mengadopsi keyakinan berdasarkan jumlah orang lain yang memegang posisi serupa. Pada dasarnya, efek bandwagon menggambarkan pengaruh popularitas dan tekanan sosial terhadap psikologi seseorang. 

Cara informasi disajikan dapat menghasilkan kesimpulan yang berbeda. Misalnya, survei politik yang meminta responden untuk menilai persetujuan mereka tentang “hal-hal buruk yang telah dilakukan gubernur” akan menghasilkan skor yang lebih rendah daripada deskripsi yang lebih objektif tentang “kebijakan gubernur.” 

Kecenderungan untuk melebih-lebihkan informasi yang tersedia atau mudah diingat. Bias ini dapat menyebabkan dokter salah mendiagnosis pasien dengan flu berdasarkan adanya gejala mirip flu tanpa menguji penyakit lain dengan gejala serupa. Meskipun mungkin lebih mudah untuk mengasumsikan flu, keputusan yang dibuat dengan informasi terbatas sering dipengaruhi oleh bias ketersediaan.

Juga dikenal sebagai neglect, base rate fallacy adalah kecenderungan untuk mengesampingkan data umum, statistik, atau tingkat dasar populasi (base rate) dan lebih mengutamakan bukti yang bersifat spesifik atau anekdotal. Dalam analisis, sangat penting untuk terlebih dahulu menetapkan tingkat dasar untuk mengukur penyimpangan statistik dengan benar. 

Juga disebut fenomena knew-it-all-along atau creeping determinism, hindsight bias adalah kecenderungan untuk memandang peristiwa masa lalu sebagai sesuatu yang lebih menunjukkan hasil di masa depan daripada yang sebenarnya. Jika dilihat kembali, hubungan sebab-akibat dapat tampak mudah disusun seolah-olah keadaan saat ini merupakan sesuatu yang sudah pasti sejak awal. Namun, pada saat ini, banyak hasil yang mungkin terjadi, membuat masa depan kurang jelas. 

Bias kognitif ini adalah kecenderungan untuk mengandalkan asumsi yang berakar pada stereotip daripada informasi yang objektif. Sebagai contoh, seseorang mungkin berasumsi bahwa seorang musisi bertato dan berambut spiked bermain musik rock and roll, padahal sebenarnya ia bisa saja seorang pemain biola klasik. Heuristik keterwakilan menggambarkan kecenderungan untuk “menilai buku dari sampulnya”. 

Dinamai dari para peneliti David Dunning dan Justin Kruger, bias kognitif ini menggambarkan kecenderungan individu yang tidak terampil dalam suatu bidang untuk melebih-lebihkan kinerja atau kemampuan mereka di bidang tersebut. Salah satu penjelasan untuk kepercayaan diri yang berlebihan ini adalah bahwa ketika seseorang mempelajari informasi baru tentang suatu topik, mereka menjadi lebih sadar akan seberapa dalam dan kompleksnya topik tersebut. Para pemula belum memiliki kesadaran ini.

Ironisnya, sebuah studi terbaru menemukan adanya semacam efek Dunning-Kruger terbalik dalam penggunaan AI. Para peneliti meminta dua kelompok orang untuk menyelesaikan masalah logika. Satu kelompok diizinkan menggunakan AI untuk membantu mereka menarik kesimpulan, sementara kelompok lainnya tidak. Setelah mengikuti tes, peserta yang menggunakan AI juga diminta untuk memperkirakan seberapa baik mereka menilai kinerja mereka, serta seberapa berpengalaman mereka dalam menggunakan alat AI. 

Biasanya, efek Dunning-Kruger menunjukkan korelasi terbalik antara kepercayaan diri dalam menggunakan AI dan kemampuan nyata seseorang dalam menggunakan AI secara efektif. Namun, yang diamati justru sebaliknya. Subjek dengan tingkat pengalaman AI yang lebih tinggi juga melebih-lebihkan kemampuan mereka dalam menggunakan AI secara efektif. 

Meskipun diperlukan penelitian lebih lanjut sebelum menarik kesimpulan yang bermakna, laporan ini memang menegaskan pentingnya untuk menelaah bias kognitif. Dalam hal pengambilan keputusan, bias kognitif dapat secara dramatis memengaruhi hasil dan kesimpulan dengan cara yang tidak terduga. Ketika bias kognitif menyebabkan kesalahan yang dibuat selama proses pengambilan keputusan, bahkan data terbaik, paling berbobot, dan berdampak dapat disalahartikan.