Apa itu etika AI?

Contoh isu etika AI meliputi:

• Tanggung jawab terhadap data dan privasi
• Keadilan
• Kemampuan menjelaskan
• Keandalan
• Transparansi
• Keberlanjutan lingkungan
• Inklusi
• Agensi moral
• Penyelarasan nilai
• Akuntabilitas
• Kepercayaan
• Penyalahgunaan teknologi

Sebagian besar organisasi saat ini menggunakan alat AI dan big data dalam beberapa kapasitas untuk mendukung otomatisasi dan memungkinkan pengambilan keputusan berbasis data. Meski niatnya biasanya untuk meningkatkan hasil bisnis, perusahaan dapat mengalami akibat yang tidak terduga dalam aplikasi AI mereka, sering karena riset dan desain awal yang buruk serta kumpulan data yang berbias. Masalah-masalah ini membantu menyoroti pentingnya penggunaan etis sistem AI.

Komunitas riset dan ilmu data telah mengembangkan pedoman untuk etika AI untuk membantu mengurangi konsekuensi yang tidak terduga dan hasil yang tidak adil ini. Perusahaan AI terkemuka juga tertarik dalam membentuk pedoman ini, karena mereka tahu bahwa kegagalan untuk menegakkan standar etika dapat membahayakan produk, layanan, dan pengguna mereka. Kurangnya ketekunan dalam etika AI dapat mengakibatkan paparan reputasi, peraturan, dan hukum, yang menyebabkan hukuman yang mahal.

Inovasi cenderung melampaui peraturan pemerintah, terutama dalam kasus teknologi baru seperti AI. Seiring waktu, orang dapat berharap bahwa lebih banyak pemerintah akan mengeluarkan protokol AI yang diamanatkan secara hukum untuk melindungi hak asasi manusia dan kebebasan sipil. Sementara beberapa peraturan memang ada­—seperti UU AI Uni Eropa—banyak pedoman etika AI yang ada adalah kerangka kerja sukarela yang diajukan oleh para ilmuwan dan kelompok industri.

Komunitas akademis telah lama mengandalkan prinsip-prinsip etika yang diuraikan dalam “Laporan Belmont” 1979 ¹ untuk memandu etika dalam riset eksperimental dan pengembangan algoritmik.

Prinsip-prinsip ini dapat memberikan dasar bagi riset, desain, dan penggunaan AI serta machine learning yang beretika. Namun, karena mereka dirancang dengan mempertimbangkan subjek manusia­—dan jauh sebelum sistem generatif dan AI agen modern—mereka tidak cukup dengan sendirinya. Sistem ini harus dipandang sebagai dasar, tetapi bukan seperangkat prinsip AI yang komprehensif.

Prinsip-prinsip Laporan Belmont adalah:

Ada beberapa masalah di garis depan percakapan etis seputar teknologi AI di dunia nyata. Kekhawatiran ini mencerminkan dampak potensial AI yang lebih luas pada masyarakat. Beberapa kekhawatiran tersebut meliputi:

Rilis ChatGPT pada tahun 2022 menandai titik infleksi sejati untuk kecerdasan buatan. Kemampuan chatbot OpenAI—mulai dari menulis ringkasan hukum hingga kode debug—membuka kemungkinan baru untuk apa yang dapat dilakukan AI dan bagaimana hal itu dapat diterapkan di hampir semua industri.

ChatGPT dan alat AI serupa dibangun di atas model dasar, model AI yang dapat diterapkan pada berbagai tugas hilir. Model dasar biasanya merupakan model generatif berskala besar, terdiri dari miliaran parameter, yang bergantung pada data pelatihan yang tidak berlabel dan menggunakan pengawasan mandiri. Model dasar, sering disebut sebagai model bahasa besar (LLM), dapat menerapkan apa yang telah mereka pelajari dalam satu konteks ke konteks lain, membuatnya sangat mudah beradaptasi.

Namun ada banyak masalah potensial dan masalah etika seputar model dasar, seperti bias, pembuatan konten palsu (termasuk output yang tidak dapat diandalkan atau menyesatkan) dan kurangnya penjelasan. Banyak dari masalah ini relevan dengan AI secara umum, tetapi memiliki urgensi baru mengingat kekuatan dan ketersediaan model dasar.

Model dasar dan AI generatif (gen AI) juga memperkenalkan tantangan etika yang berasal dari skala, desain tujuan umum, dan kemudahan penggunaan kembali di seluruh domain. Karena model-model ini dapat digunakan dalam konteks yang jauh dari niat pelatihan aslinya, pertanyaan tentang tanggung jawab dan akuntabilitas menjadi jauh lebih kompleks. Seringkali tidak jelas bagaimana kewajiban etis harus dibagi antara penyedia model dan penyebar hilir mereka. Tanggung jawab siapa untuk mencegah model, misalnya, menyalahgunakan data sensitif atau membocorkan kekayaan intelektual: penyedia, penerap, atau pengguna akhir?

Selain itu, sistem AI generatif dapat menghasilkan output yang meyakinkan tetapi salah atau menyesatkan dan memungkinkan penyalahgunaan pada skala yang belum pernah terjadi sebelumnya. Oleh karena itu, pedoman etika untuk model dasar umumnya menekankan dokumentasi yang jelas, batasan penggunaan, pemantauan berkelanjutan, serta human oversight di seluruh proses penerapan.

Singularitas teknologi adalah skenario teoretis ketika perkembangan teknologi menjadi tidak terkendali dan tidak dapat dibalik, sehingga memicu perubahan yang mendalam serta sulit diprediksi terhadap peradaban manusia. Walaupun konsep ini banyak menarik perhatian publik, sebagian besar peneliti tidak memandang AI akan melampaui kecerdasan manusia dalam waktu dekat maupun dalam waktu yang segera.  

AI yang kuat (AI yang akan memiliki kecerdasan dan kesadaran diri yang setara dengan manusia) dan kecerdasan super masih hipotetis. Namun, kedua konsep tersebut memunculkan berbagai pertanyaan dan implikasi etis mengenai penggunaan AI dalam sistem otonom, seperti kendaraan tanpa pengemudi.

Sebagai contoh, tidak realistis untuk mengharapkan bahwa kendaraan tanpa pengemudi tidak akan pernah mengalami kecelakaan. Dalam kondisi tersebut, siapa yang bertanggung jawab dan menanggung risiko liabilitas? Haruskah kita tetap mengembangkan kendaraan otonom, atau membatasi integrasi teknologi ini hanya pada kendaraan semi-otonom yang mendukung keselamatan pengemudi?

Dilema etis seperti ini masih belum memiliki penyelesaian yang pasti, tetapi merupakan bagian dari diskusi yang muncul seiring berkembangnya teknologi AI yang inovatif.

Meskipun persepsi publik terhadap kecerdasan buatan sering kali berpusat pada kekhawatiran akan hilangnya lapangan pekerjaan, kekhawatiran tersebut dapat dipandang dari perspektif yang berbeda. Setiap kemunculan teknologi baru yang bersifat disruptif akan menggeser kebutuhan pasar terhadap peran pekerjaan tertentu.

Sebagai contoh, ketika komputer pribadi mulai diadopsi secara luas, peran seperti juru ketik dan petugas arsip sebagian besar menghilang. Di sisi lain, kategori pekerjaan baru pun bermunculan, seperti dukungan TI, pengembangan perangkat lunak, dan entri data.

Kecerdasan buatan sebaiknya dipandang dengan perspektif yang sama. Inisiatif AI tidak selalu akan mengurangi jumlah tenaga kerja. Sebaliknya, AI cenderung menggeser kebutuhan pasar terhadap berbagai peran pekerjaan. Tenaga kerja akan tetap dibutuhkan untuk mengelola AI systems serta menangani tantangan yang lebih kompleks di industri masing-masing.

Dampak terpenting kecerdasan buatan terhadap pasar tenaga kerja adalah membantu individu bertransisi menuju bidang-bidang dengan permintaan pasar yang terus berkembang.

Model AI bergantung pada data. Oleh karena itu, privasi data, perlindungan data, dan keamanan data adalah perhatian inti dari etika AI.

Pembuat kebijakan telah mengembangkan undang-undang perlindungan data yang signifikan selama dekade terakhir, dan aturan yang mereka tetapkan sebagian besar berlaku untuk alat AI serta perangkat lunak tradisional.

Misalnya, Peraturan Perlindungan Data Umum UE (GDPR) memberi individu di Uni Eropa dan Wilayah Ekonomi Eropa lebih banyak kontrol atas data pribadi mereka. Di Amerika Serikat, kebijakan tingkat negara bagian seperti California Consumer Privacy Act (CCPA) mewajibkan bisnis untuk memberi tahu konsumen tentang pengumpulan data mereka.

Badan-badan pemerintah juga mulai memberlakukan aturan khusus AI seputar pengumpulan, penyimpanan, dan penggunaan informasi identifikasi pribadi (PII). Misalnya, pada tahun 2024, California mulai menyusun aturan tentang AI dan teknologi pengambilan keputusan otomatis. Aturan-aturan tersebut telah diselesaikan, dan bisnis harus mematuhinya pada 1 Januari 2027. 

Sementara perusahaan biasanya memiliki niat baik untuk upaya AI dan otomatisasi mereka, bias yang tertanam dalam kumpulan data pelatihan dan algoritma AI dapat mengarah pada hasil yang diskriminatif.

Misalnya, Amazon membatalkan alat perekrutan yang didukung AI awal ketika ditemukan bahwa alat tersebut secara sistematis menilai wanita lebih rendah daripada pria. Mengapa? Karena alat itu dilatih pada kumpulan resume yang sebagian besar diambil dari pria.

Bias dan diskriminasi juga tidak terbatas pada fungsi sumber daya manusia. Mereka dapat ditemukan di beberapa aplikasi mulai dari perangkat lunak pengenalan wajah hingga algoritma media sosial. Misalnya, alat pengenalan wajah secara rutin lebih sulit mengidentifikasi orang kulit berwarna.

Ketika bisnis menjadi lebih sadar akan risiko, mereka juga menjadi lebih aktif dalam diskusi.

Misalnya, IBM® menarik produk pengenalan wajah dan analisis tujuan umum pada tahun 2020. Pada saat itu, CEO IBM® Arvind Krishna menulis:

“IBM® dengan tegas menentang dan tidak akan menoleransi penggunaan teknologi apa pun, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar atau tujuan apa pun yang tidak konsisten dengan nilai-nilai dan prinsip kepercayaan dan transparansi kami.”

Adopsi cepat AI generatif telah meningkatkan kekhawatiran seputar konten sintetis seperti deepfake, informasi yang salah, dan erosi kepercayaan pada informasi digital.

Karena teks, gambar, audio, dan video yang dihasilkan AI menjadi semakin sulit dibedakan dari konten buatan manusia, kebutuhan akan transparansi sekarang melampaui penjelasan model hingga keterlacakan dan pengungkapan output. Sebagai tanggapan, pembuat kebijakan dan penyedia teknologi memajukan mekanisme asal konten. Mekanisme ini dapat mencakup hal-hal seperti persyaratan pelabelan, tanda air, dan metadata kriptografi untuk membantu pengguna mengidentifikasi materi yang dihasilkan AI.

Pendekatan ini dapat menimbulkan ketegangan etis, termasuk pertukaran antara ketahanan, privasi, dan kebebasan berekspresi, tetapi mereka semakin dipandang penting untuk menjaga kepercayaan pada ekosistem digital.

Walaupun belum ada satu undang-undang global yang secara khusus mengatur kecerdasan buatan, regulasi AI berkembang dengan sangat cepat, dari sekadar pedoman sukarela menjadi kerangka kerja hukum yang mengikat di berbagai yurisdiksi.

Undang-Undang Kecerdasan Buatan Uni Eropa (UU AI Uni Eropa), yang mulai berlaku pada tahun 2024, menetapkan kewajiban yang mengikat untuk praktik AI tertentu. Kewajiban ini termasuk larangan terhadap sistem risiko yang tidak dapat diterima, persyaratan transparansi untuk konten buatan AI, dan aturan tata kelola siklus hidup untuk model AI berisiko tinggi dan tujuan umum.

Proliferasi undang-undang seperti UU AI Uni Eropa menandakan pergeseran yang lebih luas dalam etika AI dari prinsip-prinsip aspirasional menuju mekanisme akuntabilitas yang menggabungkan standar etika dengan kepatuhan hukum.

Kecerdasan buatan menghasilkan kinerja sesuai dengan cara AI tersebut dirancang, dikembangkan, dilatih, di-tuning, dan digunakan. Etika AI berfokus pada penetapan standar dan guardrails untuk setiap tahap dalam siklus hidup sistem AI.

Organisasi, pemerintah, dan komunitas peneliti telah mengembangkan berbagai kerangka kerja untuk mengatasi tantangan etika AI saat ini sekaligus membentuk arah perkembangan AI di masa depan. Meskipun setiap pedoman memiliki pendekatan yang berbeda, terdapat konsensus mengenai aktivitas utama dalam tata kelola AI.

Etika AI semakin dipahami bukan sebagai sekadar seperangkat prinsip, melainkan sebagai kemampuan yang terintegrasi ke seluruh siklus hidup AI. Tata kelola yang efektif memerlukan proses yang berkesinambungan untuk melakukan penilaian risiko, mendokumentasikan keputusan desain, memantau sistem yang telah diterapkan, serta merespons perilaku maupun dampak yang tidak terduga. Seiring berkembangnya sistem AI, pengawasan etika juga harus berkembang mengikutinya, dengan dukungan kepemilikan tanggung jawab yang jelas dan kontrol yang dapat diukur, bukan hanya mengandalkan kebijakan yang bersifat statis.

Tata kelola membantu memastikan bahwa AI systems beroperasi sesuai dengan prinsip, nilai, dan praktik AI yang bertanggung jawab yang dianut organisasi.

Komponen umum dari program tata kelola AI meliputi:

• Mendefinisikan peran dan tanggung jawab orang yang bekerja dengan AI untuk memastikan pengawasan manusia yang tepat.
  
  
• Mendidik semua orang yang terlibat dalam siklus hidup AI tentang membangun dan menggunakan AI dengan cara yang bertanggung jawab.
  
  
• Menetapkan proses untuk membangun, mengelola, memantau, berkomunikasi tentang AI dan melakukan audit sistem AI.
  
  
• Memanfaatkan alat untuk meningkatkan kinerja dan kepercayaan AI di seluruh siklus hidup AI.

Dewan etika AI adalah mekanisme tata kelola yang efektif lainnya. Misalnya, Dewan Teknologi Bertanggung Jawab IBM®, yang terdiri atas beragam pemimpin dari seluruh bisnis, menyediakan tata kelola terpusat, tinjauan, dan proses pengambilan keputusan untuk kebijakan dan praktik etika AI di IBM®.

Organisasi dapat membangun AI yang tepercaya dengan mendasarkan pekerjaan mereka pada prinsip-prinsip etika yang jelas yang diterapkan secara konsisten di seluruh produk, kebijakan, dan proses. Prinsip-prinsip ini harus fokus pada bidang-bidang konkret, seperti penjelasan atau keadilan, di mana standar dan praktik tertentu dapat dikembangkan.

Ketika etika diintegrasikan ke dalam AI sejak tahap awal, AI memiliki potensi untuk memberikan manfaat yang sangat besar. Bidang seperti layanan kesehatan sudah mengalami kebaikan ini. AI mengubah disiplin ilmu seperti radiologi, mendeteksi kelainan dalam pemindaian lebih cepat dan lebih akurat daripada metode tradisional.

Banyak organisasi menemukan bahwa mereka lebih siap untuk mewujudkan manfaat tersebut dengan memperlakukan AI ethics sebagai disiplin praktis yang mengintegrasikan nilai-nilai, tata kelola, dan akuntabilitas guna mendukung inovasi yang bertanggung jawab dalam skala besar.

Standar etika bukanlah perhatian utama para insinyur data dan ilmuwan data di sektor swasta. Namun, beberapa organisasi telah muncul untuk mempromosikan perilaku etis di bidang kecerdasan buatan.

Organisasi-organisasi ini meliputi:

• AlgorithmWatch berfokus pada algoritma dan proses keputusan yang dapat dijelaskan dan ditelusuri dalam program-program AI.
  
  
• AI Now Institute, sebuah organisasi nirlaba di Universitas New York, melakukan riset implikasi sosial dari AI.
  
  
• Defense Advanced Research Projects Agency (DARPA) dari Departemen Pertahanan AS mendorong AI yang dapat dijelaskan dan riset AI.
  
  
• Center for Human-Compatible Artificial Intelligence (CHAI) adalah kerja sama dari berbagai lembaga dan universitas untuk mempromosikan AI yang dapat dipercaya dan sistem bermanfaat yang dapat dibuktikan.

Prinsip IBM® untuk Kepercayaan dan Transparansi menentukan pendekatannya terhadap pengembangan data dan AI. Prinsip-prinsip tersebut adalah:

1. Tujuan AI adalah untuk memperkuat kecerdasan manusia. Ini berarti bahwa kami tidak berusaha mengganti kecerdasan manusia dengan AI, tetapi mendukungnya.
   
   
2. Data dan insight adalah milik penciptanya. Organisasi seharusnya tidak diminta untuk melepaskan hak atas data mereka—atau insight yang diperoleh darinya— untuk mendapatkan manfaat dari solusi dan layanan AI.
   
   
3. Sistem AI harus transparan dan dapat dijelaskan. IBM percaya bahwa perusahaan teknologi perlu mengetahui dengan jelas siapa yang melatih sistem AI mereka, data apa yang digunakan dalam pelatihan tersebut, dan yang terpenting, apa yang menjadi rekomendasi algoritma mereka.

IBM® juga telah mengembangkan lima pilar untuk memandu adopsi teknologi AI yang bertanggung jawab.

• Kemampuan menjelaskan: Sistem AI harus transparan, terutama tentang apa yang masuk ke dalam rekomendasi algoritmanya, yang relevan dengan berbagai pemangku kepentingan dengan berbagai tujuan.
  
  
• Keadilan: Pilar ini mengacu pada perlakuan yang adil terhadap individu, atau kelompok individu, oleh sistem AI. Ketika dikalibrasi dengan benar, AI dapat membantu manusia dalam membuat pilihan yang lebih adil, melawan bias manusia, dan mempromosikan inklusivitas.
  
  
• Kekokohan: Sistem yang didukung AI harus secara aktif dipertahankan dari serangan bertujuan jahat, meminimalkan risiko keamanan, dan mewujudkan kepercayaan dalam hasil sistem.
  
  
• Transparansi: Untuk memperkuat kepercayaan, pengguna harus dapat melihat bagaimana layanan bekerja, mengevaluasi fungsinya, dan memahami kekuatan dan keterbatasannya.
  
  
• Privasi: Sistem AI harus memprioritaskan dan melindungi privasi dan hak-hak data konsumen serta memberikan jaminan eksplisit kepada pengguna tentang bagaimana data pribadi mereka akan digunakan dan dilindungi.