Apa itu AI Bill of Rights?

AI Bill of Rights diperkenalkan pada Oktober 2022 oleh Kantor Kebijakan Sains dan Teknologi Gedung Putih (OSTP) dalam dokumen berjudul "Cetak Biru untuk AI Bill of Rights: Membuat Sistem Otomatis Bekerja untuk Rakyat Amerika." Juga dikenal sebagai Cetak biru, AI Bill of Right ini disusun setelah berkonsultasi dengan akademisi, kelompok hak asasi manusia, organisasi nirlaba, dan perusahaan swasta.

AI Bill of Rights dimaksudkan untuk mendukung pengembangan kebijakan dan praktik yang melindungi hak-hak sipil dan mempromosikan nilai-nilai demokrasi dalam penerapan dan tata kelola sistem otomatis. Untuk mencapai hal ini, cetak biru menetapkan lima prinsip untuk mengurangi potensi risiko, seperti diskriminasi algoritmik. Ini juga membahas masalah untuk akses ke sumber daya penting atau layanan yang dapat berasal dari menerapkan AI di berbagai bidang seperti perawatan kesehatan, layanan keuangan, dan banyak lagi.

AI Bill of Rights mencakup lima prinsip dasar yang dirancang untuk memandu desain, penggunaan, dan penerapan sistem AI. Setiap prinsip mempertimbangkan berbagai situasi di mana hak-hak sipil masyarakat—seperti kebebasan berpendapat, hak suara, dan privasi—bisa terancam.

Meskipun Cetak Biru tidak bersifat mengikat dan tidak mewajibkan kepatuhan terhadap prinsip-prinsip inti, dokumen ini bertujuan untuk memberikan panduan dalam pengambilan keputusan kebijakan terkait AI di mana undang-undang atau kebijakan yang ada belum memberikan panduan.

AI Bill of Rights berlaku untuk sistem otomatis yang berpotensi berdampak signifikan pada hak-hak, peluang, atau akses warga Amerika terhadap sumber daya atau layanan penting. Jenis sistem otomatis yang dapat termasuk dalam cakupan AI Bill of Rights antara lain, tetapi tidak terbatas pada, sistem yang dapat memberikan dampak:

Hak sipil, kebebasan, dan privasi: Ini mencakup sistem yang terkait dengan ucapan (misalnya, alat moderasi konten otomatis), algoritma pengawasan dan sistem peradilan pidana (misalnya, pembaca plat nomor otomatis), sistem pemungutan suara (misalnya, alat pencocokan tanda tangan), serta sistem yang berpotensi berdampak pada privasi (misalnya, sistem penargetan iklan).

Kesempatan yang sama: Ini mencakup sistem yang terkait dengan pendidikan (misalnya, perangkat lunak pendeteksi plagiarisme), perumahan (misalnya, algoritma penyaringan penyewa), dan ketenagakerjaan (misalnya, algoritma perekrutan atau pemutusan hubungan kerja).

Akses ke sumber daya penting dan layanan: Ini mencakup teknologi kesehatan dan asuransi (misalnya, alat diagnostik berbasis AI), algoritma sistem keuangan (misalnya, sistem penilaian kredit), sistem yang berhubungan dengan keselamatan publik (misalnya, kontrol jaringan listrik), dan sistem yang terkait dengan akses ke manfaat, layanan, atau pemberian hukuman (misalnya, algoritma deteksi penipuan).

Contoh penggunaan AI semakin berkembang seiring dengan kemajuan teknologi seperti machine learning (ML) dan  pemrosesan bahasa alami (NLP) . Dalam sebuah studi oleh Ernst and Young, 90% responden mengaku menggunakan AI di tempat kerja. Namun, adopsi AI yang meluas juga membawa tantangan etika baru terkait transparansi, bias, dan privasi data. Misalnya:

• Perangkat lunak pengenalan wajah (FRS) yang digunakan dalam penegakan hukum rentan terhadap bias. Peneliti telah mengidentifikasi beberapa kasus kesalahan identifikasi yang disebabkan oleh kecerdasan buatan, yang sebagian besar melibatkan orang kulit hitam yang dituduh secara salah.²
  
  
• Halusinasi AI terjadi ketika sistem otomatis salah mengidentifikasi pola dan menghasilkan respons yang tidak masuk akal atau tidak akurat. Dalam satu contoh, peneliti meminta ChatGPT untuk memberikan informasi tentang patogenesis dua penyakit. AI menghasilkan makalah lengkap dengan kutipan dan ID PubMed. Setelah pengecekan fakta, peneliti menemukan bahwa dokumen-dokumen tersebut dipalsukan, dan identitasnya diambil dari dokumen lain.³
  
  
• Dalam studi IBM terhadap eksekutif C-suite, hanya 24% proyek AI generasi saat ini yang memiliki komponen untuk mengamankan inisiatif. Bahkan, hampir 70% responden mengaku bahwa inovasi lebih diutamakan daripada keamanan.

Untuk mengatasi tantangan ini, pengembang AI memerlukan panduan dan kerangka kerja yang berfokus pada penggunaan AI yang bertanggung jawab. AI yang bertanggung jawab adalah serangkaian prinsip yang digunakan untuk memandu desain, pengembangan, penerapan, dan penggunaan AI. Prinsip ini mempertimbangkan dampak sosial yang lebih luas dari sistem AI serta langkah-langkah yang diperlukan untuk menyelaraskan AI dengan nilai-nilai pemangku kepentingan, standar hukum, dan prinsip etika.

Cetak biru ini bertujuan untuk menetapkan praktik terbaik AI yang bertanggung jawab dalam kerangka kerja yang komprehensif, sehingga masyarakat dapat memanfaatkan potensi penuh alat AI tanpa mengorbankan kebebasan sipil dasar.

AI Bill of Rights terdiri dari lima prinsip yang dirancang dengan mempertimbangkan hak-hak sipil publik Amerika. Kelima prinsip tersebut meliputi:

• Sistem yang aman dan efektif
• Perlindungan diskriminasi algoritmik
• Privasi data
• Pemberitahuan dan penjelasan
• Alternatif manusia, pertimbangan, dan langkah cadangan

Prinsip ini menegaskan bahwa masyarakat "harus dilindungi dari sistem AI yang tidak aman atau tidak efektif." Untuk mendukung prinsip ini, Cetak Biru merekomendasikan agar pengembang bekerja sama dengan berbagai komunitas, pemangku kepentingan, dan pakar untuk mengidentifikasi serta mengelola risiko sistem AI. Prinsip ini juga menekankan pentingnya pengujian sebelum penerapan, identifikas dan mitigasi risiko, serta pemantauan berkelanjutan untuk meningkatkan keamanan serta efektivitas sistem. Menurut Cetak Biru, hasil evaluasi dan laporan independen yang memastikan keamanan serta efektivitas sistem harus dipublikasikan jika memungkinkan.

Prinsip ini menyatakan bahwa orang "tidak boleh menghadapi diskriminasi oleh algoritma, dan sistem harus digunakan dan dirancang dengan cara yang adil." Menurut AI Bill of Rights, diskriminasi algoritmik terjadi ketika sistem otomatis berdampak buruk pada orang berdasarkan karakteristik seperti ras, orientasi seksual, status disabilitas, dan karakteristik lain yang dilindungi oleh hukum. Untuk mengatasi hal ini, prinsip tersebut menyarankan pembuat sistem otomatis menggunakan langkah-langkah, seperti penilaian kesetaraan, data yang representatif, dan pengujian kesenjangan untuk melindungi individu dan masyarakat yang berisiko tinggi. Prinsip ini juga mendorong audit independen dan pihak ketiga.

Prinsip ini menyatakan bahwa orang "harus dilindungi dari praktik penyalahgunaan data melalui perlindungan bawaan," dan "harus memiliki hak untuk menentukan bagaimana data tentang [mereka] digunakan." Untuk menyelaraskan dengan prinsip ini, cetak biru menyarankan bahwa pengembang AI melindungi pengguna dan privasi mereka melalui pilihan desain yang membantu memastikan pengumpulan informasi identitas pribadi (PII) sangat diperlukan. Prinsip ini juga menyarankan agar pembuat konten menjaga permintaan izin dan persetujuan tetap singkat dan dapat dimengerti serta menghormati keputusan seputar penggunaan, akses, transfer, dan penghapusan data.

Perlindungan yang lebih ketat diperlukan untuk informasi sensitif, seperti data tentang pekerjaan, kesehatan, peradilan pidana, dan lainnya. Cetak Biru juga menekankan bahwa teknologi pengawasan harus berada di bawah pengawasan yang lebih ketat untuk melindungi privasi dan kebebasan sipil warga negara.

Prinsip ini menyatakan bahwa orang “harus tahu bahwa  sistem otomatis sedang digunakan dan memahami bagaimana dan mengapa itu berkontribusi pada hasil yang berdampak [mereka].” AI Bill of Rights menyatakan bahwa perancang, pengembang, dan penyebar sistem otomatis harus menggunakan bahasa yang sederhana dan dapat diakses untuk, antara lain, menjelaskan fungsi sistem dan peran yang dimainkan otomatisasi. Lebih lanjut, prinsip tersebut menyarankan bahwa sistem otomatis harus memberikan pemberitahuan saat digunakan dan penjelasan yang jelas tentang bagaimana dan mengapa ia berkontribusi terhadap hasil yang berdampak pada individu.

Prinsip ini menyatakan bahwa orang "harus dapat memilih untuk tidak ikut serta, jika perlu, dan memiliki akses kepada seseorang yang dapat dengan cepat mempertimbangkan dan memperbaiki masalah yang mereka hadapi." Menurut Cetak Biru, penentuan apa yang "sesuai" harus didasarkan pada "harapan yang wajar" dalam konteks tertentu dan harus berfokus pada memastikan aksesibilitas yang luas dan perlindungan terhadap potensi bahaya. Hal ini menunjukkan bahwa mereka yang ingin menyelaraskan diri dengan prinsip ini harus membuat pertimbangan dan solusi manusia melalui proses fallback dan eskalasi dapat diakses dan tepat waktu, terutama ketika sistem otomatis gagal, menghasilkan kesalahan, atau ketika seseorang ingin mengajukan banding atas dampaknya.

Pendamping teknis, berjudul "Dari Prinsip ke Praktek," diterbitkan bersamaan dengan Cetak Biru. Dokumen ini memberikan contoh serta langkah-langkah yang dapat diambil oleh pemerintah, industri, dan masyarakat untuk mengintegrasikan lima prinsip tersebut ke dalam kebijakan, praktik, atau desain teknis sistem otomatis.

Bersama-sama, AI Bill of Rights dan pendamping teknisnya secara bersama-sama menjelaskan pentingnya setiap prinsip, ekspektasi terhadap sistem otomatis, dan cara menerapkan prinsip-prinsip tersebut dalam praktik. Contoh yang diberikan bukan untuk mengkritik atau mendukung, melainkan untuk mendorong organisasi agar mengintegrasikan perlindungan dalam operasional AI dan proses pengambilan keputusan mereka.

Setelah dipublikasikan di Washington DC, AI Bill of Rights kemungkinan telah mendorong beberapa lembaga federal untuk mengadopsi pedoman penggunaan AI yang bertanggung jawab. Hingga artikel ini ditulis, 12 lembaga pemerintah AS—termasuk Departemen Perdagangan (DOC) dan Institut Standar dan Teknologi Nasional (NIST)—telah menerapkan persyaratan AI yang mencakup aspek hukum, kebijakan, dan keamanan nasional.

Pada 30 Oktober 2023, pemerintahan Biden mengeluarkan perintah eksekutif untuk menetapkan standar baru untuk AI yang aman, terjamin, dan dapat dipercaya. Dalam siaran pers yang diterbitkan enam bulan kemudian, DOC mengumumkan beberapa rencana untuk mengimplementasikan perintah eksekutif tersebut.⁴

Di tingkat negara bagian, pembuat kebijakan tampaknya mulai menyelaraskan undang-undang baru dengan prinsip-prinsip dalam Cetak Biru. Pada 2021, New York mengadopsi undang-undang yang mewajibkan pengusaha memberi tahu kandidat ketika teknologi AI digunakan dalam proses perekrutan. Beberapa negara bagian kini juga menerapkan regulasi terkait penggunaan teknologi pengenalan wajah dalam penegakan hukum. Baru-baru ini,  Dewan Hak Sipil California mengusulkan amendemen terhadap Undang-Undang Ketenagakerjaan dan Perumahan yang Adil (FEHA) untuk lebih selaras dengan AI Bill of Rights.

Di luar Amerika Serikat, 34 negara telah menetapkan strategi AI nasional pada saat artikel ini ditulis^.5 Khususnya, Undang-Undang Kecerdasan Buatan Uni Eropa (EU AI Act) mengatur pengembangan atau penggunaan AI di Uni Eropa. Undang-undang tersebut mengambil pendekatan berbasis risiko terhadap regulasi, menerapkan aturan yang berbeda untuk AI sesuai dengan risiko yang mereka timbulkan.

Beberapa perlindungan yang disarankan dalam AI Bill of Rights sudah diatur dalam Konstitusi AS atau tercakup dalam undang-undang yang berlaku. Misalnya, pengawasan pemerintah yang disebutkan dalam prinsip "Privasi Data" sudah tunduk pada persyaratan hukum dan pengawasan yudisial. Selain itu, undang-undang hak-hak sipil telah ada untuk melindungi warga Amerika dari diskriminasi.

Contoh standar AI lain yang selaras dengan Cetak Biru meliputi:

• Rekomendasi Organisasi untuk Kerja Sama Ekonomi dan Pembangunan (OECD) tahun 2019 tentang Kecerdasan Buatan. Hal ini mencakup prinsip-prinsip pengelolaan AI yang bertanggung jawab dan tepercaya, yang telah diadopsi oleh Amerika Serikat.
• Perintah Eksekutif 13960 tentang Mempromosikan Penggunaan Kecerdasan Buatan yang Dapat Dipercaya di Pemerintah Federal. Solusi ini menetapkan prinsip-prinsip untuk mengatur penggunaan AI oleh instansi pemerintah federal.
  
  
• Perintah Eksekutif 13985 tentang Mempromosikan Kesetaraan Rasial dan Mendukung Komunitas yang Kurang Terlayani melalui Kebijakan Pemerintah Federal.

Kebijakan dan praktik baru dapat diterapkan untuk memastikan bahwa perlindungan dalam AI Bill of Rights benar-benar diimplementasikan. Cetak Biru juga mengakui bahwa dalam beberapa kasus, pengecualian terhadap prinsip-prinsipnya mungkin diperlukan guna memastikan kepatuhan terhadap undang-undang yang berlaku, mempertimbangkan kepraktisan dalam contoh penggunaan tertentu, atau menyeimbangkan kepentingan publik yang berbeda. Misalnya, penegak hukum dan lembaga pemerintah dianjurkan untuk mengikuti pedoman dalam AI Bill of Rights. Namun, dalam upaya melindungi hak dan privasi masyarakat, mereka mungkin perlu menerapkan metode alternatif sesuai dengan kebutuhan dan batasan hukum yang ada.

Ke depannya, AI Bill of Rights berpotensi memainkan peran penting dalam membentuk kebijakan baru, seiring dengan semakin banyak negara yang mengadopsi pendekatan lebih holistik terhadap penggunaan AI yang bertanggung jawab.