Jaringan persyaratan peraturan seputar penggunaan AI terus berkembang. Proses model yang transparan sangat penting untuk mematuhi peraturan ini dan untuk mengatasi permintaan dari validator model, auditor, dan regulator. Undang-Undang AI UE dianggap sebagai kerangka kerja peraturan komprehensif pertama di dunia untuk AI.

Undang-Undang AI UE

Undang-Undang Kecerdasan Buatan Uni Eropa (UE) mengambil pendekatan berbasis risiko terhadap regulasi, yang menerapkan aturan yang berbeda pada AI sesuai dengan risiko yang ditimbulkannya. Undang-undang ini melarang beberapa penggunaan AI secara langsung dan menerapkan tata kelola yang ketat, manajemen risiko, dan persyaratan transparansi untuk orang lain. Ada kewajiban transparansi tambahan untuk jenis AI tertentu. Sebagai contoh:

• Sistem AI yang dimaksudkan untuk berinteraksi langsung dengan individu harus dirancang untuk memberi tahu pengguna bahwa mereka berinteraksi dengan sistem AI, kecuali jika hal ini sudah jelas bagi individu tersebut dari konteksnya. Chatbot, misalnya, harus dirancang untuk memberi tahu pengguna bahwa itu adalah chatbot.
  
  
• Sistem AI yang menghasilkan teks, gambar, atau konten tertentu lainnya harus menggunakan format yang dapat dibaca mesin untuk menandai output sebagai hasil atau manipulasi AI. Ini termasuk, misalnya, AI yang menghasilkan deepfake—gambar atau video yang diubah untuk menunjukkan bahwa seseorang melakukan atau mengatakan sesuatu yang tidak mereka lakukan atau katakan.

Penerapan Peraturan Perlindungan Data Umum (GDPR ) Uni Eropa mendorong negara-negara lain mengadopsi peraturan privasi data pribadi. Dengan cara yang sama, para pakar memperkirakan Undang-Undang AI UE akan memacu pengembangan standar tata kelola dan etika AI di seluruh dunia.

Kerangka kerja panduan untuk transparansi AI

Sebagian besar negara dan wilayah belum memberlakukan undang-undang atau peraturan yang komprehensif mengenai penggunaan AI; namun, ada beberapa kerangka kerja yang luas yang tersedia. Meskipun tidak selalu dapat ditegakkan, kerangka kerja tersebut ada untuk memandu regulasi masa depan dan pengembangan serta penggunaan AI yang bertanggung jawab. Contoh-contoh penting meliputi:

• Perintah Eksekutif Gedung Putih tentang Pengembangan dan Penggunaan Kecerdasan Buatan yang Aman, Terlindungi, dan Dapat Dipercaya: Dirilis pada 30 Oktober 2023, perintah tersebut membahas transparansi di beberapa bagian. Bagian 8 secara khusus membahas perlindungan konsumen, pasien, penumpang, dan pelajar. Hal ini mendorong badan-badan regulasi independen untuk mempertimbangkan penggunaan kewenangan mereka untuk melindungi konsumen Amerika dari risiko AI, termasuk “menekankan atau mengklarifikasi persyaratan dan harapan yang terkait dengan transparansi model AI dan kemampuan entitas yang diatur untuk menjelaskan penggunaan model AI mereka.”¹
  
  
• Cetak Biru untuk Rancangan Undang-Undang AI: Cetak Biru ini merupakan seperangkat lima prinsip dan praktik terkait untuk membantu memandu desain, penggunaan, dan penerapan sistem AI. Prinsip keempat, "Pemberitahuan dan Penjelasan," secara langsung membahas transparansi: "Para perancang, pengembang, dan pengguna sistem otomatis harus menyediakan dokumentasi dalam bahasa sederhana yang dapat diakses secara umum, termasuk deskripsi yang jelas mengenai fungsi sistem secara keseluruhan dan peran yang dimainkan oleh sistem otomatis, pemberitahuan bahwa sistem tersebut sedang digunakan, individu atau organisasi yang bertanggung jawab atas sistem tersebut, dan penjelasan mengenai hasil yang jelas, tepat waktu, dan dapat diakses."²
  
  
• Kerangka Kerja Kebijakan Komprehensif Proses AI Hiroshima: Diluncurkan pada tahun 2023 setelah pengembangan pada KTT G7 Hiroshima, Proses AI Hiroshima adalah seperangkat prinsip panduan untuk pengembangan sistem AI canggih di seluruh dunia yang mempromosikan AI yang aman, terlindungi, dan dapat dipercaya. Kerangka kerja ini meminta organisasi untuk mematuhi 11 prinsip, beberapa di antaranya mendorong "menerbitkan laporan transparansi" dan "berbagi informasi secara bertanggung jawab. "³

Transparansi AI terkait erat dengan konsep keterjelasan AI dan interpretabilitas AI. Konsep-konsep ini memberikan insight yang membantu mengatasi masalah "kotak hitam" yang sudah berlangsung lama—isu praktis dan etis bahwa sistem AI sangat canggih sehingga tidak mungkin ditafsirkan oleh manusia. Namun, keduanya memiliki definisi dan contoh penggunaan yang berbeda:

• Keterjelasan AI: Bagaimana model sampai pada hasil itu ?
  
  
• Interpretabilitas AI: Bagaimana model membuat keputusan?
  
  
• Transparansi AI: Bagaimana model dibuat, data apa yang melatihnya dan bagaimana model membuat keputusan?

Keterjelasan AI: Bagaimana model sampai pada hasil tersebut?

Keterjelasan AI, atau AI yang dapat dijelaskan (explainable AI, XAI), adalah seperangkat proses dan metode yang memungkinkan pengguna manusia memahami dan mempercayai hasil dan output yang dibuat oleh model machine learning. Keterjelasan model melihat bagaimana sistem AI mencapai hasil tertentu dan membantu mengkarakterisasi transparansi model.

Interpretabilitas AI: Bagaimana model membuat keputusan?

Interpretabilitas AI mengacu pada proses AI secara keseluruhan yang dapat dimengerti oleh manusia. Interpretabilitas AI memberikan informasi yang berarti tentang logika yang mendasari, signifikansi, dan konsekuensi yang diantisipasi dari sistem AI. Ini adalah tingkat keberhasilan output AI yang dapat diprediksi oleh manusia, sementara keterjelasan berada lebih jauh lagi dan melihat bagaimana model AI sampai pada hasil tersebut.

Transparansi AI: Bagaimana model dibuat, data apa yang melatihnya dan bagaimana model membuat keputusan?

Transparansi AI lebih dari sekadar menjelaskan proses pengambilan keputusan AI. Hal ini mencakup faktor-faktor yang terkait dengan pengembangan sistem AI dan penerapannya, seperti data pelatihan AI dan siapa yang memiliki akses ke data tersebut.

Meskipun cara memberikan transparansi AI dapat berbeda berdasarkan contoh penggunaan, organisasi, dan industri, ada beberapa strategi yang perlu diingat oleh bisnis saat mereka membangun sistem AI. Pada tingkat yang lebih tinggi, strategi ini termasuk memiliki prinsip-prinsip yang jelas untuk kepercayaan dan transparansi, dengan mempraktikkan prinsip-prinsip tersebut dan menanamkannya ke dalam seluruh siklus hidup AI.

Strategi yang lebih spesifik untuk transparansi AI adalah pengungkapan menyeluruh di setiap tahap siklus hidup AI. Untuk memberikan pengungkapan, organisasi perlu menentukan informasi apa yang akan dibagikan dan cara membagikannya.

Informasi yang dibutuhkan dalam dokumentasi transparansi AI

Contoh kasus penggunaan, industri, audiens, dan faktor lainnya akan membantu menentukan informasi apa yang perlu diungkapkan. Sebagai contoh, penggunaan AI yang berisiko tinggi (seperti evaluasi hipotek) kemungkinan akan membutuhkan pengungkapan yang lebih komprehensif daripada aplikasi dengan risiko rendah (seperti klasifikasi audio untuk asisten virtual). 

Pengungkapan mungkin mencakup semua atau beberapa informasi berikut tentang model:

• Nama model
• Tujuan
• Tingkat risiko
• Kebijakan model
• Pembuatan model
• Domain yang dituju
• Data pelatihan
• Akurasi pelatihan dan pengujian
• Bias
• Metrik ketahanan terhadap pihak jahat
• Metrik keadilan
• Metrik keterjelasan
• Informasi kontak

Setiap peran dalam siklus hidup AI dapat menyumbangkan informasi, mendistribusikan akuntabilitas di seluruh ekosistem, bukan hanya pada satu individu. Ada platform perangkat lunak dan alat yang tersedia yang dapat membantu mengotomatiskan pengumpulan informasi dan aktivitas tata kelola AI lainnya.

Cara berbagi informasi transparansi AI

Organisasi dapat menyajikan informasi untuk transparansi AI dalam berbagai format, seperti dokumen cetak atau video. Format tergantung pada audiens dan contoh penggunaan. Apakah informasi ditujukan untuk konsumen, dan karena itu perlu mudah dipahami? Atau apakah itu ditujukan untuk ilmuwan data atau regulator, dan karena itu membutuhkan detail teknis tingkat tinggi?

Format mungkin termasuk: 

• Dokumen aktif dengan model yang mengikuti pernyataan kesesuaian pemasok (SDoC), yang merupakan dokumen yang digunakan di banyak industri untuk menunjukkan bahwa suatu produk sesuai dengan standar atau peraturan teknis tertentu
  
  
• Halaman kebijakan resmi di situs web perusahaan yang memperinci cara organisasi menerapkan inisiatif AI yang transparan ke dalam tindakan
  
  
• Sumber daya pendidikan seperti dokumen dan video untuk membantu pengguna memahami bagaimana AI digunakan dalam produk dan layanan, dan bagaimana hal itu memengaruhi pengalaman pelanggan
  
  
• Diskusi dengan publik mengenai sudut pandang etika AI organisasi melalui kegiatan hubungan masyarakat, acara, media sosial, dan komunikasi resmi lainnya.  
  
  
• Makalah penelitian, kumpulan data, dan komunikasi berbasis data lainnya untuk menawarkan insight tentang penggunaan, pengembangan, dan manfaat AI dalam industri atau contoh penggunaan organisasi.