Seperti apa kerangka kerja tata kelola etika AI?

Sementara perlombaan untuk mencapai AI generatif makin meningkat, perdebatan etika seputar teknologi ini juga terus memanas. Dan taruhannya makin tinggi.

Menurut Gartner, “Organisasi bertanggung jawab untuk memastikan bahwa proyek AI yang mereka kembangkan, menerapkan atau gunakan tidak memiliki konsekuensi etis negatif.” Sementara itu, 79% eksekutif mengatakan bahwa etika AI penting bagi pendekatan AI di seluruh perusahaan, tetapi kurang dari 25% yang telah mengoperasionalkan prinsip-prinsip tata kelola etika.

AI juga berada di urutan teratas dalam daftar kekhawatiran pemerintah Amerika Serikat. Pada akhir Februari, Ketua DPR Mike Johnson dan Pemimpin Demokrat Hakeem Jeffries mengumumkan pembentukan Satuan Tugas bipartisan tentang AI untuk membahas cara Kongres dapat memastikan Amerika Serikat tetap memimpin inovasi AI global. Satuan Tugas ini juga akan mempertimbangkan pagar pembatas yang diperlukan untuk melindungi negara terhadap berbagai ancaman saat ini dan yang akan datang serta untuk memastikan pengembangan teknologi yang aman dan dapat dipercaya.

Jelas, tata kelola yang baik sangat penting untuk alamat risiko terkait AI.

Karena bisnis makin mengadopsi AI ke dalam operasi sehari-hari mereka, penggunaan etis teknologi ini telah menjadi topik hangat. Masalahnya adalah bahwa organisasi sering mengandalkan prinsip-prinsip perusahaan yang luas, dikombinasikan dengan dewan peninjau hukum atau independen, untuk menilai risiko etis dari contoh penggunaan AI individu.

Namun, menurut studi kasus Gartner, prinsip etika AI bisa terlalu luas atau abstrak. Akibatnya, para pemimpin proyek berjuang untuk memutuskan apakah contoh penggunaan AI tertentu etis atau tidak. Sementara itu, tim hukum dan dewan peninjau kurang visibilitas tentang bagaimana AI sebenarnya digunakan dalam bisnis. Semua ini membuka pintu untuk penggunaan AI yang tidak etis (disengaja atau tidak) dan risiko bisnis dan kepatuhan berikutnya.

Mengingat dampak potensial, masalah harus ditangani terlebih dahulu di tingkat tata kelola. Kemudian, implementasi organisasi selanjutnya dengan cek dan keseimbangan yang sesuai harus diikuti.

Sesuai studi kasus, pemimpin bisnis dan privasi di IBM mengembangkan kerangka kerja untuk mengatasi kekhawatiran etika seputar proyek AI. Kerangka kerja ini didukung oleh empat peran inti:

1. Komite penasihat kebijakan: Para pemimpin senior bertanggung jawab untuk menentukan tujuan peraturan global dan kebijakan publik, serta risiko dan strategi etika privasi, data dan teknologi.

2. Dewan etika AI: Diketuai bersama oleh pemimpin etika AI global perusahaan dari IBM riset dan kepala privasi dan kepercayaan, Dewan terdiri dari tim lintas fungsi dan terpusat yang mendefinisikan, memelihara, dan memberi saran tentang kebijakan, praktik, dan komunikasi etika AI IBM.

3. Titik fokus etika AI: Setiap unit bisnis memiliki titik fokus (perwakilan unit bisnis) yang bertindak sebagai titik kontak pertama untuk secara proaktif mengidentifikasi dan menilai masalah etika teknologi, mengurangi risiko untuk contoh penggunaan individu dan meneruskan proyek ke Dewan Etika AI untuk peninjauan. Sebagian besar tata kelola AI bergantung pada individu-individu ini, seperti yang akan kita lihat nanti.

4. Jaringan advokasi: Jaringan akar rumput karyawan yang mempromosikan budaya teknologi AI yang etis, bertanggung jawab, dan dapat dipercaya. Para pendukung ini berkontribusi pada aliran kerja terbuka dan membantu meningkatkan inisiatif etika AI di seluruh organisasi.

Jika masalah etika AI diidentifikasi, Titik Fokus yang ditugaskan ke contoh penggunaan unit bisnis akan memulai penilaian. Titik Fokus mengeksekusi proses ini di garis depan, yang memungkinkan triase kasus berisiko rendah. Untuk kasus berisiko tinggi, penilaian risiko formal diselesaikan dan dinaikkan ke Dewan Etika AI untuk peninjauan.

Setiap contoh penggunaan dievaluasi menggunakan pedoman termasuk:

• Properti terkait dan tujuan penggunaan: Menyelidiki sifat, tujuan penggunaan, dan tingkat risiko dari contoh penggunaan tertentu. Dapatkah contoh penggunaan tersebut membahayakan? Siapa pengguna akhir? Apakah ada hak individu yang dilanggar?

• Kepatuhan terhadap peraturan: Menentukan apakah data akan ditangani dengan aman dan sesuai dengan undang-undang privasi dan peraturan industri yang berlaku.

• Contoh penggunaan yang ditinjau sebelumnya: Memberikan insight dan langkah selanjutnya dari contoh penggunaan yang sebelumnya ditinjau oleh Dewan Etika AI. Menyertakan daftar contoh penggunaan AI yang memerlukan persetujuan dewan.

• Penyelarasan dengan prinsip-prinsip etika AI: Menentukan apakah contoh penggunaan memenuhi persyaratan dasar, seperti keselarasan dengan prinsip-prinsip keadilan, transparansi, keterjelasan, ketahanan, dan privasi.

Menurut laporan Gartner, penerapan kerangka kerja tata kelola AI menguntungkan IBM dengan:

• Menskalakan etika AI: Titik fokus mendorong kepatuhan dan memulai peninjauan di unit bisnis masing-masing, yang memungkinkan peninjauan etika AI dalam skala besar.

• Meningkatkan penyelarasan strategis visi etika AI: Titik fokus terhubung dengan para pemimpin teknis, pemikiran, dan bisnis di ruang etika AI di seluruh bisnis dan di seluruh dunia.

• Mempercepat penyelesaian proyek dan proposal berisiko rendah: Dengan menyortir layanan atau proyek berisiko rendah, titik fokus memungkinkan kemampuan untuk melakukan peninjauan proyek lebih cepat.

• Meningkatkan kesiapan dan kesiapan dewan: Dengan memberdayakan titik fokus untuk memandu etika AI di awal proses, Dewan Etika AI dapat meninjau contoh penggunaan yang tersisa dengan lebih efisien.

Ketika ChatGPT memulai debutnya pada Juni 2020, seluruh dunia dipenuhi dengan harapan liar. Sekarang, tren AI saat ini mengarah pada ekspektasi yang lebih realistis tentang teknologi ini. Alat mandiri seperti ChatGPT dapat menangkap imajinasi populer, tetapi integrasi yang efektif ke dalam layanan mapan akan menghasilkan perubahan yang lebih mendalam di seluruh industri.

Tidak diragukan lagi, AI membuka pintu ke alat dan teknik baru yang kuat untuk menyelesaikan pekerjaan. Namun, risiko yang terkait juga nyata. Peningkatan kemampuan AI multimodal dan penurunan hambatan masuk juga mengundang penyalahgunaan: deepfake, masalah privasi, melanggengkan bias, dan bahkan penghindaran pengamanan CAPTCHA mungkin menjadi makin mudah bagi kelompok ancaman.

Sementara aktor jahat sudah menggunakan AI, dunia bisnis yang sah juga harus mengambil langkah-langkah pencegahan untuk menjaga karyawan, pelanggan, dan komunitas tetap aman.

ChatGPT mengatakan, “Konsekuensi negatif mungkin mencakup bias yang diabadikan oleh algoritma AI, pelanggaran privasi, memperburuk ketidaksetaraan sosial atau kerusakan yang tidak diinginkan pada individu atau komunitas. Selain itu, mungkin ada implikasi untuk kepercayaan, kerusakan reputasi atau konsekuensi hukum yang berasal dari praktik AI yang tidak etis.

Untuk melindungi dari jenis risiko ini, tata kelola etika AI sangat penting.