Apa itu AI yang bertanggung jawab? 

Artikel ini bertujuan untuk memberikan pandangan umum tentang AI yang bertanggung jawab. Untuk mempelajari lebih lanjut tentang sudut pandang spesifik IBM, lihat halaman etika AI kami.

Adopsi machine learning yang meluas pada tahun 2010-an, yang didorong oleh kemajuan dalam big data dan daya komputasi, membawa tantangan etika baru, seperti bias, transparansi, dan penggunaan data pribadi. Etika AI muncul sebagai disiplin ilmu yang berbeda selama periode ini karena perusahaan teknologi dan lembaga penelitian AI berusaha untuk secara proaktif mengelola upaya AI mereka secara bertanggung jawab.

Alat AI generatif dan agen AI yang sekarang diadopsi dengan cepat oleh perusahaan menuntut kerangka kerja baru untuk penggunaan etis. Organisasi berpikiran maju yang membayangkan kembali prinsip-prinsip AI yang bertanggung jawab untuk dunia agen dapat membantu pengadopsi memanfaatkan potensi penuh alat ini sambil meminimalkan hasil yang tidak diinginkan.

AI harus dapat dipercaya, dan agar pemangku kepentingan mempercayai AI, itu harus transparan. Perusahaan teknologi harus transparan tentang siapa yang melatih sistem AI mereka, data apa yang digunakan dalam pelatihan tersebut, dan yang terpenting, apa yang masuk ke rekomendasi algoritma mereka. AI harus dapat dijelaskan jika kita akan menggunakannya untuk membantu membuat keputusan penting.

AI yang bertanggung jawab adalah praktik sosio-teknis yang menyatukan orang, proses, alat, dan tata kelola. AI mengharuskan organisasi untuk mempertimbangkan siklus hidup penuh sistem AI, mulai dari pengumpulan data dan pengembangan model hingga penerapan, pemantauan, dan peningkatan. AI juga membutuhkan perhatian pada efek AI yang lebih luas pada individu, organisasi masyarakat dan lingkungan.

Responsible Technology & Governance Framework (Kerangka Kerja Teknologi dan Tata Kelola yang Bertanggung Jawab) dari IBM® mengintegrasikan prinsip, karakteristik, dimensi dampak, dan praktik tata kelola ke dalam satu kerangka terpadu untuk membangun, menerapkan, dan mengelola teknologi yang bertanggung jawab. AI yang bertanggung jawab tetap menjadi inti dari pendekatan ini, sementara Kerangka Kerja memperluas model tata kelola yang sama ke teknologi baru seperti sistem agen, komputasi quantum, dan domain masa depan.

Kerangka kerja diatur di sekitar empat komponen:

1. Prinsip untuk kepercayaan
   Komitmen dasar IBM® untuk pengembangan dan penerapan teknologi yang bertanggung jawab:

   • Teknologi seharusnya meningkatkan kemampuan manusia.

   • Teknologi harus didasarkan pada tata kelola data yang bertanggung jawab.

   • Teknologi harus terbuka dan transparan.

2. Pilar AI yang tepercaya
   Kualitas yang harus ditunjukkan oleh sistem AI untuk memungkinkan kepercayaan:

   • Transparansi

   • Keadilan dan keselarasan nilai-nilai kemanusiaan

   • Kekokohan

   • Privasi

3. Dimensi dampak
   Hasil yang lebih luas dipertimbangkan IBM® ketika mengevaluasi teknologi:

   • Keterlibatan dan kepercayaan manusia

   • Kesejahteraan masyarakat

   • Keberlanjutan lingkungan

4. Tata kelola
   Program, alat, pendidikan, kebijakan, kemitraan, dan ulasan yang menghubungkan komitmen teknologi yang bertanggung jawab dengan praktik sehari-hari.

Bersama-sama, komponen-komponen ini memungkinkan tanggung jawab untuk direkayasa dengan desain. Seiring sistem AI semakin canggih dan semakin banyak diterapkan dalam operasional bisnis, organisasi perlu dapat menunjukkan bahwa kepercayaan diwujudkan melalui tata kelola yang terintegrasi ke dalam sistem dan proses bisnis.

Menerapkan praktik AI yang bertanggung jawab di tingkat perusahaan melibatkan pendekatan holistik dan menyeluruh yang membahas berbagai tahap pengembangan dan penerapan AI.

Susun prinsip AI yang bertanggung jawab yang selaras dengan nilai dan tujuan inovasi AI di lingkungan enterprise. Pertimbangkan aspek-aspek utama yang dijelaskan dalam bagian "Pillars of Trust". Prinsip-prinsip tersebut dapat dikembangkan dan dipelihara oleh tim etika AI lintas fungsi khusus yang melibatkan berbagai pemangku kepentingan, termasuk spesialis AI, pakar etika, pakar hukum, dan pemimpin bisnis.

Melakukan program pelatihan untuk mendidik karyawan, pemangku kepentingan, dan pengambil keputusan tentang praktik AI yang bertanggung jawab. Hal ini termasuk memahami potensi bias, pertimbangan etika, dan pentingnya memasukkan AI yang bertanggung jawab ke dalam operasi bisnis.

Integrasikan praktik AI yang bertanggung jawab ke seluruh pipeline pengembangan AI, mulai dari pengumpulan data, pelatihan model, penerapan, hingga pemantauan berkelanjutan. Terapkan teknik untuk mengidentifikasi dan memitigasi bias pada sistem AI. Lakukan evaluasi model secara berkala menggunakan metrik fairness yang telah ditetapkan, khususnya terhadap atribut sensitif seperti ras, gender, atau status sosial ekonomi. Prioritaskan transparansi dengan memastikan sistem AI bersifat dapat dijelaskan. Sediakan dokumentasi yang jelas mengenai sumber data, algoritma, serta proses pengambilan keputusan. Pengguna dan seluruh pemangku kepentingan harus dapat memahami bagaimana sistem AI menghasilkan keputusan.

Tetapkan praktik dan perlindungan tata kelola AI yang bertanggung jawab untuk melindungi privasi pengguna akhir dan data sensitif. Komunikasikan kebijakan penggunaan data dengan jelas, mendapatkan persetujuan berdasarkan informasi, dan patuhi peraturan perlindungan data.

Mengintegrasikan mekanisme untuk pengawasan manusia dalam proses pengambilan keputusan yang kritis. Tentukan garis akuntabilitas yang jelas untuk memastikan pihak-pihak yang bertanggung jawab diidentifikasi dan dapat dimintai pertanggungjawaban atas hasil sistem AI. Menetapkan pemantauan berkelanjutan terhadap sistem AI untuk mengidentifikasi dan mengatasi masalah etika, bias, atau masalah yang mungkin timbul dari waktu ke waktu. Secara teratur mengaudit model AI untuk menilai kepatuhan terhadap pedoman etika.

Tumbuhkan kolaborasi dengan organisasi eksternal, lembaga riset, dan kelompok sumber terbuka yang bekerja pada keamanan AI. Ikuti info terkini perkembangan terbaru dalam praktik dan inisiatif AI yang bertanggung jawab dan berkontribusilah terhadap upaya di seluruh industri.