Apa yang dibutuhkan organisasi untuk mengkurasi AI secara bertanggung jawab

Saya hanya akan mengatakannya: banyak organisasi menggunakan kecerdasan buatan (AI) apakah mereka menyadarinya atau tidak. Pertanyaannya adalah, bagaimana caranya. Bagaimana organisasi menggunakan AI dan bagaimana mereka tahu bahwa mereka melakukannya dengan cara yang bertanggung jawab?

Phaedra Boinodiris, pemimpin global untuk Trustworthy AI untuk IBM® Consulting, mengatakan bahwa mendapatkan kepercayaan pada AI adalah tantangan sosio-teknis, dengan bagian yang paling menantang adalah sisi manusia. Pendekatan komprehensif yang diperlukan dapat dipecah menjadi tiga komponen: orang, proses dan alat, bersama dengan beberapa prinsip utama untuk mendekati mereka dalam suatu organisasi.

Ketika memikirkan tentang orang-orang, fokusnya adalah mencari tahu budaya organisasi yang tepat yang diperlukan untuk mengkurasi AI dengan cara yang bertanggung jawab. Proses tata kelola AI diperlukan untuk mengumpulkan inventaris dan metadata yang sesuai, melakukan penilaian risiko, dan banyak lagi. Organisasi juga harus memiliki alat yang tepat dalam kerangka kerja rekayasa AI, yang digunakan sepanjang siklus hidup AI, untuk membantu memastikan bahwa model ini mencerminkan maksud yang benar.

Boinodiris menunjukkan bahwa dari tiga komponen tersebut, orang adalah bagian yang paling sulit untuk mencapai keseimbangan yang tepat dari AI yang bertanggung jawab dalam suatu organisasi.  

“Mendapatkan budaya organisasi yang tepat adalah tantangan. Dan ketika memikirkan, apa budaya organisasi yang tepat yang diperlukan untuk mengkurasi AI secara bertanggung jawab, ada beberapa prinsip utama,” kata Boinodiris.

Yang pertama adalah mendekati ruang dengan "kerendahan hati yang luar biasa" karena anggota organisasi akan masuk ke dalamnya dengan banyak hal yang harus dipelajari dan tidak dipelajari. Apa yang dimaksud Boinodiris ketika dia mengatakan untuk tidak belajar adalah tidak belajar siapa yang mendapat tempat duduk di meja selama percakapan ini. Diskusi seputar AI harus melibatkan individu-individu dari berbagai disiplin ilmu dengan latar belakang yang berbeda-beda untuk membuat AI secara holistik.

Itu berarti bahwa memiliki pola pikir pertumbuhan akan menjadi kunci untuk menumbuhkan AI yang bertanggung jawab. Boinodiris menambahkan bahwa organisasi perlu memberikan keamanan psikologis dan ruang yang aman bagi karyawannya untuk melakukan percakapan yang bisa jadi sulit seputar topik AI.

Prinsip kedua adalah untuk mengakui bahwa orang berasal dari pengalaman dunia yang berbeda dan semua perspektif penting. Organisasi harus mengenali keberagaman tenaga kerja mereka dan orang-orang yang membangun model AI dan mengaturnya. Bukan hanya jenis kelamin, ras, etnis atau orientasi seksual mereka. Ini tentang perspektif dan pengalaman dunia yang hidup.

"Yang saya maksudkan dengan sungguh-sungguh adalah bahwa orang-orang yang telah menjalani pengalaman dunia yang berbeda harus berada di meja ketika memikirkan hal-hal seperti: Apakah ini tepat? Apakah ini akan menyelesaikan masalah? Apakah ini data yang tepat? Apa yang berpotensi salah? Seperti apa yang bisa membahayakan?” kata Boinodiris.

Akhirnya, orang-orang atau tim yang membangun dan mengatur model AI ini untuk suatu organisasi harus multidisiplin. Wujudnya adalah memiliki tim individu dengan latar belakang yang berbeda-beda, seperti sosiolog, antropolog, dan pakar hukum mewakili kunci untuk menciptakan AI secara bertanggung jawab.

Menurut Boinodiris, salah satu mitos umum seputar subjek AI adalah bahwa 100% dari upaya tersebut adalah pengodean. Dia mengatakan bahwa ini tidak benar.

“Kami tahu betul bahwa lebih dari 70% upaya hanya mencari tahu, apakah ini data yang tepat untuk digunakan? Apa yang menarik tentang data, definisi favorit saya, adalah bahwa itu adalah artefak dari pengalaman manusia," katanya.

Manusia adalah pihak yang menghasilkan data dan membuat mesin yang menghasilkan data, tetapi harus ada pengakuan bahwa setiap orang memiliki bias; tepatnya 188, menurut Boinodiris. Manusia telah memiliki bias ini sejak awal waktu dan karena alasan yang baik. 

Boinodiris membandingkan AI dengan cermin dengan cara yang mencerminkan bias seseorang kembali kepada mereka. Dan yang terpenting adalah keberanian untuk melihat secara introspektif ke dalam cermin itu dan memutuskan apakah pantulannya sesuai dengan nilai-nilai organisasi.

Organisasi yang bertanggung jawab atas model AI ini harus transparan tentang mengapa mereka membuat keputusan tertentu mengenai data atau memilih pendekatan tertentu. Atau mengapa mereka memilih satu metodologi di atas yang lain. Orang harus membuat lembar fakta untuk solusi AI mereka yang merinci informasi penting tentang model tersebut.

Misalnya, hal-hal seperti tujuan penggunaan yang tepat, dari mana data berasal, apa metodologinya, siapa yang bertanggung jawab, kapan model tersebut diaudit dan pada frekuensi berapa? Untuk apa itu diaudit, apa hasil auditnya, dan sebagainya.

Selain itu, orang harus cukup sadar diri untuk menyadari apakah refleksi tersebut tidak sejalan dengan nilai-nilai mereka; jika tidak, mereka perlu mengubah pendekatannya.

“Jadi, ketika Anda mendengar orang berkata, 'model AI saya tidak memiliki bias di dalamnya', ingatlah ini: Semua data bias. Kuncinya adalah bersikap transparan tentang mengapa Anda merasa data ini adalah hal yang paling penting untuk dimiliki dalam model Anda," kata Boinodiris. Dan ingatlah untuk selalu introspektif karena sudut pandang kita, etos kita, akan berubah seiring waktu.

Kepercayaan pada AI diperoleh, bukan diberikan. Lakukan percakapan yang sulit dengan anggota tim tentang dari mana bias mereka mungkin berasal dan sadari bahwa menciptakan model AI yang bertanggung jawab dan dapat diandalkan tidak linier dan membutuhkan kerja keras.