Apa yang dimaksud dengan Explainable AI?

AI yang dapat dijelaskan digunakan untuk mendeskripsikan model AI, perkiraan dampak, dan potensi biasnya. Hal ini membantu mengkarakterisasi keakuratan model, keadilan, transparansi, dan hasil dalam pengambilan keputusan yang didukung AI. Explainable AI sangat penting bagi organisasi dalam membangun kepercayaan dan keyakinan saat menerapkan model AI ke dalam produksi. Kemampuan menjelaskan AI juga membantu organisasi mengadopsi pendekatan yang bertanggung jawab terhadap pengembangan AI.

Seiring AI yang menjadi semakin canggih, manusia ditantang untuk memahami dan menelusuri kembali bagaimana algoritma mencapai hasilnya. Seluruh proses perhitungan diubah menjadi apa yang biasa disebut sebagai “kotak hitam” yang tidak mungkin ditafsirkan.

Model kotak hitam ini dibuat langsung dari data. Dan, bahkan para insinyur atau ilmuwan data yang menciptakan algoritma tersebut tidak dapat memahami atau menjelaskan apa sebenarnya yang terjadi di dalamnya atau bagaimana algoritma AI mencapai hasil tertentu.

Ada banyak keuntungan dalam memahami cara sistem berkemampuan AI menghasilkan output tertentu. Kemampuan penjelasan dapat membantu pengembang memastikan bahwa sistem berfungsi sebagaimana diharapkan, yang mungkin diperlukan untuk memenuhi standar peraturan, atau bisa jadi penting dalam memungkinkan mereka yang terkena dampak suatu keputusan untuk menolak atau mengubah hasil tersebut.¹

Sangat penting bagi sebuah organisasi untuk memiliki pemahaman penuh tentang proses pengambilan keputusan AI dengan model pemantauan dan akuntabilitas AI serta tidak begitu saja mempercayainya. AI yang dapat dijelaskan dapat membantu manusia memahami dan menjelaskan algoritme machine learning (ML), pembelajaran mendalam, dan neural networks.

Model ML sering dianggap sebagai kotak hitam yang mustahil ditafsirkan.² Neural networks yang digunakan dalam pembelajaran mendalam termasuk yang paling sulit dipahami manusia. Salah satu risiko yang sudah lama ada dalam pelatihan model AI adalah bias. Ini sering kali didasarkan pada ras, jenis kelamin, usia, atau lokasi.

Selain itu, kinerja model AI dapat berubah atau menurun karena perbedaan data produksi dengan data pelatihan. Karena itulah penting bagi bisnis untuk terus memantau dan mengelola model untuk mempromosikan kemampuan penjelasan AI sambil mengukur dampak bisnis dari penggunaan algoritma tersebut.

AI yang dapat dijelaskan juga membantu meningkatkan kepercayaan pengguna akhir, dapat diauditnya model, dan penggunaan AI yang produktif. AI ini juga memitigasi risiko kepatuhan, hukum, keamanan, dan reputasi AI produksi.

AI yang dapat dijelaskan adalah salah satu prasyarat utama penerapkan AI yang bertanggung jawab, yaitu sebuah metodologi untuk penerapan metode AI dalam skala besar di organisasi nyata dengan keadilan, kemampuan penjelasan model, dan akuntabilitas.³ Untuk membantu mengadopsi AI secara bertanggung jawab, organisasi perlu menanamkan prinsip-prinsip etika ke dalam aplikasi dan proses AI dengan membangun sistem AI berdasarkan kepercayaan dan transparansi.

Dengan AI yang dapat dijelaskan serta machine learning yang dapat ditafsirkan, organisasi dapat memperoleh akses ke pengambilan keputusan mendasar teknologi AI dan mampu melakukan penyesuaian. AI yang dapat dijelaskan dapat meningkatkan pengalaman pengguna suatu produk atau layanan dengan membantu pengguna akhir mempercayai bahwa AI membuat keputusan yang baik. Kapan keputusan sistem AI cukup meyakinkan dalam keputusan sehingga Anda dapat mempercayainya, dan bagaimana sistem AI dapat memperbaiki kesalahan yang muncul?⁴

Seiring AI yang semakin canggih, proses ML tetap perlu dipahami dan dikendalikan untuk memastikan bahwa hasil model AI akurat. Mari kita lihat perbedaan antara AI dan XAI, metode dan teknik yang digunakan untuk mengubah AI menjadi XAI, dan perbedaan antara menafsirkan dan menjelaskan proses AI.

Apa sebenarnya perbedaan antara AI "biasa" dan AI yang dapat dijelaskan? XAI menerapkan teknik dan metode khusus untuk memastikan bahwa setiap keputusan yang dibuat selama proses ML dapat dilacak dan dijelaskan.

Sebaliknya, AI sering kali mencapai hasil menggunakan algoritma ML, namun arsitek sistem AI tidak sepenuhnya memahami bagaimana algoritma mencapai hasil tersebut. Ini menyulitkan pemeriksaan akurasi dan menyebabkan hilangnya kendali, akuntabilitas, dan kemampuan audit.

Pengaturan teknik XAI terdiri dari tiga metode utama. Akurasi prediksi dan dapat ditelusuri memenuhi kebutuhan teknologi, sementara pemahaman keputusan memenuhi kebutuhan manusia. AI yang dapat dijelaskan, terutama machine learning yang dapat dijelaskan, akan sangat penting jika para pejuang masa depan ingin memahami, mempercayai dengan tepat, dan secara efektif mengelola generasi baru mitra mesin kecerdasan buatan.⁵

Akurasi adalah komponen kunci keberhasilan penggunaan AI dalam operasi sehari-hari. Akurasi prediksi dapat ditentukan dengan menjalankan simulasi dan membandingkan keluaran XAI dengan hasil pada kumpulan data pelatihan. Teknik paling populer yang digunakan untuk ini adalah Local Interpretable Model-Agnostic Explanations (LIME), yang menjelaskan prediksi pengklasifikasi dengan algoritme ML.

Ketertelusuran adalah teknik kunci lainnya untuk mencapai XAI. Hal ini dicapai, misalnya, dengan membatasi cara pengambilan keputusan dan menyiapkan cakupan yang lebih sempit untuk aturan dan fitur ML. Contoh teknik XAI ketertelusuran adalah DeepLIFT (Deep Learning Important FeaTures), yang membandingkan aktivasi setiap neuron dengan neuron referensinya dan menunjukkan hubungan yang dapat dilacak antara setiap neuron yang diaktifkan dan bahkan menunjukkan ketergantungan di antara keduanya.

Ini adalah faktor manusia. Banyak orang tidak memercayai AI, namun untuk bekerja dengannya secara efisien, mereka perlu belajar untuk memercayainya. Hal ini dicapai dengan mendidik tim yang bekerja dengan AI, sehingga mereka dapat memahami bagaimana dan mengapa AI mengambil keputusan.

Kemampuan penafsiran adalah sejauh mana pengamat dapat memahami penyebab suatu keputusan. Ini adalah tingkat keberhasilan output AI yang dapat diprediksi oleh manusia, sementara kemampuan penjelasan berada lebih jauh lagi dan melihat bagaimana AI sampai pada hasil tersebut.

AI yang dapat dijelaskan dan AI yang bertanggung jawab memiliki tujuan yang sama, tetapi pendekatannya berbeda. Berikut perbedaan utama antara AI yang dapat dijelaskan dan AI yang bertanggung jawab:

• AI yang dapat dijelaskan melihat hasil AI setelah hasilnya dihitung.
• AI yang bertanggung jawab mengawasi AI selama tahap perencanaan untuk membuat algoritme AI bertanggung jawab sebelum hasilnya dihitung.
• AI yang dapat dijelaskan dan bertanggung jawab dapat bekerja sama untuk menciptakan AI yang lebih baik.

Dengan AI yang dapat dijelaskan, bisnis dapat memecahkan masalah dan meningkatkan performa model sekaligus membantu pemangku kepentingan memahami perilaku model AI. Menyelidiki perilaku model melalui pelacakan insight model mengenai status penerapan, keadilan, kualitas, dan penyimpangan sangat penting untuk meningkatkan skala AI.

Evaluasi model berkelanjutan memungkinkan bisnis untuk membandingkan prediksi model, mengukur risiko model, dan mengoptimalkan kinerja model. Menampilkan nilai positif dan negatif dalam perilaku model dengan data yang digunakan untuk menghasilkan evaluasi model kecepatan penjelasan. Platform data dan AI dapat menghasilkan atribusi fitur untuk prediksi model dan memungkinkan tim untuk menyelidiki perilaku model secara visual dengan bagan interaktif dan dokumen yang dapat diekspor.

Untuk mendorong hasil yang diinginkan dengan AI yang dapat dijelaskan, pertimbangkan hal-hal berikut.

Keadilan dan menghilangkan bias: Mengelola dan memantau keadilan. Perhatikan penerapan Anda untuk melihat potensi bias.

Mitigasi penyimpangan model: Analisis model Anda dan buat rekomendasi berdasarkan hasil yang paling logis. Waspadai ketika model menyimpang dari hasil yang diharapkan.

Manajemen risiko model: Mengukur dan memitigasi risiko model. Dapatkan pemberitahuan saat performa model tidak memadai. Pahami apa yang terjadi bila penyimpangan terus terjadi.

Otomatisasi siklus hidup: Membangun, menjalankan, dan mengelola model sebagai bagian dari layanan data dan AI terintegrasi. Menyatukan alat dan proses pada platform untuk memantau model dan berbagi hasil. Menjelaskan ketergantungan model machine learning.

Kesiapan multicloud: Menerapkan proyek AI di seluruh hybrid cloud termasuk cloud publik, cloud privat, dan lokal. Meningkatkan kepercayaan dan keyakinan dengan AI yang dapat dijelaskan.

• Layanan Kesehatan: Mempercepat diagnostik, analisis gambar, optimalisasi sumber daya, dan diagnosis medis. Meningkatkan transparansi dan ketertelusuran dalam pengambilan keputusan untuk perawatan pasien.Menyederhanakan proses persetujuan farmasi dengan AI yang dapat dijelaskan.

• Layanan keuangan: Meningkatkan pengalaman pelanggan dengan proses persetujuan pinjaman dan kredit yang transparan. Mempercepat risiko kredit, pengelolaan kekayaan, dan penilaian risiko kejahatan keuangan. Mempercepat penyelesaian potensi keluhan dan masalah. Meningkatkan kepercayaan atas harga, rekomendasi produk, dan layanan investasi.

• Peradilan pidana: Mengoptimalkan proses prediksi dan penilaian risiko. Mempercepat resolusi dengan menggunakan AI yang dapat dijelaskan pada analisis DNA, analisis populasi penjara, dan perkiraan kejahatan. Mendeteksi potensi bias dalam data pelatihan dan algoritma.