Risiko dan keterbatasan AI dalam asuransi

Kecerdasan buatan (AI) sedang mengalami polarisasi. Ini memercik antusias futuris sekaligus menimbulkan kegelisahan di kalangan konservatif. Dalam postingan sebelumnya, saya menggambarkan kemampuan yang berbeda dari AI diskriminatif dan AI generatif, dan membuat sketsa dunia peluang di mana AI mengubah cara asuransi dan pembeli asuransi akan berinteraksi. Blog ini melanjutkan diskusi tersebut, kini menyelidiki risiko adopsi AI dan mengusulkan langkah-langkah untuk respons yang aman dan bijaksana dalam mengadopsi AI.

Risiko yang terkait dengan adopsi AI dalam asuransi dapat dipisahkan secara luas menjadi dua kategori, teknologi dan penggunaan.

Risiko teknologi—kerahasiaan data

Risiko teknologi utama adalah masalah kerahasiaan data. Pengembangan AI telah memungkinkan pengumpulan, penyimpanan, dan pemrosesan informasi dalam skala yang belum pernah ada sebelumnya, sehingga menjadi sangat mudah untuk mengidentifikasi, menganalisis, dan menggunakan data pribadi dengan biaya rendah tanpa persetujuan orang lain. Risiko kebocoran privasi dari interaksi dengan teknologi AI adalah sumber utama kekhawatiran dan ketidakpercayaan konsumen.

Munculnya AI generatif, di mana AI memanipulasi data Anda untuk membuat konten baru, memberikan risiko tambahan terhadap kerahasiaan data perusahaan. Misalnya, memberikan data perusahaan pada sistem AI generatif seperti Chat GPT untuk menghasilkan ringkasan riset perusahaan rahasia berarti bahwa jejak data akan ditinggalkan di server cloud eksternal AI dan dapat diakses oleh kueri dari pesaing.

Risiko teknologi—keamanan

Algoritma AI adalah parameter yang mengoptimalkan data pelatihan yang memberi AI kemampuannya untuk menghasilkan insight. Jika parameter algoritma bocor, pihak ketiga mungkin dapat menyalin model, menyebabkan kerugian kekayaan ekonomi dan intelektual bagi pemilik model. Selain itu, jika parameter model algoritma AI dapat dimodifikasi secara ilegal oleh penyerang siber, itu akan menyebabkan penurunan kinerja model AI dan menyebabkan konsekuensi yang tidak diinginkan.

Risiko teknologi—transparansi

Karakteristik kotak hitam dari sistem AI, terutama AI generatif, membuat proses keputusan algoritma AI sulit dipahami. Yang terpenting, sektor asuransi adalah industri yang diatur secara finansial di mana transparansi, penjelasan, dan auditabilitas algoritma sangat penting bagi regulator.

Risiko penggunaan—ketidakakuratan

Kinerja sistem AI sangat bergantung pada data yang dipelajari. Jika sistem AI dilatih pada data yang tidak akurat, bias, atau dijiplak, itu akan memberikan hasil yang tidak diinginkan bahkan jika secara teknis dirancang dengan baik.

Risiko penggunaan—penyalahgunaan

Meskipun sistem AI mungkin beroperasi dengan benar dalam analisis, pengambilan keputusan, koordinasi, dan kegiatan lainnya, itu masih memiliki risiko penyalahgunaan. Tujuan penggunaan operator, metode penggunaan, jangkauan penggunaan, dan sebagainya, dapat menyimpang atau menyimpang, dan dimaksudkan untuk menyebabkan efek buruk. Salah satu contohnya adalah pengenalan wajah yang digunakan untuk pelacakan ilegal pergerakan orang.

Risiko penggunaan—ketergantungan berlebih

Ketergantungan yang berlebihan pada AI terjadi ketika pengguna mulai menerima rekomendasi AI yang salah, dan melakukan kesalahan tindakan (errors of commision). Pengguna mengalami kesulitan menentukan tingkat kepercayaan yang sesuai karena mereka kurang memahami apa yang dapat dilakukan AI, seberapa baik kinerjanya, atau cara kerjanya. Dampak dari risiko ini adalah melemahnya pengembangan keterampilan pengguna AI. Misalnya, pengatur klaim yang keterampilannya untuk menangani situasi baru, atau mempertimbangkan berbagai perspektif, memburuk atau dibatasi hanya pada kasus-kasus di mana AI juga memiliki akses.

Risiko yang ditimbulkan oleh adopsi AI menyoroti perlunya mengembangkan pendekatan tata kelola untuk mengurangi risiko teknis dan penggunaan yang berasal adopsi AI.

Tata kelola yang berpusat pada manusia

Untuk mengurangi risiko penggunaan, pendekatan tiga cabang diusulkan:

1. Mulailah dengan program pelatihan untuk menciptakan kesadaran wajib bagi staf yang terlibat dalam pengembangan, pemilihan, atau penggunaan alat AI untuk memastikan keselarasan dengan tujuan.
2. Kemudian lakukan skema penilaian vendor untuk menilai ketahanan kontrol vendor dan memastikan transparansi yang memadai dituangkan dalam kontrak.
3. Terakhir, tetapkan langkah-langkah penegakan kebijakan untuk menetapkan norma, peran dan akuntabilitas, proses persetujuan, dan pedoman pemeliharaan di seluruh siklus hidup pengembangan AI.

Tata kelola yang berpusat pada teknologi

Untuk mengurangi risiko teknologi, tata kelola TI harus diperluas untuk memperhitungkan hal-hal berikut:

1. Data yang diperluas dan taksonomi sistem. Ini untuk memastikan model AI menangkap input data dan pola penggunaan, validasi yang diperlukan dan siklus pengujian, dan output yang diharapkan. Anda harus meng-host model di server internal.
2. Daftar risiko, untuk mengukur besarnya dampak, tingkat kerentanan, dan tingkat protokol pemantauan.
3. Strategi analisis dan pengujian yang diperbesar untuk menjalankan pengujian secara teratur untuk memantau masalah risiko yang terkait dengan input, output, dan komponen model sistem AI.

Janji dan potensi AI dalam asuransi terletak pada kemampuannya untuk memperoleh insight baru dari kumpulan data aktuarial dan klaim yang semakin besar dan kompleks. Kumpulan data ini, dikombinasikan dengan data perilaku dan ekologi, menciptakan potensi bagi sistem AI yang menanyakan database untuk menarik kesimpulan data yang salah, menandakan konsekuensi asuransi dunia nyata.

AI yang efisien dan akurat membutuhkan ilmu data yang teliti. Ini membutuhkan kurasi representasi pengetahuan yang cermat dalam database, dekomposisi matriks data untuk mengurangi dimensi, dan pra-pemrosesan kumpulan data untuk mengurangi efek membingungkan dari data yang hilang, berlebihan, dan outlier. Pengguna AI asuransi harus menyadari bahwa keterbatasan kualitas data input memiliki implikasi asuransi, berpotensi mengurangi akurasi model analitik aktuaria. 

Seiring semakin matangnya teknologi AI dan berkembangnya contoh penggunaan, perusahaan asuransi seharusnya tidak menghindar dari teknologi tersebut. Perusahaan asuransi seharusnya ikut menyumbangkan keahlian domain asuransi mereka dalam pengembangan teknologi AI. Kemampuan mereka untuk menginformasikan asal data input dan memastikan kualitas data akan berkontribusi terhadap aplikasi AI yang aman dan terkontrol ke industri asuransi.

Saat Anda memulai perjalanan Anda menuju AI di dunia asuransi, jelajahi dan buat kasus asuransi. Yang paling penting, terapkan program tata kelola AI yang kuat.