Praktik terbaik untuk mengamankan penerapan AI Anda

Ketika organisasi merangkul AI generatif, ada sejumlah manfaat yang mereka harapkan dari proyek ini—mulai dari efisiensi dan peningkatan produktivitas, hingga peningkatan kecepatan bisnis sampai lebih banyak inovasi dalam produk dan layanan. Namun, salah satu faktor yang membentuk bagian penting dari inovasi AI ini adalah kepercayaan. AI yang dapat dipercaya bergantung pada pemahaman tentang cara kerja AI dan bagaimana AI membuat keputusan.

Menurut survei terhadap eksekutif C-suite dari IBM Institute for Business Value, 82% responden mengatakan AI yang aman dan dapat dipercaya sangat penting untuk keberhasilan bisnis mereka, namun hanya 24% dari proyek AI generatif saat ini yang diamankan. Ini meninggalkan celah yang mengejutkan dalam mengamankan proyek AI yang dikenal. Ditambah lagi dengan adanya 'AI bayangan' di dalam organisasi, hal ini semakin memperbesar celah keamanan untuk AI.

Organisasi memiliki serangkaian proyek baru yang sedang dibangun dengan memanfaatkan AI generatif. Selama fase pengumpulan dan penanganan data, Anda perlu mengumpulkan sejumlah besar data untuk dimasukkan ke model dan Anda menyediakan akses ke beberapa orang, termasuk ilmuwan data, insinyur, pengembang, dan lainnya. Hal ini menghadirkan risiko dengan memusatkan semua data itu di satu tempat dan memberi akses ke sana kepada banyak orang. Ini berarti bahwa AI generatif adalah jenis penyimpanan data baru yang dapat membuat data baru berdasarkan data organisasi yang ada. Apakah Anda melatih model, mengadaptasinya, atau menghubungkannya ke RAG (Vector DB), data tersebut kemungkinan memiliki PII, masalah privasi, dan informasi sensitif lainnya di dalamnya. Gundukan data sensitif ini adalah target merah yang berkedip-kedip yang akan dicoba untuk diakses oleh para penyerang.

Dalam pengembangan model, aplikasi baru sedang dibangun dengan cara baru dengan kerentanan baru yang menjadi titik masuk baru yang akan coba dieksploitasi oleh penyerang. Pengembangan sering dimulai dengan tim sains data mengunduh dan menggunakan kembali model pembelajaran mesin sumber terbuka yang telah dilatih sebelumnya dari repositori model online seperti HuggingFace atau TensorFlow Hub. Repositori berbagi model sumber terbuka telah lahir dari kompleksitas ilmu data yang melekat, kekurangan praktisi, dan nilai yang mereka berikan kepada organisasi dalam hal mengurangi waktu dan upaya secara drastis yang diperlukan untuk adopsi AI generatif. Namun, repositori semacam itu mungkin tidak memiliki kontrol keamanan yang komprehensif, yang pada akhirnya meneruskan risiko ke perusahaan—dan penyerang mengandalkannya. Penyerang dapat menyuntikkan backdoor atau malware ke salah satu model ini dan mengunggah model yang terinfeksi kembali ke repositori berbagi model, mempengaruhi siapa saja yang mengunduhnya. Kekurangan keamanan secara umum di sekitar model ML, ditambah dengan semakin sensitifnya data yang diekspos oleh model ML, berarti bahwa serangan yang menargetkan model ini memiliki kemungkinan besar untuk menyebabkan kerusakan.

Dan selama inferensi dan penggunaan langsung, penyerang dapat memanipulasi perintah untuk menerobos pengaman dan membujuk model agar berperilaku buruk dengan menghasilkan respons yang tidak diizinkan terhadap perintah berbahaya termasuk informasi yang bias dan beracun lainnya, yang menimbulkan kerusakan reputasi. Atau, penyerang dapat memanipulasi model dan menganalisis pasangan input-output untuk melatih model pengganti untuk meniru perilaku model target, yang secara efektif “mencuri” kemampuannya, merugikan keunggulan kompetitif perusahaan.

Organisasi yang berbeda menggunakan pendekatan yang berbeda untuk mengamankan AI akibat perkembangan standar dan kerangka kerja untuk mengamankan AI. Kerangka kerja IBM untuk mengamankan AI berpusat pada pengamanan prinsip-prinsip utama penerapan AI, yakni pengamanan data, pengamanan model, dan pengamanan penggunaan. Selain itu, Anda perlu mengamankan infrastruktur tempat model AI sedang dibangun dan dijalankan. Dan mereka perlu menetapkan tata kelola AI dan memantau keadilan, bias, dan penyimpangan dari waktu ke waktu—secara terus-menerus untuk melacak perubahan atau penyimpangan model.

• Mengamankan data: Organisasi perlu memusatkan dan menyusun sejumlah besar data untuk mengoptimalkan gen AI dan memaksimalkan nilainya. Setiap kali data penting mulai digabungkan dan dipusatkan di satu tempat, Anda mengekspos diri pada risiko yang signifikan, jadi Anda perlu memiliki rencana keamanan data untuk mengidentifikasi dan melindungi data sensitif.
• Mengamankan model: Banyak organisasi mengunduh model dari sumber terbuka untuk mempercepat upaya pengembangan. Para ilmuwan data mengunduh model kotak hitam ini tanpa gambaran tentang cara kerjanya. Penyerang memiliki akses yang sama ke repositori model online ini dan dapat menerapkan pintu belakang atau malware ke salah satu model ini dan mengunggahnya kembali ke repositori sebagai titik masuk bagi siapa saja yang mengunduh model yang terinfeksi. Anda perlu memahami kerentanan dan kesalahan konfigurasi dalam penerapan.
• Amankan penggunaan: Organisasi perlu memastikan penggunaan penerapan AI yang aman. Pelaku ancaman dapat mengeksekusi injeksi prompt di mana mereka menggunakan perintah berbahaya untuk melakukan jailbreak pada model, mendapatkan akses yang tidak beralasan, mencuri data sensitif, atau output yang bias. Penyerang juga dapat membuat input untuk mengumpulkan output model, mengumpulkan kumpulan data besar pasangan input-output untuk melatih model pengganti untuk meniru perilaku model target, secara efektif “mencuri” kemampuannya. Anda perlu memahami penggunaan model dan memetakannya dengan kerangka kerja penilaian untuk memastikan penggunaan yang aman.

Dan semua ini perlu dilakukan sambil tetap menjaga kepatuhan terhadap peraturan.

Seiring dengan meningkatnya ancaman yang ada dan meningkatnya biaya pelanggaran data, mengamankan AI akan menjadi inisiatif besar—dan banyak organisasi membutuhkan bantuan dalam hal tersebut. Untuk membantu organisasi menggunakan AI yang aman dan dapat dipercaya, IBM telah meluncurkan IBM Guardium AI Security. Dibangun di atas pengalaman puluhan tahun dalam keamanan data dengan IBM Guardium, penawaran baru ini memungkinkan organisasi untuk mengamankan penerapan AI mereka.

Tindakan ini memungkinkan Anda untuk mengelola risiko keamanan dan kerentanan data AI sensitif dan model AI. Anda juga dapat mengidentifikasi dan memperbaiki kerentanan dalam model AI dan melindungi data sensitif. Pantau terus kesalahan konfigurasi AI, deteksi kebocoran data, dan optimalkan kontrol akses—dengan pemimpin tepercaya dalam keamanan data.

Bagian dari penawaran baru ini adalah IBM Guardium Data Security Center, yang memberdayakan tim keamanan dan AI untuk berkolaborasi di seluruh organisasi melalui alur kerja, pandangan umum tentang aset, dan kebijakan kepatuhan terpusat.

Mengamankan AI adalah perjalanan dan membutuhkan kolaborasi di seluruh tim lintas fungsional—tim keamanan, tim risiko dan kepatuhan, dan tim AI—dan organisasi perlu bekerja melalui pendekatan terprogram untuk mengamankan penerapan AI mereka.

Lihat bagaimana Guardium AI Security dapat membantu organisasi Anda dan daftar ke webinar kami untuk mempelajari lebih lanjut.