Studi IBM dan AWS: Kurang dari 25% proyek AI generatif saat ini diamankan
Dunia bisnis telah lama beroperasi dengan gagasan bahwa kepercayaan adalah mata uang bisnis yang terbaik. Sejalan dengan AI yang mengubah dan mendefinisikan ulang cara bisnis beroperasi dan cara pelanggan berinteraksi dengan mereka, kepercayaan terhadap teknologi harus dibangun.
Kemajuan dalam AI dapat membebaskan sumber daya manusia untuk berfokus pada hasil yang bernilai tinggi. Evolusi ini pasti akan berdampak transformatif pada pertumbuhan bisnis, tetapi pengalaman pengguna dan pelanggan bergantung pada komitmen organisasi untuk membangun solusi teknologi yang aman, bertanggung jawab, dan dapat dipercaya.
Bisnis harus menentukan apakah AI generatif yang berinteraksi dengan pengguna dapat dipercaya, dan keamanan merupakan komponen mendasar dari kepercayaan. Jadi, di sinilah letak salah satu langkah terbesar yang harus diambil perusahaan: mengamankan penerapan AI mereka.
Hari ini, IBM Institute for Business Value merilis studi Securing generative AI: What Matters Now, yang ditulis bersama oleh IBM dan AWS, dengan memperkenalkan data, praktik, dan rekomendasi baru untuk mengamankan penerapan AI generatif. Menurut studi IBM, 82% responden C-suite menyatakan bahwa AI yang aman dan dapat dipercaya sangat penting bagi kesuksesan bisnis mereka. Meskipun hal ini terdengar menjanjikan, 69% pemimpin yang disurvei juga mengindikasikan bahwa dalam hal AI generatif, inovasi lebih diutamakan daripada keamanan.
Memprioritaskan antara inovasi dan keamanan mungkin tampak seperti pilihan, tetapi pada kenyataannya, ini adalah ujian. Ada ketidakseimbangan yang jelas di sini; organisasi menyadari bahwa pertaruhannya lebih tinggi dari sebelumnya dengan AI generatif, tetapi mereka tidak menerapkan pelajaran yang telah mereka dapatkan dari disrupsi teknologi sebelumnya. Seperti transisi ke hybrid cloud, pengembangan perangkat lunak agile, atau zero trust, keamanan AI generatif dapat menjadi hal yang perlu dicermati. Lebih dari 50% responden mengkhawatirkan risiko tak terduga yang berdampak pada inisiatif AI generatif dan khawatir hal tersebut akan meningkatkan potensi gangguan bisnis. Namun, mereka melaporkan hanya 24% dari proyek AI generatif saat ini yang diamankan. Mengapa ada ketidaksinkronan seperti itu?
Kegamangan dalam hal keamanan bisa jadi merupakan indikator sekaligus hasil dari kesenjangan pengetahuan tentang AI generatif yang lebih luas. Hampir setengah dari responden (47%) mengatakan bahwa mereka tidak yakin tentang di mana dan berapa banyak yang harus diinvestasikan dalam hal AI generatif. Bahkan ketika tim mengujicobakan kemampuan baru, para pemimpin masih mencari tahu contoh penggunaan AI generatif mana yang paling masuk akal dan bagaimana mereka menskalakannya untuk lingkungan produksi mereka.
Ketidaktahuan dari mana harus memulai mungkin juga menjadi penghambat tindakan keamanan. Itulah sebabnya IBM dan AWS bergabung untuk memberikan panduan tindakan dan rekomendasi praktis bagi organisasi yang ingin melindungi AI mereka.
Untuk membangun kepercayaan dan keamanan dalam AI generatif mereka, organisasi harus mulai dengan dasar-dasarnya, dengan tata kelola sebagai patokan. Bahkan, 81% responden mengindikasikan bahwa AI generatif membutuhkan model tata kelola keamanan yang baru secara fundamental. Dengan memulai dengan tata kelola, risiko, dan kepatuhan (GRC), para pemimpin dapat membangun fondasi untuk strategi keamanan siber guna melindungi arsitektur AI mereka yang selaras dengan tujuan bisnis dan nilai merek.
Agar proses apa pun dapat diamankan, Anda harus terlebih dahulu memahami bagaimana proses tersebut seharusnya berfungsi dan seperti apa proses yang diharapkan sehingga penyimpangan dapat diidentifikasi. AI yang menyimpang dari apa yang dirancang secara operasional dapat menimbulkan risiko baru dengan dampak bisnis yang tidak terduga. Jadi, mengidentifikasi dan memahami potensi risiko tersebut membantu organisasi memahami ambang batas risiko mereka sendiri, yang didasarkan pada persyaratan kepatuhan dan peraturan yang unik.
Setelah pagar pembatas tata kelola ditetapkan, organisasi dapat lebih efektif menetapkan strategi untuk mengamankan pipeline AI.Data, model, dan penggunaannya—serta infrastruktur yang menjadi dasar dalam membangun dan menanamkan inovasi AI. Sementara model tanggung jawab bersama untuk keamanan dapat berubah tergantung pada bagaimana organisasi menggunakan AI generatif. Banyak alat, kontrol, dan proses yang tersedia untuk membantu mengurangi risiko dampak bisnis saat organisasi mengembangkan operasi AI mereka sendiri.
Organisasi juga perlu menyadari bahwa meskipun halusinasi, etika, dan bias sering kali muncul pertama kali dalam pikiran ketika memikirkan AI yang dapat dipercaya, pipeline AI menghadapi lingkungan ancaman yang menempatkan kepercayaan itu sendiri dalam risiko. Ancaman konvensional memiliki arti baru, ancaman baru menggunakan kemampuan AI ofensif sebagai vektor serangan baru, dan ancaman baru berupaya membahayakan aset dan layanan AI yang makin diandalkan.
Keamanan dapat membantu mewujudkan kepercayaan dan rasa percaya diri ke dalam contoh-contoh penggunaan AI generatif. Untuk mencapai sinergi ini, organisasi harus mengambil pendekatan desa. Pembicaraan harus melampaui pemangku kepentingan TI dan TI hingga ke strategi, pengembangan produk, risiko, rantai pasokan, dan interaksi pelanggan.
Karena teknologi ini bersifat transformatif dan disruptif, mengelola AI organisasi dan properti AI generatif membutuhkan kolaborasi di seluruh domain keamanan, teknologi, dan bisnis.
Mitra teknologi dapat memainkan peran kunci. Menggunakan luasnya dan dalamnya keahlian mitra teknologi di seluruh siklus ancaman dan di seluruh ekosistem keamanan dapat menjadi aset yang tak ternilai. Bahkan, studi IBM mengungkapkan bahwa lebih dari 90% organisasi yang disurvei mendapatkan dukungan produk pihak ketiga atau mitra teknologi untuk solusi keamanan AI generatif mereka. Dalam hal memilih mitra teknologi untuk kebutuhan keamanan AI generatif mereka, organisasi yang disurvei melaporkan hal berikut:
Studi ini memperjelas bahwa organisasi menyadari pentingnya keamanan untuk inovasi AI mereka, tetapi mereka masih mencoba memahami cara terbaik untuk mendekati revolusi AI. Membangun hubungan yang dapat membantu memandu, memberi nasihat, dan secara teknis mendukung upaya-upaya ini merupakan langkah penting berikutnya dalam AI generatif yang terlindungi dan tepercaya. Selain berbagi insight utama tentang persepsi dan prioritas eksekutif, IBM dan AWS telah menyertakan panduan tindakan dengan rekomendasi praktis untuk membawa strategi keamanan AI generatif Anda ke tingkat berikutnya.