Diterbitkan: 5 Juni 2024
Kontributor: Annie Badman, Matthew Kosinski
Kependekan dari keamanan kecerdasan buatan (AI), keamanan AI adalah proses menggunakan AI untuk meningkatkan postur keamanan organisasi. Dengan sistem AI, organisasi dapat mengotomatiskan deteksi, pencegahan, dan remediasi ancaman untuk memerangi serangan siber dan pelanggaran data dengan lebih baik.
Organisasi dapat memasukkan AI ke dalam praktik keamanan siber dalam banyak cara. Alat keamanan AI yang paling umum menggunakan machine learning dan pembelajaran mendalam untuk menganalisis sejumlah besar data, termasuk tren lalu lintas, penggunaan aplikasi, kebiasaan menjelajah, dan data aktivitas jaringan lainnya.
Analisis ini memungkinkan AI untuk menemukan pola dan menetapkan garis dasar keamanan. Setiap aktivitas di luar garis dasar itu segera ditandai sebagai anomali dan potensi ancaman siber, memungkinkan perbaikan cepat.
Alat keamanan AI juga sering menggunakan AI generatif (gen AI), yang dipopulerkan oleh model bahasa besar (LLM), untuk mengubah data keamanan menjadi rekomendasi teks biasa, sehingga merampingkan pengambilan keputusan untuk tim keamanan.
Penelitian menunjukkan bahwa alat keamanan AI secara signifikan meningkatkan deteksi ancaman dan respons insiden. Menurut Laporan Biaya Pelanggaran Data IBM, organisasi dengan AI dan otomatisasi keamanan yang ekstensif mengidentifikasi dan mengatasi pelanggaran data rata-rata 108 hari lebih cepat daripada organisasi tanpa alat AI.
Selain itu, laporan tersebut menemukan bahwa organisasi yang secara ekstensif menggunakan keamanan AI menghemat rata-rata 1,76 juta USD dalam biaya penanganan pelanggaran data. Itu adalah perbedaan hampir 40% dibandingkan dengan biaya rata-rata pelanggaran untuk perusahaan yang tidak menggunakan AI.
Untuk alasan ini, investasi dalam keamanan AI tumbuh. Sebuah studi baru-baru ini memproyeksikan bahwa pasar keamanan AI, yang bernilai 20,19 miliar USD pada tahun 2023, akan mencapai 141,64 miliar USD pada tahun 2032, tumbuh sebesar 24,2% per tahun.1
Definisi lain dari keamanan AI melibatkan pengamanan AI dari ancaman siber. Dalam pemahaman ini, para pakar keamanan siber berfokus pada bagaimana pelaku ancaman dapat menggunakan AI untuk meningkatkan serangan siber yang ada atau mengeksploitasi semua permukaan serangan baru.
Misalnya, LLM dapat membantu penyerang membuat serangan phishing yang lebih personal dan canggih. Sebagai teknologi yang relatif baru, model AI juga memberikan peluang baru bagi para pelaku ancaman untuk melakukan serangan siber, seperti serangan rantai pasokan dan serangan yang bersifat permusuhan (lihat “Potensi kerentanan dan risiko keamanan AI”).
Ikhtisar ini berfokus pada definisi keamanan AI, yang melibatkan penggunaan AI untuk meningkatkan keamanan siber. Namun, ini juga mencakup informasi tentang potensi kerentanan AI dan praktik terbaik untuk melindungi sistem AI.
Lanskap ancaman siber saat ini sangat kompleks. Pergeseran ke lingkungan cloud dan hybrid cloud telah menyebabkan penyebaran data dan perluasan permukaan serangan, sementara pelaku ancaman terus menemukan cara baru untuk mengeksploitasi kerentanan. Di saat yang sama, tenaga profesional keamanan siber masih sangat kurang, dengan lebih dari 700.000 lowongan pekerjaan di Amerika Serikat saja.2
Hasilnya adalah serangan siber sekarang lebih sering dan lebih mahal. Menurut Laporan Biaya Pelanggaran Data, biaya rata-rata global untuk memulihkan pelanggaran data pada tahun 2023 adalah 4,45 juta USD, meningkat 15% selama tiga tahun.
Keamanan AI dapat menawarkan solusi. Dengan mengotomatiskan deteksi dan respons ancaman, AI mempermudah pencegahan serangan dan menangkap pelaku ancaman secara real-time. Alat AI dapat membantu segala hal mulai dari mencegah serangan malware dengan mengidentifikasi dan mengisolasi perangkat lunak berbahaya hingga mendeteksi serangan brute force dengan mengenali dan memblokir upaya login berulang.
Dengan keamanan AI, organisasi dapat terus memantau operasi keamanan mereka dan menggunakan algoritme machine learning untuk beradaptasi dengan ancaman siber yang terus berkembang.
Tidak berinvestasi dalam keamanan AI itu mahal. Organisasi tanpa keamanan AI menghadapi biaya pelanggaran data rata-rata 5,36 juta USD, yang 18,6% lebih tinggi dari biaya rata-rata untuk semua organisasi. Bahkan mereka yang memiliki keamanan AI terbatas melaporkan biaya pelanggaran data rata-rata sebesar 4,04 juta USD. Itu adalah 400.000 USD lebih rendah dari rata-rata keseluruhan dan 28,1% lebih rendah daripada mereka yang tidak menggunakan keamanan AI sama sekali.
Terlepas dari manfaatnya, AI menimbulkan tantangan keamanan, terutama dengan keamanan data. Model AI hanya dapat diandalkan seperti data pelatihan mereka. Data yang dirusak atau bias dapat menyebabkan hasil positif palsu atau respons yang tidak akurat. Misalnya, data pelatihan yang bias yang digunakan untuk keputusan perekrutan dapat memperkuat bias gender atau ras, dengan model AI yang mengutamakan kelompok demografis tertentu dan mendiskriminasi kelompok demografis lainnya.3
Alat AI juga dapat membantu pelaku ancaman lebih berhasil mengeksploitasi kerentanan keamanan. Misalnya, penyerang dapat menggunakan AI untuk mengotomatiskan penemuan kerentanan sistem atau menghasilkan serangan phishing yang canggih.
Menurut Reuters, Biro Investigasi Federal (FBI) telah melihat peningkatan intrusi siber karena AI.4 Sebuah laporan baru-baru ini juga menemukan bahwa 75% profesional keamanan siber senior melihat lebih banyak serangan siber, dengan 85% mengaitkan peningkatan tersebut dengan aktor jahat yang menggunakan gen AI.5
Terlepas dari kekhawatiran ini, penelitian menunjukkan hanya 24% dari proyek gen AI saat ini yang diamankan.
Ke depan, banyak organisasi akan mencari cara untuk menginvestasikan waktu dan sumber daya dalam AI yang aman untuk mendapatkan manfaat kecerdasan buatan tanpa mengorbankan etika atau keamanan AI (lihat “praktik terbaik keamanan AI”).
Kemampuan AI dapat memberikan keuntungan signifikan dalam meningkatkan pertahanan keamanan siber.
Beberapa manfaat paling signifikan dari keamanan AI meliputi:
- Deteksi ancaman yang ditingkatkan: Algoritme AI dapat menganalisis data dalam jumlah besar secara real-time untuk meningkatkan kecepatan dan keakuratan dalam mendeteksi potensi ancaman siber. Alat AI juga dapat mengidentifikasi vektor serangan canggih yang mungkin terlewatkan oleh tindakan keamanan tradisional.
- Respons insiden yang lebih cepat: AI dapat mempersingkat waktu yang dibutuhkan untuk mendeteksi, menyelidiki, dan merespons insiden keamanan, sehingga organisasi dapat mengatasi ancaman dengan lebih cepat dan mengurangi potensi kerusakan.
- Efisiensi operasional yang lebih besar: Teknologi AI dapat mengotomatiskan tugas-tugas rutin, merampingkan operasi keamanan dan memangkas biaya. Mengoptimalkan operasi keamanan siber juga dapat mengurangi kesalahan manusia dan membebaskan tim keamanan untuk proyek yang lebih strategis.
- Pendekatan proaktif terhadap keamanan siber: Keamanan AI memungkinkan organisasi mengambil pendekatan yang lebih proaktif terhadap keamanan siber dengan menggunakan data historis untuk memprediksi ancaman siber di masa depan dan mengidentifikasi kerentanan.
- Memahami ancaman yang muncul: Keamanan AI membantu organisasi untuk tetap berada di depan para pelaku ancaman. Dengan terus belajar dari data baru, sistem AI dapat beradaptasi dengan ancaman yang muncul dan memastikan bahwa pertahanan keamanan siber tetap mutakhir terhadap metode serangan baru.
- Pengalaman pengguna yang lebih baik: AI dapat meningkatkan langkah-langkah keamanan tanpa mengorbankan pengalaman pengguna. Sebagai contoh, metode autentikasi yang didukung AI, seperti pengenalan biometrik dan analisis perilaku, dapat membuat autentikasi pengguna menjadi lebih lancar dan lebih aman.
- Kepatuhan peraturan otomatis: AI dapat membantu mengotomatiskan pemantauan kepatuhan, perlindungan data, dan pelaporan, sehingga memastikan bahwa organisasi secara konsisten memenuhi persyaratan peraturan.
- Kemampuan untuk menskalakan: Solusi keamanan siber AI dapat ditingkatkan untuk melindungi lingkungan IT yang besar dan kompleks. Mereka juga dapat berintegrasi dengan alat dan infrastruktur keamanan siber yang ada, seperti platform informasi keamanan dan manajemen peristiwa (SIEM), untuk meningkatkan intelijen ancaman real-time jaringan dan kemampuan respons otomatis.
Terlepas dari banyak manfaatnya, adopsi alat AI baru dapat memperluas permukaan serangan organisasi dan menghadirkan beberapa ancaman keamanan.
Beberapa risiko keamanan paling umum yang ditimbulkan oleh AI meliputi:
Sistem AI bergantung pada kumpulan data yang mungkin rentan terhadap gangguan, pelanggaran, dan serangan lainnya. Organisasi dapat memitigasi risiko ini dengan melindungi integritas, kerahasiaan, dan ketersediaan data di seluruh siklus hidup AI, mulai dari pengembangan hingga pelatihan dan penerapan.
Pelaku ancaman dapat menargetkan model AI untuk pencurian, rekayasa balik, atau manipulasi yang tidak sah. Penyerang dapat membahayakan integritas model dengan merusak arsitektur, bobot, atau parameternya, komponen inti yang menentukan perilaku dan kinerja model AI.
Serangan adversial melibatkan manipulasi data input untuk menipu sistem AI, yang mengarah pada prediksi atau klasifikasi yang salah. Misalnya, penyerang dapat membuat contoh-contoh adversial yang mengeksploitasi kerentanan dalam algoritme AI untuk mengganggu pengambilan keputusan model AI atau menghasilkan bias.
Demikian pula, injeksi prompt menggunakan petunjuk berbahaya untuk mengelabui alat AI agar mengambil tindakan berbahaya, seperti membocorkan data atau menghapus dokumen penting.
Jika tim keamanan tidak memprioritaskan keselamatan dan etika saat menerapkan sistem AI, mereka berisiko melakukan pelanggaran privasi dan memperburuk bias dan kesalahan positif. Hanya dengan penerapan etis, organisasi dapat memastikan keadilan, transparansi, dan akuntabilitas dalam pengambilan keputusan AI.
Mematuhi persyaratan hukum dan peraturan sangat penting untuk memastikan penggunaan sistem AI yang sah dan etis. Organisasi harus mematuhi peraturan seperti General Data Protection Regulation (GDPR), California Consumer Privacy Act (CCPA), dan EU AI Act atau berisiko mengekspos data sensitif dan menghadapi hukuman hukum yang berat.
Serangan manipulasi input melibatkan perubahan data input untuk mempengaruhi perilaku atau hasil sistem AI. Penyerang dapat memanipulasi data input untuk menghindari deteksi, melewati langkah-langkah keamanan atau mempengaruhi proses pengambilan keputusan, yang dapat menyebabkan hasil yang bias atau tidak akurat.
Misalnya, pelaku ancaman dapat membahayakan hasil sistem AI dalam serangan peracunan data dengan sengaja memberinya data pelatihan yang buruk.
Serangan rantai pasokan terjadi ketika pelaku ancaman menargetkan sistem AI di tingkat rantai pasokan, termasuk pada tahap pengembangan, penerapan, atau pemeliharaan. Misalnya, penyerang dapat mengeksploitasi kerentanan pada komponen pihak ketiga, pustaka perangkat lunak, atau modul yang digunakan dalam pengembangan AI, yang mengarah pada pelanggaran data atau akses tidak sah.
Model AI dapat menyimpang dan menjadi usang dari waktu ke waktu, yang mengarah pada penurunan kinerja atau efektivitas. Musuh dapat mengeksploitasi kelemahan dalam model AI yang membusuk atau melayang untuk memanipulasi hasil. Organisasi dapat memantau model AI untuk mengetahui perubahan kinerja, perilaku, atau akurasi untuk menjaga keandalan dan relevansinya.
Aplikasi AI dalam keamanan siber beragam dan terus berkembang karena alat AI menjadi lebih maju dan dapat diakses.
Beberapa contoh penggunaan keamanan AI yang paling umum saat ini meliputi:
Perlindungan data melibatkan pengamanan informasi sensitif dari kehilangan dan korupsi data untuk melindungi data dan memastikan ketersediaan dan kepatuhannya terhadap persyaratan peraturan.
Alat bantu AI dapat membantu organisasi meningkatkan perlindungan data dengan mengklasifikasikan data sensitif, memantau pergerakan data, dan mencegah akses yang tidak sah atau eksfiltrasi. AI juga dapat mengoptimalkan proses enkripsi dan tokenisasi untuk melindungi data saat istirahat dan dalam transit.
Selain itu, AI dapat secara otomatis beradaptasi dengan lingkungan ancaman dan terus memantau ancaman sepanjang waktu, memungkinkan organisasi untuk tetap terdepan dalam menghadapi ancaman siber yang muncul.
Keamanan titik akhir melibatkan pengamanan titik akhir, seperti komputer, server, dan perangkat seluler, dari ancaman keamanan siber.
AI dapat meningkatkan solusi deteksi dan respons titik akhir (EDR) yang ada dengan terus memantau titik akhir untuk perilaku dan anomali yang mencurigakan untuk mendeteksi ancaman keamanan real-time.
Algoritme machine learning juga dapat membantu mengidentifikasi dan memitigasi ancaman titik akhir tingkat lanjut, seperti malware tanpa file dan serangan zero-day, sebelum menyebabkan kerusakan.
AI dapat membantu melindungi data sensitif di seluruh lingkungan hybrid cloud dengan secara otomatis mengidentifikasi data bayangan, memantau ketidaknormalan dalam akses data, dan memperingatkan para profesional keamanan siber tentang ancaman yang terjadi.
Platform perburuan ancaman secara proaktif mencari tanda-tanda aktivitas berbahaya dalam jaringan organisasi.
Dengan integrasi AI, alat ini dapat menjadi lebih canggih dan efisien dengan menganalisis kumpulan data yang besar, mengidentifikasi tanda-tanda penyusupan, serta memungkinkan deteksi dan respons yang lebih cepat terhadap ancaman tingkat lanjut.
Seiring dengan semakin seringnya serangan siber dan pencurian identitas, lembaga keuangan membutuhkan cara untuk melindungi pelanggan dan aset mereka.
AI membantu lembaga-lembaga ini secara otomatis menganalisis data transaksional untuk pola yang menunjukkan penipuan. Selain itu, algoritma machine learning dapat beradaptasi dengan ancaman baru dan berkembang secara real-time, memungkinkan bank untuk terus meningkatkan kemampuan deteksi penipuan mereka dan tetap berada di depan para pelaku ancaman.
Alat keamanan AI seringkali paling efektif ketika diintegrasikan dengan infrastruktur keamanan organisasi yang ada.
Misalnya, orkestrasi keamanan, otomatisasi, dan respons (SOAR) adalah solusi perangkat lunak yang digunakan banyak organisasi untuk merampingkan operasi keamanan. AI dapat berintegrasi dengan platform SOAR untuk mengotomatiskan tugas rutin dan alur kerja. Integrasi ini dapat memungkinkan respons insiden yang lebih cepat dan analis keamanan gratis untuk fokus pada masalah yang lebih kompleks.
Alat manajemen identitas dan akses (IAM) mengelola bagaimana pengguna mengakses sumber daya digital dan apa yang dapat mereka lakukan dengannya. Sasarannya adalah untuk mencegah peretas sekaligus memastikan setiap pengguna memiliki izin yang mereka perlukan, tidak lebih.
Solusi IAM didorong oleh AI dapat meningkatkan proses ini dengan menyediakan kontrol akses granular berdasarkan peran, tanggung jawab, dan perilaku, yang selanjutnya memastikan bahwa hanya pengguna yang berwenang yang dapat mengakses data sensitif.
AI juga dapat meningkatkan proses autentikasi dengan menggunakan machine learning untuk menganalisis pola perilaku pengguna dan memungkinkan tindakan autentikasi adaptif yang berubah berdasarkan tingkat risiko masing-masing pengguna.
LLM seperti ChatGPT telah membuat serangan phishing lebih mudah dilakukan dan lebih sulit dikenali. Namun, AI juga muncul sebagai alat penting untuk memerangi phishing.
Model machine learning dapat membantu organisasi menganalisis email dan komunikasi lainnya untuk mencari tanda-tanda phishing, meningkatkan akurasi deteksi dan mengurangi upaya phishing yang berhasil. Solusi keamanan email yang didukung AI juga dapat memberikan intelijen ancaman waktu nyata dan respons otomatis untuk menangkap serangan phishing saat terjadi.
Manajemen kerentanan adalah penemuan, penentuan prioritas, mitigasi dan penyelesaian kerentanan keamanan secara berkelanjutan dalam infrastruktur IT dan perangkat lunak suatu organisasi.
AI dapat meningkatkan pemindai kerentanan tradisional dengan secara otomatis memprioritaskan kerentanan berdasarkan potensi dampak dan kemungkinan eksploitasi. Ini membantu organisasi mengatasi risiko keamanan yang paling kritis terlebih dahulu.
AI juga dapat mengotomatiskan manajemen patch untuk mengurangi paparan ancaman siber dengan segera.
Untuk menyeimbangkan risiko dan manfaat keamanan AI, banyak organisasi menyusun strategi keamanan AI secara eksplisit yang menguraikan bagaimana para pemangku kepentingan harus mengembangkan, mengimplementasikan, dan mengelola sistem AI.
Meskipun strategi ini tentu berbeda dari perusahaan ke perusahaan, beberapa praktik terbaik yang umum digunakan meliputi:
Tata kelola data dan praktik manajemen risiko dapat membantu melindungi informasi sensitif yang digunakan dalam proses AI sekaligus menjaga efektivitas AI.
Dengan menggunakan kumpulan data pelatihan yang relevan dan akurat serta memperbarui model AI secara berkala dengan data baru, organisasi dapat membantu memastikan bahwa model mereka beradaptasi terhadap ancaman yang terus berkembang seiring waktu.
Mengintegrasikan alat AI dengan infrastruktur keamanan siber yang ada seperti feed intelijen ancaman dan sistem SIEM dapat membantu memaksimalkan efektivitas sekaligus meminimalkan gangguan dan waktu henti yang dapat datang dengan penerapan langkah-langkah keamanan baru.
Menjaga transparansi dalam proses AI dengan mendokumentasikan algoritme dan sumber data serta berkomunikasi secara terbuka dengan para pemangku kepentingan mengenai penggunaan AI dapat membantu mengidentifikasi dan mengurangi potensi bias dan ketidakadilan.
Sementara alat AI dapat meningkatkan postur keamanan, mereka juga dapat mengambil manfaat dari langkah-langkah keamanan mereka sendiri.
Enkripsi, kontrol akses, dan alat pemantauan ancaman dapat membantu organisasi melindungi sistem AI dan data sensitif yang mereka gunakan.
Memantau sistem AI secara terus menerus untuk kinerja, kepatuhan, dan akurasi dapat membantu organisasi memenuhi persyaratan peraturan dan menyempurnakan model AI dari waktu ke waktu.
Lindungi data di berbagai lingkungan, penuhi peraturan privasi, dan sederhanakan kompleksitas operasional.
Dapatkan visibilitas, kepatuhan, dan perlindungan yang luas di seluruh siklus hidup keamanan data dengan IBM Guardium.
Rangkaian IBM Verify memberikan kemampuan otomatis berbasis cloud dan on premises untuk menerapkan tata kelola identitas, mengelola identitas dan akses tenaga kerja dan konsumen, serta mengendalikan akun-akun yang memiliki hak istimewa.
Mendukung Anda dan organisasi Anda dengan mempelajari tantangan dan keberhasilan yang dihadapi tim keamanan di seluruh dunia.
Pelajari bagaimana lingkungan keamanan saat ini berubah dan cara menavigasi tantangan dan memanfaatkan ketahanan AI generatif.
Dipimpin oleh para pemimpin terkemuka IBM, Akademi AI IBM dirancang untuk membantu para pemimpin bisnis mendapatkan pengetahuan yang dibutuhkan untuk memprioritaskan investasi AI yang dapat mendorong pertumbuhan.
Catatan kaki
Semua tautan berada di luar ibm.com
1. AI in Cybersecurity Market Size Envisaged To Reach USD 141.64 Billion By 2032, at 24.2% CAGR: Polaris Market Research. Yahoo. 12 Maret 2024.
2. Why Overcoming The Cybersecurity Labor Shortage Matters To Company Success. Forbes. 1 Maret 2023.
3. AI hiring tools may be filtering out the best job applicants. BBC. 16 Februari 2024.
4. AI advances risk facilitating cyber crime, top US officials say. Reuters. 9 Januari 2024.
5. Deep Instinct Study Finds Significant Increase in Cybersecurity Attacks Fueled by Generative AI. Business Wire. 23 Agustus 2023.