3 contoh penggunaan AI yang terbukti dalam keamanan siber preventif

Laporan Biaya Pelanggaran Data IBM 2024 menyoroti temuan terobosan: Penerapan otomatisasi yang didukung AI dalam pencegahan memungkinkan organisasi berhemat rata-rata USD 2,2 juta.

Perusahaan telah menggunakan AI selama bertahun-tahun dalam deteksi, penyelidikan, dan respons. Namun, ketika permukaan serangan meluas, para pemimpin keamanan harus mengadopsi sikap yang lebih proaktif.

Berikut adalah tiga cara bagaimana AI membantu mewujudkannya:

Meningkatnya kompleksitas dan saling keterkaitan semakin memusingkan tim keamanan dan permukaan serangan berkembang jauh melampaui apa yang dapat mereka pantau hanya dengan cara manual. Ketika organisasi meningkatkan strategi multicloud mereka dan mengintegrasikan alat SaaS baru dan kode pihak ketiga dalam pengembangan dan penerapan perangkat lunak, tantangannya akan meningkat.

Dengan permukaan serangan yang lebih besar ini muncul peningkatan kompleksitas interaksi jaringan dan banyak titik masuk potensial baru yang akan dieksploitasi musuh. Manajemen permukaan serangan (ASM) menghadirkan perlindungan real-time yang didukung AI ke infrastruktur digital, terlepas dari kompleksitas yang mendasarinya.

ASM otomatis sangat meningkatkan audit manual dengan memberikan visibilitas komprehensif tentang permukaan serangan. Selain itu, AI belajar dari data yang dipantau untuk meningkatkan hasil deteksi pada masa depan, meskipun pada kecepatan dan skala yang tidak dapat ditandingi oleh manusia sendiri.

Namun, meskipun alat ASM sering kali disajikan sebagai solusi siap pakai dan biasanya relatif mudah untuk diterapkan, kemampuan tim keamanan untuk menginterpretasikan arus besar data yang mereka hasilkan sangat penting untuk memaksimalkan dampaknya.

Red teaming AI adalah proses di mana orang melakukan uji stres pada model AI untuk memeriksa potensi kerentanan dan masalah lainnya, seperti bias dan informasi yang salah. Meskipun sebagian besar model dirancang dengan batasan yang tersedia untuk mengurangi risiko ini, para penyerang secara rutin mencoba untuk "membobol" mereka dengan memberikan prompt yang cerdas. Red team bertujuan untuk menemukan kerentanan sebelum lawan, sehingga memiliki kesempatan untuk mengambil tindakan korektif.

Tim merah sendiri dapat menggunakan AI untuk membantu mengidentifikasi potensi masalah dalam data yang digunakan untuk melatih model AI. Misalnya, menurut laporan IBM, lebih dari sepertiga pelanggaran data melibatkan data bayangan. Jika data yang tidak diperiksa dan tidak dipantau kualitas dan integritasnya ini akhirnya digunakan dalam pelatihan model, efek riak dapat menjadi signifikan. AI dapat membantu red team mendeteksi data bayangan dengan mengidentifikasi anomali dan sumber data yang terlewat yang dapat menimbulkan risiko keamanan. Red team juga dapat menguji model AI satu sama lain menggunakan metode machine learning musuh untuk mengidentifikasi kerentanan.

Tidak seperti ASM, red teaming melibatkan simulasi yang disesuaikan khusus untuk data dan lingkungan ancaman organisasi. Untuk menyadari manfaatnya sepenuhnya, organisasi harus bekerja dengan tim terampil yang dapat menafsirkan dan menganalisis hasil dengan benar dan menerapkan perubahan yang diperlukan.

Manajemen postur adalah tempat di mana kemampuan pemantauan AI real-time yang dapat diskalakan benar-benar menonjol. Sementara ASM mengungkapkan potensi kerentanan pada permukaan serangan, manajemen postur mengambil pendekatan yang jauh lebih luas dengan memantau konfigurasi, kepatuhan terhadap kebijakan keamanan, dan koneksi antara sistem internal dan eksternal dengan cara yang berkelanjutan, tangkas, dan mudah beradaptasi.

Dengan mengotomatiskan manajemen postur dengan AI, tim keamanan dapat memitigasi risiko dalam waktu yang jauh lebih singkat dan meningkatkan upaya mereka di seluruh infrastruktur multicloud yang kompleks untuk memastikan konsistensi di seluruh jajaran. Selain itu, mengingat berkurangnya ketergantungan pada proses manual, kemungkinan kesalahan manusia sangat berkurang.

Bahkan ketika pelanggaran terjadi, organisasi yang secara ekstensif memasukkan AI dan otomatisasi ke dalam strategi manajemen postur mereka dapat mengidentifikasi dan menguranginya hampir 100 hari lebih cepat daripada mereka yang tidak menggunakan AI sama sekali. Tentu saja, waktu yang dihemat dalam pencegahan dan remediasi menghasilkan penghematan biaya signifikan secara langsung dan tidak langsung.

Peluang AI dalam keamanan siber tidak dapat disangkal. Tidak hanya dapat membantu meningkatkan strategi di lingkungan yang semakin kompleks, AI juga dapat membantu menyesuaikan keamanan dengan memungkinkan analis yang kurang berpengalaman untuk berinteraksi dengan sistem keamanan menggunakan kueri bahasa alami.

Namun, itu tidak berarti bahwa AI adalah pengganti keahlian manusia. Sebaliknya, AI harus melengkapinya.

AI dan otomatisasi dalam keamanan telah membantu organisasi menghemat jutaan dalam potensi kerusakan dan upaya remediasi, tetapi keduanya tetap membutuhkan orang untuk memahami data dan insight yang disediakan AI untuk memaksimalkan potensinya.

Itulah sebabnya layanan keamanan terkelola memainkan peran yang semakin penting dalam memastikan bahwa adopsi AI selaras secara strategis dengan kebutuhan dan tujuan bisnis — tidak digunakan semata-mata untuk mengurangi biaya dan tenaga kerja.