Tentang episode ini

Mengapa repot-repot memberi aturan kepada agen AI Anda jika mereka hanya akan bernalar di sekitar mereka?

Dalam episode ke-50 Security Intelligence, Dustin “EvilMog” Heywood, Seth Glasgow, dan Nick Bradley bergabung dengan pembawa acara Matt Kosinski untuk membahas:

Diskusikan mengapa agen AI keluar dari skrip dan apakah kita dapat menghentikannya.
Dengan mengacu pada peretasan HuggingFace dan sebuah opini yang dimuat di Dark Reading, kami menjelajahi seperti apa etika bagi sebuah perangkat lunak yang tidak memiliki konsep tentang benar dan salah. Adakah cara untuk menyeimbangkan utilitas AI probabilistik dengan keamanan kontrol deterministik?
Berikutnya: OWASP Top 10 untuk keterampilan agen telah dirilis, dan daftar tersebut menunjukkan banyak kegagalan dalam praktik dasar keamanan. Kami membahas pertanyaan: Mengapa hub keterampilan agen sangat lemah dalam menerapkan keamanan siber?
Plus: karena AI kini semakin memudahkan untuk menemukan kerentanan dan membuat laporan bug, program bug bounty kesulitan untuk mengimbanginya. Apakah AI slop akan mengakhiri riset bug secara independen?
Terakhir, Itzhak Chimino hadir untuk memperkenalkan ThreatXtension, sebuah alat yang turut ia kembangkan untuk mendeteksi ekstensi browser berbahaya.

Semua itu dan lebih banyak lagi di Security Intelligence.

Bab:

00:00 - Pendahuluan
1.26 - Bisakah kita benar-benar mengendalikan agen AI?
11.49 - 10 Teratas OWASP untuk keterampilan agen
20.37 - AI memecahkan hadiah bug
28:47 - ThreatXtension

Pendapat yang disampaikan dalam podcast ini sepenuhnya merupakan pendapat para peserta dan tidak selalu mencerminkan pandangan IBM® atau organisasi maupun entitas lainnya. Alat AI dapat digunakan untuk mentranskripsikan episode ini dan mendukung beberapa tahapan dalam proses produksi. Seluruh konten yang dibantu oleh AI ditinjau oleh tim produksi sebelum dipublikasikan.

Berlangganan buletin IBM® Think

Berlangganan sekarang di platform favorit Anda

YouTube

Spotify

Podcast Apple

Pembawa acara dan pembicara episode:

Ryan Anschutz - Pemimpin Respons Insiden X-Force Amerika Utara

Dustin Heywood

Eksekutif Mengelola Hacker

Nick Bradley

Manajer, X-Force Threat Intelligence

Seth Glasgow

Penasehat Eksekutif Jangkauan Siber

Itzhak Chimino

Intelijen Ancaman Senior

Matt Kosinski

Host

Topik yang kita bahas selama episode

Apa itu agen AI?

Apa itu keamanan agen AI?

Apa itu etika agen AI?

Tonton episode sebelumnya

Mengapa OpenAI menyerukan ‘lonjakan pertahanan cyber‘. Plus: Temukan Kejahatan! pemenang dan pecundang TeamCP

Surat terbuka OpenAI, para pemenang Find Evil!, dan penindakan terhadap TeamPCP. Semua itu dan masih banyak lagi di Security Intelligence.

‘Itu bukan pisau‘: Penyerang mengalahkan pembela dengan AI. Beginilah cara kami mengejar ketinggalan.

Penyerang mengadopsi AI lebih cepat daripada pembela. Apa kunci untuk mengejar ketertinggalan? Berhentilah memikirkan tentang AI.

Siapa yang takut dengan model bobot terbuka? GLM, pengeboman konteks, dan serangan pasca-Black Hat

GLM-5.3 mengungguli GPT-5.6 dan Claude Mythos dalam menemukan kerentanan. Lalu, apa selanjutnya? Plus: pengeboman konteks dan penipuan phishing setelah Black Hat.

Apa yang harus dilakukan pemimpin keamanan dengan AI? Mereka tidak tahu

Para pemimpin keamanan siber dipenuhi dengan uang tunai dan ingin membelanjakannya untuk AI. Apa yang tidak mereka miliki adalah rencana bagaimana caranya.

OWASP LLM Top 10 memiliki beberapa kejutan untuk Anda

OWASP LLM Top 10 melempar beberapa bola kurva nyata. Plus: Sorotan SBOM dan Black Hat 2026.

Nah, lihat itu. Model AI Anthropic juga merusak penahanan

Dalam pengujian, Anthropic menemukan tiga kasus ketika model AI mereka sendiri berhasil menerobos batasan yang seharusnya menahannya. Kami juga membahas kerentanan baru pada browser agen serta arsip publik berisi 204 zero-day.

Rencana pelanggaran data Anda kehilangan sesuatu yang besar: orang-orang

Sebagian besar rencana penanganan insiden keamanan melupakan aspek yang paling sulit: manusia. Limor Kessem dari IBM® menjelaskan mengapa faktor manusia dapat menentukan apakah respons terhadap krisis berhasil atau gagal.

Biaya Pelanggaran Data 2026, dan apa yang bisa kita pelajari dari hack Hugging Face

Hugging Face diretas. Inilah yang perlu Anda ketahui. Plus: Biaya Pelanggaran Data 2026.

GPT-Red: Bisakah tim merah AI menghentikan prompt injections?

AI yang melakukan serangan red team terhadap dirinya sendiri. Alat penghancur penipuan yang menipu para scammer. Semua itu dan masih banyak lagi di Security Intelligence.

GLM-5.2: Risiko keamanan yang sebenarnya? Plus: Perburuan Vibe, akhir CVSS dan pembaruan di Lightwell

GLM-5.2, model AI bobot terbuka, akhir penilaian CVSS, “perburuan getaran” dan peluncuran Lightwell.

Fable 5, GPT-5.6 dan taruhan tinggi perlindungan AI. Plus: Ransomware agen, dan ClickFix berkuasa

Perlindungan model AI, ransomware agen, ClickFix naik, dan UnregStealer berinovasi pada pencurian kredensial klasik.

Perintah eksekutif kriptografi pasca-quantum baru. Selain itu: Sebenarnya apa itu Q-Day?

Membongkar perintah eksekutif kriptografi yang aman dari quantum terbaru. Plus: Bagaimana jika Q-Day sudah ada di sini?

Manajemen patch sudah mati. Inilah yang terjadi.

Mungkinkah pendekatan patching yang lebih cerdas dapat mencegah lebih banyak serangan siber? Ryan Anschutz dari IBM® X-Force menjelaskan pentingnya manajemen eksposur.