Penyebaran agen AI: Apa itu dan bagaimana mengendalikannya

Penyebaran terjadi ketika agen AI—sistem otonom yang membuat keputusan dan mengambil tindakan dengan input manusia minimal—diterapkan tanpa strategi terpadu atau praktik tata kelola yang kuat. Penyebaran agen AI menciptakan ekosistem agen yang redundan dan terfragmentasi di seluruh tim dan fungsi. Sama seperti penyebaran AI atau penyebaran aplikasi sebelumnya, penyebaran agen AI terjadi ketika kecepatan mengalahkan visibilitas: Tim individu menerapkan agen untuk mengotomatiskan tugas atau mengelola alur kerja tanpa program yang kohesif di seluruh organisasi.

Menurut Gartner, pada tahun 2028, rata-rata perusahaan Fortune 500 akan menggunakan lebih dari 150.000 agen AI. Namun, menurut perusahaan, hanya 13% organisasi percaya bahwa mereka memiliki tata kelola agen AI yang tepat. Data ini menunjuk pada realitas yang sederhana namun mendesak. Agen, terutama di lingkungan low-code atau no-code, mudah dibangun, tetapi mereka jauh lebih sulit untuk diterapkan, dioperasikan, dan dipantau secara bertanggung jawab.

Ekosistem alat AI yang luas dan tidak terkendali juga dapat meningkatkan biaya secara signifikan. Menurut riset Kamar Dagang A.S, 58% bisnis kecil telah mengadopsi AI generatif dan beberapa konsultan melaporkan perusahaan kecil dengan anggaran ketat menghabiskan ribuan dolar sebulan untuk beberapa alat penulisan AI yang berlebihan. Belum lagi biaya tersembunyi karyawan yang, alih-alih melihat peningkatan produktivitas dari penggunaan AI mereka, menyadari sebaliknya: Beralih antara aplikasi dan platform sepanjang hari secara signifikan memperlambat pekerjaan.

Ketika tim individu seperti pemasaran, keuangan, atau dukungan pelanggan membangun agen, agen tersebut mungkin tidak terlihat oleh bagian lain dari organisasi. Ini menciptakan segelintir agen dengan kemampuan terputus daripada sistem yang koheren. Menurut riset dari IBM® Institute for Business Value, hanya 18% organisasi yang memiliki inventaris agen AI yang terkini dan lengkap, sehingga menghambat upaya Integrasi. Masalah serupa dapat diselesaikan secara redundan, dengan transfer pengetahuan minimal antar sistem.

Penyebaran agen menciptakan sistem yang beroperasi secara independen, tanpa konteks atau mekanisme bersama untuk menyelesaikan masalah ketika output tumpang tindih. Tanpa orkestrasi terpusat, agen mungkin menduplikasi pekerjaan atau membuat loop masukan yang tidak diinginkan. Duplikasi dan loop ini dengan cepat menambah kesalahan di seluruh sistem yang saling berhubungan. 

Mengingat tingkat adopsi AI agen, banyak organisasi tidak memiliki kebijakan dan proses holistik untuk mengelola jaringan agen besar secara bertanggung jawab. Ini berarti bahwa mungkin saja:

• Tidak ada alur kerja persetujuan standar sebelum penerapan agen

• Tidak ada kepemilikan yang ditentukan untuk jika dan kapan kesalahan terjadi

• Kurangnya proses siklus hidup untuk agen pensiun ketika mereka tidak lagi diperlukan.

Tanpa praktik tata kelola di seluruh organisasi, risiko meningkat secara eksponensial. 

Agen AI tanpa kontrol keamanan yang kuat dan kepatuhan dapat mengakses data sensitif tanpa otorisasi yang tepat atau melewati jalur audit. Ketika agen bertindak secara mandiri dalam skala besar, kesalahan konfigurasi tunggal dapatmenjadi tanggung jawab di seluruh organisasi.

Risiko seperti ini sangat mendesak di bidang-bidang seperti keuangan atau perawatan kesehatan, di mana mereka dapat secara tidak sengaja mengekspos informasi yang dilindungi. Kerangka kerja peraturan seperti HIPAA atau GDPR dapat menjadi mustahil untuk dipenuhi ketika tidak ada sumber kebenaran tunggal yang membahas apa yang diakses agen atau cara mereka mengambil keputusan. 

Ketika tim yang berbeda membangun agen serupa—atau bahkan agen identik—setiap tim menanggung biaya infrastrukturnya sendiri. Seiring waktu, harga token komputasi dan API, serta biaya lisensi pihak ketiga, meningkat. Dan sistem AI yang tidak terbenam dengan benar dapat Lanjutkan menggunakan sumber daya setelah pensiun, menguras anggaran dan memakan sumber daya yang berharga. 

Ketika jaringan agen terfragmentasi dan tersilo, mereka lebih sulit untuk menskalakan secara efektif. Ekosistem agen yang luas dapat sulit untuk dipelihara dan ditingkatkan. Agen yang dibangun secara terpisah mungkin mereplikasi upaya, tetapi yang lebih penting, mereka tidak memiliki alat bersama. Perangkat bantu bersama ini berpotensi mengubah praktik di berbagai departemen dan memungkinkan agen untuk dipantau dan dicatat dengan lebih mudah.

Penyebaran agen juga menghasilkan respons insiden yang lebih lambat secara dramatis jika agen membuat kesalahan dan tim yang bertanggung jawab tidak segera diidentifikasi. Dan menanggapi insiden yang berasal dari agen yang dikompromikan atau penggunaan data yang tidak sah dapat menciptakan risiko serius ketika agen yang kompleks, saling bergantung, dan tidak dapat dijelaskan terlibat.

Menurut laporan Connectivity Benchmark Salesforce tahun 2026, rata-rata organisasi menggunakan 12 atau lebih agen AI, tetapi 50% dari agen-agen AI tersebut beroperasi di silo daripada sebagai bagian dari sistem yang terkoordinasi. Tanpa koordinasi yang disengaja, pipeline data yang sama dapat dibangun beberapa kali, dan setiap sistem agen mempertahankan versi kebenarannya sendiri. Hal ini dapat menimbulkan output yang saling bertentangan.

Fragmentasi data mempersulit pelacakan garis keturunan, sehingga sulit untuk mengaudit agen mana yang membuat keputusan tertentu. Fragmentasi data ini juga mencegah organisasi menyadari nilai sebenarnya dari ekosistem lintas departemen otonom yang berbagi data yang sesuai dengan lancar. 

Penyebaran agen dan AI bayangan saling terkait namun istilahnya berbeda. AI bayangan menggambarkan penggunaan alat yang tidak sah oleh karyawan. Misalnya, prospek pemasaran menggunakan akun LLM pribadi seperti ChatGPT untuk memproses dokumen kerja. Penyebaran agen AI, sebaliknya, menggambarkan fenomena struktural. Bahkan agen yang disetujui TI dapat berkontribusi pada penerapan jika mereka dikerahkan tanpa koordinasi.

Tetapi penyebaran agen AI terkadang secara tidak sengaja dapat menyebabkan peningkatan perubahan AI bayangan, seperti yang ditemukan Gartner. “Ketika CIO dan pemimpin TI melihat ledakan agen AI di seluruh organisasi mereka,” tulis Max Goss, analis direktur senior di Gartner, “banyak yang bersaing dengan penyebaran agen yang tidak diatur yang mengekspos organisasi mereka terhadap berbagai risiko, termasuk berbagi berlebihan dan kehilangan data.” Banyak perusahaan, tambahnya, cenderung memblokir atau membatasi penggunaan agen. Sayangnya, taktik ini mendorong karyawan untuk menggunakan bayangan AI sebagai gantinya sehingga menciptakan risiko keamanan dan kepatuhan yang jauh lebih serius.

Penyebaran agen AI mencerminkan babak terbaru dalam teknologi perusahaan yang melampaui kapasitas organisasi untuk mengaturnya. Ini adalah pola yang telah berulang dengan kecepatan yang meningkat. Sebagai contoh, penyebaran SaaS dan TI bayangan yang diakibatkan oleh teknologi cloud yang membuat perangkat lunak baru menjadi lebih mudah diadopsi, sering kali tanpa sepengetahuan departemen TI yang terpusat.

Potensi AI agen untuk mengubah alur kerja dan menciptakan kemitraan manusia-AI yang kuat telah menghasilkan adopsi skala luas. Menurut riset internal dari IBM®, mayoritas perusahaan sudah menggunakan agen AI dalam beberapa kapasitas.

Tetapi mengingat proliferasi alat AI yang mampu membuat agen dengan cepat, membangun alat agen tidak lagi membutuhkan insinyur perangkat lunak atau proses penyempurnaan yang panjang. Alat seperti Copilot Studio Microsoft dan AgentForce Salesforce mendukung opsi pengembangan agen low-code dan no-code—solusi canggih yang tetap mendorong penerapan cepat di seluruh departemen. Dengan kata lain, riset internal IBM® yang sama menemukan sejumlah besar perusahaan melaporkan penyebaran AI sudah meningkatkan risiko keamanan dan mengakibatkan kompleksitas yang tidak perlu.

Dampaknya sangat signifikan: Hampir semua divisi dalam enterprise besar kini dapat menerapkan agen AI otonom, namun mekanisme kontrol dan tata kelola untuk jaringan yang luas tersebut masih kurang tersedia. Namun, demokratisasi AI dan pengembangan platform agen, bersama dengan keuntungan bisnis nyata yang dijanjikan oleh teknologi semacam itu, membuat mereka sulit untuk ditinggalkan. Mengatur agen AI secara bertanggung jawab membutuhkan pendekatan terpusat dan disengaja yang memantau dan mengoptimalkan perilaku agen dalam skala besar.

Kurangnya model yang dapat diskalakan untuk mengendalikan penggunaan AI di seluruh organisasi juga mencegah koordinasi di seluruh perusahaan. “Tidak ada klien yang tidak memiliki setidaknya 60 tindakan acak AI yang terjadi di seluruh organisasi dengan bayangan TI, bayangan AI,” kata Matt Kosinski pada episode baru-baru ini podcast Mixture of Experts IBM®. “Dan setiap departemen dan eksekutif [akan] pergi, saya sebenarnya yang memimpin ini dari pengadaan, atau dari SDM atau dari unit bisnis ini.” 

Sulit untuk mengatur apa yang mustahil untuk dilihat. Keberhasilan mengatasi penyebaran agenvumumnya diawali dengan inventaris lengkap, termasuk pemindaian otomatis pada lingkungan cloud dan API untuk menampilkan seluruh agen yang sedang aktif. Mekanisme untuk menemukan agen otonom informal yang beroperasi di luar saluran resmi juga harus disertakan. Menerapkan proses penemuan berkelanjutan bisa lebih bermanfaat dibanding audit satu kali, karena agen baru akan terus masuk ke dalam ekosistem. Selama ini, program pengendalian penyebaran yang sukses akan mencakup pembentukan inventaris terpusat di seluruh perusahaan untuk melacak pemilik, tujuan, dan izin akses data dari para agen. 

Setelah agen menjadi entitas yang dikenal di seluruh organisasi, organisasi harus menetapkan aturan yang jelas seputar siapa yang dapat membuat, menerapkan, dan berbagi agen—serta menetapkan aturan kepatuhan untuk alat AI. Penggunaan data, batas tarif, dan alat penghubung harus dipantau dengan cermat, dan inventaris agen dapat digunakan untuk membangun kontrol adaptif yang menegakkan kebijakan yang tepat berdasarkan tingkat risiko yang dibawa agen. 

Standardisasi membantu mengurangi perluasan di masa depan. Batasi berapa banyak platform yang digunakan untuk membuat agen untuk mengurangi kompleksitas arsitektur, dan membangun visibilitas berkelanjutan ke dalam penggunaan agen untuk membantu memastikan kepatuhan kebijakan standar. Dasbor real-time membantu mengidentifikasi perilaku abnormal serta mengoreksi agen yang salah bertindak atau melebihi batas fungsi yang ditentukan. Ketika membangun agen baru lebih mudah melalui jalur standar perusahaan daripada di luarnya, tata kelola dapat menjadi penguat dengan sendirinya. 

Respons yang efektif terhadap penyebaran agen menggabungkan toolkit tertentu dengan proses organisasi yang disengaja. Semakin banyak solusi yang paling kuat terintegrasi dengan lancar: Misalnya, alat pengodean yang bekerja bersama-sama dengan lapisan orkestrasi dan panel kontrol perusahaan untuk terus membangun, memantau, dan mengoptimalkan AI agen di seluruh siklus pengembangan.

Bidang kontrol Enterprise adalah lapisan manajemen terpusat yang memberikan visibilitas dan kontrol organisasi atas sistem otonom. Lapisan-lapisan ini berada di atas agen AI, LLM, dan alat bantu AI lainnya, bertindak sebagai semacam kontrol misi. Bidang kontrol biasanya memungkinkan perusahaan untuk mengamati, mengonfigurasi, dan mengatur sistem otonom dari satu sumber. 

Memerangi AI bayangan dan penyebaran agen membutuhkan mitra pengodean yang kuat, terstandardisasi, dan aman. Mitra pengembangan AI perusahaan saat ini, seperti IBM® Bob, dibangun di atas kerangka kerja terstruktur dan disematkan ke dalam setiap langkah siklus hidup pengembangan perangkat lunak—mulai dari perencanaan hingga pengujian dan operasi. Dengan memberikan transparansi standar dan kontrol keamanan sejak hari pertama, alat ini memungkinkan organisasi untuk menskalakan dengan cepat dan tetap memegang kendali sekaligus mengurangi penyebaran secara signifikan.

Dalam kasus Bob, developer tools terintegrasi dengan lancar dengan watsonx Orchestrate, bidang kontrol terpusat. Dengan bekerja secara terpadu, sistem-sistem ini dapat menangani masalah secara real-time, memberikan saran perbaikan, dan membangun agen baru untuk mengatasinya. Sistem ini juga membuat alur kerja berbasis agen yang mendokumentasikan sendiri, memastikan setiap tindakan dapat diaudit dan dapat dilacak.

Alat bantu AI TriSM—kategori yang diformalkan oleh Gartner—menyediakan pemantauan perilaku AI secara berkelanjutan. Biasanya, alat ini mendeteksi anomali, menegakkan pagar pembatas, dan pelanggaran kebijakan permukaan. Alat ini memperlakukan agen AI sebagai entitas yang dapat diamati dan diaudit, menerapkan kontrol waktu proses yang tidak memerlukan agen untuk sepenuhnya dibangun kembali. 

Kerangka kerja tata kelola menetapkan aturan organisasi tentang siapa yang dapat menyebarkan agen dan kerangka persetujuan apa yang harus mereka ikuti. Organisasi ini mungkin juga membahas sumber data mana yang diizinkan untuk digunakan dan standar kinerja apa yang harus dipenuhi sebelum agen dirilis. Kerangka kerja tata kelola yang paling efektif menetapkan kepemilikan dan izin secara jelas, mendefinisikan alur eskalasi, dengan lancar bersama proses manajemen risiko perusahaan yang sudah ada, bukan beroperasi secara terpisah. 

Registri agen bertindak sebagai sumber kebenaran tunggal dengan membuat katalog setiap agen AI yang diterapkan di seluruh organisasi. Registri mendokumentasikan tujuan agen, pemilik, akses data, versi model, dan status operasional, di antara berbagai variabel lainnya.

Basis data ini mengubah ekosistem AI menjadi inventaris yang diketahui dan dikelola. Inventaris modern seringkali dinamis—agen terdaftar pada penerapan dan memperbarui statusnya secara otomatis—daripada mengandalkan dokumentasi manual yang lebih rawan kesalahan. 

Dalam banyak kasus, penyebaran merupakan kegagalan penonaktifan, di mana agen terus berjalan setelah penerapan tanpa pernah dihentikan. Alat manajemen siklus hidup menegakkan sistem yang ditentukan sejak pengembangan dimulai, memicu tinjauan secara berkala dan secara otomatis muncul agen yang tidak aktif. 

Daripada membiarkan agen bekerja secara terpisah, platform orkestrasi mengoordinasikan alur kerja multi-agen dengan mengatur cara agen berkomunikasi, berbagi konteks, menyerahkan tugas, dan melakukan eskalasi ke manusia. Dengan membuat hubungan antar agen eksplisit dan dapat diamati, orkestrasi mengurangi redundansi dan menyediakan titik integrasi alami untuk pemantauan, pengoptimalan, pencatatan, dan kontrol akses.