Apa itu agen AI?

Agen AI dapat mencakup berbagai fungsi di luar pemrosesan bahasa alami termasuk pengambilan keputusan, pemecahan masalah, berinteraksi dengan lingkungan eksternal da melakukan tindakan.

Agen AI menyelesaikan tugas-tugas kompleks di seluruh aplikasi perusahaan, termasuk desain perangkat lunak, otomatisasi TI, pembuatan kode, dan bantuan percakapan. Agen AI menggunakan teknik pemrosesan bahasa alami tingkat lanjut dari model bahasa besar (LLM) untuk memahami dan merespons input pengguna selangkah demi selangkah dan menentukan kapan harus memanggil alat bantu eksternal.

Inti agen AI adalah model bahasa besar(LLM). Karena alasan ini, agen AI sering disebut sebagai agen LLM. LLM tradisional, seperti model IBM® Granite, membuat tanggapan berdasarkan data yang digunakan untuk melatihnya dan dibatasi oleh keterbatasan pengetahuan dan pemikiran. Sebaliknya, teknologi agen menggunakan pemanggilan alat di backend untuk mendapatkan informasi terkini, mengoptimalkan alur kerja, dan membuat sub-tugas secara mandiri untuk mencapai tujuan yang kompleks.

Dalam proses ini, agen otonom belajar beradaptasi dengan harapan pengguna dari waktu ke waktu. Kemampuan agen untuk menyimpan interaksi masa lalu dalam memori dan merencanakan tindakan di masa depan mendorong pengalaman yang dipersonalisasi dan respons yang komprehensif.¹ Pemanggilan alat ini dapat dilakukan tanpa campur tangan manusia dan memperluas kemungkinan untuk aplikasi dunia nyata dari sistem AI ini. Tiga tahap atau komponen agen ini menentukan bagaimana agen beroperasi:

Meskipun agen AI otonom dalam proses pengambilan keputusan mereka, mereka memerlukan tujuan dan aturan yang telah ditentukan oleh manusia.² Ada tiga pengaruh utama pada perilaku agen otonom :

• Tim pengembang yang merancang dan melatih sistem AI agen. 
• Tim yang menempatkan agen dan memberikan akses kepada pengguna.
• Pengguna yang menyediakan agen AI dengan tujuan spesifik untuk dicapai dan menetapkan alat yang tersedia untuk digunakan.

Dengan mempertimbangkan tujuan pengguna dan alat bantu yang tersedia, agen AI selanjutnya melakukan dekomposisi tugas untuk meningkatkan kinerja.³ Pada dasarnya, agen membuat rencana tugas tertentu dan subtugas untuk mencapai tujuan yang kompleks.

Untuk tugas-tugas sederhana, perencanaan bukanlah langkah yang diperlukan. Sebaliknya, agen dapat secara berulang merefleksikan tanggapannya dan memperbaikinya tanpa merencanakan langkah selanjutnya.

Agen AI mendasarkan tindakan pada informasi yang diterima. Namun, seringkali agen tidak memiliki pengetahuan penuh yang diperlukan untuk menangani setiap subtugas dalam tujuan yang kompleks. Untuk menjembatani kesenjangan ini, agen beralih ke alat yang tersedia seperti kumpulan data eksternal, pencarian web, API, dan bahkan agen lainnya.

Setelah informasi yang hilang dikumpulkan, agen memperbarui basis pengetahuannya dan terlibat dalam penalaran agen. Proses ini melibatkan penilaian ulang secara berkelanjutan terhadap rencana aksi dan melakukan koreksi diri, yang memungkinkan pengambilan keputusan yang lebih tepat dan adaptif.

Untuk membantu menggambarkan proses ini, bayangkan pengguna merencanakan liburan mereka. Pengguna menugaskan agen AI untuk memprediksi minggu mana dalam satu tahun ke depan yang kemungkinan memiliki cuaca terbaik untuk perjalanan berselancar ke Yunani. 

Karena model LLM yang menjadi inti agen tidak spesialis dalam pola cuaca, model tersebut tidak dapat sepenuhnya mengandalkan pengetahuan internalnya. Oleh karena itu, agen mengumpulkan informasi dari basis data eksternal yang berisi laporan cuaca harian Yunani selama beberapa tahun terakhir.

Meskipun telah mendapatkan informasi baru ini, agen masih belum dapat menentukan kondisi cuaca yang optimal untuk berselancar, sehingga subtugas berikutnya dibuat. Untuk subtugas ini, agen berkomunikasi dengan agen eksternal yang berspesialisasi dalam berselancar. Katakanlah dengan melakukan hal tersebut, agen mengetahui bahwa ombak yang tinggi dan cuaca cerah dengan sedikit atau tanpa hujan akan memberikan kondisi berselancar terbaik.

Agen sekarang dapat menggabungkan informasi yang telah dipelajari dari alatnya untuk mengidentifikasi pola. Alat ini dapat memprediksi minggu mana pada tahun depan di Yunani yang kemungkinan akan mengalami pasang, cuaca cerah, dan kemungkinan hujan yang rendah. Temuan ini kemudian disajikan kepada pengguna. Pembagian informasi di antara alat ini yang membuat agen AI dapat digunakan untuk tujuan yang lebih umum daripada model AI tradisional.³

Agen AI menggunakan mekanisme masukan, seperti agen AI lain dan human-in-the-loop (HITL), untuk meningkatkan keakuratan respons. Mari kembali ke contoh selancar kita sebelumnya untuk menyoroti proses ini. Setelah agen membentuk responsnya terhadap pengguna, agen menyimpan informasi yang dipelajari bersama dengan masukan pengguna untuk meningkatkan kinerja dan menyesuaikan dengan preferensi pengguna untuk tujuan di masa mendatang.

Jika agen lain digunakan untuk mencapai tujuan, masukan mereka mungkin juga akan digunakan. Masukan multi-agen dapat sangat berguna dalam meminimalkan waktu yang dihabiskan pengguna manusia untuk memberikan arahan. Namun, pengguna juga dapat memberikan masukan selama tindakan agen dan alasan internal untuk menyelaraskan hasil dengan tujuan yang diinginkan.²

Mekanisme umpan balik meningkatkan penalaran dan akurasi agen AI, yang biasa disebut sebagai penyempurnaan berulang.³ Untuk menghindari mengulangi kesalahan yang sama, agen AI juga dapat menyimpan data tentang solusi untuk hambatan sebelumnya di basis pengetahuan.

Chatbot AI menggunakan teknik AI percakapan seperti pemrosesan bahasa alami (NLP) untuk memahami pertanyaan pengguna dan mengotomatiskan jawabannya. Chatbot ini adalah suatu modalitas, sementara agensi adalah kerangka kerja teknologi.

Chatbot AI non-agen adalah chatbot yang tidak memiliki alat, memori, dan penalaran yang tersedia. Chatbot ini hanya dapat mencapai tujuan jangka pendek dan tidak dapat membuat perencanaan ke depan. Seperti yang kita ketahui, chatbot non-agen memerlukan input pengguna yang terus-menerus untuk dapat memberikan respons.

Chatbot non-agen dapat menghasilkan respons terhadap pertanyaan umum yang kemungkinan besar sesuai dengan harapan pengguna, tetapi berkinerja buruk pada pertanyaan yang unik bagi pengguna dan data. Karena tidak memiliki memori, chatbot ini tidak dapat belajar dari kesalahan jika respons yang dihasilkan tidak memuaskan.

Sebaliknya, chatbot AI agen belajar beradaptasi dengan ekspektasi pengguna dari waktu ke waktu, yang memberikan pengalaman yang lebih personal dan respons yang komprehensif. Mereka dapat menyelesaikan tugas-tugas kompleks dengan membuat subtugas tanpa campur tangan manusia dan mempertimbangkan rencana yang berbeda. Rencana ini juga dapat diperbaiki sendiri dan diperbarui bila diperlukan. Chatbot AI agen, berbeda dengan chatbot non-agen, mengevaluasi alat-alat yang mereka miliki dan menggunakan sumber daya yang tersedia untuk melengkapi informasi.

Tidak ada satu pun arsitektur standar untuk membangun agen AI. Ada beberapa paradigma untuk memecahkan masalah dengan beberapa langkah.

Dengan paradigma ReAct, kita dapat menginstruksikan agen untuk "berpikir" dan merencanakan setelah setiap tindakan yang diambil dan dengan setiap respons alat untuk memutuskan alat mana yang akan digunakan selanjutnya. Siklus Berpikir-Bertindak-Amati ini digunakan untuk memecahkan masalah selangkah demi selangkah dan secara berulang meningkatkan respons.

Melalui struktur prompt, agen dapat diperintah untuk melakukan penalaran secara perlahan dan menampilkan setiap "pemikiran".⁴ Penalaran verbal agen memberikan insight tentang bagaimana tanggapan dirumuskan. Dalam kerangka kerja ini, agen terus memperbarui konteks mereka dengan alasan baru. Pendekatan ini dapat diartikan sebagai bentuk dorongan Chain-of-Thought.

Metode ReWoO, tidak seperti ReAct, menghilangkan ketergantungan pada output alat untuk perencanaan tindakan. Sebaliknya, agen membuat rencana terlebih dahulu. Penggunaan alat yang berlebihan dapat dihindari dengan mengantisipasi alat mana yang akan digunakan setelah menerima prompt awal dari pengguna. Pendekatan ini dianjurkan dari perspektif berorientasi pada manusia karena pengguna dapat memverifikasi rencana sebelum dieksekusi.

Alur kerja ReWOO terdiri dari tiga modul. Dalam modul perencanaan, agen mengantisipasi langkah selanjutnya berdasarkan prompt dari pengguna. Tahap berikutnya memerlukan pengumpulan output yang dihasilkan dengan memanggil alat ini. Terakhir, agen memasangkan rencana awal dengan output alat untuk merumuskan respons. Perencanaan yang matang ini dapat secara signifikan mengurangi penggunaan token dan kompleksitas komputasi, serta dampak dari kegagalan alat perantara.⁵

Agen AI dapat dikembangkan agar memiliki berbagai tingkat kemampuan. Agen sederhana mungkin lebih disukai untuk tujuan yang jelas dan sederhana guna membatasi kompleksitas komputasi yang tidak perlu. Dalam urutan paling sederhana hingga paling canggih, ada 5 jenis agen:

Agen refleks sederhana adalah bentuk agen paling sederhana yang mendasarkan tindakan pada persepsi. Agen ini tidak menyimpan memori apa pun, juga tidak berinteraksi dengan agen lain jika ada informasi yang tidak tersedia. Agen-agen ini berfungsi pada seperangkat hal yang disebut refleks atau aturan. Perilaku ini berarti bahwa agen telah diprogram sebelumnya untuk melakukan tindakan yang sesuai dengan kondisi tertentu yang terpenuhi.

Jika agen menghadapi situasi yang tidak dipersiapkan, agen tidak dapat merespons dengan tepat. Agen hanya efektif dalam lingkungan yang dapat diamati sepenuhnya dan memberikan akses ke semua informasi yang diperlukan.⁶

Contoh: Saat pukul 8 malam, sistem pemanas diaktifkan—misalnya, termostat yang mengaktifkan sistem pemanas pada waktu yang telah ditentukan setiap malam.

Agen refleks berbasis model menggunakan persepsi dan memori mereka saat ini untuk mempertahankan model internal dunia. Saat agen terus menerima informasi baru, model diperbarui. Tindakan agen bergantung pada model, refleks, ajaran sebelumnya, dan kondisi saat ini.

Agen ini, tidak seperti agen refleks sederhana, dapat menyimpan informasi dalam memori dan dapat beroperasi di lingkungan yang sebagian dapat diamati dan berubah. Namun, agen ini masih dibatasi oleh seperangkat aturan.⁶

Contoh: Robot penyedot debu. Saat membersihkan ruangan yang kotor, ia merasakan rintangan seperti furnitur dan menyesuaikan di sekitarnya. Robot juga menyimpan model area yang telah dibersihkan agar tidak terjebak dalam lingkaran pembersihan berulang.

Agen berbasis tujuan memiliki model internal dunia dan juga tujuan atau serangkaian tujuan. Agen ini mencari urutan tindakan yang mencapai tujuan mereka dan merencanakan tindakan ini sebelum menindaklanjutinya. Pencarian dan perencanaan ini meningkatkan efektivitasnya jika dibandingkan dengan agen refleks yang sederhana dan berbasis model.⁷

Contoh: Sistem navigasi yang merekomendasikan rute tercepat ke tempat tujuan Anda. Model mempertimbangkan berbagai rute yang mencapai tujuan Anda, atau dengan kata lain, tujuan Anda. Dalam contoh ini, aturan kondisi-tindakan agen menyatakan bahwa jika rute yang lebih cepat ditemukan, agen akan merekomendasikan rute tersebut.

Agen berbasis utilitas memilih urutan tindakan yang mencapai tujuan dan juga memaksimalkan utilitas atau hadiah. Utilitas dihitung melalui fungsi utilitas. Fungsi ini memberikan nilai utilitas, sebuah metrik yang mengukur kegunaan suatu tindakan atau seberapa besar hal itu akan membuat agen “bahagia”, untuk setiap skenario berdasarkan seperangkat kriteria tetap.

Kriteria dapat mencakup beberapa faktor, seperti kemajuan menuju tujuan, persyaratan waktu, atau kompleksitas komputasi. Agen selanjutnya memilih tindakan yang memaksimalkan utilitas yang diharapkan. Oleh karena itu, agen-agen ini berguna dalam kasus di mana beberapa skenario berhasil mencapai tujuan yang diinginkan dan skenario yang paling optimal harus dipilih.⁷

Contoh: Sistem navigasi yang merekomendasikan rute ke tempat tujuan Anda yang mengoptimalkan efisiensi bahan bakar dan meminimalkan waktu yang dihabiskan dalam lalu lintas dan biaya tol. Agen ini mengukur utilitas melalui serangkaian kriteria ini untuk memilih rute yang paling menguntungkan.

Agen pembelajaran memiliki kemampuan yang sama dengan jenis agen lain tetapi memiliki kemampuan belajar yang unik. Pengalaman baru ditambahkan ke basis pengetahuan awal, yang terjadi secara mandiri. Pembelajaran ini meningkatkan kemampuan agen untuk beroperasi di lingkungan yang tidak dikenal. Agen pembelajaran dapat bersifat utilitas atau berbasis tujuan dalam proses penalarannya dan terdiri dari empat unsur utama:⁷

• Pembelajaran: Proses ini meningkatkan pengetahuan agen dengan belajar dari lingkungan melalui prinsip dan sensor yang dimiliki.
• Kritik: Komponen ini memberikan masukan kepada agen mengenai apakah kualitas tanggapannya memenuhi standar kinerja.
• Kinerja: Elemen ini bertanggung jawab untuk memilih tindakan setelah pembelajaran.
• Generator masalah: Modul ini menghasilkan berbagai usulan tindakan yang dapat diambil.

Contoh: Rekomendasi yang dipersonalisasi di situs e-commerce. Agen-agen ini melacak aktivitas dan preferensi pengguna dalam memori mereka. Informasi ini digunakan untuk merekomendasikan produk dan layanan tertentu kepada pengguna. Siklus berulang setiap kali rekomendasi baru dibuat. Aktivitas pengguna terus disimpan untuk tujuan pembelajaran. Dengan demikian, agen meningkatkan akurasinya dari waktu ke waktu.

Dengan semakin majunya AI generatif dan machine learning, minat dalam pengoptimalan alur kerja melalui AI, atau otomatisasi cerdas pun semakin meningkat. Agen AI adalah alat AI yang dapat mengotomatiskan tugas-tugas rumit yang sebelumnya memerlukan sumber daya manusia. Karena pergeseran ini, berbagai tujuan kini dapat dicapai dengan murah, cepat, dan dalam skala besar. Nantinya, kemajuan ini berarti agen manusia tidak perlu memberikan arahan kepada  asisten AI  untuk membuat dan menavigasi tugasnya.

Kerangka kerja multiagen cenderung mengungguli agen tunggal.¹¹ Karena semakin banyak rencana tindakan yang tersedia untuk agen, maka semakin banyak pembelajaran dan refleksi yang terjadi.

Agen AI yang menggabungkan pengetahuan dan masukan dari agen AI lain yang berspesialisasi dalam bidang terkait dapat berguna untuk sintesis informasi. Kolaborasi backend agen AI dan kemampuan untuk mengisi kesenjangan informasi ini merupakan keunikan dari kerangka kerja agen, menjadikannya alat yang kuat dan kemajuan yang berarti dalam kecerdasan buatan.

Agen AI memberikan respons yang lebih komprehensif, akurat, dan dipersonalisasi untuk pengguna daripada model AI tradisional. Kemampuan beradaptasi ini penting bagi kami sebagai pengguna karena respons berkualitas tinggi umumnya menghasilkan pengalaman pelanggan yang lebih baik. Seperti yang telah dijelaskan sebelumnya, kemampuan ini dimungkinkan melalui pertukaran informasi dengan agen lain, melalui alat-alat, dan pembaruan aliran memori. Perilaku ini muncul dengan sendirinya dan tidak diprogram sebelumnya.¹²

Tugas-tugas tertentu yang kompleks memerlukan pengetahuan dari beberapa agen AI. Orkestrasi kerangka kerja multiagen ini memiliki risiko malafungsi. Sistem multiagen yang dibangun di atas model dasar yang sama mungkin memiliki kelemahan yang sama. Kelemahan seperti itu dapat menyebabkan kegagalan seluruh sistem dan meliputi semua agen yang terlibat atau menimbulkan kerentanan terhadap serangan yang merugikan.¹³ Hal ini menyoroti pentingnya tata kelola data dalam membangun model dasar dan proses pelatihan dan pengujian yang menyeluruh.

Kenyamanan penalaran mandiri bagi pengguna manusia yang menggunakan agen AI juga memiliki risiko. Agen yang tidak mampu membuat rencana komprehensif atau merefleksikan temuan, mungkin akan terus-menerus menggunakan alat yang sama, menyebabkan lingkaran masukan yang tak berujung. Untuk mencegah redundansi ini, beberapa tingkat pemantauan manusia secara real-time dapat digunakan.¹³

Membangun agen AI dari awal memakan waktu dan juga bisa sangat mahal secara komputasi. Sumber daya yang dibutuhkan untuk melatih agen berkinerja tinggi bisa sangat banyak. Selain itu, tergantung pada tingkat kesulitan tugas, agen dapat membutuhkan beberapa hari untuk menyelesaikan tugas.¹²

Jika salah dikelola, integrasi agen AI dengan proses bisnis dan sistem manajemen pelanggan dapat menimbulkan beberapa masalah keamanan yang serius. Misalnya, bayangkan agen AI memimpin proses pengembangan perangkat lunak, membawa kopilot pengodean ke tingkat berikutnya, atau menentukan harga untuk klien—tanpa pengawasan manusia atau pagar pembatas. Hasil skenario semacam itu mungkin merugikan karena perilaku AI agen yang bersifat eksperimental dan seringkali tidak dapat diprediksi.

Oleh karena itu, sangat penting bagi penyedia AI seperti IBM, Microsoft dan OpenAI untuk tetap proaktif. Mereka harus menerapkan protokol keamanan yang komprehensif untuk memastikan bahwa data karyawan dan pelanggan yang sensitif disimpan dengan aman. Praktik penerapan yang bertanggung jawab adalah kunci untuk meminimalkan risiko dan mempertahankan kepercayaan terhadap teknologi yang berkembang dengan cepat ini.

Untuk mengatasi masalah ketergantungan multiagen, pengembang dapat memberikan akses ke log tindakan agen kepada pengguna.¹⁴ Tindakan dapat termasuk penggunaan alat eksternal dan mendeskripsikan agen eksternal yang digunakan untuk mencapai tujuan. Transparansi ini memberikan insight kepada pengguna tentang proses pengambilan keputusan yang berulang, memberikan kesempatan untuk menemukan kesalahan dan membangun kepercayaan.

Dianjurkan untuk mencegah agen AI otonom berjalan untuk jangka waktu yang terlalu lama. Khususnya, dalam kasus lingkaran masukan tak terbatas yang tidak diinginkan, perubahan akses ke alat tertentu, atau malafungsi karena kekurangan desain. Salah satu cara untuk mencapai tujuan ini adalah dengan menerapkan kemampuan interupsi.

Menjaga kendali atas keputusan ini melibatkan pemberian opsi kepada pengguna manusia untuk menghentikan dengan tuntas urutan tindakan atau seluruh operasi. Memilih apakah dan kapan harus menghentikan agen AI memerlukan pertimbangan karena beberapa penghentian dapat menyebabkan lebih banyak kerugian daripada keuntungan. Misalnya, mungkin lebih aman jika agen yang rusak masih diizinkan untuk terus membantu dalam keadaan darurat yang mengancam jiwa daripada sepenuhnya dimatikan.⁵

Untuk mengurangi risiko sistem agen yang digunakan untuk tujuan jahat, pengenal unik dapat diimplementasikan. Jika identifikasi ini diwajibkan agar agen dapat mengakses sistem eksternal, melacak asal usul pengembang, pelaksana penerapan, dan pengguna agen akan menjadi lebih mudah.

Pendekatan ini menambahkan lapisan akuntabilitas yang penting. Ketertelusuran membantu mengidentifikasi pihak yang bertanggung jawab ketika agen menyebabkan penggunaan berbahaya atau kerusakan yang tidak diinginkan. Pada akhirnya, perlindungan semacam ini akan mendorong lingkungan operasional yang lebih aman bagi agen AI.

Untuk membantu dalam proses pembelajaran agen AI, terutama pada tahap awal di lingkungan baru, akan sangat membantu jika sesekali diberikan pengawasan manusia. Jadi, berdasarkan panduan ini, agen AI dapat membandingkan kinerjanya dengan standar yang diharapkan dan melakukan penyesuaian. Bentuk masukan ini sangat membantu dalam meningkatkan kemampuan adaptasi agen terhadap preferensi pengguna.⁵

Selain langkah pengamanan ini, praktik terbaik adalah mengharuskan persetujuan manusia sebelum agen AI mengambil tindakan yang berdampak besar. Misalnya, tindakan mulai dari pengiriman email massal hingga perdagangan keuangan harus memerlukan konfirmasi manusia.⁷ Beberapa tingkat pemantauan manusia direkomendasikan untuk domain berisiko tinggi tersebut.