Apa itu AI agen?

Tidak seperti model AI tradisional, yang beroperasi dalam batasan yang telah ditentukan dan memerlukan intervensi manusia, AI agen menunjukkan otonomi, perilaku yang digerakkan oleh tujuan, dan kemampuan beradaptasi. Istilah “agen” mengacu pada agensi model ini, atau, kapasitas untuk bertindak secara independen dan terarah.

Sistem agen memiliki berbagai keunggulan dibandingkan pendahulunya yang bersifat generatif, yang dibatasi oleh informasi yang terkandung dalam kumpulan data yang menjadi dasar pelatihan model.

Kemajuan paling penting dari sistem agen adalah bahwa sistem ini memungkinkan otonomi untuk melakukan tugas tanpa pengawasan manusia secara terus-menerus. Sistem agen dapat mempertahankan tujuan jangka panjang, mengelola tugas pemecahan masalah multilangkah, dan melacak kemajuan dari waktu ke waktu.

Sistem agen memberikan fleksibilitas LLM, yang dapat menghasilkan respons atau tindakan berdasarkan pemahaman yang bernuansa dan bergantung pada konteks, dengan fitur pemrograman tradisional yang terstruktur, deterministik, dan andal. Pendekatan ini memungkinkan agen untuk “berpikir” dan “melakukan” dengan cara yang lebih menyerupai manusia.

LLM sendiri tidak dapat berinteraksi langsung dengan alat atau basis data eksternal atau menyiapkan sistem untuk memantau dan mengumpulkan data secara real time, tetapi agen dapat melakukannya. Agen dapat menelusuri web, memanggil antarmuka pemrograman aplikasi (API), dan meminta database, lalu menggunakan informasi ini untuk membuat keputusan dan mengambil tindakan.

Agen dapat dikhususkan untuk tugas-tugas tertentu. Beberapa agen sederhana dapat melakukan satu tugas berulang dengan andal. Agen lainnya dapat menggunakan persepsi dan memanfaatkan memori untuk memecahkan masalah yang lebih kompleks. Sebuah arsitektur agen mungkin mencakup model “konduktor” berbasis LLM yang mengawasi pelaksanaan tugas dan pengambilan keputusan, serta mengawasi agen lain yang lebih sederhana. Arsitektur semacam ini cocok untuk alur kerja bertahap, tetapi rentan mengalami kemacetan. Arsitektur lainnya lebih bersifat horizontal, dengan agen-agen yang bekerja selaras dan setara dengan cara yang terdesentralisasi. Namun, arsitektur ini bisa jadi lebih lambat dibandingkan dengan hierarki vertikal. Aplikasi AI yang berbeda memerlukan arsitektur yang berbeda pula.

Agen dapat belajar dari pengalaman mereka, menerima masukan, dan menyesuaikan perilaku mereka. Dengan pembatas yang tepat, sistem agen dapat terus ditingkatkan. Sistem multiagen memiliki skalabilitas untuk pada akhirnya menangani inisiatif yang tercakup luas.

Karena sistem agen didukung oleh LLM, pengguna dapat terlibat dengannya dengan prompt bahasa alami. Ini berarti bahwa seluruh antarmuka perangkat lunak—bayangkan tab, menu tarik turun, grafik, slider, pop-up, dan elemen UI lainnya yang terlibat dalam platform SaaS pilihan seseorang—dapat digantikan oleh bahasa sederhana atau perintah suara. Secara teoretis, pengalaman pengguna perangkat lunak apa pun sekarang dapat direduksi menjadi "berbicara" dengan agen, yang dapat mengambil informasi yang dibutuhkan dan mengambil tindakan berdasarkan informasi tersebut. Manfaat produktivitas ini hampir tidak bisa dilebih-lebihkan, ketika kita mempertimbangkan waktu yang dibutuhkan oleh pekerja untuk mempelajari dan menguasai antarmuka dan alat baru.

Alat AI agen dapat memiliki banyak bentuk, dan kerangka kerja yang beragam lebih cocok untuk masalah yang beragam pula. Namun, berikut adalah langkah-langkah umum yang diambil sistem AI agen untuk menjalankan operasi.

AI agen dimulai dengan mengumpulkan data dari lingkungannya melalui sensor, API, database, atau interaksi pengguna. Langkah ini memastikan bahwa sistem memiliki informasi terkini untuk dianalisis dan ditindaklanjuti.

Setelah data terkumpul, AI memprosesnya untuk mengekstrak insight yang bermakna. Dengan menggunakan pemrosesan bahasa alami (NLP), visi komputer, atau kemampuan AI lainnya, sistem ini menafsirkan pertanyaan pengguna, mendeteksi pola, dan memahami konteks yang lebih luas. Kemampuan ini membantu AI menentukan tindakan yang harus diambil berdasarkan situasi yang relevan.

AI menetapkan tujuan berdasarkan sasaran yang telah ditetapkan atau input dari pengguna. AI selanjutnya mengembangkan strategi untuk mencapai tujuan tersebut, sering kali dengan menggunakan struktur keputusan, pembelajaran penguatan, atau algoritma perencanaan lainnya.

AI mengevaluasi berbagai kemungkinan tindakan dan memilih tindakan yang optimal berdasarkan sejumlah faktor seperti efisiensi, akurasi, dan hasil yang diprediksi. Langkah evaluasi ini mungkin menggunakan model probabilistik, fungsi utilitas, atau penalaran berbasis machine learning untuk menentukan tindakan terbaik.

Setelah memilih suatu tindakan, AI akan mengeksekusinya, baik dengan berinteraksi dengan sistem eksternal (API, data, robot) atau memberikan respons kepada pengguna.

Setelah mengeksekusi tindakan, AI mengevaluasi hasilnya dan mengumpulkan masukan untuk meningkatkan kualitas keputusan di masa mendatang. Melalui pembelajaran penguatan atau pembelajaran terawasi mandiri, AI menyempurnakan strateginya seiring waktu, sehingga lebih efektif dalam menangani tugas-tugas serupa di masa depan.

Orkestrasi AI adalah koordinasi dan manajemen terhadap sistem dan agen. Platform orkestrasi mengotomatiskan alur kerja AI, melacak kemajuan tugas hingga selesai, mengelola penggunaan sumber daya, memantau aliran data dan memori, serta menangani peristiwa kegagalan. Dengan arsitektur yang tepat, puluhan, ratusan, bahkan ribuan agen secara teoretis dapat bekerja sama secara selaras dan produktif.

Solusi AI agen dapat diterapkan di hampir semua contoh penggunaan AI di ekosistem dunia nyata mana pun. Agen dapat berintegrasi dalam alur kerja yang kompleks untuk melakukan proses bisnis secara mandiri.

• Bot perdagangan berbasis AI dapat menganalisis harga saham dan indikator ekonomi secara langsung untuk melakukan analisis prediktif dan mengeksekusi perdagangan.
   

• Dalam kendaraan otonom, sumber data real-time seperti GPS dan data sensor dapat meningkatkan navigasi dan keselamatan.
   

• Dalam layanan kesehatan, agen dapat memantau data pasien, menyesuaikan rekomendasi perawatan berdasarkan hasil pengujian terbaru, dan memberikan masukan secara real-time kepada dokter melalui chatbot.
   

• Dalam keamanan siber, agen dapat memantau lalu lintas jaringan, log sistem, dan perilaku pengguna secara terus-menerus guna mencari anomali yang mungkin mengindikasikan kerentanan terhadap malware, serangan phishing, atau upaya akses yang tidak sah.
   

• AI dapat menyederhanakan manajemen rantai pasokan melalui otomatisasi dan optimalisasi proses, melakukan pemesanan secara mandiri kepada pemasok atau menyesuaikan jadwal produksi untuk mempertahankan tingkat persediaan yang optimal.

Sistem AI agen memiliki potensi besar bagi perusahaan. Otonomi AI agen adalah manfaat utama, tetapi sifat otonom ini dapat membawa konsekuensi serius jika sistem agensi keluar jalur. Risiko AI yang umum berlaku, tetapi dapat menjadi lebih besar dalam sistem agen.

Banyak sistem AI agen menggunakan pembelajaran penguatan, yang melibatkan pemaksimalan fungsi imbalan. Jika sistem imbalan dirancang dengan buruk, AI mungkin mengeksploitasi celah untuk mencapai “skor tinggi” dengan cara yang tidak diinginkan.

Pertimbangkan beberapa contoh:

• Agen yang ditugasi untuk memaksimalkan interaksi media sosial malah memprioritaskan konten sensasional atau menyesatkan, sehingga tidak sengaja menyebarkan informasi yang salah.
   

• Robot gudang yang dioptimalkan untuk kecepatan malah merusak produk agar dapat bergerak lebih cepat.
   

• AI perdagangan finansial yang dimaksudkan untuk memaksimalkan keuntungan malah terlibat dalam praktik perdagangan yang berisiko atau tidak etis, sehingga memicu ketidakstabilan pasar.
   

• AI moderasi konten yang dirancang untuk mengurangi ucapan berbahaya menyensor diskusi yang sah.

Beberapa sistem AI agen dapat menjadi penguat diri, meningkatkan perilaku ke arah yang tidak diinginkan. Masalah ini terjadi ketika AI mengoptimalkan terlalu agresif untuk metrik tertentu tanpa perlindungan. Dan karena sistem agen sering kali terdiri dari beberapa agen otonom yang bekerja bersama, ada peluang untuk gagal. Kemacetan lalu lintas, hambatan, konflik sumber daya—semua kesalahan ini berpotensi berdegradasi. Penting bagi model untuk memiliki tujuan yang jelas dan dapat diukur, dengan loop umpan balik yang ada sehingga model dapat bergerak lebih dekat dengan tujuan organisasi dari waktu ke waktu.

AI agen dibangun berdasarkan teknik AI generatif (gen AI) dengan menggunakan model bahasa besar(LLM) untuk beroperasi dalam lingkungan yang dinamis. Sementara model generatif fokus pada pembuatan konten berdasarkan pola yang dipelajari, AI agen memperluas kemampuan ini dengan menerapkan output generatif untuk tujuan tertentu. Model AI generatif seperti ChatGPT dari OpenAI dapat menghasilkan teks, gambar, atau kode, tetapi sistem AI agen dapat menggunakan konten yang dihasilkan tersebut untuk menyelesaikan tugas-tugas kompleks secara mandiri dengan menggunakan alat eksternal. Sebagai contoh, agen tidak hanya dapat memberitahukan waktu terbaik untuk mendaki Gunung Everest berdasarkan jadwal kerja Anda, tetapi juga dapat memesankan penerbangan dan hotel untuk Anda.

Pengukuran ROI (laba atas investasi) atas inisiatif berbasis agen memerlukan kerangka kerja yang membandingkan total biaya pengembangan dan implementasi dengan manfaat seperti peningkatan efisiensi dan pertumbuhan pendapatan. Ini bisa rumit, karena manfaat sering kali timbul secara tidak langsung, abstrak, dan mungkin tidak terwujud dalam jangka pendek. 

Hal ini bergantung pada jenis agen. Namun, solusi atas agen AI yang mengalami kendala biasanya mencakup penghentian proses yang terhambat, pembersihan memori atau konteks agen, dan penyempurnaan instruksi prompt untuk membantu agen terhindar dari jebakan siklus logika.

Proses ini memerlukan identifikasi alur kerja berulang tertentu yang cocok untuk otomatisasi, penyiapan koneksi API yang aman, dan pelaksanaan program percontohan dengan kerangka kerja agen AI.  Identitas agen unik yang disediakan oleh platform seperti IBM Verify berguna untuk meminimalkan risiko keamanan yang muncul akibat integrasi. 

Kerumitan cara kerja model menyebabkan transparansi total pada AI agen sulit dicapai. Namun, ada tingkat transparansi tertentu yang sering dianggap sebagai persyaratan arsitektur untuk penerapan yang aman dan efektif dalam konteks perusahaan. IBM Technology Summit yang berfokus pada Operasi Agen dan AI yang Bertanggung Jawab membahas tantangan operasional, risiko, dan tata kelola yang ditimbulkan oleh agen AI.