Apa itu pengembangan agen AI?

Pengembangan agen AI adalah proses pembuatan agen AI. Termasuk di dalamnya merancang, membangun, melatih, menguji, dan menerapkan AI agen.

Perusahaan dapat memilih untuk membuat agen AI dari bawah ke atas. Ini memberi mereka kontrol penuh atas arsitektur dan fungsionalitas agen. Mereka juga dapat menyesuaikan sistem agen dengan contoh penggunaan dan kebutuhan bisnis serta menyesuaikan AI agen untuk tugas tertentu. Di sisi lain, membangun agen AI dari nol membutuhkan keahlian yang signifikan dalam kecerdasan buatan, machine learning, dan pengembangan perangkat lunak. Selain itu, cara ini bisa sangat mahal.

Pendekatan yang lebih cepat dan dapat diskalakan, terutama untuk pemula, melibatkan penggunaan kerangka kerja agen AI. Sebagai struktur dasar untuk agen yang didukung AI, platform perangkat lunak ini memiliki fitur bawaan yang membantu merampingkan proses pengembangan agen, termasuk arsitektur dan templat yang telah ditentukan sebelumnya, sistem manajemen tugas, serta alat integrasi dan pemantauan.

Menerapkan agen AI biasanya terdiri dari serangkaian langkah berikut:

1. Penetapan tujuan dan cakupan
2. Desain
3. Pemilihan kerangka kerja, model, dan alat
4. Pembentukan
5. Pelatihan
6. Evaluasi
7. Penerapan dan pemantauan

Langkah pertama adalah menguraikan tujuan yang jelas dan cakupan yang ditentukan untuk agen AI. Berikut adalah beberapa pertanyaan yang dapat membantu:

• Masalah apa yang akan dipecahkan agen?
• Tugas apa yang perlu diselesaikan?
• Data atau input pengguna apa yang dibutuhkan agen AI?
• Keputusan apa yang perlu dibuat?
• Akankah pengambilan keputusan bersifat otonom atau apakah pendekatan keterlibatan manusia diperlukan?
• Siapa penggunanya dan bagaimana mereka akan menggunakan sistem AI ini?

Jawaban atas semua pertanyaan ini dapat membantu mengarahkan langkah desain.

Cetak biru agen dirancang selama fase desain. Cetak biru ini mencakup arsitektur, alur kerja, integrasi, dan pengalaman pengguna.

Untuk fungsi sederhana, seperti agen dukungan pelanggan yang melacak pesanan secara real-time dan memberikan pembaruan status kepada pelanggan, arsitektur satu agen mungkin sudah cukup. Tetapi untuk tugas yang kompleks, sistem banyak agen mungkin lebih cocok. Misalnya dalam layanan kesehatan, sistem dengan banyak agen dapat mengotomatiskan alur kerja kompleks penemuan obat, dengan agen terpisah untuk menjelajahi pustaka senyawa kimia dan meringkas penelitian medis, serta agen AI generatif (gen AI) lainnya untuk menghasilkan desain molekuler baru.

Arsitektur membantu menentukan jenis agen AI yang tepat dan komponennya. Ini juga membantu dalam memetakan alur kerja agen, termasuk kasus edge dan skenario kesalahan. Untuk ekosistem banyak agen,protokol komunikasi, orkestrasi, dan strategi kolaborasi harus diperhitungkan.

Jika agen akan berinteraksi langsung dengan pengguna, perusahaan dapat memilih antarmuka asisten AI yang mirip dengan chatbot seperti ChatGPT dari OpenAI. Mereka juga memerlukan rencana untuk berintegrasi dengan platform lain dan mempertimbangkan pemanggilan alat untuk mengakses antarmuka pemrograman aplikasi (API), plug-in eksternal, data pelanggan, dan sumber data lainnya untuk pemrosesan informasi real-time dan pengambilan keputusan yang dinamis.

Setelah desain ditata, tahap selanjutnya adalah memilih kerangka kerja yang tepat, model AI, dan alat AI atau pustaka yang relevan lainnya.

Organisasi dapat membangun agen sendiri menggunakan bahasa pemrograman seperti Python atau JavaScript. Bagi mereka yang menggunakan kerangka kerja agen, beberapa pilihan umum termasuk kerangka kerja sumber terbuka seperti BeeAI, CrewAI, LangChain, LangGraph, dan kit pengembangan perangkat lunak (SDK) AutoGen dan Semantic Kernel dari Microsoft.

Pemilihan model sangat penting untuk menyelaraskan algoritma machine learning atau model bahasa besar (LLM) dengan fungsi dan tugas agen AI. Perusahaan juga dapat menggunakan alat khusus seperti sistem Retrieval-Augmented Generation (RAG) atau pustaka seperti PyTorch, scikit-learn, dan TensorFlow untuk semakin memperkuat agen AI mereka.

Pengembangan agen dilakukan pada fase pembangunan. Untuk membantu menghindari beban berlebih, bisnis dapat mengambil pendekatan modular, membuat setiap komponen secara terpisah sebelum menggabungkan semuanya menjadi agen AI yang berfungsi. Strategi modular ini juga memungkinkan pemeliharaan yang lebih mudah karena perubahan pada setiap bagian hanya akan memiliki dampak minimal pada seluruh sistem agen.

Selain membangun agen AI itu sendiri, organisasi juga harus mempertimbangkan semua faktor ini ketika mengembangkan AI agen:

• Efisiensi: Agen AI harus dengan cepat memproses data, membuat keputusan, melakukan tindakan, dan menghasilkan respons.
• Skalabilitas: Agen harus cukup tangguh untuk menangani volume yang terus bertambah tanpa menurunkan kinerjanya.
• Keamanan: Memasukkan batasan pengaman seperti kontrol akses, autentikasi, dan enkripsi bisa membantu mencegah serangan jahat serta akses dan interaksi yang tidak sah.

Pelatihan model memerlukan pembelajaran model AI dari kumpulan data pelatihan tentang sampel tugas yang relevan dengan fungsi dan tindakan agen. Ini adalah proses berulang yang melibatkan persiapan kumpulan data, menjalankan model pada data ini, mengukur kinerjanya melalui sinyal tingkat kesalahan atau imbalan, dan menyesuaikan parameter model untuk meningkatkan prediksi masa depan.

Melatih model machine learning dari awal bisa memakan waktu lama, mahal, dan padat sumber daya. Perusahaan mungkin lebih memilih untuk menggunakan model yang sudah dilatih sebelumnya dan menyempurnakannya pada kumpulan data khusus tugas agen AI.

Evaluasi agen AI adalah proses pengujian dan memvalidasi AI agen untuk memastikan agen memenuhi tujuannya dan berkinerja sesuai harapan. Hal ini membutuhkan kumpulan data pengujian atau validasi yang berbeda dengan kumpulan data pelatihan dan cukup beragam untuk mencakup semua kasus pengujian yang mungkin terjadi dan mencerminkan skenario dunia nyata.

Melakukan pengujian di sandbox atau lingkungan simulasi dapat membantu menentukan peningkatan kinerja sejak dini dan mengidentifikasi masalah keamanan dan risiko etika sebelum menerapkan agen ke pengguna aktual.

Seperti tolok ukur LLM, agen AI juga memiliki seperangkat metrik evaluasi. Metrik yang umum termasuk metrik fungsional seperti tingkat keberhasilan atau penyelesaian tugas, tingkat kesalahan dan latensi, serta metrik etika seperti skor bias dan keadilan dan kerentanan injeksi prompt. Agen dan bot yang berinteraksi dengan pengguna dinilai berdasarkan alur percakapan, tingkat keterlibatan, dan skor kepuasan pengguna.

Setelah mengukur metrik dan menganalisis hasil pengujian, tim pengembangan agen dapat melanjutkan dengan algoritma debug, memodifikasi arsitektur agen, menyempurnakan logika, dan mengoptimalkan kinerja.

Fase terakhir ini melibatkan menerapkan sistem agen ke lingkungan produksi langsung di mana pelanggan dapat berinteraksi dengan dan menggunakan agen AI. Ini juga mencakup pemantauan berkelanjutan, yang penting untuk melacak dan meningkatkan kinerja agen dan memastikannya beradaptasi dengan situasi dan tantangan baru.

Platform seperti Amazon Bedrock AgentCore dan IBM® watsonx.ai membantu mengotomatiskan penerapan dan pemantauan agen. Dengan watsonx.ai, misalnya, pengembang dapat memanfaatkan penerapan satu klik dan kemampuan penelusuran untuk observabilitas.