Kerangka kerja agen AI: Memilih fondasi yang tepat untuk bisnis Anda

Agen AI adalah program yang dapat secara mandiri melakukan tugas atas nama pengguna. Sistem AI ini pertama-tama menyusun rencana dengan serangkaian langkah untuk menyelesaikan tugas yang kompleks.

Mereka kemudian menggunakan pemanggilan fungsi untuk terhubung ke alat eksternal—seperti antarmuka pemrograman aplikasi (API), sumber data, pencarian web, atau bahkan agen AI lainnya—guna melengkapi informasi yang kurang.

Setelah menjalankan rencana tindakan, agen otonom mempelajari masukan yang diterima dan menyimpan informasi tersebut dalam memori untuk meningkatkan kinerja di masa mendatang.

Organisasi dapat membangun agen AI dari nol dengan menggunakan bahasa pemrograman seperti Python atau JavaScript. Namun, pendekatan yang lebih cepat dan lebih dapat diskalakan melibatkan penggunaan kerangka kerja agen AI.

Kerangka kerja adalah blok bangunan untuk mengembangkan, menerapkan, dan mengelola AI. Platform perangkat lunak ini memiliki fitur dan fungsi bawaan yang membantu merampingkan dan mempercepat proses, termasuk:

• Arsitektur yang telah ditentukan sebelumnya yang menguraikan struktur, karakteristik, dan kemampuan AI agentic.

• Protokol komunikasi yang memfasilitasi interaksi antara agen AI dan pengguna manusia atau agen lainnya.

• Sistem manajemen tugas untuk mengoordinasikan tugas.

• Alat integrasi untuk pemanggilan fungsi.

• Alat pemantauan untuk melacak kinerja AI agen.

Sebelum terjun ke dunia AI, pikirkan tentang tujuan dan contoh penggunaan organisasi Anda. Kerangka kerja yang ideal harus menyeimbangkan kemampuan teknis, kebutuhan jangka pendek, dan tujuan jangka panjang.

Berikut adalah beberapa aspek yang perlu dipertimbangkan ketika memilih kerangka kerja agen AI:

• Kompleksitas

• Privasi dan keamanan data

• Kemudahan penggunaan

• Integrasi yang mulus

• Performa dan skalabilitas

Identifikasi tugas yang Anda inginkan untuk dipenuhi oleh agen AI dan seberapa kompleks tugas-tugas ini. Tentukan apakah Anda memerlukan implementasi sederhana hanya dengan satu agen atau ekosistem multiagen.

Untuk lingkungan multiagen, petakan interaksi agen yang diperlukan dan di mana intervensi manusia masih diperlukan.

Dalam dukungan pelanggan, misalnya, satu agen AI dapat digunakan untuk mengklasifikasikan tingkat keparahan masalah yang dilaporkan. Namun, jika Anda menginginkan alur kerja yang lebih canggih, pertimbangkan sistem multiagen, di mana agen berbeda bertugas menyelesaikan masalah, memberikan rekomendasi perbaikan, dan meneruskan kasus kompleks ke AI atau agen manusia lainnya.

Privasi data dan keamanan harus dipikirkan saat memilih kerangka kerja. Pastikan kerangka kerja yang Anda pilih memiliki kebijakan keamanan dan tindakan perlindungan yang memadai, termasuk enkripsi data saat disimpan dan dikirim, kontrol akses, serta penghapusan informasi sensitif.

Pertimbangkan tingkat keahlian tim pengembangan Anda. Kerangka kerja AI yang ramah pemula, seperti CrewAI, menyediakan antarmuka no-code untuk pembuatan prototipe cepat serta templat agen AI siap pakai untuk penerapan yang lebih mudah.

Sementara itu, pengembang AI yang lebih berpengalaman dapat memilih kerangka kerja agen yang lebih canggih, seperti LangGraph, yang menawarkan kontrol lebih mendalam dan opsi kode yang dapat disesuaikan.

Evaluasi kerangka kerja AI agen berdasarkan kompatibilitasnya dengan tumpukan teknologi Anda yang ada. Periksa seberapa baik kerangka kerja pilihan Anda terintegrasi dengan sumber data, infrastruktur, dan alat Anda saat ini.

Tentukan bagaimana agen AI akan diterapkan dalam lingkungan Anda—apakah dijalankan secara lokal atau di cloud—serta apakah dibutuhkan skala kecil atau skala besar.

Menilai kinerja kerangka kerja agen AI pilihan Anda. Pertimbangkan waktu respons atau latensi untuk aplikasi real-time, dan evaluasi apakah kinerja tetap optimal saat menangani volume data besar atau permintaan simultan. Selain kebutuhan jangka pendek, pikirkan juga bagaimana kerangka kerja ini dapat berkembang seiring pertumbuhan bisnis Anda.

AI agen masih dalam tahap awal. Ketika teknologi di balik agen AI berkembang, demikian juga kerangka kerja yang mendasarinya. Berikut adalah beberapa kerangka kerja agen AI yang saat ini populer:

AutoGen adalah kerangka kerja sumber terbuka dari Microsoft yang dirancang untuk membangun aplikasi AI multiagen guna menyelesaikan tugas-tugas kompleks. Arsitekturnya terdiri atas 3 lapisan:

• Core adalah kerangka kerja yang memungkinkan pengembangan jaringan agen yang dapat diskalakan dan terdistribusi, serta menyediakan alat untuk melacak dan men-debug alur kerja agen. Ini menggunakan pesan asinkron, mendukung interaksi permintaan-respons dan interaksi agen berbasis peristiwa.

• AgentChat dibangun di atas Core dan dapat digunakan untuk membuat asisten AI percakapan. Kerangka kerja ini direkomendasikan sebagai titik awal bagi pemula, dengan agen tunggal bawaan serta tim multiagen yang memiliki perilaku dan pola interaksi yang telah ditetapkan.

• Ekstensi adalah paket yang berisi implementasi komponen Core dan AgentChat, yang memungkinkan perluasan kemampuan serta integrasi dengan pustaka eksternal dan layanan lainnya. Anda dapat menggunakan ekstensi bawaan dan yang dikembangkan oleh komunitas AutoGen, atau bahkan membuatnya sendiri.

AutoGen juga menyediakan dua alat pengembang: AutoGen Bench, yang digunakan untuk menilai dan membandingkan kinerja agen AI, serta AutoGen Studio, yang menawarkan antarmuka no-code untuk mengembangkan agen. AutoGen tersedia untuk diakses di GitHub.

CrewAI adalah kerangka kerja orkestrasi untuk solusi AI multiagen. Seperti AutoGen, CrewAI adalah sumber terbuka.

Arsitektur berbasis peran CrewAI memperlakukan AI agen sebagai “kru” dari “pekerja.” Berikut adalah komponen inti dari kru:

• Agen diberi peran khusus sambil tetap berkolaborasi pada alur kerja yang kompleks. Pengembang dapat menggunakan bahasa alami untuk menguraikan peran, tujuan, dan latar belakang agen.

• Tugas menentukan tanggung jawab spesifik masing-masing agen. Pengembang juga dapat menggunakan bahasa alami untuk menjelaskan tugas dan hasil yang diharapkan untuk setiap agen.

• Sebuah proses mengidentifikasi bagaimana agen bekerja bersama dan bagaimana tugas dijalankan. Tugas dapat diselesaikan secara berurutan, mengikuti urutan yang telah ditentukan sebelumnya, atau secara hierarkis, di mana agen manajer mengawasi delegasi, pelaksanaan, dan penyelesaian tugas.

Salah satu koleksi contoh CrewAI termasuk kru analisis pasar saham. Tim ini bekerja secara berurutan, di mana agen analis pasar bertugas menganalisis data saham tertentu, agen peneliti mengumpulkan informasi pendukung untuk memvalidasi analisis, dan agen strategi menyusun rencana tindakan langkah demi langkah berdasarkan hasil analisis dan data pendukung.

CrewAI mendukung koneksi ke berbagai model bahasa besar (LLM), termasuk Anthropic's Claude, Google Gemini, modelAI Mistral, model GPT OpenAI, dan model dasar di IBM watsonx.ai.

Kerangka kerja ini juga dilengkapi dengan alat generasi dengan dukungan pengambilan data (RAG), yang memungkinkan pencarian informasi dari berbagai sumber data.

CrewAI tersedia untuk diakses di GitHub.

LangChain adalah kerangka kerja sumber terbuka yang dirancang untuk membangun aplikasi berbasis model bahasa besar (LLM) seperti chatbot ChatGPT dan agen AI.

Sistem ini memiliki arsitektur modular, di mana setiap modul berfungsi sebagai abstraksi yang menyederhanakan konsep dan langkah-langkah kompleks dalam penggunaan LLM.

Berbagai komponen modular ini kemudian dapat dirangkai bersama untuk membuat aplikasi AI.

LangChain berguna untuk mengembangkan agen AI sederhana dengan alur kerja yang mudah. Kerangka kerja ini juga mendukung integrasi dengan basis data vektor dan menyediakan utilitas untuk menyimpan memori dalam aplikasi, memungkinkan mempertahankan sejarah percakapan dan konteks.

Platform LangSmith memungkinkan untuk debugging, pengujian, dan pemantauan kinerja.

LangChain tersedia untuk diakses di GitHub.

LangGraph hidup dalam ekosistem LangChain. Kerangka kerja ini unggul dalam Orchestrate alur kerja yang kompleks untuk sistem multiagen.

Sistem ini menggunakan arsitektur grafik, di mana setiap tugas atau tindakan spesifik agen AI direpresentasikan sebagai node, sementara transisi antar tindakan digambarkan sebagai hubungan antar node.

Komponen status mempertahankan daftar tugas di semua interaksi. Jenis arsitektur ini cocok untuk alur kerja siklus, kondisional, atau nonlinier.

Sebagai contoh, maskapai penerbangan dapat mengembangkan agen AI asisten perjalanan untuk membantu pengguna mencari dan memesan penerbangan. Dengan menggunakan LangGraph, setiap tindakan tersebut akan direpresentasikan sebagai node, dan node-node tersebut dapat memiliki beberapa agen yang melakukan tugas-tugas tertentu.

Langkah yang melibatkan manusia dapat dimasukkan ke dalam proses, memungkinkan pengguna memilih penerbangan dari hasil pencarian, dan jika tidak ada opsi yang sesuai dengan preferensi mereka, agen asisten perjalanan dapat kembali ke tahap "cari penerbangan" dan mengulang pencarian.

LangGraph tersedia untuk diakses di GitHub.

LlamaIndex adalah kerangka kerja orkestrasi data sumber terbuka yang dirancang untuk membangun solusi AI generatif (gen AI) dan agen AI. Kerangka ini menyediakan agen, alat siap pakai, serta alur kerja yang baru diperkenalkan untuk mendukung pengembangan sistem multiagen secara lebih efisien.

Berikut adalah elemen utama yang membentuk alur kerja di LlamaIndex:

• Langkah-langkah adalah tindakan spesifik agen. Ini adalah komponen dasar dari alur kerja.

• Peristiwa memicu langkah-langkah dan merupakan sarana di mana langkah-langkah berkomunikasi.

• Konteks dibagikan di seluruh alur kerja, memungkinkan setiap langkah menyimpan, mengambil, dan meneruskan data sambil mempertahankan status selama proses berlangsung.

Arsitektur berbasis peristiwa ini memungkinkan langkah-langkah alur kerja dilakukan secara asinkron. Berbeda dengan arsitektur grafik, jalur antar langkah tidak perlu didefinisikan sebelumnya, sehingga memungkinkan transisi yang lebih fleksibel antar tindakan agen.

Karena itu, alur kerja LlamaIndex sangat ideal untuk aplikasi agen AI yang dinamis, yang memerlukan fleksibilitas untuk kembali ke langkah sebelumnya atau bercabang ke beberapa langkah lain sesuai kebutuhan.

LlamaIndex tersedia untuk diakses di GitHub.

Semantic Kernel adalah kit pengembangan sumber terbuka dari Microsoft yang dirancang untuk membangun aplikasi AI generatif kelas enterprise. Kerangka Kerja Agennya, yang saat ini ditandai sebagai eksperimental, menyediakan abstraksi inti untuk membuat agen.

Ini memiliki dua implementasi agen bawaan: agen penyelesaian obrolan dan agen asisten yang lebih canggih.

Beberapa agen dapat diorkestrasikan melalui obrolan grup atau dengan menggunakan kerangka kerja Semantic Kernel (juga ditandai sebagai eksperimental) untuk alur kerja yang lebih kompleks.

Setiap proses terdiri atas serangkaian langkah, di mana setiap langkah mewakili tugas yang diberikan kepada agen AI dan menentukan bagaimana data mengalir di antara langkah-langkah tersebut.

Kernel Semantik tersedia untuk diakses di GitHub.

Untuk pengambilan keputusan yang lebih tepat, pertimbangkan untuk bereksperimen dengan kerangka kerja pilihan Anda. Mulailah dengan implementasi agen tunggal yang sederhana untuk menguji cara kerja setiap kerangka kerja dan membandingkannya satu sama lain.

Kerangka kerja agen yang tepat harus selaras dengan kebutuhan perusahaan Anda dan mendukung pembuatan agen AI yang mengotomatiskan alur kerja, sehingga meningkatkan efisiensi proses bisnis.