Menerapkan agen LangGraph ReAct dukungan TI dengan IBM Granite di watsonx.ai

Dalam tutorial ini, Anda akan membangun agen AI ReAct (Penalaran dan Tindakan) dengan kerangka kerja LangGraph sumber terbuka menggunakan model IBM Granite melalui IBM watsonx.ai API dengan Python. Contoh penggunaannya adalah untuk mengelola tiket dukungan TI yang ada dan membuat tiket dukungan baru.

Agen kecerdasan buatan (AI) merujuk pada sistem atau program yang mampu melakukan tugas secara mandiri atas nama pengguna atau sistem lain dengan merancang alur kerjanya dan memanfaatkan alat yang tersedia. Agen AI generatif menggunakan teknik pemrosesan bahasa alami (NLP) yang canggih dari model bahasa besar (LLM) untuk memahami dan merespons input pengguna langkah demi langkah dan menentukan kapan harus memanggil alat eksternal. Komponen inti agen AI adalah penalaran. Setelah memperoleh informasi baru melalui pemanggilan alat, intervensi manusia atau agen lain, paradigma penalaran memandu langkah selanjutnya dari agen.

Dengan setiap tindakan dan setiap respons alat, paradigma ReAct (Penalaran dan Tindakan) menginstruksikan agen untuk "berpikir" dan merencanakan langkah selanjutnya. Penalaran lambat langkah demi langkah ini memberi kita insight tentang bagaimana agen menggunakan konteks yang diperbarui untuk merumuskan kesimpulan. Karena sifatnya yang berkelanjutan, proses refleksi ini sering disebut sebagai siklus berpikir-bertindak-mengamati dan merupakan bentuk prompt rantai pemikiran (chain-of-thought).

Tutorial ini akan menggunakan kerangka kerja LangGraph, kerangka kerja agen AI sumber terbuka yang dirancang untuk membangun, menerapkan, dan mengelola alur kerja agen AI generatif yang kompleks. Fungsi create_react_agent bawaan yang disediakan oleh LangGraph adalah cara mudah untuk membangun agen khusus yang sederhana. Agen ReAct sederhana, yang ada di tutorial ini seperti yang ditunjukkan pada Gambar 1, terdiri dari dua node. Satu node bertanggung jawab untuk memanggil model dan node lainnya untuk menggunakan alat. Alat umum mencakup alat Wikipedia LangChain bawaan, alat DuckDuckGoSearchRun, dan bahkan Retrieval-Augmented Generation (RAG). Apabila terdapat input kompleks, node lain dapat ditambahkan, seperti yang terlihat pada Gambar 2. Node tambahan ini berfungsi untuk membantu memastikan agen menampilkan output terstruktur.

Dalam LangGraph, fitur “state” berfungsi sebagai bank memori yang merekam dan melacak semua informasi penting yang diproses oleh setiap iterasi sistem AI. Grafik stateful ini memungkinkan agen mengingat informasi masa lalu dan konteks yang penting. Struktur siklik dari grafik ReAct dimanfaatkan ketika hasil dari satu langkah bergantung pada langkah-langkah sebelumnya dalam siklus. Node, atau "aktor", dalam grafik mengodekan logika agen dan dihubungkan oleh edge. Edge pada dasarnya adalah fungsi Python yang menentukan node berikutnya yang akan dieksekusi tergantung keadaan saat itu.

Anda memerlukan akun IBM® Cloud untuk membuat proyek watsonx.ai™ .

Untuk menggunakan antarmuka pemrograman aplikasi (API) watsonx, Anda harus menyelesaikan langkah-langkah berikut. Perhatikan, Anda juga dapat mengakses tutorial ini di GitHub. 

1. Masuk ke watsonx.ai menggunakan akun IBM Cloud Anda.

2. Buat instance layanan waktu proses watsonx.ai (pilih wilayah yang sesuai dan pilih paket Lite, yang merupakan instance gratis).

3. Buat kunci antarmuka pemrograman aplikasi (API).

Untuk mulai menerapkan agen di watsonx.ai dengan mudah, kloning repositori GitHub ini dan akses proyek agen ReAct dukungan TI. Anda dapat menjalankan perintah berikut di terminal Anda untuk melakukannya.

Selanjutnya, instal Poetry jika Anda belum menginstalnya. Poetry adalah alat untuk mengelola dependensi dan pembuatan package Python.

Kemudian, aktifkan lingkungan virtual Anda.

Alih-alih menggunakan perintah pip install , package Poetry memungkinkan kita untuk menambahkan dependensi dengan menjalankan perintah berikut di terminal. Langkah ini akan menginstal dependensi repositori yang tercermin dalam file pyproject.toml ke lingkungan virtual Anda yang terpisah.

Menambahkan direktori kerja ke PYTHONPATH diperlukan untuk langkah selanjutnya. Di terminal Anda jalankan:  

Untuk menyiapkan lingkungan Anda, ikuti petunjuk dalam file README.md di Github. Penyiapan ini membutuhkan beberapa perintah untuk dijalankan pada IDE atau baris perintah Anda.

Dalam file config.toml , Anda akan menemukan kredensial kosong berikut yang harus diisi sebelum mencoba menerapkan agen Anda. String watsonx_apikey dan watsonx_url diinisialisasi pada langkah 1 tutorial ini. Selanjutnya, ikuti format sederhana yang ditemukan di halaman Akses Pengembang untuk memilih ruang penerapan Anda atau membuat yang baru. Di sana, Anda dapat mengambil space_id yang diperlukan untuk menghubungkan agen ke penerapan watsonx.ai. Terakhir, model_id Anda ditetapkan ke model IBM Granite 3.2.

Agen kita memerlukan sumber data untuk memberikan informasi terkini dan menambahkan data baru. Kita akan menyimpan file data di IBM Cloud Object Storage.

1. Pertama, masuk ke IBM Cloud. Kemudian, buat proyek baru.
2. Di menu sisi kiri, pilih Daftar sumber daya. Menggunakan tombol Buat sumber daya, buat instance Cloud Object Storage baru atau cukup gunakan tautan ini.
3. Buka Instance IBM Cloud Storage yang baru dibuat, buat bucket baru. Untuk tutorial ini, Anda dapat memilih Smart Tier yang merupakan paket gratis. Saat diarahkan, unggah file Anda. Untuk file sampel, lihat file tickets.csv di repositori GitHub yang ditautkan pada langkah 2.

Untuk menyediakan fungsionalitas manajemen tiket TI ke agen ReAct, kita harus terhubung ke sumber data di IBM Cloud Object Storage. Untuk langkah ini, kita dapat menggunakan ibm_boto3 sebagai pustaka.

Dalam tools.py , parameter COS_ENDPOINT , COS_INSTANCE_CRN , BUCKET_NAME dan CSV_FILE_NAME harus diisi dengan informasi yang sesuai menggunakan detail bucket yang ditemukan di instance Cloud Object Storage Anda di bawah tab Konfigurasi. 

Agen akan dapat membaca dan menulis data dalam file kita. Pertama, buat alat untuk membaca data menggunakan dekorator@tool LangChain. 

Kita telah menambahkan alatfind_tickets ke filetools.py sebelumnya. Alat ini mengambil objek data dari Cloud Object Storage dan menampilkannya sebagai kerangka data Pandas. Jika tidak, pengecualian akan diberlakukan. 

Selanjutnya, kita telah menambahkan alat create_ticket ini. 

Alat ini mengambil deskripsi masalah dari pengguna dan urgensi masalah sebagai argumennya. Baris baru berisi informasi ini ditambahkan ke file di COS dan dengan demikian, tiket baru dibuat. Jika tidak, pengecualian akan diberlakukan. 

Satu alat terakhir yang harus kita tambahkan ke file tools.py adalah alat get_todays_date yang menggunakan modul datetime untuk menampilkan tanggal hari ini dalam format MM-DD-YYYY. Alat ini akan berguna untuk mengakses tanggal saat ini, yang tidak dapat diambil oleh agen karena LLM tidak dilatih menggunakan data ini. 

Untuk memberikan akses ke alat ini untuk agen, kita telah menambahkannya ke daftar TOOLS di modul extensions yang berisi file init.py sebelumnya. Daftar ini harus menjadi isi dari file init.py di direktori src/langgraph_react_agent .

Alat-alat ini diimpor di file agent.py dan diteruskan ke fungsi LangGraph bawaan create_react_agent  sebagai eksekutor agen. Parameter lain termasuk model bahasa besar yang diinisialisasi dengan menggunakan kelas ChatWatsonx yang memungkinkan pemanggilan alat pada watsonx.ai, penghemat memori, dan prompt sistem. Perhatikan, beberapa prompt akan berperilaku lebih baik daripada yang lain dan dengan demikian, beberapa tingkat rekayasa prompt mungkin diperlukan tergantung pada LLM yang Anda pilih. 

Sebelum menerapkan agen Anda, ingatlah untuk melengkapi semua informasi yang diperlukan di file config.toml . 

Ada tiga cara untuk mengobrol dengan agen Anda.

Opsi 1. Mengirim kueri ke agen secara lokal

Jalankan skrip untuk eksekusi layanan AI lokal.

Opsi 2. Menerapkan agen ke antarmuka obrolan bawaan di watsonx.ai

Opsi terakhir adalah mengakses agen di ruang Penerapan di watsonx.ai. Untuk melakukan ini, pilih "Penerapan" di menu sebelah kiri. Kemudian, pilih ruang penerapan Anda, pilih tab "Aset", pilih asetonline ai_service , pilih aset dengan tag "wx-agent" sekali lagi dan terakhir, buka tab "Pratinjau". Sekarang, Anda dapat mengobrol dengan agen di antarmuka obrolan interaktif. Masing-masing dari 3 opsi ini akan menghasilkan output yang serupa.

Opsi 3. Menerapkan dan mengobrol dengan agen di IDE Anda

Untuk menjalankan skrip penerapan, jalankan variabel deployment_id  dalam file query_existing_deployment.py .

Parameter deployment_id penerapan Anda dapat diperoleh dengan menjalankan file scripts/deploy.py .

Selanjutnya, jalankan skrip penerapan. 

Kemudian, jalankan skrip untuk mengirimkan kueri penerapan.

Untuk keperluan tutorial ini, mari kita pilih opsi 2 dan kirimkan kueri agen yang diterapkan di watsonx.ai dalam bentuk chatbot agen. Berikan beberapa prompt untuk agen, yang akan membutuhkan penggunaan alat. Setelah mengikuti langkah-langkah yang tercantum dalam Opsi 3, Anda akan melihat antarmuka obrolan di watsonx.ai. Di sana, kita dapat mengetikkan prompt kita. 

Pertama, mari kita uji apakah alat create_ticket akan berhasil dipanggil. Berikan prompt ke agen untuk membuat tiket baru.

Seperti yang Anda lihat pada jawaban akhir agen, sistem AI berhasil menggunakan pemecahan masalah untuk membuat tiket baru dengan alat create_ticket tersebut. Memiliki visibilitas atas panggilan alat sangat membantu untuk tujuan debugging. Sekarang, mari kita periksa apakah tiket berhasil ditambahkan ke file data yang berfungsi sebagai basis pengetahuan agen. 

Hebat! Agen berhasil menambahkan tiket ke file.

Dalam tutorial ini, Anda membuat agen dengan kerangka kerja ReAct yang menggunakan pengambilan keputusan untuk menyelesaikan tugas-tugas kompleks seperti mengambil dan membuat tiket dukungan. Ada beberapa model AI yang memungkinkan pemanggilan alat agen, seperti Google Gemini, IBM Granite, dan OpenAI GPT-4. Dalam proyek kita, kita menggunakan model AI IBM Granite melalui watsonx.ai API. Model berperilaku seperti yang diharapkan baik secara lokal maupun saat diterapkan di watsonx.ai. Sebagai langkah selanjutnya, lihat templat LlamaIndex dan crewAI multiagent yang tersedia di repositori GitHub watsonx-developer-hub untuk mengembangkan agen AI.