Apa itu memori agen AI?

Memori agen AI mengacu pada kemampuan sistem kecerdasan buatan (artificial intelligence, AI) untuk menyimpan dan mengingat pengalaman masa lalu guna meningkatkan pengambilan keputusan, persepsi, dan kinerja secara keseluruhan.

Tidak seperti model AI tradisional yang memproses setiap tugas secara independen, agen AI dengan memori dapat menyimpan konteks, mengenali pola seiring berjalannya waktu, dan melakukan adaptasi berdasarkan interaksi di masa lalu. Kemampuan ini sangat penting bagi aplikasi AI yang berorientasi pada tujuan, di mana perulangan masukan, basis pengetahuan dan pembelajaran adaptif diperlukan.

Memori adalah sistem yang mengingat sesuatu tentang interaksi sebelumnya. Agen AI tidak selalu membutuhkan sistem memori. Agen refleks sederhana, misalnya, mendeteksi informasi real-time tentang lingkungannya dan bertindak berdasarkan informasi tersebut atau meneruskannya ke agen lain.

Termostat sederhana tidak perlu mengingat suhu kemarin. Namun, termostat “cerdas” yang lebih canggih dan memiliki memori tidak hanya dapat mengatur suhu, tetapi juga mempelajari pola, beradaptasi dengan perilaku pengguna, dan mengoptimalkan efisiensi energi. Selain bereaksi terhadap suhu saat ini, termostat ini juga dapat menyimpan dan menganalisis data di masa lalu untuk mengambil keputusan yang lebih cerdas.

Model bahasa besar (Large Language Model, LLM) tidak dapat, dengan sendirinya, mengingat sesuatu. Komponen memori harus ditambahkan. Namun, salah satu tantangan terbesar dalam desain memori AI adalah mengoptimalkan efisiensi pengambilan, karena toko data yang berlebihan dapat menyebabkan waktu respons yang lebih lambat.

Manajemen memori yang optimal membantu memastikan bahwa sistem AI hanya menyimpan informasi yang paling relevan, sekaligus mempertahankan pemrosesan berlatensi rendah untuk aplikasi real-time.

Para peneliti mengkategorikan memori agen dengan cara yang hampir sama seperti psikolog mengkategorikan memori manusia. Makalah Cognitive Architectures for Language Agents (CoALA)¹ yang ditulis oleh tim dari Princeton University mendeskripsikan berbagai jenis memori sebagai berikut:

Memori jangka pendek

Memori jangka pendek (Short-term memory, STM) memungkinkan agen AI untuk mengingat input terbaru untuk pengambilan keputusan segera. Jenis memori ini berguna dalam kecerdasan buatan percakapan (conversational AI), yang perlu mempertahankan konteks dalam beberapa percakapan.

Sebagai contoh,chatbot yang mengingat pesan sebelumnya dalam suatu sesi dapat memberikan respons yang koheren. Chatbot tidak memperlakukan setiap input pengguna secara terpisah, sehingga meningkatkan pengalaman pengguna. Sebagai contoh, ChatGPT dari OpenAI menyimpan riwayat obrolan dalam satu sesi, sehingga membantu memastikan percakapan berjalan lebih lancar dan lebih sadar konteks.

STM biasanya diimplementasikan menggunakan rolling buffer atau jendela konteks, yang menyimpan sejumlah data terbaru sebelum digantikan dengan data yang lebih baru. Meskipun dapat meningkatkan kesinambungan dalam interaksi singkat, pendekatan ini tidak menyimpan informasi di luar sesi, sehingga tidak cocok untuk personalisasi atau pembelajaran jangka panjang.

Memori jangka panjang

Memori jangka panjang (Long-term Memory, LTM) memungkinkan agen AI menyimpan dan mengingat informasi di berbagai sesi, sehingga agen bersifat lebih personal dan lebih cerdas seiring waktu berjalan.

Tidak seperti memori jangka pendek, LTM dirancang untuk penyimpanan permanen, yang sering diimplementasikan menggunakan basis data, grafik pengetahuan atau penanaman vektor. Jenis memori ini sangat penting untuk aplikasi AI yang membutuhkan pengetahuan historis, seperti asisten yang dipersonalisasi dan sistem rekomendasi.

Sebagai contoh, agen dukungan pelanggan yang didukung AI dapat mengingat interaksi sebelumnya dengan pengguna dan menyesuaikan respons, sehingga meningkatkan pengalaman pelanggan secara keseluruhan.

Salah satu teknik yang paling efektif untuk mengimplementasikan LTM adalah generasi dengan dukungan pengambilan data (RAG). Pada teknik ini, agen mengambil informasi yang relevan dari penyimpanan basis pengetahuan guna meningkatkan responsnya.

Memori episodik

Memori episodik memungkinkan agen AI untuk mengingat pengalaman masa lalu yang spesifik, mirip dengan cara manusia mengingat setiap peristiwa. Jenis memori ini berguna untuk penalaran berbasis kasus, di mana kecerdasan buatan (AI) belajar dari peristiwa masa lalu untuk mengambil keputusan yang lebih baik di masa depan.

Memori episodik sering kali diimplementasikan dengan mencatat kejadian penting, tindakan, dan hasilnya dalam format terstruktur yang dapat diakses oleh agen saat mengambil keputusan.

Sebagai contoh, penasihat keuangan yang didukung AI mungkin mengingat pilihan investasi pengguna di masa lalu dan menggunakan riwayat tersebut untuk memberikan rekomendasi yang lebih baik. Jenis memori ini juga penting dalam robotika dan sistem otonom, yang mengharuskan agen mengingat tindakan di masa lalu agar dapat menavigasi secara efisien.

Memori semantik

Memori semantik berfungsi menyimpan pengetahuan faktual terstruktur yang dapat diakses dan digunakan oleh agen kecerdasan buatan (AI) untuk proses penalaran. Berbeda dengan memori episodik yang berkaitan dengan peristiwa tertentu, memori semantik berisi informasi umum, seperti fakta, definisi, dan aturan.

Agen AI biasanya mengimplementasikan memori semantik menggunakan basis pengetahuan, AI simbolis, atau penanaman vektor, sehingga dapat memproses dan mengambil informasi yang relevan secara efisien. Jenis memori ini digunakan dalam aplikasi dunia nyata yang membutuhkan keahlian domain, seperti asisten hukum berbasis AI, alat diagnosis medis, dan sistem manajemen pengetahuan perusahaan.

Contohnya, asisten hukum berbasis AI dapat menggunakan basis pengetahuannya untuk mengambil preseden kasus dan memberikan nasihat hukum yang tepat.

Memori prosedural

Memori prosedural dalam agen AI merupakan kemampuan untuk menyimpan dan mengingat keterampilan, aturan, dan perilaku yang dipelajari. Kemampuan ini memungkinkan agen melakukan tugas secara otomatis tanpa membutuhkan penalaran eksplisit setiap saat.

Jenis memori ini terinspirasi oleh memori prosedural manusia, yang memungkinkan seseorang melakukan tindakan seperti mengendarai sepeda atau mengetik tanpa secara sadar memikirkan setiap langkahnya. Dalam AI, memori prosedural membantu agen meningkatkan efisiensi dengan mengotomatiskan rangkaian tindakan kompleks berdasarkan pengalaman sebelumnya.

Agen AI mempelajari urutan tindakan melalui pelatihan, dan kerap menggunakan pembelajaran penguatan untuk mengoptimalkan kinerja seiring waktu berjalan. Dengan menyimpan prosedur terkait tugas, agen AI dapat mengurangi waktu komputasi dan merespons tugas tertentu lebih cepat tanpa memproses ulang data dari awal.

Pengembang mengimplementasikan memori menggunakan penyimpanan eksternal, arsitektur khusus, dan mekanisme pemberian masukan. Karena agen AI memiliki beragam kompleksitas—mulai dari agen refleks sederhana hingga agen pembelajaran tingkat lanjut—implementasi memori bergantung pada arsitektur agen, contoh penggunaan, dan kemampuan adaptasi yang diperlukan.

LangChain

Salah satu kerangka kerja agen utama untuk membangun agen AI yang mendukung memori adalah LangChain, yang memfasilitasi integrasi memori, API, dan alur kerja penalaran. Dengan menggabungkan LangChain dengan basis data vektor, agen AI dapat secara efisien menyimpan dan mengambil interaksi di masa lalu dalam jumlah besar, sehingga meningkatkan koherensi respons seiring waktu.

LangGraph

LangGraph memungkinkan pengembang membuat grafik memori hierarkis untuk agen AI, sehingga meningkatkan kemampuan agen dalam melacak dependensi dan belajar dari waktu ke waktu.

Dengan mengintegrasikan basis data vektor, sistem agen dapat secara efisien menyimpan penanaman interaksi di masa lalu, sehingga dapat mengingat konteks. Hal ini berguna untuk pembuatan dokumen berbasis AI, yang mengharuskan agen untuk mengingat preferensi pengguna dan modifikasi di masa lalu.

Penawaran sumber terbuka lainnya

Munculnya kerangka kerja sumber terbuka telah mempercepat pengembangan agen AI yang ditingkatkan memori. Platform seperti GitHub menampung banyak repositori yang menyediakan alat dan templat untuk mengintegrasikan memori ke dalam alur kerja AI.

Selain itu, Hugging Face menawarkan model terlatih yang dapat disesuaikan dengan komponen memori untuk meningkatkan kemampuan mengingat AI. Python, salah satu bahasa dominan dalam pengembangan AI, menyediakan perpustakaan untuk menangani orkestrasi,penyimpanan memori, dan mekanisme pengambilan data. Ini menjadikannya pilihan tepat untuk mengimplementasikan sistem memori AI.