Apa itu sistem AI majemuk?

Meskipun banyak perhatian diberikan pada model bahasa besar (LLM), model machine learning (ML) besar-besaran ini menghadapi keterbatasan. Biaya operasional dan pengembangannya mahal, dan lambat. Mereka tidak memiliki keahlian khusus di bidang tertentu dan tidak selalu mahir dalam menangani tugas rumit yang melibatkan banyak langkah di seluruh sistem.

Karena kendala tersebut, para peneliti telah menemukan bahwa melengkapi model monolitik dengan model dan alat lain, masing-masing dioptimalkan untuk peran tertentu dapat membuat pendekatan yang lebih efektif.

Postingan blog 2024 dari Laboratorium Penelitian Kecerdasan Buatan Berkeley (BAIR) (tautan berada di luar IBM.com) adalah visi klarifikasi awal tentang seperti apa sistem AI majemuk nantinya. Postingan tersebut mengusulkan bahwa hasil yang lebih baik dapat diperoleh dengan membangun sistem AI gabungan dan bahwa masa depan AI akan melibatkan organisasi yang menyatukan LLM, sistem pengambilan, agen AI, dan alat eksternal, masing-masing dioptimalkan untuk tugas-tugas tertentu.

Ada banyak manfaat dari orkestrasi beberapa model individu dan komponen yang berinteraksi.

Efisiensi

Dengan membagi tugas di antara model khusus, sistem majemuk mengurangi beban kognitif pada komponen AI individu. Misalnya, satu model mungkin fokus pada analisis data terstruktur sementara yang lain menafsirkan data tidak terstruktur seperti gambar atau teks. Pembagian kerja ini mengarah pada peningkatan kinerja dan akurasi yang lebih tinggi dibandingkan dengan sistem model tunggal.

LLM sangat mengesankan, dan kinerjanya meningkat ketika diberi lebih banyak sumber daya komputasi. Namun, karena hukum skalabilitas, peningkatan tersebut mengalami batas kinerja dan pengembalian yang semakin menurun. Kadang-kadang, daripada menambahkan lebih banyak komputasi ke LLM, lebih efektif untuk mendelegasikan tugas tertentu kepada model, agen, atau alat lain yang membutuhkan sumber daya lebih sedikit.

Kecepatan

Menggabungkan beberapa model untuk melakukan tugas terkadang bisa lebih cepat daripada melatih satu LLM untuk melakukannya. Selain itu, sistem majemuk dapat memproses berbagai jenis data secara bersamaan, memungkinkan pengambilan keputusan real-time. Ini sangat penting dalam aplikasi AI seperti deteksi penipuan, di mana respons cepat sangat penting, atau dalam aplikasi edge, di mana latensi harus diminimalkan.

Fleksibilitas

Sistem majemuk sangat serbaguna dan dapat diterapkan di berbagai contoh penggunaan. Keserbagunaan ini menjadikan sistem AI majemuk pilihan yang disukai untuk bisnis yang bertujuan untuk mengoptimalkan operasi di berbagai domain.

Organisasi dapat memperoleh manfaat dari desain sistem yang menggunakan kombinasi komponen yang telah dilatih sebelumnya, solusi sumber terbuka, dan modul khusus. Setiap komponen dapat diperbarui atau diganti secara independen seiring perkembangan teknologi tanpa merombak seluruh sistem. Dengan mendistribusikan tugas di berbagai model, sistem gabungan mendapatkan manfaat dari kemampuan beradaptasi dan ketahanan terhadap kegagalan komponen individual.

Metode gabungan termasuk generasi dengan dukungan pengambilan data (RAG) memperluas kemampuan LLM dengan memungkinkan mereka mengakses sumber data di luar kumpulan data pelatihan awal mereka. Menggabungkan model yang berbeda memungkinkan pengembang untuk mengoptimalkan tujuan tertentu, seperti kecepatan atau keahlian domain.

Kontrol

LLM bisa sulit digunakan, rentan terhadap halusinasi dan membuat keputusan yang tidak selalu mudah dijelaskan. Solusi AI majemuk dapat membantu mengontrol input dan menyaring output, sehingga menghasilkan perilaku yang lebih terkendali dan meningkatkan kepercayaan.

Sistem AI majemuk sudah digunakan dalam contoh penggunaan dunia nyata, seperti: 

Chatbot

Versi chatbot tertentu termasuk ChatGPT OpenAI dan Copilot Microsoft dibangun di atas arsitektur gabungan. ChatGPT, misalnya, memperluas utilitasnya melalui beberapa alat dan API untuk tugas-tugas tertentu.

Sistem ini mengintegrasikan Large Language Model (LLM), generator gambar DALL-E, dan plug-in penerjemah kode. Dengan menggunakan Retrieval-Augmented Generation (RAG), sistem dapat mengakses sumber data eksternal dan basis pengetahuan secara dinamis. Selain itu, model AI khusus digunakan untuk mendeteksi dan menyaring konten berbahaya atau tidak pantas sebelum menghasilkan respons.

Mobil tanpa pengemudi

Meskipun teknologi ini belum dibawa ke arus utama, sistem kendaraan otonom menggunakan model visi komputer untuk mendeteksi dan mengenali objek di sekitar mobil. Algoritma fusi sensor menggabungkan data dari kamera, LiDAR, radar, dan sensor ultrasonik untuk membuat peta lingkungan 3D yang komprehensif, meningkatkan kesadaran situasional.

Model pembelajaran penguatan menangani pengambilan keputusan, seperti menentukan kapan harus berpindah jalur, menyesuaikan kecepatan, atau berhenti di lampu lalu lintas, berdasarkan kondisi waktu nyata.

Selain itu, pemrosesan bahasa alami (NLP) memungkinkan kendaraan untuk menafsirkan dan menanggapi perintah lisan dari penumpang. Komponen ini bekerja sama dengan lancar untuk memproses data dalam jumlah besar, membuat keputusan cepat yang cerdas, dan memberikan pengalaman intuitif.

Dukungan pelanggan

Sistem AI terpadu dalam dukungan pelanggan mengintegrasikan berbagai teknologi AI untuk menghadirkan layanan yang lebih efisien, personal, dan responsif. Misalnya, model NLP digunakan untuk menganalisis pertanyaan pelanggan, mengidentifikasi maksud serta detail utama, sehingga memungkinkan sistem memahami dan menangani masalah dengan lebih akurat.

Setelah maksud diidentifikasi, chatbot yang didukung oleh AI generatif  (gen AI) secara percakapan melibatkan pelanggan, menawarkan bantuan segera atau mengklarifikasi detail tambahan. Pada saat yang sama, sistem rekomendasi menyarankan solusi yang relevan, seperti langkah-langkah pemecahan masalah, artikel FAQ atau rekomendasi produk yang disesuaikan dengan kebutuhan pelanggan.

Untuk meningkatkan pengalaman, model analisis sentimen mengevaluasi nada dan kondisi emosional pelanggan, membantu memprioritaskan kasus-kasus yang mendesak atau tidak memuaskan untuk mendapatkan intervensi manusia. Kombinasi komponen ini memungkinkan dukungan pelanggan yang cepat, cerdas, dan berempati, sehingga mengurangi waktu penyelesaian sekaligus mempertahankan tingkat kepuasan pelanggan yang tinggi.

Manajemen rantai pasokan

Sistem AI gabungan dalam rantai pasokan menggunakan beberapa komponen AI untuk mengoptimalkan logistik, manajemen inventaris, dan efisiensi secara keseluruhan. Misalnya, analisis prediktif memperkirakan permintaan dengan menganalisis data penjualan historis, tren musiman, dan variabel pasar, memungkinkan perencanaan inventaris yang tepat.

Sistem visi komputer memantau operasi gudang secara real-time, mendeteksi ketidakefisienan atau kesalahan, seperti barang yang salah tempat atau rusak. Sementara itu, algoritme pengoptimalan rute menghitung jalur pengiriman paling efisien dengan mempertimbangkan faktor seperti lalu lintas, cuaca, dan konsumsi bahan bakar.

Selain itu, NLP memungkinkan penanganan otomatis komunikasi antara pemasok dan pelanggan, seperti memproses pesanan pembelian atau menanggapi pertanyaan. Dengan mengintegrasikan komponen-komponen ini, sistem dapat meningkatkan responsivitas rantai pasokan, mengurangi pemborosan, memastikan pengiriman tepat waktu, dan beradaptasi secara dinamis terhadap perubahan permintaan serta kondisi eksternal.

Merancang sistem AI majemuk melibatkan integrasi berbagai model AI dan komponen ke dalam satu kerangka kerja yang kohesif untuk menangani tugas-tugas kompleks. Kerangka kerja ini berfungsi sebagai infrastruktur yang memungkinkan berbagai model AI bekerja secara terkoordinasi dan memastikan komunikasi yang lancar di antara mereka.

Dalam sistem AI majemuk, logika kontrol terprogram dapat memanggil model atau LLM yang “bertanggung jawab,” bergantung pada tujuan sistem.

Kedua pendekatan memiliki keunggulan masing-masing, dan kombinasi model serta komponen dalam sistem AI bisa sangat beragam. Oleh karena itu, desainer perlu berpikir kritis dalam memilih pendekatan dan terbuka untuk bereksperimen dengan berbagai arsitektur serta kombinasi komponen.

Operasi pembelajaran mesin (MLOps) menjadi lebih rumit dengan alur kerja majemuk. Misalnya, sulit untuk menerapkan metrik yang konsisten di berbagai jenis alat dan model. Para peneliti BAIRD mengklaim bahwa fase baru pengembangan AI muncul bersamaan dengan pergeseran ke sistem majemuk untuk membantu bergulat dengan tantangan yang disajikan oleh pemantauan, debugging, dan masalah operasional lainnya yang terlibat.