Apa itu prompting rantai pemikiran (CoT)?

Rekayasa prompt digunakan dalam kecerdasan buatan untuk menyempurnakan input (prompt) untuk mendapatkan output model yang paling akurat. Dalam penelitian ini, konsep prompting rantai pemikiran diterapkan yang memunculkan penalaran dalam LLM.¹ Makalah ini menyatakan bahwa memerintahkan model untuk menghasilkan langkah-langkah penalaran perantara meningkatkan kemampuan mereka secara signifikan untuk menyelesaikan masalah dengan akurat melalui banyak langkah seperti aritmetika, akal sehat, dan penalaran simbolis. 

Para peneliti yang terinspirasi oleh kemampuan LLM untuk "berpikir dengan keras" dalam bahasa alami mencatat bahwa seiring dengan bertambahnya ukuran parameter, begitu pula dengan kemampuan penalaran dan akurasi. Karena alasan inilah prompting CoT dianggap sebagai kemampuan yang muncul atau kemampuan yang muncul ketika ukuran atau kompleksitas model meningkat. LLM besar cenderung berkinerja lebih baik karena mereka telah mempelajari pola penalaran yang lebih mendalam dari pelatihan pada kumpulan data yang sangat besar. 

Namun demikian, meningkatkan ukuran model bukanlah satu-satunya cara untuk meningkatkan akurasi pemecahan masalah di berbagai tolok ukur. Kemajuan dalam penyetelan instruksi telah memungkinkan model yang lebih kecil untuk melakukan penalaran CoT. Model IBM® Granite Instruct, misalnya, disesuaikan dengan menggunakan kumpulan data pelatihan khusus yang terdiri dari petunjuk instruksional dan contoh untuk tugas CoT. Contoh tersebut merupakan contoh prompt yang digunakan model sebagai cara ideal untuk merespons.

Prompting rantai pemikiran menyimulasikan proses penalaran seperti manusia dengan menguraikan masalah yang rumit menjadi langkah-langkah perantara yang dapat dikelola, yang secara berurutan mengarah ke jawaban yang bersifat konklusif.² Struktur pemecahan masalah langkah demi langkah ini bertujuan untuk membantu memastikan bahwa proses penalarannya jelas, logis, dan efektif.

Dalam format prompt standar, output model biasanya merupakan respons langsung terhadap input yang diberikan. Misalnya, seseorang mungkin memberikan prompt input yang menanyakan, “Apa warna langit? ", AI akan menghasilkan respons sederhana dan langsung, seperti " Langit berwarna biru." 

Namun, jika diminta untuk menjelaskan mengapa langit berwarna biru dengan menggunakan prompting CoT, AI akan mendefinisikan terlebih dahulu apa arti "biru" (warna primer). AI kemudian akan menyimpulkan bahwa langit tampak biru karena penyerapan warna lain oleh atmosfer. Respons ini menunjukkan kemampuan AI untuk membangun argumen logis.

Untuk membuat prompt, pengguna biasanya menambahkan instruksi ke akhir prompt mereka. Pengguna biasanya menambahkan instruksi pada prompt mereka seperti "jelaskan langkah-langkah penalaran Anda" atau "jelaskan jawaban Anda langkah demi langkah." Pada intinya, teknik perintah ini meminta LLM untuk tidak hanya menghasilkan sebuah hasil, tetapi juga memerinci serangkaian langkah perantara yang menghasilkan jawaban tersebut.³

Rantai prompt adalah metode populer lain yang digunakan dalam aplikasi gen AI untuk meningkatkan keandalan dengan menggunakan beberapa prompt yang dibangun satu sama lain secara berurutan untuk memecah tugas-tugas kompleks. Teknik seperti rantai prompt dan CoT memandu model untuk menggunakan nalar pada masalah melalui langkah demi langkah, tidak langsung memberikan jawaban yang terdengar benar. Metode ini juga dapat membantu untuk observabilitas dan debug, karena mendorong model untuk lebih transparan dalam penalarannya. Perbedaan utama antara kedua metode ini adalah bahwa rantai prompt mengurutkan beberapa prompt untuk menguraikan tugas langkah demi langkah, sedangkan prompting CoT memunculkan proses penalaran model dalam satu prompt.

Prompting rantai pemikiran memanfaatkan model bahasa besar (LLM) untuk mengartikulasikan rangkaian langkah-langkah penalaran, membimbing model untuk menghasilkan rantai penalaran analog untuk tugas-tugas baru. Hal ini dicapai melalui prompt berbasis contoh yang mengilustrasikan proses penalaran, sehingga meningkatkan kapasitas model untuk mengatasi tantangan penalaran yang kompleks.⁴ Mari kita pahami alur teknik perintah ini dengan membahas persamaan polinomial—yang memecahkan masalah matematika klasik.

Perintah rantai pemikiran (CoT) dapat secara signifikan membantu menyelesaikan persamaan polinomial dengan memandu LLM untuk mengikuti serangkaian langkah logis untuk menguraikan proses pemecahan masalah.⁵ Mari kita lihat bagaimana perintah CoT dapat menyelesaikan persamaan polinomial.

Simak contoh penyelesaian persamaan kuadrat.

Perintah input: Selesaikan persamaan kuadrat: x² - 5x + 6 = 0

Saat kami memberikan prompt ini pada obrolan IBM watsonx.ai, kita dapat melihat percakapan berikut antara pertanyaan manusia dan jawaban bantuan AI.

Untuk menghasilkan jenis output ini, dasar-dasar CoT bekerja seperti yang diilustrasikan pada gambar berikut. Jawaban akhir dari rantai pemikiran adalah "Solusi persamaan x² - 5x + 6 = 0 adalah x = 3 dan x = 2"

Prompting rantai pemikiran (CoT) telah berkembang menjadi berbagai varian inovatif, masing-masing disesuaikan untuk mengatasi tantangan spesifik dan meningkatkan kemampuan penalaran model dengan cara yang unik. Adaptasi ini tidak hanya memperluas penerapan CoT di berbagai domain, tetapi juga menyempurnakan proses pemecahan masalah model ini.³

Varian rantai pemikiran tanpa contoh memanfaatkan pengetahuan yang melekat dalam model untuk mengatasi masalah tanpa contoh spesifik sebelumnya atau penyempurnaan untuk tugas yang dihadapi. Pendekatan ini sangat berharga ketika berhadapan dengan jenis masalah yang baru atau beragam di mana data pelatihan yang disesuaikan mungkin tidak tersedia.⁷ Pendekatan ini dapat memanfaatkan properti prompting standar dan prompting dengan beberapa contoh.

Misalnya, saat menjawab pertanyaan "Apa ibu kota negara yang berbatasan dengan Prancis dan memiliki bendera merah putih?", model yang menggunakan CoT tanpa contoh akan memanfaatkan pengetahuan geografi dan bendera yang disematkan untuk menyimpulkan langkah-langkah hingga memberikan Swiss sebagai jawaban, meskipun tidak dilatih secara eksplisit pada pertanyaan semacam itu.

Rantai pemikiran otomatis (auto-CoT) bertujuan untuk meminimalkan upaya manual dalam membuat prompt dengan mengotomatiskan pembuatan dan pemilihan jalur penalaran yang efektif. Varian ini meningkatkan skalabilitas dan aksesibilitas prompting CoT untuk tugas dan pengguna yang lebih luas.^{8, 9}

Misalnya, untuk menyelesaikan soal matematika seperti "Jika Anda membeli 5 apel dan sudah memiliki 3 apel, berapa total apel yang Anda miliki?", sistem auto-CoT dapat secara otomatis menghasilkan langkah-langkah perantara. Langkah-langkah tersebut dapat mencakup "Mulai dengan 3 apel" dan "Tambahkan 5 apel ke 3 apel yang sudah ada," yang berpuncak pada "Total apel = 8," merampingkan proses penalaran tanpa campur tangan manusia.

Rantai pemikiran multimodal memperluas kerangka kerja CoT untuk memasukkan input dari berbagai modalitas, seperti teks dan gambar, yang memungkinkan model untuk memproses dan mengintegrasikan berbagai jenis informasi untuk tugas-tugas penalaran yang kompleks.⁶

Misalnya, ketika disajikan gambar pemandangan pantai yang ramai dan ditanya, "Apakah pantai ini kemungkinan populer pada musim panas?", model yang menggunakan CoT multimodal dapat menganalisis isyarat visual. Isyarat seperti tingkat hunian pantai, kondisi cuaca, dan lainnya, serta pemahaman tekstual tentang popularitas musiman, membantu model untuk memberikan respons yang terperinci. Tanggapan yang mungkin muncul adalah, "Pantai ini ramai, menandakan popularitas yang tinggi, kemungkinan akan semakin meningkat pada musim panas."

Varian perintah rantai pemikiran ini tidak hanya menampilkan fleksibilitas dan kemampuan beradaptasi dari pendekatan CoT, tetapi juga mengisyaratkan potensi besar untuk perkembangan masa depan dalam penalaran AI dan kemampuan pemecahan masalah.

Prompting CoT adalah teknik yang ampuh untuk meningkatkan kinerja model bahasa besar (LLM) pada tugas penalaran yang kompleks, menawarkan manfaat signifikan dalam berbagai domain seperti peningkatan akurasi, transparansi, dan kemampuan penalaran dengan beberapa langkah. Namun, penting untuk mempertimbangkan keterbatasannya, termasuk kebutuhan akan prompt berkualitas tinggi, peningkatan biaya komputasi, kerentanan terhadap serangan jahat, dan tantangan dalam mengevaluasi peningkatan kualitatif dalam penalaran atau pemahaman. Dengan mengatasi keterbatasan ini, para peneliti dan praktisi dapat memastikan penerapan prompting CoT yang bertanggung jawab dan efektif dalam berbagai aplikasi.¹¹

Pengguna dapat memperoleh manfaat dari beberapa keuntungan dalam prompting rantai pemikiran. Beberapa di antaranya adalah:

• Output perintah yang lebih baik: Prompting CoT meningkatkan kinerja LLM dalam tugas-tugas penalaran yang kompleks dengan memecahnya menjadi langkah-langkah yang lebih sederhana dan logis.
• Transparansi dan pemahaman: Pembuatan langkah-langkah penalaran menengah menawarkan transparansi tentang cara model sampai pada kesimpulannya, sehingga membuat proses pengambilan keputusan menjadi lebih mudah dipahami oleh pengguna.
• Penalaran dalam beberapa langkah: Dengan menangani setiap komponen masalah secara sistematis, prompting CoT sering kali menghasilkan jawaban yang lebih akurat dan dapat diandalkan, terutama dalam tugas-tugas yang membutuhkan penalaran dalam beberapa langkah. Penalaran beberapa langkah mengacu pada kemampuan untuk melakukan operasi logis yang kompleks dengan memecahnya menjadi langkah-langkah yang lebih kecil dan berurutan. Keterampilan kognitif ini sangat penting untuk memecahkan masalah yang rumit, membuat keputusan, dan memahami hubungan sebab akibat. 
• Perhatian terhadap detail: Model penjelasan langkah demi langkah mirip dengan metode pengajaran yang mendorong pemahaman melalui perincian yang mendetail, sehingga membuat perintah CoT berguna dalam konteks pendidikan.
• Keberagaman: CoT dapat diterapkan di berbagai tugas, termasuk tetapi tidak terbatas pada, penalaran aritmetika, penalaran akal sehat, dan pemecahan masalah kompleks, yang menunjukkan kegunaannya yang fleksibel.

• Kontrol kualitas: Efektivitas prompting CoT sangat bergantung pada kualitas prompt yang diberikan, sehingga memerlukan contoh yang dibuat dengan hati-hati untuk memandu model secara akurat.
• Daya komputasi yang tinggi: Menghasilkan dan memproses beberapa langkah penalaran memerlukan daya dan waktu komputasi yang lebih besar dibandingkan dengan perintah satu langkah standar. Dengan demikian, teknik ini lebih mahal untuk diadopsi oleh organisasi mana pun.
• Sesat dalam konsep: Ada risiko menghasilkan alur penalaran yang masuk akal tetapi salah, yang mengarah pada kesimpulan yang menyesatkan atau salah.
• Mahal dan padat karya: Merancang perintah CoT yang efektif dapat menjadi lebih kompleks dan membutuhkan banyak tenaga, membutuhkan pemahaman yang mendalam tentang domain masalah dan kemampuan model.
• Model melakukan overfitting: Ada potensi risiko model yang terlalu menyesuaikan diri dengan gaya atau pola penalaran dalam prompt, yang dapat mengurangi kemampuan generalisasi mereka pada tugas yang bervariasi.
• Evaluasi dan validasi: Sementara CoT dapat meningkatkan interpretabilitas dan akurasi, mengukur peningkatan kualitatif dalam penalaran atau pemahaman bisa menjadi tantangan. Hal ini disebabkan oleh kompleksitas yang melekat pada kognisi manusia dan sifat subjektif dalam mengevaluasi ekspresi linguistik. Namun, beberapa pendekatan dapat digunakan untuk menilai efektivitas prompting CoT. Misalnya, membandingkan respons model dengan model dasar atau pakar manusia dapat memberikan insight tentang peningkatan kinerja relatif. Selain itu, menganalisis langkah-langkah penalaran menengah yang dihasilkan oleh LLM dapat menawarkan insight berharga tentang proses pengambilan keputusan, bahkan jika sulit untuk secara langsung mengukur peningkatan dalam penalaran atau pemahaman.

Perkembangan rantai pemikiran (CoT) adalah bukti kemajuan sinergis di beberapa domain, terutama dalam pemrosesan bahasa alami (NLP), machine learning, dan bidang AI generatif yang sedang berkembang dengan pesat. Langkah-langkah ini tidak hanya mendorong CoT menjadi yang terdepan dalam pemecahan masalah yang kompleks, tetapi juga menggarisbawahi kegunaannya di seluruh spektrum aplikasi. Di sini, kita akan membahas perkembangan utamanya, dengan mengintegrasikan berbagai istilah yang telah ditentukan untuk memberikan gambaran menyeluruh mengenai kemajuan CoT.

Inovasi dalam rekayasa prompt telah secara signifikan meningkatkan pemahaman dan interaksi model dengan prompt asli yang mengarah ke jalur penalaran yang lebih mendalam dan selaras secara kontekstual. Perkembangan ini sangat penting dalam menyempurnakan efektivitas CoT.¹²

Integrasi ke dalam tugas penalaran simbolik dan tugas penalaran logis telah meningkatkan kapasitas model untuk berpikir abstrak dan menarik kesimpulan, menandai lompatan yang signifikan dalam mengatasi tantangan berbasis logika dengan CoT.¹³

Misalnya, penalaran simbolik adalah memecahkan persamaan matematika, seperti 2 + 3 = 5. Dalam hal ini, masalah dipecah menjadi bagian-bagian penyusunnya (penjumlahan dan angka) dan model menyimpulkan jawaban yang benar berdasarkan pengetahuan yang telah dipelajari dan aturan inferensi. Penalaran logis, di sisi lain, melibatkan penarikan kesimpulan dari premis atau asumsi, seperti "Semua burung bisa terbang dan penguin adalah burung." Model kemudian akan menentukan bahwa seekor penguin dapat terbang berdasarkan informasi yang diberikan. Integrasi prompting CoT ke dalam tugas-tugas penalaran simbolis dan penalaran logis telah memungkinkan LLM untuk menunjukkan kemampuan berpikir abstrak dan penarikan kesimpulan yang lebih baik, sehingga mereka dapat mengatasi masalah yang lebih kompleks dan beragam.

Penerapan AI generatif dan arsitektur transformator telah mengubah CoT, memungkinkan pembuatan jalur penalaran canggih yang menunjukkan kreativitas dan kedalaman. Sinergi ini telah memperluas penerapan CoT, memengaruhi domain akademik dan praktis.¹⁴

Kemajuan yang memungkinkan model yang lebih kecil untuk terlibat secara efektif dalam penalaran CoT telah membuka akses ke kemampuan penalaran yang canggih. Fokus pada konsistensi diri dalam CoT membantu memastikan kesehatan logis dari jalur yang dihasilkan, meningkatkan keandalan kesimpulan yang ditarik oleh model.¹⁵

Metodologi rantai pemikiran (CoT) dengan kemampuannya untuk menguraikan masalah yang kompleks menjadi langkah-langkah penalaran yang dapat dimengerti telah digunakan di berbagai bidang. Berbagai contoh penggunaan ini tidak hanya menunjukkan keserbagunaan CoT, tetapi juga potensinya untuk mengubah cara sistem mendekati tugas-tugas pemecahan masalah dan pengambilan keputusan. Pada bagian berikutnya kami menjelajahi beberapa contoh penggunaan yang menonjol di mana CoT telah diterapkan secara efektif.

Mengintegrasikan CoT dalam chatbot dan memanfaatkan teknik NLP yang canggih telah mengubah AI percakapan, memungkinkan chatbot untuk melakukan interaksi lebih kompleks yang membutuhkan tingkat pemahaman dan kemampuan pemecahan masalah yang lebih dalam.

Semua kemajuan ini bersama-sama menandakan lompatan ke depan dalam kemampuan CoT dan pentingnya integrasi chatbot dan model CoT, menyoroti potensi mereka untuk mengubah pengambilan keputusan berbasis AI dan proses pemecahan masalah. Dengan menggabungkan kemampuan percakapan chatbot dengan kemampuan penalaran tingkat lanjut dari model CoT, kami dapat menciptakan sistem AI yang lebih canggih dan efektif yang mampu menangani berbagai tugas dan aplikasi yang lebih luas.

Lebih jauh lagi, integrasi berbagai aplikasi dan model CoT dapat meningkatkan pengalaman pengguna secara keseluruhan dengan memungkinkan sistem AI untuk lebih memahami dan menanggapi kebutuhan dan preferensi pengguna. Dengan memadukan teknik pemrosesan bahasa alami (NLP)  ke dalam model CoT, kami dapat membuat chatbot memahami dan menanggapi input pengguna dengan cara yang lebih mirip manusia, sehingga menciptakan pengalaman percakapan yang lebih menarik, intuitif, dan efektif.

Chatbot tingkat lanjut menggunakan CoT untuk lebih memahami dan menjawab pertanyaan pelanggan. Dengan memecah masalah pelanggan menjadi bagian-bagian yang lebih kecil dan mudah dikelola, chatbot dapat memberikan respons yang lebih akurat dan bermanfaat, sehingga meningkatkan kepuasan pelanggan dan mengurangi kebutuhan akan campur tangan manusia.

Para peneliti menggunakan CoT untuk menyusun proses pemikiran mereka dalam memecahkan masalah ilmiah yang kompleks, memfasilitasi inovasi. Pendekatan terstruktur ini dapat mempercepat proses penemuan dan memungkinkan perumusan hipotesis baru.

Dalam pembuatan konten, CoT membantu menghasilkan garis besar atau ringkasan terstruktur dengan mengatur pemikiran dan informasi secara logis, meningkatkan koherensi dan kualitas konten tertulis.

CoT sangat penting dalam platform teknologi pendidikan, membantu dalam menghasilkan penjelasan langkah demi langkah untuk masalah yang kompleks. Kemampuan ini sangat berharga dalam mata pelajaran seperti matematika dan sains, di mana memahami proses sama pentingnya dengan jawaban akhir. Sistem berbasis COT dapat memandu siswa melalui prosedur pemecahan masalah, meningkatkan pemahaman dan memori mereka.

CoT sangat penting untuk menjelaskan alasan di balik keputusan berbasis AI, terutama dalam skenario yang membutuhkan pertimbangan etika. Dengan menyediakan jalur penalaran yang transparan, CoT membantu memastikan bahwa keputusan AI selaras dengan standar etika dan norma-norma masyarakat.

Contoh-contoh penggunaan ini menggarisbawahi potensi transformatif CoT di berbagai sektor, yang menawarkan sekilas tentang kapasitasnya untuk mendefinisikan ulang proses pemecahan masalah dan pengambilan keputusan. Seiring dengan terus berkembangnya CoT, aplikasinya diharapkan dapat meluas, dan lebih jauh lagi, metodologi ini akan tertanam dalam tatanan kemajuan teknologi dan masyarakat.

Dorongan rangkaian pemikiran menandakan lompatan maju dalam kemampuan AI untuk melakukan tugas-tugas penalaran yang kompleks, meniru proses kognitif manusia. Dengan menjelaskan langkah-langkah penalaran menengah, CoT tidak hanya memperkuat ketajaman pemecahan masalah LLM tetapi juga meningkatkan transparansi dan interpretabilitas. Meskipun memiliki keterbatasan yang melekat, eksplorasi berkelanjutan terhadap varian dan aplikasi CoT terus memperluas kapasitas penalaran model AI, yang menandakan peningkatan masa depan dalam fungsi kognitif AI.