Apa itu peringkasan teks?

Ringkasan teks otomatis (atau ringkasan dokumen) adalah metode pemrosesan bahasa alami (NLP) yang memadatkan informasi dari satu atau lebih dokumen teks input ke dalam teks hasil asli. Berapa banyak teks input yang muncul dalam hasil masih diperdebatkan—beberapa definisi hanya menyatakan 10%, yang lain 50%.¹ Algoritme peringkasan teks sering kali menggunakan arsitektur pembelajaran mendalam—khususnya, transformer—untuk mengurai dokumen dan menghasilkan ringkasanteks.

Ada dua jenis ringkasan utama: ekstraktif dan abstraktif.

Peringkasan ekstraktif mengekstrak kalimat yang tidak dimodifikasi dari dokumen teks asli. Perbedaan utama antara algoritma ekstraktif adalah bagaimana mereka menilai tingkat kepentingan kalimat sekaligus mengurangi redundansi topik. Perbedaan penilaian kalimat menentukan kalimat mana yang akan diekstrak dan mana yang harus dipertahankan.

Ringkasan abstraktif menghasilkan ringkasan asli menggunakan kalimat yang tidak ditemukan dalam dokumen teks asli. Pembuatan semacam itu memerlukan neural networks dan model bahasa besar (LLM) untuk menghasilkan rangkaian teks yang bermakna secara semantik.ne

Seperti yang bisa ditebak, peringkasan teks abstraktif lebih mahal secara komputasi dibandingkan ekstraktif, sehingga membutuhkan pemahaman yang lebih khusus tentang kecerdasan buatan dan sistem generatif. Tentu saja, peringkasan teks ekstraktif juga dapat menggunakan pengubah neural networks—seperti GPT, BERT, dan BART—untuk membuat ringkasan. Namun demikian, pendekatan ekstraktif tidak memerlukan neural networks.²

Evaluasi komparatif teknik ekstraktif dan abstraktif menunjukkan hasil yang beragam. Sebagai contoh, beberapa penelitian menunjukkan bahwa rangkuman abstrak lebih rentan terhadap halusinasi - yaitu informasi yang menyesatkan atau secara faktual salah.³ Penelitian tambahan menunjukkan bahwa halusinasi abstrak sebenarnya selaras dengan pengetahuan dunia, karena berasal dari materi sumber rangkuman itu sendiri.⁴ Perbandingan lain dari teknik ekstraktif dan abstraktif menunjukkan bahwa masing-masing memiliki manfaat komparatif. Pengguna manusia menganggap ringkasan abstrak lebih koheren, namun mereka juga menganggap ringkasan ekstraktif lebih informatif dan relevan.⁵ Penelitian juga menunjukkan bahwa kontroversi dari subjek teks mempengaruhi bagaimana pengguna melihat masing-masing jenis ringkasan.⁶ Dengan demikian, mungkin tidak ada perbandingan evaluatif personal langsung antara jenis ringkasan ini.

Seperti tugas NLP lainnya, peringkasan teks membutuhkan data teks yang terlebih dahulu menjalani prapemrosesan. Hal ini mencakup tokenisasi, penghapusan stopword, dan stemming atau lemmatization untuk membuat kumpulan data dapat dibaca oleh model machine learning. Setelah prapemrosesan, semua metode peringkasan teks ekstraktif mengikuti tiga langkah umum yang independen: representasi, penilaian kalimat, dan pemilihan kalimat.

Pada tahap representasi, suatu algoritma melakukan segmentasi dan merepresentasikan data teks yang telah diproses sebelumnya untuk perbandingan. Banyak representasi ini dibangun dari model bag of words, yang merepresentasikan segmen teks—seperti kata atau kalimat—sebagai titik data dalam ruang vektor. Kumpulan data multidokumen yang besar dapat menggunakan frekuensi istilah, atau frekuensi dokumen terbalik (TF-IDF), varian dari bag of words yang memberi bobot pada setiap istilah untuk mencerminkan kepentingannya dalam satu set teks. Alat pemodelan topik seperti analisis semantik laten (LSA) adalah metode representasi lain yang menghasilkan kelompok kata kunci ringkasan yang diberi bobot di seluruh dokumen. Algoritma lain, seperti LexRank dan TextRank, menggunakan grafik. Pendekatan berbasis grafik ini merepresentasikan kalimat sebagai node (atau titik sudut) yang dihubungkan oleh garis berdasarkan skor kesamaan semantik. Bagaimana algoritma mengukur kesamaan semantik?⁷

Penilaian kalimat, sesuai namanya, menilai setiap kalimat dalam teks sesuai dengan kepentingannya terhadap teks itu. Representasi yang berbeda menerapkan metode penilaian yang berbeda. Misalnya, pendekatan representasi topik menilai setiap kalimat sesuai dengan sejauh mana mereka mengekspresikan atau menggabungkan topik kunci secara individual. Lebih khusus lagi, ini mungkin melibatkan pembobotan kalimat sesuai dengan frekuensi kata kunci topik. Pendekatan berbasis grafik, menghitung sentralitas kalimat. Algoritma ini menentukan sentralitas menggunakan TF-IDF untuk menghitung seberapa jauh node kalimat tertentu dari centroid dokumen dalam ruang vektor.⁸

Langkah umum terakhir dalam algoritma ekstraktif adalah pemilihan kalimat. Setelah membobotkan kalimat berdasarkan kepentingannya, algoritma memilih n kalimat paling penting untuk dokumen atau koleksi dokumen. Kalimat-kalimat ini merupakan ringkasan yang dihasilkan. Tetapi bagaimana jika ada tumpang tindih semantik dan tematik dalam kalimat-kalimat ini? Langkah pemilihan kalimat bertujuan untuk mengurangi redundansi dalam ringkasan akhir. Metode relevansi marginal maksimal menggunakan pendekatan berulang. Secara khusus, mereka menghitung ulang skor kepentingan kalimat sesuai dengan kemiripan kalimat tersebut dengan kalimat yang sudah dipilih. Metode seleksi global memilih subset dari kalimat yang paling penting untuk memaksimalkan kepentingan secara keseluruhan dan mengurangi redundansi.⁹

Seperti yang diilustrasikan oleh gambaran umum ini, peringkasan teks ekstraktif pada akhirnya adalah masalah peringkat teks (dan paling sering, kalimat). Teknik peringkasan teks ekstraktif mengurutkan dokumen dan string pengujiannya (untuk sampel, kalimat) dalam urutan atau menghasilkan ringkasan yang paling cocok dengan topik utama yang diidentifikasi dalam teks yang diberikan. Dengan cara ini, peringkasan ekstraktif dapat dipahami sebagai bentuk pengambilan informasi.¹⁰

Seperti yang telah dibahas, teknik peringkasan teks abstrak menggunakan neural networks untuk menghasilkan teks asli yang meringkas satu atau beberapa dokumen. Sementara ada banyak jenis metode peringkasan teks abstrak, literatur tidak menggunakan satu sistem klasifikasi yang menyeluruh untuk mendeskripsikan berbagai metode ini.¹¹ Namun demikian, ada kemungkinan untuk melakukan pengenalan umum tentang tujuan-tujuan dari berbagai metode ini.

Seperti halnya banyak aplikasi kecerdasan buatan, peringkasan teks abstrak pada akhirnya bertujuan untuk meniru ringkasan yang dibuat oleh manusia. Salah satu fitur utama dari yang terakhir adalah kompresi kalimat—manusia meringkas teks dan kalimat yang lebih panjang dengan memperpendeknya. Ada dua pendekatan umum untuk kompresi kalimat: metode berbasis aturan dan metode statistik.

Yang pertama memanfaatkan pengetahuan sintaksis untuk mengurai segmen tata bahasa. Ini menggunakan kata kunci, petunjuk sintaksis, atau bahkan label bagian dari ucapan untuk mengekstrak cuplikan teks yang kemudian digabungkan, sering kali sesuai dengan templat yang telah ditentukan sebelumnya. Template ini dapat diangkat dari analisis teks otomatis tambahan atau aturan yang ditentukan pengguna.²

Dalam pendekatan statistik, sebuah model (baik yang diperoleh dari prapelatihan atau penyempurnaan) mempelajari segmen kalimat mana yang akan dihapus. Sebagai contoh, pengurai pohon dapat mengidentifikasi kalimat serupa dari teks input dan mengisi kalimat yang sebanding di seluruh struktur pohon. Pohon ketergantungan adalah salah satu struktur yang memodelkan kalimat sesuai dengan hubungan yang dirasakan antara kata-kata, selaras dengan pengaturan subjek-predikat. Kalimat dalam struktur ini dapat memiliki kata kerja sebagai node pusatnya, dengan subjek dan objek (yaitu kata benda) dan konjungsi yang bercabang. Kata kerja tambahan kemudian akan bercabang dari kata benda yang dilampirkan. Setelah teks direpresentasikan dalam struktur pohon, algoritme kemudian memilih kata atau frasa umum untuk digunakan oleh jaringan generatif dalam membuat ringkasan baru.¹²

Seperti yang diisyaratkan oleh tinjauan singkat mengenai kompresi kalimat ini, fusi informasi adalah aspek kunci lain dari ringkasan abstrak. Orang meringkas dokumen dengan menggabungkan informasi dari beberapa bagian ke dalam satu kalimat atau frasa.² Salah satu pendekatan yang diusulkan untuk meniru ini adalah fusi kalimat di seluruh kumpulan multi-dokumen. Pendekatan ini mengidentifikasi frasa yang sering muncul di seluruh kumpulan dokumen dan menggabungkannya melalui teknik yang disebut komputasi kisi untuk menghasilkan ringkasan bahasa Inggris yang koheren secara tata^{bahasa. 13} Metode lain yang diusulkan menggunakan model topik neural untuk menghasilkan istilah kunci yang pada gilirannya memandu pembuatan ringkasan. Dalam pendekatan ini, kata kunci yang sering muncul yang mencakup poin-poin utama di beberapa dokumen digabungkan ke dalam satu kalimat atau kelompoknya.¹⁴

Perhatian terakhir dalam ringkasan teks abstraktif adalah urutan informasi. Informasi yang diringkas tidak selalu mengikuti urutan yang sama dengan dokumen sumber awal. Ketika orang menulis ringkasan, misalnya, mereka mungkin sering mengatur informasi secara tematik. Salah satu metode yang digunakan untuk organisasi tematik adalah kluster. Secara khusus, kalimat yang diekstrak diatur dalam kelompok sesuai dengan konten topik (sebagaimana ditentukan oleh kata kunci yang muncul bersama). Sejalan dengan ini, model topik neural adalah pendekatan potensial lain yang diurutkan informasi secara topik.²

Pengembang menggunakan sejumlah metrik evaluasi untuk ringkasan teks. Perbedaan dalam metrik umumnya bergantung pada jenis ringkasan serta fitur ringkasan yang ingin diukur.

BLEU (bilingual evaluation understudy) adalah metrik evaluasi yang biasa digunakan dalam penerjemahan mesin. Metode ini mengukur kemiripan antara kebenaran dasar dan hasil model untuk urutan n kata, yang dikenal sebagai n-gram. Dalam peringkasan teks, BLEU mengukur seberapa sering, dan sejauh mana, n-gram dalam ringkasan otomatis tumpang tindih dengan ringkasan yang dibuat oleh manusia, dengan memperhitungkan pengulangan kata yang salah pada ringkasan yang dibuat oleh manusia. Kemudian menggunakan skor presisi ini untuk masing-masing n-gram untuk menghitung presisi teks secara keseluruhan, yang dikenal sebagai presisi rata-rata geometris. Nilai akhir ini antara 0 dan 1, nilai terakhir menunjukkan keselarasan yang sempurna antara ringkasan teks yang dibuat oleh mesin dan manusia.¹⁵

ROUGE (evaluasi ringkasan khusus menggunakan standar recall) diambil dari BLEU untuk mengukur kualitas ringkasan teks. Seperti BLEU, ia membandingkan ringkasan mesin dengan ringkasan yang dibuat manusia menggunakan n-gram. Namun, sementara BLEU mengukur presisi mesin, ROUGE mengukur penarikan kembali mesin. Dengan kata lain, ROUGE menghitung keakuratan ringkasan otomatis berdasarkan jumlah n-gram dari ringkasan buatan manusia yang ditemukan dalam ringkasan otomatis. Skor ROUGE, seperti BLEU, adalah nilai antara 0 dan 1, yang terakhir menunjukkan keselarasan sempurna antara ringkasan teks yang dihasilkan mesin dan manusia.¹⁶

Perhatikan bahwa metrik ini mengevaluasi hasil akhir teks ringkasan. Mereka berbeda dari berbagai metode penilaian kalimat yang digunakan dalam algoritma peringkasan teks yang memilih kalimat dan kata kunci yang sesuai untuk menghasilkan ringkasan akhir.

Sejumlah pustaka memungkinkan pengguna untuk dengan mudah mengimplementasikan alat peringkasan teks di Python. Sebagai contoh, HuggingFace Transformers Library dilengkapi dengan BART, sebuah arsitektur transformator encoder-decoder, untuk menghasilkan ringkasan teks. API Keterampilan Bahasa OneAI juga menyediakan alat untuk membuat ringkasan teks dengan mudah.

Aplikasi ringkasan teks yang paling jelas adalah penelitian yang dipercepat. Ini memiliki potensi kegunaan untuk berbagai bidang, seperti hukum, akademik, dan pemasaran. Namun, para peneliti juga menunjukkan bagaimana transformator ringkasan teks dapat memajukan tugas tambahan.

Berita Artikel berita adalah kumpulan data yang umum digunakan untuk menguji dan membandingkan teknik peringkasan teks. Namun, ringkasan tidak selalu menjadi tujuan akhir. Beberapa penelitian menyelidiki peran ringkasan teks yang diturunkan dari transformer sebagai mode ekstraksi fitur untuk memperkuat model deteksi berita palsu.¹⁷ Penelitian ini menunjukkan potensi yang menjanjikan dan menggambarkan bagaimana ringkasan teks dapat diadopsi untuk penggunaan yang lebih luas daripada sekadar menghemat waktu dalam membaca banyak teks.

Penerjemahan Peringkasan lintas bahasa adalah cabang peringkasan teks yang tumpang tindih dengan terjemahan mesin. Diakui, ini bukan bidang penelitian sebesar ringkasan atau penerjemahan itu sendiri. Namun, tujuan meringkas teks bahasa sumber atau koleksi teks dalam bahasa sasaran yang berbeda menimbulkan tantangan baru.¹⁸ Salah satu publikasi itu mengkaji peringkasan lintas bahasa dengan teks sejarah. Dalam tugas ini, varian bahasa historis (misalnya, bahasa Tionghoa kuno versus bahasa Tionghoa modern, atau bahasa Yunani Attika ke bahasa Yunani modern) diperlakukan sebagai bahasa yang berbeda. Percobaan khusus ini menggunakan penanaman kata bersama dengan metode peringkasan ekstraktif dan abstraktif serta metode pembelajaran transfer untuk menghasilkan peringkasan modern dari dokumen-dokumen berbahasa kuno.¹⁹