Was ist Textzusammenfassung?

Die automatische Textzusammenfassung (oder Dokumentzusammenfassung) ist eine Methode zur Verarbeitung natürlicher Sprache (NLP), die Informationen aus einem oder mehreren Texteingabedokumenten zu einem neuen Ausgabetext zusammenfasst. Wie viel des ursprünglichen Textes in der Ausgabe enthalten sein soll, ist umstritten – manche Definitionen sprechen von nur 10 %, andere von 50 %.¹ Algorithmen zur Textzusammenfassung verwenden häufig Deep-Learning-Architekturen – insbesondere Transformer –, um Dokumente zu analysieren und Textzusammenfassungen zu generieren.

Es gibt zwei Hauptarten der Zusammenfassung: extraktive und abstraktive Zusammenfassung.

Die extraktive Zusammenfassung extrahiert unveränderte Sätze aus den Originaltextdokumenten. Ein wesentlicher Unterschied zwischen extraktiven Algorithmen besteht darin, wie sie die Wichtigkeit von Sätzen bewerten und gleichzeitig die inhaltliche Redundanz reduzieren. Unterschiede in der Satzbewertung bestimmen, welche Sätze extrahiert und welche beibehalten werden sollen.

Bei der abstraktiven Zusammenfassung werden originale Zusammenfassungen mit Sätzen erstellt, die nicht in den ursprünglichen Textdokumenten enthalten sind. Eine solche Generierung erfordert neuronale Netze und große Sprachmodelle (LLMs), um semantisch sinnvolle Textsequenzen zu generieren.

Wie man sich vorstellen kann, ist die abstraktive Textzusammenfassung rechnerisch aufwändiger als die extraktive und erfordert ein tieferes Verständnis von künstlicher Intelligenz und generativen Systemen. Natürlich können auch extraktive Textzusammenfassungen Neural Networks und Transformer wie GPT, BERT oder BART nutzen, um Zusammenfassungen zu erstellen. Extraktive Ansätze sind jedoch nicht zwingend auf Neural Networks angewiesen.²

Vergleichende Bewertungen extraktiver und abstraktiver Techniken zeigen gemischte Ergebnisse. Einige Untersuchungen deuten beispielsweise darauf hin, dass abstraktive Zusammenfassungen anfälliger für Halluzinationen sind – also zur Erzeugung irreführender oder sachlich falscher Informationen.³ Andere Untersuchungen legen jedoch nahe, dass solche abstraktiven Halluzinationen tatsächlich mit dem Weltwissen übereinstimmen, da sie aus dem Quellmaterial der Zusammenfassung selbst abgeleitet werden.⁴ Weitere Vergleiche zeigen, dass beide Ansätze ihre jeweiligen Vorteile haben. Während menschliche Benutzer abstraktive Zusammenfassungen als kohärenter betrachten, finden sie extraktive Zusammenfassungen informativer und relevanter.⁵ Untersuchungen legen auch nahe, dass die Kontroversität des Themas die Wahrnehmung der verschiedenen Zusammenfassungstypen beeinflusst.⁶ Daher gibt es möglicherweise keinen direkten Vergleich zwischen diesen Zusammenfassungstypen.

Wie bei anderen NLP-Aufgaben muss auch bei der Textzusammenfassung der Text zunächst vorverarbeitet werden. Dies umfasst Tokenisierung, die Entfernung von Stoppwörtern sowie Stemming oder Lemmatization, um den Datensatz für ein maschinelles Lernmodell lesbar zu machen. Nach der Vorverarbeitung folgen alle Methoden zur extraktiven Textzusammenfassung drei allgemeinen, unabhängigen Schritten: Darstellung, Satzbewertung und Satzauswahl.

In der Darstellungsphase segmentiert ein Algorithmus vorverarbeitete Textdaten und stellt sie zum Vergleich dar. Viele dieser Darstellungen basieren auf Bag-of-Words-Modellen, die Textsegmente wie Wörter oder Sätze als Datenpunkte in einem Vektorraum darstellen. Große Datensätze mit mehreren Dokumenten können die Term Frequency-Inverse Document Frequency (TF-IDF)-Methode verwenden, eine Variante von Bag of Words, die jeden Begriff gewichtet, um seine Bedeutung innerhalb eines Textsatzes widerzuspiegeln. Tools zur Themenmodellierung wie die latente semantische Analyse (LSA) sind eine weitere Darstellungsmethode, die Gruppen von zusammenfassenden Schlüsselwörtern erzeugt, die dokumentübergreifend gewichtet werden. Andere Algorithmen wie LexRank und TextRank verwenden Diagramme. Diese graphbasierten Ansätze stellen Sätze als Knoten (oder Scheitelpunkte) dar, die entsprechend den semantischen Ähnlichkeitsscores durch Linien verbunden sind. Wie messen Algorithmen die semantische Ähnlichkeit?⁷

Bei der Satzbewertung wird jeder Satz in einem Text nach seiner Bedeutung für diesen Text bewertet. Unterschiedliche Darstellungsansätze implementieren unterschiedliche Bewertungsmethoden. Zum Beispiel bewerten Ansätze zur Themendarstellung jeden Satz danach, in welchem Maße er einzelne Schlüsselthemen ausdrückt oder kombiniert. Konkret kann dies die Gewichtung von Sätzen nach der Häufigkeit der Stichwörter zum Thema beinhalten. Graphbasierte Ansätze berechnen die Satzzentralität. Diese Algorithmen bestimmen die Zentralität mit Hilfe von TF-IDF, um zu berechnen, wie weit ein bestimmter Satzknoten vom Schwerpunkt eines Dokuments im Vektorraum entfernt ist.⁸

Der letzte allgemeine Schritt bei extraktiven Algorithmen ist die Satzauswahl. Nachdem die Sätze nach ihrer Wichtigkeit gewichtet wurden, wählen die Algorithmen die n wichtigsten Sätze für ein Dokument oder eine Sammlung davon aus. Diese Sätze bilden die generierte Zusammenfassung. Aber was passiert, wenn es semantische und thematische Überschneidungen in diesen Sätzen gibt? Der Schritt der Satzauswahl zielt darauf ab, die Redundanz in den endgültigen Zusammenfassungen zu reduzieren. Die Methoden der Maximalen Marginalen Relevanz verwenden einen iterativen Ansatz. Konkret berechnen sie die Satzbewertung neu, indem sie die Ähnlichkeit dieses Satzes zu bereits ausgewählten Sätzen berücksichtigen. Globale Auswahlmethoden wählen eine Teilmenge der wichtigsten Sätze aus, um die Gesamtbedeutung zu maximieren und Redundanzen zu verringern.⁹

Wie diese Übersicht zeigt, geht es bei der extraktiven Textzusammenfassung hauptsächlich um die Frage der Texteinstufung (und meistens auch der Satzeinstufung). Verfahren zur extraktiven Textzusammenfassung ordnen Dokumente und ihre Teststrings (z. B. Sätze) so an, dass eine Zusammenfassung erstellt wird, die am besten den zentralen Themen der gegebenen Texte entspricht. In diesem Sinne kann die extraktive Zusammenfassung als eine Form des Informationsabrufs verstanden werden.¹⁰

Wie bereits erwähnt, verwenden abstraktive Verfahren zur Textzusammenfassung neuronale Netze, um einen Originaltext zu generieren, der ein oder mehrere Dokumente zusammenfasst. Obwohl es zahlreiche Arten von Methoden der abstrakten Textzusammenfassung gibt, wird in der Literatur kein übergreifendes Klassifikationssystem zur Beschreibung dieser Methoden verwendet.¹¹ Es ist jedoch möglich, einen Überblick über die allgemeinen Ziele dieser verschiedenen Methoden zu geben.

Wie bei vielen Anwendungen künstlicher Intelligenz zielt die abstraktive Textzusammenfassung letztlich darauf ab, menschlich erstellte Zusammenfassungen zu imitieren. Ein Hauptmerkmal des letzteren ist die Satzkomprimierung – Menschen fassen längere Texte und Sätze zusammen, indem sie sie kürzen. Es gibt zwei allgemeine Ansätze zur Satzkomprimierung: regelbasierte und statistische Methoden.

Die regelbasierte Methode nutzt syntaktisches Wissen, um grammatikalische Segmente zu analysieren. Diese verwenden Schlüsselwörter, syntaktische Hinweise oder sogar Wortartenkennzeichnungen, um Textausschnitte zu extrahieren, die dann zusammengeführt werden – oft gemäß einer vordefinierten Vorlage. Diese Vorlage kann aus zusätzlichen automatisierten Textanalysen oder benutzerdefinierten Regeln abgeleitet werden.²

Bei statistischen Ansätzen lernt ein Modell (unabhängig davon, ob es aus dem Vortraining oder der Feinabstimmung stammt), welche Satzsegmente entfernt werden sollen. Ein Baumparser kann zum Beispiel ähnliche Sätze aus einem Eingabetext identifizieren und vergleichbare Sätze in einer Baumstruktur auffüllen. Ein Abhängigkeitsbaum ist eine solche Struktur, die Sätze nach der wahrgenommenen Beziehung zwischen Wörtern modelliert und sich an Subjekt-Prädikat-Anordnungen orientiert. Ein Satz in dieser Struktur kann das Verb als zentralen Knoten haben, wobei Subjekte und Objekte (d. h. Substantive) und Konjunktionen davon abzweigen. Zusätzliche Verben zweigen dann von den Substantiven ab, mit denen sie verbunden sind. Sobald der Text in einer Baumstruktur dargestellt ist, wählt der Algorithmus gängige Wörter oder Phrasen aus, die von einem generativen Netzwerk zur Erstellung einer neuen Zusammenfassung verwendet werden.¹²

Wie dieser kurze Überblick über die Satzkomprimierung andeutet, ist die Informationsfusion ein weiterer zentraler Aspekt der abstraktiven Zusammenfassung. Menschen fassen Dokumente zusammen, indem sie Informationen aus mehreren Passagen zu einem einzigen Satz oder Ausdruck zusammenfassen.² Ein vorgeschlagener Ansatz, um dies nachzuahmen, ist die Satzfusion über einen Satz mit mehreren Dokumenten. Dieser Ansatz identifiziert häufig vorkommende Phrasen in einem Dokumentensatz und fusioniert sie durch die Technik Gitterberechnung, um eine grammatikalisch kohärente englische Zusammenfassung zu erstellen.¹³ Eine andere vorgeschlagene Methode verwendet neuronale Themenmodelle, um Schlüsselbegriffe zu generieren, die wiederum die Erstellung von Zusammenfassungen leiten. Bei diesem Ansatz werden häufig vorkommende Schlüsselwörter, die die Hauptpunkte mehrerer Dokumente abdecken, in einem einzigen Satz oder einer Gruppe von Sätzen zusammengefasst.¹⁴

Ein weiteres Problem bei der abstraktiven Textzusammenfassung ist die Reihenfolge der Informationen. Die zusammengefassten Informationen folgen nicht unbedingt der gleichen Reihenfolge wie im Ausgangsdokument. Wenn Menschen Zusammenfassungen verfassen, ordnen sie die Informationen oft thematisch. Eine Methode zur thematischen Organisation ist die Clusterbildung. Konkret werden extrahierte Sätze in Clustern nach aktuellem Inhalt (der durch gemeinsam auftretende Schlüsselwörter bestimmt wird) organisiert. In ähnlicher Weise sind neuronale Themenmodelle ein weiterer möglicher Ansatz, um Informationen thematisch zu ordnen.²

Entwickler verwenden verschiedene Bewertungsmetriken zur Bewertung von Textzusammenfassungen. Unterschiede in den Metriken hängen in der Regel von der Art der Zusammenfassung ab und davon, welches Merkmal der Zusammenfassung gemessen werden soll.

BLEU (Bilingual Evaluation Understudy) ist eine Bewertungsmetrik, die häufig in der maschinellen Übersetzung verwendet wird. Sie misst die Ähnlichkeit zwischen der Referenzübersetzung (Ground Truth) und der Ausgabe des Modells für eine Folge von n Wörtern, die als N-Gramme bezeichnet werden. In der Textzusammenfassung misst BLEU, wie oft und in welchem Ausmaß N-Gramme in einer automatischen Zusammenfassung mit denen einer menschlich erstellten Zusammenfassung übereinstimmen, und berücksichtigt dabei fehlerhafte Wortwiederholungen in der ersteren. Anschließend werden diese Präzisionswerte für einzelne N-Gramme verwendet, um eine Gesamtpräzision des Textes zu berechnen, die als geometrisches Mittel der Präzision bezeichnet wird. Dieser Endwert liegt zwischen 0 und 1, wobei 1 eine perfekte Übereinstimmung zwischen der maschinell und menschlich erzeugten Textzusammenfassung anzeigt.¹⁵

ROUGE (Recall-Oriented Understudy for Gisting Evaluation) wurde aus BLEU speziell zur Bewertung von Zusammenfassungsaufgaben abgeleitet. Wie BLEU vergleicht ROUGE maschinelle Zusammenfassungen mit von Menschen erstellten Zusammenfassungen unter Verwendung von N-Grammen. Aber während BLEU die Präzision der Maschine misst, misst ROUGE den Recall (Trefferquote) der Maschine. Mit anderen Worten: ROUGE berechnet die Genauigkeit einer automatischen Zusammenfassung anhand der Anzahl der N-Gramme aus der von Menschen erstellten Zusammenfassung, die in der automatischen Zusammenfassung gefunden wurden. Der ROUGE-Score liegt ebenso wie der BLEU-Score zwischen 0 und 1, wobei 1 eine perfekte Übereinstimmung zwischen der maschinellen und menschlichen Zusammenfassung anzeigt.¹⁶

Beachten Sie, dass diese Metriken das endgültige Ergebnis der Zusammenfassung auswerten. Sie unterscheiden sich von den zahlreichen Satzbewertungsmethoden, die innerhalb der Textzusammenfassungsalgorithmen verwendet werden, um geeignete Sätze und Schlüsselwörter auszuwählen, aus denen die finale Zusammenfassung erstellt wird.

Zahlreiche Bibliotheken ermöglichen Benutzern die einfache Implementierung von Textzusammenfassungstools in Python. Zum Beispiel ist die HuggingFace Transformers Library mit BART, einer Encoder-Decoder-Transformer-Architektur, zum Generieren von Textzusammenfassungen ausgestattet. Die Language Skills API von OneAI bietet auch Tools zum einfachen Generieren von Textzusammenfassungen.

Die offensichtlichste Anwendung der Textzusammenfassung ist die beschleunigte Recherche. Dafür bieten sich potenzielle Einsatzmöglichkeiten in einer Vielzahl von Bereichen, wie z. B. Recht, Wissenschaft und Marketing. Forschungen zeigen jedoch auch, wie Transformer-Modelle für Textzusammenfassungen zusätzliche Aufgaben vorantreiben können.

Nachrichten Nachrichtenartikel sind ein gängiger Datensatz zum Testen und Vergleichen von Textzusammenfassungsmethoden. Die Zusammenfassung ist jedoch nicht immer das Endziel. Mehrere Studien untersuchen die Rolle von transformerbasierten Textzusammenfassungen als Mittel zur Merkmalsextraktion, um Modelle zur Erkennung von Falschmeldungen zu unterstützen.¹⁷ Diese Forschung zeigt ein vielversprechendes Potenzial und veranschaulicht, wie Textzusammenfassungen für weitreichendere Anwendungen genutzt werden können als nur zur Zeitersparnis beim Lesen mehrerer Texte.

Übersetzung Die sprachübergreifende Zusammenfassung ist ein Zweig der Textzusammenfassung, der sich mit der maschinellen Übersetzung überschneidet. Zwar ist dies kein so großes Forschungsgebiet wie die Zusammenfassung oder Übersetzung selbst, jedoch stellt das Ziel, einen Ausgangstext oder eine Textsammlung in einer anderen Zielsprache zusammenzufassen, eine Reihe neuer Herausforderungen dar.¹⁸ Eine Veröffentlichung beschäftigt sich mit der sprachübergreifenden Zusammenfassung von historischen Texten. Bei dieser Aufgabe werden historische Sprachvarianten (z. B. Altchinesisch gegenüber Neuchinesisch oder Attisches Griechisch gegenüber Neugriechisch) als eigenständige Sprachen behandelt. Das spezifische Experiment verwendet Worteinbettungen neben extraktiven und abstraktiven Zusammenfassungs- und Transfer-Learning-Methoden, um moderne Zusammenfassungen von Dokumenten in alten Sprachen zu erstellen.¹⁹