Qualitätscluster enthalten mindestens zwei Eigenschaften: 

1. Alle Datenpunkte innerhalb eines Clusters sollten ähnlich sein.
   
2. Cluster sollten sich voneinander unterscheiden.

Diese Eigenschaften werden durch Minimierung des Intracluster-Abstands und Maximierung des Intercluster-Abstands aller Datenpunkte in einem Datensatz erreicht. Mit anderen Worten: Je kompakter und isolierter ein Cluster von anderen Clustern ist, desto besser. Das Ziel des k-Means-Clustering-Algorithmus besteht darin, die Summe der quadratischen Fehler (SSE) zu minimieren.² Die Berechnung der SSE des quadrierten euklidischen Abstands jedes Punktes zu seinem nächsten Schwerpunkt bewertet die Qualität der Clusterzuweisungen, indem die Gesamtvariation innerhalb jedes Clusters gemessen wird.

Cluster-Evaluierungsmetriken überprüfen die Qualität und bieten verschiedene Perspektiven zur Analyse der Clustering-Ergebnisse. Dies hilft bei der Auswahl der optimalen Anzahl von Clustern und der Schwerpunktinitialisierung. Die folgenden Auswertungsmetriken sind gängige Methoden zum Messen der Intra- und Intercluster-Entfernungen beim Clustering.

Trägheit

Der k-means-Clustering-Algorithmus zielt darauf ab, Zentren oder Clusterzentren auszuwählen, die die Trägheit minimieren, eine Bewertungsmetrik, die misst, wie gut ein Datensatz auf der Grundlage von Entfernungsmetriken geclustert wurde. Die Trägheit wird berechnet, indem der Abstand zwischen einem Datenpunkt und seinem Schwerpunkt gemessen, der Abstand quadriert und die Quadrate für jeden Datenpunkt im Cluster addiert werden. Die Summe oder der Trägheitswert ist der Intracluster-Abstand. Je niedriger die Summe, desto besser, denn das bedeutet, dass die Datenpunkte innerhalb des Clusters kompakt oder ähnlicher sind.³

Der Dunn-Index

Die zweite Eigenschaft wird mit dem Dunn-Index gemessen. Der Dunn-Index stellt die Beziehung zwischen der minimalen Cluster-Distanz und der maximalen Cluster-Distanz dar. Cluster mit einem hohen Abstand zwischen den Clustern weisen auf eine bessere Qualität hin, da dies bedeutet, dass die Cluster so unterschiedlich wie möglich sind.⁴

Der k-Means-Clustering-Algorithmus wird in fast allen Bereichen und Branchen verwendet. Sie wird in der Regel auf Daten des maschinellen Lernens angewendet, die wenige Dimensionen haben, numerisch sind und leicht portioniert werden können.

Forscher haben das k-Means-Clustering mit Deep-Learning-Methoden wie CNNs und RNNs integriert, um die Leistung verschiedener maschineller Lernaufgaben wie Computer Vision, NLP und viele andere Bereiche zu verbessern. Hier finden Sie eine Liste der häufigsten k-Means-Clustering-Anwendungen:

Kundensegmentierung: Die Praxis, die Kunden eines Unternehmens auf der Grundlage gemeinsamer Merkmale, die Ähnlichkeit widerspiegeln, in Gruppen einzuteilen. Diese Strategie ermöglicht es Unternehmen, bestimmte Cluster oder Kundengruppen für spezifische Werbekampagnen anzusprechen.

Dokumentenklassifizierung: Ein Verfahren zur Zuweisung verschiedener Klassen oder Kategorien zu Dokumenten. Diese Methode wird von vielen Unternehmen zur Moderation von Inhalten verwendet. Sehen Sie sich diese Watson Discover-Dokumentation an, um einen Dokumentklassifikator zu erstellen.  

Bildsegmentierung: Ein Verfahren der Computervision, das ein digitales Bild in verschiedene Pixelgruppen unterteilt. Diese Forschungsarbeit untersucht, wie k-Means-Modelle zur Identifizierung von Grenzen in medizinischen Bildern eingesetzt werden.¹⁰

Empfehlungsmaschinen: Anwendungen im gesamten Internet verwenden Empfehlungsmaschinen. Hauptkomponentenanalyse und k-Means-Clustering-Techniken werden verwendet, um Produktempfehlungen für E-Commerce-Unternehmen zu erstellen.¹¹

Wenn Sie praktische Erfahrungen sammeln möchten, sehen Sie sich das Tutorial an, in dem die Grundlagen der Durchführung von k-Means-Clustering in Python mithilfe von IBM Watson Studio auf watsonx.ai erklärt werden.

Dieses Tutorial verwendet ein Modul aus der scikit-learn (sklearn)-Bibliothek, das k-means-Clustering durchführt. Das Modul enthält integrierte Optimierungstechniken, die durch seine Klassenparameter manipuliert werden. Die Klasse für das Modul sieht folgendermaßen aus:

class sklearn.cluster.KMeans(n_clusters=8, *, init='k-means++', n_init='auto', max_iter=300, tol=0.0001, verbose=0, random_state=None, copy_x=True, algorithm='lloyd')12

Zu den Parametern gehören die Anzahl der zu bildenden Cluster und die Anzahl der zu generierenden Zentroide (n_clusters). Es stehen zwei Initialisierungsmethoden zur Verfügung: k-means++ und random. Es enthält auch Attribute zum Festlegen der maximalen Anzahl von Iterationen. Jede Iteration beginnt mit der Aufteilung des Datensatzes in den Wert des Parameters n_clusters.

Diese Bibliotheken werden verwendet, um einen Testdatensatz zu generieren und eine Clusteranalyse durchzuführen:  

import pandas as pd 
import sklearn
import matplotlib.pyplot as plt
import seaborn as sns
import numpy

from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

Vorteile

Zu den allgemeinen Vorteilen von K-Means-Clustering in Anwendungen des maschinellen Lernens gehören:

Einfach: K-Means-Clustering ist einfach zu verstehen und in die Praxis umzusetzen. Es ist die beliebteste Technik des unbeaufsichtigten maschinellen Lernens.

Schnell: K-Means-Clustering ist mit einem rechnerisch einfachen iterativen Ansatz konzipiert. Der k-Means-Clustering-Algorithmus ist schneller als das hierarchische Clustering, bei dem eine baumartige Struktur von Clustern aufgebaut wird und der paarweise Abstand zwischen allen Datenpunkten berechnet werden muss.

Skalierbar: K-Means ist auch leicht auf große Datensätze skalierbar und lässt sich auf Cluster unterschiedlicher Formen und Größen verallgemeinern, was ideal für die Clusteranalyse ist. Da der Algorithmus so recheneffizient ist, ist er im Vergleich zu anderen Methoden besser skalierbar und für große Datensätze geeignet.

Nachteile 

Zu den häufigsten Herausforderungen im Zusammenhang mit k-Means-Clustering gehören:

Abhängigkeit von Eingabeparametern: K-Means-Clustering hängt von richtig eingestellten Eingabeparametern ab. Die Festlegung des richtigen Schwerpunkts und der richtigen Anzahl von Clustern ist für aussagekräftige Clusterergebnisse unerlässlich. Eine schlechte Zentroid-Initialisierung kann zu einer längeren Laufzeit und Cluster-Zuweisungen von geringer Qualität führen. Es wurde viel Forschung in die Verbesserung des Schwerpunktinitialisierungsverfahrens für bessere Clustering-Ergebnisse und eine schnellere Konvergenzzeit gesteckt.

Mögliche Leistungsschwäche bei bestimmten Datensätzen: K-Means funktioniert effektiv, wenn der Datensatz Cluster ähnlicher Größe enthält und es keine nennenswerten Sonderfälle oder Dichtevariationen gibt. K-Means schneidet schlecht ab, wenn der Datensatz viele Variationen enthält oder hochdimensional ist. Daten, die nicht mit bestimmten Annahmen des Datensatzes übereinstimmen, können dazu führen, dass k-Means Cluster von geringer Qualität erzeugt.¹³ Zum Beispiel könnten ungleichmäßig große Cluster die Schwerpunkte in Richtung der größeren Cluster verzerren, was zu einer Verzerrung und Fehlklassifizierung bei den kleineren Clustern führt. Um dieses Problem zu lösen, kann k-Means mithilfe von Wahrscheinlichkeitsmodellen wie dem Gaußschen Mischknoten verallgemeinert werden.

Signifikante Auswirkungen von Sonderfällen: Sonderfälle haben einen erheblichen Einfluss auf die Ergebnisse des k-Means-Clustering. Verschiedene Cluster sollten weit voneinander entfernt sein, aber nicht so weit, dass die Datenpunkte verzerrt werden. Es ist wichtig, die Annahmen der Daten zu berücksichtigen, bevor k-Means angewendet wird. K-Means ist besonders empfindlich gegenüber Sonderfällen, da es darauf abzielt, Zentroide durch Mittelwertbildung von Werten mit einem Cluster zu bestimmen. Diese Empfindlichkeit macht es anfällig für eine Überanpassung, um diese Sonderfälle einzubeziehen.