KNN 的背景
KNN 演算法使用多數投票機制。它會收集訓練資料集的資料,之後再使用此資料進行新記錄的預測。
針對每一筆新記錄,會決定訓練資料集的 k 最接近記錄。根據最接近記錄的目標屬性值,對新記錄進行預測。
基本最近鄰法 (NN) 演算法會對任意實例進行分類預測或迴歸預測。為達成此目的,NN 演算法會識別最接近任意實例的訓練實例。然後,NN 演算法會傳回訓練實例的類別標籤或目標函數值作為任意實例的預測類別標籤或目標函數值。
KNN 演算法會使用指定數字 k 1 的最接近訓練實例而不是只使用一個實例,來擴展此處理程序。典型的值範圍是從 1 到數十。
此輸出視您對分類或迴歸使用 KNN 演算法而定。
- 在 KNN 分類中,預測類別標籤是由最近鄰的投票決定,亦即,會傳回所選 k 實例集中的多數類別標籤。
- 在 KNN 迴歸中,會傳回最近鄰的目標函數值平均值作為預測值。
透過使用指定的數字 k 1,您可以控制防止過適與解析度之間的取捨。對於雜訊資料而言,防止過適很重要。解析度對於取得類似實例的不同預測很重要。