近鄰分類迴歸算法的基本原理

k近鄰法（k-nearest neighbor， k-NN）是一種基本分類與迴歸方法，由Cover和Hart於1968年提出。分類時，對於新的實例，根據與它最接近的k個訓練實例的類別，通過多數表決等方式，進行預測。

對新的輸入實例，在訓練數據集中找到與該實例最鄰近的K個實例，這K個實例的多數屬於某個類，就把該輸入實例分類到這個類中。