kNN 회귀 알고리즘 : fit함수 데이터와 score함수 데이터가 같을 때

kNN 분류 알고리즘과 달리 kNN 회귀 알고리즘에서 fit함수 데이터와 score함수 데이터가 같다고 해서 무조건 1이 나오지 않는다. 그 이유는 kNN 회귀의 작동방식 때문이다.

kNN 회귀는 주어진 새로운 data point에 대해 가장 가까운 k개의 이웃 data point를 찾아 그들의 평균을 예측값으로 사용하는 방법이다. 여기서 'k'는 하이퍼 파라미터로 사전에 지정해야한다. 

만약 k가 1이라면 각 data point는 자신을 가장 가까운 이웃으로 간주하기 때문에 훈련 데이터에 대한 score 함수의 결과는 1이 될 수 있다. 하지만 k가 1보다 크면, 각 data point의 예측값은 해당 data point와 가장 가까운 'k'개의 이웃 data point의 평균 값이 된다. 이 경우, 모든 data point의 예측값이 그 data point의 실제 값과 정확히 일치하지는 않는다. 따라서 훈련 데이터에 대한 score 함수의 결과는 1보다 작아질 수 있다. 

즉, kNN 회귀는 k값에 따라 훈련 데이터에 대한 score 함수의 결과가 달라진다.