2. 혼공머신 데이터 다루기(테스트데이터,전처리)

뭔가 비율이 안맞다

stratify 매개변수에 타깃 데이터를 전달하면 클래스의 비율에 맞게 데이터를 나눔
훈련데이터가 작거나 특정 클래스의 샘플 개수가 적을 때 특히 유용함

train_input, test_input, train_target, test_target = train_test_split(fish_data, fish_target, stratify=fish_target, random_state=42)
print(test_target)
결과 : [0. 0. 1. 0. 1. 0. 1. 1. 1. 1. 1. 1. 1.]

• k-최근접 이웃 훈련- 훈련 데이터로 모델을 훈련

from sklearn.neighbors import KNeighborsClassifier
kn = KNeighborsClassifier()
kn.fit(train_input, train_target)
kn.score(test_input, test_target)

결과 : 1.0
완벽쓰

도미 데이터를 넣고 예측해보면

print(kn.predict([[25,150]]))

[0.]

도미값을 넣었는데 0인 빙어값이 나온다?! 이상함..

import matplotlib.pyplot as plt 
plt.scatter(train_input[:,0], train_input[:,1])
plt.scatter(25, 150, marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

산점도를 봐도 오른쪽 위인 도미에 더 가까움;; 뭐지

주변샘플을 통해 알아보자

KNeighborsClassifier 클래스는 주어진 샘플에서 가장 가까운 이웃을 찾아주는 kneighbors( ) 메서드를 제공

• 이 메서드는 이웃까지의 거리와 이웃 샘플의 인덱스를 반환함
  KNeighborsClassifier 클래스의 이웃 개수인 n-neighbors의 기본값은 5이므로 5개의 이웃이 반환됨.

distances, indexes = kn.kneighbors([[25, 150]])

산점도로 보자

plt.scatter(train_input[:,0], train_input[:,1])
plt.scatter(25, 150, marker='^')
plt.scatter(train_input[indexes,0], train_input[indexes,1], marker='D')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

직접 데이터도 보자

print(train_input[indexes])
print(train_target[indexes])
print(distances)

 1.[[[ 25.4 242. ]
  [ 15.   19.9]
  [ 14.3  19.7]
  [ 13.   12.2]
  [ 12.2  12.2]]]
 2. [[1. 0. 0. 0. 0.]]
 3.[[ 92.00086956 130.48375378 130.73859415 138.32150953 138.39320793]]

데이터를 표현하는 기준이 다르면 알고리즘을 올바르게 예측할 수 없음!(거리기반일 때 특히!)
샘플 간의 거리에 영향을 많이 받으므로 제대로 사용하려면 특성 값을 일정한 기준으로 맞춰 주어야 함
→ 데이터 전처리(data preprocessing)

How? 가장 많이 쓰이는 데이터 전처리는 표준점수

• 각 특성값이 0에서 표준편차의 몇 배만큼 떨어져 있는지 나타냄.
• 실제 특성값의 크기와 상관없이 동일한 조건으로 비교할 수 있음
  분산은 데이터에서 평균을 뺀 값을 모두 제곱한 다음 평균을 내어 구함.
  표준편차는 분산의 제곱근으로 데이터가 분산된 정도를 나타냄.

표준점수는 각 데이터가 원점에서 및 표준편차만큼 떨어진만큼 나타내는 값.
(평균을 빼고 표준편차를 나눠줌->넘파이 함수 제공됨)

mean= np.mean(train_input, axis=0) >> 평균 계산
std=np.std(train_input, axis=0) >> 표준편차 계산
print(mean, std)
결과값 : [ 27.29722222 454.09722222][ 9.98244253 323.29893931]

앞에서 표준점수로 변환한 train_scaled를 만들어 다시 산점도로 그리기

plt.scatter(train_scaled[:,0], train_scaled[:,1])
plt.scatter(25, 150, marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

이상한이유
훈련세트를 평균으로 빼고 표준편차로 나누어 주었끼 때문에 범위가 달라짐
샘플[25,150]을 동일한 비율로 변환하면 발생하지 않음

다시 그리기

new = ([25,150] - mean) / std
plt.scatter(train_scaled[:,0], train_scaled[:,1])
plt.scatter(new[0], new[1], marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

다시 예측해보자

훈련을 마치고 테스트세트로 평가할때는 샘픔을 훈련세트의 평균과 표준편차로 변환해야지 같은 비율로 산점도를 그릴수 있음.

kn.fit(train_scaled, train_target)
test_scaled = (test_input - mean) / std
new = ([25,150] - mean) / std

plt.scatter(train_scaled[:,0], train_scaled[:,1])
plt.scatter(new[0], new[1], marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

1.kn.score(test_scaled, test_target)
2.print(kn.predict([new]))

출력
1.1.0
2.[1.]

1 즉, 도미로 예측했다!

kneighbors( ) 함수로 이 샘플의 k-최근접 이웃을 구한 다음 산점도로 그리기
특성을 표준점수로 바꾸었기 때문에 l-최근접 이웃 알고리즘이 올바르게 거리를 측정했을 것이다

• 이로 인해 갖아 가까운 이웃에 변화가 생겼을 것으로 기대됨

distances, indexes = kn.kneighbors([new])
plt.scatter(train_scaled[:,0], train_scaled[:,1])
plt.scatter(new[0], new[1], marker='^')
plt.scatter(train_scaled[indexes,0], train_scaled[indexes,1], marker='D')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

끝!