[혼자 공부하는 머신러닝 딥러닝] 마켓과 머신러닝

K-NN을 이용한 도미와 빙어 분류 모델

• 도미 35마리와 빙어 14마리의 길이와 무게 데이터를 준비한다. 각 길이와 무게에 대해 도미인지, 빙어인지 정답 데이터를 준비한다.
• K-NN을 이용하기 위하여 사이킷런에서 KNeighborsClassifier 클래스의 객체를 생성한다.
• fit() 메소드로 훈련한다.
• score() 메소드로 정확도를 확인한다.
• predict() 메소드로 예측한다.

[코드]

import matplotlib.pyplot as plt
from sklearn.neighbors import KNeighborsClassifier
# 도미 길이, 무게 데이터
bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

# 빙어 길이, 무게 데이터
smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

# 도미, 빙어 전체 길이, 무게 데이터
fish_data = [[l, w] for l, w in zip(length, weight)]
# 도미, 빙어 정답 데이터 (도미: 1, 빙어: 0)
fish_target = [1]*35 + [0]*14

# KNeighborsClassifier 객체 생성
kn = KNeighborsClassifier()
# 모델 훈련
kn.fit(fish_data, fish_target)
# 모델 정확도
kn.score(fish_data, fish_target)
# 새로운 데이터 예측
print(kn.predict([[30, 600]]))

# 도미, 빙어, 테스트 데이터 산점도
plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.scatter(30, 600, marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.legend(('bream', 'smelt', 'test_fish'))
plt.show

[결과]

array([1]) ➡️ 도미로 예측함.

키워드

• 특성(feature): 데이터를 표현하는 하나의 성질.
  예제에서 생선의 길이, 무게 각각이 특성이 될 수 있음.

• 훈련(training): 머신러닝 알고리즘이 데이터에서 규칙을 찾는 과정을 훈련이라고 함.

  • 사이킷런(sklearn)에서 fit() 메소드로 훈련을 시킴.

• K-최근접 이웃 알고리즘(K-NN: K-Nearest Neighbors): 가장 가까운 이웃을 참고하여 정답을 예측하는 머신러닝 알고리즘. 규칙을 찾기보다는 전체 데이터를 메모리에 가지고 있다가 새로운 데이터가 등장하면 가장 가까운 데이터를 참고하여 어디에 분류되는지 예측함.

  • KNeighborsClassifier는 기본으로 가까운 5개의 데이터를 참고해서 결과를 예측함. 참고할 데이터의 개수는 n_neighbors = n 을 매개변수로 변경할 수 있음. (예: kn = KNeighborsClassifier(n_neighbors = 49))

• 정확도(accuracy): 정확한 답을 몇개 맞혔는지 백분율로 나타낸 값. 사이킷런에서는 0~1 사이로 값으로 출력됨.

  정확도 = 정확히 맞힌 개수 / 전체 데이터 개수

  • 사이킷런에서 score() 메소드로 모델이 잘 훈련되었는지 확인함.

추가 문제

KNeighborsClassifier를 사용할 때 n_neighbors의 기본값인 5부터 49까지 바꿔가면서 점수가 1.0 아래로 내려가기 시작하는 개수를 찾아보세요.

[방법 1]

[코드]

from sklearn.neighbors import KNeighborsClassifier

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

fish_data = [[l, w] for l, w in zip(length, weight)]
fish_target = [1]*35 + [0]*14

kn = KNeighborsClassifier()
kn.fit(fish_data, fish_target)

for n in range(5, 50):
    kn.n_neighbors = n
    score = kn.score(fish_data, fish_target)
  
    if score < 1:
        print(n, score)
        break

[결과]
18 0.9795918367346939

[방법 2]

[코드]

from sklearn.neighbors import KNeighborsClassifier

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

fish_data = [[l, w] for l, w in zip(length, weight)]
fish_target = [1]*35 + [0]*14

for n in range(5, 50):
  kn.n_neighbors = KNeighborsClassifier(n_neighbors = n)
  kn.n_neighbors.fit(fish_data, fish_target)
  score = kn.n_neighbors.score(fish_data, fish_target)

  if score < 1:
    print(n, score)
    break

[결과]
18 0.9795918367346939

- 출처: 혼자 공부하는 머신러닝+딥러닝 (박해선)