혼자 공부하는 머신러닝 + 딥러닝 1장 - 머신러닝 예제연습(K-최근접 이웃)

'혼자 공부하는 머신러닝'에 나오는 도미와 빙어 예재로 머신러닝 예제를 연습해보도록 하자.

 

1. 도미 데이터 준비

 

출처 : http://bit.ly/bream_list 

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 
                31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 
                35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 
                500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 
                700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

- 길이와 무게의 값을 저장한 리스트를 생성했다.

- 예를 들어 첫 번째 도미는 길이가 25.4, 무게가 242.0g인 셈이다.

- 길이와 무게 같은 데이터의 특징을 특성(feature)라고 부른다.

 

2. 데이터의 특성 분석(산점도)

- 산점도 : x,y 축으로 이뤄진 좌표계에서 두 변수의 관계를 점으로 표현한 그림.

import matplotlib.pyplot as plt #matplotlib의 pyplot 함수를 plt로 줄여서 사용

plt.scatter(bream_length,bream_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

[실행결과]

- 도미의 데이터 분포가 오른쪽 위로 뻗는 직선 형태 모습을 이룸.(선형적)

 

3. 빙어데이터 준비

출처 : http://bit.ly/smelt_list 

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

- 주어진 도미와 빙어 데이터로 산점도를 그려 데이터의 분포도를 확인해보자.

 

plt.scatter(bream_length,bream_weight)
plt.scatter(smelt_length,smelt_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

[실행결과]

 

- 주황색 점이 빙어의 산점도, 파랑색 점이 도미의 산점도 이다.

- 빙어가 도미보다 길이도 무게도 매우 작은걸 확인 할 수 있다.

- 빙어도 도미와 비슷하게 길이와 무게가 비례하지만 늘어나는 정도(기울기)는 다르다.

 

4. 머신러닝 모델 만들기

- 도미인지 빙어인지 구분할 머신러닝 모델을 만들려면 먼저 두 데이터를 하나로 합쳐야 한다.

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

- 사이킷런(scikit-learn) : 머신러닝 패키지, 이 패키지를 사용하려면 2차원 리스트로 만들어야 한다.

- 아래와 같이 zip()함수와 리스트 내포 구문을 사용해 2차원 리스트로 만든다.

fish_data = [[l,w] for l,w in zip(length,weight)]

- 정답을 만들기 위해 도미를 1, 빙어를 0으로 만든 리스트를 생성한다.

fish_target = [1] * 35 + [0] * 14

- 이제 사이킷런 패키지에서 k-최근접 이웃 알고리즘을 구현한 클래스인 KNeighborsClassifier를 임포트한다.

from sklearn.neighbors import KNeighborsClassifier

- 임포트한 KNeighborsClassifier클래스의 객체를 먼저 만든다.

kn = KNeighborsClassifier()

- 이 객체에 fish_data와 fish_target을 전달하여 도미를 찾기 위한 기준을 학습시킨다.

- 이 과정을 훈련(training)이라고 부름. fit이 이런 역할을 한다.

kn.fit(fish_data,fish_target)

- 이제 모델이 얼마나 잘 훈련되었는지를 평가를 해보겠다.

kn.score(fish_data,fish_target)

- 1.0 = 100%를 의미한다. 이 값을 정확도라고 부른다.

 

5. k-최근접 이웃 알고리즘

 

- 주변 이웃의 값들과 비교해 값을 예측하는 분류 모델

- n_neighbors를 매개변수로 이웃의 개수를 지정하며, 기본값은 5이다(선언하지 않을경우, 5개의 이웃으로 비교함)

- p 매개변수로 거리를 재는 방법을 지정한다. 1일 경우 맨해튼 거리를, 2일 경우 유클리디안 거리를 사용한다.

맨해튼 거리 :  직교 좌표계에 일정한 좌표축의 점 위에 투영한 선분 길이의 합

유클리디안 거리 :  두 점 사이의 거리를 계산할 때 흔히 쓰는 방법(=root(x^2+y^2))

- n_jobs를 매개변수로 사용할 CPU 코어를 지정할 수 있다. -1로 둘 경우 모든 CPU코어를 사용한다. 기본값은 1이다.