지도학습 알고리즘 - 회귀분석

█ 회귀분석 모델

⊙ 목적

  - 독립변수(x)와 종속변수(y) 데이터가 주어졌을 때 두 변수의 관계를 설명할 수 있는 y = wx+b라는 선형 관계를 찾는 것  
  - 이와 같은 선형관계를 알고 있다면 새로운 x값이 주어졌을 때 종속변수 y의 값을 예측할 수 있다.
  - 최소제곱법을 통해 오차를 최소화 할 수 있는 w와 b를 찾는다.

 

y = wx + b의 선형관계 그래프

 

 

 

- 회귀식: y = wx + b
- 최소제곱법: 회귀선과 관측값들의 잔차를 제곱하여 더한 값으로 그 값이 최소가 되도록 회귀계수를 구하는 것
- 설명력 지표: 피어슨 상관계수, 결정계수 R^2