[데이터분석] 회귀분석(Regression Analysis)

# F검정

- 회귀식 전체에 대해서 유의한가를 평가

- 회귀모형을 사용할지 검정

- F = MSR/MSE = 회귀변동 / 평균잔차변동

. MSR : Mean Square Regression

. MSE : Mean Square Error

​

# t검정

- 개별 독립변수와 종속변수 간의 통계적 유의성 검정

- 변수가 y변수에 영향을 주는지 안주는지에 대한 검정

​

# 회귀변수의 가정

- 선형성 : 산점도, 결정계수

- 정규성

- 등분산성

- 독립성

​

# 회귀모형 평가

- 결정계수 : 회귀모형에 의해 설명되는 변동 / 총변동(전체 분산)

= SSR/SST = 1- SSE/SST

- 수정된 결정계수 : 결정계수는 회귀식에 독립변수가 추가됨으로써 점차 커짐

이 부분을 보완하기 위해 아래와 같이 수정

. (회귀모형에 의해 설명되는 변동 / (n-K)) / (총변동 / n- 1)

= 1 - (SSE/(n-K)) / (SST / (n-1))

. X변수의 개수 k가 커지면 수정된 결정계수는 작아짐

​

# 결과분석

- 요약정보, 유의성 검정(F검정)

. R^2, Adj. R^2 : 설명력

. F-Statistic, : 모형의 유의성

​

- 회귀계수 유의성 검정, 변수에 대한 유의성

. coef : X변수의 유의성

. t : t검정

. VIF : 다중공선성