회귀- 다중 선형 회귀

 

단순 선형 회귀에서 다루었던 아이스크림 판매량 예측 예시를 다시 떠올려 봅시다.

회귀 - 단순 선형 회귀

단순 선형 회귀는 입력값이 기온 하나였습니다.

만약 우리가 기온뿐만 아니라, 강수량도 입력값으로 사용한다면 어떻게 판매량을 예측할 수 있을까요?

 

 

 

 

 

 

 

 

우리가 해결하고자 하는 문제는

평균 기온(X1)과 평균 강수량(X2)에 따른 아이스크림 판매량을 예측하는 것입니다!

즉, 여러 개의 입력값으로 결과값을 예측하고자 할 때 우리는 다중 선형 회귀(Multiple Linear Regression)을 사용할 수 있습니다.

 

 

 

 

다중 선형 회귀 

다중 선형 회귀 : 입력값 X가 여러 개인 경우 활용할 수 있는 회귀 알고리즘.

각 개별 Xi에 해당하는 최적의 βi를 찾아야 합니다.

 

 

 

 

 

다중 선형 회귀 모델의 Loss 함수

단순 선형 회귀와 마찬가지로, Loss 함수는 입력값과 실제값 차이의 제곱의 합으로 정의하며,

β0, β1, β2, ... βm 값을 조절하여 Loss 함수의 크기를 작게 만드는 β값들을 찾아야 합니다..

 

 

 

 

 

그렇다면 다시 우리의 예시로 돌아와 봅시다!

우리가 해결하고자 하는 문제는 평균 기온과 평균 강수량으로 아이스크림 판매량을 에측 하는 것이었습니다.

하지만, 우리는 β값들을 알지 못하기에, 랜덤한 것으로 초기화를 시켜줍니다.

이때 Loss 값을 계산해보면 543.94라는 큰 값이 나오게 됩니다.

 

 

 

 

 

 

543.94라는 큰 Loss 값을 줄이기 위해, 단순 선형 회귀에서와 마찬가지로 경사 하강법(Gradient Descent)을 이용할 것 입니다.

 

 

 

 

 

 

 

경사 하강법을 통해 우리는 더 최적화된 β값을 얻을 수 있고,

새롭게 얻은 β값으로 Loss값을 계산해보면 42.89로 낮아진 것을 확인할 수 있습니다.

 

 

 

다중 선형 회귀 특징

- 여러 개의 입력값과 결과값 간의 관계 확인 가능

- 어떤 입력값이 결과값에 어떠한 영향을 미치는지 알 수 있음

- 여러 개의 입력값 사이 간의 상관 관계*가 높을 경우 결과에 대한 신뢰성을 읽을 가능성이 있음

 

*상관 관계

- 두 가지 것의 한쪽이 변화하면 다른 한쪽도 따라서 변화하는 관계

 

즉 Y = β0 + β1X + β2X라는 식이 있을 때, X1과 X2가 독립변수이면 괜

하지만 X1과 X2가 밀접한 관계가 있는 값이라면  (예를들어 X2 = 2X1) 신뢰성을 잃을 가능성이 있습니다.