중회귀모형(2)

편회귀계수 와 총회귀계수

1) 편회귀 계수 : 다른 설명변수가 모형에 포함되고 고정되어 있을 때

반응에 대한 특정 설명변수와 부분효과

 

2) 총회귀 계수 : 다른 설명변수의 영향을 무시한 특정 설명변수 자체의 효과

※ 편회귀계수를 개별적으로 해석할 때는 주의할 필요가 있음

 

y <- c(2,3,2,7,6,8,10,7,8,12,11,14)
x1 <- c(0,2,2,2,4,4,4,6,6,6,8,8)
x2 <- c(2,6,7,5,9,8,7,10,11,9,15,13)

X <- cbind(rep(1, times=length(y)), x1,x2)
X 

        x1 x2
 [1,] 1  0  2
 [2,] 1  2  6
 [3,] 1  2  7
 [4,] 1  2  5
 [5,] 1  4  9
 [6,] 1  4  8
 [7,] 1  4  7
 [8,] 1  6 10
 [9,] 1  6 11
[10,] 1  6  9
[11,] 1  8 15
[12,] 1  8 13

 

총회귀계수

1) 모형 A

lm(y ~ x1)

Coefficients:
(Intercept)           x1  
      1.858        1.302

 

y_h = 1.858 + 1.302*x1

 

2) 모형 B

lm(y ~ x2)

Coefficients:
(Intercept)           x2  
     0.8613       0.7810  

 

y_h = 0.8613 + 0.7810*x2

 

편회귀계수

1) 모형 C

lm(y ~ x1 + x2)

Coefficients:
(Intercept)           x1           x2  
      5.375        3.012       -1.285  

 

y_h = 5.375 + 3.012*x1 -1.285*x2

 

# 다른 방법

X <- cbind(rep(1, times=length(y)), x1,x2)

# (X'X)
t(X)%*% X
# (X'y)
t(X)%*% y
# (X'X)^-1
solve(t(X)%*%X)
# b = (X'X)^-1 x (X'y)
b <- solve(t(X)%*%X)%*%t(X)%*%y
b

        [,1]
    5.375394
x1  3.011830
x2 -1.285489

모형	절편	x1	x2
	총회귀계수
x1	1.858	1.302
x2	0.8613		0.7810
x1, x2	편회귀계수
	5.375394	3.011830	-1.285489