중회귀모형(3)

전체 F검정 

$$ H_{0}:\beta _{1}=\beta _{2}=\cdots=\beta _{p}=0 $$

$$ H_{1}:이들 \beta 중 최소한 한개 이상은 0이 아니다. $$

=> 전체 F검정, F검정. 모형의 유의성 검정

 

$$ SSTO = SSR + SSE $$

$$ \sum (y_{i}-\bar{y}) = \sum(\hat{y}=\bar{y}) + \sum(y_{i}-\hat{y})  $$

 

분산분석표

요인	SS	df	MS	F
회귀	SSR	p	MSR(=SSR/p)	MSR/MSE
오차	SSE	n-p-1	MSE(=SSE/n-p-1)
합	SSTO	n-1

 

최대산소흡입량 자료에서

y <- c(1.54,1.74,1.32,1.50,1.46,1.35,1.53,1.71,1.27,1.50)
x1 <- c(132,135.5,127.7,131.1,130.0,127.6,129.9,138.1,126.6,131.8)
x2 <- c(29.1,29.7,28.4,28.8,25.9,27.6,29,33.6,27.7,30.8)

model = lm(y ~ x1 + x2)
summary(model)

Call:
lm(formula = y ~ x1 + x2)

Residuals:
      Min        1Q    Median        3Q       Max 
-0.045252 -0.027252 -0.000383  0.002106  0.092434 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept) -4.409560   0.676196  -6.521 0.000328 ***
x1           0.049157   0.007023   7.000 0.000212 ***
x2          -0.018566   0.012203  -1.521 0.171952    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.04645 on 7 degrees of freedom
Multiple R-squared:  0.9291, Adjusted R-squared:  0.9088 
F-statistic: 45.84 on 2 and 7 DF,  p-value: 9.506e-05

 

결정계수 : 0.9291 . 수정된 결정계수 : 0.9088 , F검정 값 : 45.84, p값 : <0.0001

 

식으로 계산하기

y_h <- -4.40956 + 0.04916*x1 -0.01857*x2
y_m <- mean(y)
SST=sum((y-y_m)^2)
SSR=sum((y_h-y_m)^2)
SSE=sum((y-y_h)^2)

>SST

[1] 0.21296

>SSR

[1] 0.1978651

>SSE

[1] 0.01510661

 

결정계수 = SSR/SSTO = 0.1978651/0.21296

R <- SSR/SST
R

[1] 0.9291187

 

수정된 결정계수 = 1 - (SSE/n-p-1)/(SSTO/n-1)

p = 2 , n = 10 

=> 1 - (0.01510661/7)/(0.21296/9)

R_a <- 1- (SSE/7)/(SST/9)
R_a

[1] 0.9087961

 

F값 = MSR/MSE

f_p <- (SSR/2)/(SSE/7)
f_p

[1] 45.84271

 

검정통계량값

$$ F_{(2,7,0.001)}=21.7 $$

p값 : 45.84271 > 검정통계량값 21.7 이므로 귀무가설을 기각

 

$$ H_{1} : \beta_{0}, \beta_{1}은 0이 아니다 $$