11월 2일 수업
Ch 9. Generalized Least Square & Heteroscedasticity
분산-공분산 행렬의 대각성분: 오차항의 분산
off-diagonal 성분: 오차항 간 공분산
Note
Cross-sectional data
hetero-분산이 자주 발생한다.
하지만 자기상관은 발생하지 않는다.
2. 타임시리즈
자기상관이 자주 발생한다 ex.) 주가
이분산. 자기자신이니까 분산이 잘 변하지 않음.
구조 변화가 있을 경우에 이분산도 발생.
regime change
2. 이분산에서의 OLS's properties
오차항이 이분산을 가지는 경우에도 OLS estimator는 불편성과 일치성을 만족함.
오차항이 정규분포를 따르는 경우, 이분산 하 OLS estimator도 정규분포를 따른다.
분산만 기존의 OLS와 달라질 뿐이다.
고전적 가정을 만족하는 OLS를 가설검정할 때 추정량의 표준오차는 Var(b|X) jj 성분에 루트 씌운 것.
예전 OLS 추정량의 불편성을 보일 때, X'X 행렬이 Q 행렬로 확률수렴한다고 가정함.
이번에도 똑같이 아래와 같이 가정한다. positive definite? 혹은 positive semi definite이엿던가
이분산 하에서 구한 OLS 추정량 b는 BLUE가 아님.
선형이고 불편성은 있으나, classical ass.를 만족하지 않으므로 가우스-마코프 정리가 성립하지 않음.
즉 분산이 가장 작은 선형불편추정량이 아님.
분산이 더 작은 선형불편추정량이 존재한다.
바로 GLS
오차항에 이분산이 있을 경우 OLS 추정량의 문제점
① 추정량의 분산이 잘못 추정되어 가설검정이 잘못됨.
② 비효율적임. BLUE에서 BEST가 아님.
\\(\frac{X'X}{n})^{-1}\;\frac{1}{n}\sum e_i^2x_ix_i' \;(\frac{X'X}{n})^{-1}\overset{p}{\rightarrow}\sigma^2 Q^{-1}Q^*Q^{-1}\\
\frac{1}{n}(X'X)^{-1} \sum\sigma_i^2 x_i x_i'(X'X)^{-1}\overset{p}{\rightarrow}\sigma^2Q^{-1}Q^*Q^{-1}
\\
\\
\frac{\sigma^2}{n} (X'X)^{-1}X'\Omega X (X'X)^{-1}\overset{p}{\rightarrow}\sigma^2Q^{-1}Q^*Q^{-1}
\begin{align*}
\\
\widehat{Asy.Var(b|X)} &=(X'X)^{-1} \sum e_i^2x_ix_i' \;(X'X)^{-1} \\
&=\frac{1}{n}(\frac{X'X}{n})^{-1}\frac{1}{n}\sum e_i^2x_ix_i'(\frac{X'X}{n})^{-1} \\
&=n(X'X)^{-1}S_0(X'X)^{-1} \\
\end{align*}
White의 robust한 standrard estimator을 사용한 검정통계량은 다음과 같이 구해짐.
분포수렴을 이용하므로, 카이스퀘어분포로 통계량을 구성함.
Multiple restrictions에 대한 가설검정을 할때
Wald statistics를 이렇게 구성한다는 소리.
Wald test란 unrestricted한 OLS를 구해서 그걸 검정에 써먹겟다는거.
3. Hetero- Test
(1) White Test
i=1,2,...,n
x1i: 첫번째 regressor의 i번째 관측치
다음과 같은 모형이 있다고 하자.
Step 1. 이 모형을 OLS 추정하여 잔차 e 를 구한다.
Step 2.
위에서 구한 잔차를 활용하여, 다음과 같은 보조 회귀식을 만든다.
잔차 제곱을 (1, 개별 독립변수, 독립변수들의 제곱, 독립변수들의 cross-product)에 대해 OLS 돌린다.
귀무가설: 동분산
대립가설: 이분산
검정통계량 LM=nR^2
따라서 white-test에서 검정통계량은 nR^2이다.
결정계수의 값이 크다는 것은, 잔차제곱합의 변동이 독립변수들에 의해 잘 설명된다는 뜻임.
즉, 오차의 분산이 regressors의 영향을 받는다는 뜻이다.
가령 X와 분산 간 선형관계, 제곱관계, 크로스-프로덕트 관계가 있을 수 있음.
그 외에
(2) Breusch–Pagan test: LM test:
(3) The Goldfeld-Quandt test for heteroscedasticity
The test statistic is asymptotically distributed as {\displaystyle \chi _{p-1}^{2}}\chi _{{p-1}}^{2} under the null hypothesis of homoskedasticity, as proved by Breusch and Pagan in their 1979 paper..
브리슈-패이건 테스트는 오차항의 정규성 가정에 매우 민감함.