홈 > 강의소개
회귀분석 문제풀이
김재현 교수
경북대학교 대학원 경제학과 석사과정
경북대학교 대학원 경제학과 박사졸업
경북대학교 대학원 경제학과 석사과정
경북대학교 대학원 경제학과 박사졸업
경북대학교
계명대학교
현) 유니와이즈 전임교수
AI가 이끄는 스마트한 학습 경험, AI 튜터와 함께 더 빠르고, 더 깊게 학습하세요.
긴 강의 내용을 AI가 핵심만 요약하여 복습 시간을 단축시킵니다.
강의에서 가장 중요한 키워드와 개념을 자동으로 추출해 제공합니다.
학습한 내용을 바탕으로 AI가 생성한 퀴즈를 풀며 이해도를 점검합니다.
모르는 부분을 24시간 언제든 AI 튜터에게 질문하고 답변을 받습니다.
총 7개 챕터, 55강으로 구성되어 있습니다.
| 제목 | 강의시간 | 상세내용 |
|---|---|---|
| 단순회귀모형 확장 | ||
|
[1강] 단순회귀모형 확장 (1)
|
0:
45:
47
|
|
|
단순회귀분석 오차분산·기울기분산·정규분포 응용 연습
• 단순회귀 오차분산·SSE·자유도 관계: 오차분산 추정량과 SSE의 비례식(σ̂² = SSE/(n−2)) 및 자유도 개념을 통해 잔차제곱합과 분산을 상호 역산하는 구조 정리 • 회귀계수 분산·표준오차·제곱합 구조: 기울기·절편 추정량의 분산과 표준오차 공식, x 편차제곱합·제곱합 항등식, 회귀직선·잔차 계산을 통한 모수 추정 구조 정리 • 조건부 정규분포와 구간확률: 회귀모형에서 y|x의 조건부 평균·분산을 이용한 정규분포 설정, 표준화에 따른 구간확률 계산, 분산 변화가 확률분포 모양·구간확률에 미치는 영향 정리 |
||
|
[2강] 단순회귀모형 확장 (2)
|
0:
44:
19
|
|
|
단순회귀 연습문제 3: 모수추정·가설검정·SSE 비교
• 단순 회귀모형과 OLS 추정: 모형 구조(y=β1+β2x+ε), OLS 추정식(기울기·절편 합계형 공식), 표본 회귀식 도출 절차 정리 • 분산·표준오차와 유의성 검정: 오차분산·계수분산·표준오차 계산, t-통계량·p-value 기반 계수 유의성 검정 절차와 해석 • 제약 모형과 SSE 비교: 절편=0·기울기=0 제약 모형의 추정식, 세 모형의 SSE 비교를 통한 완전 모형 우위와 제약에 따른 예측오차 증가 분석 |
||
|
[3강] 단순회귀모형 확장 (3)
|
0:
56:
39
|
|
|
단순회귀모형 기울기 추정량과 스케일 변환 효과 요약
• 임의 두 점 기울기 추정량: 단순회귀모형에서 두 관측점으로 정의된 기울기 추정량의 선형성·불편성·분산·정규성과 최소제곱추정량 대비 효율성 비교를 통한 Gauss–Markov 정리 적용 • 분산 및 BLUE 성질: 임의 두 점 기울기 추정량과 최소제곱추정량의 분산 공식을 비교하여 표본 크기에 따른 최소분산성 여부와 BLUE(최선형불편추정량) 성질 충족 여부 분석 • x·y 스케일 변환 효과: 설명변수와 종속변수에 상수배를 곱할 때 회귀계수(절편·기울기)와 오차항·오차분산 추정량의 변화 규칙 및 x만·y만·동시 변환 시 모형 불변성 구조 정리 |
||
|
[4강] 단순회귀모형 확장 (4)
|
0:
40:
04
|
|
|
단순회귀에서 기울기 계수의 t검정과 99% 신뢰구간
• 단순회귀모형과 t분포 기반 검정 구조: 기울기 추정값(β̂₂), 표준오차, 자유도(n-2)를 사용하여 t검정통계량 t=(β̂₂−β₂,0)/se(β̂₂)를 계산하고, t분포 특성과 양측·단측검정 구분을 통해 회귀계수의 통계적 유의성 판단 • p-value와 유의수준(α) 비교 원리: 귀무가설(β₂=0, β₂=0.5)에 대해 t값과 p-value를 계산하고, p-value<α 여부로 기각/채택 결론 도출하며, 유의수준 변화(0.1%, 1%, 5%)에 따른 동일 데이터의 판단 변화 구조 이해 • 신뢰구간과 가설검정의 관계: β̂₂±t_c·se(β̂₂) 형태의 (1−α) 신뢰구간(예: 99% 신뢰구간 [0.08, 0.54])을 구성하고, 귀무가설 값의 포함 여부로 검정 결과와 연결하며, t분포·정규분포 차이와 신뢰수준·구간 길이의 상관구조 정리 |
||
|
[5강] 단순회귀모형 확장 (5)
|
0:
44:
20
|
|
|
단순회귀를 이용한 생산함수 추정과 결정계수·F검정 정리
• 로그선형 생산함수 추정: 코브-더글라스 생산함수 Q = A L^α 를 ln Q = ln A + α ln L + ε 로 선형화하여 단순회귀로 A(총요소생산성)와 α(노동의 생산탄력성·수확체계 여부)를 추정 • 회귀모형 예측과 적합도 측정: 추정식으로 ln Q 를 예측 후 지수변환으로 Q̂ 산출, TSS·RSS·SSE 관계(TSS=RSS+SSE)와 결정계수 R² = RSS/TSS = 1−SSE/TSS, 오차분산 추정량 σ̂² = SSE/(n−2)로 설명력·잔차변동성 평가 • 모형 유의성 F검정: 귀무가설 H₀: β₂=0 하에서 F = (RSS/1) / (SSE/(n−2)) = [R²/(1−R²)]·(n−2) 통계량으로 회귀모형의 통계적 유의성·설명변수 X의 유의한 설명력 검정 |
||
|
[6강] 단순회귀모형 확장 (6)
|
0:
37:
43
|
|
|
단순회귀에서 상관계수·기울기·결정계수 관계 정리
• 표본상관계수와 공분산·표준편차: 공분산을 표준편차 곱으로 나눈 $r_{XY}$ 정의와 부호·크기를 통한 선형관계 방향·강도 측정 구조 정리 • 단순회귀 기울기계수와 상관계수·표준편차비: $\hat\beta_2=\dfrac{\operatorname{Cov}(X,Y)}{\operatorname{Var}(X)}=r_{XY}\dfrac{\sigma_Y}{\sigma_X}$로 표현되는 기울기-상관계수-표준편차비 관계 정리 및 $\hat Y=\hat\beta_1+\hat\beta_2X$ 구조 제시 • 결정계수와 상관계수 제곱 관계: $R^2=\dfrac{\text{RSS}}{\text{TSS}}$ 정의와 단순회귀에서 $r_{XY}=r_{Y\hat Y}$, $R^2=r_{XY}^2$로 연결되는 상관계수·기울기계수·결정계수 간 통합 구조 정리 |
||
|
[7강] 단순회귀모형 확장 (7)
|
0:
33:
00
|
|
|
Keynes 소비함수 추정과 가설검정, 모형 설명력 해석
• Keynes 소비함수 추정식: C = A + BY_D 형태에서 독립소비(음의 절편)와 한계소비성향 추정치·표준오차·표본 크기를 바탕으로 계수의 경제학적 의미와 음의 절편 해석(저축 인출·차입, 의미 있는 정의역 구분) 제시 • 단측 t검정과 F검정: 한계소비성향이 0.6·0.7보다 큰지에 대한 우측 단측 t검정(가설 설정, 검정통계량 계산, 임계값 비교)과 단순회귀에서 t검정·F검정의 동질성, F = t² 관계를 통한 모형 유의성 판단 • 결정계수 R²와 모형 설명력: F = [R²/(1−R²)](n−2) 관계를 이용한 R² 역산, 가처분소득이 소비 분산을 설명하는 비율 해석, 소득 단일 설명변수의 한계와 이자율·소비심리·경기·자산가격 등 추가 변수 도입을 통한 설명력 제고 방안 정리 |
||
|
[8강] 단순회귀모형 확장 (8)
|
0:
49:
15
|
|
|
추정량 신뢰구간·t검정·F검정, 그리고 회귀모형과 CAPM 해석 요약
• 단순회귀 추정량 추론: 기울기계수의 신뢰구간 구성(β̂ ± t·SE), t-검정 절차와 p-value 해석, 신뢰구간과 양측 t-검정 결과의 정보 동치 관계 정리 • 모형 유의성 검정 구조: 단순회귀에서 R² 기반 F-통계량 계산, F-검정과 계수 t-검정의 공통 귀무가설(β=0) 및 F = t² 관계를 통한 모형·계수 유의성 연결 • CAPM 회귀와 베타 검정: 수익률-시장수익률 회귀에서 베타의 공분산/분산 정의와 체계적 위험 의미, β>1 여부에 대한 우측 단측 t-검정 설정·계산·해석 및 공격적/방어적 주식 판별 기준 정리 |
||
|
[9강] 단순회귀모형 확장 (9)
|
0:
56:
08
|
|
|
단순회귀 추정량·표준오차·결정계수·신뢰구간·가설검정 정리
• 단순회귀모형과 추정량: Y=β₁+β₂X+u 구조에서 합표 자료를 이용한 회귀계수 추정(β̂₁, β̂₂), SSE·σ̂²·Sxx 계산과 표준오차 산출 절차 정리 • 적합도·추론 통계량: TSS·SSE·RSS 기반 결정계수 R², t-통계량과 p-값, 95% 신뢰구간 구성 공식 및 자유도(n−2) 활용한 가설검정 체계 정리 • 응용 해석과 경제적 의미: 화폐공급–국민소득, 기온–청량음료 판매 사례로 기울기·절편의 경제적 해석, 음의 절편 의미, 예측식 활용과 모형 적용범위 논의 |
||
|
[10강] 단순회귀모형 확장 (10)
|
0:
33:
42
|
|
|
승용차 가격의 단순회귀, 최소제곱추정과 기울기 신뢰구간, 장기예측 한계
• 단순선형회귀 모형: 승용차 가격을 사용 연수의 선형함수로 가정하고 최소제곱법으로 회귀계수(절편·기울기)를 추정하는 절차와 자료 요약통계 계산 • 기울기 신뢰구간: t-분포와 잔차제곱합 기반 분산추정으로 기울기 표준오차를 구하고, 자유도 n-2에서 95% 신뢰구간 CI(β₂)=β̂₂±t·SE(β̂₂) 구성 • 장기예측과 외삽 한계: 표본 구간 밖(예: 20년 후) 예측 시 분산 증가와 음수 가격 등 비현실적 결과가 발생함을 통해 단순회귀 외삽의 적용 범위와 해석 한계 제시 |
||
|
[11강] 단순회귀모형 확장 (11)
|
0:
52:
38
|
|
|
회귀분석 비선형 모형과 변수변환: 자연지수·지수·다항식 비교
• 비선형 함수 분류와 변수변환 원리: 체증·체감 함수의 미분 기반 분류와 로그·제곱근(멱변환)을 통한 비선형 모형의 선형 회귀모형 변환 구조 정리 • 비선형 회귀모형 구조: 선형모형, 자연지수 모형 y=α2^{βx}, 멱함수형 y=αx^{β}, 다항식형 y=(α+βx)^2의 모형식·변수변환 형태·최소제곱 추정식 정리 • 모형 적합도 비교 기준: 결정계수 R²·F검정·계수 유의성에 기반한 네 모형의 상대적 설명력 비교와 최적 모형(자연지수형) 선택 시 해석 및 유의성 판단 기준 정리 |
||
|
[12강] 단순회귀모형 확장 (12)
|
1:
01:
17
|
|
|
단순회귀 추정량 공분산과 분산의 관계 증명
• 단순회귀모형과 OLS 추정량: 모형 Yi=β1+β2Xi+εi와 고전적 가정하에서 β̂1, β̂2의 불편성·정규성·이변량 정규분포 및 Var(β̂1), Var(β̂2) 공식을 행렬·스칼라 형식으로 정리 • 선형추정량 표현과 오차 구조: 기울기 추정량 b2=∑wiYi, wi=(Xi−X̄)/∑(Xj−X̄)², b2=β2+∑wiεi, b1=Ȳ−b2X̄ 표현을 통해 추정량을 오차항 선형결합으로 나타내고 wi의 성질(∑wi=0, ∑wiXi=1)을 이용한 기댓값·분산·공분산 계산 구조 제시 • 공분산 관계 증명: Cov(β̂1,β̂2)=E[(b1−β1)(b2−β2)] 전개, E(Ȳ), E(Ȳb2), E(YiȲ) 계산과 εi 독립성·등분산성 활용을 통해 Cov(β̂1,β̂2)=−X̄Var(β̂2)=−X̄σ²/∑(Xi−X̄)²인 음의 공분산 일반식 도출 및 공분산 행렬 구조 정리 |
||
|
[13강] 단순회귀모형 확장 (13)
|
0:
59:
48
|
|
|
회귀모형 유의성 검정과 분산분석(ANOVA)의 관계 핵심 정리
• 분산분석(ANOVA) 기본 구조: 종속변수 총변동(SST)을 처리(요인·트리트먼트) 효과에 의한 변동과 오차에 의한 변동(SSE)으로 분해하고, 처리 제곱합·오차 제곱합 기반으로 MS 처리, MS 오차, F-통계량으로 요인 평균 차이 유의성 검정 • 회귀모형 유의성 검정: 총변동을 회귀에 의한 제곱합(SSR)과 잔차 제곱합(SSE)으로 분해해 SST=SSR+SSE 관계를 두고, 결정계수 R², MSR, MSE, F=MSR/MSE로 X가 Y를 설명하는 정도와 모형 전체 유의성 평가 (트리트먼트 효과 ↔ 회귀효과, 오차 ↔ 잔차 대응) • t-검정·ANOVA·회귀 관계: 두 집단 평균 비교는 t-검정, 세 집단 이상은 One-way ANOVA 사용하며, 이때의 F-검정 구조가 단순·다중 회귀모형 F-검정과 동일 분산비 원리로 작동해, One-way/Two-way ANOVA는 단·다중 회귀모형의 특수 경우로 해석 가능 |
||
|
[14강] 단순회귀모형 확장 (14)
|
1:
03:
31
|
|
|
선형회귀 예측치와 신뢰구간: 광고비와 매출 사례
• 단순선형회귀 추정과 해석: 최소제곱법으로 회귀식 $\hat Y=\hat\beta_1+\hat\beta_2X$ 추정, 합계·제곱합·곱합으로 계수 계산, 기울기를 광고비 변화에 따른 매출 증가 효과로 해석 • 회귀계수 유의성 검정: 잔차제곱합으로 오차분산 $\hat\sigma^2$ 추정, 기울기 표준오차와 T통계량 계산, p-value 기반으로 광고비 효과의 통계적 유의성 판단 • 예측값·예측분산·예측구간: 특정 $X_f$에서 예측치와 분산 $Var(Y_f-\hat Y_f)=\sigma^2\left[\dfrac{(X_f-\bar X)^2}{\sum (X_i-\bar X)^2}+\dfrac{1}{n}+1\right]$ 활용해 t분포로 예측구간 산출, $X_f$가 표본평균·범위에서 멀어질수록 예측오차와 구간폭이 증가하는 외삽 한계 이해 |
||
|
[15강] 단순회귀모형 확장 (15)
|
0:
38:
25
|
|
|
단순회귀에서 상관계수, 기울기, 결정계수, F검정 관계
• 상관계수·공분산 개념: 공분산 표준화를 통한 상관계수 정의, 선형관계 방향·강도 해석, 단순회귀에서 상관계수 제곱과 결정계수의 동치 관계(R² = r²) • 회귀계수와 상관계수 관계: 최소제곱 추정량 공분산·분산 표현(β̂ = s_xy / s_x²)과 상관계수 정의(r = s_xy / (s_x s_y))를 이용한 β̂ = r (s_y / s_x), r = β̂ (s_x / s_y) 구조 정리 • F검정과 모형 유의성: R², TSS·RSS·SSE 관계를 이용한 F통계량 F = [R²/(k-1)] / [(1-R²)/(n-k)], 단순회귀에서 F = (R² / (1-R²))(n-2) 및 임계값과의 비교를 통한 회귀모형 유의성 판정 절차 정리 |
||
|
[16강] 단순회귀모형 확장 (16)
|
0:
30:
50
|
|
|
상관계수 검정통계량과 단순회귀 기울기 t검정의 동치성 요약
• 상관계수 t검정: 피셔 z변환을 이용해 표본상관계수 r의 분산 Var(r)=\(\frac{1-r^{2}}{n-2}\)를 도출하고, 귀무가설 ρ=0에 대한 t통계량 \(t=\frac{r\sqrt{n-2}}{\sqrt{1-r^{2}}}\) 구성 • 단순회귀 기울기 t검정: 단순회귀모형 \(Y_i=\alpha+\beta X_i+\varepsilon_i\)에서 \(\hat{\beta}=\frac{\sum x_i y_i}{\sum x_i^{2}}\), \(s^{2}=\frac{\text{SSE}}{n-2}\), \(\operatorname{se}(\hat{\beta})=\frac{s}{\sqrt{\sum x_i^{2}}}\)를 이용해 \(t=\frac{\hat{\beta}}{\operatorname{se}(\hat{\beta})}\) 구성 • 동치성과 베타=0 가설 의미: 관계식 \(\hat{\beta}=r\frac{s_y}{s_x}\), \(R^{2}=r^{2}\), \(\beta=\frac{\operatorname{Cov}(X,Y)}{\operatorname{Var}(X)}\)를 사용해 회귀 기울기 t통계량이 상관계수 t통계량과 동일함을 보이고, 단순회귀에서 \(\beta=0\) 가설이 모상관계수 \(\rho=0\) 가설과 통계적으로 동치임을 정리 |
||
|
[17강] 단순회귀모형 확장 (17)
|
1:
00:
01
|
|
|
최후추정법(MLE)과 최소제곱법(OLS)의 비교 및 분산추정 특성
• 단순회귀모형 추정방법: 최소제곱법(OLS)·최우추정법(MLE)·정률법의 정의와 고전적 정규 회귀모형 가정하에서 계수추정량(α̂, β̂)의 동치성, 우도함수·로그우도함수와 정규방정식 구조 • 우도함수와 MLE 추정: 정규오차·독립성 가정하에서 우도·로그우도함수 도출, 로그우도 극대화로 OLS와 동일한 계수 추정식 도출, 동시에 σ²에 대한 MLE(σ̂²_MLE = SSE/n) 산출 • 분산추정과 t통계량 비교: OLS 분산추정량 s² = SSE/(n-2)와 MLE 분산추정량 SSE/n의 차이, MLE 분산의 편의와 소표본에서의 t값 과대평가 가능성, 분산추정의 편의·효율성·일치성을 고려한 해석상의 유의점 |
||
|
[18강] 단순회귀모형 확장 (18)
|
1:
00:
16
|
|
|
회귀계수의 스케일 변화와 x,y 회귀방향 교체 관계 정리
• 척도 변환된 단순회귀 모형: $x^\*=w_2x$, $y^\*=w_1y$에서 기울기·절편·잔차·오차분산·계수분산이 각각 $\hat{\beta}^\*=\tfrac{w_1}{w_2}\hat{\beta}$, $\hat{\alpha}^\*=w_1\hat{\alpha}$, $e_i^\*=w_1e_i$, $s^{2\*}=w_1^2s^2$, $\widehat{\mathrm{Var}}(\hat{\beta}^\*)=(\tfrac{w_1}{w_2})^2\widehat{\mathrm{Var}}(\hat{\beta})$, $\widehat{\mathrm{Var}}(\hat{\alpha}^\*)=w_1^2\widehat{\mathrm{Var}}(\hat{\alpha})$로 변하고, 결정계수 $R^2$와 상관계수 $r$는 불변인 구조 제시 • 상·하향 회귀계수 관계($Y|X$ vs $X|Y$): 평균 제거 변수에서 $\hat{\beta}_{Y|X}=\dfrac{\sum x_iy_i}{\sum x_i^2}$, $\hat{\beta}_{X|Y}=\dfrac{\sum x_iy_i}{\sum y_i^2}$로 정의되며, 비율 $\dfrac{\hat{\beta}_{Y|X}}{\hat{\beta}_{X|Y}}=\dfrac{s_Y^2}{s_X^2}$, 표현식 $\hat{\beta}_{Y|X}=r\dfrac{s_Y}{s_X}$, $\hat{\beta}_{X|Y}=r\dfrac{s_X}{s_Y}$로 표본분산·상관계수에 의해 상호 변환되는 구조 정리 • 회귀계수와 결정계수 연계 구조: 양 방향 회귀기울기 곱 $\hat{\beta}_{Y|X}\hat{\beta}_{X|Y}=r^2=R^2$ 관계와 $R^2<1$인 확률적 선형관계에서 두 기울기와 역수의 괴리가 비설명 분산(오차항)에서 발생함을 제시하여, 완전 선형관계($R^2=1$)와 일반적 경우의 구조적 차이 정리 |
||
|
[19강] 단순회귀모형 확장 (19)
|
1:
14:
04
|
|
|
MSE와 분산추정량 비교, 불편성과 효율성 정리
• MSE와 분해 관계: MSE 정의(MSE(θ̂)=E[(θ̂−θ)²])와 분해식 MSE=Var(θ̂)+Bias(θ̂)², 불편추정량에서 MSE=Var(θ̂) 성립 구조 정리 • 분산추정량 비교와 효율성: 모분산 추정에서 S²(1/(n−1))와 σ̂²(1/n)의 정의·불편성·편의·MSE 비교, 자유도(n−1)와 카이제곱분포 기반 Var(S²), Var(σ̂²) 및 효율성(efficiency) 개념 정리 • OLS vs MLE 분산추정: 회귀모형에서 오차분산 추정 시 OLS(n−k로 나눔)의 불편추정량 성질과 MLE(n으로 나눔)의 편의·작은 MSE 특성 대비, 표본크기와 목적에 따른 불편성 vs 효율성 선택 기준 정리 |
||
| 단순회귀모형 | ||
|
[20강] 단순회귀모형 (1)
|
1:
07:
13
|
|
|
다중회귀분석 연습문제: 회귀계수 추정·검정·예측·결정계수
• 다중회귀모형과 계수추정: 두 설명변수 다중선형회귀식 설정, OLS 정규방정식과 크레머 법칙으로 회귀계수(b0,b1,b2) 추정 • 분산·검정·적합도: SSE·오차분산 추정, 회귀계수 분산·표준오차·t검정 계산, R²·F통계량을 이용한 모형 전체 유의성 및 설명력 평가 • 예측과 해석: 추정식 $\hat y = 10 + 2.1x_1 + 13.6x_2$ 도출, 주어진 배당 수준에서 주가 예측, 변수 단위(%, 수준)에 따른 회귀계수 해석 정리 |
||
|
[21강] 단순회귀모형 (2)
|
0:
35:
22
|
|
|
단순회귀와 다중회귀에서 기울기 부호 역전 사례와 조건 정리
• 단순회귀·다중회귀 기울기 구조: 단순회귀는 공분산 비(∑x₁y / ∑x₁²) 형태, 다중회귀는 (X'X)⁻¹X'y 구조로 설명변수 간 공분산과 설명변수-종속변수 공분산이 결합되어 분자 N, 분모 Δ 형태의 계수 산출 • 기울기 부호 역전 메커니즘: 분모 Δ는 대체로 양수, 분자 N이 x₁–x₂ 상관(∑x₁x₂)과 x₂–y 상관(∑x₂y)의 크기에 따라 부호가 바뀌며, x₂가 y와 매우 강하고 x₁과도 높은 상관을 가질 때 단순회귀 양수 기울기가 다중회귀에서 음수로 역전 가능 • 회귀계수 해석 및 변수선택: 다중회귀 계수는 “부분효과”로서 공분산 조정 결과이므로 단순회귀 계수와 크기·부호가 크게 달라질 수 있고, 기계적 변수 투입이나 유의성 위주 선택은 계수 해석을 왜곡하므로 이론적 근거와 상관구조 분석에 기반한 설명변수 선정이 필수 |
||
|
[22강] 단순회귀모형 (3)
|
0:
43:
31
|
|
|
인플레이션, 임금상승률, 정부예산적자, 통화공급을 이용한 회귀분석
• 인플레이션 결정요인과 거시경제 구조: 총수요·총공급 모형, 임금상승률(공급 변수)·정부예산적자·통화공급(수요·통화 정책 변수)의 물가상승 메커니즘 정식화 • 다중회귀모형과 계수·가설검정: 인플레이션율을 종속변수로 한 다중회귀식 설정, 회귀계수의 경제적 해석, 표준오차·t검정·F검정·R²를 이용한 변수 유의성 및 “임금 1%↑ → 물가 1%↑” 가설검정 절차 정리 • 정책변수 모형 비교와 설명력 평가: 임금상승률+정부예산적자 모형과 임금상승률+통화공급 증가율 모형의 R²·F통계량·t값 비교를 통해, 재정정책 변수보다 통화정책 변수가 인플레이션을 더 잘 설명하는 모형 선택 기준 제시 |
||
|
[23강] 단순회귀모형 (4)
|
0:
42:
31
|
|
|
다중회귀분석 개별 회귀계수의 분산·유의성 검정 연습
• 다중회귀모형과 오차분산 추정: 두 설명변수 회귀식 설정, R²·TSS로부터 SSE·오차분산 s² 복원 및 자유도 기반 분산추정 구조 이해 • 회귀계수 분산·표준오차 산출: 공비합과 계수추정식으로 ∑x₁ᵢ²·∑x₂ᵢ² 역추론 후, 분산추정 공식으로 각 계수의 분산·표준오차·t 통계량 계산 • 회귀계수 유의성 검정 절차: 자유도 100 t-분포 임계값과 t 통계량 비교해 절편·각 기울기의 귀무가설 검정 및 1% 유의수준에서의 통계적 유의성 판정 |
||
|
[24강] 단순회귀모형 (5)
|
0:
51:
02
|
|
|
단순회귀모형에 설명변수 추가 시 유의성 검정 요약
• 추가 설명변수 모형 설정: 단순회귀에서 다중회귀로 확장하고, 추가 계수(예: β₂)의 0 여부와 모형 설명력(RSS·SSE·TSS) 변화를 통해 변수 추가의 타당성 평가 • 개별계수 t검정·부분 F검정: H₀: β₂=0을 대상으로 표준오차 기반 t통계량과 RSS 차이 기반 부분 F통계량을 구성하며, 한 변수 추가 시 t²=F 관계 성립 및 두 검정이 정보적으로 동등함 • 일반화된 부분 F검정: 기존 모형과 확장 모형의 RSS·SSE와 자유도 구조를 이용해 F=((RSS_new−RSS_old)/q)/(SSE_new/(n−k_new))를 정의하고, 여러 추가 변수(개수 q)에 대한 공동가설 H₀: 해당 계수 모두 0 검정에 활용 |
||
|
[25강] 단순회귀모형 (6)
|
0:
56:
16
|
|
|
다중회귀에서 설명변수 3개일 때 OLS 계수 추정 구조와 크래머 법칙
• 다중회귀 OLS 행렬표현: $X'X\hat\beta = X'y$, $\hat\beta = (X'X)^{-1}X'y$ 구조에서 $X'X$는 설명변수(상수항 포함)의 분산·공분산, $X'y$는 각 설명변수와 종속변수의 공분산 정보를 집약 • 크래머 법칙과 역행렬 구조: 소행렬식(minor), 코팩터(cofactor), 부수행렬(adj(A))을 이용해 $A^{-1}=\dfrac{1}{\det(A)}\operatorname{adj}(A)$로 표현하고, 이를 통해 각 회귀계수 분모는 $|X'X|$ (설명변수 전체 분산·공분산 구조), 분자는 해당 변수와 $y$의 공분산을 다른 설명변수와의 공분산으로 조정한 형태로 해석 • 차원 증가와 계산 복잡도: 설명변수 수 증가로 $3\times3$, $4\times4$ 이상 행렬식·역행렬 연산량이 기하급수적으로 증가하므로 실제 계산은 컴퓨터에 의존하고, 학습에서는 계수들이 “분산·공분산 구조를 통제한 후의 순수 효과”를 수치적으로 표현한다는 구조적 의미 파악에 중점 둠 |
||
|
[26강] 단순회귀모형 (7)
|
0:
33:
15
|
|
|
수요함수 추정과 식별 문제, 소득·원자재 가격 변수의 역할
• 수요·공급함수 식별 문제: 가격·거래량만 사용하는 단순회귀의 식별 불가능성, 균형점 자료의 한계, 수요의 법칙이 요구하는 가격계수 음(-) 부호 조건 • 수요함수 식별 구조: 효용 극대화에서 도출된 수요함수 Q^D = f(P_j, P_{-j}, M) 구조, 소득을 설명변수로 포함한 다중회귀에서 β<0·γ>0일 때 수요함수로 해석, 소득 변화에 따른 수요곡선 이동 • 공급함수 식별 구조 및 변수선정 원리: 이윤 극대화에 기초한 공급함수 Q^S = g(P, P_raw, w, r) 구조, 원자재 가격 포함 회귀에서 β>0·γ<0일 때 공급함수로 해석, 경제이론 기반 계수 부호·변수선정의 필요성 |
||
|
[27강] 단순회귀모형 (8)
|
0:
58:
29
|
|
|
케인즈 소비함수와 저축함수, SSE·R² 비교, 교차항 포함 소비모형 정리
• 케인즈 소비·저축함수 관계: 소비함수·저축함수의 계수 변환(α₀=-β₀, α₁=1-β₁)과 한계소비성향·한계저축성향의 상보 관계 정리 • SSE·R² 비교 구조: 소비모형·저축모형의 SSE 동치성과 종속변수 차이에 따른 TSS·R² 불일치 및 결정계수 비교 한계 정리 • 교차항 포함 소비모형: 소득·재산·교차항을 포함한 소비함수에서 한계소비성향의 상호작용(β₁+β₃A) 구조와 교차항 계수(β₃)에 대한 독립성·한계효과 가설검정 원리 정리 |
||
|
[28강] 단순회귀모형 (9)
|
0:
39:
41
|
|
|
다중회귀에서 계수 공분산행렬과 상관강도에 따른 분산 변화
• 다중회귀모형과 계수 공분산행렬: 2변수 다중회귀에서 OLS 계수벡터의 공분산행렬 구조(대칭행렬, 분산·공분산 원소)와 계수 추정량을 y의 선형결합(가중치 w_i)으로 표현하여 분산·공분산을 도출하는 원리 정리 • 두 설명변수 모형의 분산·공분산과 r12: Δ를 이용한 Var(β̂1), Var(β̂2), Cov(β̂1,β̂2) 공식과 이를 표본상관계수 r12로 표현한 분산식 Var(β̂j)=σ²/[(1−r12²)∑xji²] 구조 및 단순회귀 대비 분산 변화 구조 제시 • 설명변수 분산·상관과 다중공선성: 오차분산 s², 설명변수 분산(∑xji²), 설명변수 간 상관(1−r12²) 항이 계수 분산에 미치는 영향과 상관강도·다중공선성이 커질수록 계수 분산이 증가하는 메커니즘 및 다변량 일반화를 위한 행렬표현 Var(β̂)=σ²(X′X)⁻¹ 개념 정리 |
||
|
[29강] 단순회귀모형 (10)
|
0:
45:
33
|
|
|
다중회귀에서 개별 회귀계수 검정과 예측, 신뢰구간 핵심 정리
• 개별 회귀계수 t검정·F검정: 다중회귀 모형에서 자유도 n-k 설정, 각 회귀계수에 대해 추정치/표준오차로 t통계량 산출, 임계값과 비교해 유의성 판정, t² = F 관계를 이용해 변수 중요도·모형 설명력 증가 검정 • 예측값 변화와 예측치 분산 구조: 회귀계수와 독립변수 변화량의 선형결합으로 예측값 변화 표현, 예측치 분산을 평균 분산(1+1/n 항), 계수 분산, 계수 간 공분산의 가중합으로 일반화하고 공분산 소거 원리로 단순·다중회귀 공통 구조 도출 • 예측치 표준오차와 신뢰구간: 단순·다중회귀에서 예측치 표준오차를 분산 추정량의 제곱근으로 정의하고, 추정계수 공분산행렬과 중심화된 설명변수로 se(ŷf)를 계산한 뒤 자유도 n-k의 t임계값을 곱해 예측값 신뢰구간 구성 |
||
|
[30강] 단순회귀모형 (11)
|
0:
38:
29
|
|
|
다중회귀에서 RSS의 선형 분해와 결정계수 기여도
• 제곱합 분해와 직교성: TSS·RSS·SSE 정의 및 TSS = RSS + SSE 분해, 예측치–잔차·잔차–설명변수 간 직교성과 정규방정식을 통한 ∑ŷᵢeᵢ = 0, ∑eᵢxⱼᵢ = 0 유도 • RSS의 선형 표현: 다중회귀(편차형)에서 ∑ŷᵢ² = ∑ŷᵢyᵢ를 이용해 RSS = ∑ⱼ β̂ⱼ ∑ᵢ xⱼᵢyᵢ 형태로 정리하고, 각 항을 설명변수별 회귀 설명 기여도로 해석 • 결정계수 기여도 해석과 확장: R² = RSS/TSS를 R² = {∑ⱼ β̂ⱼ ∑ᵢ xⱼᵢyᵢ}/∑ᵢ yᵢ²로 표현하고, β̂ⱼ·Cov(xⱼ, y)/Var(y)를 이용해 변수별 R² 기여 비율을 도출하며 이를 k개 설명변수 일반 다중회귀로 확장 |
||
|
[31강] 단순회귀모형 (12)
|
0:
44:
19
|
|
|
편상관계수·다중상관계수와 다중회귀모형의 관계 핵심 정리
• 편상관계수·회귀계수 관계: 다른 설명변수 통제 하 두 변수 간 순수 선형관계 측도 정의, 회귀계수와 분산·상관계수 기반 스케일 변환 공식 및 동일 t통계량 구조 정리 • 다중상관계수·결정계수 관계: 종속변수와 설명변수 집합 간 상관계수 정의, 상관계수 표현을 TSS·RSS로 변환하여 $R_{y\cdot X}^2 = R^2 = \text{RSS}/\text{TSS}$ 수리적 등가성 정리 • 다중회귀 모형 구조: 잔차분산·설명된 분산 분해, 단순상관–다중상관–편상관 간 구조적 대응과 부분 F검정·부분 t검정의 연결을 통해 변수별 기여도와 모형 설명력 해석 구조 정리 |
||
|
[32강] 단순회귀모형 (13)
|
0:
59:
37
|
|
|
다중회귀모형에서 결정계수와 조정결정계수, 단순·다중회귀 계수 관계 핵심 정리
• 결정계수와 편상관계수: 다중회귀 결정계수 R² 구조와 설명변수 추가 시 R² 증가식 R²_new = R²_old + [1-R²_old]·r²_{yz·X} 및 편상관계수 제곱과의 관계, 과대적합 발생 원리 정리 • 조정결정계수: 조정결정계수 Ȓ² = 1 - (SSE/(n-k))/(TSS/(n-1)) 정의와 Ȓ² = 1 - (1-R²)·(n-1)/(n-k) 전개, 자유도 보정·복잡도 패널티에 따른 변수 추가 시 Ȓ² 증가·감소 조건 및 모형 선택 기준 역할 • 단순·다중회귀 계수 관계: 단순회귀 계수와 다중회귀 계수 간 관계식 β = β₁ + ∑_{j=2}^k β_j b_{j,1} 및 β₁ = β - ∑_{j=2}^k β_j b_{j,1}, 다중회귀 계수의 공분산/편화 공분산 표현, 누락변수 바이어스 구조와 부분효과(조건부 효과) 해석 정리 |
||
| 다중회귀모형에서의 가설검정 | ||
|
[33강] 다중회귀모형에서의 가설검정 (1)
|
0:
43:
22
|
|
|
컵더글라스 생산함수와 규모의 수익 불변 검정, 제약모형 F검정 정리
• 컵더글라스 생산함수와 규모의 수익 개념: 생산함수 q=aL^{β1}K^{β2} 구조, 로그선형 회귀추정 방식, 규모의 수익 불변·체증·체감 조건(β1+β2=1, >1, <1) 및 생산탄력 계수 해석 정리 • 규모의 수익 불변 검정 절차: 자본생산성 모형으로 변환해 γ=β1+β2−1 계수의 t검정(H0:γ=0) 수행, 원래 로그선형 모형에서 β1+β2=1 선형제약을 반영한 제약최소제곱법과 SSR 차이를 이용한 F검정 구조 및 해석 정리 • 제약 F검정과 다중회귀 동시 가설검정: UR·R 모형 설정, 제약 수 m·자유도 기반 F통계량 F=[(SSR_R−SSR_UR)/m]/[SSR_UR/(n−k)] 및 R^2 활용식 F=[(R^2_UR−R^2_R)/m]/[(1−R^2_UR)/(n−k)] 유도, 다중회귀에서 특정 계수 묶음(예: β3=β4=0)의 동시 검정 절차와 설명변수의 기여도 판별 원리 정리 |
||
|
[34강] 다중회귀모형에서의 가설검정 (2)
|
0:
32:
37
|
|
|
구조변화 검증과 생산함수 계수 선형제약 검정 요약
• Chow 구조변화 검정: 저축–소득–금리 회귀모형에서 특정 시점 전후를 구간별 UR모형과 전체기간 R모형의 SSE 차이·자유도 기반 F통계량으로 비교해 구조변화 존재 여부를 검정 • 선형제약이 있는 생산함수 검정: Cobb–Douglas 생산함수에서 계수합=1(규모수익 일정) 등 계수 선형결합 제약을 한 계수를 나머지 계수로 치환해 R모형을 만들고, UR·R의 SSE와 제약 수를 이용한 F검정으로 가설 평가 • 일반적 선형결합 제약 처리 원리: 다수 계수·다중 선형제약에서도 “한 계수 정리 → UR모형에 대입해 R모형 도출 → 두 모형의 SSE와 자유도로 F통계량 산출” 절차를 따르며, 종속변수·TSS가 변해 R² 기반 F공식은 사용 불가하고 SSE 기반 F공식만 사용 |
||
|
[35강] 다중회귀모형에서의 가설검정 (3)
|
0:
31:
36
|
|
|
최우추정법 다중회귀에서 우도비검정과 F검정의 관계
• 정규분포 가정하 OLS·MLE 관계: 회귀계수 추정에서 OLS 최소제곱과 MLE 로그우도 극대화의 목적함수가 동일해 추정량 구조는 같고, 차이는 오차분산추정량(OLS: SSE/(n−k), MLE: SSE/n)에만 존재함 • 우도비검정(LR test) 구조: 제한모형(R)과 비제한모형(UR)의 로그우도함수 차이로 정의된 $LR=2[\ln L_{UR}-\ln L_R]$를 사용하며, 이는 본질적으로 $(SSE_R-SSE_{UR})/\hat\sigma_{MLE}^2$ 구조를 가지며 제약 개수 m 자유도의 카이제곱 분포를 따름 • F검정과 LR검정 비교 및 선택: F통계량은 $(SSE_R-SSE_{UR})/m$을 OLS 오차분산추정량으로 나눈 값으로 F분포를 따르고, LR통계량은 같은 SSE 차이를 MLE 분산추정량으로 나눈 값으로 카이제곱 분포를 따르며, 큰 표본에서는 T·F·LR 검정 결과가 거의 일치하나 소표본에서는 LR검정이 이론적으로 더 적합함 |
||
| 더미변수 | ||
|
[36강] 더미변수 (1)
|
1:
06:
15
|
|
|
소비함수에서 더미변수와 평균차이 검정의 관계 정리
• 평균 차이 t-검정과 더미변수 회귀 등가성: 더미변수만 포함한 회귀모형에서 기울기 계수의 t-검정은 두 집단 평균 차이에 대한 t-검정과 통계량·의사결정이 완전히 동일함 • 더미변수 회귀모형 구조와 계수 해석: 소비함수에 소득과 더미를 함께 포함할 때 더미 계수는 “다른 설명변수를 통제한 후의 조건부 평균 차이”를, 더미만 있을 때는 기준 집단 평균(절편)과 두 집단 평균 차이(기울기) 자체를 의미함 • 더미모형의 분산 구조와 한계: 집단 평균 및 평균 차이 추정량의 분산은 표본 크기·집단 비율·오차분산으로 결정되며, 더미만 사용하는 모형은 다른 요인을 통제하지 못해 단순 평균 차이만 반영하는 한계를 가짐 |
||
|
[37강] 더미변수 (2)
|
1:
00:
00
|
|
|
범주형 설명변수와 더미변수 회귀, 구조변화 검정 요약
• 이진 더미변수 코딩: 0/1·1/2·1/−1 코딩 비교를 통해 범주 간 조건부기대값 차이는 동일하며, 0/1 코딩에서 계수가 두 범주의 직접적인 평균 차이로 해석됨을 정리 • 구조변화 더미와 F검정: 시계열 회귀에서 기간 더미·교차항(절편·기울기 더미)을 포함한 UR 모형과 기본 R 모형의 SSE 비교로 Chow 검정과 동일한 자유도 구조의 F통계량을 구성하는 절차 정리 • 다범주 더미설계와 다중공선성: 범주가 N개일 때 N−1개의 0/1 더미만 사용해 기준범주 대비 평균 차이를 추정하고, 더미를 범주 수만큼 모두 포함하면 완전 공선성(X'X 비가역)으로 OLS 추정이 불가능해지는 구조를 설명 |
||
|
[38강] 더미변수 (3)
|
1:
07:
10
|
|
|
더미 변수 회귀와 분산분석, 더미모형의 해석과 추정
• 더미 회귀와 분산분석(ANOVA)의 등가성: 더미 변수만 포함된 회귀모형에서 계수에 대한 F 검정은 k개 그룹 평균 동질성 검정과 동일하며, 각 계수 조합이 그룹별 평균(기준 범주 + k-1개 더미)으로 해석됨 • 절편 더미·기울기 더미 모형 구조: 매출–고용–지역 모형에서 절편 더미는 동일 X에서의 수준 차이(순수 지역 효과)를, 기울기 더미(상호작용 항)는 X의 효과 차이를 나타내며, 각각 t/F 검정을 통해 유의한 수준·기울기 차이를 판정함 • 더미 변수 누락과 바이어스: 지역·성별·학력 등 범주형 요인을 모형에서 제외하면 실제는 절편 차이 구조임에도 단일 회귀선으로 강제 추정되어 기울기에 누락변수 바이어스가 발생하므로, 적절한 절편·기울기 더미 포함이 필수적임 |
||
| 행렬을 이용한 다중회귀분석 : 추정 | ||
|
[39강] 행렬을 이용한 다중회귀분석 - 추정 (1)
|
1:
00:
11
|
|
|
행렬을 활용한 OLS 회귀분석: A, N, M 행렬의 의미와 성질
• 다중회귀모형과 OLS 추정량: 회귀모형의 행렬표현(Y = Xβ + ε), 정규방정식(X'Xβ = X'Y)과 OLS 추정량(β̂ = (X'X)^{-1}X'Y)의 도출 및 BLUE 성질·차원 구조 정리 • A, N, M 행렬의 정의와 역할: A = (X'X)^{-1}X'(계수추정 연산자), N = XA(예측치 projection/hat 행렬), M = I − N(잔차 residual-maker 행렬)의 선형성·대칭성·멱등성 및 AX = I_k, NX = X, MX = 0 관계 정리 • 분산·공분산 추정: Y'MY = e'e = SSE 구조를 이용한 오차분산 추정량 Ŝ^2 = Y'MY/(n−k)과 계수벡터 공분산행렬 추정량 Var̂(β̂) = Ŝ^2 (X'X)^{-1}의 의미(대각=분산, 비대각=공분산)와 모형 적합성 검정(잔차 회귀에서 γ̂ = 0) 연결 |
||
|
[40강] 행렬을 이용한 다중회귀분석 - 추정 (2)
|
0:
57:
51
|
|
|
다중회귀모형에서 편차형 변수, 행렬 해법, 분산·공분산 정리
• 편차형 회귀모형과 정규방정식: 편차형 변수로 변환한 다중회귀모형을 행렬식으로 표현하고, $X'X\hat\beta = X'y$, $\hat\beta = (X'X)^{-1}X'y$ 구조와 2×2·3×3 $X'X$의 차원·구성 관계 정리 • 행렬식·역행렬과 회귀 성능지표: $|X'X|$와 $(X'X)^{-1}$ 계산을 통해 기울기 추정식의 분모 의미와 설명변수 선형독립성 해석, RSS·SSE·$R^2$·조정 $R^2$의 행렬 표현 및 편차형 $y$를 이용한 계산 절차 정리 • 계수 분산·공분산행렬과 편차형-원형 연결: $Var(\hat\beta)=\sigma^2(X'X)^{-1}$ 구조, 대각·비대각 원소의 분산·공분산 해석, 원형 $(X'X)^{-1}$과 상수항 제거된 편차형 부분행렬의 대응을 통한 기울기 계수 공분산행렬 도출 원리 정리 |
||
|
[41강] 행렬을 이용한 다중회귀분석 - 추정 (3)
|
0:
51:
37
|
|
|
회귀분석 행렬해법: 편차형 변수와 원래 변수의 관계 정리
• X'X 행렬 구조와 determinant·역행렬: 마이너·코팩터를 이용한 X'X 역행렬 구성, determinant와 합·제곱합·곱의 합 구조 및 편차형 설계행렬과의 n배 관계 정리 • 편차형 변수와 원래 변수 회귀계수: 편차형 X'X와 원래 X'X 역행렬의 서브매트릭스 관계, 절편 분리에 따른 기울기 계수 불변성, 두 방식에서 회귀계수 추정값 일치 구조 정리 • 분산·공분산 행렬과 t-통계량: $\widehat{\text{Cov}}(\hat\beta)=\hat\sigma^2(X'X)^{-1}$ 구조, 주대각·비대각 원소의 분산·공분산 해석과 각 회귀계수 t-통계량 계산 및 유의성 검정 절차 정리 |
||
|
[42강] 행렬을 이용한 다중회귀분석 - 추정 (4)
|
0:
46:
08
|
|
|
총비용 자료로 검증하는 U자형 한계비용·3차 비용함수 추정 요약
• U자형 한계비용 구조: 한계비용을 총비용의 미분으로 정의하고 MC는 2차함수, TC는 3차함수로 설정하여 U자형 MC–S자형 TC 관계를 이론적으로 정식화 • 3차 비용함수 회귀추정: 총비용을 종속변수, 산출량과 그 제곱·세제곱을 설명변수로 한 3차 회귀모형을 편차형 변수, X'X·X'Y, OLS 추정(β̂=(X'X)⁻¹X'Y)으로 계수와 부호 패턴(+,−,+,+) 검증 • 비용계수 경제적 해석: 추정된 3차항·2차항·1차항 계수로 U자형 MC와 체감하는 한계생산 법칙을 확인하고, 절편항을 Q=0일 때의 총비용으로 해석하여 고정비용과 가변비용 구조를 구분·설명 |
||
|
[43강] 행렬을 이용한 다중회귀분석 - 추정 (5)
|
0:
54:
45
|
|
|
연습문제 4: 총비용함수 추정과 평균·한계비용 분석 요약
• 비용함수 구조와 평균·한계비용: 3차 총비용함수로부터 TVC·TFC 분해 및 AC·AVC·AFC·MC 정의, 함수식, U자형 곡선 특성과 AC=AVC+TFC/q 관계 정리 • 최저점·교차점과 손익분기 가격: MC·AVC·AC 각 최저점 산출량(약 4.5, 6.5, 8.06) 비교, AC 최저점에서 AC=MC 및 이윤 0이 되는 손익분기 가격 도출 절차 정리 • 계량추정·가설검정과 예측: 추정계수로 MC 선형성(β₃=0) t-검정 수행, p-value 해석을 통한 비선형성 결론 및 추정식을 이용한 관측구간 외 총비용·AC·AVC·MC 예측 방법 정리 |
||
|
[44강] 행렬을 이용한 다중회귀분석 - 추정 (6)
|
0:
56:
43
|
|
|
Summary Content: 표준화된 다중회귀 추정계수와 원계수의 관계, 상관·편상관 해석 요약
• 표준화 다중회귀 구조: 변수 표준화(z점수) 후 $X'X$, $X'Y$를 상관계수 행렬로 표현하고, 절편 0인 모형에서 표준화 회귀계수 $\hat\gamma$를 OLS로 도출 • 표준화 계수–상관·편상관 관계: $\hat\gamma_1 = \dfrac{r_{1y} - r_{12} r_{2y}}{1 - r_{12}^2}$, $\hat\gamma_2 = \dfrac{r_{2y} - r_{12} r_{1y}}{1 - r_{12}^2}$ 로 정의되며, 분자가 다른 설명변수 경유 효과를 제거한 편상관 구조를 나타냄 • 원계수–표준화 계수 연결: 원자료 계수 $\hat\beta_1, \hat\beta_2$를 공분산·단순회귀계수·표준편차비로 표현하고, 표준화 계수를 “원계수 × (상관구조·표준편차비로 이루어진 조정 비율)”로 해석하여 단위 제거·간접효과 제거된 영향력으로 이해함 |
||
|
[45강] 행렬을 이용한 다중회귀분석 - 추정 (7)
|
0:
53:
45
|
|
|
회귀모형에서 정사형(projection)과 분산분해 관계
• 예측치 벡터와 잔차 벡터의 직교성: 최소제곱 정규방정식과 프로젝션 매트릭스 $P=X(X'X)^{-1}X'$의 대칭·아이덴포텐트 성질을 통해 $\hat y = X\hat\beta$가 $y$의 정사형이고 잔차 $\hat u = y-\hat y$가 설명변수 공간에 직교함을 증명 • TSS 분산분해 구조: $y=\hat y+\hat u$에서 $y'y=(\hat y+\hat u)'(\hat y+\hat u)$ 전개와 $\hat y'\hat u=0$을 이용해 $TSS=y'y=RSS=\hat y'\hat y + SSE=\hat u'\hat u$의 행렬형 분산분해 $TSS = RSS + SSE$를 정립 • 결정계수 R² 계산: 편차형 자료에서 $RSS=\hat\beta'X'X\hat\beta$, $TSS=RSS+SSE$로 계산하고 $R^2 = RSS/TSS = 1 - SSE/TSS$를 사용해 모형이 설명하는 종속변수 변동 비율을 정량화 |
||
|
[46강] 행렬을 이용한 다중회귀분석 - 추정 (8)
|
0:
33:
18
|
|
|
다중공선성과 Ridge Regression: 완전·불완전 공선성에서의 추정
• 다중공선성 개념과 OLS 존재 조건: OLS 추정량은 $(X'X)^{-1}$ 존재(열벡터 선형 독립, $rank(X)=k$, $det(X'X)\neq 0$)를 전제로 하며, 완전 다중공선성은 정확한 선형 종속·$|\rho|=1$로 OLS 불가능, 불완전 다중공선성은 $|\rho|<1$이지만 1에 근접해 분산이 과대해지는 상태를 의미함 • 완전·불완전 다중공선성의 분산·공분산 구조: $x_2=a x_1$이면 $det(X'X)=0$, $Var(x_2)=a^2Var(x_1)$, $|\rho_{12}|=1$로 완전 다중공선성; $x_2=a x_1+\epsilon$에서 $Var(\epsilon)>0$이면 $|\rho_{12}|<1$이지만 $Var(\epsilon)\downarrow 0$일수록 $\rho_{12}^2\to 1$, $det(X'X)\to 0$로 OLS 추정량 분산이 폭증하는 불완전 다중공선성 구조가 형성됨 • Ridge Regression 추정량 구조와 역할: Ridge 추정량은 $\hat\beta^{R}=(X'X+\lambda I)^{-1}X'Y$로 정의되며, $\lambda>0$을 통해 $X'X+\lambda I$를 항상 가역행렬로 만들어 완전 다중공선성에서도 추정 가능하게 하고, 공선성으로 인한 분산을 완화하는 정규화(패널티) 기법으로 활용됨 |
||
|
[47강] 행렬을 이용한 다중회귀분석 - 추정 (9)
|
1:
03:
49
|
|
|
능형회귀에서 λ 변화에 따른 추정량과 분산 변화 해석
• 능형회귀 기본 구조: 완전다중공선성으로 OLS가 불가능한 상황에서 $X'X+\lambda I$를 이용해 역행렬을 정의하고, $\hat\beta_{ridge}=(X'X+\lambda I)^{-1}X'y$ 형태로 추정계수를 도출하는 L2 패널티 기반 회귀 모형 • 완전다중공선성·2×2 모형 해석: x2 = a x1 구조에서 $(X'X+\lambda I)$의 행렬식과 역행렬을 정리해 $\hat\beta_1=\frac{\sum x_{1i}y_i}{\lambda+(a^2+1)\sum x_{1i}^2}$, $\hat\beta_2=a\hat\beta_1$을 도출하고, x2 = 2x1·x2 = 0.5x1 사례에서 계수 비례관계와 λ 변화에 따른 계수 방향·크기 변화를 수식 기반으로 설명 • λ–분산–편의 트레이드오프: $\text{Var}(\hat\beta_{ridge})=s^2(X'X+\lambda I)^{-1}$에서 λ 증가 시 계수 분산·공분산이 단조 감소하는 대신 추정량이 0 방향으로 수축하는 하향편의가 커지는 구조를 정리하고, 공선성 완화·분산 축소·편의 증가 간 균형을 위한 적정 λ 선택 원리 제시 |
||
|
[48강] 행렬을 이용한 다중회귀분석 - 추정 (10)
|
1:
00:
17
|
|
|
Summary Content:
다중공선성과 분산팽창지수(VIF) 계산과 해석 정리 • 분산팽창지수(VIF) 개념: VIF_j = 1/(1-R_j²)로 정의되며, 다중회귀에서 공선성으로 인해 각 회귀계수 Var(β̂_j)가 공선성 없는 경우보다 몇 배 팽창했는지를 측정하는 지표 • VIF 이론 및 일반식: k≥2에서 X_j를 나머지 X_-j에 회귀한 보조회귀의 결정계수 R_j²로부터 VIF_j 계산, Var(β̂_j) = σ²/∑x_ji² · VIF_j 및 Var(β̂) = σ²(X'X)^{-1} 관계를 통해 (X'X)^{-1}_jj = VIF_j/∑x_ji², VIF_j = (Var(β̂_j)/σ²)·∑x_ji² 도출 • VIF 계산과 다중공선성 진단: 주어진 X'X와 s²로부터 Var(β̂_j)와 ∑x_j²를 이용해 VIF_j = Var(β̂_j)·∑x_j²/s²로 빠르게 계산하고, VIF 값(예: VIF≈1은 공선성 미미, VIF≫10·100은 심각)을 근거로 어떤 설명변수 집합(x₂, x₃ 등)이 다중공선성의 주요 원인인지 판별 및 해석 |
||
| 행렬을 이용한 다중회귀분석 : 가설검정 | ||
|
[49강] 행렬을 이용한 다중회귀분석 - 가설검정 (1)
|
1:
01:
50
|
|
|
다중회귀분석 행렬표현과 제약 가설검정 연습문제 요약
• 선형제약 행렬표현과 제약행렬 R: 다중회귀모형에서 선형제약과 구조변화를 Rβ=r 형태로 표현하고, 제약행렬 R·제약벡터 r 구성 및 편차형 변수에서 (X'X)^{-1}의 분산·공분산 구조 해석 • 일반 F검정식과 t검정 관계: UR·R 모형 SSE 비교식과 quadratic form F = {(Rβ̂−r)'[R(X'X)^{-1}R']^{-1}(Rβ̂−r)/m}/σ̂²을 제시하고, 단일제약에서 F=t²로 t검정과 동치 관계 및 복수 제약의 다변량 확장 구조 정리 • 복수 제약 F검정 연습과 결과 해석: 두 선형제약 동시검정과 세 계수 동시 0 가설에 대해 R 구성·R(X'X)^{-1}R' 계산·F값 및 p값 도출 절차를 통해 귀무가설 비기각·강력 기각 사례와 자유도 기반 의사결정 규칙 제시 |
||
|
[50강] 행렬을 이용한 다중회귀분석 - 가설검정 (2)
|
0:
44:
10
|
|
|
선형제약 가설검정에서의 F통계량 계산과 해석
• 선형제약 행렬표현: 회귀계수에 대한 다중 선형제약을 $R\beta = r$로 표현하고, 추정값으로부터 $R\hat\beta - r$ 벡터를 계산해 제약 위배 정도를 요약 • F통계량과 Quadratic form: $R(X'X)^{-1}R'$ 및 그 역행렬을 이용해 $(R\hat\beta - r)'[s^2 R(X'X)^{-1}R']^{-1}(R\hat\beta - r)/q$ 꼴의 quadratic form으로 F통계량을 산출하고, 3×3 대칭행렬의 역행렬·determinant 일반형으로 계산 구조 정리 • 통계량 해석과 분산 구조: $(R\hat\beta - r)$ 크기와 제약방향 분산·공분산 행렬 규모를 비교해 F와 p값을 해석하고, 개별 t통계량 대비 공동제약 F검정의 절차와 귀무가설 수락·기각 기준을 정리 |
||
|
[51강] 행렬을 이용한 다중회귀분석 - 가설검정 (3)
|
1:
05:
57
|
|
|
비선형 가설검정과 테일러 전개: 연습문제 1 풀이 정리
• 비선형 제약함수와 테일러 선형근사: 비선형 제약 f(β)=0을 다변수 1차 테일러 전개로 근사하여 그라디언트 벡터를 이용한 선형 제약식 Rβ=r 형태로 변환하는 절차 정리 • 제약행렬 R 구성과 F 통계량: 원래 비선형식 그대로/분모 제거 다항식 형태 두 방식으로 편미분해 R을 구성하고, R(X'X)⁻¹R'과 Rβ를 이용한 F 통계량·p값 계산 구조 및 제약 개수·스케일 효과 정리 • 근사 오차와 표현 방식의 영향: 동일 비선형 제약이라도 식 재표현과 선형근사 오차에 따라 R의 스케일·F값·p값이 크게 달라질 수 있으며, 고차항 무시 가능성·민감도·직관과의 불일치 가능성을 검토하는 해석 원리 정리 |
||
|
[52강] 행렬을 이용한 다중회귀분석 - 가설검정 (4)
|
0:
58:
09
|
|
|
수출함수 구조변화 검정과 F통계량의 행렬식 유도
• 구조변화 검정 모형 구조: 수출함수(1971~2010)를 두 기간으로 나눈 UR/R 모형·계수 동일성 제약 $H_0:R\beta=0$ 설정·R행렬 구성과 분할행렬 $X=diag(X_1,X_2)$, $X'X$ 의 block diagonal 구조 정리 • F통계량과 행렬식 표현: SSE 기반 F통계량 $F=\dfrac{SSER-SSEUR}{M}\big/\dfrac{SSEUR}{T-2K}$ 과 행렬식 F통계량 $F=\dfrac{1}{M}(R\hat\beta-r)'[R(X'X)^{-1}R']^{-1}(R\hat\beta-r)/\hat\sigma^2$ 의 등가성·UR모형 기준 오차분산 $\hat\sigma^2=SSE_{UR}/df_{UR}$ 활용 절차 • Rβ̂ 분산과 구조변화 해석: $Var(R\hat\beta)=\hat\sigma^2 R(X'X)^{-1}R'$ 계산·계수 차이의 표준오차·t통계량 도출·특정 계수에서 큰 t·F값이 발생해 구조변화의 주된 원인이 되는지 판별하는 해석 원리 정리 |
||
|
[53강] 행렬을 이용한 다중회귀분석 - 가설검정 (5)
|
0:
51:
54
|
|
|
선형제약 하 제약최소제곱 추정량 도출과 라그랑주 승수법
• 제약최소제곱(Restricted LS) 개념: 회귀모형 y = Xβ + ε에서 선형제약 Rβ = r 하 오차제곱합 최소화를 수행하는 제약최소제곱 추정과 F통계량·분산구조와의 연계 정리 • 라그랑주 승수법과 제약 정규방정식: 라그랑지안 L(β,λ) = (y − Xβ)'(y − Xβ) + 2λ'(Rβ − r)의 1계 조건을 통해 \(\begin{pmatrix}X'X & R' \\ R & 0\end{pmatrix}\begin{pmatrix}\beta \\ \lambda\end{pmatrix} = \begin{pmatrix}X'y \\ r\end{pmatrix}\) 형태의 제약 정규방정식 도출 및 파티션 행렬·Schur complement를 이용한 해 구조 이해 • 제약최소제곱 추정량과 분산 해석: \(\hat\beta_R = \hat\beta_{OLS} - (X'X)^{-1}R'[R(X'X)^{-1}R']^{-1}(R\hat\beta_{OLS} - r)\) 형태의 폐형식 유도, R(X'X)^{-1}R'을 제약 선형조합 분산으로 해석하고 제약 위반량·분산 구조·F검정 간의 연결 구조 정리 |
||
|
[54강] 행렬을 이용한 다중회귀분석 - 가설검정 (6)
|
0:
29:
51
|
|
|
제약 최소제곱추정량과 F통계량 계산 과정 정리
• 제약 최소제곱추정량(Restricted OLS) : 선형제약 Rβ=r 하에서 β̂_R = β̂_OLS − (X'X)⁻¹R'[R(X'X)⁻¹R']⁻¹(Rβ̂_OLS−r)로 표현되며, OLS 추정량을 제약 위반 벡터 Rβ̂_OLS−r의 분산구조에 따라 조정한 계수벡터임 • 선형제약 행렬표현과 F 통계량 : 가설(예: β₂=β₃, β₄+β₅=1)을 R, r로 행렬화하고, F = [(SSE_R − SSE_UR)/q] / [SSE_UR/df_UR] = (1/q)(Rβ̂_OLS−r)'[s²R(X'X)⁻¹R']⁻¹(Rβ̂_OLS−r)로 제약의 유의성을 SSE 차이와 분산행렬로 평가함 • 제약 모형(R 모형)과 행렬 접근의 등가성 : 제약을 직접 회귀식에 대입해 축소 설계행렬 X_R로 OLS를 수행한 뒤 원래 차원으로 변환하는 방식과, (X'X)⁻¹R'[R(X'X)⁻¹R']⁻¹을 사용하는 행렬식 접근은 동일한 β̂_R과 동일한 SSE_R을 산출하는 동치 절차임 |
||
| 정오표 | ||
|
[55강] 강의 정오표-교재만 있음
|
0:
00:
00
|
|
|
|
||
김재현 교수님
회귀분석 문제풀이
