홈 > 강의소개
회귀분석
김재현 교수
경북대학교 대학원 경제학과 석사과정
경북대학교 대학원 경제학과 박사졸업
경북대학교 대학원 경제학과 석사과정
경북대학교 대학원 경제학과 박사졸업
경북대학교
계명대학교
현) 유니와이즈 전임교수
AI가 이끄는 스마트한 학습 경험, AI 튜터와 함께 더 빠르고, 더 깊게 학습하세요.
긴 강의 내용을 AI가 핵심만 요약하여 복습 시간을 단축시킵니다.
강의에서 가장 중요한 키워드와 개념을 자동으로 추출해 제공합니다.
학습한 내용을 바탕으로 AI가 생성한 퀴즈를 풀며 이해도를 점검합니다.
모르는 부분을 24시간 언제든 AI 튜터에게 질문하고 답변을 받습니다.
총 9개 챕터, 45강으로 구성되어 있습니다.
| 제목 | 강의시간 | 상세내용 |
|---|---|---|
| 1장. 회귀분석 개요 및 단순회귀분석 | ||
|
[1강] 통계학 기초-특성치. 조건부기대. 확률분포 (1)
|
0:
41:
42
|
|
|
회귀분석 개요와 통계학 기초 핵심 정리
• 회귀분석 및 회귀모형: 독립변수가 종속변수 평균에 미치는 영향을 표현하는 선형·비선형 회귀식(오차항 포함) 구조와 절편·기울기 모수의 추정 및 가설검정 절차 정리 • 통계학 기초 개념: 모집단·표본·표본공간·사건·확률·상대도수 극한 정의와 전수조사·표본조사·임의추출·편의 개념을 통한 통계적 추론의 이론적 기반 정리 • 확률변수와 조건부확률: 표본공간에서 정의된 실수값 함수로서의 확률변수와 분포 개념, 조건부확률 P(A|B)=P(A∩B)/P(B)의 표본공간 축소 해석 및 회귀·통계추론에서의 활용 원리 정리 |
||
|
[2강] 통계학 기초-특성치. 조건부기대. 확률분포 (2)
|
1:
11:
42
|
|
|
통계학 기초: 확률변수의 특성치와 확률분포 핵심 정리
• 확률변수와 통계적 특성치: 확률변수·기대값·분산·표준편차·공분산·상관계수·조건부 기대·조건부 분산 정의와 분포 요약 기능 정리 • 확률적 관계 구조: 조건부확률·확률적 독립, 독립성과 공분산·상관계수·조건부기대의 수식 관계 및 선형 상관 구조 정리 • 확률분포와 정규분포: 이산형·연속형 확률분포, 확률밀도함수와 면적 해석, 정규분포·표준정규분포와 표준화 및 중심극한정리 기반 해석 정리 |
||
|
[3강] 통계학 기초-특성치. 조건부기대. 확률분포 (3)
|
1:
03:
14
|
|
|
결합확률분포와 표본분포, 추정과 추정량의 성질 요약
• 결합확률분포·이변량 정규분포·상관계수: 이산형·연속형 결합확률분포 구조, 이변량 정규분포의 모수(평균·분산·공분산·상관계수)와 두 변수 선형관계 표현 • 표본분포·중심극한정리·정규기반 표본분포(χ², t, F): 표본평균 분포와 중심극한정리, 정규모집단에서 유도되는 χ²·t·F 분포의 자유도와 활용(평균·분산·모형 검정) • 추정과 추정량(점·구간추정, 최소제곱·최우·정률, 바람직한 성질): 점추정·구간추정과 신뢰구간 개념, 최소제곱·최우·정률추정 절차, 모평균의 표본평균 추정과 추정량의 불편성·효율성·일치성 조건 정리 |
||
|
[4강] 통계학 기초-특성치. 조건부기대. 확률분포 (4)
|
0:
57:
32
|
|
|
Summary Content:
가설검정과 귀무가설·대립가설, 오류와 유의수준 개념 정리 • 가설검정과 귀무·대립가설: 모집단 모수에 대한 통계적 주장 검증 절차로, 일반적으로 받아들여지는 사실을 귀무가설로, 연구자가 주장하는 내용을 대립가설로 설정하고 검정통계량과 분포를 이용해 기각 여부를 결정 • 기각역·임계치·유의수준·p-value: 유의수준으로 제1종 오류 허용 한계를 정하고 이에 따른 임계치·기각역을 정의하며, 관측된 검정통계량에 대한 p-value(귀무가설을 기각할 수 있는 최소 유의수준)를 이용해 p ≤ α이면 귀무가설을 기각 • 제1종·제2종 오류와 검정력·단측·양측 검정: 제1종 오류는 참인 귀무가설의 오기각, 제2종 오류는 거짓인 귀무가설의 미기각으로 상충 관계에 있고, 귀무가설이 거짓일 때 기각할 확률인 검정력을 최대화하는 방향으로 단측·양측 검정 구조와 정규분포 기반 검정통계량을 설계·운용 |
||
|
[5강] 통계학 기초-추정과 검정. 단순회귀모형
|
0:
25:
58
|
|
|
단순 회귀모형과 회귀함수의 의미 및 가정 정리
• 회귀분석 기본 개념: 종속변수와 설명변수의 선형 관계를 모집단 회귀함수(PRF)로 설정하고 조건부 기대값 E(Y|X)를 통해 영향력과 평균적 관계를 정량 분석 • 모집단·표본 회귀함수 구조: PRF는 Y = β₁ + β₂X + u에서 E(Y|X=x)=β₁+β₂x로 정의되며, 표본자료로 추정한 SRF는 ŷ = \hat{β}_1 + \hat{β}_2 x 형태로 모수 β를 추정량 \hat{β}로 근사 • 단순 회귀모형 가정 체계: 선형성, 오차항 평균 0, 등분산성, 무자기상관성, 설명변수 비확률성·오차와의 독립, 오차항 정규분포 등 6가지 가정을 통해 추정량의 불편성·효율성과 회귀계수 가설검정의 타당성을 확보 |
||
|
[6강] 단순회귀모형의 추정(최소제곱추정법) (1)
|
0:
50:
39
|
|
|
단순회귀모형 최소제곱(OLS) 추정 원리와 편미분 정리 요약
• OLS 추정 개념: 단순회귀모형에서 오차제곱합 S(β1, β2)를 최소화하는 회귀계수(β1, β2)를 구하는 최소제곱법 추정 원리와 절대값 대신 제곱을 사용하는 미분·최소값 탐색 근거 정리 • 편미분과 정규방정식: 다변수 함수 S(β1, β2)에 대한 편미분 개념·계산법과 최소조건 ∂S/∂β1=0, ∂S/∂β2=0을 통해 정규방정식 유도 및 연립방정식·행렬식 X'Xβ̂ = X'y 표현 연결 • 연쇄법칙과 계산 단축: S=∑f_i(β1,β2)^2 꼴에서 연쇄법칙을 이용한 ∂S/∂βj = 2∑f_i ∂f_i/∂βj 요약형 공식과 이를 활용한 OLS 미분·계수 계산의 구조적 이해 정리 |
||
|
[7강] 단순회귀모형의 추정(최소제곱추정법) (2)
|
0:
45:
26
|
|
|
단순회귀모형 OLS 추정과 기울기의 통계적 의미
• 단순선형회귀 정규방정식과 OLS 추정량: 최소제곱법으로 정규방정식을 세우고 2×2 역행렬을 이용해 β1, β2의 OLS 추정식을 도출하며, 추정 회귀직선이 표본평균점 (x̄, ȳ)을 반드시 통과함을 보임 • OLS 기울기의 통계·경제적 의미: 기울기 추정량을 x의 분산분의 공분산 Cov(X,Y)/Var(X) 구조로 표현해 설명변수 1단위 변화에 따른 종속변수 조건부평균 E(Y|X)의 변화량(한계효과·한계소비성향 등)으로 해석함 • 조건부기댓값과 이론적 기울기: E(Y|X)=β1+β2X 선형 가정 하에서 β2=Cov(X,Y)/Var(X) 이론 공식과 표본 OLS 기울기 β̂2=Ĉov(X,Y)/V̂ar(X)의 대응을 통해 OLS가 조건부기댓값 함수의 기울기를 추정하는 방법임을 제시함 |
||
|
[8강] 단순회귀모형의 추정(최소제곱추정법) (3)
|
0:
54:
00
|
|
|
단순회귀모형의 최소제곱추정, 공분산·분산, 기울기 의미와 예제 계산
• 단순회귀모형과 기울기 모수: 조건부기대 $E(Y\mid X)=\beta_1+\beta_2X$에서 기울기 $\beta_2=\dfrac{\operatorname{Cov}(X,Y)}{\operatorname{Var}(X)}$로 도출되며, 공분산·분산 정의(중심화 표현과 전개식)를 통해 “분산분의 공분산” 구조로 해석함 • 최소제곱추정량과 통계적 성질: $\hat{\beta}_2=\dfrac{\widehat{\operatorname{Cov}}(X,Y)}{\widehat{\operatorname{Var}}(X)}$, $\hat{\beta}_1=\bar{Y}-\hat{\beta}_2\bar{X}$로 추정하고, 회귀직선이 $(\bar{X},\bar{Y})$를 항상 통과하며, 정규오차 가정하에 $\hat{\beta}_1,\hat{\beta}_2$는 정규분포를 따르는 불편추정량이고 분산은 $\sigma^2$와 $\sum (X_i-\bar{X})^2$에 의해 결정됨 • 오차항·잔차·분산추정량: 오차항 $u_i$와 잔차 $e_i=Y_i-\hat{Y}_i$를 구분하고, 잔차제곱합을 이용한 오차분산 후보 $\hat{\sigma}^2=(1/n)\sum e_i^2$가 불편성이 없음을 지적하며, 가설검정·신뢰구간에서 올바른 분산 추정을 위해 자유도 보정이 들어간 불편 오차분산 추정량 필요성을 제시함 |
||
|
[9강] 단순회귀모형의 추정(최소제곱추정법) (4)
|
1:
19:
06
|
|
|
단순회귀모형 오차분산과 자유도, 신뢰구간 요약
• 분산의 불편추정량과 자유도: 표본분산은 평균 사용으로 정보 1개 소모로 자유도 n-1이 되어 S²=(1/(n-1))∑(Xᵢ- X̄)²로 정의되며, 단순회귀 오차분산은 두 회귀계수 추정으로 정보 2개 소모로 자유도 n-2가 되어 σ̂²=(1/(n-2))∑eᵢ²로 정의됨 • 자유도·정규분포·신뢰구간 구조: 자유도는 통계량 계산에 실질적으로 자유로운 정보 개수이며, 정규분포에서 유의수준 α와 신뢰수준 1-α를 기반으로 평균 ± z_{α/2}·표준편차 형태의 신뢰구간(예: 약 μ±2σ인 95% 신뢰구간)을 구성함 • 회귀계수 신뢰구간과 해석: 단순회귀 최소제곱 추정량 β̂₁, β̂₂는 Var(β̂)와 오차분산 추정치 σ̂²를 이용해 β의 (1-α)·100% 신뢰구간 β̂±z_{α/2}·SE(β̂)로 구하며, 소비함수에서 β̂₂=0.6, SE=0.1이면 95% 신뢰구간 0.4~0.8로 해석되어 소득 대비 평균 소비 비율의 추정값과 불확실성 범위를 제시함 |
||
|
[10강] 최소제곱추정량의 특징(BLUE)
|
1:
01:
59
|
|
|
가우스-마르코프 정리와 최소제곱추정량의 BLOE 성질 요약
• 추정량의 바람직한 성질과 고전적 선형회귀모형 가정: 불편성·효율성·일치성 정의와 단순선형회귀모형에서의 선형성·오차 평균 0·등분산성·오차 간 무상관·설명변수와 오차 무상관 가정 정리 • 가우스-마르코프 정리와 BLUE 성질: 최소제곱 기울기 추정량의 선형성·불편성·분산식 도출 및 다른 선형 불편추정량과의 분산 비교를 통해 Best Linear Unbiased Estimator(BLUE) 조건과 의미 정리 • 가정 위배 시 효과와 단순회귀의 의의: 비선형성·이분산성·자기상관·내생성에서 불편성·효율성·일치성 붕괴와 BLUE 상실 효과 제시, OLS가 조건부기대값 추정·기울기(한계효과) 측정·예측력 향상에 갖는 이론적 의의 요약 |
||
| 2장. 단순회귀모형 확장 | ||
|
[11강] 단순회귀모형 확장 (1)
|
0:
45:
34
|
|
|
단순회귀모형 유의성 검정·잔차 진단·예측 정리
• 단순회귀모형 추정량과 t검정: OLS 추정계수의 정규분포·불편성·BLUE 성질과 분산 추정치를 활용한 t분포 기반 기울기 유의성 검정 구조 정리 • 잔차와 회귀모형 진단: 잔차 정의·성질과 평균 0·등분산·독립성·정규성 가정을 잔차도·히스토그램·QQ Plot 및 JB·K-S·S-W 정규성 검정으로 점검하는 절차 • 회귀모형 예측과 예측오차: 추정 회귀식을 이용한 예측값 계산, 예측오차(잔차) 정의, BLUE 특성에 기반한 예측의 통계적 성질과 실무 예측·잔차 분석 활용 정리 |
||
|
[12강] 단순회귀모형 확장 (2)
|
0:
22:
25
|
|
|
다중회귀분석에서 결정계수와 분산분해 개념 정리
• 회귀모형과 변동 분해: 조건부 평균 E(y|x) 기반 회귀모형에서 y의 총변동을 체계적 변동(예측 개선치)과 무작위 변동(잔차)으로 분해하고, SST = SSR + SSE 구조로 표현 • 제곱합과 최소제곱법: 총제곱합(SST), 회귀제곱합(SSR), 오차제곱합(SSE) 정의와 SST = SSR + SSE 관계, 최소제곱법 정규방정식(∑e_i=0, ∑x_i e_i=0)에 따른 교차항 소거 원리 정리 • 결정계수 R²: R² = SSR/SST = 1 − SSE/SST로 정의되는 설명력 지표로, 값의 범위(0~1), R²=1·0의 의미, 단순회귀에서 상관계수 제곱과의 일치, 변동 설명 비율 해석 및 한계 정리 |
||
|
[13강] 단순회귀모형 확장 (3)
|
1:
01:
56
|
|
|
원점을 지나는 회귀모형, 자료변환, 로그선형과 탄력성, 최우추정법과 최소제곱법
• 원점을 지나는 회귀모형·평균제거 변환: 절편 0 단순회귀의 기울기 최소제곱 추정량 도출과 절편 있는 모형을 평균 제거 자료로 원점 회귀와 동치 변환하는 방법, 자유도에 따른 분산 추정량 차이 정리 • 자료변환·로그선형 모형: 제곱·역수·로그 등 비선형 자료변환 하에서 모수에 대한 선형성을 유지하는 회귀 구조와 자연로그 변환을 통한 기울기의 탄력성(변화율 비율) 해석 체계 정리 • 최우추정법(MLE)·OLS 관계: 정규오차 선형회귀에서 우도함수·로그우도함수 구성, 로그우도 극대화와 오차제곱합 최소화의 동치성, 회귀계수의 MLE·OLS 일치와 분산 추정량 자유도(n-2 vs n) 차이 정리 |
||
|
[14강] 단순회귀모형 확장 (4)
|
0:
42:
01
|
|
|
정률추정법과 회귀분석 추정방법 비교 요약
• 정률 및 정률조건: 정률을 확률변수 거듭제곱의 기대값으로 정의하고 평균·분산·공분산·상관계수 등 통계적 특성치를 정률로 표현하며, 모집단 정률조건을 표본정률조건(1/n 합)으로 치환해 모평균·모수에 대한 추정식 도출 • 정률추정법 회귀계수 추정: 단순회귀에서 오차항 평균조건 E(u)=0과 직교조건 E(Xu)=0이라는 두 정률조건을 표본정률조건으로 변환해 정규방정식 시스템을 구성하고, 이를 풀어 OLS·MLE와 동일한 회귀계수 추정량(BLUE)을 산출 • OLS·MLE·정률추정(GMM) 비교 및 분산추정: OLS는 오차제곱합 최소화, MLE는 우도함수 극대화, 정률추정법은 정률조건 만족을 기준으로 추정하며, 계수는 동일하지만 분산추정에서 OLS는 (n-2)분모의 불편추정량, MLE·정률추정은 n분모의 편의 있는 추정량을 사용해 특히 소표본에서 T통계량 차이를 유발함 |
||
| 3장. 다중회귀모형 | ||
|
[15강] 다중회귀모형 (1)
|
0:
47:
04
|
|
|
다중회귀모형 설정과 추정, 행렬연산 기초 연결 정리
• 다중회귀모형과 가정: 여러 설명변수의 부분회귀계수 해석, 고전적 선형회귀모형 가정(선형성·등분산·자기상관 없음·정규성)과 X행렬 랭크 조건을 통한 다중공선성 없음 요약 • 최소제곱추정과 행렬표현: 오차제곱합 최소화로 정규방정식 도출, k×k 계수행렬의 대칭구조와 3×3 행렬식·역행렬 공식을 이용한 \(\hat\beta=(X'X)^{-1}X'y\) 추정 절차 정리 • 계수·분산 구조와 상관관계: 설명변수 2개인 경우 계수식과 단순회귀 대비 차이, 오차분산 추정량과 자유도(n−k) 개념, 설명변수 분산·상관계수(r₍₂₃₎)가 계수 분산과 다중공선성 문제에 미치는 영향 정리 |
||
|
[16강] 다중회귀모형 (2)
|
1:
22:
26
|
|
|
다중회귀모형 결정계수와 조정결정계수 및 F, t 검정 요약
• 결정계수와 조정결정계수: TSS·RSS·SSE 정의, R² = 1−SSE/TSS와 AdjR² = 1−{SSE/(n−k)}/{TSS/(n−1)}를 통한 설명력 측정, 자유도 조정에 따른 R²·AdjR² 관계 및 범위(AdjR² 음수 가능) 정리 • F 분산분석과 자유도·오차분산: ANOVA에서 TSS=RSS+SSE 분해, 분산분석표 구조(RSS·SSE·TSS와 자유도 k−1, n−k, n−1), F = [RSS/(k−1)] / [SSE/(n−k)]의 F 분포와 자유도 개념 및 s² = SSE/(n−k)에 의한 오차분산 추정 원리 정리 • 개별 계수 t 검정과 설명변수 선택: t = 𝛽̂ⱼ / SE(𝛽̂ⱼ)를 이용한 개별 편회귀계수 유의성 검정과 t 분포 자유도 n−k 해석, 전진선택법·후진소거법·단계별 선택법 등 변수선택 절차와 이론적 모형 기반 설명변수 선정 원칙 요약 |
||
| 4장. 다중회귀모형에서의 가설검정 | ||
|
[17강] 결합귀무가설을 통한 가설검정 설정 (1)
|
0:
31:
31
|
|
|
다중회귀모형에서의 F검정과 개수 동일성 검정 핵심 구조 정리
• 다중회귀모형 제약 검정 구조: 개수 동일성 검정·선형등식제약 검정·구조변화 검정을 제약 모형(R)과 비제약 모형(UR) 비교로 통합적으로 정의 • F통계량 도출 원리: UR·R 모형의 SSE 또는 R² 차이를 자유도 (M, n-k)에 맞춰 비율로 구성하여 F분포에 따라 제약의 타당성(귀무가설 채택/기각)을 판단 • 개수 동일성·전체 유의성 관계: 일부 또는 모든 회귀계수를 특정 상수(주로 0)로 두는 제약을 개수 동일성 검정으로 일반화하고, 다중회귀모형 전체 유의성 검정을 그 특수한 F검정 형태로 정식화 |
||
|
[18강] 결합귀무가설을 통한 가설검정 설정 (2)
|
0:
41:
26
|
|
|
선형등식제약검정과 구조변화 검정 핵심 정리
• 선형등식제약검정·UR·R모형: 회귀계수 선형결합 제약 가설 설정, 제약 없는 UR모형과 제약을 대입한 R모형 구성, 두 모형 SSE 차이를 이용한 F통계량과 카이제곱 분포 관계, 등식제약이 종속변수를 바꾸는 경우 TSS·R² 기반 F식 사용 불가 조건 정리 • 구조변화 검정·자유도: 구간·집단별 계수 동일성 가설(βj=γj) 설정, 통합모형을 R모형·구간별 분리모형 합을 UR모형으로 두고 SSE_R·SSE_UR와 자유도(N-2k, m=k)로 F통계량 구성, UR/R 역할 전도와 음의 F 방지 구조 이해 • 결합귀무가설 검정 유형 비교: 개수 동일성 검정·선형등식제약검정·구조변화 검정의 공통 구조(SSE 기반 F검정)와 차이, 단일계수 검정에서 F와 t² 관계, Cobb–Douglas 규모수익 제약·정책 전후·집단 간 구조변화 등 대표 응용 정리 |
||
|
[19강] 콥-더글라스 함수 검정. 우도비 검정
|
0:
33:
43
|
|
|
컵더글라스 생산함수와 규모의 수익, F·우도비 검정 요약
• 컵더글라스 생산·효용함수와 TFP: 곱·지수형 구조(지수는 탄력계수), 로그선형화 회귀모형 설정, 상수항의 총요소생산성(TFP) 해석 및 등량곡선과 생산기술 구조 표현 • 규모의 수익과 F검정: 투입 비례확대에 따른 산출 변화 정의, 컵더글라스에서 지수합(α+β)에 따른 규모의 수익 판별, 규모의 수익 불변 가설(H0: α+β=1)에 대한 UR/R 모형 기반 F검정 절차와 t검정을 통한 계수 유의성 평가 • MLE·OLS와 우도비 검정: 정규오차 선형회귀에서 OLS와 MLE의 계수 추정 동치성과 분산 추정 차이, UR/R 모형 로그우도값 비교를 통한 우도비 검정(LR 통계량·카이제곱 분포) 구조 및 F검정과의 관계 |
||
| 5장. 더미변수 | ||
|
[20강] 더미변수
|
0:
41:
50
|
|
|
더미변수 회귀분석과 기울기 차이 검증 핵심 정리
• 더미변수 회귀모형: 질적(범주형) 설명변수를 0/1 더미로 코딩해 회귀식에 포함하고, n개 범주를 n-1개 더미로 설계하여 기준범주 대비 조건부 평균(절편) 차이를 추정·해석 • 다중 더미·다범주 설계와 더미함정: 여러 더미와 양적 변수 결합 시 기준범주 설정과 n개 범주→n-1개 더미 원칙으로 완전 다중공선성(더미함정) 방지, 각 계수는 범주 간 조건부 기대값 차이 의미 • 기울기 차이 검증(상호작용 더미): 더미와 양적 변수의 곱항을 포함해 집단별 기울기(효과) 차이를 모형화하고, 절편 더미·기울기 더미를 동시에 사용해 평균 차이·효과 차이를 분리 추정하되, 과도한 더미·상호작용으로 인한 자유도 감소와 모형 복잡도 증가를 통제 |
||
| 6장. 행렬을 이용한 다중회귀분석 : 추정 | ||
|
[21강] 행렬을 이용한 다중회귀분석: 개요
|
0:
26:
50
|
|
|
다중회귀분석의 행렬표현과 최소제곱 추정 개요
• 다중회귀모형 행렬표현: 개별 회귀식을 종합해 $Y = X\beta + \varepsilon$ 형태로 정의하고, $Y(n\times1)$·$X(n\times k)$·$\beta(k\times1)$·$\varepsilon(n\times1)$의 차원 일치와 일반형 구조를 정리 • 최소제곱법의 행렬식 정의: 오차벡터 $\varepsilon = Y - X\beta$의 길이 제곱 $\|Y - X\beta\|^2$을 최소화하는 문제로 설정하고, 이를 통해 정규방정식 $X'X\hat{\beta} = X'Y$와 OLS 추정량 도출 • 행렬표현의 기능과 적용 범위: 회귀계수 일반형 공식화, 계산 효율성·기하학적 해석(투영·직교성) 제공, 선형·선형화 가능 모형에 한정된다는 적용 조건 명시 |
||
|
[22강] 행렬연산 기초 (1)
|
0:
37:
34
|
|
|
행렬연산 기초와 벡터·특수행렬 개념 정리
• 행렬·벡터·스칼라 개념: 행렬 차원(m×n)과 원소 개수 정의, 선형방정식 A𝒙=b 표현, 스칼라·벡터·행렬의 구분 및 표기 규칙 정리 • 벡터와 특수행렬 구조: 행·열벡터와 n차원 좌표 해석, 정방·대각·대칭·삼각행렬의 구조적 제약과 선형대수·회귀분석에서의 역할 정리 • 기본 연산과 곱셈 개념: 행렬·벡터의 덧셈·뺄셈·스칼라곱의 차원 조건, 벡터 내적(유사성·각도·직교성 판단)과 텐서곱(벡터쌍으로 행렬 생성) 정의 및 연산 구조 정리 |
||
|
[23강] 행렬연산 기초 (2)
|
0:
41:
05
|
|
|
행렬 곱, 거듭제곱, 전치, Trace, 항등원 핵심 정리
• 행렬 곱·거듭제곱·멱등행렬: 행렬 곱의 차원 조건과 원소 정의, 정방행렬에서의 거듭제곱 구조, 멱등행렬(A²=A)과 투영행렬 개념 정리 • 전치연산·A'A 구조: 전치행렬 정의와 (A')'=A, (AB)'=B'A' 성질, A'A의 대칭 정방행렬 구조와 대각·비대각 원소를 열벡터 내적으로 해석 • Trace·단위행렬(항등원): Trace 정의와 선형·순환 성질 tr(AB)=tr(BA), tr(ABC)=tr(BCA), 단위행렬 I의 AI=IA=A 항등원 역할과 tr(Iₙ)=n 관계 정리 |
||
|
[24강] 행렬연산 기초 (3)
|
1:
00:
31
|
|
|
역행렬, 행렬식, 여인수 전개와 역행렬 공식 정리
• 행렬식과 역행렬 개념: 행렬식(det A)을 통해 역행렬 존재 여부(정칙/특이행렬) 판별, 2×2·3×3 행렬식 계산법과 n×n으로의 일반화 개념 정리 • 소행렬식·여인수·여인수 전개: 소행렬식 M_ij와 여인수 C_ij 정의, 행·열 기준 여인수 전개 공식을 이용한 일반 n×n 행렬식 정의 및 계산 구조, 고차원에서 계산량 증가 특성 정리 • 보조 행렬와 역행렬 공식: 여인수 행렬과 보조 행렬 adj(A) 정의, 크래머의 법칙에 따른 역행렬 공식 A^{-1} = (1/ det A) adj(A) 및 2×2 역행렬 구조(주대각 교환·비주대각 부호 반전) 정리 |
||
|
[25강] 행렬연산 기초 (4)
|
0:
49:
01
|
|
|
역행렬 계산과 선형연립방정식, 분할행렬 핵심 정리
• 역행렬 계산 방법: 크래머 규칙(여인수·수반행렬 기반, 고차원 비효율)과 행연산 기반 결합행렬 알고리즘([A|I]→[I|A⁻¹])의 구조·연산량 비교 • 연립방정식과 역행렬 존재 조건: Ax=b에서 det(A)≠0 ↔ A 역행렬 존재 ↔ 유일해, det(A)=0 ↔ 해 없음 또는 무수히 많은 해, 행연산 시 0행(선형종속)과의 관계 정리 • 분할행렬(block matrix): 대형 행렬의 블록 분할 구조, 블록 단위 더셈·곱셈 규칙과 일반 행렬연산의 대응, 역행렬 계산 시 블록을 스칼라처럼 취급할 수 없어 별도 블록 역행렬 이론 필요 |
||
|
[26강] 행렬연산 기초 (5)
|
0:
30:
48
|
|
|
행렬의 랭크와 역행렬, 연립방정식 해의 관계 요약
• 행렬의 랭크와 선형독립: 행·열벡터의 선형독립 개수로 랭크 정의, 풀 랭크 조건과 연립방정식 유일해·정칙행렬·행렬식 비영( det≠0 )·역행렬 존재의 동치 관계 정리 • 사다리꼴 행렬과 기약 사다리꼴 행렬: leading 1 배치·0행 위치·계단 구조·leading 1 열의 나머지 원소 0 조건으로 두 형태 정의, 랭크를 계산하기 위한 표준 형태로 사용 • 행연산과 랭크 계산 절차: 세 가지 기본 행연산으로 임의의 행렬을 기약 사다리꼴로 변환하고 leading 1의 개수를 세어 랭크를 구하며, 이를 통해 연립방정식의 해 개수·유일해 여부·역행렬 존재 여부 판단 |
||
|
[27강] 행렬연산 기초 (6)
|
0:
38:
52
|
|
|
행렬의 고유값과 고유벡터, 선형방정식과 역행렬과의 관계 정리
• 고유값·고유벡터 개념: A𝑥=λ𝑥 형태에서 선형변환의 스케일 값 λ(고유값)과 방향벡터 𝑥(고유벡터)의 대수적·기하학적 의미, 기저벡터를 통한 고유공간 표현 정리 • 고유값 계산 구조: (A−λI)𝑥=0, det(A−λI)=0 조건과 특성다항식 구성, n×n 행렬의 고유값을 n차 방정식 해로 구하는 절차 및 2×2·3×3 예제 구조 정리 • 역행렬·해 존재성과의 관계: λ=0 ⇔ det(A)=0 ⇔ 비가역·특이행렬 ⇔ rank 미달·선형종속 ⇔ 선형방정식 해의 유일성/존재성 판단 기준으로 활용되는 고유값 구조 정리 |
||
|
[28강] 행렬연산 기초 (7)
|
0:
40:
41
|
|
|
Summary Content:
직교 벡터와 직교행렬, 직교대각화와 2차 형식 핵심 정리 요약 • 직교·직교행렬·직교대각화: 내적 0인 직교 벡터와 피타고라스 성질, 열·행이 직교정규인 직교행렬의 정의(AA' = A'A = I, det A = ±1), 대칭행렬의 직교대각화 P'AP = D와 닮음 변환 구조 정리 • 대칭행렬 고유값 구조와 사영 정리: 대칭행렬의 고유값·고유벡터, det(A) = ∏λ_i, tr(A) = ∑λ_i, 랭크와 역행렬 존재 조건, 벡터의 정사영과 y = Xb + e에서 예측치 Xb와 오차 e의 직교 및 최소제곱법의 기하학적 해석 정리 • 2차 형식과 양정행렬·음정행렬: 2차 형식 x'Ax와 일반형 ∑_i∑_j a_ij x_i x_j 표현, positive definite / semi-definite / negative definite / semi-definite / indefinite 부호 분류, 양정행렬·음정행렬의 고유값·역행렬 존재 조건과 극대·극소 판별 기준 정리 |
||
|
[29강] 행렬연산 기초 (8)
|
0:
40:
19
|
|
|
행렬을 이용한 최소제곱법과 편미분·전미분·이계미분 요약
• 다변량 미분 개념: 편미분·전미분·이계미분과 헤시안 행렬을 통해 다변량 함수의 순간 변화율·접평면·2차 형식 구조를 정의하고 극값 조건을 정식화함 • 2차 형식과 행렬 미분: 이계전미분을 2차 형식 $dX'FdX$로 표현하고, $X'AX$에 대한 벡터·행렬 미분 규칙(∂/∂X=2AX, ∂/∂A=XX')을 통해 최적화의 일반 공식을 제시함 • 최소제곱법과의 연결: 회귀 오차제곱합을 회귀계수 벡터에 대한 2차 형식으로 표현하고, 행렬·미분 규칙을 이용해 최소제곱 추정량과 극값 성질(최소점)을 도출하는 기반을 마련함 |
||
|
[30강] 행렬연산 기초 (9)
|
1:
11:
44
|
|
|
행렬미분을 이용한 다변수 함수 최적화의 일계·이계 조건 요약
• 일계 조건(FOC)과 기울기: 다변수 스칼라 함수에서 Gradient(편미분 벡터)를 0으로 만드는 점을 찾는 필요 조건으로 최적점 후보(극대·극소·변곡점) 정의 • Hessian 행렬과 2계 미분: 2계 편미분값으로 구성된 대칭 Hessian 행렬을 통해 $d^2 y = d\mathbf{x}^\top \mathbf{H} d\mathbf{x}$ 꼴의 2차 형식을 만들고, 곡률 및 함수의 볼록·오목 구조를 수식화 • Second Order Condition(SOC)와 극값 판정: FOC로 얻은 후보점에서 Hessian이 만드는 2차 형식의 부호(양의/음의 정부호 등)를 이용해 일변수의 $f''(x^\*)$ 판정 규칙을 다변수로 일반화하여 극대·극소 여부를 결정 |
||
|
[31강] 행렬연산 기초(10)
|
0:
45:
26
|
|
|
극대·극소 판정과 2차 형식, 확률벡터의 기댓값과 공분산행렬 정리
• 극대·극소 판정과 2차 형식: 다변수 함수의 극값을 1계 조건(gradient=0)과 헤시안 행렬의 2차 형식 부호로 판정하고, 양정치·음정치 조건을 통해 최소·최대값 여부를 결정하는 절차 정리 • 헤시안 행렬과 실비스터 판정법: 헤시안 성분을 2계 편미분으로 구성하고 주대각 부분행렬식 부호 패턴(F_n>0, (-1)^nF_n>0)을 이용해 양정치·음정치 여부를 판별하며, OLS·MLE에서 극소·극대 조건 확인에 적용 • 확률벡터와 공분산행렬: 확률벡터의 기댓값 벡터 E(X)와 분산·공분산행렬 Var(X)=E[(X−E(X))(X−E(X))']을 정의하고, 대각=분산·비대각=공분산 구조로 다변량 확률모형의 분산·상관 구조를 표현하는 개념 정리 |
||
|
[32강] 다변량 통계 기초. 행렬을 이용한 최소제곱추정 (1)
|
1:
05:
05
|
|
|
다변량 정규분포와 행렬을 이용한 최소제곱 추정 핵심 정리
• 벡터 확률변수 분산·공분산행렬: 외적 기반 분산행렬 Var(X)=E(XX')−E(X)E(X)'와 선형변환 H'X·AX의 분산, 이차형식·대각합(trace)을 통한 분산 구조 표현 • 다변량 정규분포: 평균벡터 μ와 공분산행렬 Σ로 정의되는 N(μ,Σ)의 pdf 구조, 일변량·이변량·n차원 정규분포 간 이차형식 (x−μ)'Σ⁻¹(x−μ)·행렬식 |Σ| 비교 및 상관·공분산 관계 • 최소제곱 추정과 정규방정식: 다중회귀 y=Xβ+ε, Var(ε)=σ²Iₙ 가정에서 오차노름 S(β)=(y−Xβ)'(y−Xβ) 최소화로 정규방정식 X'Xβ=X'y와 추정량 β̂=(X'X)⁻¹X'y 도출, X'X 구조·가역성과 다중공선성·풀랭크 조건의 등가성 정리 |
||
|
[33강] 행렬을 이용한 최소제곱추정 (2)
|
0:
28:
20
|
|
|
행렬 해시안과 최소제곱법의 극솟값 판별 조건 정리
• 오차제곱합과 해시안 행렬: 오차제곱합 s=e'e를 계수벡터 β에 대해 1·2차 편미분하여 해시안 F=2X'X와 2차 형식 d²s=dβ'Fdβ를 정의하고, 차원 일치와 1차 조건에서 정규방정식 X'Xβ=X'y 및 최소제곱 추정치 β̂ 도출 • X'X의 공분산행렬 구조와 양정치성: X'X의 원소를 설명변수의 제곱·곱의 합으로 표현해 분산·공분산 행렬 구조로 해석하고, 단순회귀(k=2)에서 |X'X|=n²Var(X₂) ≥ 0, 다중회귀(k≥3)에서 비퇴화 공분산행렬의 양정치성으로 dβ'(2X'X)dβ>0임을 보여 최소제곱해가 극솟값임을 판별 • |X'X|=0과 추정 불능 조건: |X'X|=0인 경우 설명변수 분산=0 또는 완전선형종속으로 X 열벡터가 선형종속이 되어 (X'X)⁻¹이 존재하지 않고 정규방정식 해가 유일하지 않으므로, 이때는 회귀계수 추정 불가·모형 부적합 상태임을 명시 |
||
|
[34강] 행렬을 이용한 최소제곱 추정량의 분포 (1)
|
0:
38:
34
|
|
|
행렬로 표현한 최소제곱 추정량의 분포와 Gauss–Markov 정리 요약
• OLS 계수 추정량 벡터: $\hat\beta=(X'X)^{-1}X'y$ 정의, $E[\hat\beta]=\beta$ 불편성, $\operatorname{Var}(\hat\beta)=\sigma^2(X'X)^{-1}$ 분산–공분산 행렬 및 $\hat\beta \sim N\big(\beta,\sigma^2(X'X)^{-1}\big)$ 정규분포 구조 정리 • Gauss–Markov 정리(BLUE): 선형 추정량 $\beta^*=(A+C)y$의 불편성 조건 $CX=0$ 도출, $\operatorname{Var}(\beta^*)=\sigma^2[(X'X)^{-1}+C C'] \succeq \sigma^2(X'X)^{-1}$ 비교를 통해 OLS의 선형성·불편성·최소분산성(최우수 선형 불편 추정량) 증명 • 양정치성·오차분산 추정: $C C'$ 꼴 행렬의 준양정치·양정치 성질을 통해 추가 분산항의 비음불가성 제시, 오차분산 $\sigma^2$를 잔차제곱합과 자유도 $n-k$로 추정하는 불편 추정량 구조와 “계수 추정에 사용된 자유도 소모” 개념 연결 |
||
|
[35강] 행렬을 이용한 최소제곱 추정량의 분포 (2)
|
1:
00:
33
|
|
|
행렬 최소제곱에서 잔차·오차분산·자유도와 A,N,M 행렬 정리
• 잔차·오차·자유도: 잔차 $e=y-X\hat{\beta}$와 오차 $\varepsilon$의 분산 구조를 멱등행렬·trace 성질로 정리하고, $E(e'e)=(n-k)\sigma^2$로부터 잔차제곱합의 자유도 $n-k$와 오차분산 불편추정량 $\hat{\sigma}^2=e'e/(n-k)$ 도출 • 멱등행렬 M과 잔차분산: hat 행렬 $H=X(X'X)^{-1}X'$와 $M=I-H$의 대칭·멱등 성질을 이용해 $\operatorname{Var}(e)=\sigma^2 M$, $\operatorname{tr}(M)=n-k$를 보이고, 설명변수 추정에 사용된 자유도 $k$와 잔차 정보량 $n-k$의 관계를 구조적으로 설명 • A, N, M 행렬과 직교 분해: A행렬 $(X'X)^{-1}X'$(회귀계수 생성), N행렬 $X(X'X)^{-1}X'$(예측치 생성), M행렬 $I-N$(잔차 생성)을 정의하고 $Ay=\hat{\beta}$, $Ny=\hat{y}$, $My=e$, $Ae=Ne=0$, $AX=I_k$, $NX=X$, $MX=0$, $X'e=0$을 통해 예측치·잔차·설명변수 공간의 사영·직교성과 정보 소진 구조를 정리 |
||
|
[36강] 행렬을 이용한 최소제곱 추정량의 분포 (3)
|
0:
43:
41
|
|
|
회귀분석에서 직교성과 정사형, 결정계수의 행렬 표현 요약
• 정규방정식과 직교성: 정규방정식 $X'X\beta = X'Y$ 로부터 $X'\varepsilon = 0$ 을 도출하고, 설명변수 벡터와 오차벡터(예측치와 잔차)의 직교성을 내적·부분공간 관점에서 해석 • 프로젝션 매트릭스와 정사형: 예측치 $\hat{Y}=NY$, 잔차 $e=MY$ 에서 $N=X(X'X)^{-1}X'$, $M=I-N$ 의 정의·대칭성·멱등성을 통해 $\hat{Y}$ 를 $Y$ 의 $X$-공간으로의 직교정사형, 조건부기대값 추정으로 해석 • 변동 분해와 결정계수: 평균제거 행렬 $R=I-\frac{1}{n}11'$ 및 $N,M$ 을 이용해 $TSS, RSS, SSE$ 의 행렬표현과 $TSS=RSS+SSE$, $R^2 = RSS/TSS = 1 - SSE/TSS$ 의 기하·대수적 분해 관계를 정식화 |
||
|
[37강] 행렬을 이용한 최소제곱 추정량의 분포 (4)
|
0:
41:
27
|
|
|
TSS, RSS, SSE의 행렬표현과 R행렬, R²·조정 R² 정리
• 센터링 행렬 R과 TSS 표현: R 행렬 $R = I_n - \frac{1}{n}\mathbf{1}\mathbf{1}'$ 의 대칭·멱등성과 평균제거(센터링) 성질을 이용해 총제곱합 $TSS = \mathbf{y}'R\mathbf{y}$ 를 정의하고 해석함 • TSS = RSS + SSE 구조와 R² 정의: $\mathbf{y} = \hat{\mathbf{y}} + \mathbf{e}$ 분해, $X'\mathbf{e}=0$, $R\mathbf{e}=\mathbf{e}$ 를 사용해 $TSS = RSS + SSE$ 를 행렬로 증명하고, $R^2 = RSS/TSS = 1 - SSE/TSS$ 로 결정계수를 정의·해석함 • 조정 R²와 자유도 보정: $R^2_{adj} = 1 - \dfrac{SSE/(n-k)}{TSS/(n-1)} = 1 - \dfrac{n-1}{n-k}(1-R^2)$ 로 조정 R²를 정의하고, 자유도 $n-1$, $n-k$ 기반 보정으로 설명변수 개수 증가에 따른 R²의 기계적 증가를 패널티로 조정하는 원리를 정리함 |
||
|
[38강] 다중공선성 문제
|
0:
52:
06
|
|
|
다중공선성과 X'X 행렬의 역행렬, VIF와 능형회귀 요약
• 다중공선성 및 역행렬 존재 조건: 설명변수 행렬 X 열벡터의 선형독립·선형종속과 |X|, |X'X|의 관계를 통해 정규방정식 해의 존재 조건, 완전/불완전 다중공선성과 회귀계수 분산 폭증 원리 정리 • 다중공선성 진단 및 해결법: 분산팽창지수(VIF) 정의·계산·판단 기준(>10)과 계수분산 팽창 효과를 정리하고, 문제 변수의 제거·대체 전략을 통해 정보 손실 최소화와 모형 안정화 방안 제시 • 능형회귀 및 행렬·기하학적 해석: 능형회귀 추정량 (X'X+λI)⁻¹X'Y의 편향–분산 절충, 다중공선성 하 강건성 향상 특성과 함께 행렬 형태 최소제곱 해, 예측치의 직교투영·오차벡터 직교성 및 OLS BLUE 성질의 기하학적 의미 정리 |
||
| 7장. 행렬을 이용한 다중회귀분석 : 가설검정 | ||
|
[39강] 행렬을 이용한 다중회귀분석 (1)
|
0:
51:
32
|
|
|
행렬을 이용한 다중회귀 가설검정과 F분포 도출 핵심 정리
• 정규분포·카이제곱·F분포 구조: 표준정규벡터의 2차형식이 카이제곱분포를 이루고, 모분산과 잔차분산 추정량이 각각 카이제곱형 통계량을 형성하여 그 비율로 F분포가 도출됨 • 회귀계수 벡터와 행렬형 F검정: OLS 추정량 $\hat\beta\sim N(\beta,\sigma^2(X'X)^{-1})$을 사용해 $(\hat\beta-\beta)'(X'X)(\hat\beta-\beta)$ 꼴의 카이제곱형 통계량과 잔차분산 추정량 $s^2$를 결합하여 자유도가 명시된 일반적 행렬형 F검정통계량을 구성함 • 선형제약 행렬 H와 가설 표현: 단일·다중 계수 제약, 계수의 선형결합, 구조변화 가설 등을 모두 $H\beta=\beta_0$ 형태의 선형제약 행렬로 표현하여 여러 선형가설을 하나의 F검정통계량으로 동시에 검정함 |
||
|
[40강] 행렬을 이용한 다중회귀분석 (2)
|
0:
56:
36
|
|
|
선형제약에 대한 F분포 기반 회귀모형 가설검정 요약
• 선형제약 구조와 분포: 회귀계수 추정량 β̂의 다변량 정규분포 전제하에 선형제약 Hβ = β₀, Hβ̂의 분포, 카이제곱형식 통계량과 자유도 m(제약 개수)의 의미 정리 • F통계량 도출과 자유도: σ²를 잔차기반 추정량 S²로 치환하여 카이제곱 통계량을 F통계량으로 변환하고, 분자 자유도 m·분모 자유도 n−k 구조, 개별 계수에서 F = t² 관계 및 모형 전체·부분 유의성 F검정과의 등가성 정리 • H행렬 기반 제약 검정 설계: 개별 계수, 일부 계수 묶음, 모형 전체 계수, 일반 선형결합(β₂+β₃=1, β₄−β₅=0 등)에 대해 H행렬과 β₀ 벡터를 구성하고, 통일된 행렬식 F검정 절차로 다양한 선형제약 가설검정을 수행하는 방법 정리 |
||
|
[41강] 행렬을 이용한 다중회귀분석 (3)
|
1:
21:
47
|
|
|
F분포를 이용한 구조변화·비선형 가설검정 핵심 정리
• 구조변화 검정: 두 구간 회귀모형 결합, 블록대각 설계행렬 X와 제약행렬 H=[I_k -I_k] 구성, F통계량 F~F(k, n-2k)로 계수벡터 동질성(β=γ) 검정 • 비선형 제약 검정: 제약식 f(β)=θ를 1차 테일러 전개로 선형근사, 제약함수의 야코비언(편미분 행렬)을 H(m×k)로 사용하여 F~F(m, n-k) 분포 기반 검정 수행 • 일반화된 F검정 구조: (Hβ̂-θ_0)'[s²H(X'X)^{-1}H']^{-1}(Hβ̂-θ_0)/m 형태로 단일계수, 결합선형제약, 구조변화, 비선형제약 등 회귀모형 가설을 통합적으로 검정 |
||
| 회귀분석 보강 | ||
|
[42강] 회귀분석 엑셀 실습 특강 (1)
|
1:
10:
20
|
|
|
엑셀을 이용한 단순 회귀분석 추정과 검정 실습 정리
• 단순 회귀모형과 엑셀 구현: 단순선형회귀식 설정, OLS 추정 개념, RSS·SSE·TSS·MSE·R²·F통계량 구조와 자유도·분산 추정 원리를 엑셀 기본 함수로 계산하는 절차 정리 • 엑셀 회귀 함수·도구 활용: INTERCEPT·SLOPE로 계수 추정, LINEST로 계수·표준오차·R²·F·RSS·SSE 일괄 계산, 데이터 분석 도구로 ANOVA·계수표·잔차와 p-value·신뢰구간을 포함한 회귀 결과표 생성 • 회귀 통계량 직접 계산: 평균·편차·제곱합 기반으로 $\hat\alpha,\hat\beta,se(\hat\alpha),se(\hat\beta),t통계량, p\text{-}value$, RSS·SSE·TSS·MSE·R²·F를 SUM·AVERAGE·SQRT·TDIST·FDIST·COUNT로 구현하고, 세 방법(함수·데이터 분석·수식)의 결과 일치성 확인 |
||
|
[43강] 회귀분석 엑셀 실습 특강 (2)
|
0:
47:
29
|
|
|
엑셀을 이용한 다중회귀분석 실습 핵심 정리
• 다중회귀모형과 엑셀 구현: 다중회귀식 구조(절편+여러 설명변수)와 LINEST·데이터 분석 도구·행렬식 $Y=X\beta+\varepsilon$ 및 OLS 추정량 $\hat\beta=(X'X)^{-1}X'Y$의 관계 정리 • 엑셀 추정 방식별 절차: LINEST 함수와 데이터 분석 도구의 입력 범위·옵션 설정, 자동/비자동 갱신 특성 비교, 2변수 공식·행렬 연산(MMULT, MINVERSE 등)을 활용한 계수·SSE·MSE·TSS·RSS·$R^2$·F·t·p 계산 구조 정리 • 행렬 기반 통계량 산출 원리: 잔차 벡터와 SSE·MSE에서 시작해 $(X'X)^{-1}$로 분산·공분산 행렬 도출, 계수 표준오차·t통계량·p-value(TDIST, FDIST) 계산 및 각 방법 간 결과 일치와 활용 전략 비교 |
||
|
[44강] 회귀분석 Excel 실습 파일
|
0:
00:
00
|
|
|
파일을 다운받아 이용하시면 됩니다.
|
||
| 정오표 | ||
|
[45강] 강의정오표
|
0:
00:
00
|
|
|
교재만 있습니다.
|
||
김재현 교수님
회귀분석
