Tài liệu Slide bài giảng Kinh tế lượng pdf

01/16/14 1
tham số giải thích của mô hình
biến nội suy
biến ngoại suy
biến ngẫu nhiên
E(ε)
Var(ε)
tham số ẩn
của mô hình
ikikiii
xxxy
εββββ
+++++=
ˆ

ˆˆˆ
33221
mô hình hồi quy tuyến tính bội
01/16/14 2
Mô hình hồi qui tổng thể
Mô hình hồi qui mẫu
Theo dạng thông thường
Theo dạng ma trận
Dạng kỳ vọng
Dạng ngẫu nhiên
Mô hình hồi qui bội

Thế nào là mô hình hồi qui bội?
Mô hình hồi qui bội là mô hình trong
đó biến phụ thuộc phụ thuộc vào ít
nhất hai biến giải thích.


Dạng mô hình
01/16/14 3
mô hình hồi quy tuyến tính bội
Dạng biểu thức đầu tiên của mô hình :
y : biến mà giá trị quan sát là y
t
∀i, i = 1, ,n,
x
ki
: biến mà giá trị quan sát là x
it
β
1
, β
2
, . . .,β
κ
là những
tham số chưa biết
tham số chưa biết
ε
i
: sai số
Mục tiêu : ước lượng những tham số
Mục tiêu : ước lượng những tham số β
1
, β
2
, . . .,β

κ
với i = 1, ,n
ikikiii
xxxy
εββββ
+++++=
ˆ

ˆˆˆ
33221
01/16/14 4
n,1iXX)XY(E
kiki221i
=∀β++β+β=

Hay
n,1i uXXY
ikiki221i
=∀+β++β+β=

Hay được biểu diễn một cách tường minh như sau







+β++β+β=
+β++β+β=

+β++β+β=
nknkn221n
22kk22212
11kk21211
uXXY
uXXY
uXXY




Giả sử ta có n quan sát và mỗi quan sát gồm k trị số (Y
i
,X
2i
X
ki
)
Mô hình hồi qui tổng thể theo dạng thông
thường
niXXXYE
kikii
,1)(
221
=∀+++=
βββ

niXXY
ikikii
,1

221
=∀++++=
εβββ








++++=
++++=
++++=
nknknn
kk
kk
XXY
XXY
XXY
εβββ
εβββ
εβββ




221
2222212
1121211

01/16/14 5
Ví dụ :
Investment = β
1
+ β
2
.

GNP + β
3
. CPI + β
4
Rate+ ε

01/16/14 6
mô hình hồi quy tuyến tính bội
Dạng biểu thức thứ hai của mô hình :
Biểu thức ma trận





















=





















=




















=





















=
n
i
k
i
knnn
kiii
k
k
n
i
xxx
xxx
xxx
xxx
X
y
y

y
y
Y
ε
ε
ε
ε
ε
β
β
β
β
β


;


;
1

1

1
1
;


2
1

2
1
32
32
23222
13121
2
1
( ) ( ) ( ) ( )
1,1,,1, nkkn
X
n
Y
εβ
+=
01/16/14 7
Ví dụ :
Y =
X =
β =
β
1
β
2
β
3
β
4
1
1

1
1
1
1
1
1
1
1
1
1
1
1
1
01/16/14 8
!
!
Có thể nói những vec tơ và ma trận của mô hình là
những biến.
Về nguyên tắc chung, X
pt
= 1, ∀t, t=1, ,T. biến X
k
là hằng số.
ước lượng tham số
ước lượng tham số
β
β
1
1
,

,
β
β
2
2
,…
,…
β
β
k
k
có thể được thực hiện bằng phương pháp BPBN
có thể được thực hiện bằng phương pháp BPBN
Mô hình hồi quy tuyến tính bội
01/16/14 9
Nguyên tắc hình học của phương pháp bình phương tối thiểu
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x

2i
Sum e
2
Nhỏ nhất
Nhỏ nhất
có thể
có thể
PYTHAGORE
PYTHAGORE
Mô hình hồi quy tuyến tính bội
01/16/14 10
giả thiết của mô hình
[H1] : X
1
,…X
k
là những biến được đo chính xác, có nghiã là quan sát không sai số.
[H2] : ∀t, t=1, ,T, ε
τ
là một biến ngẫu nhiên là kỳ vọng toán học E(ε) = 0 và
phương sai Var(ε) = σ
2
(ε)
[H3] : ∀i, ∀i ’, i¹i ’, ε
ι
và ε
ι’
là những biến ngẫu nhiên độc lập về xác suất
[H4] : ∀i, ε
ι

tuân theo quy luật phân phối chuẩn, Sai số tuân theo N(0, σ
2
)
[H6] : đầu tiên ta không có tý thông tin nào về những tham số β
1
, β
2
,…, β
κ

Mô hình hồi quy tuyến tính bội
[H5]1/n(X’X)->M ở đây M là ma trận không suy biến
01/16/14 11
STT Theo dạng thông thường Theo dạng ma trận
1
E(ε)=0 ∀I E(ε) = 0
2
E(ε
i
ε
j
) = 0 ∀i ≠j
= σ
2
∀i=j
E(εε
T
) = σ
2
I

3 X
1
,X
2
X
k
không ngẫu
nhiên
Ma trận X không ngẫu
nhiên
4 Không có hiện tượng đa
cộng tuyến
Không có đa cộng tuyến,
tức hạng của ma trận X
bằng khác nhau
5
ε
i
~ N(0,σ
2
) ε ~ N(0,σ
2
I)
Các giả thiết cho mô hình hồi
qui tuyến tính cổ điển
01/16/14 12
Giả thiết 1
0
0
0

0
)(

)(
)(

)(
2
1
2
1
=












=













=












=


nn
E
E
E
EE
ε
ε

ε
ε
ε
ε
ε
01/16/14 13
Giả thiết 2
[ ]














=













=
2
21
2
2
221
121
2
1
21
2
1
'




)

()(
nnn
n
n
n
n

EuuuEE
εεεεε
εεεεε
εεεεε
ε
ε
ε
εε

















=
)()()(

)()()(
)()()(

)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε




IE
22
2
2
2

'
100
010
001
00
00
00
)(
σσ
σ
σ
σ
εε
=












=















=








01/16/14 14
Hiệp
phương
sai
Phương
sai
Giả thiết 2















=
)()()(

)()()(
)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE

EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε




01/16/14 15














=
)()()(

)()()(

)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε




01/16/14 16
Phương sai
của các sai sô
Hiệp phương

sai của các sai
số
Ma trận hiệp phương sai của sai số
I
VarCovCov
CovVarCov
CovCovVar
nnn
n
n
2
2
21
2
2
221
121
2
1
)()()(

)()()(
)()()(
εε
σ
εεεεε
εεεεε
εεεεε
=















=Ω




01/16/14 17
Hậu quả của những giả thiết
Vecteur kỳ vọng
toán hoặc trung bình
Vecteur ngẫu nhiên ε là một vecteur tuân theo phân phối chuẩn, và :
ma trận
hiệp phương sai
Y laì một vecteur ngẫu nhiên tuân theo
quy luật phân phối chuẩn, và :
( )
β
XYE

=
Mô hình hồi quy tuyến tính bội
I
Y
2
ε
σ
=Ω
01/16/14 18
ước lượng những tham số
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x
2i
ε
i
Phương pháp bình phương tối thiểu
Phương pháp bình phương tối thiểu
Tìm giá trị những tham số

để có S nhỏ nhất:
( ) ( )
MinSXYXYMineMineeMin
n
t
t
=−−==
∑
=
ββ
'
1
2
'
Mô hình hồi quy tuyến tính bội
01/16/14 19
ước lượng những tham số - 2
Kết quả của phương pháp bình phương tối thiểu
Kết quả của phương pháp bình phương tối thiểu
Ước lượng bằng phương pháp bình phương tối thiểu :
Người ta chứng minh :
có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator)
là một đó là ước lượng hội tụ của β
nhưng
nhưng
σ
σ
2
2
(

(
ε
ε
) là chưa biết
) là chưa biết
( )
YXXX ''
ˆ
1
−
=⇒
β
( )
12
ˆ
'
−
=Ω
XX
ε
β
σ
Mô hình hồi quy tuyến tính bội
01/16/14 20
Ví dụ :
Model fitting results for: EXECO.Investment

Independent variable coefficient std. error t-value sig.level

CONSTANT 357.188693 42.733747 8.3585 0.0000

EXECO.GNP 0.689021 0.064034 10.7602 0.0000
EXECO.CPI -9.548226 1.137803 -8.3918 0.0000
EXECO.Rate -4.211399 2.296132 -1.8341 0.0938

R-SQ. (ADJ.) = 0.9908 SE= 11.289098 MAE= 8.200200 DurbWat= 1.917
ước lượng những tham số
Mô hình hồi quy tuyến tính bội
01/16/14 21
ước lượng những tham số - 3
ước lượng
ước lượng
σ
σ
2
2
(
(
ε
ε
)
)
Từ ước lượng a, ta có thể tính được ước lượng Y :
Sai số có thể được ước lượng bởi :
Từ đó có thể ước lượng được:
aXY
ˆ
ˆ
=
( )
( )

ε
''
1
XXXXIe
−
−=
ββ
XeXYYe
−+=−=
ˆ
( ) ( )
ineeE
i
n
i
−=








∑
=
'
2
2
1

σ
( )
( )
eXXXXIee
i
n
i
'''
1
2
1
−
=
−=
∑
( )
2
1
2
1
ˆ
i
n
i
e
kn
∑
=
−
=

εσ
Mô hình hồi quy tuyến tính bội
01/16/14 22
ước lượng những tham số - 4
ước lượng có thể bởi ước lượng σ2(ε) và bởi công thức


ước lượng không chệch của ma trận hiệp phương sai
ước lượng không chệch của ma trận hiệp phương sai
( )( )
1
2
ˆ
'
−
=Ω
XX
εσ
β
β
ˆ
ˆ
Ω
læåüng Æåïc
( )
12
ˆ
'
ˆ
ˆ

−
=Ω
XX
ε
β
σ
Mô hình hồi quy tuyến tính bội
01/16/14 23
ước lượng những tham số - 5
Quy luật phân phối xác suất
Quy luật phân phối xác suất
Theo giả thiết [H4], ta có :
Neu
Ơí đây Mii là thành phần ở vị trí thứ I ở đường chéo chính của ma trận





















=
k
i
β
β
β
β
β


2
1
i
i
t
i
β
β
σ
ββ
*
ˆ
ˆ
ˆ
=
−

Mô hình hồi quy tuyến tính bội
( )
i
ii
N
β
σββ
ˆ
,~
ˆ
( )
i
ii
N
β
ββ
ˆ
,~
ˆ
Ω
ii
M
i
2
ˆ
ε
β
σσ
=
i

β
ˆ
Ω
01/16/14 24
ước lượng những tham số - 6
Luật phân phối đã biết Tính Khoảng tin cậy
Khoảng tin cậy đối với β
i
Khoảng tin cậy đối với σ
2
(ε)
Mô hình hồi quy tuyến tính bội
[ ]
ii
tt
ii
β
α
β
α
σβσβ
ˆ
2/
ˆ
2/
ˆ
*
ˆ
;
ˆ

*
ˆ
+−
( ) ( )






−−
εε
σ
χ
σ
χ
ˆ
;
ˆ
2
1
2
2
knkn
01/16/14 25
Ví dụ :
95 percent confidence intervals for coefficient estimates

Estimate Standard error Lower Limit Upper Limit
CONSTANT 357.189 42.7337 263.108 451.270

EXECO.GNP 0.68902 0.06403 0.54805 0.83000
EXECO.CPI -9.54823 1.13780 -12.0532 -7.04328
EXECO.Rate -4.21140 2.29613 -9.26648 0.84368

Mô hình hồi quy tuyến tính bội