Chương 4: Mô hình hồi qui bội

Chương 4
Mô hình hồi qui bội
1. Mô hình :
Mô hình hồi qui tuyến tính k biến (PRF) :
E(Y/X
2i
,…,X
ki
) = β
1
+ β
2
X
2i
+…+ β
k
X
ki
Y
i
= β
1
+ β
2
X
2i
+ …+ β
k
X
ki

+ U
i
Trong đó :
Y - biến phụ thuộc
X
2
,…,X
k
- các biến độc lập

β
1
là hệ số tự do
β
j
là các hệ số hồi qui riêng, cho biết
khi X
j
tăng 1 đvị thì trung bình của Y sẽ
thay đổi β
j
đvị trong trường hợp các
yếu tố khác không đổi (j=2,…,k).
Khi k = 3 thì ta có mô hình hồi qui tuyến
tính ba biến :
E(Y/X
2
, X
3
) = β

1
+ β
2
X
2
+ β
3
X
3
(PRF)
Y
i
= β
1
+ β
2
X
2i
+ β
3
X
3i
+ U
i

2. Các giả thiết của mô hình
•
Giả thiết 1: Các biến độc lập phi ngẫu
nhiên, giá trị được xác định trước.
•

Giả thiết 2 : E(U
i
/X
i
) = 0 ∀i
•
Giả thiết 3 : Var(U
i
/X
i
) =σ
2
∀i
•
Giả thiết 4 : Cov(U
i
, U
j
) = 0 i ≠j
•
Giả thiết 5 : Cov(X
i
, U
i
) = 0 ∀i
•
Giả thiết 6 : U
i
~ N (0, σ
2

) ∀i
•
Giả thiết 7 : Không có hiện tượng cộng
tuyến giữa các biến độc lập.

3. Ước lượng các tham số
a. Mô hình hồi qui ba biến :
Y
i
= β
1
+ β
2
X
2i
+ β
3
X
3i
+ U
i
(PRF)
Hàm hồi qui mẫu :
ii33i221iii
eX
ˆ
X
ˆˆ
eY
ˆ

Y +++=+=
βββ
j
ˆ
β
min
2
→=
∑
i
ef
Giả sử có một mẫu gồm n quan sát các giá
trị (Y
i
, X
2i
, X
3i
). Theo phương pháp OLS,
(j= 1,2,3) phải thoả mãn :

Tức là :
i33i221ii
X
ˆ
X
ˆˆ
Ye
βββ
−−−=








=−−−−
=−−−−
=−−−−











=
∂
∂
⇔=
∂
∂
=
∂
∂

∑
∑
∑
0))(
ˆˆˆ
(2
0))(
ˆˆˆ
(2
0)1)(
ˆˆˆ
(2
0
ˆ
0
ˆ
0
ˆ
333221
233221
33221
3
2
1
iiii
iiii
iii
XXXY
XXXY
XXY

f
f
f
βββ
βββ
βββ
β
β
β
Do

Giải hệ ta có :
33221
3
2
ˆˆˆ
ˆ
ˆ
XXY
βββ
β
β
−−=
−
−
=
−
−
=
∑ ∑ ∑

∑ ∑ ∑ ∑
∑ ∑ ∑
∑ ∑ ∑ ∑
2
3i2i
2
3i
2
2i
i2i3i2i
2
2ii3i
2
3i2i
2
3i
2
2i
i3i3i2i
2
3ii2i
)xx(xx
yxxxxyx
)xx(xx
yxxxxyx

* Phương sai của các hệ số ước lượng
( )
2
3

2
2
2
2
32
1
)
ˆ
(Var
)
ˆ
(Var
XX
n
1
)
ˆ
(Var
σβ
σβ
σβ
×
−
=
×
−
=
×









−
−
+=
∑ ∑ ∑
∑
∑ ∑ ∑
∑
∑ ∑ ∑
∑
2
3i2i
2
3i
2
2i
2
2i
2
3i2i
2
3i
2
2i
2

3i
2
3i2i
2
3i
2
2i
2i3i
)xx(xx
x
)xx(xx
x
)xx(xx
xx

Trong đó : σ
2
= Var(U
i
)
σ
2
chưa biết nên dùng ước lượng của nó là :
3n
e
ˆ
2
i
2
−

=
∑
σ
Với :
i3i2
2
i
2
i
ˆˆ
yESSTSSe yxyx
3i2i
∑∑∑∑
−−=−=
ββ

b. Mô hình hồi qui tuyến tính k biến
Y
i
= β
1
+ β
2
X
2i
+ …+ β
k
X
ki
+

U
i
(PRF)
Hàm hồi qui mẫu :
Theo phương pháp OLS, (j= 1,2,…,k)
phải thoả mãn :
ikiki221iii
eX
ˆ
...X
ˆˆ
eY
ˆ
Y ++++=+=
βββ
j
ˆ
β
∑
→= min
2
i
ef

Tức là :
⇔










=
∂
∂
=
∂
∂
0
ˆ
0
ˆ
1
k
f
f
β
β









=−−−−−
=−−−−−
∑
∑
0)X)(X
ˆ
...X
ˆˆ
Y(2
0)1)(X
ˆ
...X
ˆˆ
Y(2
kikiki221i
kiki221i
βββ
βββ

Viết hệ dưới dạng ma trận :
( )
YX
ˆ
XX
TT
=
β
( ) ( )
YXXX
ˆ

T
1
T
−
=⇒
β