Chơng3:Mô hình hồi qui bội
1. Hồi qui bội
2.
Ước l ợng các tham số trong mô hình hồi qui
ba biến
3. Hệ số xác định trong mô hình hồi quy bội
4.
Khoảng tin cậy và kiểm định giả thuyết tro
ng mô hình hồi qui ba biến
5. Một số dạng của hàm hồi qui
6. Dự đoán với mô hình hồi qui bội
3.1. Håi qui béi
3.1.1. M« h×nh håi qui ba biÕn
3.1.2. C¸c gi¶ thiÕt cña m« h×nh
3.1.1. M« h×nh håi qui Ba biÕn
•
Hµm håi qui 3 biÕn cña tæng thÓ (PRF) cã d¹ng:
•
M« h×nh håi qui tæng thÓ ( PRM ) cã d¹ng:Ban cong
thuc TC.doc
( )
iiii
XXXXYE
3322132
,/
βββ
++=
( )
iiii
iiii
UXXY
UXXYEY
+++=
+=
33221
32
,/
βββ
3.1.2. Các giả thiết của mô hình
Giả thiết 1: Hàm hồi qui có dạng tuyến tính đối với
các tham số.
Giả thiết 2: Các biến giải thích là phi ngẫu nhiên.
Giả thiết 3: Kỳ vọng của các yếu tố ngẫu nhiên bằng
không. E(U
i
) = 0 với mọi i
Giả thiết 4: Ph ơng sai sai số ngẫu nhiên thuần nhất.
Var(U
i
) =
2
với mọi i
Giả thiết 5: Không có tự t ơng quan giữa các sai số
ngẫu nhiên. Cov(U
i
,U
j
) = 0 với mọi i j
3.1.2. Các giả thiết của mô hình
Giả thiết 6: U
i
không t ơng quan với các biến giải
thích. Cov(U
i
, X
2i
) = Cov(U
i
, X
3i
) = 0
Giả thiết 7: Dạng hàm đ ợc chỉ định đúng
Giả thiết 8: Các sai số ngẫu nhiên U
i
phân phối chuẩn
Giả thiết 9: Giữa các biến giải thích X
2
, X
3
không có
quan hệ phụ thuộc tuyến tính
Giả thiết 10: Số quan sát (n) lớn hơn số biến (k) trong
mô hình hồi qui.
3.2. ¦íc l îng c¸c tham sè trong m«
h×nh håi qui Ba biÕn
3.2.1. Ph ¬ng ph¸p b×nh ph ¬ng nhá nhÊt trong m«
h×nh håi qui béi
3.2.2. Ph ¬ng sai vµ ®é lÖch chuÈn cña c¸c íc l îng
b×nh ph ¬ng nhá nhÊt
3.2.3. C¸c tÝnh chÊt cña íc l îng b×nh ph ¬ng nhá
nhÊt
3.2.1. Ph ơng pháp bình ph ơng nhỏ nhất
trong mô hình hồi qui ba biến
Hàm hồi qui mẫu SRF đ ợc xây dựng từ mẫu gồm n
quan sát có dạng:
Mô hình hồi qui mẫu SRM
Trong đó e
i
là phần d ứng với quan sát thứ i:
Ph ơng pháp OLS ớc l ợng các hệ số hồi qui
sao cho:
iii
XXY
33221
++=
iiii
eXXY +++=
33221
iiiiii
XXYYYe
33221
==
MinXXYeRSS
n
i
iii
n
i
i
==
=
=
2
1
33221
1
2
)(
=++
=++
=++
∑∑∑∑
∑∑∑∑
====
====
n
i
ii
n
i
ii
n
i
i
n
i
i
n
i
ii
n
i
ii
n
i
i
n
i
i
XYXXXX
XYXXXX
YXX
1
3
1
2
333
1
22
1
31
1
2
1
323
1
2
22
1
21
33221
ˆˆˆ
ˆˆˆ
ˆˆˆ
βββ
βββ
βββ
YYy
ii
−=
222
XXx
ii
−=
333
XXx
ii
−=
§Æt:
( )
( )
( )( )
( )( )
( )
2
32
2
3
2
2
323
2
32
2
∑∑∑
∑∑∑∑
−
−
=
∧
iiii
iiiiiii
xxxx
xxxyxxy
β
( )
( )
( )( )
( )( )
( )
2
32
2
3
2
2
322
2
23
3
∑∑∑
∑∑∑∑
−
−
=
∧
iiii
iiiiiii
xxxx
xxxyxxy
β
33221
XXY
∧∧∧
−−=
βββ
ví dụ:
Cho số liệu về sản l ợng Y- nghìn sản phẩm, Vốn đầu t X
2
- triệu
đồng và lao động X
3
- ng ời. Giả sử mô hình có dạng tuyến tính.
SRF:
Ước l ợng các hệ số hồi quy bằng ph ơng pháp bình ph ơng nhỏ
nhất \gtrinh\gtktl bannop_test1.doc
iii
XXY
33221
++=
(
)
( ) ( )
( )
( )( )
( )
2
2
32
2
3
2
2
3232
2
2
2
3
2
3
2
2
1
2
1
)(
σβ
−
−+
+=
∑∑∑
∑∑∑
∧
iiii
iiii
xxxx
xxXXxXxX
n
Var
)
ˆ
()
ˆ
(
11
ββ
VarSD =
( )
( )( )
( )
( )
2
23
2
2
2
2
2
32
2
3
2
2
2
3
2
1
)
ˆ
(
rx
xxxx
x
Var
i
iiii
i
−
=
−
=
∑
∑∑∑
∑
σ
σβ
)
ˆ
()
ˆ
(
22
ββ
VarSD =
( )
2
23
2
3
2
3
1
)
ˆ
(
rx
Var
i
−
=
∑
σ
β
)
ˆ
()
ˆ
(
33
ββ
VarSD =
3.2.2. Ph ¬ng sai vµ ®é lÖch chuÈn cña c¸c íc
l îng b×nh ph ¬ng nhá nhÊt
Hệ số r
2
đ ợc xác định nh sau:
là ph ơng sai sai số ngẫu nhiên, trong thực tế ta ch a
có vì vậy sẽ sử dụng ớc l ợng không chệch của nó là:
33
2
2
=
=
n
RSS
n
e
i
( )
=
2
3
2
2
2
32
2
23
ii
ii
xx
xx
r
2
3.2.3. Các tính chất của ớc l ợng bình
ph ơng nhỏ nhất
xác định một cách duy nhất ứng với mỗi mẫu
gồm n quan sát.
là các ớc l ợng tuyến tính không chệch có ph
ơng sai nhỏ nhất trong lớp các ớc l ợng tuyến
tính không chệch của
( )
32
,, XXY
YY =
0=
i
e
0
32
==
iiii
XeXe
0=
ii
Ye
32
,
32
,
32
,
3.3. HÖ sè x¸c ®Þnh trong m« h×nh
håi quy béi
3.3.1. HÖ sè x¸c ®Þnh béi R
2
3.3.2. HÖ sè x¸c ®Þnh hiÖu chØnh
2
R
3.3.1. Hệ số xác định bội R
2
R
2
là hàm không giảm của số biến giải thích có trong
mô hình.
Không thể dùng R
2
làm tiêu chuẩn để xem xét việc đ a
thêm hay không đ a thêm một biến giải thích mới vào
trong mô hình
ý nghĩa của R
2
:
+
==
2
3322
2
i
iiii
y
xyxy
TSS
ESS
R
10
2
R
3.3.2. HÖ sè x¸c ®Þnh béi hiÖu chØnh
•
ý nghÜa
•
TÝnh chÊt
-
- cã thÓ ©m
2
R
( )
( )
( )
( )
( )
[ ]
( )
kn
n
R
YSD
ny
kne
nTSS
knRSS
R
i
i
−
−
−−=−=
−
−
−=
−
−
−=
∑
∑
1
11
ˆ
1
1/
/
1
1
1
2
2
2
2
2
2
σ
1
22
≤≤ RR
2
R
3.4. Khoảng tin cậy và kiểm định giả
thuyết trong mô hình hồi qui ba biến
3.4.1. Khoảng tin cậy và kiểm định T
3.4.2. Khoảng tin cậy và kiểm định giả thuyết
đối với ph ơng sai sai số ngẫu nhiên
2
3.4.3. Kiểm định sự phù hợp của hàm hồi qui
3.4.1. Khoảng tin cậy và kiểm định T đối
với các hệ số hồi qui ba biến
Chọn thống kê:
Khoảng tin cậy với độ tin cậy (1- ) của
đ ợc xác định nh sau:
( )
3n-T
Se
T
j
jj
~
=
( ) ( )
=+
=
2121
33
;0,
1
)
(
21
với
n
j
jj
n
t
Se
tP
j
( ) ( )
33
12
)
(
)
(
+
n
jjj
n
jj
tSetSe
1
=
2
= /2 ta có khoảng tin cậy đối xứng với độ tin
cậy (1- ) của là:
1
=0,
2
= ta có khoảng tin cậy phía phải với độ tin
cậy (1- ) của là:
1
= ,
2
= 0 ta có khoảng tin cậy phía trái với độ tin
cậy (1- ) của làgtktl bannop_test1.doc:
j
( ) ( )
+
3
2/
3
2/
)
()
(
n
jjj
n
jj
tSetSe
( )
j
n
jj
tSe
3
)
(
( )
+
3
)
(
n
jjj
tSe
j
( ) ( )
33
12
)
(
)
(
+
n
jjj
n
jj
tSetSe
j
KiÓm ®Þnh gi¶ thuyÕt ®èi víi
•
§Ó kiÓm ®Þnh gi¶ thuyÕt
ta chän tiªu chuÈn kiÓm ®Þnh:
•
Tuú theo gi¶ thuyÕt H
1
ta cã c¸c miÒn b¸c bá kh¸c
nhau.
j
β
*
:
jj
ββ
=
0
H
( )
3-nT~
*
−
=
∧
∧
j
jj
Se
T
β
ββ
KiÓm ®Þnh gi¶ thuyÕt ®èi víi
•
L u ý: Cã thÓ dïng kiÓm ®Þnh T kiÓm ®Þnh gi¶ thuyÕt
H
0
:
Tiªu chuÈn kiÓm ®Þnh:
•
Trong ®ã:
•
Tuú theo gi¶ thuyÕt H
1
ta cã c¸c miÒn b¸c bá kh¸c nhau.
j
β
cba
sj
=±
ββ
)(
~
)
ˆˆ
(
)
ˆˆ
(
kn
sj
sj
T
baSe
cba
T
−
±
−±
=
ββ
ββ
)
ˆ
,
ˆ
cov(2)
ˆ
var()
ˆ
var()
ˆˆ
(
22
sjsjsj
abbabaSe
ββββββ
±+=±
3.4.2. Khoảng tin cậy và kiểm định giả thuyết
đối với ph ơng sai sai số ngẫu nhiên
2
Khoảng tin cậy của
2
Chọn thống kê:
Khoảng tin cậy với độ tin cậy (1 ) của
2
đ ợc
xác định nh sau:
Với
1
,
2
0;
1
+
2
=
( )
( )
3
3
2
2
2
=
n
n
2
~
( )
( )
( )
( )
=
1
3
3
3
3
2
1
2
2
2
2
12
n
n
n
n
P
∀
α
1
= α
2
= α/2 ta cã kho¶ng tin cËy hai phÝa
∀
α
1
= 0, α
2
= α ta cã kho¶ng tin cËy phÝa ph¶i
∀
α
1
= α, α
2
= 0 ta cã kho¶ng tin cËy phÝa tr¸i
( )
( )
( )
( )
3
3
3
3
2
2/1
2
2
2
2/
2
−
−
≤≤
−
−
−
∧∧
n
n
n
n
αα
χ
σ
σ
χ
σ
( )
( )
2
2
2
3
3
σ
χ
σ
α
≤
−
−
∧
n
n
( )
( )
3
3
2
1
2
2
−
−
≤
−
∧
n
n
α
χ
σ
σ
•
KiÓm ®Þnh gi¶ thuyÕt ®èi víi σ
2
•
§Ó kiÓm ®Þnh gi¶ thuyÕt H
0
: σ
2
=
σ
0
2
ta chän tiªu
chuÈn kiÓm ®Þnh:
•
Tuú theo gi¶ thuyÕt H
1
ta cã c¸c miÒn b¸c bá kh¸c
nhau.
( )
( )
3
3
2
0
2
2
−
−
=
∧
n
n
2
~
χ
σ
σ
χ