Chương 2:
ƯỚC LƯỢNG VÀ KIỂM ĐỊNH GIẢ THUYẾT
TRONG MƠ HÌNH HỒI QUY ĐƠN
1. Phương pháp bình phương nhỏ nhất (Ordinary Least Square - OLS)
E ( Y / X i ) = β1 + β 2 X i
PRF:
PRM:
SRF:
Yi = β 1 + β 2 X i + U i
Yˆi = βˆ1 + βˆ 2 X i
SRM:
Yi = βˆ1 + βˆ 2 X i + ei
βˆ1 = Y − βˆ 2 X
2. Độ chính xác của ước lượng bình phương nhỏ nhất
3. Hệ số r2 đo độ phù hợp của hàm hồi qui mẫu
TSS = ESS + RSS
TSS =
RSS =
( n − 1) * ( SD(Y )) 2
( n − 2) * σˆ 2
Hệ số xác định r2
r2 =
ESS
RSS
= 1−
TSS
TSS
4. Khoảng tin cậy và kiểm định giả thuyết
4.1. Khoảng tin cậy của hệ số
βj
- Khoảng tin cậy hai phía (đối xứng):
βˆ j − Se( βˆ j )tα( n/−22 ) ≤ β j ≤ βˆ j + Se( βˆ j )tα( n/−22 )
-
Khoảng tin cậy bên trái:
β j ≤ βˆ j + Se( βˆ j )tα( n − 2 )
-
Khoảng tin cậy bên phải:
β j ≥ βˆ j − Se( βˆ j )tα( n −2 )
4.2. Kiểm định giả thiết đối với
βj
* Trường hợp 1:
H 0 : β j = β *j
H 1 : β j ≠ β *j
- Tiêu chuẩn kiểm định:
- Miền bác bỏ:
t qs =
j
{
Wα = t : t > tα( n/−22 )
βˆ j − β *j
Se( βˆ )
j
- Tính
βˆ j − β *j
T=
Se( βˆ )
; tìm
∼ T(n-2)
}
tα( n/−22 )
- Kết luận:
+ Nếu
+ Nếu
t qs > tα( n/−22 ) ⇒ t qs ∈ Wα ⇒
t qs ≤ tα( n/−22) ⇒ t qs ∉ Wα ⇒
* Trường hợp 2:
H 0 : β j ≤ β *j
H 1 : β j > β *j
bác bỏ giả thuyết H0, chấp nhận giả thuyết H1
chưa có cơ sở bác bỏ giả thuyết H0
- Tiêu chuẩn kiểm định:
- Miền bác bỏ:
- Tính
βˆ j − β *j
T=
Se( βˆ )
j
{
Wα = t : t > tα( n −2)
βˆ j − β *j
t qs =
Se( βˆ )
j
; tìm
∼ T(n-2)
}
tα( n − 2 )
- Kết luận:
+ Nếu
+ Nếu
t qs > tα( n − 2 ) ⇒ t qs ∈ Wα ⇒
t qs ≤ tα( n − 2 ) ⇒ t qs ∉ Wα ⇒
bác bỏ giả thuyết H0, chấp nhận giả thuyết H1
chưa có cơ sở bác bỏ giả thuyết H0
* Trường hợp 3:
H 0 : β j ≥ β *j
H 1 : β j < β *j
- Tiêu chuẩn kiểm định:
- Miền bác bỏ:
t qs =
j
{
Wα = t : t < −tα( n −2 )
βˆ j − β *j
Se( βˆ )
j
- Tính
βˆ j − β *j
T=
Se( βˆ )
; tìm
∼ T(n-2)
}
tα( n − 2 )
- Kết luận:
+ Nếu
t qs < −tα( n −2 ) ⇒ t qs ∈ Wα ⇒
bác bỏ giả thuyết H0, chấp nhận giả thuyết
H1
+ Nếu
t qs ≥ −tα( n −2 ) ⇒ t qs ∉ Wα ⇒
chưa có cơ sở bác bỏ giả thuyết H0
* Chú ý: Nếu ta đi kiểm định cặp giả thuyết mà
t qs =
như sau:
βˆ j
Se( βˆ j )
β *j = 0
thì giá trị tqs được xác định
, giá trị tqs này đã cho trên kết quả báo cáo.
4.3. Khoảng tin cậy đối với σ2
KTC hai phía:
RSS
RSS
≤σ2 ≤ 2
χ ( n − 2)
χ 1−α / 2 (n − 2)
2
α /2
-
KTC bên phải:
σ2 ≥
-
RSS
χ ( n − 2)
2
α
KTC bên trái:
σ2 ≤
( RSS
χ (n − 2)
2
1−α
4.4. Kiểm định giả thuyết đối với
σ2
* Trường hợp 1:
H 0 : σ 2 = σ 02
H 1 : σ 2 ≠ σ 02
(n − 2)σˆ 2
χ =
σ 02
2
- Tiêu chuẩn kiểm định:
- Miền bác bỏ:
χ qs2 =
- Tính
{
∼
Wα = χ 2 : χ 2 > χ α2 / 2 (n − 2)
(n − 2)σˆ 2
σ 02
; tìm
χ α2 / 2 ( n − 2)
χ 2 ( n − 2)
}
hoac χ 2 < χ 12−α / 2 (n − 2)
va χ 12−α / 2 (n − 2)
- Kết luận:
χ qs2 > χ α2 / 2 (n − 2)
+ Nếu
H0, chấp nhận giả thuyết H1
+ Nếu
thuyết H0
hoac χ qs2 < χ 12−α / 2 (n − 2) ⇒ χ qs2 ∈ Wα ⇒
χ 12−α / 2 (n − 2) ≤ χ qs2 ≤ χ α2 / 2 (n − 2) ⇒ χ qs2 ∉ Wα ⇒
bác bỏ giả thuyết
chưa có cơ sở bác bỏ giả
* Trường hợp 2:
H 0 : σ 2 ≤ σ 02
H 1 : σ 2 > σ 02
χ2 =
- Tiêu chuẩn kiểm định:
- Miền bác bỏ:
χ qs2 =
- Tính
(n − 2)σˆ 2
σ 02
{
∼
χ 2 ( n − 2)
}
Wα = χ 2 : χ 2 > χ α2 ( n − 2)
(n − 2)σˆ 2
σ 02
; tìm
χ α2 (n − 2)
- Kết luận:
+ Nếu
χ qs2 > χ α2 (n − 2) ⇒ χ qs2 ∈ Wα ⇒
bác bỏ giả thuyết H0, chấp nhận giả thuyết
H1
+ Nếu
χ qs2 ≤ χ α2 ( n − 2) ⇒ χ qs2 ∉ Wα ⇒
chưa có cơ sở bác giả thuyết H0
* Trường hợp 3:
H 0 : σ 2 ≥ σ 02
H 1 : σ 2 < σ 02
χ2 =
- Tiêu chuẩn kiểm định:
(n − 2)σˆ 2
σ 02
∼
χ 2 ( n − 2)
- Miền bác bỏ:
χ
2
qs
- Tính
{
}
Wα = χ 2 : χ 2 < χ12−α (n − 2)
(n − 2)σˆ 2
=
σ 02
; tìm
χ 12−α (n − 2)
- Kết luận:
+ Nếu
thuyết H1
+ Nếu
χ qs2 < χ 12−α (n − 2) ⇒ χ qs2 ∈ Wα ⇒
χ qs2 ≥ χ 12−α (n − 2) ⇒ χ qs2 ∉ Wα ⇒
bác bỏ giả thuyết H0, chấp nhận giả
chưa có cơ sở bác bỏ giả thuyết H0
5. Kiểm định sự phù hợp của hàm hồi qui
H0: r2 = 0 (hàm hồi qui là không phù hợp)
H1: r2 > 0 (hàm hồi qui là phù hợp)
- Để kiểm định cặp giả thuyết này ta dùng kiểm định F:
F=
r 2 /( n − k )
r 2 ( n − 2)
=
~ F(1, n - 2)
(1 - r 2 ) /( k − 1) (1 - r 2 )1
- Miền bác bỏ:
Fqs =
- Tính
r 2 ( n − 2)
1- r2
Wα = { F : F > Fα (1, n - 2 )}
; tìm
Fα (1, n - 2 )
- Kết luận:
Fqs > Fα (1, n - 2) ⇒ Fqs ∈ Wα ⇒
+ Nếu
bác bỏ giả thuyết H0, chấp nhận giả
thuyết H1, vậy với mức ý nghĩa αhàm hồi qui là phù hợp
Fqs ≤ Fα (1, n - 2 ) ⇒ Fqs ∉ Wα ⇒
+ Nếu
chưa có cơ sở bác bỏ giả thuyết H0 vậy
với mức ý nghĩa αhàm hồi qui là không phù hợp
6. Phân tích hồi qui và dự báo
6.1. Dự báo trung bình có điều kiện với X=X0
Yˆ0 − tα( n/−22) Se(Yˆ0 ) ≤ E (Y / X 0 ) ≤ Yˆ0 + tα( n/−22 ) Se(Yˆ0 )
Trong đó:
Yˆ0 = βˆ1 + βˆ 2 X 0
σˆ 2
Se(Yˆ0 ) =
X =
n
(
+ X0 − X
)
2
Var ( βˆ2 )
Y − βˆ1
βˆ
2
6.2. Dự báo giá trị cá biệt của Y với X = X0
Yˆ0 − tα( n/−22 ) Se(Y0 ) ≤ Y0 ≤ Yˆ0 + tα( n/−22 ) Se(Y0 )
Trong đó:
Se(Y0 ) =
σˆ 2 +
σˆ 2
n
(
+ X0 − X
)
2
Var ( βˆ2 )
Chương 3
MƠ HÌNH HỒI QUI BỘI
1. Hồi qui bội
E ( Y / X 2 ,..., X k ) = β1 + β 2 X 2i + .. + β k X ki
PRF:
PRM:
SRF:
Yi = E ( Y / X 2 ,..., X k ) + U i = β1 + β 2 X 2i + ... + β k X ki + U i
Yˆi = βˆ1 + βˆ 2 X 2i + ... + βˆ k X ki
SRM:
Yi = βˆ1 + βˆ 2 X 2i + ... + βˆ k X ki + ei
2. Ước lượng các tham số trong mô hình hồi qui bội
βˆ1 = Y − βˆ 2 X 2 − βˆ3 X 3
….
3. Hệ số xác định bội
3.1. Hệ số xác định bội R2
Ta có: TSS = ESS + RSS
Trong đó: TSS = (n-1)*(SD(Y))2
RSS = (n-k)*
σˆ 2
Hệ số xác định bộ được xác định như sau:
R2 =
ESS
RSS
= 1−
TSS
TSS
3.2. Hệ số xác định bội đã hiệu chỉnh
R2 = 1−
Ta có:
R2
σˆ 2
n −1
= 1 − (1 − R 2 )
2
n−k
( SD(Y ))
(
R2 = 1− 1− R 2
) nn −− k1
4. Khoảng tin cậy và kiểm định giả thuyết trong mơ hình hồi qui bội
4.1. Khoảng tin cậy của
βj
- Khoảng tin cậy hai phía (đối xứng):
βˆ j − Se( βˆ j )tα( n/−2k ) ≤ β j ≤ βˆ j + Se( βˆ j )tα( n/−2k )
-
Khoảng tin cậy bên trái:
β j ≤ βˆ j + Se( βˆ j )tα( n − k )
-
Khoảng tin cậy bên phải:
β j ≥ βˆ j − Se( βˆ j )tα( n −k )
βj
4.2. Kiểm định giả thuyết đối với
T=
Tiêu chuẩn kiểm định là:
Trường hợp
1
2
3
βˆ j - β *j
~ T (n -k)
ˆ
Se(β )
Giả thuyết H0
j
Giả thuyết đối H1
Miền bác bỏ
{
}
β j =β *j
β j ≠ β *j
Wα = t : t 〉 tα( n/−2k )
β j ≤ β j*
β j > β *j
Wα = { t : t 〉 tα( n − k ) }
β j ≥ β *j
β j < β *j
Wα = { t : t 〈 −tα( n −k ) }
4.3. Khoảng tin cậy đối với σ2
KTC hai phía:
-
RSS
RSS
≤σ2 ≤ 2
χ (n − k )
χ 1−α / 2 (n − k )
2
α /2
KTC bên phải:
-
σ2 ≥
RSS
χ (n − k )
2
α
KTC bên trái:
-
σ2 ≤
RSS
χ (n − k )
2
1−α
4.4. Kiểm định giả thuyết đối với
σ2
χ 2 = (n − k)
Tiêu chuẩn kiểm định:
Trường hợp
Giả thuyết H0
σˆ 2
~ χ 2(n − k)
2
σ0
Giả thuyết đối H1
Miền bác bỏ
1
σ 2 = σ 02
σ 2 ≠ σ 02
χ 2 : χ 2 > χ α2 / 2 ( n − k )
Wα =
2
2
hoac χ < χ 1−α / 2 ( n − k )
2
σ 2 ≤ σ 02
σ 2 〉 σ 02
Wα = χ 2 : χ 2 > χ α2 ( n − k )
3
σ 2 ≥ σ 02
σ 2 〈 σ 02
Wα = χ 2 : χ 2 < χ 12−α ( n − k )
5. Kiểm định sự phù hợp của hàm hồi qui
H0: R2 = 0 (hàm hồi qui là không phù hợp)
{
{
}
}
H1: R2 > 0 (hàm hồi qui là phù hợp)
- Tiêu chuẩn kiểm định:
F=
- Miền bác bỏ:
- Tính
R 2 (n − k )
~ F( k - 1, n - k )
(1 - R 2 )( k − 1)
Wα = { F : F > Fα ( k − 1, n - k )}
R 2 (n − k )
Fqs =
(1 - R 2 )( k − 1)
; tìm
Fα ( k − 1, n - k )
- Kết luận:
Fqs > Fα ( k − 1, n - k ) ⇒ Fqs ∈ Wα ⇒
+ Nếu
bác bỏ giả thuyết H0, chấp nhận giả
thuyết H1, vậy với mức ý nghĩa αhàm hồi qui là phù hợp
Fqs ≤ Fα ( k − 1, n - k ) ⇒ Fqs ∉ Wα ⇒
+ Nếu
chưa có cơ sở bác bỏ giả thuyết H0
vậy với mức ý nghĩa αhàm hồi qui là không phù hợp
Kiểm định sự thu hẹp của hàm hồi qui (kiểm định có điều kiện ràng
buộc).
Cho mơ hình hồi qui:
Yi = β1 + β2X2i + β3X3i + β4X4i + β5X5i + β6X6i + Ui
Vấn đề ta muốn loại 3 biến X3, X5, X6 khỏi mô hình ban đầu.
- ước lượng mơ hình gốc thu được RSS1, R12
- Ước lượng mơ hình: Yi = β1 + β2X2i+ β4X4i + Vi thu được RSS2, R22
- Kiểm định cặp giả thuyết sau:
H0: β3 = β5 = β6 =0
H1: tồn tại ít nhất 1 βj ≠ 0 (j= 3,5,6)
- Tiêu chuẩn kiểm định:
F=
( RSS 2 − RSS1 )( n − k ) ( R12 − R22 )( n − k )
=
~ F (m; n − k )
RSS1 * m
(1 − R12 )m
Trong đó m là số biến cần loại khỏi mơ hình (m=3), k là số biến của mơ hình
lớn (k=6).
-
Miền bác bỏ:
-
Kết luận
Nếu
Wα = { F : F > Fα (m; n − k )}
Fqs > Fα (m; n − k ) ⇒ Fqs ∈ Wα ⇒
Ngược lại, nếu
bác bỏ H0, chấp nhận H1
Fqs ≤ Fα (m; n − k ) ⇒ Fqs ∉ Wα ⇒
chưa có cơ sở bác bỏ H0