3.1 Mô hình hồi quy 3 biến
CHƯƠNG 3
Mô hình hồi quy tổng thể PRF
E(Y / X 2 , X 3 ) 1 2 X 2 3 X 3
HỒI QUY ĐA BIẾN
Ý nghĩa: PRF cho biết trung bình có điều
kiện của Y với điều kiện đã biết các giá trị
cố định của biến X2 và X3.
Y:
biến phụ thuộc
X2 và X3:
biến độc lập
β1 :
hệ số tự do
β2 , β3 :
hệ số hồi quy riêng
4
1
4
3.1 Mô hình hồi quy 3 biến
Ý nghĩa hệ số hồi quy riêng: cho biết ảnh
hưởng của từng biến độc lập lên giá trị trung
bình của biến phụ thuộc khi các biến còn lại
được giữ không đổi.
HỒI QUY ĐA BIẾN
1. Biết được phương pháp ước
lượng bình phương nhỏ nhất để
ước lượng hàm hồi quy đa biến
tổng thể dựa trên số liệu mẫu
2. Hiểu các cách kiểm định những
giả thiết
MỤC
TIÊU
Mô hình hồi quy tổng thể ngẫu nhiên:
Yi 1 2 X 2 i 3 X 3i u i
ui: sai số ngẫu nhiên của tổng thể
2
2
5
5
NỘI DUNG
1
Mô hình hồi quy 3 biến
2
Mô hình hồi quy k biến
3
Dự báo
Các giả thiết của mô hình
1. Giá trị trung bình của Ui bằng 0
E(Ui /X2i, X3i)=0
2. Phương sai của các Ui là không đổi
Var(Ui)=σ2
3. Không có hiện tượng tự tương quan giữa các
Ui
Cov(Ui ,Uj )=0; i≠j
4. Không có hiện tượng cộng tuyến giữa X2 và X3
5.Ui có phân phối chuẩn: Ui ̴ N(0, σ2 )
5
3
3
6
6
1
3.1.1 Ước lượng các tham số
Lưu ý
∑yi2 = ∑Yi2 – nY̅i2
∑x2i2 = ∑X2i2 – nX̅22i
∑x3i2 = ∑X3i2 – nX̅23i
∑x2iyi = ∑X2iYi – nX̅2iY̅i
∑x3iyi = ∑X3iYi – nX̅3iY̅I
Hàm hồi quy mẫu:
Yˆi ˆ1 ˆ2 X 2 i ˆ3 X 3i
sai số của mẫu ứng với quan sát thứ i
ei Yi Yˆi
Sử dụng phương pháp bình phương
nhỏ nhất để ước lượng các tham số
ˆ1 , ˆ2 , ˆ3
∑x2ix 3i = ∑X2iX3i – nX̅2iX̅3i
7
7
10
10
3.1.1 Ước lượng các tham số
3.1.2 Phương sai của các ước lượng
Q e (Yi ˆ1 ˆ2 X 2i ˆ3 X 3i )2 min
2
i
dQ
2 (Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ) 0
dˆ1
2
2
2
2
1 X x3i X 3 x2i 2 X 2 X 3 x2i x3i 2
Var( ˆ1 ) ( 2
)
2
2
n
x2i x3i ( x2i x3i )2
Var ( ˆ 2 )
dQ
2 (Yi ˆ1 ˆ2 X 2 i ˆ3 X 3i )( X 2 i ) 0
dˆ
x
2
2i
x x
2
3i
2
3i
( x 2 i x3i ) 2
2
2
Var ( ˆ3 )
dQ
2 (Yi ˆ1 ˆ2 X 2 i ˆ3 X 3i )( X 3i ) 0
dˆ
x
2
2i
2
3i
x x
2
2i
( x2 i x3i ) 2
2
3
8
8
11
11
3.1.1 Ước lượng các tham số
ˆ 2
3.1.2 Phương sai của các ước lượng
y x x y x x
x x ( x x )
i
2
3i
2i
2
2i
i
2
3i
3i
2i
3i
2i
x 3i
2
σ2 là phương sai của ui chưa biết nên dùng ước
lượng không chệch:
yx
x22i yi x2i x2i x3i
ˆ3 i 3i
x22i x32i ( x2i x3i )2
ˆ
2
2
i
e
n 3
(1 R2 ) yi2
n 3
ˆ1 Y ˆ2 X 2i ˆ3 X 3i
xi X i X
yi Yi Y
9
9
12
12
2
3.1.5 Kiểm định giả thuyết
Hệ số xác định
Hệ số xác định
R2
R2
1. Kiểm định giả thiết H0: i i*
n
ESS
RSS
1
1
TSS
TSS
ei2
i 1
n
y
B1. Tính
2
i
i 1
ˆ
Mô hình hồi quy 3 biến R2 2
y x ˆ y x
y
Hệ số xác định hiệu chỉnh
Với k là tham số của mô hình, R
kể cả hệ số tự do
i 2i
i 3i
3
2
i
2
e
2
i
y i2
(n k )
ti
ˆi i*
SE ( ˆi )
B2. Nguyên tắc quyết định
Nếu |ti | > t(n-3,/2): bác bỏ H0
Nếu |ti | ≤ t(n-3,/2) : chấp nhận H0
( n 1)
13
13
16
16
3.1.5 Kiểm định giả thuyết
Hệ số xác định hiệu chỉnh
R 2 1 (1 R 2 )
n 1
nk
Dùng R2 để xét việc đưa thêm 1 biến vào mô
hình. Biến mới đưa vào mô hình phải thỏa 2
điều kiện:
- Làm R2 tăng
- Hệ số hồi quy biến mới thêm vào mô hình
khác 0 có ý nghĩa
14
14
2. Kiểm định giả thiết đồng thời bằng không:
H0: b2 = b3 = 0; hay H0: R2 =0
H1: ít nhất 1 tham số khác 0
Hay
H1 : R 2 0
B1. Tính
F
B2. Nguyên tắc quyết định
F > F(2, n-3): Bác bỏ H0: Mô hình phù hợp
F ≤ F(2, n-3): Chấp nhận H0: Mô hình không phù
hợp
17
17
3.1.4 Khoảng tin cậy
Bài tập
Với số liệu bài tập 4.1
1. Giả sử mối quan hệ giữa Y với X2 và X3 có thể biểu
diễn bằng hàm hồi quy tuyến tính. Hãy ước lượng
hàm này.
2. Kiểm định hệ số hồi quy của X2 và X3 trong hàm hồi
quy tổng thể bằng 0 với mức ý nghĩa 5% và cho biết
ý nghĩa của kết quả.
3. Để dự báo doanh thu ta nên dùng hàm nào trong
các hàm sau
3.1. Yi = α1 + α2X2i +Ui
3.2. Yi = β1 + β2X3i + UI
3.3. Yi = ϒ1 + ϒ2X2i + ϒ3X3i + Ui
4. Dự báo doanh thu trung bình (dự báo điểm) của một công ty
có chi phí quảng cáo là 23 triệu đồng và tiền lương của nhân
viên tiếp thị là 15 triệu đồng với hệ số tin cậy 95%.
Với mức ý nghĩa hay độ tin cậy 1-
i ( ˆ i i ; ˆ i i )
Với
i SE ( ˆ i ) t ( n 3 , / 2 )
18
15
15
R 2 (n 3)
(1 R 2 ) 2
18
3
Bài tập 4.2
Với số liệu bài tập 4.2.
1. Giả thiết E(Y/X1,X2) = β0 + β1X1i + β2X2i. Dùng số liệu
của mẫu trên để tìm hàm hồi quy mẫu
2. Tìm ước lượng phương sai của sai số ngẫu nhiên
3. Tìm khoảng tin cậy của các hệ số hồi quy với hệ số
tin cậy 95%.
4. Kiểm định giả thiết H0: β2 = 0; H0: β3 = 0.
5. Tìm R2 và Ṝ2
6. Phải chăng cả hai yếu tố “tỷ lệ lao động nông nghiệp”
và “số năm được đào tạo” đều không ảnh hưởng đến
thu nhập.
3.2.2 Khoảng tin cậy
Với mức ý nghĩa hay độ tin cậy 1-
i ( ˆi i ; ˆi i )
Với
i SE ( ˆi ).t( n k , / 2 )
19
19
22
22
3.2 Mô hình hồi quy k biến
Hệ số xác định
Mô hình hồi quy tổng thể
E (Y / X 2 ,... X k ) 1 2 X 2 i ... k X ki
Mô hình hồi quy mẫu ngẫu nhiên:
R2
ˆ2 yi x2i ˆ3 yi x3i ... ˆk yi xki
2
i
y
Hệ số xác định hiệu chỉnh
Yi ˆ1 ˆ2 X 2 i ... ˆk X ki ei
R 2 1 (1 R 2 )
sai số của mẫu ứng với quan sát thứ i
ei Yi Yˆi Yi ˆ1 ˆ2 X2i ˆ3 X3i ... ˆk X ki
n 1
nk
Với k là tham số của mô hình, kể cả hệ số
tự do
20
20
23
23
Hệ số xác định hiệu chỉnh
3.2.1 Ước lượng các tham số
n
2
n
e Y ˆ ˆ X
2
i
i1
i
1
2
2i
ˆ3 X3i ... ˆk X ki min
n 1
nk
Dùng R2 để xem xét việc đưa thêm biến
vào mô hình. Biến mới đưa vào mô hình
phải thỏa 2 điều kiện:
R 2 1 (1 R 2 )
i1
n
¶ ei2
i 1
¶1
n
2 Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ... ˆk X ki 0
i 1
n
¶ ei2
i 1
¶ 2
...
n
2 Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ... ˆk X k,i X 2i 0
i 1
- Làm R2 tăng
- Biến mới có ý nghĩa thống kê trong mô
hình mới
n
¶ ei2
i 1
¶ k
n
2 Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ... ˆk X ki X ki 0
i 1
21
21
24
24
4
3.2.3 Kiểm định các giả thuyết hồi quy
1. Kiểm định giả thuyết về hệ số hồi quy
Kiểm định giả thuyết H0: i
B1.Tính
ti
3.3 DỰ BÁO
* Ước lượng điểm
Yˆ0 ˆ1 ˆ 2 X 20 ... ˆ k X k0
*
i
* Dự báo giá trị trung bình của Y
E (Y / X 0 ) (Yˆ0 0 ;Yˆ 0 0 )
ˆi i*
SE(ˆi )
Với:
0 SE (Yˆ0 ) t ( n k , / 2 )
SE (Yˆ0 )
B2. Nguyên tắc quyết định
Nếu |ti | > t(n-k,/2) : bác bỏ H0
Nếu |ti | ≤ t(n-k,/2) : chấp nhận H0
Var (Yˆ0 )
Var (Yˆ0 ) ˆ 2 X
0T
( X T . X ) 1. X
0
25
25
28
28
3.2.4 Kiểm định các giả thuyết hồi quy
2. Kiểm định sự phù hợp của mô hình: kiểm
định giả thuyết đồng thời bằng không:
H0: b2 = b3 =…= bk = 0;
(H1: ít nhất 1 trong k tham số khác 0)
3.3 DỰ BÁO
* Dự báo giá trị cá biệt của Y
Y 0 ( Yˆ0 0' ; Yˆ 0 0' )
Với:
R 2 (n k )
F
(1 R 2 )( k 1)
B1. Tính
B2. Nguyên tắc quyết định:
Nếu F > F(k-1, n-k): Bác bỏ H0: Mô hình phù
hợp
Nếu F ≤ F(k-1, n-k): Chấp nhận H0: Mô hình
không phù hợp
0' SE (Y0 Yˆ0 ) t ( n k , / 2 )
SE (Y0 Yˆ0 ) Var (Y0 Yˆ0 )
Var(Y0 Yˆ0 ) Var(Yˆ0 ) ˆ 2
26
26
29
29
Ví dụ
3.3 DỰ BÁO
Mô hình hồi quy
Yˆi ˆ1 ˆ 2 X 2 .... ˆ k X k
1
0
0
X 2
Cho trước giá trị X
....
0
X k
Dự báo giá trị trung bình và giá trị cá biệt của
Y với mức ý nghĩa hay độ tin cậy 1 - .
Cho số liệu về doanh số bán (Y), chi phí chào hàng (X2)
và chi phí quảng cáo (X3) trong năm 2001 ở 12 khu
vực bán hàng của 1 công ty
1. Hãy ước lượng hàm hồi quy tuyến tính của Y theo
X2 và X3. Ý nghĩa các hệ số hồi quy.
2. Tính khoảng tin cậy các hệ số hồi quy.
3. Kiểm định giả thiết về hệ số hồi quy và giả thiết
đồng thời
4. Nếu chi phí chào hàng là 100 triệu đ và chi phí
quảng cáo là 100 triệu đ thì doanh thu trung bình
và doanh thu là bao nhiêu?
30
27
27
30
5
Ví dụ
Chi phí chào hàng X2i Chi phí QC X3i (triệu
(triệu đ)
đ)
100
180
106
248
60
190
70
150
170
260
140
250
120
160
116
170
120
230
140
220
150
150
160
240
Ý nghĩa các hệ số hồi quy
Doanh số bán Y
(triệu đ)
1270
1490
1060
1020
1800
1610
1280
1390
1440
1590
1380
1626
31
31
• Khi chi phí chào hàng và chi phí quảng cáo bằng 0 thì
doanh số bán trung bình của một khu vực bán hàng
là 328,1383 triệu đồng.
• Nếu giữ chi phí quảng cáo không đổi, khi chi phí chào
hàng tăng thêm 1 triệu đ sẽ làm doanh thu trung
bình của một khu vực bán hàng tăng lên 4,6495 triệu
đ. Nếu giữ chi phí chào hàng không đổi, khi chi phí
quảng cáo tăng lên 1 triệu đ sẽ làm doanh thu trung
bình của một khu vực bán hàng tăng lên 2,56 triệu đ.
34
34
Chạy trên Eviews ta có
Bài tập 4.3
4.3.1. Dùng hàm sản xuất Cobb=Doulas dạng
Q=α0Lα1Kα2 để ước lượng các tham số
4.3.2. Ước lượng hàm hồi quy
Ln(Q/L) = β0 + β1lnL + β2ln(K/L) + Ui
4.3.3. Kiểm định giả thiết H0: β2 = 0; β2≠ 0
4.3.4. Tính R2 và phân tích kết quả của mô hình ước
lượng
32
32
35
35
1. Ước lượng mô hình hồi quy
Yˆi 328,1383 4,6495 X 2 i 2,5601 X 3i
se ( 71,9913 )(0,4691)(0,3794 )
t ( 4,5580 )(9,9105 )(6,7477 )
p (0,0014 )(0,000 )(0,001)
R 2 0,9677
2
R 0,9605
F ( 2,9) 134,3884
p (0,0000)
33
33
6