Tài liệu Chương III: Hồi quy đa biến - Trình bày: Nguyễn Duy Tâm doc

19-Aug-10
1
Trình bày: Nguyễn Duy Tâm – IDR
Trường ĐH Kinh tế thành phố HCM

1
1. Mô hình hồi quy 3 biến
2. Các giả thiết của mô hình
3. Ước lượng các tham số của mô hình
4. Phương sai và độ lệch tiêu chuẩn của các ước
lượng bình phương nhỏ nhất
5. Mô hình tuyến tính K biến
6. Ước lượng các tham số - OLS
7. Hệ số phù hợp R2 và hệ số phù hợp hiệu chỉnh
8. Hệ số tương quan riêng phần
9. Kiểm định giả thiết
10. Dự báo
11. Thí dụ
R
2
2
19-Aug-10
2
Trong lý thuyết cũng như trong thực tế, có
nhiều trường hợp mà biến kinh tế cho trước
không thể lý giải bằng hồi quy đơn. Ví dụ:
Lượng cầu phụ thuộc vào thu nhập, giá cả,…
Lương phù thuộc vào trình độ học vấn, kinh
nghiệm, độ tuổi,…
Giá nhà đất phụ thuộc vào diện tích, vị trí,….
◦ …….

3
 Hồi qui bội là mô hình mở rộng của hồi qui
đơn, mô hình có nhiều hơn một biến. Trong
mô hình hồi qui bội ta nghiên cứu mối quan
hệ giữa biến phụ thuộc Y và một số biến giải
thích X
1
, X
2
,…, X
n
 Phương trình có dạng
Y = 
1
+ 
2
X
2
+ 
3
X
3
+ … + 
K
.X
k
+ U
i
4
19-Aug-10

3
 Sơ đồ các
biến độc lập
tác động
vào biến
phụ thuộc

5
1. Các Ui có kỳ vọng bằng 0: E(Ui/X2i,X3i) = 0
2. Không có tự tương quan giữa các Ui:
Cov(Ui,Uj) = 0 Với mọi i,j
3. Các Ui thuần nhất, phương sai không đổi:
Var(Ui) = const
4. Giữa các biến X2i, X3i không có quan hệ
tuyến tính.
5. Các Ui có phân bố chuẩn
6
19-Aug-10
4
7
 Hàm hồi qui mẫu (SRF) tương ứng với hàm
hồi qui tổng thể (PRF) như sau:



 Quá trình OLS bao gồm việc chọn các giá trị
của các thông số chưa biết sao cho tổng các
bình phương của phần dư (RSS) nhỏ nhất:

8

19-Aug-10
5
 Ứng dụng với mô hình hồi quy 3 biến và k
biến






 Giải hệ phương trình trên, ta tìm được hệ số
các hệ số 
i
chuẩn cho SRF
9
10
19-Aug-10
6
 Kiểm định hệ số hồi quy i bằng kiểm định t.
 Với hệ số 
i
. ta tính:


 Kiểm định giả thiết H
0
& H
1
 H0: giả định

 Ta kỳ vọng sẽ bác bỏ H
0















i
Se
i
t
i
11
 Nguyên tắt kiểm định

 Ghi chú: Trong mô hình có nhiều biến độc lập
không có ý nghĩa thống kê. Ta lần lược bỏ
bớt biến kém ý nghĩa nhất. Quy trình kiểm
định được lặp lại cho đến khi tất cả các biến
độc lập còn lại trong mô hình đều có ý nghĩa
thống kê
12
19-Aug-10
7
 Hệ số phù hợp của mô hình hồi quy bội được
xác định như trong mô hình hồi quy đa biến
bằng 1 trong 2 cách sau:


 Trong quá trình tăng biến độc lập trong mô
hình. TSS không bị tác động bởi sự tăng của
biến phụ thuộc nhưng đối với ESS bị tác động.
Nguyên nhân do bậc tự do của mô hình giảm
làm ESS tăng lên. Làm R
2
tăng theo.  Tình
trạng tăng ảo


R
2
TSS
ESS
TSS
RSS

R
 1
2
13
 Khắc phục tình trạng này, ta dùng hệ số phù
hợp hiệu chỉnh. Kí hiệu và xác định bằng
công thức.


 Như vậy, với công thức trên, .
Nghĩa là khi biến độc lập tăng thì tăng
chậm hơn. Trong một số trường hợp, có
thể có giá trị âm. Tuy nhiên, khi thêm biến
độc lập vào mô hình, nếu như thấy còn
tăng, nghĩa là còn có thể tăng thêm biến độc
lập vào mô hình

R
2
R
2
 
 
 
 
 
RR
kn
n
nTSS

knESS
22
1
1
1
1
1 






1
22

RR
R
2
R
2
R
2
14
19-Aug-10
8
 Kiểm định R
2
thông qua kiểm định F.

 Ngyên tắt kiểm định: K là số biến độc lập, n là
số quan sát.

 
R
R
kn
F
2
2
1


15
16
19-Aug-10
9
Mc ớch: Nhm xỏc nh tớnh hin din ca
mt nhúm bin cn thit trong mụ hỡnh. Ta
dựng kim nh Wald. Cỏch khỏc, kd wald
dựng chn 1 trong 2 mụ hỡnh sau:
(U) Mụ hỡnh nhiu bin (mụ hỡnh khụng gii
hn -
Unrestricted model).
(R) Mụ hỡnh ớt bin (mụ hỡnh gii hn
Restricted model
).

17
Gi thit kim nh wald:



Nguyờn tt kim nh F
c







laùi ngửụùc vaứ oỷ
H
0
b Bỏc u ờ'N

1
F
*
,*
2
22

F
FF
R
RR
F
C
knmk
U
RU
c
V
kn
mk

18
19-Aug-10
10
19
20
19-Aug-10
11
21
 Từ hai mô hình trên ta có

  Với dữ liệu này, ta chấp nhận H0, nghĩa là
loại 3 biến trên ra khỏi mô hình







 
 
 
 
 
FF
F
R
RR
F
c
U
RU
c
kn
mk
)740,37(
05,0
)740,37(
05,0
2

22
87,2
237,0
)740/(921,01
)37/()919,0921,0(
1











22
19-Aug-10
12
 Tìm giá trị kỳ vọng của Y khi biết các giá trị
của biến độc lập. E(Y/X
i
).
 Cách 1: Thay các giá trị X
i
vào mô hình hồi
quy. Ta có ước lượng điểm của Y.
 Cách 2: Phương pháp matrận:
 Gọi * là matrận các hệ số hồi quy.

  *=(1,2,…k)
 X* là matrận các biến độc lập

  E(Y/X*) = *.X*

Y




















X
X
X
X

k

1
3
2
*
23