Bài giảng kinh tế lượng chương 3 lê anh đức

BÀI GIẢNG
KINH TẾ LƯỢNG
ECONOMETRICS
Lê Anh Đức
Khoa Toán kinh tế
ĐH Kinh tế Quốc dân

1


CHƯƠNG III: MÔ HÌNH HỒI QUY BỘI
3.1. Mô hình hồi quy ba biến
3.2. Các giả thiết của mô hình
3.3. Ước lượng các tham số của mô hình hồi quy ba biến
3.4. Phương sai và độ lệch chuẩn của các ước lượng OLS
3.5. Mô hình hồi quy tuyến tính k biến - phương pháp ma
trận
3.6. Ước lượng của các tham số OLS
3.7. Ma trận hiệp phương sai của ˆ
2


3.8. Các tính chất của ước lượng OLS
3.9. Ước lượng hợp lý tối đa
3.10. Hệ số xác định bội R2 và hệ số xác định bội đã hiệu
chỉnh R2
3.11. Ma trận tương quan
3.12. Hệ số tương quan riêng phần
3.13. Kiểm định giả thiết và khoảng tin cậy của các hệ số
hồi quy riêng – kiểm định T
3.14. Kiểm định giả thiết R2 = 0

3.15. Kiểm định có điều kiện ràng buộc – Kiểm định F
3.16. Dự báo
3.17. Thí dụ
3
3.18. Một số dạng của hàm hồi quy


3.1. Mô hình hồi quy ba biến
• Xét mô hình:
PRF : E (Y / X 2i , X 3i )  1   2 X 2i   3 X 3i
PRM :Yi  1   2 X 2i  3 X 3i  U i (i  1  N )

• Trong đó
Y là biến phụ thuộc
X2i X3i là hai biến độc lập
β1 là hệ số chặn
β2, β3 là các hệ số góc riêng phần (hệ số hồi quy riêng)
4


• Ý nghĩa
Hệ số β1 = E(Y/X2i = X3i = 0) là giá trị trung bình của Y
khi X2i = X3i = 0.
2 

E (Y / X 2 , X 3 )
X 2

β2 cho biết khi X2 tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện X3 không thay đổi.

E (Y / X 2 , X 3 )
3 
X 3

β3 cho biết khi X3 tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện X2 không thay đổi.
5


3.2. Các giả thiết của mô hình
• GT1: Biến độc lập là phi ngẫu nhiên
• GT2: Kỳ vọng của các SSNN bằng 0
E(Ui) = 0  i
• GT3: Phương sai của các SSNN bằng nhau
Var(Ui) = Var(Uj) = 2  i ≠ j
• GT4: Các SSNN không tuơng quan với nhau
Cov(Ui ,Uj) = 0  i ≠ j
• GT5: Các SSNN và các biến độc lập không tương quan với nhau
Cov(Ui , X2i) = 0, Cov(Ui , X3i) = 0  i
• GT6: Các sai số ngẫu nhiên có phân phối chuẩn

Ui

N (0, 2 )

• GT7: Các biến giải thích không có quan hệ tuyến tính

6

3.3. Ước lượng các tham số của mô hình
hồi quy ba biến
• Trong tổng thể
PRF : E (Y / X 2i , X 3i )  1   2 X 2i   3 X 3i
PRM :Yi  1   2 X 2i  3 X 3i  U i (i  1  N )

• Trong mẫu

W  (Yi , X 2i , X 3i ) : i  1  n

SRF :Yˆi  ˆ1  ˆ2 X 2i  ˆ3 X 3i
SRM : Yi  ˆ1  ˆ2 X 2i  ˆ3 X 3i  ei (i  1  n)
ˆ1 , ˆ2 , ˆ3 là các ước lượng điểm của β1,β2,β3
Yˆ là ước lượng điểm của E(Y/X ,X )
i

ei là ước lượng điểm của Ui

2i

3i

7


• Phương pháp ước lượng OLS
Tìm ˆ1 , ˆ2 , ˆ3 sao cho:
n

n

n

RSS   e   (Yi  Yˆi )   (Yi  ˆ1  ˆ2 X 2i  ˆ3 X 3i )2  f (ˆ1 , ˆ2 , ˆ3 )  Min
2
i

i 1

2

i 1

i 1

• Các hệ số ˆ1 , ˆ2 , ˆ3 là nghiệm của hệ
n
 f ( ˆ1 , ˆ2 , ˆ3 )
 2 (Yi  ˆ1  ˆ2 X 2i  ˆ3 X 3i )  0

ˆ1
i 1


n
 f ( ˆ1 , ˆ2 , ˆ3 )
 2 X 2i (Yi  ˆ1  ˆ2 X 2i  ˆ3 X 3i )  0

ˆ



i 1
2


n
ˆ , ˆ , ˆ )

f
(

1
2
3

 2 X 3i (Yi  ˆ1  ˆ2 X 2i  ˆ3 X 3i )  0

ˆ3
i 1

8


n
n
n
ˆ
ˆ
ˆ


n


X



1
2
2
i
3  X 3 i   Yi

i 1
i 1
i 1

n
n
n
ˆ n
2
  1  X 2 i  ˆ2  X 2i  ˆ3  X 2 i X 3i   X 2iYi
i 1
i 1
i 1
 i1
n
n
n

 n
2
 ˆ1  X 3i  ˆ2  X 2 i X 3i  ˆ3  X 3i   X 3iYi
 i1
i 1
i 1
i 1

• Ký hiệu
1 n
Y   Yi ;
n i1

yi  Yi  Y

1 n
X 2   X 2i ;
n i1

x2i  X 2i  X 2

1 n
X 3   X 3i ;
n i1

x3i  X 3i  X 3
9


• Ta có

ˆ1  Y  ˆ2 X 2  ˆ3 X 3
n

ˆ2 

n

n

n

( x2i yi )( x32i )  ( x3i yi )( x3i x2i )
i 1

i 1

n

i 1

n
2
2i

i 1

n
2
3i

( x )( x )  ( x3i x2i ) 2
i 1

n

ˆ3 

i 1

i 1

n

n

n

( x3i yi )( x22i )  ( x2i yi )( x3i x2i )
i 1

i 1

n

i 1

n
2
2i

i 1

n
2
3i

( x )( x )  ( x3i x2i )
i 1

i 1

2

i 1

10


3.4. Phương sai và độ lệch chuẩn của các
ước lượng OLS
n
n
n


2
2
2
2
(

X
x
)

(
X
x
)

(2
X
X
x
x
)
2  3i
3  2i
2 3  3i 2i 
1
i1
i1
i1
ˆ )  Var(ˆ )

Var(ˆ1)  2  

Se
(

1

1
n
n
n
n


(x22i )(x32i )  (x3i x2i )2


i1
i1
i1
n

Var(ˆ2 ) 

2
x
 3i
i1

n

n
2
2i

 

n
2
3i

2

i1

Se(ˆ2 )  Var(ˆ2 )

n
2
2
x
(1

r
 2i 23)

(x )(x ) (x3i x2i )
i1

2

2

i1

i1

n

Var(ˆ3 ) 

2
x
 2i
i1

n

n

n

(x22i )(x32i )  (x3i x2i )2
i1

i1

i1

2 

2

Se(ˆ3)  Var(ˆ3 )

n
2

3i

2
23

x (1 r )
i1

11


• Ma trận hiệp phương sai của các ước lượng OLS
 Cov( ˆ1 , ˆ1 ) Cov( ˆ1 , ˆ2 ) Cov( ˆ1 , ˆ3 ) 


Cov( ˆ )   Cov( ˆ2 , ˆ1 ) Cov( ˆ2 , ˆ2 ) Cov( ˆ2 , ˆ3 ) 


 Cov( ˆ3 , ˆ1 ) Cov( ˆ3 , ˆ2 ) Cov( ˆ3 , ˆ3 ) 


Cov( ˆ , ˆ )  Cov( ˆ , ˆ )(i  j )
i

j

j

i

Cov( ˆi , ˆi )  Var ( ˆi )(i )

• Ta có
r23 2

Cov ( ˆ2 , ˆ3 ) 

n

(1  r23 )

n
2
2i

2
3i

x x
i 1

i 1

12


• Trong đó
Sai số tiêu chuẩn
của đường hồi quy
n

2
ˆ
 

2
e
i
i 1

n3

r23 là hệ số tương quan của biến X2 ,X3
n

r232 

( x2i x3i ) 2
i 1
n

n

2
2
x
x
 2i  3i
i 1

i 1

13


• Hệ số xác định bội của mô hình
ESS
RSS
R 
 1

TSS
TSS
2

n

n

i 1

i 1

ˆ2  x2i yi  ˆ3  x3i yi
n
2
y
 i
i 1

Hệ số xác định bội cho biết tỷ lệ % sự biến thiên

của Y được giải thích thông qua hai biến độc lập
X2 và X3 của mô hình.

14


• Hệ số tương quan
- Hệ số tương quan bội R  R 2
đo mức độ tương quan tuyến tính chung giữa Y, X2 và X3
- Hệ số tương quan cặp(Simple correlation coefficent)
n

r122 

n

(  x 2 i yi )

2

i 1

n

x
i 1

;

n

2
2i


i 1

y

2
i

r132 

n

(  x3i yi )

2

i 1

n

n
2
3i

x
i 1

;

y
i 1

2
i

r232 

(  x 2 i x3 i ) 2
i 1
n

x
i 1

n
2
2i

2
x
 3i
i 1

+ Hệ số r12 đo mức độ tương quan tuyến tính giữa Y và X2
+ Hệ số r13 đo mức độ tương quan tuyến tính giữa Y và X3
+ Hệ số r23 đo mức độ tương quan tuyến tính giữa X2 và X3
15

- Ma trận hệ số tương quan

r11 r12 r13   1 r12 r13 




r r21 r22 r23  r21 1 r23 (rij rjii  j)
r r r  r r 1 
 31 32 33   31 32 

16


- Hệ số tương quan riêng phần (Partical correlation
coefficient)

r12,3 

r12 r13r23
(1r132 )(1r232 )

r13,2 

r13 r12r23
(1r122 )(1r232 )

r23,1 

r23 r12r13
(1r122 )(1r132 )

+ Hệ số r12,3 đo mức độ tương quan tuyến tính giữa Y và
X2 khi X3 không đổi.
+ Hệ số r13,2 đo mức độ tương quan tuyến tính giữa Y và
X3 khi X2 không đổi.
+ Hệ số r23,1 đo mức độ tương quan tuyến tính giữa X2
và X3 khi Y không đổi.
17


3.5. Mô hình hồi quy tuyến tính k biến –
phương pháp ma trận
• Xét mô hình:
PRF : E (Y / X 2i , X 3i ,..., X ki )  1   2 X 2i  3 X 3i  ...   k X ki
PRM :Yi  1   2 X 2i  3 X 3i  ...   k X ki  U i (i  1  N )

• Trong đó
Y là biến phụ thuộc
X2i X3i, …,Xki là các biến độc lập
β1 là hệ số chặn
β2,β3, …, βk là các hệ số góc riêng phần (hệ số hồi quy riêng)

• Giá trị của k cho biết: Số biến và số tham số cần ước
lượng của mô hình
18

• Ý nghĩa
Hệ số β1 = E(Y/X2i = X3i = …= Xki = 0) là giá trị trung
bình của Y khi X2i = X3i = …= Xki = 0.
m 

E (Y / X 2 , X 3 ,..., X k )
(m  2  k )
X m

βm cho biết khi Xm tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện các biến Xj
không thay đổi. (j  m)

19


• Giả sử có n quan sát, mỗi quan sát có k giá trị
(Yi, X2i, …, Xki)
• Ký hiệu
 Y1 
 1 X21
Y 
1 X
22
Y  2  X 
 ... 
... ...
 

Yn n1

 1 X2n

... Xk1 
 1 
U1 
 
U 
... Xk2 
  2  U  2 
 ... 
 ... 
... ... 

 
 
... Xkn nk
 k k1
Un n1

• Khi đó
PRF : E (Y )  X 
PRM : Y  X   U
20


• Các giả thiết của mô hình
GT1: Biến độc lập là phi ngẫu nhiên
GT2: Kỳ vọng của các SSNN bằng 0
E(Ui) = 0  i
GT3: Phương sai của các SSNN bằng nhau

Var(Ui) = Var(Uj) = 2  i ≠ j
GT4: Các SSNN không tuơng quan với nhau
Cov(Ui ,Uj) = 0  i ≠ j
GT5: Các SSNN và biến độc lập không tương quan với nhau
Cov(Ui , Xmi) = 0  i,m
GT6: Các sai số ngẫu nhiên có phân phối chuẩn

Ui

N (0, 2 )

GT7: Các biến giải thích không có quan hệ tuyến tính – Ma trận
21
X là không suy biến.


3.6. Ước lượng các tham số OLS
• Trong tổng thể
PRF : E (Y / X 2i , X 3i ,..., X ki )  1   2 X 2i  3 X 3i  ...   k X ki
PRM :Yi  1   2 X 2i  3 X 3i  ...   k X ki  U i (i  1  N )

• Trong mẫu

W  (Yi , X 2i , X 3i ) : i  1  n

SRF :Yˆi  ˆ1  ˆ2 X 2i  ˆ3 X 3i  ...  ˆk X ki
SRM : Yˆi  ˆ1  ˆ2 X 2i  ˆ3 X 3i  ...  ˆk X ki  ei (i  1  n)
ˆ , ˆ ,..., ˆ

là các ước lượng điểm của β1,β2,…,βk

Yˆi là ước lượng điểm của E(Y/X2i, X3i ,…,Xki)
ei là ước lượng điểm của Ui
1

2

k

22


• Ký hiệu
 Yˆ1 
 
ˆ
Y

Yˆ   2 
 ... 
Yˆ 
 n n1

 ˆ1 
 
ˆ


ˆ   2 
 ... 
 ˆ 

 k k1

 e1 
e 
e  2 
 ... 
 
 en n1

• Khi đó
SRF : Yˆ  X ˆ
SRM : Y  X ˆ  e
23


• Phương pháp ước lượng OLS
Tìm véc tơ ˆ sao cho:
RSS  eT e  (Y  X ˆ )(Y  X ˆ )T  Y T Y  2ˆ T X T Y  ˆ T X T X ˆ  f (ˆ )  Min

• Véc tơ ˆ là nghiệm của hệ
f ( ˆ )
0
ˆ

 ˆ  ( X T X ) 1 X T Y

24


3.7. Ma trận hiệp phương sai của

ˆ

• Ta có
 Var ( ˆ1 )
Cov ( ˆ1 , ˆ2 )

Var ( ˆ2 )
 Cov( ˆ2 , ˆ1 )
ˆ
Cov (  )  
...
...

 Cov ( ˆ , ˆ ) Cov( ˆ , ˆ )

k
1
k
2

... Cov( ˆ1 , ˆk ) 

... Cov( ˆ2 , ˆk ) 
2
T


(
X

X)

...
...

...
Var ( ˆk ) 

• Sai số tiêu chuẩn của đường hồi quy
T

e e
ˆ 
(n  k )
2

25