môn học kinh tế lượng (3)

Bộ mơn Kinh tế lượng – Học viện Tài chính


Nội dung
3.1. Mơ hình hồi quy tuyến tính ba biến
3.2. Mơ hình hồi quy tuyến tính k biến - phương pháp ma trận
3.3. Hệ số xác định và hệ số xác định hiệu chỉnh
3.4. Khoảng tin cậy và kiểm định giả thuyết
3.5. Kiểm định F trong mơ hình hồi quy bội
3.6. Dự báo

3.7. Các dạng hàm hồi quy

2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

2


3.1. Mơ hình hồi quy tuyến tính ba biến
3.1.1. Mơ hình hồi quy ba biến

Xét mơ hình hồi quy 3 biến
PRF :

E (Y / X 2i , X 3i ) = 1 +  2 X 2i +  3 X 3i

PRM : Yi = 1 +  2 X 2i +  3 X 3i + U i (i = 1  N )

Trong đó

Y : biến phụ thuộc

X2 , X3 : các biến độc lập
β1 : hệ số chặn
β2, β3 : các hệ số góc riêng phần (hệ số hồi quy riêng).
2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

3


3.1. Mơ hình hồi quy tuyến tính ba biến
▪ Ý nghĩa kinh tế
 β1 = E(Y/X2i=X3i= 0): là giá trị trung bình của Y khi X2i = X3i = 0.

E (Y / X 2 , X 3 )
 2 =
: cho biết khi X2 thay đổi một đơn vị, trong điều kiện X3
X 2
khơng thay đổi, thì giá trị trung bình của Y thay đổi 𝛽2 đơn vị.

E (Y / X 2 , X 3 )
 3 =
: cho biết khi X3 thay đổi một đơn vị, trong điều kiện X2
X 3
khơng thay đổi, thì giá trị trung bình của Y thay đổi 𝛽3 đơn vị.
2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

4


3.1. Mơ hình hồi quy tuyến tính ba biến
3.1.2. Các giả thiết của phương pháp bình phương nhỏ nhất
 GT1: Hàm hồi quy có dạng tuyến tính đối với tham số
 GT2: Biến độc lập là phi ngẫu nhiên.

 GT3: Kỳ vọng của các SSNN bằng 0: E(U/X2i, X3i) = 0,  i
 GT4: Phương sai SSNN không đổi:

Var(U/X2i, X3i) = 2 ,  i

 GT5: Các SSNN không tương quan:

Cov(Ui ,Uj) = 0 ,  i ≠ j

 GT6: Các SSNN và các biến độc lập không tương quan:
Cov(Ui , X2i) = 0, Cov(Ui , X3i) = 0  i

 GT7: Dạng hàm được chỉ định đúng.
 GT8: Các SSNN có phân phối chuẩn.
 GT9: Giữa các biến giải thích khơng có quan hệ phụ thuộc tuyến tính.
2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

5

3.1. Mơ hình hồi quy tuyến tính ba biến
 Trong tổng thể:

PRF : E (Y / X 2i , X 3i ) = 1 +  2 X 2i + 3 X 3i
PRM :Yi = 1 +  2 X 2i + 3 X 3i + U i

(i = 1  N )

 Trong mẫu:

SRF :Yˆi = ˆ1 + ˆ2 X 2i + ˆ3 X 3i
SRM : Yi = ˆ1 + ˆ2 X 2i + ˆ3 X 3i + ei
trong đó:
ˆ , ˆ , ˆ
1

2

3

(i = 1  n )

: là các ước lượng điểm của β1,β2,β3

Yˆi

: là ước lượng điểm của E(Y/X2i,X3i)

ei

: là ước lượng điểm của Ui
2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

6


3.1. Mơ hình hồi quy tuyến tính ba biến
▪ Phương pháp ước lượng bình phương nhỏ nhất
 Tìm ˆ1 , ˆ2 , ˆ3 sao cho:

n

n

RSS =  e =  (Yi − Yˆi )2
i =1

2
i

i =1

n

=  (Yi − ˆ1 − ˆ2 X 2i − ˆ3 X 3i ) 2 = f ( ˆ1 , ˆ2 , ˆ3 ) → Min
i =1

 Các hệ số ˆ1 , ˆ2 , ˆ3 là nghiệm của hệ:
n
 f ( ˆ1 , ˆ2 , ˆ3 )
= −2 (Yi − ˆ1 − ˆ2 X 2i − ˆ3 X 3i ) = 0

ˆ1
i =1

 f ( ˆ , ˆ , ˆ )
n

1
2
3
= −2 X 2i (Yi − ˆ1 − ˆ2 X 2i − ˆ3 X 3i ) = 0

ˆ2
i =1


n
ˆ , ˆ , ˆ )

f
(

1
2
3


= −2 X 3i (Yi − ˆ1 − ˆ2 X 2i − ˆ3 X 3i ) = 0

ˆ3
i =1

2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

7


3.1. Mơ hình hồi quy tuyến tính ba biến
n
n
n
ˆ
ˆ
ˆ
 1n +  2  X 2i +  3  X 3i =  Yi
i =1
i =1
i =1

n
n
n
ˆ n
2
  1  X 2i + ˆ2  X 2i + ˆ3  X 2i X 3i =  X 2iYi

i =1
i =1
i =1
 i =1
n
n
n
 n
2
 ˆ1  X 3i + ˆ2  X 2i X 3i + ˆ3  X 3i =  X 3iYi
i =1
i =1
i =1
 i =1

Ký hiệu:

2/21/2020

1 n
Y =  Yi ;
n i =1

yi = Yi − Y

1 n
X 2 =  X 2i ;
n i =1

x2i = X 2i − X 2

1 n
X 3 =  X 3i ;
n i =1

x3i = X 3i − X 3

Bộ môn Kinh tế lượng – Học viện Tài chính

8


3.1. Mơ hình hồi quy tuyến tính ba biến
Ta có công thức nghiệm:

ˆ1 = Y − ˆ2 X 2 − ˆ3 X 3
ˆ2 =

n

n

n

n

i =1

i =1

i =1

i =1

( x2i yi )( x32i ) − ( x3i yi )( x3i x2i )
n

n

2/21/2020

n

( x )( x ) − ( x3i x2i ) 2
i =1

ˆ3 =

n

2
2i

i =1

n

2
3i

i =1

n

n

i =1

i =1

( x3i yi )( x ) − ( x2i yi )( x3i x2i )
i =1

i =1

2
2i

n

n

n

i =1

i =1

i =1

( x22i )( x32i ) − ( x3i x2i ) 2

Bộ môn Kinh tế lượng – Học viện Tài chính

9


3.1. Mơ hình hồi quy tuyến tính ba biến
▪ Ví

dụ 2: Nghiên cứu mối quan hệ giữa doanh thu bán hàng - S (nghìn
USD/tháng) phụ thuộc vào giá bán của sản phẩm - P (USD/sản phẩm) và chi
phí quảng cáo - AD (nghìn USD/tháng). Sử dụng số liệu của một cửa hàng
kinh doanh bánh ngọt, ước lượng mơ hình thu được:

2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

10


3.1. Mơ hình hồi quy tuyến tính ba biến
Từ kết quả hồi quy, hàm hồi quy mẫu thu được:

DT i = 118.9136 + 1.862 ADi − 7.907 Pi

▪ Ý nghĩa kinh tế cuả các hệ số hồi quy ước lượng được từ mẫu
  2 = 1.862 Cho biết khi tăng chi phí quảng cáo lên 1 (nghìn USD/tháng)
trong điều kiện giá bán khơng thay đổi thì doanh thu trung bình tăng 1.862

(nghìn USD/tháng).
  3 = −7.907 Cho biết khi giá bán tăng 1 (USD/sản phẩm) trong điều kiện chi
phí quảng cáo khơng thay đổi thì doanh thu trung bình giảm 7.907 (nghìn
USD/tháng).
2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

11


3.1. Mơ hình hồi quy tuyến tính ba biến
3.1.4. Các tham số đặc trưng của các ước lượng

▪ Phương sai và độ lệch chuẩn của ước lượng OLS
n
n
n


2
2
2
2
(
X
x
)
+
(

X
x
)
−
(2
X
X
x
x
)
2  3i
3  2i
2 3  3i 2 i 
1
2
i
=
1
i
=
1
i =1
Var ( ˆ1 ) =   +
  SD( ˆ1 ) = Var ( ˆ1 )
n
n
n
n

(  x22i )(  x32i ) − (  x3i x2i ) 2



i =1
i =1
i =1
n

Var ( ˆ2 ) =

x
i =1

n

2
3i

n

n

(  x22i )(  x32i ) − (  x3i x2i ) 2
i =1

i =1

 =

2

2

i =1

n

x
i =1

2
2i

(1 − r232 )

 SD( ˆ2 ) = Var ( ˆ2 )

n

Var ( ˆ3 ) =

x
i =1

n

i =1

 =

2

2

n

(  x22i )(  x32i ) − (  x3i x2i ) 2
i =1

2/21/2020

n

2
2i

i =1

n

x
i =1

2
3i

(1 − r232 )

 SD( ˆ3 ) = Var ( ˆ3 )

Bộ môn Kinh tế lượng – Học viện Tài chính

12


3.1. Mơ hình hồi quy tuyến tính ba biến
▪ Ma trận hiệp phương sai của các ước lượng OLS
 Cov ( ˆ1 , ˆ1 ) Cov ( ˆ1 , ˆ2 ) Cov( ˆ1 , ˆ3 ) 


ˆ
ˆ
ˆ
ˆ
ˆ
ˆ
ˆ
Cov (  ) =  Cov (  2 , 1 ) Cov (  2 ,  2 ) Cov (  2 ,  3 ) 


ˆ
ˆ
ˆ
ˆ
ˆ
ˆ
 Cov (  3 , 1 ) Cov (  3 ,  2 ) Cov (  3 ,  3 ) 


Cov ( ˆ , ˆ ) = Cov ( ˆ , ˆ ) (i  j )
i

j

j

i

Cov ( ˆi , ˆi ) = Var ( ˆi ) (i )

−r23 2

Cov( ˆ2 , ˆ3 ) =

Ta có:

(1 − r23 )

2/21/2020

n

x
i =1

2
2i

n

2

x
 3i
i =1

Bộ mơn Kinh tế lượng – Học viện Tài chính

13


3.1. Mơ hình hồi quy tuyến tính ba biến
▪ Phương sai mẫu của sai số ngẫu nhiên
n

ˆ 2 =

2
e
i
i =1

n−3

 ˆ được gọi là sai số chuẩn của hàm hồi quy (standard error of regression).

( )

 se ˆ

là sai số chuẩn của các hệ số ước lượng

 r23 là hệ số tương quan của biến X2, X3:



  x2i x3i 
r232 =  ni =1 n 
2
2
x
x
 2 i  3i
i =1

2/21/2020

2

n

i =1

Bộ môn Kinh tế lượng – Học viện Tài chính

14


3.1. Mơ hình hồi quy tuyến tính ba biến
3.1.5. Hệ số xác định
 Hệ số xác định
ESS

RSS
R =
= 1−
=
TSS
TSS
2

n

n

i =1

i =1

ˆ2  x2i yi + ˆ3  x3i yi
n

2
y
 i
i =1

0  R2  1

 Ý nghĩa: Hệ số xác định cho biết tỷ lệ % sự biến thiên của Y được giải thích
thơng qua hai biến độc lập X2 và X3 của mơ hình.

2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

15


3.2. Mơ hình hồi quy tuyến tính k biến
3.2.1. Mơ hình hồi quy tuyến tính k biến - phương pháp ma trận
Xét mơ hình:

PRF : E (Y / X 2i , X 3i ,..., X ki ) = 1 +  2 X 2i + 3 X 3i + ... +  k X ki
PRM : Yi = 1 +  2 X 2i + 3 X 3i + ... +  k X ki + U i

(i = 1  n)(k  2)

Trong đó:
Y là biến phụ thuộc; X2i, X3i, …, Xki: các biến độc lập

β1: hệ số chặn
β2, β3, …, βk: các hệ số hồi quy riêng phần
k: số biến của mơ hình
2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

16


3.2. Mơ hình hồi quy tuyến tính k biến
▪

Ý nghĩa kinh tế

 β1 = E(Y/X2i = X3i = …= Xki = 0) là giá trị trung bình của Y khi các biến độc lập
đồng nhất nhận giá trị bằng 0.

E (Y / X 2 , X 3 ,..., X k )
 m =
X m

(m = 2  k ) cho biết khi Xm tăng một đơn vị thì

trung bình của Y thay đổi trị số của 𝛽𝑚 trong điều kiện các biến Xj không
thay đổi (∀𝑗 ≠ 𝑚).

2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

17


3.2. Mơ hình hồi quy tuyến tính k biến
 Dạng ma trận của mơ hình hồi quy nhiều biến

Giả sử có n quan sát, mỗi quan sát có k giá trị (Yi, X2i, …, Xki)
Ký hiệu các ma trận:

 Y1 
 1 X 21

Y 
1 X
22
Y = 2 X =
 ... 
 ... ...
 

 Yn n1
 1 X 2n
Khi đó:

2/21/2020

... X k1 
 1 
 U1 
 
U 
... X k 2 
 = 2 U = 2
 ... 
 ... 
... ... 

 
 
... X kn nk
 k k1
 U n n1

PRF : E (Y ) = X 
PRM : Y = X  + U
Bộ môn Kinh tế lượng – Học viện Tài chính

18


3.2. Mơ hình hồi quy tuyến tính k biến
▪

Một số giả thiết được viết lại dưới dạng ma trận
 GT3: Kỳ vọng của các SSNN bằng 0
E(U|X) = 0nx1
 GT4: Phương sai của các SSNN bằng nhau:
E(UUT) = 2
 GT8: Các biến giải thích khơng có quan hệ tuyến tính, tức là hệ véc tơ cột

của ma trận X độc lập tuyến tính và khi đó ma trận XTX có ma trận nghịch
đảo.

2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

19


3.2. Mơ hình hồi quy tuyến tính k biến
 Phương trình hồi quy trong tổng thể:

PRF : E (Y / X 2i , X 3i ,..., X ki ) = 1 +  2 X 2i + 3 X 3i + ... +  k X ki
PRM : Yi = 1 +  2 X 2i + 3 X 3i + ... +  k X ki + U i

(i = 1  N )(k  2)

 Phương trình hồi quy trong mẫu:

SRF : Yˆi = ˆ1 + ˆ2 X 2i + ˆ3 X 3i + ... + ˆk X ki (k  2)
SRM : Y = ˆ + ˆ X + ˆ X + ... + ˆ X + e (i = 1  n)
i

2/21/2020

1

2

2i

3

3i

k

ki

i

Bộ môn Kinh tế lượng – Học viện Tài chính

20


3.2. Mơ hình hồi quy tuyến tính k biến
3.2.2. Phương pháp bình phương nhỏ nhất
Nội dung phương pháp:
Ký hiệu các véc tơ:

 Yˆ1 
 
ˆ
Y

Yˆ =  2 
...
 
 Yˆ 
 n  n 1

 ˆ1 
 
ˆ


ˆ =  2 
...
 
 ˆ 

 k  k 1

 e1 
e 
2

e=
 ... 
 
 en n1

Khi đó có phương trình hàm hồi quy mẫu viết dưới dạng ma trận:

SRF : Yˆ = X ˆ
SRM : Y = X ˆ + e
2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

21


3.2. Mơ hình hồi quy tuyến tính k biến
Tìm véc tơ ˆ sao cho:

RSS = eT e = (Y − X ˆ )(Y − X ˆ )T
= Y T Y − 2ˆ T X T Y + ˆ T X T X ˆ = f ( ˆ ) → Min
 ˆ1 
ˆ


f

 
ˆ
T
−
1
T
Véc tơ  là nghiệm của hệ:
= 0  ˆ = ( X X ) X Y =  ˆ2 
 ( ˆ )
 ˆ 
 3 
Trong đó ma trận đối xứng:
 

( )

 n

X 2i

T

X X=
 ...

  X ki
2/21/2020

X
X

2i
2
2i

...
 X ki X 2i

...
...
...
...

X
X X


  Yi 



Y
X
 i 2i 
2 i ki 
; X TY = 

 ... 

...



2
 X ki 
  Yi X ki 
ki

Bộ môn Kinh tế lượng – Học viện Tài chính

22


3.2. Mơ hình hồi quy tuyến tính k biến
3.2.2. Ma trận hiệp phương sai của các hệ số hồi quy ước lượng
 Var ( ˆ1 )
Cov( ˆ1 , ˆ2 )

Var ( ˆ2 )
 Cov( ˆ2 , ˆ1 )
ˆ
Cov(  ) = 
...
...

 Cov( ˆ , ˆ ) Cov( ˆ , ˆ )
k
1
k

2


... Cov( ˆ1 , ˆk ) 

... Cov( ˆ2 , ˆk ) 
2
T
−1
=

(
X
X
)

...
...

...
Var ( ˆk ) 

Phương sai sai số ngẫu nhiên ước lượng từ mẫu:
n

2
e
i

T

e
e
2
ˆ =
= i =1
(n − k ) n − k
n

2
T
ˆ T X T Y = Y 2 − ( ˆ Y + ˆ
ˆ
e
=
Y
Y
−

Y
X
+
...
+

i
i
1 i
2 i
2i
k  Yi X ki )

i =1

2/21/2020

Bộ môn Kinh tế lượng – Học viện Tài chính

23


3.2. Mơ hình hồi quy tuyến tính k biến
3.2.3. Các tính chất của ước lượng OLS

 Tham khảo bài giảng trang 85 giáo trình.
 Chú ý: các tính chất được nêu ra đối với mơ hình hồi quy 3 biến tương tự
như mơ hình mơ hình hồi quy đơn biến.

2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

24


3.3. Hệ số xác định và hệ số xác định hiệu chỉnh
▪ Hệ số xác định R2
2
T
T
2
T

ˆ
e
ESS
RSS  X Y − nY
e e
i
2
R =
= 1−
=
=
1
−
=
1
−
2
2
TSS
TSS
Y T Y − nY 2
Y T Y − nY 2
Y
−
nY
i

ˆ1  Yi + ˆ2  Yi X 2i + ... + ˆk  Yi X ki − nY 2
2
=

;0

R
1
2
2
 Yi − nY
 Ý nghĩa: R2 cho biết tỷ lệ % sự biến thiên của Y được giải thích thơng qua
tồn bộ các biến độc lập của mơ hình.
 Tính chất: R2 là hàm đồng biến với số biến giải thích trong mơ hình. Do vậy
khơng thể dùng R2 làm tiêu chuẩn để xem xét việc đưa thêm một hoặc nhiều
biến giải thích vào mơ hình.
2/21/2020

Bộ mơn Kinh tế lượng – Học viện Tài chính

25