Bài giảng kinh tế lượng Mô hình hồi quy bội

Chương 2
MÔ HÌNH HỒI QUI BỘI
1. Dẫn nhập
2. Mô hình hồi quy bội
3. Hệ số xác định mô hình
4. Các bài toán
5. Một số dạng hàm
6. Hồi quy với biến giả
Trong thực tế, một đại lượng thay đổi thường
chòu sự tác động của nhiều hơn một đại
lượng.
DẪN NHẬP
Chẳng hạn nhu cầu (Y) của một loại hàng hóa
(A) thường lệ thuộc vào nhiều yếu tố như thu
nhập người tiêu dùng (I), giá của hàng hóa đó
(P
A
), giá của hàng hóa thay thế (P
X
)
Do đó, ta cần tổng quát hóa mô hình hồi quy
hai biến trình bày trong chương 2 cho trường
hợp có nhiều hơn hai biến, mà ta gọi là hồi quy
bội.
DẪN NHẬP
Trước hết ta xét trường hợp đơn giản nhất
của mô hình hồi quy bội: mô hình hồi quy
ba biến
Chú ý ta chỉ xét trường hợp mô hình tuyến
tính theo tham số và không nhất thiết phải
là tuyến tính theo biến

Để khảo sát các kết quả số trong mô hình
hồi quy bội, việc tính toán rất phức tạp.
Do đó việc sử dụng phần mềm (Eviews)
để hỗ trợ là cần thiết.
1.
Hàm hồi quy tổng thể:

MÔ HÌNH HỒI QUY BA BIẾN
E(Y/X
2
, X
3
) = β
1
+ β
2
X
2
+ β
3
X
3
(PRF)
Hay Y = β
1
+ β
2
X
2
+ β

3
X
3
+ U
CÁC GỈA THIẾT CỦA MÔ HÌNH
Giả thiết 1: Các biến độc lập phi ngẫu
nhiên, giá trị được xác định trước
Giả thiết 2 : E(U
i
|X
2
,X
3
)=0 ∀i
Giả thiết 3 : Var(U
i
) =σ
2
∀i
Giả thiết 4 : Cov(U
i
, U
j
) = 0 i ≠j
Giả thiết 5 : Cov(X
i
, U
i
) = 0 ∀i
Giả thiết 6 : U

i
~ N (0, σ
2
) ∀i
Giả thiết 7 : Không có hiện tượng cộng
tuyến giữa X
2
và X
3
.
µ
µ µ µ
1 2 3
2 3
ˆ ˆ ˆ
ˆ
β β β
= + = + + +
i
i i i i i
Y Y e X X e
j
ˆ
β
2
min
i
e →
∑
Giả sử có một mẫu gồm n quan sát các giá

trị (Y
i
, X
2,i
, X
3,i
). Theo phương pháp OLS,
ta tìm các hệ số
(j= 1,2,3) phải thoả mãn :
2. Hàm hồi quy mẫu
MÔ HÌNH HỒI QUY BA BIẾN
1 2 2 3 3
ˆ ˆ ˆ
β β β
= − − −
i i i i
e Y X X
Trong đó
Tức là :
µ
µ
µ
µ µ µ
µ µ µ
µ µ µ
2
1 2 3
2 3
1
2

1 2 3
2 3 2
2
2
1 2 3
2 3 3
3
ˆ ˆ
2( )( 1) 0
0
ˆ
ˆ ˆ ˆ
0 2( )( ) 0
ˆ
ˆ ˆ ˆ
0
2( )( ) 0
ˆ
β β β
β
β β β
β
β β β
β

∂

− − − − =
=



∂




∂
 
= ⇔ − − − − =
 
∂
 
 
∂
 
=
− − − − =



∂

∑
∑
∑
∑
∑
∑
i
i i i

i
i i i i
i
i i i i
e
Y X X
e
Y X X X
e
Y X X X
MÔ HÌNH HỒI QUY BA BIẾN
Giải hệ ta có :
2
i 2i 3i i 3i 2i 3i
2
2 2 2
2i 3i 2i 3i
2
i 3i 2i i 2i 2i 3i
3
2 2 2
2i 3i 2i 3i
1 2 2 3 3
y x x y x x x
ˆ
β =
x x ( x x )
y x x y x x x
ˆ
β =

x x ( x x )
ˆ ˆ ˆ
β =Y β X β X
−
−
−
−
− −
∑ ∑ ∑ ∑
∑ ∑ ∑
∑ ∑ ∑ ∑
∑ ∑ ∑
MÔ HÌNH HỒI QUY BA BIẾN
* Phương sai của các hệ số hồi quy
( ) ( )
2 2
2 2
2 3 2 3
3 2 2 3
2
1 1 1
1
2
2 2
2 3 2 3
1 1 1
2 2
2 3
2 2 2 2
2 2,3 3 2,3

1 1
1
ˆ
( )
ˆ ˆ
( ) ( )
1 1
n n n
i i i i
i i i
n n n
i i i i
i i i
n n
i i
i i
X x X x X X x x
var
n
x x x x
var var
x r x r
β σ
σ σ
β β
= = =
= = =
= =
 
 

+ −
 
= + ×
 
 
 
−
 ÷
 
 
 
= =
− −
∑ ∑ ∑
∑ ∑ ∑
∑ ∑
MÔ HÌNH HỒI QUY BA BiẾN
Ngoài ra:
σ
2
= Var(U
i
), σ
2
chưa
biết nên dùng ước lượng
của nó là.
2
2
ˆ

3 3
σ
= =
− −
∑
i
e
RSS
n n
( )
2
2
2 i 2i 3 i 3i
ˆ ˆ
n Y à y x y x
i
TSS Y v ESS
β β
= − = +
∑ ∑ ∑
Trong đó RSS = TSS – ESS với
Trong đó r
2,3
là hệ số
tương quan giữa X
2
và X
3
2
n

2i 3i
i=1
2
2,3
n n
2 2
2i 3i
i=1 i=1
x x
x x
r
 
 ÷
 
=
∑
∑ ∑
MÔ HÌNH HỒI QUY BA BiẾN
MÔ HÌNH HỒI QUY BA BiẾN
Ví dụ 1. Bảng dưới đây cho các số liệu về doanh số
bán (Y), chi phí chào hàng (X
2
) và chi phí quảng
cáo (X
3
) trong năm 2011 ở 12 khu vực bán hàng
của một công ty. Hãy ước lượng hàm hồi quy tuyến
tính của doanh số bán theo chi phí chào hàng và
chi phí quảng cáo
Doanh số bán

Y (triệu đồng)
Chi phí chào hàng
(triệu đồng)
Chi phí quảng cáo
(triệu đồng)
1270 100 180
1490 106 248
1060 60 190
1626 160 240
1020 70 150
1800 170 260
1610 140 250
1280 120 160
1390 116 170
1440 120 230
1590 140 220
1380 150 150
MÔ HÌNH HỒI QUY BA BIẾN
Từ bảng số liệu trên ta tính được các tổng
X
2
X
3
MÔ HÌNH HỒI QUY BA BIẾN
2, 3,
16956 1452 2448
i i i
Y X X= = =
∑ ∑ ∑
2 2 2

2, 3,
24549576 188192 518504
i i i
Y X X= = =
∑ ∑ ∑
2, 3, 2, 3,
2128740 3542360 303608
i i i i i i
X Y X Y X X= = =
∑ ∑ ∑
2 3
16956 1452 2448
1413 121 204
12 12 12

Y X X⇒ = = = = = =
Ta tính được các hệ số hồi quy
µ µ µ
2 3 1
ˆ ˆ ˆ
4.64951, 2.560152, 328.1383
β β β
= = =
µ
2 3
328.1383 4.64951 2.560152Y X X= + +
1. Hàm hồi qui tổng thể PRF
MÔ HÌNH HỒI QUY K BIẾN
( )
1 2 2 3 3

|
i i k ki
E Y X X X X U
β β β β
= + + + + +
1 2 2 3 3

β β β β
= + + + + +
k k
Y X X X U
2 3
( , , , ), 1,
i i ki i
X X X Y i n=
1 1 2 2,1 ,1 1
2 1 2 2,2 ,2 2
1 2 2, ,




β β β
β β β
β β β
= + + + +


= + + + +





= + + + +

k k
k k
n n k k n n
Y X X U
Y X X U
Y X X U
Dạng hàm
Hay
Thay vào PRF, ta có
Từ mẫu quan sát
Bằng cách đặt
Bằng cách đặt
1 1 1 21 1
2 2 2 22 2
2
1
1
; ; ;

1
k
k
n n k n kn
Y U X X
Y U X X

Y U X
Y U X X
β
β
β
β
       
 ÷  ÷  ÷  ÷
 ÷  ÷  ÷  ÷
= = = =
 ÷  ÷  ÷  ÷
 ÷  ÷  ÷  ÷
       
β
= +Y X U
Khi đó, mô hình có thể viết lại dưới dạng ma trận sau
Khi đó, mô hình có thể viết lại dưới dạng ma trận sau
2
1 1
2
2 2 2
1 1 1
2
2
1 1 1




n n

i ki
i i
n n n
i i i ki
T
i i i
n n n
ki ki i ki
i i i
n X X
X X X X
X X
X X X X
= =
= = =
= = =
 
 ÷
 ÷
 ÷
 ÷
× =
 ÷
 ÷
 ÷
 ÷
 ÷
 
∑ ∑
∑ ∑ ∑

∑ ∑ ∑
MƠ HÌNH HỒI QUY K BIẾN
2. Hàm hồi quy mẫu SRF
2. Hàm hồi quy mẫu SRF
Dạng hàm :
Dạng hàm :
1 2 2 3 3
ˆ ˆ ˆ ˆ ˆ

k k
Y X X X e
β β β β
= + + + + +
Hay dưới dạng ma trận
Hay dưới dạng ma trận
Trong đó
Trong đó
ˆ ˆ
Y X e
β
= +
1
1
2
2
ˆ
ˆ
ˆ
; .

ˆ
n
k
e
e
e
e
β
β
β
β
 
 
 ÷
 ÷
 ÷
 ÷
= =
 ÷
 ÷
 ÷
 ÷
 
 
Xác đònh các hệ số hồi quy
Xác đònh các hệ số hồi quy
1 2 3
ˆ ˆ ˆ ˆ
, , , ,

k
β β β β
bằng phương
bằng phương
Nghóa là, các
Nghóa là, các
1 2 3
ˆ ˆ ˆ ˆ
, , , ,
k
β β β β
thoả mãn
thoả mãn
( ) ( )
1
(
ˆ
ˆ
)
ˆ
0
β β
β
−
∂
= ⇔ = ⇒ =
∂
T T T T
T
e e

X X X Y X X X Y
MƠ HÌNH HỒI QUY K BIẾN


pháp OLS.
pháp OLS.
Y
Y
X
X
2
2
X
X
3
3
Y
Y
X
X
2
2
X
X
3
3
20
20
8
8

2
2
17
17
6
6
5
5
18
18
7
7
3
3
16
16
5
5
6
6
19
19
8
8
4
4
15
15
5
5

7
7
18
18
8
8
4
4
13
13
4
4
8
8
17
17
6
6
5
5
12
12
3
3
8
8
MÔ HÌNH HỒI QUY K BIẾN
Khi đó việc tìm mô hình hối quy bằng cách xác định ma
trận hệ số, tìm ma trận nghịch đảo, … (rất phức tạp khi
dữ liệu lớn, nhiều biến). Chẳng hạn trong trường hợp này

chúng ta xác định.
Ví dụ. Số liệu quan sát về lượng hàng hóa bán được (Y:
tấn/ tháng), Thu nhập (X
2
: triệu/năm), Giá bán (X
3
:
1000VNĐ/kg)
18
2 3
2 2 2
2 3
2 3 2 3
165 60 52
2781 388 308
282 1029 813
,
i i i
i i i
i i i i i i
Y X X
Y X X
X X Y X Y X
= = =
= = =
= = =
∑ ∑ ∑
∑ ∑ ∑
∑ ∑ ∑
( )

1
1
10 60 52 39980 3816 3256
1
60 388 282 3816 376 300
1528
52 282 308 3256 300 280
T
X X
−
−
− −
   
 ÷  ÷
⇒ = = −
 ÷  ÷
 ÷  ÷
−
   
µ
2 3
14 99215 0 76178 0 58901. . .
i
i i
Y X X= + −
µ
µ
1
14 99215
0 76178

0 58901
( ) ( )
.
.
.
T T
X X X Y
β
β
−
=
 
 ÷
=
 ÷
 ÷
−
 
MÔ HÌNH HỒI QUY K BIẾN
Ta có mô hình
MÔ HÌNH HỒI QUY K BIẾN
Sử dụng phần mềm Eview ta có kết quả sau
* Chú ý : Khi tăng số biến độc lập trong mô hình
thì R
2
cũng tăng cho dù các biến độc lập thêm
vào có ảnh hưởng mô hình hay không. Do đó
không thể dùng R
2
để quyết định có hay không

nên thêm vào mô hình.
2
2
2
i
1 1
y
= = − = −
∑
∑
i
e
ESS RSS
R
TSS TSS
2
2
i 2 2,i i k,i i
ˆ ˆ
y x y x y
β β
= = −
= − − −
∑
∑ ∑ ∑
i
k
e RSS TSS ESS
HỆ SỐ XÁC ĐỊNH MÔ HÌNH
Ý nghĩa R

2
-
Đánh giá mức độ phù hợp của mô hình
-
So sánh hai mô hình có cùng biến độc lập
∑
∑
−
−
−=
)1n/(
)kn/(e
1R
2
i
2
2
i
y
Hay:
2 2
1
1 (1 )
n
R R
n k
−
= − −
−
Tính chất của :

2
R
2
R
1RR
22
≤≤
-
Khi k > 1,
-
có thể âm, trong trường hợp âm, ta coi
giá trị của nó bằng 0.
biến vào mô hình mà thay vào đó có thể sử
dụng hệ số xác định được hiệu chỉnh :
HỆ SỐ XÁC ĐỊNH MÔ HÌNH
* Cách sử dụng để quyết định đưa
thêm biến vào mô hình :
Mô hình hai biến
Mô hình ba biến
2 2
1 2
>R R
tức là không cần đưa thêm biến X
3
vào mô
hình. Ngược lại, ta chọn mô hình (2).
)1(X
ˆˆ
Y
ˆ

i221i
ββ
+=
2
1
R
2
1
R
)2(X
ˆ
X
ˆˆ
Y
ˆ
i33i221i
βββ
++=
2
2
R
2
2
R
2
R
- Nếu thì chọn mô hình (1) ,
HỆ SỐ XÁC ĐỊNH MÔ HÌNH
Ví dụ: Ta xét hai mơ hình
Ví dụ: Ta xét hai mơ hình

2 2
2 2
(MH1): DS= 667.0205 + 6.16512*
0.804250; 0.784674
(MH2): DS = 328.1383 + 4.64951*CPCH + 2.56015205822*CPQC
0.967693; 0.960514
= =
= =
CPCH
R R
R R
Kết luận:
Kết luận:
- So sánh hai mô hình : MH1 và MH2 chỉ
- So sánh hai mô hình : MH1 và MH2 chỉ
khác nhau ở số biến ĐL
khác nhau ở số biến ĐL
- Mô hình (2) phù hợp hơn mô hình (1)
- Mô hình (2) phù hợp hơn mô hình (1)
- Khi thêm vào mô hình (1) biến CPQC làm
- Khi thêm vào mô hình (1) biến CPQC làm
cho giá trò của hệ số hiệu chỉnh tăng lên. t cứ
cho giá trò của hệ số hiệu chỉnh tăng lên. t cứ
là
là
.,
.,
biến mới (CPQC) đưa vào mô hình có ý nghóa.
biến mới (CPQC) đưa vào mô hình có ý nghóa.
HỆ SỐ XÁC ĐỊNH MƠ HÌNH

•
So sánh hai giá trị R2 :
Nguyên tắc so sánh :
- Cùng cỡ mẫu n .
- Cùng các biến độc lập.
- Biến phụ thuộc phải ở dạng giống nhau. Biến độc lập có thể ở bất
cứ dạng nào.
HỆ SỐ XÁC ĐỊNH MÔ HÌNH
1. Ma trận tương quan (Correlation Matrix)
1. Ma trận tương quan (Correlation Matrix)
Xét mô hình như sau:
Xét mô hình như sau:
1 2 2 3 3

i i k ki
Y X X X U
β β β β
= + + + + +
Khi đó mối quan hệ
Khi đó mối quan hệ
giữa các biến độc lập
giữa các biến độc lập
và biến phụ thuộc được
và biến phụ thuộc được
thể hiện qua ma trận
thể hiện qua ma trận
tương quan sau
tương quan sau
2 3
2

3


k
k
X X X Y
X
X
R
X
Y
 
 ÷
 ÷
 ÷
=
 ÷
 ÷
 ÷
 ÷
 
2 2
1
,X X
r =
3 3
, ,
k k
X X X X
r r=

Ý nghóa :
Ý nghóa :


- Khảo sát tất cả các mối quan hệ của các biến
- Khảo sát tất cả các mối quan hệ của các biến
có trong mô hình
có trong mô hình


- Nhận xét cho hiện tượng cộng tuyến, đa cộng
- Nhận xét cho hiện tượng cộng tuyến, đa cộng
tuyến (Được đánh giá bởi công thức sau)
tuyến (Được đánh giá bởi công thức sau)
( )
0 0
0 0
2 2
1 1
,
, ,
(/
max(
)
)
i j
i j i j
X X
X X X X
VIF r

r r R
R= −
= ∈
Nếu VIF>10 thì MH có ĐCT.
MỐI QUAN HỆ GIỮA CÁC
BIẾN TRONG MƠ HÌNH