Tài liệu Đa cộng tuyến docx

BÀI GIẢNG
KINH TẾ LƯỢNG
ECONOMETRICS
Lê Anh Đức
Khoa Toán kinh tế
ĐH Kinh tế Quốc dân
1
CHƯƠNG V: ĐA CỘNG TUYẾN
(MULTICOLLINEARITY)
5.1. Bản chất của hiện tượng đa cộng tuyến
5.2. Hậu quả của hiện tượng đa cộng tuyến
5.3. Phát hiện đa cộng tuyến
5.4. Khắc phục hiện tượng đa cộng tuyến
5.5. Thí dụ
2
5.1. Bản chất của đa cộng tuyến
•
Trong các mô hình hồi quy bội ta luôn giả thiết các biến
độc lập không có đa cộng tuyến với nhau. Trong thực tế
giả thiết này có thể bị vi phạm.
•
Xét mô hình hồi quy k biến
•
Đa cộng tuyến là hiện tượng xảy ra đối với mô hình hồi
quy bội khi các biến độc lập có quan hệ cộng tuyến với
nhau và được chia làm hai loại:
- Đa cộng tuyến hoàn hảo (Perfect Multi)
- Đa cộng tuyến không hoàn hảo (Inperfect Multi).
3
1 2 2 3 3

i i i k ki i
Y X X X U
β β β β
= + + + + +
1. Đa cộng tuyến hoàn hảo
•
Là hiện tượng mà giữa các biến độc lập của mô hình có
quan hệ thoả mãn điều kiện sau:
Trong đó: λ
2
, λ
3
,…, λ
k
là các hệ số không đồng thời bằng
không, tức là:
•
Giả sử: λ
2
≠0. Khi đó (1) có thể viết thành biểu thức như
sau:
Tức là X
2i
phụ thuộc hàm số vào các biến độc lập còn
lại.
2 2 3 3
0(1)
i i k ki
X X X
λ λ λ

+ + + =
4
2 2 2
2 3
0
k
λ λ λ
+ + + ≠
3
4
2 3 4
2 2 2

k
i i i ki
X X X X
λ λ
λ
λ λ λ
= − − − −
2. Đa cộng tuyến không hoàn hảo
•
Là hiện tượng mà giữa các biến độc lập của mô hình có
quan hệ thoả mãn điều kiện sau:
Trong đó: V
i
là sai số ngẫu nhiên và λ
2
, λ
3

,…, λ
k
là các
hệ số không đồng thời bằng không, tức là:
•
Giả sử: λ
2
≠0. Khi đó (1) có thể viết thành biểu thức như
sau:
Tức là X
2i
phụ thuộc tương quan với các biến độc lập
còn lại.
2 2 3 3
0(2)
i i k ki i
X X X V
λ λ λ
+ + + + =
5
2 2 2
2 3
0
k
λ λ λ
+ + + ≠
3
4
2 3 4
2 2 2 2

1

k
i i i ki i
X X X X V
λ λ
λ
λ λ λ λ
= − − − − −
1.3. Nguyên nhân của đa cộng tuyến
•
Do bản chất các biến độc lập đã có sẵn quan hệ
cộng tuyến với nhau.
•
Do số liệu mẫu không ngẫu nhiên hoặc kích
thước mẫu không đủ lớn nên không đại diện tốt
nhất cho tổng thế.
•
Do quá trình xử lý số liệu đã được làm trơn.
•
Do chỉ định mô hình sai.
6
5.2. Hậu quả của hiện tượng đa cộng tuyến
•
Xét mô hình
- Nếu có đa cộng tuyến hoàn hảo thì lúc đó không thể
ước lượng được các hệ số hồi quy và phương sai của
chúng là vô hạn.
- Giả sử:

7
1 2 2 3 3i i i i
Y X X U
β β β
= + + +
2 3 2 3 23 32
( 0) = 1
i i i i
X X x x r r
λ λ λ
= ⇔ = ≠ ⇒ =
- Khi đó:

8
2
2 3 3 2 3
1 1 1 1
2
2 2 2
2 3 2 3
1 1 1
2
3 2 2 2 3
1 1 1 1
3
2 2 2
2 3 2 3
1 1 1
2
2

2
( )( ) ( )( )
0
ˆ
0
( )( ) ( )
( )( ) ( )( )
0
ˆ
0
( )( ) ( )
ˆ
( )
n n n n
i i i i i i i
i i i i
n n n
i i i i
i i i
n n n n
i i i i i i i
i i i i
n n n
i i i i
i i i
i
x y x x y x x
x x x x
x y x x y x x
x x x x

Var
x
β
β
σ
β
= = = =
= = =
= = = =
= = =
−
= =
−
−
= =
−
=
∑ ∑ ∑ ∑
∑ ∑ ∑
∑ ∑ ∑ ∑
∑ ∑ ∑
2 2
23
1
2
3
2 2
3 23
1
(1 )

ˆ
( )
(1 )
n
i
n
i
i
r
Var
x r
σ
β
=
=
→+∞
−
= →+∞
−
∑
∑
- Nếu có đa cộng tuyến không hoàn hảo thì lúc đó có thể
ước lượng được hệ số hồi quy tuy nhiên sẽ dẫn đến một
số hậu quả nhất định.
- Giả sử:
+ Phương sai và hiệp phương sai của các hệ số hồi quy
ước lượng được sẽ tăng lên cùng với mức độ đa cộng
tuyến.
+ Các khoảng tin cậy của các hệ số hồi quy sẽ rộng hơn
và kiểm định T có thể mất ý nghĩa vì luôn có xu hướng

thừa nhận H
0
.
9
2 3 23 32
( 0) 1
i i i
x x V r r
λ λ
= + ≠ ⇒ = ≈ ±
+ Hệ số R
2
có thể khá cao nhưng các giá trị giá trị thống
kê của kiểm định T khá nhỏ, điều này tạo ra sự mâu thuẫn
về ý nghĩa của hệ số R
2
. Khi đó các kiểm định T và F có
thể cho kết luận mâu thuẫn vì kiểm định F luôn có xu
hướng bác bỏ H
0
.
+ Mô hình trở lên nhạy cảm với sự thay đổi của số liệu.
+ Dấu của các hệ số hồi quy ước lượng được có thể không
phù hợp với lý thuyết kinh tế và việc thêm hoặc bớt một
biến độc lập có thể làm thay đổi đáng kể về dấu và giá trị
của các hệ số hồi quy ước lượng được.
10
•
Chú ý:
- Trong thực tế đa cộng tuyến hoàn hảo gần như không

bao giờ xảy ra vì sự phụ thuộc hàm số giữa các biến
độc lập chỉ tồn tại về mặt lý thuyết. Do đó trong các
mô hình hồi quy bội khi nói đến vấn đề đa cộng tuyến
thì chúng ta hiểu đó là hiện tượng đa cộng tuyến không
hoàn hảo.
- Đối với mô hình hồi quy bội người ta không xem xét
vấn đề có hay không có đa cộng tuyến mà xem xét
mức độ nghiêm trọng của đa cộng tuyến.
- Nói chung khi có đa cộng tuyến không hoàn hảo các
ước lượng nhận được vẫn có tính chất không chệch
nên vẫn có thể dùng để dự báo.
11
5.3. Phát hiện ra đa cộng tuyến
•
Đa cộng tuyến đề cập đến điều kiện của các biến độc
lập được giả thiết là phi ngẫu nhiên nên nó là vấn đề
liên quan đến tệp số liệu mẫu chứ không phải của tổng
thể do đó chúng ta không kiểm định đa cộng tuyến.
•
Không có một phương pháp thực sự hoàn thiện để phát
hiện đa cộng tuyến. Chúng ta chỉ có các dấu hiệu cho
thấy có thể có hiện tượng đa cộng tuyến.
•
Xét mô hình
12
1 2 2

i i j ji k ki i
Y X X X U
β β β β

= + + + + + +
1. Phân tích định tính
Căn cứ vào nội dung kinh tế của các biến độc lập có
trong mô hình để xem xét khả năng có tồn tại hiện
tượng đa cộng tuyến trong mô hình hay không.
2. Căn cứ vào các kết luận của kiểm định T và F
Nếu các kết luận mâu thuẫn với nhau thì đó có thể là
dấu hiệu của đa cộng tuyến.
3. Căn cứ vào hệ số tương quan của các biến độc lập:
Nếu các hệ số tương quan khá cao thì có thể nghi ngờ
có hiện tượng đa cộng tuyến.
13
4. Dùng hồi quy phụ
- Bước 1: Hồi quy mô hình phụ sau
- Bước 2: kiểm định cặp giả thiết
mô hình có đa cộng tuyến
mô hình không có đa cộng tuyến
+ Tiêu chuẩn kiểm định:

k số hệ số trong mô hình gốc
+ Miền bác bỏ với mức ý nghĩa α cho trước

14
2
1 2 2 1 1 1 1
( 2 )
ji i j j i j j i k ki i j
X X X X X V R j k
λ λ λ λ λ
− − + +

= + + + + + + + ⇒ ∀ = ÷
2
0
2
1
: 0
: 0
j
j
H R
H R

=


>


2
2
/( 1 1)
( 2, 1)
(1 )/( 1)
j
j
j
R k
F F k n k
R n k
− −

= − − +
− − +
:
{ }
: ( 2, 1)
j j
W F F F k n k
α
= > − − +
5. Nhân tử phóng đại phương sai (Variance inflating
factor – VIF)
- Bước 1: Hồi quy biến X
j
với các biến độc lập còn lại
tìm được
- Bước 2: Xác định đại lượng
- Nếu VIF(X
j
) > 10 thì X
j
có thể cộng tuyến với các biến
độc lập còn lại.
15
2
j
R
2
1
( ) ( 2 )
1

j
j
VIF X j k
R
= = ÷
−
6. Độ đo Theil
- Bước 1: hồi quy mô hình đã cho thu được R
2

- Bước 2: Lần lượt hồi quy các mô hình sau:
- Bước 3: Xác định đại lượng
+ Nếu thì mô hình gốc không có đa cộng tuyến
+ Nếu thì mô hình gốc có đa cộng tuyến hoàn hảo
- Như vậy độ đo Theil đo mức độ cộng tuyến chung
của mô hình.
16
2
1 2 2 1 1 1 1
( 2 )
i i j j i j j i k ki i j
Y X X X X V R j k
β β β β β
− − + +
= + + + + + + + → ∀ = ÷
2 2 2
2
( )
k
j

j
m R R R
=
= − −
∑
5.4. Khắc phục hiện tượng đa cộng tuyến
1. Sử dụng thông tin tiên nghiệm
•
Các thông tin tiên nghiệm được khai thác từ kinh nghiệm
thông qua quan sát thực tế hoặc sử dụng các kết luận của kinh
tế học.
•
Sử dụng các thông tin tiên nghiệm ta có thể ước lượng một
phần các hệ số hồi quy
•
Ví dụ
•
Nếu có cơ sở cho rằng hàm sản xuất này có tính chất hiệu quả
không đổi theo quy mô thì ta sử dụng kết luận: β
2
+ β
3
= 1 để
ước lượng mô hình sau:
•
Mô hình này không có đa cộng tuyến
17
3
2
1 1 2 3

ln ln ln ln
i
U
i i i i i i i
Q K L e Q K K U
β
β
β β β β
= ⇔ = + + +
2 2 2
1
1 1 1 2
( ) ln( ) ln ln( )
i i
U U
i i i i
i i i i
i i i i
Q K Q K
Q K L e e U
L L L L
β β β
β β β β
−
= ⇔ = ⇔ = + +
2. Sử dụng mô hình sai phân cấp 1
•
Xét mô hình 3 biến với số liệu theo thời gian
•
Tại thời điểm (t-1) ta có mô hình:

•
Giả sử X
2
và X
3
có đa cộng tuyến. Khi đó ta xét mô hình
sau:
Mô hình này gọi là mô hình sai phân cấp 1
•
Thực tế cho thấy mô hình sai phân cấp 1 đã giảm được
đáng kể mức độ đa cộng tuyến của mô hình gốc.
18
1 2 2 3 3t t t t
Y X X U
β β β
= + + +
1 1 2 2 1 3 3 1 1t t t t
Y X X U
β β β
− − − −
= + + +
1 2 2 2 1 3 3 3 1 1
* * *
2 2 3 3
( ) ( ) ( )
t t t t t t t t
t t t t
Y Y X X X X U U
Y X X V
β β

β β
− − − −
− = − + − + −
⇒ = + +
•
Hạn chế của phương pháp này:
- Chỉ dùng được với những số liệu theo thời gian
- Không ước lượng được
- Mất đi một quan sát đầu tiên
- U
t
có thể thoả mãn mọi giả thiết của OLS song
V
t
thì có thể vi phạm.
19
3. Giảm đa cộng tuyến trong mô hình hồi quy đa thức
•
Khái niệm đa cộng tuyến chỉ tồn tại ở bậc nhất chứ
không ở các bậc khác. Vì vậy không có đa cộng tuyến
giữa các bậc của đa thức song có thể có đa cộng tuyến
trong bản thân dãy số liệu của biến độc lập. Vì vậy để
giảm bớt mức độ đa cộng tuyến ta có thể chuyến sang
hồi quy mô hình sai phân với giá trị trung bình
•
Xét mô hình:
- Ta xây dựng mô hình:
- Thay vì tuyến tính hoá mô hình (1) và ước lượng nó
ta sẽ ước lượng mô hình (2).
20

2 3
1 2 3 4
(1)
i i i i i
TC Q Q Q U
β β β β
= + + + +
2 3
1 2 3 4
* * * *
1 2 2 3 3 4 4
( ) ( ) ( )
(2)
i i i i i
i i i i i
TC TC Q Q Q Q Q Q U
TC Q Q Q U
β β β β
β β β β
− = + − + − + − +
⇔ = + + + +
4. Một số biện pháp khác
•
Tăng kích thước mẫu hoặc lấy mẫu mới nếu có
thể.
•
Bỏ bớt biến độc lập ra khỏi mô hình nếu có thể.

21