Bài tập khắc phục hiện tượng tự tương quan

Khắc phục hiện tượng tự tương quan

LỜI MỞ ĐẦU
Một trong các giả thuyết của mô hình hồi quy tuyến tính cổ điển là
không có sự tương quan hay tương quan chuỗi các nhiễu Uᵢ trong hàm hồi
quy tổng thể. Nhưng trong thực tế liệu hiện tượng đó có xảy ra hay không?
Nguyên nhân của hiện tượng đó là gì? Nếu có hiện tượng tự tương quan thì
liệu có còn áp dụng được phương pháp bình phương bé nhất nữa hay
không? Làm thế nào để biết hiện tượng tự tương quan có xảy ra hay không?
Làm thế nào để biết rằng hiện tượng tự quan đã xảy ra? Cách khắc phục
như thế nào? Đó là một loạt các câu hỏi mà chúng ta sẽ phải giải đáp trong
bài thảo luận này.

1


Khắc phục hiện tượng tự tương quan

I. LÝ THUYẾT
Các biện pháp khắc phục:
Khi có sự tương quan chuỗi các ước lượng “Bình phương nhỏ nhất thông
thường” là không hiệu quả, làm thế nào để có thể khắc phục các hiện tượng này? Có
một số biện pháp khắc phục hiện tượng đó nhưng các biện pháp lại phụ thuộc vào hiểu
biết của chúng ta về bản chất của sự phụ thuộc qua lại giữa các nhiễu. Chúng ta phân
biệt 2 tình huống:
Một là: khi tự tương quan chưa biết
Hai là: khi tự tương quan đã biết
1. Khi cấu trúc của tự tương quan là đã biết.
Vì các nhiễu

U

t

không quan sát được nên tính chất của tương quan chuỗi thường là vấn đề

suy đoán hoặc là do những đòi hỏi cấp bách của thực tiễn. Trong thực hành. người ta thường giả
sử rằng

U

t

theo mô hình tự hồi quy bậc nhất nghĩa là :

U
Trong đó ǀρǀ < 1 và

ε

t

t

= ρU t −1 + ε t

(1)

thỏa mãn các giả thiết của phương pháp bình phương nhỏ nhất

thông thường nghĩa là: Trung bình bằng 0. phương sai không đổi và không tự tương quan. Giả

sử (1) đúng thì vấn đề tương quan chuỗi có thể được giải quyết thỏa đáng nếu hệ số tự tương
quan ρ là đã biết. Để làm sáng tỏ vấn đề nào đó ta quay lại mô hình hai biến:

Y = β + β X +U
t

1

t

2

(2)

t

Nếu đúng với t thì cũng đúng với t-1 nên:

Y

t −1

=β +β

t −1

= β (1 − ρ ) + β ( X t − ρ X t −1) + ε t

1

2

X

t −1

+ U t −1

(3)

Trừ (2) cho (3) ta được:

Y − ρY
t

1

β = β (1 − ρ )
β =β
*

Đặt:

1

1

*

2

2

Ta có thể viết lại phương trình (3) dưới dạng:
2

(4)

2

Y = Y − ρY
X = X −ρX
*
t

t

t −1

*
t

t

t −1


Khắc phục hiện tượng tự tương quan

Y = β + β X +ε

Vì

ε

t

*

*

*

*

t

1

2

t

t

(5)

thỏa mãn các giả thiết của phương pháp bình phương nhỏ nhất thông thường

đối với các biến Y* và X* và các ước lượng tìm được có tất cả các tính chất tối ưu nghĩa là ước
lượng tuyến tính không chệch tốt nhất.

Phương trình hồi quy

Y − ρY
t

t −1

= β (1 − ρ ) + β ( X t − ρ X t −1) + ε t được gọi
1
2

là phương trình phương sai phân tổng quát.
Việc ước lượng hồi quy Y* đối với X* có hay không có hệ số chặn phụ thuộc vào
phương trình gốc có hệ số chặn hay không. Trong phương pháp này chúng ta mất một quan sát
bởi vì quan sát thứ nhất không có quan sát đứng trước nó. Thủ tục này không chính xác là thủ
tục ước lượng bình phương nhỏ nhất tổng quát sử dụng tất cả các quan sát với:
*

Y =Y
1

X

*
1

=

1

X

1− ρ 2
1

1− ρ 2

Trong thực tế thì ρ chưa biết nên ta xét trường hợp sau đây:

2. Khi ρ chưa biết.
Trong mục này ta sẽ xem xét một số thủ tục ước lượng ρ
2.1.

Phương pháp sai phân cấp 1:

Như ta đã biết −1 ≤ ρ ≤ 1 nghĩa là ρ nằm giữa [-1.0] hoặc [0.1] cho nên người ta có
thể bắt đầu từ các giá trị ở các đầu mút của các khoảng đo. Nghĩa là ta có thể cho:
ρ=0 tức là không có tương quan chuỗi
ρ=±1 nghĩa là có tương quan dương hoặc âm hoàn toàn
Trên thực tế, khi ước lượng hồi quy người ta thường giả thiết rằng không có tự tương
quan rồi sau đó tiến hành kiểm định Durbin- Watson hay các kiểm định khác để xem giả
thiết này có đúng không. Tuy nhiên nếu ρ=±1 thì phương trình sai phân tổng quát:

ρY

t −1

= ρβ + ρβ
1

t −1

+ ρU t −1 quy về phương trình sai phân cấp 1:
∆Y t = β ∆ X t + ε t
2

(6)

Trong đó: ∆ là bài toán tử sai cấp 1. Để ước lượng hồi quy (6) thì cần phải lập dác sai
phân cấp 1 của biến phụ thuộc và biến giải thích và sử dụng chúng làm những đầu vào trong
phân tích hồi quy.
3


Khắc phục hiện tượng tự tương quan

Chú ý:

Một nét quan trọng của mô hình sai phân cấp 1 của biến phụ thuộc là không
có số hạng chặn trong mô hình. Vì vậy để ước lượng hồi quy (6) ta cần sử dụng mô hình hồi
quy qua gốc tọa độ.
Giả sử: mô hình ban đầu là:

Y = β ∆ X + β t +U
t

Trong đó t là biến xu thế còn

U

t

2

t

3

(7)

t

theo sơ đồ tự hồi quy bậc nhất.

Thực hiện phép biến đổi sai cấp 1 đối với (7) ta đi đến:

∆Y t = β ∆ X t + β + ε t
2

Trong đó: ∆

Y = Y −Y
t

t

3

X

và

t −1

t

=

X

t

− X t −1

Nếu ρ =-1 nghĩa là có tương quan chuỗi âm hoàn toàn, phương trình sai phân tổng quát
bây giờ có dạng:

Y +Y

t −1

Y +Y

t −1

t

Hay

t

2

= 2 β + β ( X t + X t −1) + ε t
1

=β +β
1

2

X

t

+ X t −1

2

2

+εt
2

(8)

Mô hình hồi quy này được gọi là mô hình hòi quy trung bình trượt (2 thời kỳ) vì chúng
ta hồi quy giá trị của một trung bình trượt đối với một trung bình trượt khác.
Phép biến đổi sai cấp 1 đã giới thiệu trước đây rất phổ biến trong kinh tế lượng ứng
dụng vì nó dễ thực hiện. Nhưng lưu ý rằng phép biến đổi này giả thiết rằng ρ=+1 có nghĩa là

các nhiễu có tương quan dương hoàn toàn. Nếu diều đó không xảy ra thì việc khắc phục có
khi còn tồi tệ hơn. Nhưng làm thế nào để biết ρ=+1 là đúng? Để trả lời câu hỏi này ta xét
mục sau:
2.2.

Ước lượng ρ dựa trên thống kê d- Durbin- Watson:
Trong phần kiểm định d chúng ta đã thiết lập được công thức:

d ≈ 2(1 − ρˆ )
Hoặc:

ρˆ ≈ 1 −

d
2

(9)
(10)

Đẳng thức này gợi cho ta cách thức đơn giản để thu được ước lượng của ρ từ thồng kê
d. Từ (7) chỉ ra rằng giả thiết sai phân cấp 1 với ρ=±1 chỉ đúng khi d=0 hoặc xấp xỉ bằng

4


Khắc phục hiện tượng tự tương quan
không. Cũng vậy khi d=2 thì ρˆ =0 và khi d=4 thì ρˆ =-1. Do đó thống kê d cung cấp cho ta
một phương pháp sẵn có thể thu được ước lượng của ρ.
Nhưng lưu ý rằng quan hệ (9) chỉ là quan hệ xấp xỉ và có thể không đúng với các mẫu
nhỏ.

Khi ρ đã được ước lượng thì có thể biến đổi tập số liệu như đã chỉ ra ở (4)và tiến hành
ước lượng theo phương pháp BPNN thông thường. Khi ta sử dụng một ước lượng thay thế
cho giá trị đúng, thì các hệ số ước lượng thu được từ phương pháp BPNN có thuộc tính tối
ưu thông thường chỉ tiệm cận có nghĩa là có thuộc tính đó trong các mẫu lớn.
Vì vậy trong các mẫu nhỏ ta phải cẩn thận trong khi giải thích các kết quả ước lượng.
2.3.

Thủ tục lặp Cochrane - Orcutt để ước lượng ρ
Phương pháp này sử dụng các phần dư

e đã được ước lượng để thu được thông tin về ρ
t

chưa biết.
Ta xét phương pháp này thông qua mô hình hai biến sau:

Y = β + β X +U
t

Giả sử

U

t

1

2

t

t

được sinh ra từ lược đồ AR(1) cụ thể là

U

t

= ρU t −1 + ε t

(11)

Các bước ước lượng ρ được tiến hành như sau:
Bước 1: Ước lượng mô hình 2 biến bằng phương pháp BPNN thông thường và thu được
các phần dư

ε

t

.

Bước 2: Sử dụng các phần dư đã ước lượng để ước lượng hồi quy:

e

t

= ρˆU t −1 + v t

(12)

Bước 3: Sử dụng ρˆ thu được từ (11) để ước lượng phương trình sai phân tổng quát( 4)
cụ thể là phương trình:

Y − ρˆY
t

t −1

= β (1 − ρˆ ) + β ( X t − ρˆ X t −1) + (U t − ρˆU t −1)
1

2

5


Khắc phục hiện tượng tự tương quan
*

Y = Y − ρˆY
β = β (1 − ρˆ )
β =β
t

t −1

t

*

Hoặc đặt :

1

1

*

2

2

Ta ước lượng mô hình hồi quy (13)

Y = β + β X +e
*

*

*

*

*

t

1

2

t

t

(13)

Bước 4: Vì chúng ta chưa biết được rằng ρˆ thu được từ (12) có phải là ước lượng tốt
nhất của ρ hay không, ta thế giá trị

βˆ = βˆ (1 − ρˆ ) và βˆ
*

1

1

*
2

thu được từ (13) vào hồi quy gốc

ban đầu

Y = β + β X +U
t

1

t

2

t

và thu được các phần dư mới chẳng hạn e **

eˆ = Y − βˆ − βˆ X
**

t

*

*

1

2

t

(14)

Các phần dư có thể tính dễ dàng.
Ước lượng phương trình hồi quy tương tự với (12)

e

**
t

**
= ρˆˆ e t −1 + W t

(15)

ρˆˆ là ước lượng vòng 2 của ρ
Thủ tục này tiếp tục cho đến khi các ước lượng kế tiếp nhau của ρ khác nhau một lượng
rất nhỏ chẳng hạn bé hơn 0.01 hoặc 0.005.
2.4.

Thủ tục Cochrane- Orcutt hai bước:

Đây là một kiểu rút gọn quá trình lặp. Trong bước 1 ta sử dụng ρ từ bước lặp đầu tiên nghĩa
là từ phép hồi quy

Y = β + β X +U
t

1

2

t

t

và trong bước 2 ta sử dụng ước lượng của ρ để

ước lượng phương trình sai phân tổng quát.

2.5.

Phương pháp Durbin- Watson 2 bước để ước lượng ρ:

Để minh họa phương pháp này chúng ta viết lại phương trình sai phân tổng quát dưới dạng
sau:
6


Khắc phục hiện tượng tự tương quan

Y =β
t

(1 − ρ ) + β

1

2

X

t

− ρβ

2

X

t −1

+ ρY t −1 + ε t

(16)

Durbin đã đề xuất thủ tục 2 bước để ước lượng ρ
Bước 1: Coi (16) như là một mô hình quy bội hồi quy theo

Y

t −1

và coi giá trị ước lượng được của hệ số hồi quy của

Y

t −1

Y

t

theo

X . X
t

t −1 và

(= ρˆ ) là ước lượng của ρ. Mặc

dù là ước lượng chệch nhưng ta có ước lượng vững của ρ.
Bước 2: Sau

X

*
t

=

X

t

khi

ρˆ , hãy đổi biến

thu được

*

Y =Y

t

t

− ρˆY t −1

và

− ρˆ X t −1 và ước lượng hồi quy bằng phương pháp BPNN trông thường trên các

biến đã biến đổi đó như :

Y

*
t

=β +β
*

*

1

2

X +ε
*
t

t

Như vậy theo phương pháp này thì bước 1 là ước lượng ρ còn bước 2 là để thu được các
ước lượng tham số.
2.6.

Các phương pháp khác ước lượng ρ:

Ngoài các phương pháp để ước lượng ρ đã trình bày ở trên còn có một số phương pháp
khác. Chẳng hạn ta có thể dùng phương pháp hợp lý cực đại để ước lượng trực tiếp các tham số
của (16) mà không cần dùng đến một số thủ tục lặp đã thảo luận. Nhưng phương pháp ước
lượng hợp lý cực đại liên quan đến thru tục ước lượng phi tuyến ( đối với các tham số) và thru
tục tìm kiếm của Hildreth-Lu nhưng thủ tục này tốn nhiều thời gian và không hiệu quả so với
phương pháp ước lượng hợp lý cực đại nên ngày nay không được dùng nhiều.

7


Khắc phục hiện tượng tự tương quan

II. BÀI TẬP THỰC HÀNH TRÊN EVIEWS
Ta có số liệu của một mẫu gồm 8 quan sát như sau:

Y

X

Z

5

3

7

7

4

6

8

5

5

8

6

4

9

7

4

6

3

7

4

2

8

7

5

5

Trong đó: - Y là lượng hàng bán được của một loại hàng, đơn vị tính là tấn/tháng.
- X là thu nhập của người tiêu dùng, đơn vị tính là triệu đồng/tháng.
- Z là giá bán của mặt hàng này, đơn vị tính là ngàn đồng/kg.
Ta có mô hình hồi quy của Y theo X 1 và X 2 như sau: Y i = β 1 + β 2 X i + β 3 Z i

8


Khắc phục hiện tượng tự tương quan

Bài làm:

Từ số liệu trên ta giải trên eviews ta được mô hình hồi quy :

Y

i

= 6, 714286 + 0,571429 X i − 0, 428571Z i

Phương pháp đồ thị:
Ta được đồ thị Residual = eᵢ đồ thị phần dư

9


Khắc phục hiện tượng tự tương quan

Nhìn vào đồ thị phần dư ta thấy có xu hướng tuyến tính, tăng hoặc giảm trong các
nhiễu. Nó ủng hộ cho giả thiết có sự tương quan trong mô hình hồi quy tuyến tính cổ
điển.

10


Khắc phục hiện tượng tự tương quan

-

Ta tìm phần dư e và Vẽ đồ thị phần dư e:

Kiểm định Durbin Watson:
Ta có kết quả của thống kê d, d=2.047619 trong đó n=8, α=5%, k’=1

0

→dL= 0.763

; dU=1.332

→4 – dL = 3.237

; 4 – dU =2.668

dL

dU

2

(tra bảng)

4 - dU

4 - dL

Ta có :
0 < d < dL : không có tự tương quan → bác bỏ giả thiết H₀ nghĩa là tương quan thuận
chiều dương
dL ≤ d ≤ dU : không có tự tương quan dương→ miền không có kết luận
4 – dL < d < 4: không có tự tương quan âm→ chấp nhận giả thiết H₀. không có tương
quan chuỗi bậc 1
11

4


Khắc phục hiện tượng tự tương quan
4 – du ≤ d ≤ 4 – dL: không có tự tương quan âm→ miền không có kết luận
dᵤ < d <4 – du: không có tự quan dương hoặc âm→bác bỏ H₀ chứng tỏ có tương quan
ngược chiều(âm)
từ bảng trên ta thấy:
tương quan bậc 1).

dᵤ < d < 4 – d u

→ xảy ra hiện tượng tự quan âm (không có

Kiểm định Breusch - Godfrey (BG):
-

Ta chọn ρ=1 ta được bảng kết quả:

Nhìn vào bảng kết quả ta có X²=0.6632
Với α=0.05 <0.6632 → bác bỏ giả thiết cho rằng có tự tương quan ở bậc 1 hay kết luận
không tồn tại hiện tượng tự tương quan bậc 1.
12


Khắc phục hiện tượng tự tương quan

-

Ta chọn ρ=2 ta được bảng kết quả:

với α=0.05 >0.0322 → ta bác bỏ giả thiết cho rằng không có tự tương quan ở bậc 2
hay kết luận rằng tồn tại hiện tượng tự tương quan bậc 2.
-

Kiểm định Correlogram:
Ta được kiểm định LM để dạng AR(1)

13


Khắc phục hiện tượng tự tương quan

Ta được Q-Stat =0.1960 hay p-value ≈0 → bác bỏ H₀ hay có AR (1)
Khắc phục hiện tượng tự tương quan:
Khắc phục hiện tượng tự tương quan dựa trên thống kê d
Trong bảng kết quả hồi quy ở Durbin- Watson Stat. ta có kết quả thống kê d
d= 2.047619→ ρˆ ≈ 1 − d
2
=1- 2.047619/2=-0.0238095
Phương trình sai phân tổng quát:
14


Khắc phục hiện tượng tự tương quan
Yt = Y + 0.0238095Y(t-1)
Xt = X + 0.0238095X(t-1)

Z

t

= Z + 0, 0238095Z( t −1)

Bằng excel ta tính được Yt. Xt và Xt:
n
1
2
3
4
5
6
7
8

Y

Yt

X

5
3
7
476197 4
8
238103 5
8
6

8
9
238104 7
6
-714279 3
4
-476186 2
7
714292 5
Ước lượng mô hình trên ta có kết quả:

Xt

Z

7
238099 6
238100 5
238101 4
238102 4
-952377 7
-238093 8
714290 5

15

Zt
-238089
-238090
-238091

4
714292
238103
-714280


Khắc phục hiện tượng tự tương quan
Nhìn vào bảng số liệu trên ta có: d=2.149093 có n=7 ;α=0.05 ; k’=1→d L=0.700;
du=1.356; 4 – dL = 3.3; 4 – du = 2.644
→ du < d < 4 – du: Không có tự tương quan dương hoặc âm.
Kiểm định BG bậc 1 ta được:

Nhìn vào bảng kết quả trên ta có X²=0.4627
Với α= 0.05 <0.4627→ ta chấp nhận giả thiết cho rằng không có tự tương quan ở bậc 1
hay nói cách khác.ta kết luận không tồn tại tự tương quan bậc 1

16


Khắc phục hiện tượng tự tương quan
Kiểm định BG2 ta được:

Nhìn vào bẳng kết quả ta thấy X²= 0.0554
Với α= 0.05 <0.0554→ ta chấp nhận giả thiết cho rằng không có tự tương quan ở bậc 2
hay nói cách khác.ta kết luận không tồn tại tự tương quan bậc 2
→ ta thấy các kiểm định dựa trên Durbin Watson . kiểm định BG đều cho biết mô hình

sai phân tổng quát không có dấu hiệu tự tương quan. Nên chấp nhận mô hình này thì
ước lượng ban đầu của mô hình là:

Yˆ = β
t

(1 − ρ ) + β

1

2

X +β Z
t

3

t

=

2016.144 (1 - (-0.0238095)) + 0.544304Xt
-0.426160Zt

= 2496.177 + 0.544304Xt - 0.426160Zt

17


Khắc phục hiện tượng tự tương quan

MỤC LỤC
Nội dung

Trang
LỜI MỞ ĐẦU…………………………………………………………………

01

I. LÝ THUYẾT…………………………………………………………………….. 02
1. Khi cấu trúc của tự tương quan là đã biết ……………………………

02

2. Khi ρ chưa biết ………………………………………………………….... 03
2.1. Phương sai phân cấp 1 …………………………………………………

03

2.2. Ước lượng ρ dựa trên thống kê d- Durbin- Watson …………………….. 04
2.3. Thủ tục lặp Cochrane - Orcutt để ước lượng ρ …………………………

05

2.4. Thủ tục Cochrane- Orcutt hai bước ………………………………….....

06

2.5. Phương pháp Durbin- Watson 2 bước để ước lượng ρ…………………...

07

2.6. Các phương pháp khác ước lượng ρ ………………………………………… 07
II. BÀI TẬP THỰC HÀNH TRÊN EVIEWS

……………………………………………………... 08

18