Kinh tế lượng - Phương sai sai số thay đổi.docx

Nhóm 08 – KTL – 1113AMAT0411
PHẦN LÝ THUYẾT
1. Khái niệm, định nghĩa
Khi nghiên cứu mô hình hồi quy tuyến tính cổ điển, chúng ta đưa ra giả thiết rằng: Phương
sai của mỗi một ngẫu nhiên U
i
trong điều kiện đã cho của biến độc lập X
i
là không đổi,
nghĩa là:
Var(U
i
/X
i
) = E(U
i
)
2
= σ
2

1,n
i=
́
¿
¿
Ngược lại với trường hợp trên là trường hợp: Phương sai có điều kiện Y
i
thay đổi khi X
i
thay đổi, nghĩa là

X
i
U
i
/¿=σ
i
2
Var ¿
(trong đó các
σ
i
2
là khác nhau).
2. Nguyên nhân
Phương sai thay đổi có thể do một trong số các nguyên nhân sau đây:
• Do bản chất của các mối liên hệ kinh tế: Có nhiều mối liên hệ kinh tế đã chứa
đựng hiện tượng này. Chẳng hạn mối quan hệ giữa thu nhập và tiết kiệm, thông
thường thu nhập tăng thì mức độ biến động của tiết kiệm cũng tăng.
• Do kỹ thuật thu thập số liệu được cải tiến, σ
2
dường như giảm. Kỹ thuật thu thập
số liệu càng được cải tiến thì sai lầm phạm phải càng ít hơn.
• Do con người học được hành vi trong quá khứ. Chẳng hạn, lỗi của người đánh
máy càng ít nếu thực hành càng tăng…
Trường hợp phương sai không đồng đều thường gặp khi thu thập số liệu theo không gian
(cùng thời điểm nhưng có nhiều đối tượng khác nhau, chẳng hạn như nhiều hộ tiêu dùng ở
những địa phương khác nhau, nhiều xí nghiệp, công ty khác nhau,….)
3. Phương pháp bình phương nhỏ nhất
3.1. Phương pháp bình phương nhỏ nhất có trọng số
Xét mô hình hồi quy hai biến:

Y
i
= β
1
+ β
2
X
i
+U
i
(6.3.1)
Như ta đã biết, đối với phương pháp bình phương nhỏ nhất không có trọng số,
̂
β
1,
̂
β
2
thỏa mãn điều kiện: tổng bình phương các phần dư cực tiểu, tức là:

Y
i
¿
¿
∑
i=1
n
e
i

2
=
∑
i=1
n
¿
i
)
2
→

min (6.3.2)
Đối với phương pháp bình phương nhỏ nhất có trọng số,
̂
β
1,

̂
β
2
thỏa mãn điều
kiện: tổng bình phương các phần dư có trọng số đạt cực tiểu, tức là:

Y
i
−
̂
β
1
¿

−
̂
β
2
¿
X
i
∑
I=1
n
W
i
e
i
2
=
∑
i=1
n
W
i
¿
)
2
→
min (6.3.3)
Trong đó
̂
β
1

¿
,
̂
β
2
¿
là các ước lượng bình phương nhỏ nhất có trọng số, W
i
được định nghĩa
như sau:
1
Nhóm 08 – KTL – 1113AMAT0411
W
i
¿
1
σ
i
2
(
∀i ¿
; Var(
X
i
U
i
/¿=¿ σ
i
2
(6.3.4)

Bằng cách lý luận như trường hợp không có trọng số ta tìm được

̂
β
1
¿
=
́
Y
¿
−
̂
β
2
¿
́
X
¿

W
i
∑
I= 1
n
¿
[
∑
I = 1
n
W

i
X
i
Y
i
−
(
∑
I= 1
n
W
i
X
i
)
(
∑
I =1
n
W
i
Y
i
)
]
¿
¿
̂
β
2

¿
=¿
Trong đó:

́
Y
¿
=
∑
I =1
n
W
i
Y
i
∑
I =1
n
W
i
́
X
¿
=
∑
I =1
n
W
i
X

i
∑
I=1
n
W
i
Rõ ràng khi W
i
∀
¿w ¿
i) thì trung bình trọng số bằng trung bình thông thường.
3.2. Phương pháp bình phương nhỏ nhất tổng quát
Bây giờ ta trở lại trường hợp ước lượng OLS của
β
2
ở trên là
̂
β
2.
Hệ số
̂
β
2.

vẫn là ước lượng tuyến tính không chệch, nhưng không phải là tốt nhất. Nguyên nhân là do
giả thiết phương sai của sai số là không đổi bị vi phạm.
Vậy làm cách nào để khắc phục tình trạng đó, để trả lời câu hỏi này , chúng ta cần phân
biệt trường hợp đã biết hoăc chưa biết phương sai. Trong phần nay chúng ta chi cần đưa ra
một phương pháp tổng quát để đưa mô hình không thỏa mãn giả thiết phương sai sai số
không đổi về mô hình thỏa mãn giả thiết này để làm cơ sở xem xét ảnh hương cua việc vi

phạm giả thiết.
Xét mô hình hai biến
Y
i
= β
1
+ β
2
X
i
+U
i
. Trong đó tất cả các giả thiết cua mô hình hồi quy tuyến tính
cổ điển đều thỏa mãn trừ giả thiết phương sai sai số không đổi. Phương trình này có thể
viết dưới dạng:
Y
i
=β
1
X
0i
+ β
2
X
i
+U
i
(6.3.5)
Trong đó
X

0i
=1
(
∀i ¿
Với mỗi I, chia cả hai vế của 6.3.5 cho
σ
i
(
σ
i
>0¿
ta được:

Y
i
σ
i
= β
1
X
0i
σ
i
+ β
2
X
i
σ
i
+

U
i
σ
i
Đặt
Y
i
¿
=
Y
i
σ
i
;
X
0i
¿
=
X
0i
σ
i
;

X
i
¿
=
X
i

σ
i
;
U
i
¿
=
U
i
σ
i
Ta co thể viết 6.3.6 dưới dạng:
Y
i
¿
= β
1
¿
X
0i
¿
+ β
2
¿
X
i
¿
+U
i
¿

(6.3.7)
2
Nhóm 08 – KTL – 1113AMAT0411
Trong đó ta cũng sử dụng
β
1
¿
;
β
2
¿
chỉ các tham số của mô hình đã được biến đổi
để phân biệt với các tham số của ƯLBPNN thông thường
β
1
; β
2
Mục tiêu của biến đổi mô hình gốc là gì? Để thấy được điều này, chúng ta xét sai số ngẫu
nhiên U
i
*
Ta có : var(U
i
*
)=E(U
i
*
)
2
¿

1
σ
i
2
E
(
U
i
¿
)
=
σ
i
2
σ
i
2
=1
(do E(U
i
*
)
2
=
σ
i
2
¿
Vậy U
*

I
có phương sai không đổi.
Do đó chúng ta có thể áp dụng phương pháp OLS cho mô hình hồi quy (6.3.7) và được gọi
là phương pháp BPNN tổng quát. Tìm được các hệ số hồi quy:
̂
β
1
¿
=
́
Y
¿
−
̂
β
2
¿
́
X
¿
W
i
∑
I= 1
n
¿
[
∑
I = 1
n

W
i
X
i
Y
i
−
(
∑
I= 1
n
W
i
X
i
)
(
∑
I =1
n
W
i
Y
i
)
]
¿
¿
̂
β

2
¿
=¿


Var(
̂
β
2
¿
)=
∑
I =1
n
W
i
(
∑
I =1
n
W
i
)
(
∑
I=1
n
W
i
X

i
2
)−(
∑
I=1
n
W
i
X
i
)
2
4. Hậu quả
Khi xảy ra hiện tượng phương sai sai số tha đổi sẽ ảnh hưởng tới các ước lượng thu
được sau:
• Các ước lượng bình phương nhỏ nhất vẫn là ước lượng không chệch nhưng
không phải là ước lượng hiệu quả (ước lượng có phương sai nhỏ nhất).
• Ước lượng của các phương sai sẽ bị chệch, do đó các kiểm định mức ý nghĩa
và khoảng tin cậy dựa theo phân phối T và F không còn đáng tin cậy nữa.
5. Phát hiện phương sai sai số thay đổi
5.1. Phương pháp đồ thị phần dư
Bước 1: Ước lượng mô hình hồi quy gốc để thu được e
i.

Bước 2: Sắp xếp các e
i
theo chiều tăng của biến X
ij
nào đó.
Bước 3: Vẽ đồ thị của e

i
2
theo biến X
ij
đã sắp xếp đó. Khi đó ta nhận được 5 dạng đồ thị
sau:
3
Nhóm 08 – KTL – 1113AMAT0411
Kết luận:
- Nếu
X
ij
tăng mà giá trị của
e
i
2
cũng tăng theo thì ta có thể khẳng định là mô
hình có phương sai của sai số thay đổi.
- Nếu có dạng hình a) tức là khi
X
ij
thay đổi,
e
i
2
dao động xung quanh 1 vị trí
nào đó, thì có cơ sở để nói phương sai thuần nhất (đồng đều, không đổi).
5.2. Phương pháp sử dụng tiêu chuẩn kiểm định
5.2.1. Kiểm định Park
Kiểm định PARK là một phương pháp kiểm định hiện tượng phương sai của sai số thay đổi

trong các mô hình hồi quy. Như đã biết, đây là một phương pháp kiểm định cho kết quả
khá chính xác, tuy nhiên hạn chế của phương pháp này là nó chỉ áp dụng được đối với mô
hình hồi quy đơn.
Trong đó Park đã tiến hành hình thức hóa phương pháp đồ thị cho rằng
σ
i
2
là hàm nào
đó của biến giải thích X.Dạng hàm mà ông đề nghị là :
σ
i
2
=σ
2
X
i
β
2
e
v
i
(1)
Lấy ln của 2 vế ta được
lnσ
i
2
=lnσ
2
+ β
2

lnXi+v
i
(2)
4
Nhóm 08 – KTL – 1113AMAT0411
Vì
σ
i
2
là chưa biết nên Park đã đề nghị sử dụng
e
i
2
thay cho
σ
i
2
và ước lượng
hồi quy sau:
lne
i
2
=ln σ
i
2
+ β
2
ln X
i
+v

i
=
β
1
+ β
2
ln X
i
+v
i
(3)
Trong đó
v
i
là số hạng ngẫu nhiên
Các bước tiến hành kiểm định Park
Bước 1: Ước lượng hồi quy gốc, cho dù có hay không tồn tại hiện tượng phương sai của
sai số thay đổi.
Bước 2: Từ hồi quy gốc, thu được các phần dư sau đó bình phương chúng được
e
i
2
rồi
đến lấy
lne
i
2
Bước 3: Ước lượng hồi quy trong đó biến giải thích (
X
i

)là biến giải thích trong hồi
quy gốc, nếu có nhiều biến giải thích có thể ước lượng hồi quy đối với mỗi biến giải thích,
hoặc có thẻ ước lượng hồi quy đối với mỗi biến giải thích, trong đó với
̂
Y
i
là
Y
i

đã được ước lượng.
Bước 4: Kiểm định giả thiết
H
o
: β
2
=0
nghĩ là không có hiện tượng phương sai của sai số
thay đổi. Nếu có tồn tại mối liên hệ có ý nghĩa về mặt thống kê giữa
ln e
2
và
lnX
i
.
Thì giả thiết
H
o
:
β

2
= 0 có thể bác bỏ trong trường hợp này ta phải tìm cách khắc
phục.
Bước 5: Nếu giả thiết
H
o
:
β
2
= 0 được chấp nhận thì
β
1
trong hồi quy (3) có
thể được giải thích như là giá trị của phương sai không đổi (
β
1
=ln σ
2
).
5.2.2. Kiểm định Glejser
Kiểm định Glejser cũng tương tự như kiểm định Park. Sau khi thu được phần dư e
i
từ hồi
quy gốc theo phương pháp bình phuong nhỏ nhất. Glejser đã đề nghị hồi quy giá trị tuyệt
đối của e
i
đối với biến X
i
nào đó mà có thể kết hợp chặt chẽ với
σ

i
2
. Trong thực
nghiệm Glejser sử dụng hàm hồi quy phụ sau:
∣
e
i
∣
=β
1
+ β
2
X
i
+V
i
∣
e
i
∣
= β
1
+ β
2
√
X
i
+V
i
∣

e
i
∣
=β
1
+ β
2
1
X
i
+V
i
∣
e
i
∣
= β
1
+ β
2
1
√
X
i
+V
i
Trong các mô hình hồi quy phụ nêu trên, nếu giả thiết H
0
: β
2

= 0 bị bác bỏ thì có thể cho
5
Nhóm 08 – KTL – 1113AMAT0411
rằng mô hình hồi quy gốc có phương sai sai số thay đổi.
Cần lưu ý rằng kiểm định Glejser cũng có vấn đề như kiểm định Park như: E(V
i
) ≠ 0, V
i
có
tương quan chuỗi. tuy nhiên Glejser cho rằng với mẫu lớn thì bốn mô hình trên cho ta kết
quả tốt trong việc phát hiện phương sai sai số thay đổi. Do vậy mà kiểm định Glejser được
sử dụng như một công cụ để chuẩn đoán trong mẫu lớn.
5.2.3. Kiểm định tương quan hạng Spearman
Kiểm định tương quan hạng của Spearman.
Định nghĩa:hệ số tương quan hạng Spearman
r
s
được xác định như sau:
r
s
=1−6
∑
d
i
n(n
2
−1)
Trong đó
d
i

là hiệu của các hạng được gắn cho hai đặc trưng khác nhau cùng một
phần tử thứ i và n bằng số các phần tử được xếp hạng.
Hệ số tương quan hạng có thể được dùng để phát hiện phương sai của sai số thay đổi.
Chúng ta xét mô hình:
Y = β
1
+ β
2
X
i
+U
i

Thủ tục kiểm định như sau:
Bước 1: Ước lượng hồi quy trên tập số liệu đối với Y và X thu được phần dư
e
i
.
Bước 2: Xếp hạng
∣
e
i
∣
và
X
i
theo thứ tự giảm hoặc tăng, tính d= hạng
∣
e
i

∣
-
hạng
X
i
sau đó tính hệ số tương quan hạng Spearman.
Bước 3: giả sử hệ số tương quan hạng của tổng thể là
p
i
=0 và n>8 thì ý nghĩa của hệ
tương quan hạng mẫu
r
s
có thể được kiểm định bằng tiêu chuẩn t sau:

t=
r
s
√
n−2
√
1−r
s
2
với bậc tự do df = n - 2.
Nếu giá trị t tính được mà vượt điểm tới hạn t, chúng ta có thể chấp nhận giả thiết phương
sai của sai số thay đổi. nếu mô hình hồi quy có biến giải thích thì hệ số tương quan hạng
có thể tính giữa
∣
e

i
∣
với mỗi một biến X riêng và có thể kiểm định ý nghĩa thống kê
bằng tiêu chuẩn ở trên.
5.2.4. Kiểm định Goldfeld – Quandt
6
Nhóm 08 – KTL – 1113AMAT0411
Nếu giả thiết rằng phương sai của sai số thay đổi
σ
i
2
có thể liên hệ dương với một
trong các biến giải thích trong mhhq thì ta có thể sử dụng kiểm định này.
Xét mô hình 2 biến:
Y
i
=β
1
+ β
2
X
i
+U
i
Giả sử
σ
i
2
có liên hệ dương với biến X theo cách sau:
σ

i
2
=σ
2
X
i
2
Trong đó
σ
i
2
là hàng số. Giả thiết này có nghĩa là
σ
i
2
tỷ lệ với bình phương của
biến X. Nếu giả thiết trên là thích hợp thì điều này có nghĩa là khi X tăng
σ
i
2
cũng
tăng.
Các bước kiểm định Goldfeld - Quandt gồm các bước sau:
Bước 1: Sắp xếp các quan sát theo giá trị tăng dần về giá trị của biến X.
Bước 2: Bỏ c quan sát ở giữa theo cách sau:
Đối với mô hình 2 biến. George G.Judge đề nghị:
C = 4 nếu cỡ mẫu khoảng n = 30
C = 10 nếu cỡ mẫu khoảng n = 60
Và chia số quan sát còn lại thành 2 nhóm, trong đó mỗi nhóm có
n−c

2
quan sát.
Bước 3: Sử dụng phương pháp bình phương bé nhất ước lượng tham số hàm hồi quy đối
với
n−c
2
quan sát đầu và cuối: thu được tổng bình phương các phần dư của RSS
1
,
RSS
2
tương ứng. Trong đó RSS
1
đại diện cho RSS
2
từ hồi quy tương ứng với các giá trị của
X
i
nhỏ hơn RSS
2
- ứng với các gái trị X
i
nhỏ hơn. Bậc tự do tương ướng
2
cn −
- k hoặc
2
2kcn
−−
. Trong đó k là số các tham số được ước lượng kể cả hệ số chặn (trường hợp 2

biến k = 2).
Bước 4: Tính
F =
RSS
1
df
RSS
2
df
Nếu U
i
là phân phối chuẩn và nếu giả thiết về phương sai có điều kiện không đổi được thỏa
mãn thì F tuân theo phân phối F với bậc tự do ở tử số và mẫu số là (n-c-2k)/2, nghĩa là F có
phân phối F(df,df).
Trong ứng dụng nếu F tính được lớn hơn điểm giớ hạn F ở mức ý nghĩa mông muốn, thì
chúng ta có thể từ bỏ H
0
: phương sai có điều kiện không đổi. nghĩa là có thể nói có thể
phương sai số thay đổi.
7
Nhóm 08 – KTL – 1113AMAT0411
Chú ý rằng trong trường hợp các biến giải thích X nhiều hơn 1 thì việc sắp xếp các quan
sát trong kiểm định ở bước 1 có thể làm đối với một biến bất kỳ trong các biến giải thích
đó. Chúng ta có thể tiến hành kiểm định Park đối với mỗi biến X.
Chú ý : Theo kinh nghiệm của các nhà kinh tế lượng thì số quan sát bị loại bỏ khoảng 20%
tổng số quan sát mà không nhất thiết mà không phải bỏ đi các quan sát ở giữa.
Trong trường hợp đó cần phải xác định số bậc tự do cho thích hợp. Các thử nghiệm theo
phương pháp Monte Carlo thì c = 8 nếu n khoảng 30; c =6 nếu n khoảng 60.
5.2.5. Kiểm định Breusch – Pagan – Godfrey (BPG)
Xét mô hình hồi qui k biến sau:

Yi = β
1
+ β
2
X
2i
+ … + β
k
X
ki
+ U
i
(1)
Giả sử σ
i
2
được mô tả như là một hàm số của các biến phi ngẫu nhiên Z
i
, Z
i
là các
biến X
i
(một số hoặc tất cả) có ảnh hưởng đến σ
i
2
, có dạng:
σ
i
2

= f(Z
2i
, Z
3i
, …, Z
mi
)
Giả định f(Z
2i
, Z
3i
, …, Z
mi
) có dạng tuyến tính:
σ
i
2
= α
1
+ α
2
Z
2i
+ … + α
m
Z
mi
nếu α
2
= α

3
= … = α
m
= 0 thì σ
i
2
= α
1
là hằng số.
Do vậy, việc kiểm định xem liệu rằng σ
i
2
có thay đổi hay không, chúng ta có thể kiểm định
giả thuyết H
0
: α
2
= α
3
= … = α
m
= 0.
Kiểm định Breusch – Pagan– Godfrey qua các bước sau:
Bước 1: Ước lượng (1) bằng phương pháp OLS để thu được phần dư e
1
, e
2
, …, e
n
.

Bước 2: Tính
n
e
n
i
i
∑
=
=
1
2
2
~
σ
2
~
σ
Bước 3: Xây dựng biến p
i
= e
i
/
Bước 4: Hồi quy p
i
theo các biến Z
i
dưới dạng:
p
i
= α

1
+ α
2
Z
2i
+ … + α
m
Z
mi
+ v
i
(*)
trong đó vi là số hạng ngẫu nhiên của hồi qui này.
8
Nhóm 08 – KTL – 1113AMAT0411
Bước 5: Thu được ESS (tổng các bình phương được giải thích) từ (*) và xác định:
ESS
2
1
=
θ
Giả thuyết rằng U
i
có phân phối chuẩn và khi cỡ mẫu n tăng lên vô hạn thì θ ≈ χ
2
(m – 1).
Tức
là θ sẽ xấp xỉ χ
2
với m – 1 bậc tự do.

Như vậy, nếu trong áp dụng mà ta tính được θ vượt giá trị tra bảng χ2 với m – 1 bậc tự do
với mức ý nghĩa đã chọn, thì chúng ta bác bỏ giả thuyết H0 về phương sai đồng đều.
Ngược lại, chúng ta có thể chấp nhận nó.
5.2.6. Kiểm định White
Kiểm định BJG cần U có phân bố chuẩn, White đề nghị một thủ tục không đòi hỏi U có
phân bố chuẩn. kiểm định này là kiểm định tổng quát về sự thuần nhất của phương sai. Xét
mô hình sau đây:
Y
1
= β
1
+ β
2
X
2
+ β
3
X
3
+U
i
(
1
)
Bước 1: Ước lượng (1) bằng OLS. Từ đó thu được các phần tử dư tương ứng
e
i
Bước 2: Ước lượng mô hình sau đây:
e
i

2
=α
1
+α
2
X
2
+α
3
X
3
+α
4
X
4
2
+α
5
X
5
2
+ α
6
X
2
X
3
+V
i
(

2
)
(2) có thể số mũ cao hơn và nhất thiết là phải có hệ số chặn bất kể mô hình gốc có hay
không có hệ số chặn.
R
2
là hệ số xác định bội thu được từ (2).
Bước 3: Với
H
0
: phương sai của sai số không đổi, có thể chia ra rằng:
n R
2
có
phân xấp xỉ
χ
2
(
df
)
. Df bằng số hệ số của mô hình (2) không kể hệ số chặn.
Bước 4: Nếu
n R
2
không vượt quá giá trị
χ
2
(
df
)

, thi giả thiết
H
0
không có cơ sơ
để bác bỏ . Điều này nói trong mô hình (2):
α
1
=α
2
=...=α
6
=0
. Trong trường hợp ngược lại giả thiết
H
0
bị bác bỏ.
9
Nhóm 08 – KTL – 1113AMAT0411
Ta nhận thấy rằng bậc tự do của tăng nhanh khicos thêm biến độc lập. Trong nhiều trường
hợp người ta có thể bỏ các số hạng có chứa tích chéo
X
i
X
j
, i j. Ngoài ra trường
trường hợp có sai lầm định dạng, kiểm định White có thể đưa ra nhận định sai lầm là
phương sai của sai số thay đổi trong trường hợp phương sai của sai số là đồng nhất.
5.2.7. Kiểm định dựa trên biến phụ thuộc
Kiểm định này dựa trên ý tưởng cho rằng phương sai của yếu tố ngẫu nhiên phụ thuộc vào
các biến độc lập có hay không có trong mô hình, nhưng không biết rõ chúng là nhưng biến

nào. Vì vậy, thay vì xem xét quan hệ đó, người ta xét mô hình sau đây:
α
i
2
=α
1
+α
2
(
E
(
Y
i
)
)
2
Trong mô hình trên,
σ
i
2
và E(Y
i
) đều chưa biết, do đó sử dụng các ước lượng của nó
là
e
i
2
và
̂
Y

i
2
.
Bước 1: Ước lượng mô hình ban đầu bằng OLS. Từ đó thu được e
i
và
̂
Y
i
.
Bước 2: Ước lượng mô hình sau đây bằng OLS:
e
i
2
=α
1
+α
2
̂
Y
i
2
+v
i
Từ kết quả này thu được R
2
tương ứng. Có thể sử dụng hai kiểm định sau đây để kiểm định
giả thiết:
H
0

: Phương sai của sai số không thay đổi
H
1
: Phương sai của sai số thay đổi
• Kiểm định
χ
2
nR
2
có phân phối xấp xỉ
χ
2
(1). Nếu nR
2
lớn hơn
χ
α
2
(1) thì H
0
bị bác bỏ.
Trường hợp ngược lại không có cơ sở bác bỏ H
0
.
• Kiểm định F
F =
(
̂
α
2

se
(
̂
α
2
)
)
2
có phânbố F (1, n−2)
Nếu F > F
α
(1, n-2) thì hệ số α
2
≠ 0, có nghĩa H
0
bị bác bỏ.
6. Phương pháp khắc phục hiện tượng phương sai sai số thay đổi
Như chúng ta đã biết, phương sai của sai số thay đổi làm cho các ước lượng không còn là
ước lương hiệu quả nữa. Vì thế biện pháp khắc phục là hết sức cần thiết.Việc chữa chạy
căn bệnh này phụ thuộc chủ yếu vào liệu, được biết hay chưa. Ta phân biệt 2 trường hợp.
10