Tài liệu Yếu tố ngẫu nghiên của hệ số hồi qui pptx

Yếu tố ngẫu nghiên của hệ số
hồi qui
1
uXY
++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lượng phù hợp
Các hệ số hồi qui là các dạng đặc biệt của biến ngẫu nhiên. Chúng ta sẽ chứng minh
điều này bởi việc sử dụng mô hình hồi qui đơn trong đó Y phụ thuộc vào X. Hai
phương trình trên chỉ ra mô hình thức thế và mô hình ước lượng phù hợp
Yếu tố ngẫu nghiên của hệ số hồi qui
2
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i

ii
uXY
++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lượng phù
hợp
Chúng ta sẽ tìm hiểu đặc điểm của ước lượng hệ số góc theo phương pháp bình phương bé nhất.
Yếu tố ngẫu nghiên của hệ số hồi qui
3
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii
uXY

++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lượn phù hợp
Y cóhai thành phần: thành phần không ngẫu nhiên mà nó phụ thuộc vào X và các tham số và thành
phần ngẫu nhiên u. Vì b
2
phụ thuộc vào Y, Nó gián tiếp phụ thuộc vào u.
Yếu tố ngẫu nghiên của hệ số hồi qui
4
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii
uXY ++=

21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lương phù hợp
Nếu các giá trị của u trong mẫu là khác nhau, chúng ta sẽ có các giá trị khác nhau
của Y, và vì thế các giá trị khác nhau của b
2
. Về mặt lý thuyết chúng ta có thể
tách b
2
thành 2 thành phần ngẫu nhiên và không ngẫu nhiên.
Yếu tố ngẫu nghiên của hệ số hồi qui
Chúng ta hãy bắt đầu với tử số của ước lượng b bằng cách thay thế Y và giá trị trung bình
mẫu từ mô hình thực tế.
5
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX

b
i
ii
( )( ) ( )( )
( )( )
( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX
uXuXXXYYXX
iii
iii
iiiii
2
2
2
2121
][][
][][
β
β
ββββ
uXY
++=
21

ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lượng phù hợp
Yếu tố ngẫu nghiên của hệ số hồi qui
Số hạng
β
1
trong biểu thức thứ 2 sẽ triệt tiêu lẫn nhau. Vì thế chung ta có thể sắp xếp lại các
số hạng như trên
6
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii
( )( ) ( )( )
( )( )

( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX
uXuXXXYYXX
iii
iii
iiiii
2
2
2
2121
][][
][][
β
β
ββββ
uXY
++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ

+=
Mô hình ước lượng phù hợp
Yếu tố ngẫu nghiên của hệ số hồi qui
Chúng ta triển khai biểu thức và có
7
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii
( )( ) ( )( )
( )( )
( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX

uXuXXXYYXX
iii
iii
iiiii
2
2
2
2121
][][
][][
β
β
ββββ
uXY ++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Uớc lượng phù hợp
Yếu tố ngẫu nghiên của hệ số hồi qui
Thay thế biểu thức vào các ước lượng b
2
, Và chúng ta có thể tách b
2
thành giá trị thực tế
β
2

và sai số mà nó phụ thuộc vào giá trị của X và u.
8
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii
( )( ) ( )( )
( )( )
( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX
uXuXXXYYXX
iii

iii
iiiii
2
2
2
2121
][][
][][
β
β
ββββ
( ) ( )( )
( )
( )( )
( )
∑
∑
∑
∑∑
−
−−
+=
−
−−+−
=
2
2
2
2
2

2
XX
uuXX
XX
uuXXXX
b
i
ii
i
iii
β
β
uXY ++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lượng phù hợp
Yếu tố ngẫu nghiên của hệ số hồi qui
9
( )( )
( )
∑
∑
−
−−
=

2
2
XX
YYXX
b
i
ii
( )( ) ( )( )
( )( )
( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX
uXuXXXYYXX
iii
iii
iiiii
2
2
2
2121
][][
][][
β
β

ββββ
( ) ( )( )
( )
( )( )
( )
∑
∑
∑
∑∑
−
−−
+=
−
−−+−
=
2
2
2
2
2
2
XX
uuXX
XX
uuXXXX
b
i
ii
i
iii

β
β
uXY ++=
21
ββ
Mô hình thực tế
XbbY
21
ˆ
+=
Mô hình ước lựong phù
hợp
Thành phần sai số nó phụ thuộc vào giá trị của yếu tố ngẫu nhiên trên mỗi quan sát ở trong
mẫu vì thế nó là một loại biến ngẫu nhiên.
Yếu tố ngẫu nghiên của hệ số hồi qui
10
( )( )
( )
∑
∑
−
−−
=
2
2
XX
YYXX
b
i
ii

( )( ) ( )( )
( )( )
( ) ( )( )
∑∑
∑
∑∑
−−+−=
−+−−=
++−++−=−−
uuXXXX
uuXXXX
uXuXXXYYXX
iii
iii
iiiii
2
2
2
2121
][][
][][
β
β
ββββ
( ) ( )( )
( )
( )( )
( )
∑
∑

∑
∑∑
−
−−
+=
−
−−+−
=
2
2
2
2
2
2
XX
uuXX
XX
uuXXXX
b
i
ii
i
iii
β
β
uXY ++=
21
ββ
Mô hình thực tế
XbbY

21
ˆ
+=
Mô hình ước lưượng phù hợp
Thành phần sai số là nhân tố tạo nên sự biến động của b
2
xung quanh giá trị trung bình
β
2
.
Nếu muốn, chúng ta có thể biểu diễn các thành phần này một cách gọn hơn.
Yếu tố ngẫu nghiên của hệ số hồi qui
11
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2

2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Các thành phần này được diễn ta như trên cho đến hiện tại.
Yếu tố ngẫu nghiên của hệ số hồi qui
12
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2

2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Bước tiếp theo là làm đơn giản hóa tử số của sai số. Đầu tiên chúng ta triển khai các số
hạng trong biểu thức.
( )( ) ( ) ( )
( ) ( )
( )
∑
∑∑
∑∑∑
−=
−−−=
−−−=−−
ii
iii
iiiii
uXX
XXuuXX
uXXuXXuuXX
Yếu tố ngẫu nghiên của hệ số hồi qui

13
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Giá trị trung bình của u là thành phần chung , do đó có thể nhóm lại và đưa ra ngoài.

( )( ) ( ) ( )
( ) ( )
( )
∑
∑∑
∑∑∑
−=
−−−=
−−−=−−
ii
iii
iiiii
uXX
XXuuXX
uXXuXXuuXX
Yếu tố ngẫu nghiên của hệ số hồi qui
14
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−

=
2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Thành phần thứ 2 sẽ triệt tiêu vì tổng các độ lệch của X xung quanh giá trị trung bình sẽ tự
dộng bằng 0
( )( ) ( ) ( )
( ) ( )
( )
∑
∑∑
∑∑∑
−=
−−−=
−−−=−−
ii
iii
iiiii
uXX

XXuuXX
uXXuXXuuXX
( )
( )
0=−=−=−
∑∑
XnXnXnXXX
ii
n
X
X
i
∑
=
Yếu tố ngẫu nghiên của hệ số hồi qui
15
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=

2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Chúng ta có thể viết lại các biểu thức như trên. Cho thuận tiện , mẫu số được ký hiêu là ∆.
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
( )
( )
( )
∑∑∑
∑
∑
+=







∆
−
+=−






∆
+=
−
∆
+=
∆
−
+=
iii
i
ii
ii
ii
uau
XX
uXX
uXX
uXX

b
222
222
1
1
βββ
ββ
( )
∑
−=∆
2
XX
i
Yếu tố ngẫu nghiên của hệ số hồi qui
16
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2

2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Sắp xếp lại các số hạng đối với thành phần sai số.
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
( )
( )
( )
∑∑∑
∑
∑
+=







∆
−
+=−






∆
+=
−
∆
+=
∆
−
+=
iii
i
ii
ii
ii
uau
XX
uXX
uXX
uXX
b

222
222
1
1
βββ
ββ
Yếu tố ngẫu nghiên của hệ số hồi qui
17
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX

b
i
ii
i
ii
β
Kết quả là.
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
( )
( )
( )
∑∑∑
∑
∑
+=






∆
−
+=−







∆
+=
−
∆
+=
∆
−
+=
iii
i
ii
ii
ii
uau
XX
uXX
uXX
uXX
b
222
222
1
1
βββ
ββ
Yếu tố ngẫu nghiên của hệ số hồi qui

18
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Tương tự

( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
( )
( )
( )
∑∑∑
∑
∑
+=






∆
−
+=−






∆
+=
−

∆
+=
∆
−
+=
iii
i
ii
ii
ii
uau
XX
uXX
uXX
uXX
b
222
222
1
1
βββ
ββ
Yếu tố ngẫu nghiên của hệ số hồi qui
19
( )( )
( )
( )( )
( )
∑
∑

∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii
i
ii
β
Vì thế chúng ta đã chỉ ra rằng b
2
bằng giá trị thực tế cộng với giá trị là kết hợp tuyến tính
có trọng số của các yếu tố ngẫu nhiên trong mẫu. Trong đó trọng số là một hàm của các giá
trị X trong các quan sát ở trong mẫu.
( )( ) ( )
∑∑
−=−−

iiii
uXXuuXX
( )
( )
( )
∑∑∑
∑
∑
+=






∆
−
+=−






∆
+=
−
∆
+=
∆

−
+=
iii
i
ii
ii
ii
uau
XX
uXX
uXX
uXX
b
222
222
1
1
βββ
ββ
( )
∑
−
−
=
∆
−
=
2
XX
XXXX

a
j
ii
i
Yếu tố ngẫu nghiên của hệ số hồi qui
20
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i

ii
i
ii
β
Như chúng ta thấy, tất cả các giá trị của yếu tố ngẫu nhiên trong mẫu đều ảnh hưởng đến
giá trị tham số b
2
của mẫu
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
∑
+=
ii
uab
22
β
( )
∑
−
−
=
∆
−
=
2
XX
XXXX

a
j
ii
i
Yếu tố ngẫu nghiên của hệ số hồi qui
21
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i

ii
i
ii
β
Tóm lại, trong mẫu số của biểu thức a
i
, các chỉ số được thay thế đến j. Tại sao?
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
∑
+=
ii
uab
22
β
( )
∑
−
−
=
∆
−
=
2
XX
XXXX
a

j
ii
i
Yếu tố ngẫu nghiên của hệ số hồi qui
22
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i
ii

i
ii
β
Điều này chỉ ra rằng tổng bình phương các độ lệch của X là cho tất cả các giá trị từ 1 đến n
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
∑
+=
ii
uab
22
β
( )
∑
=
−
−
=
∆
−
=
n
j
j
ii
i
XX

XXXX
a
1
2
Yếu tố ngẫu nghiên của hệ số hồi qui
23
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX
b
i

ii
i
ii
β
Nó không kể chung ta sử dụng chỉ số nào dẫn đến tổng, có một số trường hợp chúng ta
không sử dụng chỉ số
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
∑
+=
ii
uab
22
β
( )
∑
=
−
−
=
∆
−
=
n
j
j
ii

i
XX
XXXX
a
1
2
Yếu tố ngẫu nghiên của hệ số hồi qui
24
( )( )
( )
( )( )
( )
∑
∑
∑
∑
−
−−
+=
−
−−
=
2
2
2
2
XX
uuXX
XX
YYXX

b
i
ii
i
ii
β
Nó cũng xãy ra rằng chúng ta đã sử dụng I trên tử số vì thế để tránh nhầm lẫn chúng ta nên
dùng một ký hiệu khác cho các chỉ số ở dưới mẫu số .
( )( ) ( )
∑∑
−=−−
iiii
uXXuuXX
∑
+=
ii
uab
22
β
( )
∑
=
−
−
=
∆
−
=
n
j

j
ii
i
XX
XXXX
a
1
2
Yếu tố ngẫu nghiên của hệ số hồi qui