Tài liệu Chương 3: Hồi quy bội (P2) docx

HỒI QUY TUYẾN TÍNH
BỘI (tiếp theo)
Chương 3
1. Hàm hồi quy tổng thể (PRF)
1 2 2 3 3

i i i k ki i
Y X X X U
β β β β
= + + + + +
Trong đó
•
Y là biến phụ thuộc
•
X
2
,X
3,…,
X
k
là các biến độc lập
•U
i
là các sai số ngẫu nhiên
•
β
1
:Hệ số tự do
β
2
, β

3
,…, β
k
là các hệ số hồi quy riêng
III. HỐI QUY TUYẾN TÍNH K BIẾN
III. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
1 1 2 21 3 31 1 1

k k
Y X X X U
β β β β
= + + + + +
Quan sát thứ 1 :
2 1 2 22 3 32 2 2

k k
Y X X X U
β β β β
= + + + + +
Quan sát thứ 2 :
……………………………………………………………………
1 2 2 3 3

n n n k kn n
Y X X X U
β β β β
= + + + + +
Quan sát thứ n :
III. HỐI QUY TUYẾN TÍNH K BIẾN

1. Hàm hồi quy tổng thể (PRF)
Ký hiệu
1
2

n
Y
Y
Y
Y
 
 ÷
 ÷
=
 ÷
 ÷
 
1
2

k
β
β
β
β
 
 ÷
 ÷
=
 ÷

 ÷
 
1
2

n
U
U
U
U
 
 ÷
 ÷
=
 ÷
 ÷
 
III. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Và
21 31 1
22 32 2
2 3
1
1

1
k
k
n n kn

X X X
X X X
X
X X X
 
 ÷
 ÷
=
 ÷
 ÷
 
III. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Khi đó , hệ thống các quan sát có thể được
viết lại dưới dạng :
.Y X U
β
= +
III. HỐI QUY TUYẾN TÍNH K BIẾN
2. Các giả thiết của mô hình hồi quy k
biến
Giả thiết 1 : Các biến độc lập X
1
, X
2
,…,X
k
đã cho
và không ngẫu nhiên
Giả thiết 2 : Các sai số ngẫu nhiên U

i
có giá trị
trung bình bằng 0 và có phương sai không thay
đổi
Giả thiết 3: Không có sự tương quan giữa các sai
số U
i
III. HỐI QUY TUYẾN TÍNH K BIẾN
2. Các giả thiết của mô hình hồi quy k
biến
Giả thiết 4 : Không có hiện tượng cộng tuyến giữa
các biến độc lập X
2
, X
3
,…,X
k
Giả thiết 5 : Không có tương quan giữa các biến
độc lập X
2
,X
3
,…,X
k
với các sai số ngẫu nhiên U
i
3. Ước lượng các tham số
1 2 2 3 3
ˆ ˆ ˆ ˆ

i i i k ki i
Y X X X e
β β β β
= + + + + +
SRF:
hoặc:
Hàm hồi quy mẫu :
1 2 2 3 3
ˆ ˆ ˆ ˆ
ˆ

i i i k ki
Y X X X
β β β β
= + + + +
III. HỐI QUY TUYẾN TÍNH K BIẾN
Hay : (Viết dưới dạng ma trận )
ˆ
Y X e
β
= +
3. Ước lượng các tham số
III. HỐI QUY TUYẾN TÍNH K BIẾN
Với
1
2

n
e
e

e
e
 
 ÷
 ÷
=
 ÷
 ÷
 
1
2
ˆ
ˆ
ˆ

ˆ
k
β
β
β
β
 
 ÷
 ÷
=
 ÷
 ÷
 ÷
 
ˆ

( )
i i i
e Y Y= −
1 2 2 3 3
ˆ ˆ ˆ ˆ

i i i k ki
Y X X X
β β β β
= − − − − −
1 2 2 3 3
ˆ ˆ ˆ ˆ

i i i k ki i
Y X X X e
β β β β
= + + + + +
SRF:
hoặc:
1 2 2 3 3
ˆ ˆ ˆ ˆ
ˆ

i i i k ki
Y X X X
β β β β
= + + + +
III. HỐI QUY TUYẾN TÍNH K BIẾN
Khi đó
Theo nguyên lý của phương pháp OLS thì các tham số

1 2 3
ˆ ˆ ˆ ˆ
, , , ,
k
β β β β
được chọn sao cho
( )
2
2
ˆ
i i i
e Y Y= −
∑ ∑
III. HỐI QUY TUYẾN TÍNH K BIẾN
( )
2
1 2 2 3 3
ˆ ˆ ˆ ˆ

i i i k ki
Y X X X
β β β β
= − − − − −
∑
min→
III. HỐI QUY TUYẾN TÍNH K BIẾN
Ta ký hiệu
là các ma trận
ˆ
, , ,

T T T T
X Y e
β
chuyển vị của
ˆ
, , ,X Y e
β
Tức là
( )
1 2
, , ,
T
n
Y Y Y Y=
( )
1 2
, , ,
T
n
e e e e=
( )
1 2
ˆ ˆ ˆ ˆ
, , ,
T
k
β β β β
=
III. HỐI QUY TUYẾN TÍNH K BIẾN
21 22 23 2

1 2 3
1 1 1 1



n
k k k kn
X X X X
X
X X X X
 
 ÷
 ÷
=
 ÷
 ÷
 
III. HỐI QUY TUYẾN TÍNH K BIẾN
Khi đó :
1
ˆ
( )
T T
X X X Y
β
−
=
III. HỐI QUY TUYẾN TÍNH K BIẾN
Trong đó (X
T

X) là ma trận có dạng
2 3
2
2 2 2 3 2
2
2 3




i i ki
i i i i i ki
ki ki i ki i ki
n X X X
X X X X X X
X
X X X X X X
 
 ÷
 ÷
=
 ÷
 ÷
 ÷
 
∑ ∑ ∑
∑ ∑ ∑ ∑
∑ ∑ ∑ ∑
3. Ví dụ minh hoạ
Bảng dưới đây cho các số liệu về lượng hàng

bán được của một loại hàng hóa(Y), thu nhập
của người tiêu dùng (X
2
) và giá bán của loại
hàng này (X
3
)
Tìm hàm hồi quy tuyến tính
III. HỐI QUY TUYẾN TÍNH K BIẾN
1 2 2 3 3
ˆ ˆ ˆ
ˆ
i i i
Y X X
β β β
= + +
Y
i
(tấn/tháng) X
2
(triệu đồng/năm) X
3
(ngàn đồng/kg)
20 8 2
18 7 3
19 8 4
18 8 4
17 6 5
17 6 5
16 5 6

15 5 7
13 4 8
12 3 8
III. HỐI QUY TUYẾN TÍNH K BIẾN
Giải
Từ số liệu trên, ta tính được các tổng như sau :
2
2
2 2 3
2
3 3
2
3 2
2 3
165 388
60 282
52 308
2781 16,5
813 6
1029 5, 2
i i
i i i
i i
i
i i
i i
Y X
X X X
X X
Y Y

Y X X
Y X X
= =
= =
= =
= =
= =
= =
∑ ∑
∑ ∑
∑ ∑
∑
∑
∑
III. HỐI QUY TUYẾN TÍNH K BIẾN
2 3
2
2 2 2 3
2
3 3 2 3
10 60 52
60 388 282
52 282 308
i i
T
i i i i
i i i i
n X X
X X X X X X
X X X X

 
 
 ÷
 ÷
= =
 ÷
 ÷
 ÷
 ÷
 
 
∑ ∑
∑ ∑ ∑
∑ ∑ ∑
III. HỐI QUY TUYẾN TÍNH K BIẾN
1
26.165 -2.497 -2.131
( ) -2 .497 0.246 0.196
-2.131 0.196 0.183
T
X X
−
 
 ÷
=
 ÷
 ÷
 
III. HỐI QUY TUYẾN TÍNH K BIẾN
2

2
165
1028
813
i
T
i i
i i
Y
X Y Y X
Y X
 
 
 ÷
 ÷
= =
 ÷
 ÷
 ÷
 ÷
 
 
∑
∑
∑
1
14.992
ˆ
( ) 0.762
-0.589

T T
X X X Y
β
−
 
 ÷
= =
 ÷
 ÷
 
1
2
3
ˆ
14,992
ˆ
0,762
ˆ
0,589
β
β
β
=
=
= −
Vậy:
2 3
ˆ
14,992 0,762 0,589
i i i

Y X X= + −
4. Hệ số xác định của mô hình
2
( )
T
TSS Y Y n Y= −
TSS
ESS
R =
2
2
ˆ
( )
T T
ESS X Y n Y
β
= −
ESSTSSRSS −=
III. HỐI QUY TUYẾN TÍNH K BIẾN
4. Khoảng tin cậy và kiểm định giả thiết
III. HỐI QUY TUYẾN TÍNH K BIẾN
Gọi c
jj
là phần tử nằm ở dòng j cột j của ma
trận (X
T
X)
-1
Khi đó :
2 2 2

ˆ
ˆ
. .
j
jj jj
c c
β
σ σ σ
= ≈
Với
2
ˆ
RSS
n k
σ
=
−
(k là số tham số)
2
ˆ
ˆ
( )
j
j
se
β
β σ
=
4. Khoảng tin cậy và kiểm định giả thiết
III. HỐI QUY TUYẾN TÍNH K BIẾN

Khoảng tin cậy của β
j
là
2 2
ˆ ˆ ˆ ˆ
( ( ); ( ))
j j j j
t se t se
α α
β β β β
− +
Hoặc tính giá trị tới hạn của β
j
là
*
ˆ
ˆ
( )
j j
j
t
se
β β
β
−
=
Bậc tự do là (n-k)
4. Khoảng tin cậy và kiểm định giả thiết
III. HỐI QUY TUYẾN TÍNH K BIẾN
Kiểm định giả thiết về R

2
Với độ tin cậy 1-α
Bước 1 : tính
Bước 2 : Tra bảng tìm F(k-1,n-k), mức ý nghĩa là
α
Bước 3 : Nếu F>F(k-1,n-k) , bác bỏ H
0
Nếu F≤F(k-1,n-k) ,
chấp nhận H
0
( )
2
2
( )
( 1) 1
R n k
F
k R
−
=
− −
H
o
:R
2
= 0
H
1
:R
2

≠ 0