MÔ HÌNH HỒI QUY TUYẾN TÍNH K BiẾN ppt

1
MÔ HÌNH HỒI QUY
TUYẾN TÍNH K BiẾN
I. MÔ HÌNH HỒI QUY
I. MÔ HÌNH HỒI QUY
TUYẾN TÍNH 3 BiẾN
TUYẾN TÍNH 3 BiẾN
1. Hàm hồi quy tổng thể:
1. Hàm hồi quy tổng thể:

E(Y/X
E(Y/X
2
2
, X
, X
3
3
) =
) =
β
β
1
1
+
+
β
β
2
2
X

X
2
2
+
+
β
β
3
3
X
X
3
3



Y: Biến phụ thuộc (Biến được giải thích)
Y: Biến phụ thuộc (Biến được giải thích)

X
X
2
2
, X
, X
3
3
: Các biến độc lập (Biến giải thích)
: Các biến độc lập (Biến giải thích)




β
β
1
1
: Hệ số tự do
: Hệ số tự do



β
β
2,
2,


β
β
3
3
: Hệ số hồi quy riêng.
: Hệ số hồi quy riêng.



β
β

2,
2,


β
β
3
3
cho biết ảnh hưởng từng biến độc lập lên giá trị
cho biết ảnh hưởng từng biến độc lập lên giá trị
trung bình của biến phụ thuộc khi các biến còn lại
trung bình của biến phụ thuộc khi các biến còn lại
được giữ không đổi
được giữ không đổi
2
3
2- Các giả thiết của mô hình (P.76)
2- Các giả thiết của mô hình (P.76)
 Var
(U
(U
i
i
) =
) =



E(U
E(U

i
i
X
X
2
2
, X
, X
3
3
)= 0 (
)= 0 (
∀
∀
i)
i)
σ
σ
2
2
(
(
∀
∀
i)
i)
 Khơng có hiện tượng tự tương quan giữa các U
i
,
tức: Cov (U

i
, U
j
)

Không xảy ra hiện tượng
Không xảy ra hiện tượng
cộng tuyến
cộng tuyến
giữa X
giữa X
2
2


và
và
X
X
3
3
,
,
t c ứ
t c ứ
là khơng có quan hệ rõ ràng giữa 02 biến giải
là khơng có quan hệ rõ ràng giữa 02 biến giải
thích.
thích.


U
U
i
i


∼
∼
N(0,
N(0,
σ
σ
2
2
)
)
3. Ước lượng các tham số
3. Ước lượng các tham số

S d ng ph ng pháp bình ph ng nh nh tử ụ ươ ươ ỏ ấ
S d ng ph ng pháp bình ph ng nh nh tử ụ ươ ươ ỏ ấ

Theo nguyên lý c a ph ng pháp thì các giá trủ ươ ị
Theo nguyên lý c a ph ng pháp thì các giá trủ ươ ị


đ c ch n sao cho: ượ ọ
đ c ch n sao cho: ượ ọ
4
ii

eXXY
+++=
33221
ˆˆˆ
ˆ
βββ
321
ˆ
,
ˆ
,
ˆ
βββ
∑ ∑
→−=
min)
ˆ
(
22
iii
YYe
3. Ước lượng các tham số (tt) P.77
3. Ước lượng các tham số (tt) P.77

Đạo hàm bậc 1
Đạo hàm bậc 1


theo từng biến = 0
theo từng biến = 0

Kết quả tính toán như sau:
Kết quả tính toán như sau:
5
321
ˆ
,
ˆ
,
ˆ
βββ
∑ ∑
−=
22
)
ˆ
(
iii
YYe
33221
ˆˆˆ
XXY
βββ
−−=
3. Ước lượng các tham số (tt)
3. Ước lượng các tham số (tt)
6
∑ ∑ ∑
∑ ∑∑∑
−
−

=
2
32
2
3
2
2
323
2
32
2
)())((
))(())((
ˆ
iiii
iiiiiii
xxxx
xxxyxxy
β
∑ ∑ ∑
∑ ∑∑∑
−
−
=
2
32
2
3
2
2

322
2
23
3
)())((
))(())((
ˆ
iiii
iiiiiii
xxxx
xxxyxxy
β
YYy
ii
−=
ttiti
XXx
−=


Trong đó:
Trong đó:
( t=2,3)
( t=2,3)
Ví dụ: 4.1 (P.78)
Ví dụ: 4.1 (P.78)

Y: Doanh s bán (tri u đ ng)ố ệ ồ
Y: Doanh s bán (tri u đ ng)ố ệ ồ


X
X
2
2
: Chi phí chào hàng ( tri u đ ng)ệ ồ
: Chi phí chào hàng ( tri u đ ng)ệ ồ

X
X
3
3
: Chi phí qu ng cáo (tri u đ ng)ả ệ ồ
: Chi phí qu ng cáo (tri u đ ng)ả ệ ồ
S li u: B ng 3.1.ố ệ ả
S li u: B ng 3.1.ố ệ ả
7
Y
Y
i
i
=
=
β
β
1
1
+
+
β
β

2
2
X
X
2i
2i
+
+
β
β
3
3
X
X
3i
3i
+ . . .+
+ . . .+
β
β
k
k
X
X
ki
ki
+ U
+ U
i
i

1- Hàm hồi quy tổng thể
1- Hàm hồi quy tổng thể
β
β
1
1
– Hệ số tự do
– Hệ số tự do
β
β
1
1
cho biết giá trò TB của biến phụ thuộc (Y) bằng bao
cho biết giá trò TB của biến phụ thuộc (Y) bằng bao
nhiêu khi tất cả các biến độc lập X
nhiêu khi tất cả các biến độc lập X
j
j
(j = 2, 3, . . . k) đều
(j = 2, 3, . . . k) đều
bằng 0.
bằng 0.
8
MƠ HÌNH HỒI QUY
TUYẾN TÍNH K BiẾN

Y
Y
1
1

β
β
1
1
U
U
1
1


Y
Y
2
2


β
β
2
2
U
U
2
2


Y = … ;
Y = … ;

β
β


= … ; U = …
= … ; U = …


Y
Y
n
n


β
β
k
k
U
U
n
n


9
β
β
j
j
(j = 2, 3, . . . k) cho biết TB của Y sẽ tăng (giảm)

(j = 2, 3, . . . k) cho biết TB của Y sẽ tăng (giảm)
bao nhiêu đơn vò khi X
bao nhiêu đơn vò khi X
j
j
tăng (hay giảm) 1 đơn vò.
tăng (hay giảm) 1 đơn vò.
β
β
j
j
(j = 2, 3, . . . k) - Hệ số hồi quy riêng của biến X
(j = 2, 3, . . . k) - Hệ số hồi quy riêng của biến X
j
j
Y = X
Y = X
β
β
+ U
+ U
Dạng ma trận:
Dạng ma trận:
Trong đó:
Trong đó:


1

X

X
21
21
X
X
31
31




X
X
k1
k1


1 X
1 X
22
22
X
X
32
32
… X
… X
k2
k2

… … … …
… … … …




1
1


X
X
2n
2n
X
X
3n
3n
… X
… X
kn
kn


X =
X =
10
2- Các giả thiết của mô hình
2- Các giả thiết của mô hình


E(U
E(U
i
i
.U
.U
j
j
) =
) =



E(U
E(U
i
i
) = 0 (
) = 0 (
∀
∀
i)
i)
hay E(UU
hay E(UU
T
T
) =
) =

σ
σ
2
2
I
I
0 (i
0 (i
≠
≠
j)
j)
σ
σ
2
2
(i = j)
(i = j)
11

X
X
2
2
, X
, X
3
3
, . . . , X
, . . . , X

k
k
đã được xác đònh hay ma trận X đã
đã được xác đònh hay ma trận X đã
xác đònh.
xác đònh.

Không xảy ra hiện tượng
Không xảy ra hiện tượng
cộng tuyến
cộng tuyến
giữa các biến
giữa các biến
giải thích hay hạng của ma trận X bằng k.
giải thích hay hạng của ma trận X bằng k.

U
U
i
i


∼
∼
N(0,
N(0,
σ
σ
2
2

)
)
3- Ước lượng các tham số
3- Ước lượng các tham số
kiki221i
X
ˆ
X
ˆˆ
Y
ˆ
β++β+β=
Dạng ma trận:
Hàm hồi quy mẫu có dạng:
Y = X + e
β
ˆ
12
β−=















=














β
β
β
ˆ
XY
e

e
e
e
ˆ

ˆ
ˆ
n
2
1
k
2
1
=
β
ˆ
trong ñoù:
13
Trong ñoù ma traän (X
Trong ñoù ma traän (X
T
T
X) coù daïng nhö sau:
X) coù daïng nhö sau:


= (X
T
X)
-1
(X
T
Y)
β
ˆ

y
i
x
2i
x
3i
20
18
19
18
17
y
i
x
2i
x
3i
8
7
8
8
6
2
3
4
4
5
17
16
15

13
12
6
5
5
4
3
5
6
7
8
8
14
Trong đó:
Y là lượng hàng bán được của một loại hàng
Y là lượng hàng bán được của một loại hàng
(tấn/tháng)
(tấn/tháng)
X
X
2
2
là thu nhập của người tiêu dùng (triệu
là thu nhập của người tiêu dùng (triệu
đ/năm)
đ/năm)
X
X
3
3

là giá bán (ngàn đ/kg)
là giá bán (ngàn đ/kg)
Tìm hàm hồi quy tuyến tính mẫu của Y theo
Tìm hàm hồi quy tuyến tính mẫu của Y theo
X
X
2
2
và X
và X
3 .
3 .
15











=
58901,0
76178,0
99215,14

i3i2i

X58901,0X76178,099215,14Y

+=
Haứm hoi quy tuyeỏn tớnh maóu cuỷa Y theo X
Haứm hoi quy tuyeỏn tớnh maóu cuỷa Y theo X
2
2


vaứ X
vaứ X
3
3
laứ:
laứ:
16
17
18
i3i2i
X560152,2X64951,41383,328Y
ˆ
++=
19
20
4-
Heä soá xaùc ñònh:
Heä soá xaùc ñònh:
TSS
ESS
R

2
=

5
5-
Heä soá xaùc ñònh coù hieäu chænh
Heä soá xaùc ñònh coù hieäu chænh
)1/(
)/(
1
1
2
1
2
2
−
−
−=
∑
∑
=
=
ny
kne
R
n
i
i
n
i

i
21
Có thể chứng minh được:
kn
1n
)R1(1R
2
2
−
−
−−=
22
*
*
Để biết hệ số hồi qui của biến mới (X
Để biết hệ số hồi qui của biến mới (X
k
k
) đưa
) đưa
vào MH khác 0 có ý nghóa hay không ta tiến
vào MH khác 0 có ý nghóa hay không ta tiến
hành kiểm đònh gt:
hành kiểm đònh gt:
H
H
0
0
:
:

β
β
k
k
= 0; H
= 0; H
1
1
:
:
β
β
k
k


≠
≠
0
0
Nếu H
Nếu H
0
0
bò bác bỏ thì biến X
bò bác bỏ thì biến X
k
k
sẽ được đưa vào
sẽ được đưa vào

MH
MH
Thí dụ
Thí dụ
:
:
Số liệu về doanh số bán (Y), chi phí chào hàng
(X
2
) và chi phí quảng cáo (X
3
) trong năm 2001
ở 12 khu vực bán hàng của một công ty (thí dụ
4.1)
23
590478
67,571662
R
2
=
= 0,9677
9605,0
312
112
)9677,01(1
kn
1n
)R1(1R
2
2

=
−
−
−−=
−
−
−−=
Ñoái vôùi haøm 3 bieán
Ñoái vôùi haøm 3 bieán
24
Ở mô hình hồi qui 2 biến
(biến phụ thuộc Y và biến
độc lập X
2
) ta tính được:
R
2
= 0,80425
212
112
)80425,01(1R
2
−
−
−−=⇒
= 0,78467
25