Chương 2: Mô hình hồi quy 2 biến

MƠ HÌNH
HỒI QUY 2 BIẾN


1. MƠ HÌNH HỒI QUY
1.1 MƠ HÌNH HỒI QUY TỔNG THỂ
Giả sử ta có X là biến độc lập, Y là biến phụ thuộc.
Ta quan tâm sự ảnh hưởng của X đến Y ?
Ví dụ 1:
Nghiên cứu mối quan hệ giữa mức chi tiêu Y và mức
thu nhập X của 60 hộ gia đình (USD/tuần), ta có biểu
đồ sau (bằng phần mềm Eview):


1. MƠ HÌNH HỒI QUY
1.1 MƠ HÌNH HỒI QUY TỔNG THỂ
Nhận xét:
Khi thu nhập tăng
thì chi tiêu cũng
tăng.
E(Y/ Xi) là 1 số phụ
thuộc X, nằm trên
đường thẳng có hệ
số góc dương.
Vậy E(Y/ Xi) là một
hàm của Xi
E( Y/ Xi )= f (Xi )
được gọi là hàm
hồi quy

E(Y/ Xi)

1. MƠ HÌNH HỒI QUY
1.1 MƠ HÌNH HỒI QUY TỔNG THỂ
Xét trường hợp đơn giản nhất: f(Xi) có dạng tuyến tính
 Hàm hồi quy tổng thể PRF :
E( Y/ Xi )= 1 + 2 Xi
trong đó 1,2 là các hệ số hồi quy
 Ý nghĩa các hệ số hồi quy:


E( Y/ Xi =0 )= 1 : 1 là hệ số tự do (hệ số chặn), cho
biết trung bình của Y khi X = 0
Ø E( Y/ Xi = Xi +1)= 1 + 2 (Xi +1)
Ø

 E( Y/ Xi = Xi +1)- E( Y/ Xi )= 2 : 2 là hệ số góc, cho
biết khi X tăng 1 đơn vị thì trung bình Y tăng 2 đơn vị


1. MƠ HÌNH HỒI QUY
1.1 MƠ HÌNH HỒI QUY TỔNG THỂ
Nhận xét:
Trong thực tế
khơng chỉ có thu
nhập ảnh hưởng
đến tiêu dùng.
Vì vậy để phù
hợp thực tế ta cần
thêm vào yếu tố

ngẫu nhiên


1. MƠ HÌNH HỒI QUY
1.1 MƠ HÌNH HỒI QUY TỔNG THỂ
Mơ hình hồi quy tổng thể:
Yi= 1 + 2 Xi + Ui
với Ui là sai số ngẫu nhiên
Chú ý:
Y i =  1 +  2 X i + Ui
Yếu tố tác động
chính, tạo nên
tính xu thế, ổn
định

Các yếu tố khác, có
tính ngẫu nhiên
(nhiễu) tạo nên
yếu tố ngẫu nhiên


Y

TÓM TẮT

Yi  1   2 X i  U i

Yi
Ui

E (Y / X i )  1   2 X i ( PRF )

Xi

X


1. MƠ HÌNH HỒI QUY
1.2 MƠ HÌNH HỒI QUY MẪU
Trong thực tế ta khơng điều tra tồn bộ tổng thể mà
chỉ điều tra trên mẫu
• Hàm hồi quy mẫu SRF: Yˆi  ˆ1  ˆ2 X i
Trong đó:

Yˆi là ước lượng điểm của E(Y/Xi)
ˆ1 , ˆ2 là ước lượng điểm của 1, 2

• Mơ hình hồi quy mẫu

Yi  ˆ1  ˆ2 X i  ei

ei là ước lượng điểm của Ui và được gọi là phần dư

ei  Yi  Y
i


TÓM TẮT

Y

Yˆi  ˆ1  ˆ2 X i ( SRF )

Yi

ei

Ui

E (Y / X i )  1   2 X i ( PRF )
Xi

X


1. MƠ HÌNH HỒI QUY
1.2 MƠ HÌNH HỒI QUY MẪU

Ví dụ: Ta chọn ra 1 mẫu về thu nhập và tiêu
dùng như sau:
Yi
Xi

70
80

65 90 95 110 115 120 140 155 150
100 120 140 160 180 200 220 240 260

 Hàm hồi quy mẫu:

Yˆi  24, 4545  0,5091X i

Khi khong co thu nhap, tieu thu la 24,45 tr
Khi thu nhap (X) tang 1 don vi, thi tieu thu tang 0,5091
lan
Thay X = 80 => Y = 65,17, khac 70 (so vs mau)
=> Phan du = Y - Ymu = 4,83


2. PHƯƠNG PHÁP BÌNH PHƯƠNG
NHỎ NHẤT ( OLS )
2.1. Nội dung phương pháp bình
phương nhỏ nhất
• Giả sử ta có mẫu gồm n cặp quan sát
của Y và X, cặp quan sát thứ i có giá trị
tương ứng là (Yi , Xi ), i=1,…,n. Khi đó
ta có hàm hồi quy mẫu là

Yˆi  ˆ1  ˆ2 X i
• Ta cần tìm Yˆ sao cho nó gần với giá trị
i

thực Yi nhất, tức là phần dư e  Y  Y
i
i
i
càng nhỏ càng tốt
=> Phuong phap OLS (Do tong e nho nhat => tong (cac e) binh phuong nho nhat)

2. PHƯƠNG PHÁP BÌNH PHƯƠNG
NHỎ NHẤT ( OLS )
Y
Y3

e3

Y1

e1

Yˆi  ˆ1  ˆ2 X i

ei  Yi  Yˆi

e2

Y2
X1

X2

X3

X


Tìm

Yˆisao cho  ei 2  min
n

i 1



   Y  ˆ  ˆ X 





n

  Yi  Yˆi
i 1

n

2

i 1

n

1

i

2



 f ˆ1 , ˆ2   Yi  ˆ1  ˆ2 X i
i 1

i



2

2

 min

 min

Nhận xét
• Đây là bài tốn tìm cực trị cho hàm 2 biến, ta cần
tìm
ˆ1sao
, ˆ2cho
f ˆ , ˆ  min



1

2




Tìm điểm dừng
•

ˆ1 , ˆ2là nghiệm của hệ phương trình sau

 f  0
1
 '
 f ˆ2  0
'
ˆ

  


ˆ
ˆ
2
Y




X   1  0
 


n

f ˆ1 , ˆ2   Yi  ˆ1  ˆ2 X i

• với

2

i 1

n

i

i 1

1

2

i

 n
 2 Y  ˆ  ˆ X
i
1
2 i

i 1



X   0
i

14


Tìm điểm dừng





1





 2

 n
ˆ  ˆ X  0
Y


1
2 i

 i
 i 1
 n

ˆ  ˆ X X  0
Y


i
1
2 i
i
 
i 1

n
 n
ˆ  ˆ
Y

n


i
1
2  Xi  0

 i 1
i 1
 n

n
n
2
 Y X  ˆ
ˆ

i i
1  X i  2   X i   0
 i 1
i 1
i 1

15


Tìm điểm dừng
n
 ˆ ˆ n
n1   2  X i   Yi

i 1
i 1
 n
n
n
2
 ˆ
ˆ
X



1
i
2   X i    Yi X i
 i 1
i 1
i 1

Giải hệ phương trình này, ta thu được kết quả:
n

ˆ2 

 X Y  n.X .Y
i 1
n

X
i 1

i i
2
i

 nX 

ˆ1  Y  ˆ2 X

2

XY  X .Y
ˆ
2 
2
2
Hoặc
X X 

ˆ1  Y  ˆ2 X
16


Giải hệ phương trình





 n
ˆ  ˆ X  0
Y


1
2 i
 i
 i 1
 n

ˆ X  ˆ X 2  0

Y
X


i i
1 i
2 i

i 1





n
 ˆ ˆ n
 n1   2  X i   Yi

i 1
i 1
 n
n
n
2
 ˆ
ˆ
1  X i   2  X i   Yi X i
 i 1
i 1
i 1

17


Giải hệ phương trình
n
n
n
n
 ˆ n
ˆ
n

X


2  X i  X i   Yi  X i (1')
 1 i

i 1
i 1
i 1
i 1
i 1

n
n
n
2
 nˆ

ˆ
X

n

X
(2 ')
1
i
2
i  n  Yi X i

i 1
i 1
i 1

(2 ')  (1')
 ˆ2 

n

n

n

i 1
n

i 1
n

i 1
n

n X iYi   X i  Yi
n X i 2   X i  X i
i 1

i 1

 *

i 1

18


Giải hệ phương trình
• Chia cả tử và mẫu (*) cho n
n
 n

n
 n X i  Yi 
i 1
i 1


X
Y



i i
2
n


i 1



  ˆ 
 ˆ2 
2
n
n


n
 n X i  X i 
2
i 1
i 1


X


i
2

n


i 1





n

 X Y  nX .Y
i 1
n

X
i 1

i i

i

2

 n X 

2

19

Giải hệ phương trình
• Chia cả tử và mẫu (*) cho n2

1 n
 1 n
 1 n 
 n  X iYi    n  X i   n  Yi 
  i 1   i 1 
 ˆ2   i n1
n
n
1
1
1





2
 n  Xi    n  Xi  n  Xi 
 i 1
  i 1   i 1 
XY  X .Y
ˆ
 2 
2
2
X X 

Chia 2 vế của pt (1) cho n ta có

Y  ˆ1  ˆ2 X  0

 ˆ1  Y  ˆ2 X
20


Chú ý
• Ta cịn có thể biểu diễn cơng thức

S XY
ˆ
2 
S XX

ˆ dạng sau:
dưới
2

n

 S XY   X i  X Yi  Y

i 1
trong đó
n
2
 S 
Xi  X


XX

i 1











Hướng dẫn chứng minh: dùng 2 công thức sau

1 n
Xi  X

n i 1

1 n
Yi  Y

n i 1
21


Chú ý

• Chứng minh:
n







n



S XY   X i  X Yi  Y   X iYi  X i Y  Yi X  X Y
i 1

n

n

n

i 1

i 1

i 1

i 1



  X iYi  Y  X i  X  Yi  n X Y
n

n

i 1

i 1

  X iYi  Yn X  X nY  n X Y   X iYi  n X Y

22


Chú ý
• Chứng minh:
n



S XX   X i  X
i 1

n

   X
n

2

i 1

n

  Xi  2X  Xi  nX
2

i 1
n

i

2

 2Xi X  X

2



2

i 1

  Xi  2XnX  nX
2

2

i 1
n

  Xi  nX
2

2

i 1

23


Tổng kết
• Phương pháp bình phương nhỏ nhất cho ta các
cơng thức tính
như
ˆ ,sau:
ˆ
1

n

ˆ2 

 X Y  n.X .Y
i 1
n

X
i 1

i i
2
i

 nX 

ˆ1  Y  ˆ2 X
S XY
ˆ
2 
S XX

2

2

XY  X .Y
ˆ
2 
2
2
X X 

ˆ1  Y  ˆ2 X

n


 S XY   X i  X Yi  Y

i 1
trong đó
n
2
 S 
Xi  X

XX

24
i 1












Ví dụ 1
• Quan sát mẫu số liệu về chi phí chào hàng
và doanh số bán hàng của 12 doanh nghiệp:

Xi

Yi

100

106

60

160

70

170

140

120

116

120

140

150

1270 1490 1060 1626 1020 1800 1610 1280 1390 1440 1590 1380

• X: chi phí chào hàng (triệu đồng/năm)
• Y: doanh số bán hàng (triệu đồng/năm)

• Giả sử X,Y có mối quan hệ tuyến tính, hãy
ước lượng hàm hồi quy của doanh số bán
hàng phụ thuộc chi phí chào hàng ?
25