Bài giảng dự báo kinh doanh chương 4 hồi quy tuyến tính đơn giản

1
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Chương 4
Hồi quy tuyến tính đơn giản
Q Mô hình hồi quy tuyến tính đơn giản
Q Phương pháp bình phương bé nhất
Q Hệ số xác đònh
Q Các giả đònh của mô hình
Q Kiểm đònh ý nghóa
Q Công cụ hồi quy của Excel
Q Dùng phương trình hồi quy ước lượng để ước lượng
và dự đoán
Q Phân tích phần dư: Xác nhận tính hợp lệ của các
giả đònh của mô hình
Q Các phần tử bất thường và các quan sát có ảnh hưởng
2
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Phân tích hồi quy
Q Phân tích hồi quy nghiên cứu mối liên hệ phụ
thuộc của một biến (gọi là biến phụ thuộc hay biến
được giải thích) vào một hay nhiều biến khác
(được gọi là (các) biến độc lập hay giải thích) với
ý tưởng là ước lượng hoặc dự báo biến phụ thuộc
trên cơ sở giá trò đã cho của (các) biến độc lập.
Q Biến phụ thuộc là biến ngẫu nhiên, có quy luật
phân phối xác suất
Q (Các) biến độc lập không phải là biến ngẫu nhiên,
giá trò của chúng đã được cho trước.
3

GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Mối liên hệ tuyến tính
Lượng cầu
về thòt bò,
y
∈
(1)Giá thòt bò (x
1
)
(2)Giá của mặt hàng thay thế (x
2
)
(3)Thu nhập của người tiêu dùng (x
3
)
(4)Tập quán, thò hiệu, sở thích của
người tiêu dùng (x
4
)
(5)Quy mô thò trường (x
5
)
Biểu diễn dưới dạng toán học,
y = f(x
1
, x
2
, x
3

, x
4
, x
5
) + ε
4
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Mối liên hệ tuyến tính (tiếp theo)
Nếu y phụ thuộc vào các x theo dạng tuyến tính
(dạng đường thẳng)
Nếu y phụ thuộc vào các x theo dạng phi tuyến tính
(dạng đường cong)
01122334455
yxxxxx
β
ββ ββ βε
=++++++
01122334455
yxxxxx
β
ββ β β βε
≠++++++
5
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Mô hình hồi quy tuyến tính đơn giản
Q Mô hình hồi quy tuyến tính đơn giản
y =
β

0
+
β
1
x +
ε
Q Phương trình hồi quy tuyến tính đơn giản
E(y) =
β
0
+
β
1
x
Q Phương trình hồi quy tuyến tính đơn giản
ước lượng
y = b
0
+ b
1
x
^
6
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
1
Mô tả phương trình hồi quy
tuyến tính đơn giản
Phương trình hồi quy tuyến tính
đơn giản chỉ mối liên hệ tuyến

tính chính xác giữa giá trò kỳ
vọng hay giá trò trung bình của
y, biến phụ thuộc, và x, biến
độc lập hay biến dự báo:
E[y
i
]=β
0
+ β
1
x
i
Các giá trò quan sát thực tế của
y khác với giá trò kỳ vọng bởi
một sai số không giải thích được
hay sai số ngẫu nhiên:
Y
i
= E[y
i
] + ε
i
= β
0
+ β
1
x
i
+ ε
i

X
Y
E[y]=β
0
+ β
1
x
X
i
}
β
1
= Hệ số góc
β
0
= Tung
độ gốc
Y
i
{
Sai số:
ε
i
Đồ thò hồi quy
7
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Quy trình
ư
ơ

ù
c l
ư
ợng trong ho
à
i quy tuye
á
n
tính đơn giản
Mô hình hồi quy
y =
β
0
+
β
1
x +
ε
Phương trình hồi quy
E(y) =
β
0
+
β
1
x
Các tham số không biết
β
0
,

β
1
Dữ liệu mẫu:
x y
x
1
y
1
. .
. .
x
n
y
n
b
0
và b
1
đưa ra các ước lượng cho
β
0
và
β
1
Phương trình hồi quy
ước lượng
Các số thống kê mẫu
b
0
, b

1
01
ˆ
y
bbx
=
+
01
ˆ
y
bbx
=
+
8
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Tìm một đường thẳng “thích hợp” nhất
X
Y
Dữ liệu
X
Y
Ba sai số so với
giá trò tính theo
đường thẳng thích
hợp
X
Y
Ba sai số so với giá trò
tính theo đường thẳng

bình phương bé nhất
X
Các sai số so với giá trò
tính theo đường thẳng
bình phương bé nhất
được cực tiểu hoá
9
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Các sai số trong hồi quy
.
{
ˆ
iii
eyy=−
y
x
i
y
ˆ
i
y
x
i
ˆ
:
i
y
Sai số
Điểm dữ liệu quan sát

Giá trò dự báo của y ứng với x
i
Đường hồi quy thích hợp nhất
01
ˆ
xyb b
=
+
10
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Phương pháp bình phương bé nhất
Q Tiêu chuẩn bình phương bé nhất
trong đó:
y
i
= giá trò quan sát của biến phụ thuộc
cho quan sát thứ i
y
i
= giá trò ước lượng của biến phụ thuộc
cho quan sát thứ i
^
nn
22
ii
i=1 i=1
ˆ
min SSE = e (y )
i

y=−
∑∑
11
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Phương pháp bình phương bé nhất
b
0
SSE
b
1
b
0
b
1
Ở điểm này SSE cực
tiểu đối với b
0
và b
1
01
11
2
01
111
nn
ii
ii
nnn
ii i i

iii
ynbb x
x
y
bxbx
==
===
=+
=+
∑∑
∑∑∑
12
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Q Hệ số góc của phương trình hồi quy ước lượng
Q Hệ số chặn của phương trình hồi quy ước lượng
b
0
= y - b
1
x hay b
0
= (Σy
i
/ n) - b
1
(Σx
i
/ n)
trong đó:

x
i
= trò số của biến độc lập với quan sát thứ i
y
i
= trò số của biến phụ thuộc với quan sát thứ i
x = giá trò trung bình của biến độc lập
y = giá trò trung bình của biến phụ thuộc
n = tổng số quan sát
_
_
1
22
()
()
ii i i
ii
nxy x y
b
nx x
−
=
−
∑
∑∑
∑∑
1
22
()
()

ii i i
ii
nxy x y
b
nx x
−
=
−
∑
∑∑
∑∑
_
_
Phương pháp bình phương bé nhất
∑− −
=
∑−
1
2
()()
()
ii
i
xx
yy
b
xx
∑− −
=
∑−

1
2
()()
()
ii
i
xx
yy
b
xx
hay
13
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
x
i
y
i
x
i
2
y
i
2
x
i
y
i
x
1

y
1
x
1
2
y
1
2
x
1
y
1
x
2
y
2
x
2
2
y
2
2
x
2
y
2
:::::
x
n
y

n
x
n
2
y
n
2
x
n
y
n
Σ
x
i
Σ
y
i
Σ
x
i
2
Σ
y
i
2
Σ
x
i
y
i

Bảng tính toán
14
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Ví dụ: Đợt bán xôn của Reed Auto
Q Hồi quy tuyến tính đơn giản
Reed Auto đònh kỳ có một
đợt bán xôn đặc biệt kéo
dài suốt một tuần. Như
là một phần của chiến dòch
quảng cáo Reed thực hiện
một hoặc một số quảng cáo trên TV trong thời
gian cuối tuần trước đợt bán xôn. Dữ liệu từ một
mẫu gồm 5 đợt bán xôn trước đây được cho dưới
đây.
15
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Ví dụ: Đợt bán xôn của Reed Auto
Số lần quảng cáo Số lượng xe ô tô
trên TV bán được
114
324
218
117
327
16
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Q Hệ số góc (hay độ dốc) của phương trình hồi quy

ước lượng
Q Hệ số chặn (hay tung độ gốc) của phương trình
hồi quy ước lượng
b
0
= 100/5 - 5(10/5) = 10
Q Phương trình hồi quy ước lượng
y = 10 + 5x
^
Ví dụ: Đợt bán xôn của Reed Auto
−
=
=
−
1
2
5(220) (10)(100)
5
5(24) (10)
b
17
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Dùng CASIO fx-500MS
MODE 3 (Reg) 1 (Lin) [trên màn hình hiện REG]
SHIFT MODE 1 (Scl) = [xoá bộ nhớ]
(Nhập dữ liệu)
1 14 M+ [trên màn hình nhảy n = 1]
3 24 M+ [trên màn hình nhảy n = 2]
2 18 M+ [trên màn hình nhảy n = 3]

1 17 M+ [trên màn hình nhảy n = 4]
3 27 M+ [trên màn hình nhảy n = 5]
AC
SHIFT 2  1 = [cho b
0
= 10]
SHIFT 2  2 = [cho b
1
= 5]
SHIFT 2  3 = [cho r = 0,936585811]
18
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Dùng CASIO fx-570MS
MODE MODE 2 (Reg) 1 (Lin)
SHIFT MODE 1 (Scl) = [xoá bộ nhớ]
(Nhập dữ liệu:)
1 14 M+ [trên màn hình nhảy n = 1]
3 24 M+ [trên màn hình nhảy n = 2]
2 18 M+ [trên màn hình nhảy n = 3]
1 17 M+ [trên màn hình nhảy n = 4]
3 27 M+ [trên màn hình nhảy n = 5]
AC
SHIFT 2  1 = [cho b
0
= 10]
SHIFT 2  2 = [cho b
1
= 5]
SHIFT 2  3 = [cho r = 0,936585811]

19
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Dùng CASIO fx-500ES
SHIFT 9 3 = AC [xoá bộ nhớ]
SHIFT MODE ∇ 4 Frequency?
1: ON 2: OFF
MODE 2 (STAT) 2: A+BX [hồi quy tuyến tính]
(Nhập dữ liệu)
20
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Dùng CASIO fx-500ES
(Nhập dữ liệu)
1 = 3 = 2 = 1 = 3 = 
14 = 24 = 18 = 17 = 27 = ON
SHIFT 1 7 1:A ; 2:B ; 3: r ; 4: x mũ ; 5: y mũ
SHIFT MODE 6 Fix 0~9? (đònh số số lẻ)
Với CASIO fx-570ES:
MODE 3 (STAT) 2: A+BX [hồi quy tuyến tính]
21
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Hệ số xác đònh, r
2
, là một tiêu chuẩn mô tả để đánh giá cường độ của mối liên
hệ hồi quy, một tiêu chuẩn đánh giá đường hồi quy phù hợp với dữ liệu tốt tới
mức độ nào.
.
{

Y
X

Y
Y
Y
X

{
Tổng độ lệch
Độ lệch
được giải thích
Độ lệch
không được giải thích
SS
T
SSE
SS
T
SSR
r
SSR+ SSE = SST
)yy()y(y)y(y

−==
∑
−+
∑
−=
∑

−
−
+
−
=
−
1
ˆˆ
2
2
22
ˆˆ

quy) (Hồi dư) (Phần
thích giải được thích giải được lệch độ
lệch ộ Đ khônglệch Độ= Tổng
)yy( )y(y )y(y
Tỷ lệ phần trăm
của toàn bộ biến
thiên được giải
thích bởi hồi quy.
Hồi quy tốt tới mức độ nào?
22
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Hồi quy tốt tới mức độ nào?
Q SST = tổng các độ lệch bình phương toàn bộ
Q SSR = tổng các độ lệch bình phương do hồi quy
Q SSE = tổng các độ lệch bình phương do phần dư
()

()
2
2
2
=−=−
∑
∑∑
i
y
SST y y y
n
()
2
1
ˆ
i
xy
SSR y y b xy
n
Σ
Σ
⎛⎞
=−=Σ−
⎜⎟
⎝⎠
∑
()
2
2
10

ˆ
ii
SSE y y y b xy b y=−=Σ−Σ−Σ
∑
23
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Q Hệ số xác đònh
r
2
= SSR/SST = 100/114 = 0,8772
Mối liên hệ hồi quy là rất mạnh vì 88% phần
biến thiên trong số xe ô tô đã bán ra có thể được
giải thích bởi mối liên hệ tuyến tính giữa số lần
quảng cáo trên TV và số xe ô tô bán được.
Ví dụ: Đợt bán xôn của Reed Auto
24
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Hệ số tương quan
Q Hệ số tương quan mẫu
trong đó:
b
1
= hệ số góc phương trình hồi quy ước lượng
b=
2
1
(dấu của ) rr
b=

2
1
(dấu của ) rr
b=
1
(dấu của ) Hệ số xác đònhr
b=
1
(dấu của ) Hệ số xác đònhr
xbby
10
ˆ
+
=
xbby
10
ˆ
+
=
25
GV: Th.S Trần Kim Ngọc
Đại học Công nghệ Sài Gòn
Các giá trò khác nhau của hệ số tương quan