Chương 2: mô hình hồi qui hai biến pps

CHƯƠNG 2
MƠ HÌNH H I QUI HAI BI N

H i qui ñơn

Nguy n Th Minh Hi u

1


MƠ HÌNH
Yi = β1 + β 2 X i + ui
• β1 = (Yi − ui / X i = 0) = E(Y/Xi =0)
⇒ β1 cho bi t giá tr trung bình c a bi n ph thu c
khi giá tr c a bi n ñ c l p b ng 0.
•
⇒ β2 cho bi t khi X tăng lên
dE(Y / X )
β2 =
1 đơn v thì giá tr trung
dX
bình c a bi n ph thu c
thay ñ i (tăng, gi m) β2 ñơn v .
H i qui ñơn

Nguy n Th Minh Hi u

2


I. PHƯƠNG PHÁP BÌNH

PHƯƠNG NH NH T
(OLS: ordinary least squares)
ˆ ˆ
Yi = β1 + β 2 X i + ei

ˆ
ei = Yi − Yi
ˆ
Yi = Yi + ei
ei2
∑
n

⇒ min (bình phương nh nh t)
n

ˆ − β X ) 2 ⇒ min
e = ∑ (Yi − β1 ˆ2 i
∑
i =1

H i qui ñơn

2
i

i =1

Nguy n Th Minh Hi u

3


I.1. Các ư c lư ng OLS
ˆ =Y −β X
ˆ
β1
2
n

ˆ
β2 =

n

n

i =1

i =1

i =1

n∑ X iYi − ∑ X i ∑ Yi


n∑ X −  ∑ X i 
i =1
 i =1 
n

n

2

2
i

H i qui ñơn

Nguy n Th Minh Hi u

4


Nguy n Th Minh Hi u

H i qui ñơn

I.1. Các ư c lư ng OLS
n

ˆ
β2 =

∑x
i =1
n

∑x

i =1

trong đó:

i

yi
2
i

n

1
Y = ∑ Yi
n i =1

1
X = ∑ Xi
n i =1

y i = Yi − Y

xi = Xi − X

n

5


H i qui đơn

Nguy n Th Minh Hi u

Ví d 2.1
• Gi s có 5 quan sát v t su t l i nhu n c a
cơng ty máy tính Apple (Y %) và t su t l i
nhu n bình qn c a 500 cơng ty l n khác M
(X%) như sau
X 10 -5
10 -5
-10
Y 20 -5
25 -30 -10
• Tính

∑ X , ∑ Yi , ∑
i

X i2
X i Yi, ∑

• và ư c lư ng c a các h s ch n, h s góc
trong h i qui Y = β + β X + u
i

1

2

i

i

6


Ví d 2.2

H i qui đơn

Nguy n Th Minh Hi u

7


Ví d 2.3
ˆ
Cho hàm h i qui m u (SRF) Yi = β 2 Xi + ei
(khơng có h s ch n). Vi t phương trình bi u
di n

ei2 theo Xi, Yi, t đó, rút ra cơng th c
∑

cho ư c lư ng OLS.

H i qui ñơn

Nguy n Th Minh Hi u

8


Ví d 2.4,
câu 1-2

H i qui đơn

Nguy n Th Minh Hi u

9


KỲ V NG
• ð nh nghĩa
+ E(X) = Σ xif(xi)

• Các tính ch t
+ E(X+c) = E(X) + c, c là h ng s
+ E(X+Y) = E(X) + E(Y)
+ E(cX) = cE(X), c là h ng s
+ E(XY) = E(X)E(Y), X và Y ñ c l p

H i qui ñơn

Nguy n Th Minh Hi u

10

Phương sai
• ð nh nghĩa: Var(X) = E(X-E(X))2
• Tính ch t:
+ Var(cX) = c2Var(X) (c là h ng s )
+ Var(c+X) = Var(X)
+ Var(X+Y) = Var(X)+Var(Y), X và Y ñ c l p
+ Var(X ± Y) = Var(X) + Var(Y) ± 2cov(X, Y), X
và Y khơng đ c l p

H i qui ñơn

Nguy n Th Minh Hi u

11


I.2. Các gi thi t c a phương pháp
ư c lư ng OLS
1. Các bi n gi i thích là phi ng u nhiên, t c là giá
tr c a chúng ñã ñư c xác ñ nh.
2. Kỳ v ng c a các y u t ng u nhiên u b ng 0,
E(u|Xi) = 0
3. Phương sai c a ui thu n nh t (b ng nhau)
var(u|Xi) = σ2 (v i ∀i)
4. Khơng có t tương quan gi a các y u t ng u
nhiên Cov(ui ,uj|Xi,Xj) = 0
(v i ∀i ≠ j)
5. u và X không tương quan v i nhau
Cov (ui, Xi) = 0
H i qui ñơn

Nguy n Th Minh Hi u

12


I.3. M t s tính ch t c a
hàm h i qui m u
1. ðư ng h i qui m u đi qua trung bình m u

ˆ
ˆ
Y = β1 + β 2 X

H i qui ñơn

Nguy n Th Minh Hi u

13


I.3. M t s tính ch t c a
hàm h i qui m u
2. T ng các ph n dư b ng 0
n

∑e
i =1

H i qui ñơn

i

=0

hay

e =0

Nguy n Th Minh Hi u

14


I.3. M t s tính ch t c a
hàm h i qui m u
3. V i bi n ph thu c, giá tr trung bình m u
b ng giá tr trung bình t ng th

ˆ
Y=Y

H i qui đơn

Nguy n Th Minh Hi u

15


I.3. M t s tính ch t c a

hàm h i qui m u
4. Ph n dư tr c giao v i Xi
n

∑e X
i =1

i

i

=0

hay

∑ e x = ∑ e (X
n

i =1

H i qui ñơn

n

i i

i =1

i

− X ) = ∑ ei X i = 0
n

i

Nguy n Th Minh Hi u

i =1

16


I.3. M t s tính ch t c a
hàm h i qui m u
5. Ph n dư tr c giao v i giá tr d báo

ˆ
Yi

n

ˆ
Yi ei = 0
∑
i =1

ˆ
ˆ
ˆ =β +β X
Yi

1
2 i
H i qui ñơn

Nguy n Th Minh Hi u

17


I.4. ð nh lý Gauss-Markov:
V i 5 gi thi t ñã nêu c a ph
ơng pháp
bình ph
ơng nh nh t, các
c l
ng
nh n ñ
c t ph
ơng pháp OLS là các

c l
ng tuy n tính, khơng ch nh và
có ph
ơng sai nh nh t (BLUE: best
linear unbias estimator)

H i qui ñơn

Nguy n Th Minh Hi u

18


Ư c lư ng OLS là tuy n tính
n

ˆ
⇒ β 2 = ∑ k iYi
i =1

ki =

xi
n

∑x
i =1

H i qui ñơn

2
i

Nguy n Th Minh Hi u

19


Ư c lư ng OLS không ch ch
ˆ
E (β 2 ) = β 2
n

n

ˆ
β2 =

∑y x

i =1
n

∑x
i =1

H i qui ñơn

i

2
i

i

= β2 +

∑xu
i =1
n

i i

∑x
i =1

Nguy n Th Minh Hi u

2
i

20


Ư c lư ng OLS
có phương sai nh nh t
var(β 2 ) = σ β2 =
⌢

2
⌢

σ2
n

xi2
∑
i=
i =1

Phương sai c a ư c lư ng ph thu c
vào: phương sai sai s σ2, s quan sát n,
n

ñ bi n thiên c a X (

∑x
i =1

H i qui ñơn

Nguy n Th Minh Hi u

2
i

)
21


II. ð chính xác c a ư c lư ng OLS
σ

σ β⌢ = var(β 2 ) =
⌢

n

2

∑x
i =1

n

var( β1 ) =
⌢

∑X
i =1

n

H i qui ñơn

n

2
i

n∑ x
i =1

2
i

2
i

σ2

⇒

σ β⌢ =
1

X i2
∑
i =1
n

n∑ x
i =1

Nguy n Th Minh Hi u

.σ

2
i
22


II. ð chính xác c a ư c lư ng
OLS
Ư c lư ng c a phương sai sai s
n

ˆ
σ =
2

∑e
i =1

2
i

n−2

ñư c g i là ư c lư ng OLS c a σ2 và là

ˆ
σ
ư c lư ng không ch nh.
n – 2 là s b c t do (df: degree of freedom)
2

H i qui ñơn

Nguy n Th Minh Hi u

23


• Do khơng có đư c
cho σ2

ˆ
σβ =

ˆ
σ

2
⌢

2

σ2,

s d ng

2

⇒

n

∑x
i =1

2
i

ˆ
σβ =
1

∑X
i =1
n

se(β 2 ) =

H i qui ñơn

n

xi2
∑
i =1

2
i

n∑ x
i =1

thay

ˆ
σ

⌢

n

2
⌢

ˆ
σ

2

2
i

n

ˆ

σ

2

⇒ se( β1 ) =
⌢

X i2
∑
i =1
n

n∑ xi2

ˆ
.σ

i =1

Nguy n Th Minh Hi u

24


Ví d 2.4,
câu 3

H i qui đơn

Nguy n Th Minh Hi u

25