Slide bài giảng chương 2 KTL b2 fc56c713a915b39e508c1e0cf74e5362

CHƯƠNG 2
HỒI QUY ĐƠN BIẾN
NỘI DUNG BÀI HỌC:
2.1. Các giải thiết cơ bản của mơ hình
2.2. Ước lượng các tham số của mơ hình hồi quy đơn biến
theo phương pháp bình phương nhỏ nhất

2.3. Phương sai và độ lệch chuẩn của các ước lượng bình
phương nhỏ nhất
2.4. Hệ số xác định đo độ phù hợp của hàm hồi quy
1


MỤC TIÊU
Sau khi học xong, sinh viên cần nắm được:
• Cách thiết lập mơ hình hồi quy và hàm hồi quy đơn biến
• Các giả thiết cơ bản của mơ hình hồi quy đơn biến

• Cách xác định các tham số của mơ hình hồi quy đơn biến theo
phương pháp bình phương nhỏ nhất
• Phương pháp tính phương sai, độ lệch chuẩn của các ước lượng
bình phương nhỏ nhất
• Phương pháp tính hệ số xác định của mơ hình hồi quy đơn biến
2


HƯỚNG DẪN HỌC TẬP
Để hoàn thành tốt bài học, sinh viên cần thực
hiện các nhiệm vụ sau:
• Đọc trước bài giảng chương 2 được giao

• Trả lời các câu hỏi tình huống và làm bài tập ứng
dụng
• Nếu có vấn đề gì chưa hiểu rõ, liên hệ với giảng
viên để được hỗ trợ
3


2.1. Các giả thiết cơ bản của mơ hình
- Các biến giải thích là phi ngẫu nhiên, tức là các giá trị của
chúng là các số đã được xác định.
- Kỳ vọng của yếu tố ngẫu nhiên bằng 0, nghĩa là: E(Ui/Xi) = 0
- Phương sai của các sai số ngẫu nhiên bằng nhau:
Var(Ui/Xi) = Var(Uj/Xj)

ij

- Khơng có tương quan giữa các Ui, nghĩa là:
Cov(Ui, Uj) = 0  i  j
- Khơng có tương quan giữa Ui và Xi, nghĩa là: Cov(Ui, Xi) = 0
4


2.2. Ước lượng các tham số của mơ hình hồi quy tuyến
tính hai biến theo phương pháp bình phương nhỏ nhất
- Giả sử ta có hàm hồi quy tổng thể PRF là: E(Y/Xi) = β1 + β2Xi
Khi đó giá trị quan sát Yi là:
- Hàm hồi quy mẫu SRF có dạng:
Giá trị quan sát Yi là:

Yi = β1 + β2Xi + Ui

ˆ  βˆ  βˆ X
Y
i
1
2 i

ˆ  βˆ  βˆ X  e
Y
i
1
2 i
i

Trong đó:
E(Y/Xi): trung bình của Y với điều kiện X nhận giá trị Xi
Yi : giá trị quan sát thứ i của biến phụ thuộc Y
β1, β2: tham số, hệ số hồi quy
ui: Sai số ngẫu nhiên
Ŷi : ước lượng điểm của E(Y/Xi)
ˆ1 , ˆ2 : ước lượng điểm của β1 , β2
ei: phần dư
5


2.2. Ước lượng các tham số của mơ hình hồi quy tuyến
tính hai biến theo phương pháp bình phương nhỏ nhất

- Giả sử có n cặp quan sát (Xi, Yi). Tìm giá trị Ŷi sao cho
Ŷi gần giá trị Yi nhất tức:
ei= |Yi - Ŷi| càng nhỏ càng tốt

- Hay với n cặp quan sát, muốn
n

n

i 1

i 1



2
e
 i   Yi  ˆ1  ˆ2 X i



2

 min

Bài toán thành tìm ˆ1 , ˆ2 sao cho f  min

6


2.2. Ước lượng các tham số của mơ hình hồi quy tuyến
tính hai biến theo phương pháp bình phương nhỏ nhất
Điều kiện để đạt cực trị là:
 n 2

  e i 
 i 1    n
2 Yi  ˆ 1  ˆ 2 X i  0
ˆ 1
i 1





 n 2
  ei 
n
 i 1
  
2  Y i  ˆ 1  ˆ 2 X i X  0
i
 ˆ 2
i 1



Hay



n

n

i 1

i 1

nˆ1  ˆ2  X i   Yi
n

n

n

i 1

i 1

ˆ1  X i  ˆ2  X i2   X iYi
i 1

7

7


2.2. Ước lượng các tham số của mơ hình hồi quy tuyến
tính hai biến theo phương pháp bình phương nhỏ nhất
Giải hệ ta được:

ˆ1  Y  ˆ2 X
n

ˆ2 

Y X
i 1
n

i

X
i 1

2
i

i

 n. X .Y

 n.( X )

2

8




Trung bình mẫu (theo biến)

Yi


Y

Xi

X





n



n

Độ lệch giá trị của biến so với giá trị trung bình mẫu




xi  X i  X

yi  Yi  Y

n

ˆ 2 

y x
i 1
n

i

x
i 1

i

2
i
9


Ý nghĩa của các hệ số hồi quy ước lượng được

Hệ số chặn
(Hệ số tự do)

Cho biết giá trị trung bình của biến
phụ thuộc Y là bao nhiêu khi biến độc
lập X nhận giá trị 0

Hệ số góc

Cho biết giá trị trung bình của Y sẽ thay
đổi (tăng, giảm) bao nhiêu đơn vị khi giá
trị của X tăng lên 1 đơn vị với điều kiện

các yếu tố khác không đổi.

10


Ví dụ 2.1:
Có số liệu về năng suất thu hoạch và lượng phân bón của một
loại cây trồng trong 10 năm như sau:
Năng suất thu hoạch
Lượng phân bón

40 44 46 48 52 58 60 68 74 80
6

10 12 14 16 18 22 24 26 32

Trong đó:
Y: Năng suất thu hoạch (tạ/ha) và X: Lượng phân bón (tạ/ha).

1. Xác định hàm hồi quy mẫu
2. Giải thích ý nghĩa của các hệ số ước lượng được
11


1. Viết hàm hồi quy mẫu

12


2. Giải thích ý nghĩa của các hệ số ước lượng được

13


2.3. Phương sai và độ lệch chuẩn của các ước lượng
bình phương nhỏ nhất
- Phương sai sai số ngẫu nhiên:
2 = Var (Ui )
Thực tế khó biết được giá trị 2 => dùng ước lượng điểm
của PSSS ngẫu nhiên:
2
e
i

RSS
ˆ 

n2 n2
2

- Sai số chuẩn của hồi quy:

n

ˆ 

2
e
i
i 1

( n  2)
14


 Sai số chuẩn của các hệ số hồi quy
n

n

Var( βˆ 1 )  σˆ 2

2
X
 i
i 1
n

n  x i2

Se( ˆ1 )  var( ˆ1 )  σˆ 2

i 1

Var( βˆ 2 ) 

n

i 1

i 1
n

n  x i2
i 1

σˆ 2

x

2
X
 i

2
i

Se( ˆ2 )  var( ˆ2 ) 

σˆ 2
n

2
x
 i
i 1

15

 Các tổng bình phương độ lệch
• TSS (Total Sum of Squares - Tổng bình phương sai số tổng cộng)

TSS   (Yi  Y ) 2   Yi 2  n.(Y ) 2   yi2
• ESS: (Explained Sum of Squares - Bình phương sai số được giải thích)

ESS   (Yˆi  Y ) 2  ( ˆ2 ) 2  xi2
• RSS: (Residual Sum of Squares - Tổng bình phương sai số)

RSS   ei2   (Yi  Yˆi ) 2   yi2  ˆ22  xi2

Ta chứng minh được: TSS = ESS + RSS
hay

ESS RSS
1

TSS TSS
16


Phân tích phương sai
Nguồn gây biến động

Đại lượng

đánh giá

Tổng hợp tất
cả các yếu tố

Biến độc
lập

Yếu tố ngẫu
nhiên

Tổng biến động

TSS

ESS

RSS

Bậc tự do

n–1

1

n-2

Phương sai

S2Y 

TSS
n 1

ESS
1

σˆ 2 

RSS
n2

17


2.4. Hệ số xác định R2
Hệ số xác định đo mức độ phù hợp của hàm hồi quy mẫu.

n

ESS
RSS
R 
 1
 1
TSS
TSS
2

2
e
i

2

ˆ
 e   y   2  xi2
2
i

i 1
n

2
y
i
i 1

2
i

ˆ
R2 

n

2
2

2
x
 i
i 1

n

2
y
 i
i 1

Cho biết biến độc lập giải thích được bao nhiêu % sự biến

động của biến phụ thuộc. Còn lại là do các yếu tố khác
khơng có trong mơ hình giải thích.
18


Ví dụ 2.2: Với số liệu từ ví dụ 2.1, hãy tính hệ số xác
định và cho biết ý nghĩa.

19


TÍNH CHẤT CỦA HỆ SỐ XÁC ĐỊNH R2
0 ≤ R2 ≤ 1
R2 = 1: đường hồi quy phù hợp hoàn hảo
R2 = 0: X và Y khơng có quan hệ
Nhược điểm: R2 tăng khi số biến X đưa vào mô hình tăng, dù

biến đưa vào khơng có ý nghĩa => Sử dụng R2 điều chỉnh
(adjusted R2 -R2) để quyết định đưa thêm biến vào mơ hình.
n 1
R  1  (1  R )
nk

2

2

Khi đưa thêm biến vào mơ hình mà R2 tăng thì nên đưa biến vào
và ngược lại.
20


NHIỆM VỤ VỀ NHÀ

• In slide bài giảng, bài tập ơn tập chương 2.
• Hồn thành các bài tập ơn tập chương 2 được giao
• Đọc trước tài liệu cịn lại của chương 2
• Tham gia buổi học online tiếp theo đầy đủ, đúng giờ.

21


CHÚC CÁC EM HỌC TẬP TỐT

22