Chương 1:
MÔ HÌNH HỒI QUY TUYẾN TÍNH HAI BIẾN
Bộ môn Toán kinh tế
Trường Đại học Ngân hàng TPHCM
Blog:
Email:
Ngày 14 tháng 9 năm 2015
1
NỘI DUNG
1
2
3
4
5
6
Mô hình và một số khái niệm
Mô hình hồi quy
Hàm hồi quy tổng thể
Hàm hồi quy mẫu
Phương pháp ước lượng OLS
Tư tưởng của phương pháp OLS
Công thức ước lượng hệ số chặn, hệ số góc
Trình bày kết quả phân tích hồi quy
Tính không chệch và độ chính xác của ước lượng OLS
Các giả thiết của phương pháp OLS
Độ chính xác của ước lượng OLS
Độ phù hợp của hàm hồi quy - hệ số xác định R2
Khoảng tin cậy cho β1 ,β2 và σ2
Phân phối xác suất của các ước lượng
Khoảng tin cậy cho β1 ,β2
Khoảng tin cậy cho phương sai sai số ngẫu nhiên
Kiểm định giả thuyết
Kiểm định giả thuyết về hệ số hồi2quy
Mô hình và một số khái niệm
Mô hình hồi quy
Bài toán quan trọng trong phân tích kinh tế: đánh giá tác động của của một
biến số lên một số biến số khác.
Ví dụ: muốn đánh giá tác động của thu nhập lên chi tiêu tiêu dùng.
Suy luận thông thường: khi thu nhập tăng thì mức chi tiêu tiêu dùng sẽ gia
tăng.
−→ có thể biểu diễn mối quan hệ phụ thuộc hàm số giữa các biến này như sau:
TD = f(TN)
Mô hình hồi quy tuyến tính
Mô hình hồi quy tuyến tính hai biến thể hiện mối quan hệ phụ thuộc giữa
biến Y và biến X có dạng như sau:
Y = β1 + β2 X + u
3
Mô hình và một số khái niệm
Biến phụ thuộc
- là biến số mà ta đang quan tâm đến
giá trị của nó thường kí hiệu là Y và
nằm ở vế trái của phương trình
- còn được gọi là biến được giải thích
Mô hình hồi quy
Biến độc lập
- là biến số được cho là có tác động
đến biến phụ thuộc, thường kí hiệu
là X và nằm ở vế phải của phương
trình
- còn được gọi là biến giải thích
Sai số ngẫu nhiên: là yếu tố đại diện cho các yếu tố có tác động đến biến Y
ngoài X.
Hồi quy nghiên cứu sự phụ thuộc của một đại lượng kinh tế này (biến phụ
thuộc, biến được giải thích) vào một hay nhiều đại lượng kinh tế khác (biến
độc lập, biến giải thích ) dựa trên ý tưởng là ước lượng giá trị trung bình của
biến phụ thuộc trên cơ sở các giá trị biết trước của các biến độc lập.
➤ Biến độc lập có giá trị xác định trước
➤ Biến phụ thuộc là đại lượng ngẫu nhiên tuân theo các quy luật phân bố
xác suất.
Mô hình và một số khái niệm
Hàm hồi quy tổng thể
Hàm hồi quy tổng thể là hồi quy được thực hiện trên số liệu của tổng thể và
phản ánh chính xác mối quan hệ giữa biến độc lập và biến phụ thuộc.
Hàm hồi quy tổng thể-PRF:
E(Y|X) = β1 + β2 X.
Mô hình hồi quy tổng thể-PRM:
Yi = β1 + β2 Xi + ui ,
hoặc:
Y = β1 + β2 X + u.
i = 1, N;
trong đó E(Y|X) là kỳ vọng của biến Y khi biết giá trị của X, hay còn gọi là
kỳ vọng của Y với điều kiện X.
Ví dụ. Hồi quy TD (tiêu dùng) theo TN (thu nhập).
Mô hình hồi quy tuyến tính như sau: TD = β1 + β2 TN + u
Các hệ số hồi quy
➤ β1 được gọi là hệ số chặn, nó chính bằng giá trị trung bình của biến phụ
thuộc Y khi biến độc lập X nhận giá trị bằng 0.
➤ β2 được gọi là hệ số góc cho biết: khi biến độc lập X tăng một đơn vị thì
giá trị trung bình của biến phụ thuộc Y thay đổi β2 đơn vị.
5
Mô hình và một số khái niệm
Hàm hồi quy 0 .
Cách 2: Dùng thống kê T
Bước 1: Tính t =
βˆj
se(βˆj )
t-statistic;
Bước 2: Tra bảng tα/2 (n − 2)
Bước 3:
- Nếu |t| ≤ tα/2 (n − 2) thì chấp nhận H0
- Nếu |t| > tα/2 (n − 2) thì không chấp nhận H0
Cách 3: Dùng p − value
βˆj
;
se(βˆj )
Bước 2: Tính pvalue = P (|T| ≥ |t|)
Bước 3:
- Nếu p − value ≥ α thì chấp nhận H0
- Nếu p − value < α thì không chấp nhận H0
Bước 1: Tính t =
28
Kiểm định giả thuyết
Kiểm định giả thuyết về hệ số hồi quy
Bài toán: Kiểm định giả thuyết H0 : βj = β∗ với mức ý nghĩa α.
t=
Loại giả thuyết
Hai phía
Bên trái
Bên phải
H0
βj = β∗
βj ≥ β∗
βj ≤ β∗
βˆj − β∗
se(βˆj )
H1
βj β∗
βj < β∗
βj > β∗
Bác bỏ H0
|t| > tα/2 (n − 2)
t < −tα (n − 2)
t > tα (n − 2)
p − value
P (|T| ≥ |t|)
P (T < t)
P (T > t)
Ví dụ
Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập. Hãy kiểm định giả
thuyết β2 0 với mức ý nghĩa 5%.
Ví dụ
Sử dụng tập số liệu ch1vd.wf1. Hãy kiểm định giả thuyết “cứ sau mỗi năm làm
việc, mức lương trung bình tăng hơn 1,5 triệu đồng” với mức ý nghĩa 5%.
Kiểm định giả thuyết
Kiểm định giả thuyết về σ2
Bài toán: Kiểm định giả thuyết H0 : σ2 = σ20 với mức ý nghĩa α.
χ2 =
Loại giả thuyết
Hai phía
Bên trái
Bên phải
H0
σ = σ20
σ2 ≥ σ20
σ2 ≤ σ20
2
(n − 2)ˆ
σ2
σ20
H1
σ
σ2 <
σ2 >
2
σ20
σ20
σ20
χ <
2
Miền bác bỏ H0
hoặc χ2 > χ2(n,α/2)
χ < χ2(1−α)
χ2 > χ2(α)
χ2(1−α/2)
2
Ví dụ
Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập. Hãy kiểm định giả
thuyết H0 : σ2 = 30; H1 : σ2 30 với mức ý nghĩa 5%.
Kiểm định giả thuyết
Kiểm định sự phù hợp của hàm hồi quy
Bài toán: Kiểm định sự phù hợp của hàm hồi quy với mức ý nghĩa α.
Kiểm định cặp giả thuyết
H 0 : R2 = 0
H1 : R
2
0
(Hàm hồi quy không phù hợp)
(Hàm hồi quy phù hợp)
Tiêu chuẩn thống kê
Fqs =
R2 (n − 2)
ESS/1
R2 /1
=
=
.
RSS/(n − 2)
(1 − R2 )/(n − 2)
(1 − R2 )
Nếu Fqs > Fα (1; n − 2) thì bác bỏ H0 , kết luận hàm hồi quy là phù hợp.
Ví dụ
Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập. Hãy kiểm định sự
phù hợp của mô hình với mức ý nghĩa 5%.
Ví dụ
Sử dụng tập số liệu ch1vd.wf1. Sau khi ước lượng hàm hồi quy, hãy kiểm định
sự phù hợp của mô hình với mức ý nghĩa 5%.
31
Dự báo giá trị của biến phụ thuộc
Khoảng tin cậy (1 − α) cho giá trị trung bình của biến phụ thuộc Y khi
X = X0 là:
ˆ 0 − t(n − 2) se(Y
ˆ 0 ); Y
ˆ 0 + t(n − 2) se(Y
ˆ 0) ;
Y
α/2
α/2
trong đó
ˆ 0 = βˆ1 + βˆ2 X0
Y
ˆ 0) = σ
ˆ
se(Y
là ước lượng điểm cho E(Y|X0 );
1 (X0 − X)2
+
.
n
2
n
i=1 xi
Khoảng tin cậy (1 − α) cho giá trị riêng biệt của biến phụ thuộc Y khi X = X0
là:
ˆ 0 − t(n − 2) se(Y0 − Y
ˆ 0 ); Y
ˆ 0 + t(n − 2) se(Y0 − Y
ˆ 0) ;
Y
α/2
α/2
trong đó
ˆ 0 = βˆ1 + βˆ2 X0
Y
là ước lượng điểm cho Y0 ;
ˆ 0) = σ
ˆ
se(Y0 − Y
1+
1 (X0 − X)2
+
.
n
2
n
i=1 xi
32
Dự báo giá trị của biến phụ thuộc
Ví dụ
Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập. Hãy dự báo giá trị
trung bình và giá trị riêng biệt của chi tiêu khi thu nhập ở mức 60 triệu
đồng/năm với hệ số tin cậy 95%.
Một số vấn đề bổ sung
Đơn vị đo lường trong phân tích hồi quy
Trong hàm hồi quy hai biến , nếu đơn vị tính của X và Y thay đổi thì ta
không cần hồi quy lại mà chỉ cần áp dụng công thức đổi đơn vị tính.
Hàm hồi quy theo đơn vị tính cũ: Yi = β1 + β2 Xi
Hàm hồi quy theo đơn vị tính mới: Yi∗ = βˆ∗1 + β∗2 X∗i
1 (đơn vị của Y) = k1 (đơn vị của Yi∗ ) −→ Yi∗ = k1 Yi
1 (đơn vị của X) = k2 (đơn vị của X∗i ) −→ X∗i = k2 Xi
βˆ∗1 = k1 βˆ1
k1
βˆ∗2 = βˆ2
k2
Ví dụ
Cho hàm hồi quy giữa lượng tiêu thụ cà phê (Y – ly/ngày) với giá bán cà phê
( X – ngàn đồng/kg) như sau:
Yi = 110 − 0, 2Xi
Một số vấn đề bổ sung
Đơn vị đo lường trong phân tích hồi quy
Ví dụ
Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập, yêu cầu viết lại hàm
hồi quy với đơn vị tính như sau:
a) Y – triệu đồng/tháng; X – triệu đồng/năm
b) Y – triệu đồng/tháng; X – triệu đồng/ tháng
c) Y – ngàn đồng/tháng; X – ngàn đồng/tháng
Một số vấn đề bổ sung
Hệ số chặn và mô hình hồi quy
Ví dụ: Giả sử có hàm hồi quy tổng thể sau về mối quan hệ giữa số năm kinh
nghiệm KN (năm) và mức thu nhập của người lao động TN (triệu
đồng/tháng) trong ngành dệt may
TN = 3, 6 + 0, 6KN + u
−→ khi số năm kinh nghiệm bằng 0 - nghĩa là người vừa mới bắt đầu làm việc
- thì mức thu nhập trung bình của người lao động là 3,6 triệu/tháng.
Ví dụ: Xét hàm hồi quy tổng thể về mối quan hệ giữa giá và nhu cầu về vàng:
Q = 25 − 0, 1P + u
36