III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
1. Các ñại lượng ngẫu nhiên
a. ðại lượng ngẫu nhiên Ui
Theo giả thiết của phương pháp OLS, Ui là ñại lượng
ngẫu nhiên có giá trị trung bình bằng 0 và phương
sai không thay ñổi
Giả sử
Ui ~ N(0,σ2)
Chương 2
MÔ HÌNH HỒI QUY
HAI BIẾN (phần 2)
Khi ñó σ2 ñược gọi là phương sai của tổng thể , rất khó
tính ñược nên thường ñược ước lượng bằng phương sai
mẫu
σˆ 2 = ∑
ei2
n−2
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
=
RSS
n−2
2
1
βˆ2 ~ N (β 2 , σ β2ˆ )
2
N(β1+β2Xi,σ2)
~
2
βˆ1 ~ N ( β1 , σ β2ˆ )
Giả sử :
Nên Yi
n−2
1
N(0,σ2)
~
i
Vì sao βˆ1 , βˆ2 là các ñại lượng ngẫu nhiên ?
Yi = β1 + β 2 X i + U i
Ui
i
1. Các ñại lượng ngẫu nhiên
b. ðại lượng ngẫu nhiên βˆ , βˆ
a. ðại lượng ngẫu nhiên Ui
Vì
∑ (Y − Yˆ )
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
1. Các ñại lượng ngẫu nhiên
Ta có
=
σ
Trong ñó
2
βˆ
1
là phương sai của
βˆ1
σ β2ˆ là phương sai của βˆ2
2
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
1. Các ñại lượng ngẫu nhiên
Với
σ β2ˆ =
1
∑X
n(∑ X − nX
σ β2ˆ =
2
2
i
2
i
∑X
2
)
σ2 ≈
σ
2
2
i
− nX 2
≈
1. Các ñại lượng ngẫu nhiên
∑X
n ( ∑ X − nX
2
i
2
i
∑X
se( βˆ1 ) = σ β2ˆ
ñộ lệch chuẩn của
se( βˆ2 ) = σ β2ˆ
ñộ lệch chuẩn của
)
σˆ
2
2
i
− nX 2
βˆ1
1
2
2
σˆ 2
βˆ2
2
Vì : βˆ1 ≈ N ( β1 , σ βˆ )
βˆ2 ≈ N ( β 2 , σ 2ˆ )
1
β2
βˆ1 − β1
≈ N (0,1)
se( βˆ1 )
Nên :
βˆ2 − β 2
≈ N (0,1)
se( βˆ2 )
Nhưng do σ ước lượng bằng σˆ 2 dẫn ñến
2
βˆ1 − β1
≈ T (n − 2)
se( βˆ1 )
βˆ2 − β 2
≈ T (n − 2)
se( βˆ2 )
Với T(n-2) là phân phối TStudent với bậc tự do (n-2)
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
ðồ thị phân phối của thống kê t
2. Các khoảng tin cậy
a. Khoảng tin cậy của β2
f(t)
βˆ − β 2
Ta có t = 2
≈ T (n − 2)
se( βˆ2 )
Giả sử ta muốn xây dựng một khoảng giá trị
của β2 với ñộ tin cậy (1-α) .
Ví dụ (1-α) = 95% hay 0,95
α/2
α/2
-t
t α/2
α/2
-4
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
-3
-2
-1
0
t
2. Các khoảng tin cậy
a. Khoảng tin cậy của β2
b. Khoảng tin cậy của β1
P − tα
2
Nên khoảng tin cậy của β2 với ñộ tin cậy 1-α là
βˆ − β 2
≤ 2
≤ tα = 1 − α
2
se( βˆ2 )
ˆ
β 2 − t α × se ( βˆ 2 ); βˆ 2 + t α × se ( βˆ 2 )
2
2
tα
Với
2
2
3
4
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
2. Các khoảng tin cậy
Vì
1
có ñược khi tra bảng t-Student với bậc tự
Vì
t=
βˆ1 − β1
≈ T ( n − 2)
se( βˆ1 )
Lập luận tương tự, khoảng tin cậy của β1 với ñộ tin cậy 1-α là
ˆ
β 1 − t α × se ( βˆ1 ); βˆ1 + t α × se ( βˆ1 )
2
2
Giải thích ý nghĩa của ñộ tin cậy (1- α), ví dụ (1- α) =95%?
do (n-2), mức ý nghĩa α/2
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
Ví dụ áp dụng
2. Các khoảng tin cậy
c. Khoảng tin cậy của σ2
Vì
σˆ 2là ước lượng của σ 2và người ta chứng minh ñược rằng
σˆ 2 (n − 2)
≈ χ 2 ( n − 2)
σ2
Nên khoảng tin cậy của σ2 với ñộ tin cậy 1-α là
Với
χα2
2
2
( n − 2 ).σˆ ; ( n − 2 ).σˆ
χ α2
χ 12− α
2
2
2
có ñược khi tra bảng χ2 với bậc tự do (n-2), mức ý nghĩa α/2
Từ số liệu ñã cho của ví dụ trước , yêu cầu tính khoảng
tin cậy của β1, β2 và σ2 với ñộ tin cậy 95%
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
Nhắc lại về giả thiết H0
Trong thống kê, giả thiết phát biểu cần ñược kiểm ñịnh
ñược gọi là giả thiết không ( ký hiệu : H0). Giả thiết ñối
ñược ký hiệu là giả thiết H1
Báo bỏ H0
Chấp nhận H0
H0 sai
ðúng
Sai lầm loại II
H0 ñúng
Sai lầm loại I
ðúng
Người ta thường ñặt giả thiết H0 sao cho sai lầm loại I là
nghiêm trọng ( nguy hiểm) hơn sai lầm loại II
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
ðặt α là khả năng mắc sai lầm loại I
⇒ α là mức ý nghĩa của kiểm ñịnh
⇒ 1- α là ñộ tin cậy của kiểm ñịnh
Chú ý
Khi nói “chấp nhận giả thiết H0”, không có nghĩa
H0 ñúng.
Lựa chọn mức ý nghĩa α : α có thể tùy chọn,
thường người ta chọn mức 1%, 5%, hoặc 10%.
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
3. Kiểm ñịnh giả thiết về hệ số hồi quy
Các giả thiết cần kiểm ñịnh gồm
Các giả thiết về hệ số hồi quy
Các giả thiết về phương sai của Ui
Các giả thiết về sự phù hợp của mô hình
a. Kiểm ñịnh giả thiết về β2
Giả thiết 2 phía
Ho:β2 = βo
H1:β2 ≠ βo
Các loại giả thiết
Giả thiết 2 phía , phía trái và phía phải
Giả thiết phía trái
Ho:β2 = βo
H1:β2 < βo
Các cách kiểm ñịnh cơ bản :
o Phương pháp khoảng tin cậy
o Phương pháp giá trị tới hạn
o Phương pháp p-value ( dùng máy vi tính)
Giả thiết phía phải
Ho:β2 = βo
H1:β2 > βo
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
3. Kiểm ñịnh giả thiết về hệ số hồi quy
a. Kiểm ñịnh giả thiết về β2
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
3. Kiểm ñịnh giả thiết về hệ số hồi quy
Miền chấp nhận
Miền bác bỏ
Phương pháp khoảng tin cậy
Bước 1 : Lập khoảng tin cậy của β2
Bước 2 : Nếu β0 thuộc khoảng tin cậy thì chấp
nhận H0. Nếu β0 không thuộc khoảng tin cậy thì
bác bỏ H0
ñộ tin cậy là 1-α
Miền bác bỏ
Kiểm ñịnh hai phía
Miền bác bỏ
Miền chấp nhận
Kiểm ñịnh phía trái
Miền chấp nhận
Kiểm ñịnh phía phải
Miền bác bỏ
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
2. Kiểm ñịnh giả thiết về hệ số hồi quy
a. Kiểm ñịnh giả thiết về β2
Phương pháp giá trị tới hạn (kiểm ñịnh t)
βˆ − β
Bước 1 : tính giá trị tới hạn t = 2 ˆ 0
se( β 2 )
Bước 2 : tra bảng t-Student với bậc tự do (n-2) tìm tα/2
Bước 3 :
Nếu -tα/2 ≤ t ≤ tα/2 : chấp nhận giả thiết H0
Nếu t < -tα/2 hoặc t > tα/2 : bác bỏ giả thiết H0
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
2. Kiểm ñịnh giả thiết về hệ số hồi quy
a. Kiểm ñịnh giả thiết về β2
Phương pháp p-value
βˆ2 − β 0
se( βˆ2 )
Bước 2 : Tính p_value = P(|t| > |tα/2|)
(tức là khả năng giả thiết H0 bị bác bỏ)
Bước 3 :
Nếu p_value ≥ α : chấp nhận giả thiết H0
Nếu p_value < α : bác bỏ giả thiết H0
Bước 1 : tính giá trị tới hạn t =
SV tự suy luận ñiều kiện cho kiểm ñịnh phía trái và phải
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
2. Kiểm ñịnh giả thiết về hệ số hồi quy
b. Kiểm ñịnh giả thiết về β1
Ho:β1 = βo
H1:β1 ≠ βo
Với ñộ tin cậy là 1-α
Tương tự kiểm ñịnh giả thiết về β2 nhưng giá trị
tới hạn lúc này là
t=
βˆ1 − β 0
se( βˆ1 )
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
2. Kiểm ñịnh giả thiết về hệ số hồi quy
c. Kiểm ñịnh giả thiết về σ2
Ho:σ2 =σ02
H1:σ2 ≠ σ02
Với ñộ tin cậy là 1-α
Bước 1 : Lập khoảng tin cậy của σ2
Bước 2 :
• Nếu σ02 thuộc khoảng tin cậy thì chấp nhận H0.
• Nếu σ02 không thuộc khoảng tin cậy thì bác bỏ H0
III. KiỂM ðỊNH MÔ HÌNH HỒI QUY
Ví dụ áp dụng
4. Kiểm ñịnh sự phù hợp của mô hình
Từ số liệu ñã cho của ví dụ trước , yêu cầu kiểm ñịnh các
giả thiết sau
a)
Ho:β2 = 0
H1:β2 ≠ 0
Với ñộ tin cậy là 95%
b)
Ho:β1 = 0
H1:β1 ≠ 0
Với ñộ tin cậy là 95%
c)
Ho:σ2 =16
H1:σ2 ≠ 16
Với ñộ tin cậy là 95%
Kịểm ñịnh giả thiết
Ho:R2 = 0 Với ñộ tin cậy là 1- α
H1:R2 ≠ 0
Phương pháp kiểm ñịnh F
R 2 ( n − 2)
Bước 1 : tính F =
(1 − R 2 )
Bước 2 : Tra bảng tìm F(1,n-2), mức ý nghĩa là α
Bước 3 : Nếu F>F(1,n-2) , bác bỏ H0
Nếu F≤F(1,n-2) , chấp nhận H0
Câu hỏi
Việc kiểm ñịnh giả thiết
Ví dụ áp dụng
Ho:β2 = 0
H1:β2 ≠ 0
ñộ tin cậy là (1-α)
có ý nghĩa như thế nào?
Việc kiểm ñịnh giả thiết
Ho:R2 = 0
H1:R2 ≠ 0
ñộ tin cậy là (1-α)
có ý nghĩa như thế nào?
5. ðánh giá kết quả hồi quy
Dấu của các hệ số hồi qui ước lượng ñược phù hợp
với lý thuyết hay tiên nghiệm không.
Các hệ số hồi qui ước lượng ñược có ý nghĩa về
mặt thống kê hay không ?
Mức ñộ phù hợp của mô hình (R2) và mô hình có
thực sự phù hợp?
Kiểm tra xem mô hình có thỏa mãn các giả thiết
của mô hình hồi qui tuyến tính cổ ñiển hay không.
Từ số liệu ñã cho của ví dụ trước , yêu cầu kiểm ñịnh sự
phù hợp của mô hình với ñộ tin cậy 95%