CHƯƠNG 12
HỒI QUY TUYẾN TÍNH ĐA BIẾN
Ths. Nguyễn Tiến Dũng
Viện Kinh tế và Quản lý, Trường ĐH Bách khoa Hà Nội
Email:
MỤC TIÊU CỦA CHƯƠNG
● Sau khi kết thúc chương này, người học có
thể
● Nêu được ý nghĩa của phân tích hồi quy đa biến
(hồi quy bội) trong NCKH
● Mô tả được cách xác định phương trình hồi quy đa
biến với dữ liệu mẫu
● Kể tên và biết cách tính các chỉ tiêu đánh giá mức
độ phù hợp của mô hình hồi quy đa biến
● Hiểu các giả định và cách kiểm tra tính đúng đắn
của các giả định khi xây dựng phương trình hồi
quy bội
© Nguyễn Tiến Dũng
Thống kê ứng dụng
2
CÁC NỘI DUNG CHÍNH
12.1 Phương trình hồi quy tuyến tính tổng thể
đa biến
12.2 Phương trình hồi quy tuyến tính mẫu đa
biến
12.3 Hồi quy với biến đầu vào định tính
12.4 Hồi quy phi tuyến
© Nguyễn Tiến Dũng
Thống kê ứng dụng
3
Vai trò và ý nghĩa của hồi quy đa biến
● Muốn nghiên cứu ảnh hưởng đồng thời của
nhiều biến đầu vào tới 1 biến đầu ra
● Các biến đầu vào và biến đầu ra đều có dữ
liệu định lượng (khoảng, tỷ lệ)
● Trong số các biến đầu vào, có biến định tính
(biến giả)
© Nguyễn Tiến Dũng
Thống kê ứng dụng
4
12.1 PHƯƠNG TRÌNH HỒI QUY TUYẾN TÍNH BỘI VỚI
DỮ LIỆU TỔNG THỂ
● TD Trang 358: 3 biến độc lập
● yi = b0 + b1x1i + b2x2i + b3x3i + ei
● KQ làm việc = f(PT tình huống, Khả năng trình bày
viết, Khả năng trình bày miệng)
● x1 = Khả năng PT tình huống
● x2 = Khả năng trình bày viết
● x3 = Khả năng trình bày miệng
● y = Kết quả làm việc
● bj: hệ số độ dốc của y theo xj, trong điều kiện các biến
khác được giữ nguyên không đổi hệ số hồi quy
riêng phần
© Nguyễn Tiến Dũng
Thống kê ứng dụng
5
12.2 PHƯƠNG TRÌNH HỒI QUY TUYẾN TÍNH MẪU ĐA
BIẾN
● TD: PTHQTT mẫu với 3 biến đầu vào
yi b0 b1 x1i b2 x2 i b3 x3i ei (i 1, n )
yˆ i b0 b1 x1i b2 x2 i b3 x3i
© Nguyễn Tiến Dũng
Thống kê ứng dụng
6
Data Analysis (Excel): Regression
© Nguyễn Tiến Dũng
Thống kê ứng dụng
7
Hiểu các kết quả phân tích
● SSR = 171,3057
● SSE = 37,6277
● SST = 208,9333
● Hệ số xác định bội R2 = SSR/SST = 0,8199
● Hệ số xác định bội hiệu chỉnh R2adj = 0,7708
2
adj
R
© Nguyễn Tiến Dũng
n 1
1 (1 R )
n k 1
2
Thống kê ứng dụng
8
Đánh giá ý nghĩa toàn diện của mô hình
● H0: b1=b2=b3=0
● H1: Có ít nhất một hệ số bi khác 0
● Chỉ tiêu KĐ Fisher
FStat
MSR
SSR / k
16, 6931
MSE SSE / ( n k 1)
● p-value(FStat) = 0,0002 < 0,05 Mô hình có ý
nghĩa
© Nguyễn Tiến Dũng
Thống kê ứng dụng
9
Sai số chuẩn của ước lượng (Standard Error)
● Đo lường sự phân tán của các giá trị thực tế
trong dữ liệu mẫu của biến phụ thuộc xung
quanh giá trị của biến phụ thuộc được dự
đoán bằng đường hồi quy
sY / X
© Nguyễn Tiến Dũng
SSE
37, 6277
1,8495
n k 1
15 3 1
Thống kê ứng dụng
10
Đánh giá ý nghĩa của từng biến độc lập
H 0 : b j 0
● KĐ tính khác không của các hệ số
H1 : b j 0
bj
bj
● Chỉ tiêu KĐ tStat
tStat
sb j
● Các hệ số bj được Excel tính sẵn
trong bảng Coefficients
● Số bậc tự do: df = n-k-1
● KQ: Các hệ số của x1, x2 và x3 đều
không thực sự khác 0 với độ tin
cậy 95% Tại sao?
© Nguyễn Tiến Dũng
Thống kê ứng dụng
11
Hiện tượng đa cộng tuyến (Multi-collinearity)
● Đa cộng tuyến: tình trạng các biến đầu vào
của PTHQ có tương quan chặt với nhau
● Biểu hiện của đa cộng tuyến
● R2 cao mà KQ KĐ Student lại không khẳng định
được các hệ số bê-ta là khác 0
● Hệ số tương quan tuyến tính giữa các biến đầu
vào là lớn rij
● Hệ số phóng đại phương sai VIFj = 1/(1-R2j) có giá
trị lớn (>5 – 10)
© Nguyễn Tiến Dũng
Thống kê ứng dụng
12
Hệ số tương quan giữa 2 biến và VIF
x1
x2
x3
VIF
x1
1,0000
0,5781
0,6761
1,8429
x2
0,5781
1,0000
0,8675
4,0435
x3
0,6761
0,8675
1,000
4,9590
© Nguyễn Tiến Dũng
Thống kê ứng dụng
13
Khắc phục hiện tượng đa cộng tuyến
© Nguyễn Tiến Dũng
Thống kê ứng dụng
14
Kiểm tra các giả định của mô hình HQTT đa biến: Phân
tích phần dư
● Quan hệ tuyến tính giữa biến đầu ra và các
biến đầu vào
● Vẽ đồ thị phần dư lần lượt theo từng biến đầu vào
● Phần dư có phân phối normal
● PS của phần dư không đổi
● KĐ Park: Mô hình HQTT Ln(e2) theo y^
● Không có sự tự tương quan
● KĐ Durbin-Watson
● Không có hiện tượng đa cộng tuyến
© Nguyễn Tiến Dũng
Thống kê ứng dụng
15
12.3 HỒI QUY VỚI BIẾN ĐẦU VÀO ĐỊNH TÍNH
● Hồi quy với biến giả (dummy variables)
● TD:
● Thu nhập = f(Số năm kinh nghiệm; Bằng MBA)
● y = Thu nhập
● x1 = Số năm kinh nghiệm
● d = Bằng MBA (1=có; 0=không)
© Nguyễn Tiến Dũng
Thống kê ứng dụng
16
Hồi quy với biến giả (MBA)
yˆ 8993, 52 1072,14. x 2935, 39.d
© Nguyễn Tiến Dũng
Thống kê ứng dụng
17
Một số vấn đề liên quan đến việc sử dụng biến giả
● Để phân biệt m loại/nhóm, cần dùng m-1 biến
giả
● Việc gán giá trị 1 và 0 cho loại nào không
quan trọng. Chỉ lưu ý việc giải thích KQ.
● Loại nhận giá trị 0 gọi là loại cơ sở.
● Hệ số gắn với biến giả d được gọi là hệ số
tung độ gốc chênh lệch.
© Nguyễn Tiến Dũng
Thống kê ứng dụng
18
12.4 HỒI QUY PHI TUYẾN
● Các dạng hàm phi tuyến thường dùng
● Hàm bậc 2
● Hàm đa thức bậc n
● Hàm mũ
● Hàm logarit
● Cách thực hiện
● Vẽ đồ thị dự đoán mối liên hệ
● Thực hiện PTHQ phi tuyến trực tiếp
● Tuyến tính hóa PTHQ tuyến tính
© Nguyễn Tiến Dũng
Thống kê ứng dụng
19