Bài giảng xác suất thống kê ước lượng tham số

CHƯƠNG 7
ƯỚC LƯỢNG
THAM SỐ

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

1


Nhắc lại thống kê mẫu

•
•
•
•

Thống kê mẫu: hàm của các bnn thành phần trong mẫu.
Cho mẫu ngẫu nhiên: W=(X1;X2;…Xn), thống kê mẫu có dạng:
T=f(X1;X2;…;Xn)
Thống kê T cũng là một bnn.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

2


Ước lượng

•
•
•
•
•
•

Tổng thể có tham số θ chưa biết.
Ta muốn xác định tham số này.
Lấy một mẫu cỡ n.
Từ mẫu này tìm cách xác định gần đúng giá trị của tham số θ của tổng thể.
Ước lượng điểm: dùng một giá trị.
Ước lượng khoảng: dùng một khoảng.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

3


Ước lượng

•
•

Ước lượng điểm: không chệch, hiệu quả, vững…
Ước lượng khoảng: đối xứng, một phía, hai phía…

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

4


Ước lượng điểm

•
•
•

Dùng một giá trị để thay thế cho giá trị của tham số θ chưa biết của tổng thể.

•

Ta dựa vào các tiêu chuẩn sau: không chệch, hiệu quả, vững …

Giá trị này là giá trị cụ thể của một thống kê T nào đó của mẫu ngẫu nhiên.
Cùng với một mẫu ngẫu nhiên có thể xây dựng được rất nhiều thống kê mẫu để
ước lượng cho tham số θ.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

5

Ước lượng không chệch (ƯLKC)

•

•
•

Thống kê T=f(X1;X2;…;Xn) gọi là ước lượng không chệch của tham số θ nếu:

E(T) = θ

Nếu E(T)≠θ thì ước lượng T gọi là một ước lượng chệch (ƯLC) của tham số θ.
Độ chệch của ước lượng:

E(T) − θ
Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

6


Vớ d 1




Trong chng 6 ta cú:

( )

E X =à

Vy:

X laứ ệL khoõng cheọch cuỷa à
F laứ ệL khoõng cheọch cuỷa p
S *2 , S 2 laứ ệL khoõng cheọch cuỷa 2
2
$
S laứ ệL cheọch 2

Bi ging Xỏc sut Thng kờ 2014

E ( S *2 ) = 2

( )

2
n 1) 2
(
$
E S =

n
E ( S2 ) = 2

E( F) = p

Nguyn Vn Tin

7


Ước lượng KC tốt hơn

•
•

Cho X, Y là hai ULKC của tham số θ.
Có nghĩa là:

E( X ) =θ

E(Y ) =θ

•

Nếu:

•

Thì Y là ước lượng tốt hơn X (do phương sai nhỏ hơn nên mức độ tập trung xung

V ( X ) >V (Y )

quanh tham số θ nhiều hơn).

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

8


Ví dụ 1.

•

Cho mẫu ngẫu nhiên (X1,X2, …, Xn).

a) CMR: các thống kê sau:

Z1 = X1;

X1 + X 2
Z2 =
;
2

X1 + X 2 + ... + X n
Zn =
n

đều là các ước lượng không chệch của µ.
b) Trong các ước lượng trên ước lượng nào là tốt hơn.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

9


Ước lượng hiệu quả

•
•
•
•

Thống kê T=f(X1;X2;…;Xn) gọi là ước lượng hiệu quả của tham số θ nếu:
T là ULKC của θ
V(T) nhỏ nhất so với mọi ULKC khác xây dựng trên cùng mẫu ngẫu nhiên trên.
Ta thường dùng bất đẳng thức Crammer-Rao để đánh giá.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

10


BĐT Cramer-Rao

•

Cho tổng thể có dấu hiệu nghiên cứu X là bnn có hàm mật độ xác suất dạng f(x,θ)
và thỏa mãn một số điều kiện nhất định.

•

Cho T là một ƯLKC của θ. Ta có:

Var ( T ) ≥

Bài giảng Xác suất Thống kê 2014

1
 ∂ ln ( f ( X , θ ) )
nE 

∂θ


Nguyễn Văn Tiến

2


÷
÷


11


Ví dụ 2.

•

Cho mẫu ngẫu nhiên (X1,X2, …, Xn) lấy từ tổng thể có kì vọng µ và phương sai σ2.
Xét 2 thống kê:

X1 + 2 X 2 + ... + nX n

X1 + X 2 + ... + X n
2 kê trên đều là các ước lượng không
; X =chệch của µ.
a) CMR: Z
cả12 =
thống
n
n ( nlượng
+ 1)nào là tốt hơn.
b) Trong hai ước lượng trên ước

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

12


Ví dụ 3

•

2
Cho tổng thể có phân phối chuẩn N(μ;σ ). CMR:

là ước lượng hiệu quả

X

nhất của tham số μ.
Giải.
Dễ thấy

•

X

là ước lượng không chệch và:

( )

σ
Var X =
n

2

Hàm ppxs của tổng thể:

f ( x ,θ ) = f ( x , µ ) =
Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

1

σ 2π

e

( x −µ )
−

2

2σ 2

13


Ví dụ 3

•

Ta có:

(

∂ ln f ( x , µ )

•

∂µ

)

 x−µ 2
(
)

∂ −
− ln σ 2π
2

2σ

=
∂µ

(

)




 = x−µ
2
σ

Và:
2

2

X −µ
1
1
E  2  = 4 E( X − µ) = 2
σ
 σ  σ
Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

14


Ví dụ 3

•

Theo bất đẳng thức Cramer-Rao ta có:

( )

σ2
Var ( T ) ≥
=
= Var X
2
n
 ∂ ln f ( X ,θ ) 
nEcó phương sai nhỏ nhất÷trong các ước lượng không chệch
• Vậy thống kê là ƯLKC

∂θ
÷
của tham số μ của tổng thể


1

(

)

X

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

15


Các ULHQ

•

Ta chứng minh được:

X laø ÖLHQ cuûa µ .
S , S laø ÖLHQ cuûa σ .
2

*2

2

F laø ÖLHQ cuûa p.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

16


Ước lượng vững

•
•

•

Cho thống kê T=f(X1;X2;…;Xn)
Thống kê T gọi là ước lượng vững của tham số θ nếu:

(

)

lim P Tn − θ < ε = 1, ∀ε > 0

n→+∞

Khi này ta nói thống kê T hội tụ theo xác suất đến tham số θ khi cỡ mẫu tiến về vô
cùng.

•

Để đánh giá ước lượng vững ta dùng BĐT Chebyshev (Trê bư sép).

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

17


Các ước lượng vững

•

Từ kết quả Chương 5, ta chứng minh được:

X laø ÖLV cuûa µ .

() ( )
2

$
*
S , S , S
2

2

laø ÖLV cuûa σ .
2

F laø ÖLV cuûa p.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

18


Túm li

X laứ ệLKC,ệLHQ,ệLV cuỷa à .

( )

S , S
2

*

2

laứ ệLKC,ệLHQ,ệLV cuỷa .
2

F laứ ệLKC,ệLHQ,ệLV cuỷa p.


Do vy ta cú th xp x cỏc tham s trờn bng cỏc thng kờ mu trong thc hnh,
tớnh toỏn.

Bi ging Xỏc sut Thng kờ 2014

Nguyn Vn Tin

19


Ước lượng khoảng

•

Giả sử tổng thể có tham số θ chưa biết. Dựa vào mẫu ngẫu nhiên ta tìm khoảng (a;
b) sao cho:
P(a < θ
Khi đó ta nói, (a;b) là khoảng ước lượng của tham số θ với độ tin cậy (1 - α) .
Độ tin cậy thường được cho trước và khá lớn.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

20

Ước lượng khoảng

•
•
•
•
•

(a; b): khoảng tin cậy hay khoảng ước lượng.
(1 - α): độ tin cậy của ước lượng.
|b - a|=2ε: độ rộng khoảng tin cậy.
ε : độ chính xác (sai số).
Vấn đề: tìm a, b như thế nào? (1 - α) là bao nhiêu thì phù hợp.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

21


Phân phối của trung bình mẫu
Tổng thể

X ~ N ( µ;σ

Trung bình mẫu
2

)

Không chuẩn

Không chuẩn nhưng đối
xứng.

Bài giảng Xác suất Thống kê 2014

 σ2 
X ~ N  µ; ÷
n 

 σ2 
X ≈ N  µ; ÷
n 

 σ2 
X ≈ N  µ; ÷
n 


Nguyễn Văn Tiến

Kích thước mẫu

Tùy ý

n>30

Có thể được với n nhỏ.

22


Chuẩn hóa ppxs
Tổng thể
Chuẩn,
đã biết σ
n>30,
đã biết σ
n>30,
chưa biết σ
Chuẩn, n<30
chưa biết σ

Bài giảng Xác suất Thống kê 2014

TB mẫu

Chuẩn hóa

 σ2 
X ~ N  µ; ÷
n 


X − µ)
(

Z=

n

~ N ( 0;1)

 σ2 
X ≈ N  µ; ÷
n 


X − µ)
(
Z=

n

~ N ( 0;1)

 σ2 
X ≈ N  µ; ÷
n 


X − µ)
(
Z=

n

~ t ( n − 1)

 σ2 
X ~ N  µ; ÷
n 


X − µ)
(
Z=

n

~ t ( n − 1)

Nguyễn Văn Tiến

σ

σ

S

S

23


Tìm khoảng ước lượng cho µ

•
•
•
•

Ta thông qua thống kê Z (vì đã có ppxs xác định).
Với cùng độ tin cậy, tìm khoảng ước lượng cho Z.
Giải bpt tìm ngược lại khoảng ước lượng cho tham số µ.
Các tiêu chuẩn: đối xứng, bên phải, bên trái.

Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

24


Khoảng tin cậy

•

Khoảng tin cậy hai phía của μ:

•

Khoảng tin cậy bên trái của μ:

µ ∈ ( a; b )

µ ∈ ( −∞; b )

•

Khoảng tin cậy bên phải của μ:

µ ∈ ( a; +∞ )
Bài giảng Xác suất Thống kê 2014

Nguyễn Văn Tiến

25