Xác Suất Thống Kê (phần 24) pot

Đánh giá ước lượng
*Ước lượng ít phân tán
Cho T
1
, T
2
là các ước lượng của θ. Ước lượng T
1
gọi là ít phân tán hơn T
2
(hay tốt hơn T
2
) nếu
Var(T
1
)  Var(T
2
) .
Ước lượng càng ít phân tán thì sai số càng nhỏ.
Đánh giá ước lượng
*Ước lượng tốt nhất
T được gọi là ước lượng tốt nhất của θ nếu T là
ước đúng, và ít phân tán nhất.
Example
Giả sử chiều cao X ∼ N (µ, σ
2
). Lấy mẫu
X
1
, . . . , X
n

để ước lượng µ. Xét các thống kê sau:
T
1
= X
1
T
2
=
X
1
+ X
2
2
T
3
=
X
1
+ 2X
2
3
T
4
=
X
1
+ . . . + X
n
n
Hỏi ước lượng nào là tốt nhất?

Ước lượng hợp lý cực đại
Cho mẫu X
1
, . . . , X
n
trong đó các X
i
là độc lập
nhau và có cùng phân phối F
θ
. Ta muốn ước
lượng tham số chưa biết θ.
Người ta lý luận rằng, các quan sát có được từ
mẫu thử là các giá trị có xác suất xuất hiện lớn
nhất mỗi khi lấy mẫu.
Từ lý luận này, ước lượng hợp lý cực đại, hay còn
gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định
nghĩa như sau:
Ước lượng hợp lý cực đại
Cho mẫu X
1
, . . . , X
n
trong đó các X
i
là độc lập
nhau và có cùng phân phối F
θ
. Ta muốn ước

lượng tham số chưa biết θ.
Người ta lý luận rằng, các quan sát có được từ
mẫu thử là các giá trị có xác suất xuất hiện lớn
nhất mỗi khi lấy mẫu.
Từ lý luận này, ước lượng hợp lý cực đại, hay còn
gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định
nghĩa như sau:
Ước lượng hợp lý cực đại
Cho mẫu X
1
, . . . , X
n
trong đó các X
i
là độc lập
nhau và có cùng phân phối F
θ
. Ta muốn ước
lượng tham số chưa biết θ.
Người ta lý luận rằng, các quan sát có được từ
mẫu thử là các giá trị có xác suất xuất hiện lớn
nhất mỗi khi lấy mẫu.
Từ lý luận này, ước lượng hợp lý cực đại, hay còn
gọi là ước lượng cơ hội cực đại (maximum
likelihood estimator) của tham số θ được định
nghĩa như sau:
Ước lượng hợp lý cực đại
Gọi f
θ

(x
1
, x
2
, . . . , x
n
) là hàm mật độ xác suất đồng
thời của các biến X
1
, X
2
, . . . , X
n
.
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
f
θ
(x
1
, x
2
, . . . , x
n
) đạt giá trị lớn nhất.
Hàm số f
θ
(x
1
, x
2

, . . . , x
n
) được gọi là hàm cơ hội
của tham số θ.
Như vậy tìm ước lượng hợp lý cực đại chính là
tìm cực trị của hàm f
θ
(x
1
, x
2
, . . . , x
n
). Thông
thường, để dễ tính toán, người ta tìm cực trị của
hàm ln[f
θ
(x
1
, x
2
, . . . , x
n
)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x).
Ước lượng hợp lý cực đại
Gọi f
θ
(x
1

, x
2
, . . . , x
n
) là hàm mật độ xác suất đồng
thời của các biến X
1
, X
2
, . . . , X
n
.
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
f
θ
(x
1
, x
2
, . . . , x
n
) đạt giá trị lớn nhất.
Hàm số f
θ
(x
1
, x
2
, . . . , x
n

) được gọi là hàm cơ hội
của tham số θ.
Như vậy tìm ước lượng hợp lý cực đại chính là
tìm cực trị của hàm f
θ
(x
1
, x
2
, . . . , x
n
). Thông
thường, để dễ tính toán, người ta tìm cực trị của
hàm ln[f
θ
(x
1
, x
2
, . . . , x
n
)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x).
Ước lượng hợp lý cực đại
Gọi f
θ
(x
1
, x
2

, . . . , x
n
) là hàm mật độ xác suất đồng
thời của các biến X
1
, X
2
, . . . , X
n
.
Ước lượng hợp lý cực đại của θ là giá trị θ sao cho
f
θ
(x
1
, x
2
, . . . , x
n
) đạt giá trị lớn nhất.
Hàm số f
θ
(x
1
, x
2
, . . . , x
n
) được gọi là hàm cơ hội
của tham số θ.

Như vậy tìm ước lượng hợp lý cực đại chính là
tìm cực trị của hàm f
θ
(x
1
, x
2
, . . . , x
n
). Thông
thường, để dễ tính toán, người ta tìm cực trị của
hàm ln[f
θ
(x
1
, x
2
, . . . , x
n
)] vì cực trị của hàm
ln[f(x)] cũng chính là cực trị của hàm f(x).
Ước lượng hợp lý cực đại
Các bước tìm ước lượng HLCĐ:
1. Xác định hàm mật độ xác suất f(x) của biến
X.
2. Viết hàm mật độ xác suất đồng thời
f
θ
(x
1

, . . . , x
n
) .
3. Lấy ln của hàm mật độ xác suất đồng thời:
ln[f
θ
(x
1
, . . . , x
n
)] .
4. Tính đạo hàm
d
dθ
ln[f
θ
(x
1
, . . . , x
n
)].
5. Ước lượng HLCĐ của θ là nghiệm của
phương trình
d
dθ
ln[f
θ
(x
1
, . . . , x

n
)] = 0 .
Ước lượng hợp lý cực đại
Các bước tìm ước lượng HLCĐ:
1. Xác định hàm mật độ xác suất f(x) của biến
X.
2. Viết hàm mật độ xác suất đồng thời
f
θ
(x
1
, . . . , x
n
) .
3. Lấy ln của hàm mật độ xác suất đồng thời:
ln[f
θ
(x
1
, . . . , x
n
)] .
4. Tính đạo hàm
d
dθ
ln[f
θ
(x
1
, . . . , x

n
)].
5. Ước lượng HLCĐ của θ là nghiệm của
phương trình
d
dθ
ln[f
θ
(x
1
, . . . , x
n
)] = 0 .