Chng5.Mtsnhlýhit
Chơng 5
Một số định lý hội tụ
Giả sử trên không gian x¸c suÊt (Ω, A, P) ta cã d·y c¸c biến ngẫu nhiên
{X } (n = 1,2.....)
n
và biến ngẫu nhiên Y.
A. Sự hội tụ theo xác suất
I. định nghĩa v một số đặc điểm
1. Định nghĩa
Dẫy {X n } (n = 1,2......) đợc gọi là hội tụ theo xác suất vỊ X nÕu víi mäi
ε > 0 nhá t ý ta ®Ịu cã:
lim P( X n − X < ε ) = 1
n →∞
(P)
Lóc ®ã ta ký hiƯu X n ⎯⎯→ X (n → ∞)
(P)
ý nghÜa: Nh− vËy nÕu X n ⎯⎯→ X (n → ∞) th×
P{ω : X n (ω) − X(ω) < ε} → 1 (n → ∞ )
hoặc cũng có nghĩa là P{ : X n () − X(ω) ≥ ε} → 0 (n → ∞ )
2. Một số đặc điểm
Định lý 1:
(P)
Nếu X n X (n → ∞ ) vµ Yn ⎯( P ) Y (n → ∞) th×
X n + Yn ⎯( P ) X + Y (n → ∞) .
⎯→
Chøng minh.
Víi mäi ε > 0 ta cã
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
213
Chương 5. Một số định lý hội tụ
[ (X
n
ε⎤ ⎡
ε⎤
⎡
+ Yn ) − (X + Y ) ≥ ε] ⊂ ⎢ X n − X ≥ ⎥ ∪ ⎢ Yn − Y ≥ ⎥
2⎦ ⎣
2⎦
⎣
VËy
ε⎤
ε⎤
⎡
⎡
0 ≤ P[ (X n + Yn ) − (X + Y ) ≥ ε] ≤ P ⎢ X n − X ≥ ⎥ + P ⎢ Yn − Y ≥ ⎥
2⎦
2⎦
⎣
⎣
Do gi¶ thiÕt vỊ sù héi tơ theo x¸c st cđa X n về X và của Yn về Y nên giới
hạn ở vế bên phải bằng 0.
Từ đó ta suy ra
lim P[ (X n + Yn ) − (X + Y ) ≥ ε] = 0
n →∞
⎯→
Do ®ã X n + Yn ( P ) X + Y (n )
(P)
Định lý 2: Nếu g là hàm liên tục trên R và X n X (n ) thì:
(P)
g(X n ) g(X) (n )
Chứng minh
Vì g là hàm liên tục nên tại x 0 với mọi > 0 sÏ cã ∃δ > 0 sao cho víi mäi
x th× khi x − x 0 < δ ta sÏ cã g ( x ) − g ( x 0 ) < áp dụng cho biến ngẫu nhiên ta
có thÓ viÕt: ∀ε > 0, ∃δ > 0 sao cho:
(X
n
− X < δ ) ⊂ [ g (X n ) − g (X) < ε]
LÊy x¸c suÊt hai vÕ ta ®−ỵc
P( X n − X < δ ) ≤ P[ g (X n ) − g (X) < ε]
Suy ra
lim P( X n − X < δ ) ≤ lim P[ g (X n ) − g (X) < ε]
n →∞
n →∞
(P)
Do X n ⎯⎯→ X (n → ∞) nªn giới hạn ở vế trái bằng 1.
Vậy
lim P [ g ( X n ) − g ( X ) < ] 1
n
Do xác suất không thể vợt quá một nên ta suy ra
LờVnPhongTrnTrngNguyờn,HKTQD
214
Chương 5. Một số định lý hội tụ
lim P[ g (X n ) − g (X) < ] = 1
n
Điều này chứng tỏ g(X n ) ⎯( P ) g(X) (n → ∞) .
II. Mét sè quy lt sè lín
Ta ®· biÕt r»ng mét biÕn cè có xác suất bằng 0 có thể coi là hầu nh không
thể có. Tơng tự một biến cố có xác suất bằng 1 có thể coi là hầu nh chắc
chắn xẩy ra.
Mặt khác một biến cố ngẫu nhiên thờng do rất nhiều nguyên nhân ngẫu
nhiên gây ra. Các nguyên nhân ngẫu nhiên này có thể biểu thị bằng các biến
ngẫu nhiên. Vì vậy ta phải xem xét các biến ngẫu nhiên này phải thoả mÃn
những điều kiện gì để tác ®éng tỉng céng cđa chóng cã thĨ dÉn ®Õn c¸c biến
cố có xác suất bằng 0 (hoặc bằng 1). Việc tìm ra các điều kiện này chính là nội
dung của các quy luật số lớn.
1. Bất đẳng thức Trê-b-sép
Bất đẳng thức này là cơ sở để chứng minh một số định lý về luật số lớn và
đợc phát biểu nh sau:
( )
r
Với mọi biến ngẫu nhiên X mà có E X < + trong đó r > 0 thì với
mọi sè ε > 0 ta ®Ịu cã:
P( X ≥ ε ) ≤
( )
1
r
E X
r
ε
Chøng minh
Ta chøng minh cho tr−êng hỵp X là biến ngẫu nhiên liên tục với hàm mật độ
xác suất f(x) xác định trên R.
Ta có
P( X ε ) =
∫ f ( x )dx ≤
x ≥ε
1
εr
∫
r
x f ( x )dx
x ≥ε
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
215
Chương 5. Một số định lý hội tụ
1
≤ r
ε
+∞
∫x
r
f ( x )dx =
−∞
( )
1
r
E X
r
ε
Ghi chó: NÕu thay X bëi X- E(X) vµ r = 2
Ta cã
P( X − E( X) ≥ ε ) ≤
1
2
E[X − E(X)]
2
ε
P( X E (X) )
V(X)
2
Tức là
(1)
Hoặc viêt dới dạng tơng đơng
P( X E ( X) < ) 1
V(X)
2
(2)
Các dạng (1) và (2) là các dạng thờng dùng của bất đẳng thức Trê_b_sép.
2. Định lý Trê-b-sép (luật số lớn của Trê-b-sép)
Phát biểu: Nếu {X n } ( n = 1,2.....) là dẫy các biến ngẫu nhiên:
a. Độc lập từng đôi.
b. Có phơng sai bị chặn đều, tức là tồn tại hằng số C sao cho
V ( X i ) ≤ C víi mäi i ≥ 1 , th× víi mäi sè ε > 0 nhá t ý ta ®Ịu cã:
1 n
⎛1 n
⎞
lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ = 1
n →∞
n i =1
⎝ n i =1
⎠
Chøng minh
Ta ký hiƯu X n =
1 n
∑ Xi
n i =1
¸p dơng bÊt đẳng thức (2) cho biến ngẫu nhiên X n ta ®−ỵc
(
)
P X n − E (X n ) < ε ≥ 1 −
V (X n )
ε2
(α )
Theo tÝnh chÊt cña kú väng to¸n ta cã
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
216
Chương 5. Một số định lý hội tụ
⎞ 1 n
⎛1 n
E(X n ) = E⎜ ∑ X i ⎟ = ∑ E(X i )
⎝ n i =1 n i =1
()
Do giả thiêt (a) nên:
1
1 n
V(X n ) = V⎜ ∑ X i ⎟ = 2
⎝ n i =1 ⎠ n
n
∑ V(X )
i =1
i
Do gi¶ thiÕt (b) nªn ta suy tiÕp:
V (X n ) ≤
C
1
nC =
2
n
n
(γ )
Thay các kêt quả ở ( ) và ( ) vào bất đẳng thức ở ( ) ta đợc:
C
1 n
1 n
⎞
P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ ≥ 1 − 2
n i =1
nε
⎝ n i =1
⎠
LÊy giíi h¹n hai vÕ:
1 n
C ⎞
⎛1 n
⎞
⎛
lim P ⎜ ∑ X i − ∑ E (X i ) < ε ⎟ ≥ lim ⎜ 1 − 2 ⎟
n →∞
n i =1
nε ⎠
⎝ n i =1
⎠ n→∞ ⎝
1 n
⎛1 n
⎞
lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ ≥ 1
n →∞
n i =1
⎝ n i =1
⎠
Do xác suất bị chặn trên bởi 1 nên ta suy ra hệ thức phải chứng minh.
ý nghĩa: Qua định lý ta thÊy biÕn ngÉu nhiªn X n =
1 n
∑ X i hội tụ theo xác
n i =1
suất về giá trị trung bình của các kỳ vọng toán của các biến ngẫu nhiên thành
phần tạo nên nó. Nói cách khác nếu ta ký hiƯu a n =
1 n
∑ X i th× định lý
n i =1
Trê_b_sép cho thấy tính ổn định của biến ngẫu nhiên X n quanh giá trị a n
này.
Trờng hợp đặc biệt. Nếu các E ( X i ) đều bằng thì hệ thức đà nêu trong định
lý trë thµnh:
(
)
lim P X n − μ < ε = 1
n →∞
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
217
Chng5.Mtsnhlýhit
Một trong các trờng hợp đặc biệt này sau này ta sẽ gặp là các
X n ( n = 1,2,....) là những biến ngẫu nhiên độc lập, có cùng quy luật phân phối
xác suất, do đó có cùng kỳ vọng là và cùng phơng sai là 2 . Khi ấy, mặc
dù từng biến ngẫu nhiên X i có thể nhận giá trị sai khác rất nhiều so với ,
nhng biến ngẫu nhiên trung bình cộng X n của một số rất lớn các biến ngẫu
nhiên thành phần X i này lại nhận giá trị rất gần với với xác suất rất gần 1.
3. Định lý Bernoulli (luật số lớn của Bernoulli)
Phát biểu: Nếu S n là số lÇn xt hiƯn cđa biÕn cè A trong n phÐp thử độc lập
với mỗi phép thử chỉ có hai kêt quả là A và và với xác suất để A xuất hiện
trong mỗi phép thử đều là P(A) = p( 0 < p < 1) th× víi mäi sè ε > 0 nhá t ý
ta ®Ịu cã:
⎞
⎛S
lim P⎜ n − p < ε ⎟ = 1
⎟
⎜ n
n →∞
⎠
⎝
ý nghÜa: Ta thấy
Sn
chính là tần suất f n của A trong lợc đồ Bernoulli với hai
n
(P)
tham số n và p. vì vậy theo định lý này ta thấy f n p (n ) . Do đó
nếu n khá lớn ta có thể lấy giá trị của f n làm giá trị xấp xỉ cho p. Đây chính là
cách xác định xác suất của một biến cố A nào đó theo quan điểm thống kê.
Chứng minh
áp dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên f n ta đợc:
P ( f n − E (f n ) < ε ) ≥ 1 −
V(f n )
ε2
NÕu gäi X i lµ “sè lÇn xt hiƯn cđa biÕn cè A trong phÐp thư thứ i (i = 1, n )
thì các X i là các biến ngẫu nhiên độc lập, cùng tuân theo quy lt A(p) víi
E (X i ) = p vµ V (X i ) = p(1 − p) .
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
218
Chương 5. Một số định lý hội tụ
Do ®ã
⎛S ⎞
⎛ X + X 2 + .... + X n ⎞ 1 n
E(f n ) = E⎜ n ⎟ = E⎜ 1
⎟ = ∑ E(X i ) = p
n
⎠ n i =1
⎝n ⎠
⎝
⎛S ⎞ 1
V (f n ) = V ⎜ n ⎟ = 2
⎝ n ⎠ n
n
1
∑ V (X ) = n
i =1
i
2
np (1 − p ) =
p (1 p )
n
Thay các kết quả này vào bất đẳng thức trên ta đợc:
P( f n p < ε ) ≥ 1 −
p(1 − p)
nε 2
LÊy giíi hạn hai vế ta đợc:
p(1 p)
lim P( f n − p < ε ) ≥ lim⎜ 1 −
⎟
n →∞
n →∞
nε 2 ⎠
⎝
Do p(1 − p) ≤
1
vµ ε hữu hạn nên giới hạn bên phải bằng 1. Do xác suất bị
4
chặn trên bởi 1 nên cuối cùng ta suy ra:
lim P( f n − p < ε ) = 1
n
4. Định lý Markov ( luật số lớn của Markov)
Phát biểu: Nếu dẫy các biến ngẫu nhiên {X n } ( n = 1,2,....) thoả mÃn điều kiện:
n
1
lim ⎢ 2 V⎛ ∑ X i ⎞⎥ = 0
⎟
⎜
n →∞
⎣ n i =1
Thì khi đó với mọi số ε > 0 nhá t ý ta ®Ịu cã:
1 n
⎛1 n
⎞
lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ = 1
n →∞
n i =1
⎝ n i =1
ý nghĩa: Nh vậy điều kiện trong định lý Markov rộng hơn các điều kiện trong
định lý Trê_b_sép ở chỗ không đòi hỏi tính độc lập của các biến ngẫu nhiên
thành phần và tính bị chặn đều của các phơng sai cđa chóng.
Lê Văn Phong ‐ Trần Trọng Ngun, ĐHKTQD
219
Chng5.Mtsnhlýhit
Chứng minh
áp dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên X n =
P
1 n
X i ta đợc
n i =1
⎞
⎛1 n
V⎜ ∑ X i ⎟
⎞
1 n
n i =1 ⎠
⎞
⎛1 n
X i − E⎜ ∑ X i ⎟ < ε ⎟ ≥ 1 − ⎝ 2
∑
⎟
n i =1
ε
⎝ n i =1 ⎠
⎠
Nh− ®· biÕt
⎞ 1 n
⎛1 n
E⎜ ∑ X i ⎟ = ∑ E(X i )
⎝ n i =1 ⎠ n i =1
n
⎞ 1
⎛1 n
V⎜ ∑ X i ⎟ = 2 V⎛ ∑ X i ⎞
⎟
⎜
⎝ n i =1 ⎠ n i =1
Thay các kết quả này vào bất đẳng thức trên và lấy giới hạn hai vế ta đợc:
1 n
1
1 n
1 n
lim P X i − ∑ E(X i ) < ε ⎟ ≥ 1 − 2 lim ⎢ 2 V⎜ ∑ X i ⎞ ⎥
⎟
n →∞
n →∞
ε
n i =1
⎣ n ⎝ i =1
n i =1
Do giả thiết của định lý ta suy ra vế phải bằng 1, và do xác xuất bị chặn trên
bởi 1 nên ta suy ra hệ thức phải chứng minh.
Ghi chú. Đặc biệt nếu nh các biến ngẫu nhiên Xn (n = 1,2.) đôi một không
tơng quan (và mạnh hơn nữa đôi một độc lập) thì điều kiện trong định lý
Markov trở thành:
1 n
V(X i ) → 0 (n → ∞ )
n 2 i =1
ThÝ dụ 1. HÃy xác định số lợng tối thiểu các phép thử cần thực hiện trong
lợc đồ Bernoulli để dựa vào fn ta có xấp xỉ đợc p với độ chính xác 0,1 và độ
tin cậy tối thiểu là 95%.
Bài giải
Ta phải xác định giá trị tối thiểu của n sao cho:
P( f n − p < 0,1) ≥ 0,95
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
220
Chng5.Mtsnhlýhit
Theo định lý Bernoulli ta chỉ biết đợc fn hội tụ theo xác suất về p. Tuy nhiên
dựa vào bất đẳng thức Trê_b_sép áp dụng cho fn đà nêu trong phần chứng
minh định lý này ta có:
P( f n p < 0,1) ≥ 1 −
VËy ta ph¶i cã: 1 −
p(1 − p )
n (0,1) 2
p(1 − p )
1
= 0,95 do cha biết, nhng vì p(1- p) nên ta
2
4
n (0,1)
có thể đánh giá tiếp:
1
1
0,95
4n (0,1) 2
Suy ra n ≥ 500
ThÝ dô 2. Cho d·y { Xn } (n = 1,2,.) là các biến ngẫu nhiên độc lập với quy
luật phân phối xác suất nh sau:
i
Xi
1
p(xi)
i
0
1
2 i
1
i
1
2 i
Chứng tỏ rằng dẫy biến ngẫu nhiên này tuân theo quy luật số lớn.
Bài giải
Ta đễ dàng tính đợc E(Xi) = 0, V(Xi) =
i
Tõ ®ã
1
n2
VËy
n
∑ V(X i ) =
i =1
1
n2
n
∑
i =1
i<
1
n2
n
∑
n=
i =1
1
n
1 n
lim 2 ∑ V(X i ) = 0 vµ {X n } ( n = 1,2....) tu©n theo luËt sè lín.
n →∞
n i =1
B. Sù héi tơ theo quy luËt
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
221
Chng5.Mtsnhlýhit
I. Các định nghĩa
Định nghĩa 1
DÃy các biến ngẫu nhiên {Xn} (n = 1, 2,) đợc gọi là hội tụ theo quy
luËt vÒ X nÕu: lim FX ( x ) = FX ( x ) víi mäi x thuéc thuéc tập hợp các điểm liên
n
n
tục của FX (X).
Khi đó ta ký hiÖu X n ⎯L X (n → ∞) .
Ghi chó 1. Do cã sù t−¬ng øng ( 1-1 ) giữa hàm đặc trng và hàm phân phối
nên điều kiƯn trªn cã thĨ thay b»ng:
lim g X ( t ) = g X ( t )
n →∞
n
Ghi chó 2. Ta biết quy luật chuẩn là quy luật thờng gặp và có nhiều ứng dụng.
Vì thế ta sẽ tìm các ®iỊu kiƯn mét d·y biÕn ngÉu nhiªn {X n } ( n = 1,2...) sÏ héi
tơ theo quy lt vỊ quy luật N( 0; 1). Chính xác hơn ta có khái niệm tiệm cận
chuẩn nh sau:
Nếu quy luật phân phối của biến ngẫu nhiên X phụ thuộc vào tham số n và nếu
ta có thể chọn đợc hai đại lợng m0 và 0 (phụ thuộc hoặc không phụ thuộc
vào n) sao cho khi n thì hàm phân phèi cđa biÕn ngÉu nhiªn
~ X − m0
X=
σ0
SÏ tiÕn tíi hàm phân phối của quy luật chuẩn N( 0;1), tức lµ
(
)
2
1 x − u2
~
lim FX ( x ) = lim P X < x = FU ( x ) =
~
∫ e du
n →∞
n →∞
2 π −∞
Th× ta nãi r»ng X tiÖm cËn chuÈn (m 0 , σ 0 ) .
(
)
ThÝ dơ. NÕu X tu©n theo quy lt χ 2 (n ) th× nã tiƯm cËn chn n , 2 n .
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
222
Chng5.Mtsnhlýhit
Chứng minh
Thật vậy, vì X tuân theo quy luật (n ) nªn g X ( t ) = (1 − 2it )
−
2
n
2
E (X) = n
V (X) = 2n suy ra σ(X ) = 2 n
~ X−n
Ta xÐt biÕn ngÉu nhiên chuẩn hoá từ X: X =
2n
~
Khi đó hàm đặc tr−ng cđa X sÏ lµ
[ ]
g X (t) = E e
~
=e
=e
~
itX
− it
n
2
−it
n
2
−n
⎡ it X2 n ⎤
= E ⎢e
⎥
⎣
⎦
⎛ 1 ⎞
gX ⎜
t⎟
⎝ 2n ⎠
1 ⎞
⎛
t⎟
⎜ 1 − 2i
2n ⎠
⎝
−
n
2
=e
− it
n
2
⎛
2⎞
⎜ 1 − it
⎟
⎜
n⎟
⎝
⎠
−
n
2
Do ®ã
2 n ⎛
2⎞
⎟.
− ln⎜ 1 − it
n⎟
n 2 ⎜
⎝
⎠
ln g X ( t ) = −it
~
Khai triÓn Mac_laurin ta cã:
2
3
⎛
2⎞
2 1⎛ 2 ⎞ 1⎛ 2 ⎞
⎟ = −it
⎟ − ⎜ it
⎟ + ....
ln⎜ 1 − it
− ⎜ it
⎜
n⎟
n 2⎜ n ⎟ 3⎜ n ⎟
⎝
⎠
⎝
⎠
⎝
⎠
Suy ra
t2
⎛ 1 ⎞
ln g X ( t ) = − + 0⎜
~
⎟
2
⎝ n⎠
VËy
lim g X ( t ) = e
~
−
t2
2
n →∞
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
223
Chng5.Mtsnhlýhit
Đây là hàm đặc trng của quy luật N( 0;1) từ đó ta kết luận hàm phân phối của
~ Xn
tiến tới hàm phân phối của quy luật N( 0;1) khi n → ∞ , tøc lµ X
X=
2n
(
)
tiƯm cËn chn n , 2 n .
II. Định lý giới hạn trung tâm của liapounov
Phát biểu. Cho các biến ngẫu nhiên độc lập Xk (k = 1,2) có kỳ vọng hữu hạn
E(Xk) = ak và phơng sai hữu hạn V(X k ) = σ 2 .
k
lim
n →∞
NÕu
1
B3
n
∑ E(X
n
k =1
k
− ak
3
)= 0
(*)
Trong ®ã:
⎛ n X ⎞ = n V (X ) = n σ 2
B = V (S n ) = V⎜ ∑ k ⎟ ∑
∑ k
k
k =1
⎝ k =1 ⎠ k =1
2
n
n
Th× S n = ∑ X k sÏ tiƯm cËn chn víi m0 lµ E(Sn) vµ σ 0 lµ
k =1
V(Sn ) , tức là
tổng chuẩn hoá:
~ Sn E(Sn ) Sn E(Sn )
=
Sn =
σ(Sn )
V(Sn )
SÏ tho¶ m·n
(
)
~
lim F~ ( x ) = lim P Sn < x = FU ( x )
n →∞
n →∞ S
n
Trong ®ã FU ( x ) là hàm phân phối của biến ngẫu nhiên U tuân theo quy luËt N(
0;1).
Nãi c¸ch kh¸c:
lim g ~ ( t ) = g U ( t ) = e
S
n →∞
n
−
t2
2
.
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
224
Chng5.Mtsnhlýhit
ý nghĩa. Điều kiện (*) đợc gọi là điều kiện Liapounov. Nếu điều kiện này
n
đợc thoả mÃn thì với n khá lớn quy luật phân phối của tổng S n = ∑ X k cã thÓ
k =1
n
n
k =1
k =1
coi xÊp xØ lµ quy lt chn víi kú väng lµ E(S n ) = ∑ E (X k ) = ∑ a k và với
n
n
k =1
k =1
phơng sai là V(S n ) = ∑ V(X k ) = ∑ σ 2 .
k
Chứng minh
Để chứng minh định lý này ta sẽ chứng minh rằng hàm đặc trng của tổng
chuẩn hoá:
n
n
k =1
k =1
Xk − ∑ak
~
Sn =
Bn
Xk − ak
Bn
k =1
n
=∑
sÏ tiÕn tíi hµm ®Ỉc tr−ng cđa quy lt N( 0;1) khi n → ∞ , tøc lµ
lim g ~ ( t ) = e
S
n
t2
2
n
Theo tính chất của hàm đặc trng thì:
n
g ~ (t) = ∏ g X
S
n
k =1
k −a k
(t )
Bn
i) V× vậy trớc hết ta xác định g ( X
k a k
) (t)
theo công thức khai triển đÃ
biết:
k 1
(iz )
k =0
r!
e =∑
iz
r
+θ
zk
víi θ < 1
k!
Ta suy ra
(itX )
=
0
e
itX
0!
(itX )
+
= 1 + itX −
1
1!
(itX )
+
2
2!
(tX )
+θ
t2 2
t3
X + θ X3
2
6
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
3
3!
víi θ < 1
víi θ < 1
225
Chương 5. Một số định lý hội tụ
Do ®ã ta cã thĨ viÕt khai triĨn cđa g X ( t ) nh− sau:
t2
g X ( t ) = E(e ) = 1 + itE (X) − E(X 2 ) + R ( t )
2
itX
trong đó phần d R(t) thoả mÃn bất đẳng thức
( )t
R (t ) C E X
3
3
Tõ ®ã ta suy ra:
g (X
k −a k
) (t)
= E[e it ( X
k −a k
)
]
t2
2
= 1 + itE (X k − a k ) − E(X k − a k ) + R k ( t )
2
(
Víi R k ( t ) ≤ C.E X k − a k
3
)t
3
trong đó C là hằng số nào đó.
Vì E (X k − a k ) = E ( X k ) − a k = a k − a k = 0
E(X k − a k ) = E[X k − E(X k )] = V(X k ) = σ 2
k
2
2
Nªn ta cã:
g (X
ii)
k −a k
σ2 2
k
t + R k (t)
) (t) = 1 −
2
Theo tÝnh chÊt ®· biÕt cđa hàm đặc trng là g aX ( t ) = g X (at ) nªn
ta suy ra:
g (X
k −a k
) (t ) = g (X
Bn
k −a k
⎛ t
)⎜
⎜B
⎝ n
σ2 ⎛ t
=1− k ⎜
2 ⎜ Bn
⎝
⎞
⎟
⎟
⎠
2
⎞
⎛ 1
⎟ + Rk⎜
⎟
⎜B
⎠
⎝ n
=1−
⎛ 1
σ2 2
k
t + Rk⎜
⎜B
2B2
⎝ n
n
⎛ 1
trong ®ã R k ⎜
⎜B
⎝ n
⎞
⎟ ≤ C.E X k − a k
⎟
⎠
(
⎞
⎟
⎟
⎠
⎞
⎟
⎟
⎠
3
)
t
Bn
3
Tøc lµ
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
226
Chng5.Mtsnhlýhit
1
Rk
B
n
iii)
(
E Xk ak
C.
B3
n
3
)t
3
Nh đà nêu
n
g ~ (t ) = ∏ g X
S
n
k =1
(t )
k −a k
Bn
n
ln g ~ ( t ) = ∑ ln g X
S
nªn
n
k =1
−a k
Bn
k
(t)
⎡
⎛ t
σ2 2
= ∑ ln ⎢1 − k2 t + R k ⎜
⎜B
k =1
⎝ n
⎣ 2B n
n
⎞⎤
⎟⎥
⎟
⎠⎦
V× ln (1 + α n ) ≈ α n nÕu α n → 0 nªn:
⎡
⎛ t
σ2 2
ln ⎢1 − k2 t + R k ⎜
⎜B
⎝ n
⎣ 2B n
⎞⎤ ⎡ σ 2 2
⎛ t
⎟⎥ ≈ ⎢− k2 t + R k ⎜
⎟
⎜B
⎠⎦ ⎣ 2 B n
⎝ n
⎞⎤
⎟⎥
⎟
⎠⎦
Do ®ã
⎡ σ2 2
⎛ t
ln g ~ ( t ) ≈ ∑ ⎢− k 2 t + R k ⎜
S
⎜B
k =1
⎝ n
⎣ 2B n
n
n
⎞⎤
⎟⎥
⎟
⎠⎦
n
=−
∑σ
2
k
⎛ t
t + ∑Rk⎜
⎜B
2B2
k =1
⎝ n
n
k =1
n
2
⎛ 1
B2 2 n
= − n2 t + ∑ R k ⎜
⎜B
2B n
k =1
⎝ n
n
⎛ 1
t2
= − + Rk
2 k =1 B n
Vì
Nên
iv)
1
Rk B
k =1
n
n
(
E Xk − a k
⎞
⎟ ≤ C.
⎟
B3
⎠
n
⎛ 1
Rk⎜
⎜B
⎝ n
⎞
3 1
⎟ ≤ C. t 3
⎟
Βn
⎠
3
)t
3
∑ E( X
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
⎞
⎟
⎟
⎠
⎞
⎟
⎟
⎠
n
k =1
⎞
⎟
⎟
⎠
k
− ak
3
)
227
Chng5.Mtsnhlýhit
Nếu điều kiện Liapounov đợc thoả mÃn, tức là nếu
E(X
n
1
Β3
n
k =1
⎛ 1
⎜
⎜B
⎝ n
n
∑R
th×
k =1
k
k
− ak
3
)→ 0
(n → ∞ )
⎞
⎟ → 0 khi n → ∞
⎟
⎠
Do ®ã
t2
ln g ~ ( t ) → −
S
2
(n → ∞ )
n
V× thÕ g ~ ( t ) e
S
t2
2
(n )
n
Vậy định lý đợc chứng minh.
Hệ quả 1 (Định lý Lindeberg_levy).
Nếu {X n } ( n = 1,2,...) là dÃy các biến ngẫu nhiên độc lập, có cùng quy luật
phân phối xác suất víi E(X k ) = a vµ V(X k ) = b 2 và có các mô_men cấp 3 hữu
n
n
k =1
k =1
hạn thì S n = X k sẽ tiƯm cËn chn víi m 0 = E (S n ) = ∑ E (X k ) = na vµ
σ 0 = σ(S n ) = V (S n ) =
n
∑b
k =1
2
k
= nb 2 = b n .
Chøng minh
Ta xÐt điều kiện Liapounov đối với dÃy các biến ngẫu nhiên nµy.
Ta cã
1
B3
n
∑ E( X
− ak
3
)=
(
nb
=
k
1
3
2
∑ E( X
n
1
2
)
n b3
3
k =1
n
∑μ
k =1
3
k
=
−a
3
1
3
2
n b3
)
n3=
3
1
2
n b3
Do giả thiết mô_men trung tâm tuyệt đối cấp 3 là 3 hữu hạn nên ta suy ra
LờVnPhongTrnTrngNguyờn,HKTQD
228
Chương 5. Một số định lý hội tụ
1
n →∞
B3
n
lim
∑ E( X
k
− ak
3
) = lim
n →∞
μ3
1
2
n b
=0
3
VËy ®èi với dÃy các biến ngẫu nhiên đang xét ta thấy điều kiện Liapounov
đợc thoả mÃn nên ta có kết quả phải chứng minh.
ý nghĩa. Nh vậy khi n khá lớn ta cã thĨ coi quy lt ph©n phèi cđa biÕn ngẫu
nhiên S n = X k là xấp xỉ quy luËt chuÈn N (na ; nb 2 ). Tõ ®ã cã thĨ coi quy
n
k =1
lt ph©n phèi cđa biÕn ngÉu nhiªn
⎛S
víi E(X n ) = E⎜ n
⎝n
Sn 1 n
= ∑ X k = X n lµ xÊp xØ quy luËt chuÈn
n n k =1
1
⎞ 1
⎟ = E(Sn ) = n.a = a
n
⎠ n
1
1
b2
⎛ Sn ⎞
2
vµ V(X n ) = V⎜ ⎟ = 2 V(Sn ) = 2 n.b =
n
n
⎝n⎠ n
⎛ b2 ⎞
tøc lµ ta cã thĨ coi xÊp xØ quy luật phân phối của X n là N a; kết quả
n
này sẽ đợc ứng dụng ở phần thống kê toán sau này.
Hệ quả 2. (Định lý Moivre_laplace hoặc còn gọi là định lý giới hạn tích phân).
Nếu {X n } ( n = 1,2,...) là dÃy các biến ngẫu nhiên độc lập, cùng tuân theo
n
quy luật A(p) thì biến ngẫu nhiên S n = X k sẽ tiêm cận chuẩn với m 0 = np
k =1
và σ 0 = np(1 − p) = npq .
Chøng minh.
Ta có thể coi đây là một trờng hợp riêng của ®Þnh lý Lindeberg_levy víi
E ( X k ) = p vµ V(X k ) = p(1 − p) = pq .
Ghi chó.
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
229
Chng5.Mtsnhlýhit
Vì các biến ngẫu nhiên Xk độc lập cùng tuân theo quy luËt A(p) nªn biÕn
n
ngÉu nhiªn X = S n = ∑ X k , nh− ta ®· biÕt sẽ tuân theo quy luật B(n;p). Vì vậy
k =1
định lý Moivre_Laplace cũng có thể phát biểu là
Quy luật nhị thức B(n;p) tiêm cận chuẩn với m 0 = np và 0 = npq . Từ
đó nếu X tuân theo quy luật B(n;p) và n khá lớn, đồng thời p không quá gần 0
và 1 thì tổng
x2
P(X = x ) =
x = x1
x2
∑C
x = x1
x
n
p x q n −x
Cã thể tính xấp xỉ thông qua hàm 0 (u ) ®· dïng cho quy luËt chuÈn nh− sau:
x2
∑ P(X = x ) = P( x
x = x1
1
≤ X ≤ x2 )
⎛ x − np X − np x 2 − np ⎞
⎟
= P⎜ 1
⎜ npq ≤ npq ≤ npq ⎟
⎠
⎝
⎛ x − np ⎞
⎛ x − np ⎞
⎟
⎟ − Φ0 ⎜ 1
≈ Φ0 ⎜ 2
⎜ npq ⎟
⎜ npq ⎟
⎠
⎠
⎝
⎝
ThÝ dụ: Xác suất để trong một quá trình sản xuất một sản phẩm trở thành phế
phẩm là 0,005 tính xác suất để trong số 10000 sản phẩm đợc lấy ra một cách
ngẫu nhiên để kiểm tra thì sẽ không có quá 70 phế phẩm.
Bài giải
Nếu ký hiệu X là số phế phẩm có thể gặp phải khi ta lấy ngẫu nhiên ra
10000 sản phẩm thì ta phải tính P( X 70).
ở đây ta có một lợc đồ Bernoulli với n = 10000 và p = 0,005 vì vậy:
x
P(X 70) = ∑ Pn ( x ) = ∑ C10000 (0,005 ) (0,995 )
70
70
x =0
x =0
x
10000 − x
NÕu tÝnh trùc tiÕp từng xác suất trên rồi cộng lại thì rất khó khăn. Vì vậy ta
sẽ áp dụng định lý giới hạn tích phân để tính xấp xỉ.
LờVnPhongTrnTrngNguyờn,HKTQD
230
Chương 5. Một số định lý hội tụ
Ta cã thÓ viÕt
P(X ≤ 70 ) = P(0 ≤ X ≤ 70 )
⎛ 0 − np X − np 70 − np ⎞
⎟
= P⎜
⎜ npq ≤ npq ≤ npq
Vì
np = 10000.0,005 = 50
npq = 10000.0,005.0,995 = 49,75
Nên
0 − 50
X − 50 70 − 50 ⎞
⎟
≤
≤
P (x ≤ 0 ) = P ⎜
⎜ 49,75
49,75
49,75 ⎟
⎝
⎠
⎛
⎞
X − 50
= P⎜ − 7,09 ≤
≤ 2,84 ⎟
⎜
⎟
49,75
⎝
⎠
≈ Φ 0 (2,84) − Φ 0 (−7,09)
≈ 0,9976
Ghi chó 2. NÕu ký hiƯu fn lµ tần suất xuất hiện của biến cố A trong lợc đồ
Bernoulli với hai tham số là n và p thì
fn =
X Sn 1 n
= = ∑ Xk = Xn
n n n k =1
trong đó Xk là các biến ngẫu nhiên ®éc lËp, cïng tu©n theo quy luËt A(p).
Do X tu©n theo quy luật nhị thức và nếu đợc xấp xỉ bëi quy luËt chuÈn
N( np; npq ) th× ta suy ra khi đó khi đó quy luật phân phối của fn cịng cã thĨ
coi lµ xÊp xØ quy lt chn N(p ;
pq
).
n
Thí dụ: Xác định số phép thử tối thiểu phải thực hiện để cho tần suất fn của
biến cố A khác với xác suất p của A một lơng không quá với một xác suất
không nhỏ hơn .
LờVnPhongTrnTrngNguyờn,HKTQD
231
Chng5.Mtsnhlýhit
Bài giải
Nh vậy ta phải xác định n sao cho
P( f n − p < ε ) ≥ γ víi và đà ấn định.
Nếu xấp xỉ quy luật của fn bởi quy luật chuẩn N(p;
pq
) thì theo công thøc ®·
n
biÕt trong quy luËt chuÈn, ta cã
⎛ ε ⎞
P ( f n − p < ε ) ≈ 2Φ 0 ⎜
⎜ σ(f ) ⎟
⎟
⎝
n ⎠
⎞
⎛
⎟
⎜
⎜ ε ⎟ = 2Φ ⎛ ε n ⎞
⎟
⎜
= 2Φ 0
0⎜
⎜ pq ⎟
pq ⎟
⎠
⎝
⎟
⎜
⎝ n
Do đó ta phải xác định n sao cho
n ⎞
⎟
2Φ 0 ⎜
⎜ pq ⎟ = γ
⎠
⎝
⎛ε n ⎞ γ
⎟
tøc là 0
pq = 2
Do đà ấn định nên ta tra bảng giá trị của hàm 0 (u ) ta sẽ tìm đợc giá trị
của U sao cho Φ 0 (u ) = .
2
Tõ ®ã suy ra
u 2 pq
ε n
≥ u , tøc lµ n ≥ 2
ε
pq
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
232
Chng5.Mtsnhlýhit
Chẳng hạn nếu = 0,95 thì 0 (u ) = 0,475 . Ta tra bảng đợc u = 1,96.
(1,96 ) pq . T tr−êng hỵp p ch−a biÕt, ta có thể đánh giá
n
(0,1)
2
Nếu = 0,1 thì
2
tiếp bằng cách thay tích pq bởi giá trị lớn nhất của nó là
(1,96 )
n
4.(0,1)
1
và suy ra
4
2
2
97
Cách ớc lợng này ta cũng đà thực hiện bằng cách dùng bất đẳng thức
Trê_b_sép nhng với quan niệm đại khái hơn nhiều.
Ghi chú 3. Liên quan tíi viƯc xÊp xØ quy lt nhÞ thøc bëi quy luật chuẩn, ta
còn có định lý giới hạn địa phơng sau đây:
Định lý
Với n khá lớn và p không quá gần 0 và 1. Thì khi X đủ lớn để cho U nằm
trong một khoảng hữu hạn thì ta sÏ cã
x
Pn ( x ) = C n p x q n − x ≈
trong ®ã u =
1
ϕ(u )
npq
x − np
, còn ( u ) là hàm mật độ của quy luËt chuÈn N( 0;1).
npq
2
1 − u2
e .
tøc lµ ϕ(u ) =
2π
Chøng minh
ThËt vËy v×
u=
x − np
npq
x = np + u npq
(1)
n − x = nq − u npq
nªn
(2 )
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
233
Chương 5. Một số định lý hội tụ
x
q
=1+ u
np
np
n−x
p
=1− u
nq
nq
Theo c«ng thøc Stirling ta cã
n!≈ 2 πn .n n e − n
V× vËy
Pn ( x ) = C p q
x
n
x
n−x
≈
2 πn .n x e − x
2 πn .n n e − n p x q n − x
(n −x )
2 π(n − x ).(n − x ) e −( n − x )
x
n
⎛ np ⎞ ⎛ nq ⎞
⎜ ⎟ ⎜
⎟
x (n − x ) ⎝ x ⎠ ⎝ n − x ⎠
1
=
2π
n −x
(1)
Tõ (1) vµ (2) ta suy ra với n khá lớn thì x np và n- x nq.
Do đó
1
n
n
=
x (n x )
np.nq
npq
(2 )
1
Ngoài ra biÕt r»ng víi αn → 0 th× ln(1 + α n ) ≈ α n − α 2
n
2
V× vËy
−x
x
⎛ x ⎞
⎛ x ⎞
⎛ np ⎞
ln⎜ ⎟ = ln⎜ ⎟ = − x. ln⎜ ⎟
⎜ np ⎟
⎜ np ⎟
⎝ x ⎠
⎝ ⎠
⎝ ⎠
⎛
q ⎞
⎟
= x. ln⎜ 1 + u
⎜
np ⎟
⎝
⎠
⎡
q 1 2 q⎤
≈ − x ⎢u
− u
⎥
np 2 np ⎦
⎣
⎡
q 1 2 q⎤
= − np + u npq ⎢u
− u
⎥
np 2 np ⎦
⎣
(
)
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
234
Chương 5. Một số định lý hội tụ
T−¬ng tù
⎛ nq ⎞
ln⎜
⎟
⎝n −x⎠
(n −x )
⎛n −x⎞
= ln⎜
⎟
⎜ nq ⎟
⎠
⎝
−(n −x )
⎛n −x⎞
= −(n − x )ln⎜
⎜ nq ⎟
⎟
⎝
⎠
⎛
p ⎞
⎟
= −(n − x )ln⎜ 1 − u
⎜
nq ⎟
⎝
⎠
⎡
p 1 2 p⎤
≈ −(n − x )⎢− u
− u
⎥
nq 2 nq ⎦
⎣
⎡
p 1 2 p⎤
= −( nq − u npq ) ⎢− u
− u
⎥
nq 2 nq ⎦
⎣
Tõ ®ã ta cã
⎡⎛ x ⎞ − x ⎛ n − x ⎞ − ( n − x ) ⎤
⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤
ln ⎢⎜ ⎟ ⎜
⎥
⎟ ⎥ = ln ⎢⎜ ⎟ ⎜
⎜ np ⎟ ⎜ nq ⎟
⎟
⎝ x ⎠ ⎝n −x⎠ ⎦
⎠
⎢⎝ ⎠ ⎝
⎥
⎣
⎣
⎦
−x
⎛n −x⎞
⎛ x ⎞
= ln⎜ ⎟ + ln⎜
⎟
⎜ nq ⎟
⎜ np ⎟
⎠
⎝
⎝ ⎠
−(n −x )
q
p ⎞
1
1 ⎛
⎟
≈ − u2 + u3⎜q
−p
2
2 ⎜ np
nq ⎟
⎝
⎠
Suy ra
⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤
1 2
lim ln ⎢⎜ ⎟ ⎜
⎟ ⎥=− u
n →∞
2
⎣⎝ x ⎠ ⎝ n − x ⎠ ⎦
Tøc lµ
⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤ − u2
lim ⎢⎜ ⎟ ⎜
⎟ ⎥=e
n →∞
⎝ x ⎠ ⎝n −x⎠ ⎦
⎣
2
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
(3)
235
Chng5.Mtsnhlýhit
Căn cứ vào (2) và (3) ta thấy khi n khá lớn thì biểu thức ở (1) có thể viết xÊp
xØ lµ
2
u
−
1
1
Pn ( x ) ≈
.
.e 2
2 π npq
2
1
1 − u2
1
=
.
e =
(u )
npq 2
npq
Đó là điều phải chứng minh.
Thí dụ. Nếu tính xác suất để trong 10000 sản phẩm lấy ra đà xét ở trên có
đúng 40 phế phẩm th× ta cã:
40
P10000 (40 ) = C10000 (0,005 ) (0,995 )
40
9960
áp dụng định lý giới hạn địa phơng để tính xấp xỉ xác suất này ta có:
npq 7,05
u=
x np 40 − 50
=
≈ −1,42
7,05
npq
Do ®ã
P10000 (40 ) ≈
1
ϕ(− 1,42 )
7,05
Vì (u ) là hàm chẵn nên ( 1,42 ) = (1,42 ) . Tra bảng ta đợc
(1,42 ) = 0,1456 v× thÕ
P10000 (40 ) ≈
1
(0,1456) = 0,00206
7,05
NÕu dïng trùc tiếp mà không dùng định lý giới hạn địa phơng ta có:
P10000 (40 ) 0,00197
Ghi chú 4. Định lý Moivre_Laplace cho phÐp ta xÊp xØ quy luËt nhÞ thøc B(n;p)
bëi quy luËt chuÈn N(np; npq). Sù xÊp xØ nµy khá tốt khi np 5 và n(1-p) 5.
LờVnPhongTrnTrngNguyờn,HKTQD
236
Chng5.Mtsnhlýhit
Tuy nhiên do B(n;p) là một quy luật rời rạc với các giá trị nguyên, còn quy luật
chuẩn là một quy luật liên tục nên để việc xấp xỉ này đợc tốt hơn công thức
xấp xỉ
x np
x − np ⎞
⎟
⎟ − Φ0 ⎜ 1
P (x 1 ≤ x ≤ x 2 ) ≈ Φ 0 ⎜ 2
npq
npq
Đợc sửa nh sau:
x np − 0,5 ⎞
⎛ x − np + 0,5 ⎞
⎟
⎟ − Φ0 ⎜ 1
P (x 1 ≤ x ≤ x 2 ) 0 2
npq
npq
Sự sửa đổi này cũng còn đợc áp dụng khi một phân phối rời rạc nhận giá
trị nguyên đợc xấp xỉ bởi phân phối liên tục, tức là khi ta xấp xỉ biểu thức
tính x¸c suÊt
P (x 1 ≤ x ≤ x 2 ) =
x2
∑ p (x )
x = x1
x2
bëi tÝch ph©n
∫ f (x )dx
x1
Trong đó p(x) là hàm xác suất của biến ngẫu nhiên rời rạc X, còn f(x) là
hàm mật độ của biến ngẫu nhiên liên tục. Nếu nh X nhận những giá trị
nguyên thì để việc xấp xỉ đợc tốt hơn, ngời ta thay tích phân trên bởi tích
x2 +
x1
phân
1
2
1
2
f (x )dx .
Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD
237