định lý giới hạn trung tâm và tốc độ hội tụ

ĐAỊ HỌC QUỐC GIA HÀ NỘI
ĐẠI HỌC KHOA HỌC TỰ NHIÊN

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM
VÀ TỐC ĐỘ HỘI TỤ
Bùi Thị Thu Phương

Chuyên ngành: Lý thuyết xác suất và thống kê toán học
Người hướng dẫn: TS. Trần Mạnh Cường
Hà Nội, 03 - 2019
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Tổng quan

Định lý giới hạn trung tâm và tốc độ hội tụ
đóng vai trị quan trọng để phục vụ cho việc nghiên cứu thống
kê lý thuyết, sinh học, y học, kinh tế...
định lý giới hạn trung tâm lần đầu được phát biểu và chứng
minh bởi các nhà toán học Pháp Pierre - Simon, Laplace sau
đó được mở rộng bởi các tác giả như Lindeberg, Feller...
định lý giới hạn trung tâm cho ta đưa ra kết luận, đánh giá
đuợc tốc độ xấp xỉ phân phối chuẩn cho phép chúng ta ước
lượng được cỡ mẫu cần thiết để áp dụng định lý này.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ

Nội dung chính

1
2

Kiến thức chuẩn bị
Định lý giới hạn trung tâm
Trường hợp dãy biến ngẫu nhiên độc lập cùng phân bố xác
suất
Trường hợp dãy biến ngẫu nhiên độc lập, không cùng phân bố
xác suất
Điều kiện Lindeberg
Điều kiện Lyapounov

3

Tốc độ hội tụ
Ước lượng đều
Ước lượng không đều

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Định lý giới hạn trung tâm
Trường hợp dãy biến ngẫu nhiên độc lập cùng phân bố xác
suất
Chứng minh

graduate course, First edition, Springer.)

Cho X , X1 , X2 , ... là dãy các biến ngẫu
nhiên độc lập, cùng phân bố xác suất. Giả
sử kỳ vọng (giá trị trung bình) µ hữu hạn
và độ lệch chuẩn σ dương, hữu hạn. Xét
tổng Sn = X1 + X2 + ... + Xn , n ≥ 1 thì
Sn − nµ
√
σ n

d

−
→

Sn −nµ
√
σ n

Xi −µ
n
√
i=1 σ n

1

Đặt Zn =

2

Cần chứng minh Zn −
→ N(0, 1) khi
n → ∞.

3

Đặt

Định lý 2.1.1(Allan Gut (2005), Probability: A

=
d

Yi =

Xi − µ
với EYi = 0, VarYi = 1
σ
n

N(0, 1)

khi

n → ∞.

4

ϕZn (t) = ϕ √
Yi (t)
ϕ Yi

√t

n
n

=

n

= 1−

t2
2n

+o

t2
n

n

⇒ ϕZn (t) → ϕN(0,1) khi n → ∞.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ

Định lý giới hạn trung tâm
Trường hợp dãy biến ngẫu nhiên độc lập, không cùng phân bố xác
suất
Cho X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập với phương
sai hữu hạn, trong đó EXk = µk , VarXk = σk2 với k ≥ 1 và
Sn = nk=1 Xk , sn2 = nk=1 σk2 với n ≥ 1.
Chúng ta bỏ qua các trường hợp có phương sai bằng 0.
Ta có hai điều kiện sau đây là điều kiện Lindeberg.
σk2
→0
1≤k≤n sn2

L1 (n) = max
1
L2 (n) = 2
sn

khi n → ∞,

n

E |Xk − µk |2 I {|Xk − µk | > εsn } → 0

khi n → ∞.

k=1

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Định lý Lindeberg - Levy - Feller
Định lý 2.2.1(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)
Cho X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập với phương sai
hữu hạn, trong đó EXk = µk , VarXk = σk2 với k ≥ 1 và
Sn = nk=1 Xk , sn2 = nk=1 σk2 với n ≥ 1. Ta có
L2 (n) =

1
sn2

n

E |Xk − µk |2 I {|Xk − µk | > εsn } → 0 khi n → ∞.
k=1

(1)
khi và chỉ khi
σk2
→0
1≤k≤n sn2

L1 (n) = max
1
sn

khi n → ∞,

(2)

n

(Xk − µk )

d

−
→ N(0, 1) khi n → ∞.

(3)

k=1
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Định lý Lindeberg - Levy - Feller

1

Điều kiện đủ:
Phương pháp hàm đặc trưng (Levy chứng minh)
Phương pháp thay thế (Lindeberg chứng minh)

2

Điều kiện cần: Feller chứng minh

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Định lý Lindeberg - Levy - Feller

1

Điều kiện đủ: Ta làm theo hai bước chứng minh
Bước 1: (1) ⇒ (2)
Bước 2: (2) ⇒ (3)

Giả sử µk = 0 trong các chứng minh dưới đây.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 1: Phương pháp hàm đặc trưng - Hàm đặc trưng 1
Bước 1: Đặt ϕ = exp{log ϕ}, nghĩa là
n

n

ϕSn /sn (t) = ϕSn (t/sn ) =

ϕXk (t/sn ) = exp
k=1

log ϕXk (t/sn )
k=1

n

≈ exp −

(1 − ϕXk (t/sn ))
k=1
n

≈ exp −

1− 1+

(it)2 2
it
.0 +
.σ
sn
2s 2n k

1− 1−

t2 2
.σ
2sn2 k

k=1
n

= exp −
k=1

t2
= exp − 2
2s n

n

σk2

= exp −t 2 /2 = ϕN(0,1) (t),

k=1

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 1: Phương pháp hàm đặc trưng - Hàm đặc trưng 1
Bước 2: Chứng minh biến đổi = thành ≈
n

(log ϕXk (t/sn ) + (1 − ϕXk (t/sn ))) → 0

khi n → ∞,

k=1

Sử dụng |ϕXk (t/sn ) − 1| ≤ E min

2|tX | t 2 Xk2
sn , 2sn2
2

,

Sử dụng công thức |log(1 − z) + z| ≤ |z| với
z = 1 − ϕXk (t/sn )
Sử dụng L1 (n) → 0 khi n → ∞.

Bước 3: Chứng minh biến đổi ≈ thành =
n

ϕXk (t/sn ) − 1 −
k=1

σk2 t 2
2sn2

Sử dụng ϕXk (t/sn ) − 1 −

t 2 σk2
2sn2

→0

khi n → ∞,

≤ E min

t 2 Xk2 |t|3 |Xk |3
sn2 ,
6sn3

.

và chia thành 2 miền ±εsn để xuất hiện L2 (n)
Sử dụng L2 (n) → 0 khi n → ∞.
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp hàm đặc trưng - Hàm đặc trưng 2

Bổ đề 2.2.1

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

Giả sử {zk , 1 ≤ k ≤ n} và {wk , 1 ≤ k ≤ n} là các số phức sao cho
| zk |≤ 1 và | wk |≤ 1 với mọi k. Thì ta có
n

n

zj −
j=1

n

|zk − wk |

wj ≤
j=1

Bùi Thị Thu Phương

k=1

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp hàm đặc trưng - Hàm đặc trưng 2
Cần chứng minh ϕSn /sn (t) − e −t

2 /2

→0

khi n → ∞.

Nghĩa là ta sẽ chứng minh
n

n

ϕXk (t/sn ) −
k=1

exp −
k=1

σk2 t 2
2sn2

→0

khi n → ∞.

Theo bổ đề 2.2.1 ta có
n

n

ϕXk (t/sn ) −
k=1

exp −
k=1

σk2 t 2
2sn2

n

≤

ϕXk (t/sn ) − exp −
k=1

Bùi Thị Thu Phương

σk2 t 2
2sn2

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp hàm đặc trưng - Hàm đặc trưng 2
Suy ra cần chứng minh
n

ϕXk (t/sn ) − exp −
k=1

σk2 t 2
2sn2

→0

khi n → ∞.

Nghĩa là ta sẽ chứng minh
n

ϕXk (t/sn ) − 1 −
k=1
n

exp −
k=1

σk2 t 2
2sn2

σk2 t 2
2sn2

− 1−

σk2 t 2
2sn2

→0

→0

khi n → ∞.

(4)

khi n → ∞. (5)

Tuy nhiên (5) là trường hợp riêng của (4) khi Xk ∈ N(0, σk2 )

với mọi k nên ta chỉ cần chứng minh (4). Chứng minh (4)
trùng với chứng minh biến đổi ≈ thành =.
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp thay thế

(Allan Gut (2005), Probability: A graduate course, Springer.)

Lindeberg chứng minh
Từ dãy biến ngẫu nhiên X1 , X2 , ... ta
lấy thêm dãy biến ngẫu nhiên độc
lập Yk ∈ N(0, σk2 ), k ≥ 1 với tổng
riêng Zn = Y1 + Y2 + ... + Yn ,
n ≥ 1. Giả sử hai dãy biến ngẫu
nhiên trên là độc lập.
Ý tưởng: Ước lượng phần khác nhau
giữa hai tổng riêng khi thay thế Xk
với Yk tại cùng một thời điểm.
Để xác định được ước lượng này ta
sử dụng định nghĩa
d

X = Y ⇐⇒ Eh(X ) = Eh(Y )
với mọi h ∈ CB ,
Nhiệm vụ của ta là cần chỉ ra rằng,
với h bất kì
Eh (Sn /sn ) → Eh (N(0, 1)) khi n → ∞.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp thay thế

(Allan Gut (2005), Probability: A graduate course, Springer.)

Bước 1:Với 1 ≤ j ≤ n, n ≥ 1,
(j)

đặt Sn = Y1 + Y2 + ... + Yj−1 + Xj+1 + Xj+2 + ... + Xn ,
(1)

= X2 + X3 + ... + Xn

(n)

= Y1 + Y2 + ... + Yn−1 ⇒ Zn = Yn + Sn

⇒ Sn
⇒ Sn

(1)

⇒ Sn = X1 + Sn

(n)

Bước 2: Áp dụng khai triển Taylor
h(x + u) = h(x) + uh (x) +
trong đó

u2
h (x) + r0 (u),
2

|r0 (u)| ≤ C min{u 2 , |u|3 }, C là hằng số không đổi.
(j)

⇒h

Xj
Sn
+
sn
sn

(j)

−h

Yj
Sn
+
sn
sn

|Eh(Sn /sn ) − Eh(N(0, 1))| = |Eh(Sn /sn ) − Eh(Zn /sn )|

≤

n
j=1 E

Bùi Thị Thu Phương

((r0 (Xj ) + r0 (Yj ))
ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Cách 2: Phương pháp thay thế

(Allan Gut (2005), Probability: A graduate course, Springer.)

Bước 3: Có
r0 (Xj ) + r0 (Yj ) ≤
C min{(Xj /sn )2 , |Xj /sn |3 } + C min{(Yj /sn )2 , |Yj /sn |3 }
Nhiệm vụ của ta phải chỉ ra rằng:
n

E min{(Xj /sn )2 , |Xj /sn |3 } → 0

khi n → ∞,

(6)

E min{(Yj /sn )2 , |Yj /sn |3 } → 0

khi n → ∞.

(7)

j=1
n
j=1

Bước 4:
Giả sử X1 , X2 , ... thỏa mãn điều kiện (1) L2 (n) → 0 khi
n → ∞ ⇒ (6)
Chứng minh Y1 , Y2 , ..., Yn thỏa mãn L2 (n) → 0 khi n → ∞.
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Điều kiện cần

Feller chứng minh

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

(Allan Gut (2005), Probability: A graduate course, First

edition, Springer.)

Giả sử µk = 0 do vậy

1
sn

n
k=1 (Xk

Giả sử L1 (n) = max1≤k≤n
d

Sn /sn −
→ N(0, 1)

− µk ) =

σk2
sn2

→0

Sn
.
sn

khi n → ∞.

khi n → ∞

Cần phải chứng minh

L2 (n) =

1

sn2

n

E |Xk − µk |2 I {|Xk − µk | > εsn } → 0
k=1

khi n → ∞.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Điều kiện cần

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

Chứng minh
Sử dụng phần chứng minh biến đổi = thành ≈ có
n
2
t4
k=1 |1 − ϕXk (t/sn )| ≤ 4 L1 (n) → 0 khi n → ∞.
Từ bổ đề 2.2.1 với z = ϕXk (t/sn ), w = exp{ϕXk (t/sn ) − 1}
n

n

exp {ϕXk (t/sn ) − 1} → 0

ϕXk (t/sn ) −
k=1

khi n → ∞

k=1
n

exp {ϕXk (t/sn ) − 1} → e −t

⇒

2 /2

khi n → ∞

k=1
n

⇒

ϕXk (t/sn ) − 1 +
k=1
n

⇒

σk2 t 2
2sn2

E cos (Xk t/sn ) − 1 +
k=1

→0
σk2 t 2
2sn2

khi n → ∞,

→0

khi n → ∞.

Biến đổi để xuất hiện L2 (n) → 0 khi n → ∞.
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Điều kiện Lyapounov
Định lý 2.2.2

(Allan Gut (2005), Probability: A graduate course,
First edition, Springer.)

Cho X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập
với phương sai hữu hạn, trong đó EXk = µk ,
VarXk = σk2 với k ≥ 1 và Sn = nk=1 Xk ,
sn2 = nk=1 σk2 với n ≥ 1. Giả sử E |Xk |r < ∞ với

mọi k. Nếu với r > 2 ta có
n
k=1

β(n, r ) =

E |Xk − µk |r
→ 0 khi n → ∞,
snr
(8)

thì
1
sn

n
d

(Xk − µk ) −
→ N(0, 1) khi n → ∞.
k=1

Chứng minh
1

Sử dụng (8) để chỉ ra điều kiện (1) L2 (n)
được thỏa mãn.

2

Theo định lý Lindeberg - Levy - Feller ta có
(1) ⇒ (3).
Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Tốc độ hội tụ

Ước lượng đều
Định lý 3.1.1

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

Cho X , X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập, cùng phân
phối xác suất với tổng riêng {Sn , n ≥ 1}, đặt µ = EX , σ 2 = VarX
và giả sử γ 3 = E |Xk |3 < ∞ thì
(x) − Φ(x) ≤ C .
sup F Sn −nµ
√
x

σ

n

γ3
√ ,
σ3 n

trong đó C là hằng số.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Tốc độ hội tụ

Ước lượng đều
Định lý 3.1.2 - Định lý Berry - Esseen

(Allan Gut (2005), Probability: A graduate

course, First edition, Springer.)

Cho X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập, với giá trị trung
bình bằng 0 và tổng riêng {Sn , n ≥ 1}. Giả sử γk3 = E |Xk |3 < ∞
với mọi k, đặt σk2 = VarXk , sn2 = nk=1 σk2 và βn3 = nk=1 γk3 thì
sup F Sn (x) − Φ(x) ≤ C .
x

sn

βn3
,
sn3

trong đó C là hằng số.

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Tốc độ hội tụ

Bổ đề 3.1.1

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

Cho U và V là các biến ngẫu nhiên, giả sử
sup FV (x) ≤ A.

(9)

x∈R

Thì ta có
sup |FU (x) − FV (x)| ≤
x

≤

1
π
1
π

T

−T
T
−T

ϕU (t) − ϕV (t)
t

1−

|t|
T

dt +

24A
πT

ϕU (t) − ϕV (t)
24A
dt +
t
πT

Bùi Thị Thu Phương

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Tốc độ hội tụ

Bổ đề 3.1.2

(Allan Gut (2005), Probability: A graduate course, First edition, Springer.)

Cho X1 , X2 , ... là dãy các biến ngẫu nhiên độc lập, với giá trị trung
bình bằng 0 và tổng riêng {Sn , n ≥ 1}. Giả sử γk3 = E |Xk |3 < ∞
với mọi k, đặt σk2 = VarXk , sn2 = nk=1 σk2 và βn3 = nk=1 γk3 thì
ϕSn /sn (t) − e −t

2 /2

≤ 16

βn3 3 −t 2 /3
|t| e
sn3

Bùi Thị Thu Phương

với

|t| ≤

sn3
.
4βn3

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ

Ý tưởng chứng minh
Để chứng minh định lý Berry - Esseen ta làm theo các bước sau
Bước 1:
Sn − nµ
Sn
Đặt hai biến ngẫu nhiên U =
=
sn
sn
V ∼ N(0, 1)
Hàm mật độ của biến ngẫu nhiên V là
1
2
fV (x) = √ e −x /2 = FV (x)
2π
1
⇒ sup FV (x) ≤ √
x
2π
Bước 2: Chọn A =

√1
2π

và áp dụng bổ đề 3.1.1,

1
sup F Sn −nµ (x) − Φ(x) ≤
s
π

n
x
Bùi Thị Thu Phương

T

ϕ Sn (t) − e −t
sn

−T

t

2 /2

24
dt+ √
.
π 2πT

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ


Ý tưởng chứng minh
Bước 3: Chọn T = Tn =
ϕSn /sn (t) − e
được

−t 2 /2

≤ 16

sn3
4βn3

βn3
sn3

áp dụng bổ đề 3.1.2

|t|3 e −t

16 β 3
sup F Sn −nµ (x) − Φ(x) ≤ . 3n
sn
π sn
x
Bước 4: Tính I =

x

sn3
4βn3
s3
− n3
4βn

∞ 2 −t 2 /3
dt
−∞ t .e

⇒ sup F Sn −nµ (x) − Φ(x) ≤
sn

2 /3

=

t 2 .e −t
3
2

√

sn

Bùi Thị Thu Phương

2 /3

sn3
4βn3

ta

96β 3
dt + √ n .
π 2πsn3

3π

√
24 3
96
√ + √
π
π 2π

Vậy sup F Sn (x) − Φ(x) ≤ C
x

|t| ≤

với

βn3
βn3
≤
36
sn3
sn3

βn3
.
sn3

ĐỊNH LÝ GIỚI HẠN TRUNG TÂM VÀ TỐC ĐỘ HỘI TỤ