Giảng viên:
Chu Bình Minh
Bài giảng
Xác suất thống kê
Nam Dinh,Februay, 2008
PHẦN 1
XÁC SUẤT
CHƯƠNG 3
LuẬT SỐ LỚN VÀ ĐỊNH LÝ GiỚI HẠN TRUNG TÂM
Cho 𝑍1 , 𝑍2 , … , 𝑍𝑛 là dãy biến ngẫu nhiên phụ thuộc vào
chỉ số n. Chương này nhằm mục đích nghiên cứu xem
khi n khá lớn thì 𝑍𝑛 có tính chất gì đặc biệt hay không.
Trước hết ta cần định nghĩa sự hội tụ của 𝑍𝑛 về một
biến ngẫu nhiên khác có ý nghĩa như thế nào. Sau đây
sẽ trình bày hai kiểu hội tụ cơ bản.
I. CÁC DẠNG HỘI TỤ CỦA DÃY BIẾN NGẪU NHIÊN
1. Hội tụ theo xác suất
Định nghĩa
Dãy biến ngâu nhiên 𝑍1 , 𝑍2 , … gọi là hội tụ theo xác suất
về biến ngẫu nhiên Z khi 𝑛 → ∞ nếu:
Với mọi ε > 0, 𝑃 𝑍𝑛 − 𝑍 > 𝜀 → 0 𝑘𝑖 𝑛 → ∞ (tương
đương với 𝑃 𝑍𝑛 − 𝑍 ≤ 𝜀 → 1 𝑘𝑖 𝑛 → ∞)
𝑃
Ký hiệu: 𝑍𝑛 → 𝑍
Nghĩa là với mọi ε,δ cho trước nhỏ tùy ý thì với xác suất
ít nhất 1 – δ ta sẽ có |𝑍𝑛 − 𝑍| ≤ 𝜀 nếu n đủ lớn.
I. CÁC DẠNG HỘI TỤ CỦA DÃY BIẾN NGẪU NHIÊN
1. Hội tụ theo xác suất
Ví dụ
Cho day biến ngẫu nhiên 𝑍𝑛 có hàm mật độ:
0
𝑓𝑛 (𝑥) =
𝑛. 𝜆𝑒 −𝑛𝜆𝑥
𝑘𝑖 𝑥 < 0
, 𝑛 ∈ 𝑁, 𝜆 > 0
𝑘𝑖 𝑥 ≥ 0
𝑃
Chứng minh 𝑍𝑛 → 0
Giải
Với mọi ε > 0 cho trước ta có:
+∞
𝑛. 𝜆𝑒 −𝑛𝜆𝑥 𝑑𝑥
𝑃 𝑍𝑛 − 0 > 𝜀 = 𝑃 𝑍𝑛 > 𝜀 =
=
−𝑛𝜆𝑥 +∞
−𝑒
𝜀
𝜀
= 𝑒 −𝑛𝜆𝜀
𝑛→+∞
0
I. CÁC DẠNG HỘI TỤ CỦA DÃY BIẾN NGẪU NHIÊN
2. Hội tụ theo phân phối
Định nghĩa
Dãy biến ngâu nhiên 𝑍1 , 𝑍2 , … gọi là hội tụ theo phân phối
về biến ngẫu nhiên Z khi 𝑛 → ∞ nếu:
lim 𝐹𝑍𝑛 𝑥 = 𝐹𝑍 (𝑥) , ∀𝑥 ∈ 𝑅
𝑛→+∞
⇔ lim 𝑃(𝑍𝑛 < 𝑥) = 𝑃(𝑍 < 𝑥)
𝑛→+∞
𝐹
Ký hiệu: 𝑍𝑛 → 𝑍
Với 𝐹𝑍𝑛 𝑥 , 𝐹𝑍 (𝑥) là các hàm phân phối của 𝑍𝑛 , 𝑍.
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Định lý
Cho Y biến ngẫu nhiên không âm. Khi đó với mọi a > 0
ta có:
𝐸𝑌
𝑃 𝑌>𝑎 ≤
𝑎
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Chứng minh
Cho Y là biến ngẫu nhiên rời rạc, giả sử C là tập giá trị
của Y.
Khi đó
𝐸𝑌 =
𝑐𝑖 𝑝𝑖 =
𝑐 𝑖 ∈𝐶
𝑐𝑖 𝑝𝑖 +
𝑐 𝑖 ≤𝑎
≥𝑎
𝑐𝑖 𝑝𝑖 ≥
𝑐 𝑖 >𝑎
𝑐𝑖 𝑝𝑖
𝑐 𝑖 >𝑎
𝑝𝑖 = 𝑎𝑃(𝑌 > 𝑎)
𝑐 𝑖 >𝑎
Trường hợp Y là biến ngẫu nhiên liên tục chứng minh
tương tự.
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Hệ quả
Cho X là biến ngẫu nhiên với EX = μ. Khi đó với mọi ε >
0 ta có:
𝐷𝑋
𝑃 𝑋−𝜇 >𝜀 ≤ 2
𝜀
Tương đương với
𝐷𝑋
𝑃 𝑋−𝜇 ≤𝜀 >1− 2
𝜀
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Chứng minh
Đặt 𝑌 = (𝑋 − 𝜇)2 , khi đó:
𝑃 𝑋−𝜇 >𝜀 =𝑃 𝑌 >𝜀
2
𝐸𝑌 𝐸 𝑋 − 𝜇
≤ 2 =
𝜀
𝜀2
2
𝐷𝑋
= 2
𝜀
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Ví dụ
Một cửa hàng vải muốn ước lượng nhanh chóng sai số số
vải bán ra trong một tháng của mình. Số vải của mỗi
khách hàng được làm tròn bởi số nguyên gần nhất ( Thí
dụ trong sổ ghi 195,6 m thì làm tròn thành 196 m). Kí
hiệu 𝑋𝑖 là sai số giữa số mét vải thực bán và số mét vải
đã tính tròn của khách hàng thứ i. Với xác suất ít nhất
0,99 hãy ước lượng sai số giữa số mét vải thực bán và số
mét vải đã làm tròn trong tháng biết số khách mua hàng
trong tháng là 1 vạn khách.
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Giải
Các sai số 𝑋1 , 𝑋2 , … , 𝑋𝑛 là các biến ngẫu nhiên độc lập và
có phân phối đều trong đoạn [-0,5; 0,5]. Khi đó
1
𝐸𝑋𝑖 = 0, 𝐷𝑋𝑖 =
, 𝑖 = 1. . 𝑛
12
Khi đó sai số tổng cộng trong tháng là
𝑆 = 𝑋1 + 𝑋2 + ⋯ + 𝑋𝑛
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Ta có:
𝑛
𝐸𝑆 =
𝐸𝑋𝑖 = 0
1
𝑛
𝐷𝑆 =
1
𝑛
𝐷𝑋𝑖 =
12
Áp dụng bất đẳng thức Chebysev ta có:
𝐷𝑆
𝑛
𝑃 𝑆 − 𝐸𝑆 > 𝜀 = 𝑃 𝑆 > 𝜀 ≤ 2 =
𝜀
12𝜀 2
𝐷𝑆
𝑛
𝑃 𝑆 ≤𝜀 ≥1− 2 =1−
𝜀
12𝜀 2
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
Do 𝑛 = 104 khách hàng trong tháng. Theo giả thiết ta
có: 𝑃 𝑆 ≤ 𝜀 ≥ 0,99
Nên
𝑛
𝑛
1−
≥ 0,99 ⇔
≤ 0,01
2
2
12𝜀
12𝜀
⇒𝜀≥
𝑛
= 288,67
12.0,01
Suy ra 𝑃 𝑆 ≤ 288,67 ≥ 0,99 hoặc
II. LUẬT SỐ LỚN
1. Bất đẳng thức Chebysev
𝑃 𝑆 > 288,67 < 0,01
Vậy có thể kết luận: Với xác suất tối thiểu 0,99 sai số
giữa số mét vải thực bán và số vải đã làm tròn không
vượt quá 289 m.
II. LUẬT SỐ LỚN
2. Luật số lớn
Định lý
Giả sử 𝑋1 , 𝑋2 , … là các biến ngẫu nhiên độc lập có kỳ vọng
hữu hạn và phương sai bị chặn bởi C (𝐷𝑋𝑖 ≤ 𝐶, ∀𝑖). Khi đó
với mọi ε > 0 ta có:
𝑋1 + 𝑋2 + ⋯ + 𝑋𝑛 𝐸𝑋1 + 𝐸𝑋2 + ⋯ + 𝐸𝑋𝑛
lim 𝑃
−
>𝜀
𝑛→+∞
𝑛
𝑛
=0
II. LUẬT SỐ LỚN
2. Luật số lớn
Chứng minh
Đặt 𝑆𝑛 =
𝑋1 +𝑋2 +⋯+𝑋𝑛
𝑛
𝐸𝑋1 + 𝐸𝑋2 + ⋯ + 𝐸𝑋𝑛
⇒ 𝐸𝑆𝑛 =
,
𝑛
𝐷𝑋1 + 𝐷𝑋2 + ⋯ + 𝐷𝑋𝑛 𝐶
𝐷𝑆𝑛 =
≤
2
𝑛
𝑛
Áp dụng bất đẳng thức Chebysev
𝐷𝑆𝑛
𝐶
𝑃 𝑆𝑛 − 𝐸𝑆𝑛 > 𝜀 ≤ 2 ≤ 2
0
𝜀
𝑛𝜀 𝑛→+∞
Suy ra điều phải chứng minh
II. LUẬT SỐ LỚN
2. Luật số lớn
Hệ quả 1
Giả sử 𝑋1 , 𝑋2 , … là các biến ngẫu nhiên độc lập có kỳ vọng
là μ và phương sai bị chặn bởi C (𝐷𝑋𝑖 ≤ 𝐶, ∀𝑖). Khi đó ta
có:
𝑋1 + 𝑋2 + ⋯ + 𝑋𝑛
𝑛
𝑃
𝜇, 𝑘𝑖 𝑛 → +∞
Hệ quả 2
Giả sử 𝑋1 , 𝑋2 , … là các biến ngẫu nhiên độc lập có kỳ
vọng là μ và phương sai 𝐷𝑋𝑖 = 𝜎 2 , ∀𝑖. Khi đó ta có:
𝑋1 + 𝑋2 + ⋯ + 𝑋𝑛
𝑛
𝑃
𝜇, 𝑘𝑖 𝑛 → +∞
II. LUẬT SỐ LỚN
2. Luật số lớn
Định lý Chebysev chứng tỏ rằng trung bình số học của các
biến ngẫu nhiên độc lập hội tụ theo xác suất về trung bình
số học của kỳ vọng tương ứng của nó. Nói cách khác nó
chứng tỏ sự ổn định của trung bình số học của một số lớn
các biến ngẫu nhiên xung quanh trung bình số học của các
kỳ vọng của các biến ngẫu nhiên ấy. Như vậy mặc dù từng
biến ngẫu nhiên độc lập có thể nhận giá trị khác nhiều so
với kỳ vọng của chúng, song trung bình số học của một số
lớn của một số lớn các biến ngẫu nhiên lại nhận giá trị gần
bằng trung bình số học của chúng với xác suất rất lớn. Điều
đó cho phép dự đoán giá trị trung bình số học của các biến
ngẫu nhiên.
II. LUẬT SỐ LỚN
2. Luật số lớn
Chẳng hạn, gieo một con xúc xắc cân đối. Giả sử X là số
nốt xuất hiện ở mặt trên con xúc xắc. Ta có EX = 3,5. Một
nhà thống kê đã gieo một con xúc xắc cân đối 1 triệu lần
(nhờ sự trợ giúp của máy vi tính) và ghi lại số nốt xuất hiện
ở mặt trên con xúc xắc. Số trung bình của 1 triệu lần gieo
được tìm thấy là
𝑥1 + 𝑥2 + ⋯ + 𝑥10 6
≈ 3,500867 ≈ 3,5 = 𝐸𝑋
6
10
II. LUẬT SỐ LỚN
3. Luật số lớn Bernoulli (Becnuli)
Xét phép thử (C) và A là một biến cố liên quan đến phép
thử. Thực hiện phép thử (C) n lần độc lập và gọi 𝑘𝑛 là số
lần A xuất hiện trong n lần thực hiện phép thử. Khi đó tần
suất xuất hiện của A là: 𝑓𝑛 =
𝑘𝑛
𝑛
Định lý
𝑓𝑛
𝑃
𝑝 = 𝑃 𝐴 , 𝑘𝑖 𝑛 → +∞
Hay với mọi ε >0, δ > 0 nhỏ tùy ý, tồn tại 𝑛0 > 0 sao cho
với mọi 𝑛 > 𝑛0 ta có
𝑃 𝑓𝑛 − 𝑝 > 𝜀 ≥ 1 − 𝛿
II. LUẬT SỐ LỚN
3. Luật số lớn Bernoulli (Becnuli)
Chứng minh
Xét dãy biến ngẫu nhiên:
1
𝑘𝑖 𝐴 𝑥𝑢ấ𝑡 𝑖ệ𝑛 ở 𝑙ầ𝑛 𝑡ử 𝑘
𝑋𝑘 =
0 𝑘𝑖 𝐴 𝑘ô𝑛𝑔 𝑥𝑢ấ𝑡 𝑖ệ𝑛 ở 𝑙ầ𝑛 𝑡ử 𝑘
Khi đó 𝑃 𝑋𝑘 = 1 = 𝑃 𝐴 = 𝑝 nên 𝑋𝑘 ~𝐴 𝑝 suy ra
𝐸𝑋𝑘 = 𝑝, 𝐷𝑋𝑘 = 𝑝𝑞, ∀𝑘
Mặt khác 𝑋1 , 𝑋2 , … độc lập nên theo hệ quả 2 ta có:
𝑋1 + 𝑋2 + ⋯ + 𝑋𝑛 𝑘𝑛
=
= 𝑓𝑛
𝑛
𝑛
𝑃
𝑝, 𝑘𝑖 𝑛 → +∞
II. LUẬT SỐ LỚN
3. Luật số lớn Bernoulli (Becnuli)
Định lý Bernoulli chỉ ra rằng tần suất xuất hiện của biến
cố trong n phép thử độc lập sẽ hội tụ theo xác suất về
xác suất của biến cố đó khi số lần thử tăng lên vô hạn.
Chính vì vậy định lý Bernoulli là cơ sở lý thuyết của
định nghĩa thống kê về xác suất.
II. LUẬT SỐ LỚN
3. Luật số lớn Bernoulli (Becnuli)
Ở thế kỷ 18, nhà toán học Pháp Buffon gieo một đồng
tiền 4040 lần và ghi được 2048 lần xuất hiện mặt ngửa,
tần suất là 0,507. Một nhà thống kê người Anh gieo đồng
tiền 12000 lần và thu được 6019 lần xuất hiện mặt ngửa,
tần suất tương ứng 0,5016. Trong một thí nghiệm
khác,ông ta gieo 24000 lần và thu được 12012 lần xuất
hiện mặt ngửa, tần suất tương ứng là 0,5005. Như vây ta
thấy rằng khi số phép thử tăng lên thì tần suất tương ứng
sẽ càng gần 0,5.
III. ĐỊNH LÝ GIỚI HẠN TRUNG TÂM
1. Định lý giới hạn trung tâm
Định lý giới hạn trung tâm nói về sự hội tụ theo phân
phối của trung bình cộng các biến ngẫu nhiên, nó có vai
trò qua trọng trong xác suất thống kê. Tuy nhiên do
chứng minh phức tạp nên trong phạm vi chương trình này
ta không chứng minh.