Tập ngẫu nhiên hữu hạn trong thống kê

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

TRƯƠNG NGỌC TRIẾT

TẬP NGẪU NHIÊN HỮU HẠN
TRONG THỐNG KÊ

Chun ngành: Tốn Giải Tích
Mã số: 604601

LUẬN VĂN THẠC SĨ TỐN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC
TS. NGUYỄN CHÍ LONG

Thành phố Hồ Chí Minh – 2012


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

TRƯƠNG NGỌC TRIẾT

TẬP NGẪU NHIÊN HỮU HẠN
TRONG THỐNG KÊ

LUẬN VĂN THẠC SĨ TỐN HỌC

Thành phố Hồ Chí Minh – 2012

LỜI CÁM ƠN
Lời cám ơn sâu sắc nhất, tôi xin chân thành cảm ơn cố PGS-TS. Đậu Thế
Cấp, người đã giảng dạy cho tơi trong khóa học, người đã gợi mở cho tôi đến với đề
tài này; xin gửi lời cám ơn sâu sắc đến Thầy của tôi – TS. Nguyễn Chí Long, người
đã tận tình hướng dẫn tơi trong suốt q trình thực hiện luận văn Thạc sĩ này.
Tơi xin gửi lời cám ơn đến quý Thầy, Cô trong Hội đồng chấm luận văn đã
dành thời gian đọc và cho tôi những nhận xét về luận văn.
Tôi xin chân thành cám ơn Ban Giám hiệu, quý Thầy, Cô của Khoa Tốn –
Tin học, q Thầy, Cơ thuộc Phịng Quản lý Khoa học Sau Đại học Trường Đại học
Sư phạm TP.HCM đã trang bị cho tôi kiến thức cũng như đã tạo điều kiện thuận lợi
cho tôi trong suốt quá trình học tập tại trường.
Tơi xin bày tỏ lịng biết ơn đến quý Thầy Cô – những đồng nghiệp của tôi
Trường THPT Chuyên Trần Hưng Đạo – Phan Thiết – Bình Thuận đã nhiệt tình
giúp đỡ tơi trong cơng việc để tơi thuận lợi hơn trong q trình học tập.
Tơi cũng xin cám ơn các bạn học viên cùng lớp Cao học Giải Tích khóa 20
đã chia sẻ, giúp đỡ nhau trong suốt quá trình học tập.
Cuối cùng là lời cám ơn tôi dành cho những người thân trong gia đình tơi,
những người ln động viên tơi trong suốt thời gian qua.

TP. Hồ Chí Minh, Tháng 3 năm 2012
Trương Ngọc Triết


MỤC LỤC
LỜI CÁM ƠN .................................................................................................................. 1
MỞ ĐẦU .......................................................................................................................... 3
CHƯƠNG 1: ĐẠI CƯƠNG XÁC SUẤT ........................................................................ 5
1.1 Đại số và σ -đại số .................................................................................................. 5
1.2 Độ đo xác suất......................................................................................................... 8

1.3 Phần tử ngẫu nhiên, biến ngẫu nhiên, véctơ ngẫu nhiên. ..................................... 15
1.4 Hàm phân phối, hàm mật độ của biến ngẫu nhiên và vécto ngẫu nhiên ............. 20
CHƯƠNG II: MỘT VÀI TẬP NGẪU NHIÊN TRONG THỐNG KÊ ......................... 27
2.1 Miền tin cậy .......................................................................................................... 27
2.2 Thống kê Bayes .................................................................................................... 34
CHƯƠNG 3: TẬP NGẪU NHIÊN HỮU HẠN ............................................................ 36
3.1 Tập ngẫu nhiên và phân phối của chúng. ............................................................ 37
3.2 Tập giá trị quan sát ............................................................................................... 42
3.3 Hàm quyết định với tập ngẫu nhiên ...................................................................... 48
3.4 Kì vọng của tập ngẫu nhiên .................................................................................. 51
3.5 Phân phối Entropy cực đại .................................................................................... 52
3.6 Quan hệ giữa vấn đề entropy cực đại với tập ngẫu nhiên.................................... 58
KẾT LUẬN .................................................................................................................... 60
TÀI LIỆU THAM KHẢO .............................................................................................. 61


MỞ ĐẦU
1. Lý do chọn đề tài:
Xác suất là ngành toán học nghiên cứu các hiện tượng ngẫu nhiên. Lý thuyết
xác suất gắn liền với thống kê toán học, là khoa học về phương pháp thu thập và
phân tích dữ liệu, thông tin định lượng. Xác suất thống kê được ứng dụng rộng rãi
trong kinh tế, trong khoa học kĩ thuật và cả trong nhiều lĩnh vực của khoa học xã
hội và nhân văn.
Lý thuyết về các tập ngẫu nhiên là một sự tổng quát tự nhiên của biến ngẫu
nhiên về véctơ ngẫu nhiên. Tập hợp dữ liệu ngẫu nhiên cũng có thể được xem như
là quan sát khơng chính xác, không đầy đủ nhưng là thường xuyên trong xã hội
cơng nghệ ngày nay. Khi mơ hình cho các thiết lập giá trị quan sát là cơ sở để thu
thập, nhận thức thơng tin thì tập ngẫu nhiên là một loại mới của dữ liệu. Như vậy,
nghiên cứu tập ngẫu nhiên như là cơng cụ tốn học để giải quyết các bài toán xác
suất thống kê.

Các nghiên cứu mới về tập ngẫu nhiên cho phép chúng ta mở rộng thêm vài
tính chất của hàm phân phối, hàm mật độ, các đặc trưng khác của đại lượng ngẫu
nhiên hữu hạn.
Chính vì vậy, chúng tôi chọn nghiên cứu đề tài “Tập ngẫu nhiên hữu hạn
trong thống kê”.
2. Mục đích nghiên cứu:
Trong luận văn này, chúng tôi khảo sát một số định nghĩa mới được đưa ra
gần đây về hàm phân phối, hàm mật độ của tập ngẫu nhiên hữu hạn và nghiên cứu
các tính chất của chúng.
3. Đối tượng và phạm vi nghiên cứu:
Đối tượng nghiên cứu của luận văn là: độ đo xác suất, tập ngẫu nhiên hữu
hạn, miền tin cậy, thống kê Bayes, sử dụng nguyên lí entropy cực đại, mối quan hệ
với tập ngẫu nhiên trong thống kê. Phạm vi nghiên cứu thuộc về lý thuyết độ đo tích
phân và lý thuyết xác suất thống kê.


4. Ý nghĩa khoa học và thực tiễn của đề tài:
Tìm hiểu sâu về tập ngẫu nhiên hữu hạn trên cơ sở đó sẽ mở rộng lên tập vơ
hạn đếm được. Luận văn cũng chú ý đến việc ứng dụng của lý thuyết xác suất thống
kê.
5. Cấu trúc luận văn:
Nội dung luận văn được trình bày 3 chương:
Chương 1: Trình bày một số vấn đề về lý thuyết độ đo, độ đo xác suất và các
định nghĩa, tính chất khác có liên quan đến tập ngẫu nhiên hữu hạn.
Chương 2: Trình bày một số tập ngẫu nhiên trong thống kê, lí thuyết về cách
xác định miền tin cậy,tìm hiểu về thống kê Bayes của tập ngẫu nhiên.
Chương 3: Trình bày tính chất hàm phân phối, hàm mật độ của tập ngẫu
nhiên hữu hạn. Tìm hiểu về cơng thức tính kì vọng, ứng dụng nguyên lí Entropy cực
đại cho hàm quyết định đối với tập ngẫu nhiên.

CHƯƠNG 1: ĐẠI CƯƠNG XÁC SUẤT
1.1 Đại số và σ -đại số
Giả sử Ω là một tập tùy ý khác rỗng. Kí hiệu (Ω) là tập hợp gồm tất cả các tập
con của Ω.
Định nghĩa 1.1.1
Lớp  ⊂  (Ω) được gọi là một đại số nếu:
A1) Ω ∈  ,
A2) A ∈  ⇒ A =
Ω \ A∈ ,
A3) A, B ∈  ⇒ A ∪ B ∈  .
Định nghĩa 1.1.2.
Lớp  ∈ (Ω) được gọi là σ -đại số nếu nó là đại số và ngồi ra
∞

A4) từ A n ∈  , n = 1,2,… suy ra

 A ∈
n

n =1

Định nghĩa 1.1.3
Lớp  ⊂ (Ω) khác rỗng được gọi là lớp đơn điệu nếu:
∞

a) An ∈ , An ⊂ An +1 , n = 1, 2,... ⇒  An ∈ .
n =1

∞

b) An ∈ , An ⊃ An +1 , n = 1, 2,... ⇒  An ∈  .
n =1

Định nghĩa 1.1.4

 { Ai , i ∈ I } là một họ các tập con khác rỗng, rời
Một phân hoạch hữu hạn=
nhau từng cặp của Ω và hợp của chúng là Ω.
Định lí 1.1.5
Đại số  sinh bởi phân hoạch hữu hạn  của Ω gồm tất cả các hợp của các họ
con có thể có của  (nếu  gồm n phần tử thì  có 2n phần tử). Ngược lại, nếu đại
số  chỉ gồm một số hữu hạn các tập con của Ω thì tập hợp các nguyên tử của 
tạo thành phân hoạch hữu hạn của Ω sinh ra  (ở đây A ⊂ Ω gọi là nguyên tử của
 nếu

A ≠ ∅ và nếu ∅ ≠ B ⊂ A,

B ∈  thì B = A ).


Chứng minh:
Phần đầu của định lí là hiển nhiên. Để chứng minh phần sau ta giả thiết

=
 { Ai , i ∈ I } là một đại số hữu hạn trong Ω.
Xét họ = {B ⊂ Ω : B ≠ ∅ và B =  Bi trong đó mỗi Bi hoặc bằng Ai hoặc bằng
i∈I

Ai }

Khi đó  là một phân hoạch của Ω gồm các nguyên tử của  và sinh ra  .
Định lí 1.1.6
Giả sử  là một đại số. Khi đó,  là σ -đại số nếu và chỉ nếu  là lớp đơn
điệu.
Chứng minh:
Hiển nhiên rằng nếu  là σ -đại số thì  là lớp đơn điệu. Ngược lại, giả sử
Bn
 là lớp đơn điệu. Khi đó nếu ( An ) ⊂  thì do  là đại số, =

n

 A ∈ ,
i

i =1

Bn ⊂ Bn +1 , n =
1, 2,... Từ đó, do  là lớp đơn điệu

∞

A

n

n =1

= lim ↑ Bn ∈  nên  là σ n

đại số; ở đây ta viết:
=
B lim ↑ Bn nghĩa là ( Bn ) tăng và B =  Bn ,
n

n

=
B lim ↓ Bn nghĩa là ( Bn ) giảm và B =  Bn .
n

n

Định lí 1.1.7
Giả sử  là đại số. Khi đó σ -đại số sinh bởi  trùng với lớp đơn điệu sinh
bởi  .Chứng minh:
Kí hiệu σ ( ) ( tương ứng m( ) ) là σ -đại số ( tương ứng lớp đơn điệu) sinh bởi
 . Vì σ ( ) cũng là lớp đơn điệu nên m( ) ⊂ σ ( ) . Để chứng minh σ ( ) ⊂ m( )

ta cần chứng tỏ rằng m( ) là đại số. Do đó theo định lí 1.1.6 m( ) là σ -đại số.
Kí hiệu  = {B : B và B ∈ m( )} . Rõ ràng  ⊂  ⊂ m( ) . Từ đó nếu ta chứng
minh rằng  là lớp đơn điệu thì  ≡ m( ) . Giả sử ( Bn ) ⊂  là dãy tăng,


(Cn ) ⊂  là dãy giảm tuỳ ý. Khi đó Bn , Bn , Cn , Cn ∈ m( ) . Do m( ) là lớp đơn điệu
nên
=
B lim ↑ Bn , lim ↑ Bn = lim ↓ Bn ∈ m( ) ,
n

n

n

C = lim ↓ Cn , lim ↓ Cn = lim ↑ Cn ∈ m( ) ,
n

n

n

và B, C ∈  . Điều đó có nghĩa là  là lớp đơn điệu.
Với A ∈ m( ) xét lớp con A = {B : B và AB ∈ m( )} .
Từ đẳng thức lim ABn = A lim Bn ( đúng với dãy đơn điệu ( Bn ) bất kỳ) suy ra A là
n

n

lớp đơn điệu. Nhưng với B ∈  ta có B ∈ A ⊂ m( ) . Vì vậy A = m( ) . Từ đó
và hệ thức A ∈ B ⇔ B ∈ A suy ra A∈ B với mọi A∈  và B ∈ m( ) , hay

 ⊂ B với mọi B ∈ m( ) . Vậy B = m( ) với mọi B ∈ m( ) , nghĩa là m( )
đóng với phép giao nên m( ) là đại số.
Định nghĩa 1.1.8
Cho X là một không gian tôpô. Ta gọi σ -đại số Borel trên X là σ -đại số sinh
bởi họ các tập con mở của X. Kí hiệu  ( X ) . Mỗi phần tử thuộc  ( X ) gọi là một
tập Borel.
Định lí 1.1.9
 () được sinh bởi một trong các họ tập con sau đây của 

a. Họ các khoảng=
mở 1 {(a, b) / a < b}

=
2 {[a, b] / a < b}
b. Họ các khoảng đóng
=
4 {[a, b) / a < b}
=
3 {(a, b] / a < b} hoặc
c. Họ các khoảng nửa mở

5 {(a, +∞) / a ∈ } hoặc 6= {(−∞, a) / a ∈ }
d. Họ các nửa đường thẳng mở =
7 {[a, +∞) / a ∈ } hoặc 8= {(−∞, a] / a ∈ }
e. Họ các nửa đường thẳng đóng =
Định nghĩa 1.1.10


Cho { X α }α ∈I là một họ các tập khác rỗng,

X = ∏ X α và π α : X → X α là ánh
α ∈I

xạ toạ độ thứ α . Với mỗi α , cho α là σ -đại số trên X α . Ta gọi σ -đại số tích
của các

σ -đại số trên X α là σ -đại số trên X sinh bởi họ tập {π α−1 ( Eα ) / Eα ∈ α , α ∈ I } .
n

Ta kí hiệu σ -đại số này là ⊗ α , nếu I = {1,…,n} thì ta kí hiệu ⊗ j hoặc
α ∈I

1

1 ⊗ ... ⊗ n .
Định lí 1.1.11
Nếu I là tập đếm được thì ⊗ α là σ -đại số sinh bởi họ tập
α ∈I

{∏ Eα / Eα ∈ α } .
α ∈I

1.2 Độ đo xác suất
Định nghĩa 1.2.1
Cặp (Ω,  ), trong đó Ω ≠ ∅ bất kỳ còn  là một σ -đại số các tập con của Ω
được gọi là một không gian đo.
Định nghĩa 1.2.2
Cho  là một σ -đại số trên Ω. Một hàm tập µ :  → [0; +∞] gọi là một độ
đo trên  nếu thoả các điều kiện
i)

µ (∅) =0 .

ii)

{E j }

+∞
j =1

+∞

+∞

j =1

j =1

là dãy các tập rời nhau thuộc  thì µ ( E j ) = ∑ µ (E j )

Độ đo µ trên  gọi là hữu hạn nếu µ ( E ) < +∞, ∀E ∈  .
Độ đo µ trên  gọi là σ -hữu hạn nếu tồn tại dãy

µ ( E j ) < +∞, ∀j và

+∞

E

j

{E }
j

+∞
j =1

⊂ ,

=X.

j =1

Độ đo µ trên  gọi là độ đo đầy đủ nếu mọi E ∈  , µ ( E ) = 0 thì mọi F ⊂ E
đều có F ∈  .


Bộ ba (Ω,  , µ ) trong đó  là một σ -đại số trên Ω, µ là một độ đo trên 
gọi là một không gian độ đo.
Định nghĩa 1.2.3
Giả sử  ⊂  (Ω) là một đại số nào đó. Hàm tập hợp Ρ (.) xác định trên 
được gọi là độ đo xác suất hữu hạn cộng tính ( hay cộng tính hữu hạn) nếu:
P1) P( A) ≥ 0, A ∈ 
P(Ω) =1

P2)
P3’)

P( A ∪ B)= P( A) + P( B) nếu A, B ∈  và A ∩ B =
∅.
∅
Bằng quy nạp, từ P3’) ta suy ra rằng nếu Ai ∈  , i = 1,2,…,n và Ai ∩ Aj =
n

n

với i ≠ j thì P(∑ Ai ) = ∑ P( Ai ) .
=i 1 =i 1

) P( A + A=
) P( A) + P( A) . Do đó
Cũng từ P2) và P’3) ta có 1= P(Ω=
P( A) = 1 − P( A) .

Định nghĩa 1.2.4
Hàm tập hợp P xác định trên đại số  được gọi là độ đo xác suất σ –cộng tính
nếu
P1) P( A) ≥ 0,
P2)

A∈ 

P(Ω) =1

∅, i ≠ j
P3) nếu Ai ∈  , i = 1, 2,... Ai ∩ Aj =

∞

∞

∞

∑ Ai ∈  thì P(∑ Ai ) = ∑ P( Ai )
i =1

=i 1 =i 1

Từ tính chất σ –cộng tính của độ đo xác suất suy ra tính chất hữu hạn cộng tính.

Điều ngược lại khơng đúng.
Ví dụ 1.2.5
Lấy  là tập số hữu tỷ trên 1 , lấy Ω=  ∩ [0,1] . Kí hiệu  là lớp các
khoảng [a; b] ∩ Ω , [a; b) ∩ Ω , (a; b] ∩ Ω , (a; b) ∩ Ω với a, b ∈ Ω . Xét hệ  gồm tất
cả các hợp của một số hữu hạn các khoảng trên (đương nhiên  ⊂  ).  là đại số.


Nếu A ∈  có một trong bốn dạng trên ta đặt P(A) = b - a, còn nếu
n

n

i =1

i =1

B = ∑ Ai , Ai ∈  và từng cặp rời nhau ta đặt: P( B) = ∑ P( Ai ) . Rõ ràng P là độ đo

xác suất hữu hạn cộng tính trên  . Nhưng với r ∈ Ω, {r} ∈ 
và P({r}) = 0 , và P(Ω) = 1 ≠ 0 =

∑ P({r}) . Vậy P khơng thể là σ -cộng tính.
r∈Ω

Định lí 1.2.6
Giả sử P là một độ đo xác suất hữu hạn cộng tính trên đại số  . Khi đó
bốn điều kiện sau là tương đương
1) P là cộng tính đếm được ( σ -cộng tính);
2) P liên tục trên, tức là nếu A n ∈  , n = 1,2,… là dãy không giảm ( An ⊂ An +1 )
An

và lim=
n →∞

∞

 A ∈
n

n =1

∞

thì P( An ) = lim P( An ) .
n →∞

n =1

3) P liên tục dưới, tức là nếu A n ∈  , n = 1,2,… là dãy giảm ( An ⊂ An −1 ) và
lim=
An
n →∞

∞

∞

n =1

n =1

 An ∈  thì P( An ) = lim P( An ) .
n →∞

4) P liên tục tại không, tức là, nếu A n ∈  , An ⊃ An +1 , n = 1,2,… và

∞

A

n

=∅

n =1

thì lim P( An ) = 0 .
n →∞

Chứng minh:
1 ⇒ 2 ): Giả sử (A n ) ⊂  không giảm,

∞

 A ∈  . Đặt
n

n =1

∞

đó An = B1 + B2 + ... + Bn ,  Ai =
i =1

∞

∑B ,
i =1

i

n

P( An ) = ∑ P( Bi ) ,
i =1

∞

∞

P=
( Ai ) P=
(∑ Bi )
i =1

∞

P( B )
∑=

=i 1 =i 1

i

n

lim ∑
P( Bi ) lim P( An )
=

n →∞
=i 1

n →∞

A0 =
∅, Bi =
Ai \ Ai −1 ∈  . Khi


2 ⇒ 3 ): Giả sử (A n ) ⊂  là dãy giảm,

∞

 A ∈  , khi đó ( A ) là dãy tăng. Theo 2):
n

n

n =1

∞

∞

∞

P( Ai ) =
1 − P( Ai ) =
1 − P( Ai ) =
1 − lim P( An ) =
lim[1 − P( An )] =
lim P( An ) .
n →∞

=i 1 =i 1 =i 1

3 ⇒ 4 ):

n →∞

n →∞

Hiển nhiên.

4 ⇒ 1 ) : Giả sử (A n ) ⊂  là dãy đôi một không giao nhau và

∞

 A ∈  . Khi đó
n

n =1

=
Cn :

∞

=
Ai


i=
n +1

∞

∞

n

∅.
 Ai \  Ai ∈  và Cn ⊂ Cn+1 ,  Cn =
i=
i=
1
1

n =1

Do P hữu hạn cộng tính
∞

n

P( Ai )= P( Ai ) + P(Cn )=

=i 1 =i 1

n

∑ P( A ) +P(C ) .
i =1

i

n

∞

∞

i =1

i =1

Cho n → ∞ với P(Cn ) → 0 ta có P( Ai ) = ∑ P( Ai ) .
Định lí 1.2.7 (Định lí Carathéodory)
Giả sử Ω là một tập hợp nào đó,  là đại số các tập con của Ω. Giả sử µ0
là một độ đo xác định trên  (nghĩa là µ0 là một hàm tập hợp, khơng âm, σ -cộng

tính trên  ) và σ -hữu hạn (nghĩa là tồn tại dãy (A n ) ⊂  sao cho

∞

A

n

= Ω và

n =1

µ0 ( An ) < ∞, n =1, 2... ). Khi đó tồn tại duy nhất một độ đo µ xác định trên σ ( ) sao

µ ( A) µ0 ( A), A ∈  .
cho=
Giả sử P là độ đo xác suất xác định trên  () . Khi đó hàm số
F ( x=
) P(−∞, x], x ∈  có các tính chất sau:

a) F khơng giảm: x < y ⇒ F ( x) ≤ F ( y ) ,
b) F liên tục trái tại mọi điểm,
F (−∞) lim
=
F ( x) 0,
=
F (+∞) lim
=
F ( x) 1 .
c) =

x →−∞

x →+∞

Hàm F có 3 tính chất đó được gọi là hàm phân phối trên  .
Thật vậy, tính chất a) suy ra từ tính đơn điệu của xác suất và bao hàm thức


(−∞; x] ⊂ (−∞, y ] nếu x < y .

Do F đơn điệu bị chặn nên các giới hạn một phía (kể cả các điểm ±∞ ) đều
tồn tại. Vì vậy để chứng minh tính chất liên tục trái cũng như c) chỉ cần sử dụng
tính chất liên tục của xác suất.
Định lí 1.2.8
Giả sử F(x) là một hàm số tuỳ ý xác định trên  thỏa 3 điều kiện a), b), c)
ở trên. Khi đó tồn tại duy nhất một xác suất P xác định trên  () sao cho:
P[a=
, b) F (b) − F (a ) , a < b .

Chứng minh:
Kí hiệu  là họ gồm các tập A ⊂  sao cho A =

n

∑ [a ; b )
i =1

i

i

(1.2.1)

, b) F (b) − F (a) ,
với [ai ; bi ) ∩ [a j ; b j ) =∅, i ≠ j . Rõ ràng,  là một đại số. Đặt : P0 [a=
=
P0 ( A)
a < b và

n

n

[a ; b ) ∑ [ F (b ) − F (a )] nếu A ∈ 
∑ P=

0
i
i
=i 1 =i 1

i

i

và có dạng (1.2.1).

Dễ thấy P0 thỏa các điều kiện P 1 ), P 2 ), P 3 ’). Để có thể áp dụng định lí
Carathéodory ở trên chỉ cần phải chứng minh rằng P0 là σ -cộng tính trên  . Theo
định lí 1.2.6 chỉ cần chứng minh rằng P0 liên tục tại ∅ .

Giả sử An ∈  , An ↓ ∅ . Ta hãy chứng tỏ rằng P0 ( An ) → 0 .

1, 2,...
a) Đầu tiên ta giả sử rằng tồn tại a; b ∈ , a < b sao cho An ⊂ [a, b], n =
mn

Theo giả thiết, An = ∑ [ain , bin ) và F liên tục trái nên với ε > 0 tùy ý đã cho
i =1

tìm được cin ∈ [ain ; bin ) sao cho P0 [cin ; bin ) = F (bin ) − F (cin ) < ε .(2n.mn ) −1

=
=
mn , n 1, 2,...
với i 1,...,
Kí hiệu Bn
=

mn

=
[ain , cin ), K n
∑

mn

∑ [a

=i 1 =i 1

n
i

, cin ] . Rõ ràng Bn ⊂ K n ⊂ An ⊂ [a, b] và


mn

∑ P [c , b

=
P0 ( An \ Bn )

i =1

0

n
i

n
i

với

) < ε .2− n

n

=

1,

2,…

(1.2.2)
∞

Do

A

n

= ∅ nên

n =1

∞

K

n

= ∅ . Từ đó và tính compact của các tập K n trong

n =1

khoảng [a; b] suy ra tồn tại số n0 sao cho

n0

m

 K n = ∅ ⇒  Bn = ∅, m ≥ n0 .

n 1=
n 1
=

m

m

∞

m

P0 ( An \ Bn ) ≤ ∑ P0 ( An \Bn ) < ∑=
ε .2− n ε .
Khi đó với m ≥ n0 , P=
0 ( Am )
n 1=
n 1
=
=
n 1=
n 1

Vì ε > 0 tùy ý, nên ta có lim P0 ( Am ) = 0 .

m →∞

b) Bây giờ xét ( An ) ⊂  tùy ý, An ↓ ∅ . Theo giả thiết về hàm phân phối F, với
ε > 0 đã cho, tùy ý, ta tìm được a < b sao cho F (a ) <

ε
ε
, 1 − F (b) <
2
2

An ∩ [ \ [a; b)] ∈ n , n ≥ 1
An ∩ [a; b) ∈ n và An'' =
Đặt An' =

Theo phần a) An' ↓ ∅, An' ⊂ [a, b] nên P0 ( An' ) → 0, n → +∞
Ngoài ra, P0 ( An'' ) ≤ P0 [ \ [a, b)] < ε . Từ đó
lim=
P0 ( An ) lim [ P0 ( An' ) + P0 ( An'' )] ≤ ε + lim
=
P0 ( An' ) ε

n →+∞

n →+∞

n →+∞

Suy ra lim P0 ( An ) = 0
n →+∞

Định nghĩa 1.2.9
Lớp  các tập con của Ω được gọi là compact nếu đối với dãy bất kỳ

( K n ) ⊂  mà

∞

 K n = ∅ thì tồn tại số n0 sao cho
n =1

n0

K

n

= ∅.

n =1

Định lí 1.2.10
Giả sử  là lớp compact bất kỳ của Ω. Khi đó lớp nhỏ nhất chứa  đóng
đối với hợp hữu hạn và giao đếm được cũng là lớp compact.


Chứng minh
Giả sử * là lớp gồm các tập là hợp của một số hữu hạn các phần tử của  .
 là lớp gồm các tập là giao của một số đếm được các phần tử của * . Bởi vì bao


 compact nếu * compact. Vì
đóng đối với phép giao bảo tồn tính compact nên 

vậy, chỉ cần chứng minh rằng * là lớp compact. Giả sử (Cn ) ⊂ * và
mn

m
Cn =  K nm , K n ∈  ; m, n ≥ 1 .
m =1

p

Giả sử

C

n

≠ ∅ với mọi p tùy ý. Ta hãy chứng minh rằng

∞

C

n

≠ ∅.

n =1

n =1

∞

p

Kí hiệu  = ∏ {1, 2,..., mn } và =
 p {{ jn } ∈  :  K nj ≠ ∅}, p ≥ 1 .
n

n =1

n =1

p

Vì

p

 Cn ≠ ∅ ⇒  K njn ≠ ∅ nên  p ≠ ∅ với mỗi p. Hơn nữa nếu p1 < p2 thì

n 1=
=
 n 1

 p1 ⊃  p2 và  là tích các khơng gian compact (với tơpơ rời rạc) nên cũng

Do đó

compact.

∞

∞

n =1

n =1

  p ≠ ∅ . Bây giờ, giả sử { jn } ∈   p . Lúc đó với mỗi
∞

p

 K njn ≠ ∅ , và lại do

p = 1, 2,...

 là lớp compact nên

∞

 K njn ⊂  Cn . Do đó

=
n 1=
n 1

∞

C

n

jn
n

≠ ∅ . Mà

n =1

n =1

∞

K

≠∅.

n =1

Định nghĩa 1.2.11
Giả sử (Ω,  ,P) là không gian xác suất;  ⊂  là lớp compact. Độ đo xác
suất P được gọi là chính quy( đối với  ) nếu P( B) = sup P( A) , với mỗi B ∈  .
A∈ , A⊂ B

Định lí 1.2.12

Giả sử 0 là đại số các tập con của Ω. 0 là lớp compact và 0 ⊂ 0 . Ngoài
ra, giả thiết rằng  =

σ ( 0 ) và

 là lớp nhỏ nhất chứa 0 đóng đối với hợp hữu

hạn, giao đếm được.
Giả sử P là hàm tập không âm hữu hạn cộng tính trên 0 và P(Ω) = 1. Khi
đó nếu P( B) = sup P( A) , với mỗi B ∈ 0 , thì P có thể thác triển một cách duy
A∈0 , A⊂ B

nhất thành một độ đo xác suất trên  và chính quy đối với  .
Chứng minh:
a) Theo nguyên lí thác triển độ đo, ta chỉ cần chứng tỏ rằng nếu ( Bn ) ⊂ 0 ,
Bn ↓ ∅ , thì P( Bn ) → 0 . Lấy ε > 0 và với mỗi n chọn K n ∈ 0 sao cho K n ⊂ Bn và
P( K n ) ≥ P( Bn ) − ε / 2n . Vì

∞

∞

∅ , do đó tồn tại n0 sao cho
 K n ⊂  Bn =

=
n 1=
n 1

đó =

Bn

n0

B

n0

n0

K

n

= ∅ . Từ

n =1

n0

⊂  ( Bn \ K n ) . Vậy P ( Bn0 ) ≤ ∑ P ( Bn \ K n ) ≤ ε và do Bn ↓ ∅ nên

n
0
n 1=
n 1
=

n =1

P( Bn ) ≤ ε với mọi n ≥ n0 .
b) Để chứng minh độ đo thác triển (mà ta cũng kí hiệu là P) chính quy đối với
 , ta xét tập  gồm các tập B ∈  sao cho P ( B ) = sup P ( A) . Dễ dàng thấy rằng
A∈ , A⊂ B

 là lớp đơn điệu, chứa 0 . Do đó,  =  .

1.3 Phần tử ngẫu nhiên, biến ngẫu nhiên, véctơ ngẫu nhiên.
Định nghĩa 1.3.1
Giả sử (Ω,  ) và ( E ,  ) là hai không gian đo. Ánh xạ f : Ω → E được gọi là đo
được, hay phần tử ngẫu nhiên nhận giá trị trong E nếu f −1 ( A) ∈  với mỗi A∈ .
Đơi khi f cịn được gọi là phần tử ngẫu nhiên trên (Ω,  ) với giá trị trong
(E,  ) .

Định lí 1.3.2


Giả sử h : (Ω,  ) → (G, ) g : (G, ) → ( E ,  ) là các ánh xạ đo được. Khi đó
ánh xạ hợp g 0 h là phần tử ngẫu nhiên trên (Ω,  ) với giá trị trong ( E ,  ) .
Định nghĩa 1.3.3
Giả sử Ω là tập tùy ý, ( fi )i∈I là họ các ánh xạ từ Ω vào các không gian đo

( Ei , i )i∈I . Ta gọi σ -đại số sinh bởi họ hàm ( fi ) và kí hiệu bởi σ ( fi , i ∈ I ) là σ -đại
số bé nhất trên Ω sao cho tất cả các ánh xạ fi đo được.
Định lí 1.3.4
Giả sử ( E ,  ) là không gian đo,  ⊂ P(Ω) và giả sử f : E → Ω . Để f là ánh xạ
đo được trên ( E ,  ) với giá trị trong (Ω, σ ( )) điều kiện cần và đủ là f −1 (C ) ∈ với
mỗi
C∈  .
Chứng minh:

Điều kiện cần là hiển nhiên. Để chứng minh điều kiện f −1 ( ) ⊂  là đủ ta xét
tập = { A ⊂ Ω : f −1 ( A) ∈ } . Dễ dàng kiểm tra được  là một σ -đại số các tập con
của Ω chứa  . Do đó  ⊃ σ ( ) , có nghĩa là A ∈ σ ( ) ⇒ f −1 ( A) ∈ 

Giả sử (Ω,  ) là không gian đo đã cho,  = [−∞; +∞] .
Định nghĩa 1.3.5
Hàm thực X = X (ω ) xác định trên Ω lấy giá trị trên  gọi là  - đo được

B} X −1 ( B) ∈  với mỗi B ∈  () .
hoặc biến ngẫu nhiên suy rộng nếu {ω : X (ω ) ∈ =
(Ở đây  () là σ -đại số các tập Borel của trục thực  )
Thêm vào đó, nếu X : Ω →  = (−∞; +∞) thì ta có khái niệm biến ngẫu nhiên.
Giả sử  ⊂  () và  () = σ ( ) thì ánh xạ X : (Ω,  ) → (,  ()) là biến
ngẫu nhiên suy rộng khi và chỉ khi X −1 (C ) ∈  với mỗi C ∈  .
Định lí 1.3.6


Giả sử X : Ω →  . Khi đó các mệnh đề sau tương đương
a) X là biến ngẫu nhiên
b) {ω : X (ω ) < x} ∈  với mỗi x ∈  .
c) {ω : X (ω ) ≤ x} ∈  với mọi x ∈  .
d) {ω : a ≤ X (ω ) < b} ∈  với a < b bất kì .
Định nghĩa 1.3.7
Hàm ϕ : ( n ,  ( n )) → (,  ()) được gọi là hàm Borel, nếu nó  ( n ) - đo
được, nghĩa là ϕ −1 ( B) ∈  ( n ) với mỗi B ∈  () .
Định lí 1.3.8
Giả sử X 1 ,..., X n là các biến ngẫu nhiên cùng xác định trên (Ω,  ) và

ϕ (t1 ,..., tn ) là hàm Borel giá trị thực. Khi đó Y = ϕ ( X 1 ,..., X n ) cũng là biến ngẫu
nhiên.

Chứng minh:
Đặt X (ω ) = ( X 1 (ω ),..., X n (ω )) là hàm trên (Ω,  ) nhận giá trị trên  n . Theo
giả thiết với x1 ,..., xn ∈  bất kỳ ta có

n

{ω : X (ω ) < x } ∈  , hay
i

i

i =1

 . Nhưng lớp các tập

n

∏ (−∞, x ),
i =1

i

x1 ,..., xn ∈ 

sinh ra  ( n ) .

Do đó X −1 ( B) ∈  với B ∈  ( n ) bất kỳ.
Từ đó, nếu C ∈  () thì ϕ −1 (C ) ∈  ( n ) và X −1[ϕ −1 (C )] ∈  .

=
Y −1 (C ) X −1[ϕ −1 (C )] ∈  và Y là biến ngẫu nhiên.
Do đó,

Định lí 1.3.9

n

X −1 (∏ (−∞, xi )) ∈
i =1


Giả sử ( X n , n ≥ 1) là dãy biến ngẫu nhiên và sup X n , inf X n hữu hạn trên Ω. Khi
n

n

đó, sup X n , inf X n , lim sup X n , lim inf X n là các biến ngẫu nhiên. Đặc biệt nếu
n

n

n

n

lim X n = X , X hữu hạn thì X cũng là biến ngẫu nhiên.

Chứng minh:
− sup(− X n ) ,

Từ các đẳng thức inf X n =
n ≥1

n

lim inf X n = sup(inf X k ) ,
n →∞

n ≥1

k ≥n

lim sup X n = inf (sup X k ) ,
n →∞

n ≥1

k ≥n

Ta thấy chỉ cần chứng minh rằng sup X n là biến ngẫu nhiên. Nhưng với x ∈ 
n

x]
bất kỳ [ X n ≤ x] ∈  , n = 1, 2,... . Vì vậy [sup X n ≤=
n

∞

[ X

n

≤ x] ∈  .

n =1

Định lí 1.3.10
Giả sử X là biến ngẫu nhiên xác định trên (Ω,  ). Khi đó
a) Tồn tại dãy biến ngẫu nhiên rời rạc hội tụ đều đến X;
b) Nếu X ≥ 0 thì tồn tại dãy biến ngẫu nhiên đơn giản ( X n ) sao cho X n ↑ X .
Chứng minh:
a) Lấy X n =

+∞

k

∑ n

k = −∞

k
k +1
[ ≤X <
]
n
n

.

Rõ ràng ( X n ) là dãy biến ngẫu nhiên rời rạc và sup X n (ω ) − X (ω ) ≤
ω

b) Nếu X=
≥ 0 thì lấy X n

1
→0.
n

k −1
[ k −1≤ X .2n < k ] + n[ X ≥ n ] , ( n ≥ 1 ).
n
k =1 2

n 2n

∑

Rõ ràng, 0 ≤ X n ↑ X và ( X n ) là dãy biến ngẫu nhiên đơn giản.
và  ( X ) { X −1 ( B), B ∈  ()} là đại số
Giả sử X là biến ngẫu nhiên trên (Ω,  ) =
sinh bởi X.
Định lí 1.3.11


Giả sử X là biến ngẫu nhiên trên (Ω,  ) và Y là ánh xạ từ Ω vào  . Lúc đó, Y là
 ( X ) -đo được khi và chỉ khi tồn tại hàm Borel ϕ :  →  sao cho Y = ϕ0 X .

Chứng minh:

Điều kiện đủ là hiển nhiên. Để chứng minh điều kiện cần, đầu tiên giả sử Y là

[Y= an ] ∈  (X).
hàm rời rạc với miền giá trị {a1 , a2 ,...} . Theo giả thiết, tập A=
n
=
Do
đó An X −1 ( Bn ), Bn ∈  () .
n −1

Đặt Cn = Bn \  Bi ∈  (), n = 1, 2,...
i =1

n −1

X (Cn ) A=
An .
Các tập này rời nhau và =
n \  Ai
−1

i =1

Đặt ϕ ( x) = ∑ an . C ( x) . Dễ thấy Y = ϕ0 X .
n

n ≥1

Xét trường hợp tổng quát. Theo định lí 1.3.10 tồn tại dãy hàm Yn

 -đo

được, rời rạc hội tụ đều đến Y. Theo phần đầu của chứng minh, tồn tại các hàm
Borel ϕn sao cho Yn = ϕn 0 X . Kí hiệu B= {x ∈  : tồn tại lim ϕn ( x)} .
n

lim ϕn ( x), x ∈ B
n

Hiển nhiên B ∈  () và B ⊃ X (Ω) . Đặt ϕ ( x) = 

0, x ∉ B

=
Y lim
=
Yn lim ϕ=
ϕ0 X .
Rõ ràng
n0 X
n

n

Định lí được chứng minh.
Định nghĩa 1.3.12
Giả sử (Ω,  ) và ( E ,  ) là hai không gian đo. Như đã biết, ánh xạ X : Ω → E
 / -đo được cịn được gọi là phần tử ngẫu nhiên.

Thơng thường, E hoặc là không gian metric hoặc là không gian tôpô, còn 

là

σ -đại số các tập Borel (  =  ( E ) ).


E =
, E =
, E  d với σ -đại số các tập Borel tương ứng thì phần tử
Khi=
ngẫu nhiên tương ứng gọi là biến ngẫu nhiên (thực), biến ngẫu nhiên phức hay
véctơ ngẫu nhiên d-chiều. Véctơ ngẫu nhiên d-chiều được biểu diễn duy nhất dưới
dạng X = ( X 1 ,..., X d ) , trong đó X k = π k 0 X , π k là ánh xạ chiếu từ  d lên tọa độ thứ
k. Vì π k là các hàm liên tục nên X k là biến ngẫu nhiên. Đảo lại, nếu X k là biến
ngẫu nhiên thì X là véctơ ngẫu nhiên.
1.4 Hàm phân phối, hàm mật độ của biến ngẫu nhiên và vécto ngẫu nhiên
Định nghĩa 1.4.1
Giả sử X là phần tử ngẫu nhiên xác định trên (Ω,  ,P) nhận giá trị trên ( E ,  ) .
Hàm=
tập P X ( B) P( X −1 ( B)), B ∈ , được gọi là phân phối của X trên ( E ,  ) . Đó là
một độ đo xác suất cịn được gọi là ảnh của P qua X, kí hiệu là X(P).
Khi ( E ,  ) = (T ,  (T )) , phần tử ngẫu nhiên X còn được gọi là hàm ngẫu
nhiên. Nếu T ⊂  thì X được gọi là quá trình ngẫu nhiên.
Giả sử X là biến ngẫu nhiên xác định trên (Ω,  ,P) nhận giá trị trên  = (−∞; +∞)
Định nghĩa 1.4.2

( x) P[ X < x] , x ∈  được gọi là hàm phân phối của biến ngẫu nhiên
Hàm số FX=
X.
Nhận xét 1.4.3
Theo định nghĩa, hàm phân phối của X là thu hẹp của độ đo xác suất P X trên lớp

các khoảng (−∞; x] , x ∈  .
Từ đó, hàm phân phối F ( x) ≡ FX ( x) có các tính chất sau:
i)

đơn điệu: x ≤ y ⇒ F ( x) ≤ F ( y ) ,

ii) liên tục trái, có giới hạn phải tại mọi điểm,
F (+∞) : lim
=
F ( x) 1,
F (−∞) : lim
=
F ( x) 0, =
iii) =
x →−∞

x →+∞


Ngược lại, nếu hàm số F(x) bất kỳ có ba tính chất trên thì tồn tại một độ đo xác
) µ (−∞, x) , x ∈ 
suất µ trên (,  ()) sao cho F ( x=

Từ đó nếu lấy X :  →  là ánh xạ đồng nhất thì X là biến ngẫu nhiên trên
khơng gian xác suất (,  (), µ ) sao cho F ( x) = FX ( x)
Độ đo xác suất µ sinh bởi hàm F(x) còn được gọi là độ đo Lebesgue-Stieltjes
sinh bởi F.
Định nghĩa 1.4.4
Hàm phân phối FX ( x) được gọi là rời rạc nếu nó có dạng F ( x) =

∑

i , xi < x

trong đó pi > 0 ,

∑p

i

pi (1.4.1)

S {xi :1 ≤ i < ∞} là tập con không quá đếm được của
= 1 và=

i



Hàm phân phối F(x) được gọi là liên tục tuyệt đối nếu có một hàm Borel f(x)
x

sao cho F ( x) =

∫

f (t )dt , x ∈  .

(1.4.2)

−∞

Dễ thấy f (t ) ≥ 0 (hầu khắp nơi) và

+∞

∫

f (t )dt = 1 .

−∞

Từ lý thuyết hàm biến thực, ta thấy một hàm phân phối bất kỳ được biểu diễn
dưới dạng một tổ hợp lồi của ba loại F ( x) =c1 Fd ( x) + c2 Fac ( x) + c3 Fs ( x)

(1.4.3)

1 ), trong đó
( ci ≥ 0, c1 + c2 + c3 =

Fd ( x) là hàm phân phối rời rạc,
Fac ( x) là hàm phân phối liên tục tuyệt đối,
Fs ( x) là hàm phân phối kỳ dị, nghĩa là hàm liên tục và tập hợp

{x ∈  : Fs ( x + ε ) − Fs ( x − ε ) > 0 với mọi ε > 0} có độ đo Lebesgue khơng.
c=
0 thì c1 = 1 . Khi đó F có dạng (1.4.1). Biến ngẫu nhiên có hàm
+ Nếu c=
2
3

phân phối như vậy gọi là biến ngẫu nhiên rời rạc. Như vậy biến ngẫu nhiên X có

S {xi ,1 ≤ i ≤ n ≤ ∞} hữu hạn hoặc đếm
phân phối rời rạc khi và chỉ khi có một tập=


pi P=
[ X xi ], i ≥ 1 thì rõ ràng FX ( x) =
1 . Nếu đặt=
được sao cho P[ X ∈ S ] =

∑

i:xi < x

pi ,

x∈.

Phân phối xác suất được tập trung tại các điểm xi và ta có bảng sau gọi là
bảng phân phối xác suất của X:
X
P

x1
p1

x2 …

xi …

p2 ….

pi …

ở đây xi ≠ x j với i ≠ j , pi > 0 ,

∑p

i

=1.

i

S {xi , i ∈ I } không quá đếm được và tập các số { pi , i ∈ I }
+ Ngược lại, nếu cho tập=
như trên thì có một biến ngẫu nhiên rời rạc X với tập giá trị S và có bảng phân phối
 pi , x = xi
0, x ∉ {xi , i ≥ 1}

ở trên. Đôi khi hàm số p( x) = 

còn được gọi là hàm mật độ của biến ngẫu nhiên rời rạc X.

c=
0 , F = Fac . Khi đó F có dạng (1.4.2). Biến ngẫu nhiên
+ Trong trường hợp c=
1
3

có hàm phân phối như vậy gọi là biến ngẫu nhiên có phân phối liên tục tuyệt đối;
hàm f trong (1.4.2) gọi là hàm mật độ của biến ngẫu nhiên X. Cũng như trường hợp
rời rạc, phân phối xác suất của nó được biết hoàn toàn nếu biết hàm mật độ f của nó.
Từ nguyên lý thác triển độ đo, ta có P[ X ∈ B] =
∫ f ( x)dx, B ∈  () .
B

Định nghĩa 1.4.5
Trong  d có thể đưa vào quan hệ thứ tự bộ phận. Với
=
x ( x1 ,...,
=
xd ), y ( y1 ,..., yd ) ∈  d , ta viết
x ≤ y nếu xk ≤ yk , k = 1,..., d ,

x < y nếu xk < yk , k = 1,..., d .

Tập hợp [ x; y ) := {u ∈  d : x ≤ u < y} . Giả sử X = ( X 1 ,..., X d ) là véctơ ngẫu nhiên d
chiều xác định trên (Ω,  ,P).
Nhận xét 1.4.6


xd ] , x ( x1 ,..., xd ) ∈  d
Như đã biết, hàm số F ( x)= P[ X < x] ≡ P[ X 1 < x1 ,..., X d <=
là hàm phân phối của véctơ ngẫu nhiên X.
x) PX (−∞, x], x ∈  d nên như đã biết, hàm F có các tính chất sau:
Vì F (=

1) 0 ≤ F ( x) ≤ 1 ,
2) Nếu xk → −∞ với một k nào đó thì lim F ( x) = 0 .

Nếu x1 → +∞ ,…, xd → +∞ thì lim F ( x) = 1 .
3) Hàm F liên tục trái.
4) ∆1h ∆ h2 ...∆ dh F ( x) ≥ 0 với hk > 0 , k = 1,..., d bất kỳ, trong đó nếu
1

2

d

g ( x) = g ( x1 ,..., xd ) là hàm số bất kỳ, toán tử sai phân ∆ kh được xác định bởi
k

k
∆=
g ( x1 ,..., xk −1 , xk + hk , xk +1 ,..., xd ) − g ( x1 ,..., xk ,..., xd ) .
hk g ( x )

Chẳng hạn, khi d=2 ta có:
∆1h1 ∆ h22 F ( x) = F ( x1 + h1 , x2 + h2 ) − F ( x1 + h1 , x2 ) − F ( x1 , x2 + h2 ) + F ( x1 , x2 ).

Dễ dàng thấy rằng P[ X ∈ [ x, x + h]] =∆1h ∆ h2 ...∆ dh F ( x) .
1

2

d

Ngược lại, như trường hợp d=1, nếu hàm số d biến số F(x) thỏa mãn 4 tính
chất
trên thì F sẽ là hàm phân phối của véctơ ngẫu nhiên d-chiều nào đó.

Thật vậy, ta có thể lấy khơng gian đo ( d ,  ( d )) . Trên=
lớp  {[a, b), a < b}
đặt
P0 [a, b) =
∆1b1 − a1 ∆ b22 − a2 ...∆ bdd − ad F (a )

Sau đó, nhờ nguyên lý thác triển độ đo, có thể thác triển P0 từ  lên  ( d ) để
được độ đo xác suất P trên  ( d ) . Véctơ ngẫu nhiên X cần tìm chính là ánh xạ
d
d
đồng nhất từ  lên  .

Véctơ ngẫu nhiên d-chiều X được gọi là có phân phối rời rạc nếu tồn tại tập
1.
không quá đếm được S= {xi , i ∈ I } ⊂  d sao cho P[ X ∈ S ] =
pi P=
[ X xi ], i ∈ I . Khi đó P[ X ∈ B] =
Đặt=
∑ pi .
i:xi ∈B