chỉnh hóa tikhonov cho bài toán giải chập

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

Hồ Hoàng Yến

CHỈNH HÓA TIKHONOV
CHO BÀI TOÁN GIẢI CHẬP

LUẬN VĂN THẠC SĨ TOÁN HỌC

Thành phố Hồ Chí Minh – 2014


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

Hồ Hoàng Yến

CHỈNH HÓA TIKHONOV
CHO BÀI TOÁN GIẢI CHẬP

Chuyên ngành: Toán giải tích
Mã số: 60 46 01 02

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC:
GS. TS. ĐẶNG ĐỨC TRỌNG

Thành phố Hồ Chí minh - 2014

LỜI CAM ĐOAN
Tôi xin cam đoan :
1. Những nội dung trong luận văn này là do tôi tự thực hiện dưới sự
hướng dẫn trực tiếp của Gs.Ts Đặng Đức Trọng.
2. Mọi tham khảo dùng trong luận văn đều được trích dẫn rõ ràng và
được ghi cụ thể trong phần tài liệu tham khảo.
3. Mọi sao chép không hợp lệ, vi phạm quy chế đào tạo, hay gian trá,
chúng tôi xin chịu hoàn toàn trách nhiệm.
Tp. Hồ Chí Minh, ngày 30 tháng 9 năm 2014
Học viên

Hồ Hoàng Yến

1


LỜI CẢM ƠN
Lời đầu tiên, tôi xin chân thành bày tỏ lòng biết ơn sâu sắc tất cả các
quý Thầy Cô đã tận tình giảng dạy, truyền đạt cho tôi những kiến thức quan
trọng suốt thời gian tôi học tại khoa Toán - Tin, trường Đại học Sư Phạm
Thành phố Hồ Chí Minh.
Tôi xin được tỏ lòng biết ơn chân thành đến Thầy hướng dẫn của tôi là
Gs.Ts. Đặng Đức Trọng, người đã tận tình hướng dẫn, động viên, lo lắng,
giúp đỡ tôi vượt qua mọi khó khăn để tôi có thể hoàn thành luận văn này.
Tôi vô cùng biết ơn ba mẹ tôi đã luôn bên tôi, động viên, khích lệ,
chăm lo cho tôi để tôi có mọi điều kiện tốt nhất về vật chất lẫn tinh thần trong
học tập và trong cuộc sống.
Tôi cũng xin gởi lời cảm ơn chân thành đến quý Thầy Cô trong Hội
đồng chấm luận văn đã dành thời gian quý báu để xem xét và góp ý cho

những điểm còn thiếu sót để tôi rút được kinh nghiệm cho luận văn cũng như
cho quá trình học tập sau này. Rất mong nhận được sự chỉ bảo quý báu của
quý Thầy Cô và sự đóng góp chân thành của quý bạn đọc.
Xin chân thành cảm ơn.
Tp. Hồ Chí Minh, ngày 30 tháng 9 năm 2014
Học viên

Hồ Hoàng Yến

2


MỤC LỤC
LỜI CẢM ƠN ....................................................................................................... 2
MỤC LỤC ............................................................................................................. 3
MỞ ĐẦU ................................................................................................................ 4
Chương 1 KIẾN THỨC CHUẨN BỊ ................................................................ 12

1.1. Không gian đo - Tích phân Lebesgue ............................................ 12
1.2. Biến số ngẫu nhiên ......................................................................... 15
1.3. Không gian định chuẩn..................................................................... 21
p
1.4. Không gian L , 1p < +∞ .............................................................. 22

1.5. Không gian Hilbert ........................................................................... 23
1.6. Biến đổi Fourier ................................................................................ 25
1.7. Không gian Sobolev ......................................................................... 28
1.8. Bài toán không chỉnh ........................................................................ 31
1.9. Tính không chỉnh của bài toán giải chập ....................................... 32
Chương 2 PHƯƠNG PHÁP CHỈNH HÓA TIKHONOV .............................. 38

2.1. Bổ đề 2.1.1 ........................................................................................ 39
2.2. Định lý 2.2.1 ..................................................................................... 42
2.3. Định lý 2.3.1 ..................................................................................... 43
Chương 3 CHẶN TRÊN VÀ CHẶN DƯỚI CỦA SAI SỐ XẤP XỈ .............. 45

3.1. Chặn trên của sai số xấp xỉ ............................................................... 47
3.2. Chặn dưới của sai số xấp xỉ .............................................................. 51
3.3. Chứng minh bổ đề 3.1.1 ................................................................... 54
KẾT LUẬN ......................................................................................................... 59
TÀI LIỆU THAM KHẢO.................................................................................. 60

3


MỞ ĐẦU
Thống kê phi tham số là một phương pháp thống kê không dựa trên
các yếu tố được tham số hóa của các phân bố xác suất. Các yếu tố này bao
gồm các số liệu thống kê dựa trên mô tả và suy luận. Thống kê phi tham số
cũng giống như thống kê đơn thuần mà ta đã biết, cũng có các thông số đặc
trưng: trung bình, phương sai, độ lệch chuẩn... Tuy nhiên, không giống như
thống kê có tham số, thống kê phi tham số không giả định hay đặt điều kiện
về phân bố xác suất của các biến ngẫu nhiên được đánh giá.
Thống kê phi tham số thường được sử dụng rộng rãi nhằm nghiên cứu
các đối tượng để đưa ra đánh giá mang tính chất phân cấp hoặc sắp xếp các
đối tượng. Phương pháp phi tham số này hữu ích khi dữ liệu nghiên cứu dù
được sắp xếp nhưng lại không có sự rõ ràng về mặt số học. Nếu xét về mức
độ đo lường, phương pháp phi tham số thường cho ra các dữ liệu có thứ tự.
Tích chập và các phép toán liên quan được sử dụng nhiều trong lĩnh
vực khoa học, kỹ thuật và đặc biệt là toán học. Trong toán học, đặc biệt là lý

thuyết xác suất, phân phối xác suất của tổng hai biến ngẫu nhiên bất kỳ chính
là tích chập của hai phân phối xác suất của hai biến ngẫu nhiên đó. Trong
việc ước lượng mật độ hạt nhân, hàm phân phối sẽ được ước lượng dựa trên
các điểm mẫu bởi phép tích chập với hạt nhân.
Giải chập là thuật ngữ chỉ việc giải phương trình tích chập. Một
phương trình tích chập thường có dạng f * g = h . Thông thường h là một
hàm có trước, f là hàm chúng ta cần tìm ra sau khi giải phương trình tích
chập, tuy nhiên f lại có quan hệ chặt chẽ xác định với g . Nếu chúng ta biết
được g , hoặc ít nhất là dạng của g thì ta có thể dễ dàng giải phương trình
tích chập để tìm ra

f . Nếu ta không có hàm g , ta có thể sử dụng phương

pháp ước lượng trong thống kê nhằm ước lượng hàm g . Phương trình tích
chập được sử dụng trong nhiều lĩnh vực kỹ thuật điện, phương trình vi tích
4


phân, xử lý ảnh và xử lý tín hiệu, thị giác máy tính và đặc biệt là thống kê
trong việc ước lượng hàm mật độ của các biến ngẫu nhiên rời rạc. Bài toán
giải chập thường là bài toán không chỉnh. Các phương pháp để giải bài toán
này hiện nay vẫn chưa được nghiên cứu nhiều.
Gần đây, nhiều tác giả quan tâm về việc ước lượng hàm mật độ xác
suất của các biến ngẫu nhiên độc lập được phân phối đồng nhất
X 1 , X 2 ,..., X n từ mô hình Y j = X j + Z j , trong đó là biến ngẫu nhiên không

khảo sát được sai số, được phân phối bởi hàm mật độ xác suất g và độc lập
với X j . Bài toán này được biết đến như bài toán giải chập trong thống kê phi
tham số. Một trong những phương pháp phổ biến nhất để giải bài toán này
là phương pháp ước lượng hạt nhân. Phương pháp này được đề cập đến trong

các bài báo Stefanski và Carroll [18], Fan [15], [16], và Goldenshluger [6].
Tuy nhiên, dạng Fourier g ft ( t ) của hàm mật độ g trong các bài báo này
thường được giả định là khác 0 với mọi t ∈  , điều kiện này không tự nhiên
trong một số trường hợp. Trường hợp nhận giá trị 0 chỉ mới được đề cập
đến trong một vài bài báo.
Ta đã biết bài toán giải chập là bài toán không chỉnh và cần phải chỉnh hóa.
Trong lý thuyết bài toán không chỉnh, một phương pháp chỉnh hóa thường
dùng là phương pháp chỉnh hóa Tikhonov. Trong luận văn này, chúng tôi sẽ
làm rõ các ý của bài báo Tikhonov's regularization to Deconvolution
problem của tác giả Đặng Đức Trọng, Cao Xuân Phương, Trương Trung
Tuyến và Đinh Ngọc Thanh (trong [14] phần tài liệu tham khảo) về trường
hợp đã đề cập ở trên.
Trong bài báo này, các tác giả quan tâm đến việc ước lượng hàm mật
độ f của các biến ngẫu nhiên độc lập, có phân phối đồng nhất
X 1 , X 2 ,..., X n dựa trên các biến ngẫu nhiên trực tiếp Y1 , Y2 ,..., Yn từ mô hình

Y j = X j + Z j với j = 1,2,..., n
5

(1)


Ở đây Z j là các biến ngẫu nhiên không quan sát được sai số, được
phân phối bởi hàm mật độ g và độc lập với biến X j . Chúng ta biết nếu h
là hàm mật độ xác suất của Y j thì chúng ta có quan hệ

h = f * g,

(2)

trong đó kí hiệu * biểu thị tích chập của hai hàm f và g ,
+∞

( f * g )( x ) = ∫ f ( x − t ) g ( t ) dt.
−∞

Ta biểu diễn biến đổi Fourier của hàm f bởi
+∞

f

ft

( t ) = ∫ f ( x ) eitx dx, t ∈ .

(3)

−∞

Đặt NZg = {t ∈  : g ft ( t ) ≠ 0} .
Thông thường, nếu biết được h , chúng ta có thể áp dụng biến đổi
Fourier cho hai vế của (2) để có
f

ft

h ft
= ft với mọi t ∈ NZg ,
g

(4)

sau đó sử dụng biến đổi Fourier ngược, ta tìm được f . Đây là bài toán cổ
điển trong giải tích. Trong thực tế, chúng ta không có hàm mật độ h , chúng
ta chỉ có các biến khảo sát Y j , j = 1,..., n . Bài toán tìm ngược lại hàm f từ
các biến khảo sát Y j được phân phối phụ thuộc vào h được gọi là bài toán
giải chập trong thống kê hay ngắn gọn là bài toán giải chập. Phương trình (2)
là phương trình tích phân và việc giải (2) là một bài toán không chỉnh điển
hình.
Một bài toán giải chập cụ thể là bài toán hội tụ. Để chứng minh một
bài toán giải chập là hội tụ, chúng ta chỉ ra rằng tồn tại một dãy xấp xỉ f n
sao cho
6


lim f n ( ;Y1 ,..., Yn ) − f

X

n→+∞

= 0,

trong đó X là một không gian Banach thích hợp.
Thực tế, trường hợp đơn giản nhất là NZg =  . Trong trường hợp này, có
nhiều phương pháp để xây dựng các ước lượng f n ( x;Y1 ,..., Yn ) . Như đã đề
cập ở trên, ước lượng hạt nhân là một trong những cách tiếp cận phổ biến để
nói về bài toán giải chập. Trong phương pháp này, ta xấp xỉ hàm mật độ f
bởi ước lượng
1

fn ( x ) =
2π

+∞

∫e

−∞

− itx

K ft ( tb ) 1 n itY j
∑e dt ,
g ft ( t ) n j =1

(5)

trong đó K là một hàm hạt nhân và K ft có giá compact.
Phương pháp này lần đầu được giới thiệu trong bài báo của Stefanski
và Carroll [18], Fan[15],[16]. Ước lượng (5) được biết đến như hàm mật độ
hạt nhân giải chập tiêu chuẩn. Chúng ta chú ý rằng ước lượng (5) có ý nghĩa
như là g ft ( t ) ≠ 0 với mọi t ∈  , và vì vậy điều kiện NZg =  trở thành
điều kiện phổ biến cho các đề tài về giải chập. Thực chất, điều kiện của g
thường thỏa

{

g ft ( t ) C (1 + t 2 ) exp −C0 t
−α

g

},

trong đó C , C0 > 0,α0, γ 0 và α + γ > 0 .
Tương tự, trong trường hợp các biến ngẫu nhiên hai chiều,
Goldenshluger [6] cũng giả định rằng
2
ft
min g ( t ) C exp {−C0t } , ∀v > 0.
t v

Tuy nhiên, có nhiều hàm mật độ quan trọng không thỏa NZg =  , ví dụ
những hàm mật độ đều g trên đoạn [ −a, a ] , a > 0 , hàm mật độ đều tự tích
chập hoặc tích chập của một hàm mật độ tùy ý với một hàm mật độ đều.
Bài toán giải chập trong trường hợp NZg ≠  là rất khó. Theo chúng
7


tôi biết, chỉ có một vài bài báo đề cập đến trường hợp này. Bài báo đầu tiên
xem xét vấn đề này là Devroye [17]. Tính hội tụ được lập theo chuẩn trong
không gian L1 (  ) . Sử dụng kỹ thuật chặt cụt, ông xây dựng một ước lượng
f n hội tụ về hàm mật độ cần tìm f khi dạng Fourier g ft bị triệt tiêu trong

tập có độ đo Lebesgue bằng không,
 1

K ( th ) 1 n itY j 
 Re  ∫ e − itx ft
e dt  , x < t ,

∑
g
t
n
f n ( x;Y1 ,..., Yn ) =  2π
(
)
=1
j
A
 r


0
, x Kt ,


{

}

trong đó Ar = t ∈ < : g ft ( t ) < r , r > 0, h > 0 , dạng Fourier của hàm hạt
nhân K ft có giá compact trên [ −c, c ] , c > 0 . Tuy nhiên, tỉ lệ hội tụ không
được nói đến trong bài báo này.
Trong bài báo của Meister [8], hàm mật độ của bài toán giải chập cũng
được xem xét trong trường hợp hàm mật độ cần tìm f được chứa trong

FS ,C ,β - lớp hàm mật độ thỏa

S

∫ f ( x ) dx = 1

và

−S

+∞

∫

f

ft

(t )

2

(1 + t )

2 β

−∞

dtC ,

với S , C , β > 0 khi mà hàm mật độ sai số thuộc vào gu ,v - lớp các hàm mật
độ thỏa g ft ( t ) u với t ∈ [ −v, v ] và
MISE ( f n , f ) =  f n − f

2
L2 (  )

g ∞ C . Tỉ lệ hội tụ đều của

( MISE :sai số trung bình bình phương tích

phân) phụ thuộc vào lớp định nghĩa cho f và g đạt đến lượng

(

0 ( ln n )

−2 β (1−δ )

( ln ln n )

2β

) với δ ∈[0,1) . Tỉ lệ này chỉ có được khi kích
8


 0 ( ln n )δ
δ
thước mẫu n được chọn đủ lớn để điểm cuối S ∈ 
;0 ( ln n )
 0 (1)

(

)


.


Thực sự điều kiện này không tự nhiên bởi vì S không được biết chính xác
và vì vậy thông thường chúng ta không thể chọn n một cách chính xác.
Tính hội tụ của MISE ( f n , f ) cũng được nghiên cứu trong bài báo của ông
khi f có giá trên một đoạn [ − S , S ] cố định, nhưng không có sự hội tụ
trong trường hợp này. Kết quả của bài báo [8] được xây dựng dựa trên sự giả
định là hàm mật độ cần tìm có giá compact trong khi giá trị 0 trong biến đối
Fourier của hàm mật độ sai số được thừa nhận.
Cũng tương tự các đề tài trên, trong Groeneboom và Tongbloed [19],
các tác giả tập trung xem xét bài toán giải chập trên mô hình hàm mật độ
đồng đều. Họ chỉ ra rằng bằng cách chọn một dãy sóng phù hợp, có thể xây
dựng một ước lượng của hàm mật độ cần tìm f nếu f có điểm cuối bên
trái hữu hạn. Trong bài báo của Hall và Meister [20], các tác giả cũng đưa ra
một hướng tiếp cận bài toán giải chập trong trường hợp NZg ≠  . Để tránh
việc chia cho 0 , các tác giả đã sử dụng hàm hn ( t ) = n −ξ t

p

với ξ > 0, p > 0

và thay g ft bởi cực đại của hai hàm g ft ( t ) với hn ( t ) . Hàm hn ( t ) ở trên
được gọi là "hàm sóng". Một xấp xỉ cho hàm mật độ f được định nghĩa bởi


 1
f n ( x ) = Re 
 2π


+∞

∫e

−∞

− itx

g ft ( −t ) f

( max { g

ft

ft

(t )

r

( t ) ; hn ( t )})

r +2


1 n itY j 
∑e dt 
n j =1



(6)

với r0 .
Tỉ lệ hội tụ của sai số trung bình bình phương tích phân
 fn − f

2
L2 (  )

được xây dựng trên lớp các hàm mật độ xác suất g thỏa

g ft ( t ) không triệt tiêu khi t T và
9


C1 sin ( λt ) t  g ft ( t ) C2 sin ( λt ) t
u

−v

u

−v

, t > T,

(7)

với u1 , v > 0 , 0C1C2 , λ > 0 , T > 0 .
Các tỉ lệ tối ưu của việc ước lượng cũng đồng thời được trình bày. Sử
dụng phương pháp biến đổi hạt nhân, Delaige và Meister [10] cũng cho kết
quả tương tự. Tuy nhiên, chúng ta thấy rằng điều kiện (7) áp đặt lên g ft
không tự nhiên. Trong các bài báo này, hàm mật độ g được giả sử thỏa

{

g ft ( t ) c sin ( kt ) (1 + t ) exp −d t
n

−α

β

},

(8)

với t ∈  , k > 0 , c > 0 , d > 0 , α0 , β 0 , α + β > 0 , ν > 0 . Trong
 nπ

trường hợp này,  \ NZg ⊂  , n ∈   . Nói theo cách khác, các vị trí mà
 k


hàm g ft bị triệt tiêu trên đường thẳng thực là cố định. Khi g là hàm mật độ
đều, dễ thấy g thỏa (8) nhưng trong trường hợp g là hàm mật độ tùy ý thì
điều kiện (8) thường không thỏa.
Để trình bày về vấn đề trên, trong luận văn này chúng tôi sẽ trình bày
việc xem xét bài toán giải chập trong trường hợp dạng Fourier của phân phối
sai số nhận giá trị 0 trên đường thẳng thực, không chỉ trên một số hạn chế
đặc biệt trong NZg . Sử dụng các tính chất của các hàm nguyên và một vài
kết quả của giải tích điều hòa, chúng tôi xem xét các tập dưới mức của phân
phối sai số.
Bằng cách ước lượng độ đo Lebesgue trên các tập dưới mức của hàm

g ft và kết hợp với phép chỉnh hóa Tikhonov, chúng tôi trình bày một ước
lượng f n của hàm mật độ cần tìm f và đánh giá tỉ lệ hội tụ của
sup

sup  f n − f

g∈s ,g , M ,T f ∈q , K
0

Ngoài ra, một chặn dưới của

sup

10

.

sup  f n − f

g∈s ,g , M ,T f ∈q , K
0

trình bày.

2
L2 (  )

2
L2 (  )

cũng sẽ được


Bố cục của luận văn bao gồm 3 chương:
Chương 1: Kiến thức chuẩn bị. Trong chương này, chúng tôi sẽ phát biểu các
định nghĩa, định lý sẽ được áp dụng trong quá trình chứng minh ở hai chương
còn lại như định nghĩa không gian đo, biến đổi Fourier, bài toán không chỉnh.
Ngoài ra trong chương này chúng tôi sẽ chứng minh tính không chỉnh của bài
toán giải chập và từ đó đưa ra yêu cầu phải chỉnh hóa trong chương 2, sau đó
đánh giá sai số xấp xỉ trong chương 3.
Chương 2: Phương pháp chỉnh hóa Tikhonov. Trong chương này chúng tôi
sẽ trình bày phương pháp chỉnh hóa Tikhonov và việc sử dụng nó để đưa ra
một xấp xỉ cho hàm mật độ xác suất.
Chương 3: Chặn trên và chặn dưới của sai số xấp xỉ. Chúng tôi sẽ trình bày
các phát biểu và chứng minh các định lý liên quan đến sai số xấp xỉ. Ngoài
ra, chúng tôi cũng sẽ cung cấp một chặn dưới và chặn trên của sai số xấp xỉ.
Do thời gian thực hiện luận văn không nhiều, kiến thức còn hạn chế nên luận
văn không tránh khỏi những sai sót, rất mong nhận được sự góp ý và những ý

kiến phản biện của quý thầy cô và bạn đọc. Xin chân thành cảm ơn.
Tp. Hồ Chí Minh, ngày 30 tháng 9 năm 2014
Hồ Hoàng Yến

11


Chương 1
KIẾN THỨC CHUẨN BỊ
1.1. Không gian đo - Tích phân Lebesgue
Định nghĩa 1.1.1. Cho M là một họ các tập con của một tập X . Ta
nói M là một σ − đại số trên X nếu M thỏa các tiên đề sau
Tiên đề 1. X ∈ M .
Tiên đề 2. Nếu A∈ M thì AC ∈ M , với AC = X \ A là phần bù của
A trong X .

Tiên đề 3. Nếu

{ An }

là một dãy các phần tử của M , nghĩa là

An ∈ M , ∀n ∈  và A = ∪∞n=1 An thì A∈ M .

Khi M là một σ − đại số trên X , ( X , M ) được gọi là một không
gian đo được và phần tử của M được gọi là các tập đo được.
Định nghĩa 1.1.2. Với X là một tập không rỗng và τ là một họ
các tập con của X , τ ⊂  ( X ) , ta nói τ là một tôpô trên X nếu
a) ∅, X ∈τ .
b) Nếu Vi ∈τ , i = 1,2,..., n , thì V1 ∩ V2 ∩ ... ∩ Vn ∈τ .

c) Nếu {Vα }α∈I là một họ các phần tử của τ thì ∪α∈I Vα ∈τ .
Bây giờ  ( X ,τ ) , hay vắn tắt là X khi tôpô X được ngầm hiểu,
được coi là một không gian tôpô, phần tử của τ được gọi là một tập mở
(trong ) và tập có phần bù trong X là một tập mở được gọi là một tập đóng
(trong X ).
Định nghĩa 1.1.3. Cho ( X ,τ ) là một không gian tôpô. σ − đại số
B sinh bởi τ được gọi là σ − đại số Borel trên X , ký hiệu B ( X ) . Khi

đó, phần tử của B được gọi là tập con Borel của X .
12


Định nghĩa 1.1.4. Cho không gian đo được ( X , M ) . Ta xét một ánh
xạ µ : M → ( 0, ∞ ) không tầm thường, nghĩa là tồn tại A∈ M sao cho

µ ( A ) < ∞ thỏa tính chất cộng tính đếm được, nghĩa là
∞  ∞
µ  An  = ∑µ ( An ) ,
 n=1  n=1

với mọi dãy

{ An }

các phần tử của M đôi một rời nhau (nghĩa là

Ai ∩ Aj = ∅ khi i ≠ j ), được gọi là một độ đo (dương) trên không gian đo
được ( X , M ) . Khi đó ( X , M, µ ) được gọi là không gian đo.
Cho

( X , M ) , (Y , N )

là hai không gian đo được và ánh xạ

f : X →Y .
Định nghĩa 1.1.5. Ánh xạ f : X → Y được gọi là đo được nếu

f −1 (W ) là một tập đo được (trong X ) với mọi tập đo được W (trong Y ),
nghĩa là

f −1 (W ) ∈ M, ∀W ∈ N.
Định lý 1.1.1. Với mọi hàm đo được f : X → ( 0, ∞ ) , tồn tại các hàm
đơn giản đo được không âm sn trên X sao cho
a) 0s1s2...f ,
b) sn ( x ) → f ( x ) khi n → ∞ , với mọi x ∈ X .
Định nghĩa 1.1.6. Với hàm đo được đơn giản s : X → ( 0, ∞ ) , cho
bởi
n

s = ∑α i I A ,
i =1

i

trong đó α1 ,...,α n là các giá trị khác nhau của s và với mỗi E ∈ M , ta đặt
n

∫sd µ = ∑α µ ( A ∩ E ).
i

E

i =1

13

i


Tổng quát, với hàm đo được f : X → ( 0, ∞ ) và với E ∈ M , ta đặt

∫ fd µ = sup ∫sd µ ,
E

E

trong đó, sup được lấy trên tất cả các hàm đo được đơn giản s sao cho

0sf .

∫ fd µ

được gọi là tích phân Lebesgue của f trên E đối với độ đo

E

µ.
Định lý 1.1.2. (Định lý hội tụ đơn điệu) Cho

{ fn}

là một dãy các hàm

đo được trên X sao cho
a) 0f1 ( x )f 2 ( x )...∞ , với mọi x ∈ X ,
b) f n ( x ) → f ( x ) khi n → ∞ , với mọi x ∈ X .
Ta có f là hàm đo được và

∫ f d µ → ∫ fd µ
n

X

khi n → ∞.

X

Định lý 1.1.3. (Định lý Radon – Nikodym) Cho µ là một độ đo
dương σ − hữa hạn trên một σ − đại số M của X , nghĩa là X có thể
viết thành hội đếm được các Ei ∈ M với µ ( Ei ) < ∞ . Nếu λ là một độ đo
dương trên M , liên tục tuyệt đối đối với µ thì tồn tại hàm đo được dương
h sao cho d λ = hd µ , nghĩa là

λ ( E ) = ∫hd µ , với mọi E ∈ M.
E

Hàm h còn được gọi là đạo hàm Radon - Nikodym của λ đối với µ , ký
hiệu h =

dλ

.
dµ

Định lý 1.1.4. (Định lý hội tụ bị chận Lebesgue) Giả sử
các hàm đo được trên X sao cho

f ( x ) = lim f n ( x )
n→∞

14

{ fn}

là dãy


tồn tại với mọi x ∈ X . Nếu tồn tại hàm g ∈ L1 ( µ ) sao cho

f n ( x ) g ( x ) , với mọi n ∈ , x ∈ X ,
thì f ∈ L1 ( µ ) ,
lim ∫ f n − f d m = 0,
n→∞

X

và
= ∫ fd .
lim ∫ f n d mm
n→∞

X

X

Định lý 1.1.5. (Định lý Fubini) Cho F khả tích trên Ω1 × Ω 2 . Khi
đó với hầu hết x thuộc Ω1 , ta có

F ( x, ⋅) : y  F ( x, y ) khả tích trên Ω 2 ,
và
x  ∫ F ( x, y ) dy khả tích trên Ω1.
Ω2

Kết luận tương tự khi đổi vai trò của x cho y , Ω1 cho Ω 2 . Hơn nữa ta có

∫

dx ∫ F ( x, y ) dy = ∫ dy ∫ F ( x, y ) dx = ∫

Ω1

Ω2

Ω2

Ω1

Ω1×Ω2

F ( x, y ) dxdy.

1.2. Biến số ngẫu nhiên
Cho Ω là không gian mẫu của phép thử τ , M là một σ - đại số
các biến cố của Ω và P là một độ đo xác suất xác định trên M , ta có
Định nghĩa 1.2.1. Cho ( M,Ω ) và ( M', Ω′ ) là hai không gian đo
được. Xét ánh xạ X : Ω → Ω′ . Nếu X là ánh xạ đo được, ta nói X là một
biến ngẫu nhiên. Đặc biệt, khi ( M', Ω′ ) = ( , B,  ) , ta gọi X là biến ngẫu
nhiên thực hay vắn tắt là biến số ngẫu nhiên và khi ( M', Ω′ ) = (  k , B,  k ) ,
ta gọi X là vectơ ngẫu nhiên.

15


Định lý 1.2.1. Cho

( Ω, M, P )

là một không gian xác suất và

X : Ω →  k là một hàm Borel đo được. Với mỗi B ∈ ( B,  k ) , đặt
PX ( B ) = P, X ∈ B.
Ta có PX là một độ đo xác suất trên ( B,  k ) .
Khi đó PX còn được gọi là phân phối của biến ngẫu nhiên

X : Ω →  k . Đặc biệt, xét các tập
Bx ,..., x = ( −∞, x1 ) × ... × ( −∞, xk ) ,
1

k

với x1 ,..., xk ∈  k , ta có

Định nghĩa 1.2.2.

Với PX là phân phối của biến ngẫu nhiên

X : Ω →  k , X (ω ) = ( X 1 (ω ) ,..., X k (ω ) ) , ω ∈ Ω , hàm số FX :  k → 
xác định bởi

(

FX ( x1 ,..., xk ) = PX Bx ,..., x
1

k

) = P ( X x ,..., X x ) ,
1

1

k

k

được gọi là hàm phân phối tích lũy của X .
Mệnh đề 1.2.1. Cho X là một biến số ngẫu nhiên có hàm phân phối
tích lũy FX :  →  . Ta có
a) 0FX ( x )1 , ∀x ∈  .
b) FX là hàm tăng, nghĩa là FX ( x )FX ( y ) khi x < y .
c) FX liên tục bên phải tại mọi điểm, nghĩa là lim FX ( t ) = FX ( x ) ,
t → x+

∀∈  .

d) lim FX ( X ) = 0 và lim FX ( X ) = 1 .
x →−∞

x →+∞

Đặc biệt, nếu biến ngẫu nhiên X : Ω →  k có phân phối PX là độ đo
16


liên tục tuyệt đối đối với độ đo Lebesgue mk trên  k , ký hiệu PX  mk ,
nghĩa là với mọi tập Borel đo được B trong  k sao cho mk ( B ) = 0 , ta có

PX ( B ) = 0 , thì do định lý Radon - Nikodym tồn tại hàm khả tích
f X :  k →  sao cho f X 0 và
PX ( B ) = P ( X ∈ B ) = ∫ fdmk ,
B

với mọi tập Borel đo được B trong  k . Khi đó, ta nói X là biến ngẫu
nhiên liên tục và f X là (một) hàm mật độ xác suất của X .

Đối với biến ngẫu nhiên liên tục, ta có các kết quả quan trọng sau
Mệnh đề 1.2.2. Cho biến ngẫu nhiên liên tục X với hàm mật độ xác
suất f X và hàm phân phối tích lũy FX . Ta có,
a) Với mọi a ∈  ,
FX ( X ) = P ( X a ) = P ( X < a ) =

∫

( −∞ ,a )

f X ( X ) dx.

b) Với mọi a, b ∈  , P ( aX b ) = FX ( b ) − FX ( a ) .
c) FX′ ( X ) = f X ( X ) tại mọi điểm liên tục của hàm f X .
Định nghĩa 1.2.3. Cho ( Ω, M, P ) là không gian xác suất và X là
một biến số ngẫu nhiên xác định trên Ω . Nếu X ∈ L1 ( P ) , thì trung bình của
X , ký hiệu E ( X ) , được cho bởi

E ( X ) = ∫ XdP.
Ω

E ( X ) còn được gọi là kỳ vọng của X , và còn được ký hiệu là µ X .

17


Hơn nữa, với mỗi hàm Borel đo được g :  →  , hàm số g  X lại là
một biến số ngẫu nhiên trên Ω mà ta ký hiệu là g ( X ) . Trung bình của biến
số ngẫu nhiên này, nếu có được ký hiệu là E  g ( X )  .
Nếu biến ngẫu nhiên X có trung bình là µ X = E [ X ] thì với hàm số
g ( x ) = ( x − µ X ) , ta được biến số ngẫu nhiên g ( X ) = ( X − µ X ) và trung
2

2

bình của biến số ngẫu nhiên này, nếu có, được gọi là phương sai của X , ký
hiệu var ( X ) , được cho bởi công thức

2
2
var ( X ) = E ( X − µ X )  = ∫ ( X − µ X ) dP,


Ω

và với hàm số g ( x ) = x n , n ∈  , ta được biến ngẫu nhiên g ( X ) = X n và
trung bình của biến ngẫu nhiên này, nếu có, được gọi là mômen thứ n của
X,

E ( X n ) = ∫ X n dP.
Ω

Do định nghĩa, trung bình hay trung bình của X chính là mômen thứ nhất
của X . Ngoài ra, căn bậc hai của phương sai của X được gọi là độ lệch
chuẩn của X , ký hiệu σ X ,

σ X = var ( X ) .
Định lý 1.2.2. Cho X là biến ngẫu nhiên với hàm mật độ xác suất
f X . Ta có

a) Nếu X là biến ngẫu nhiên rời rạc thì

µ X = E ( X ) = ∑xf X ( x ) ,σ x2 = var ( X ) = ∑ ( x − µ X ) f X ( x ) ,
2

x

x

và mômen thứ n của X là
18


E ( X n ) = ∑x n f X ( x ) .
x

b) Nếu X là biến ngẫu nhiên liên tục thì

µ X = E ( X ) = ∫xf X ( x ) dx = var ( X ) = ∫ ( x − µ X ) f X ( x ) dx,
2

Ω

Ω

và mômen thứ n của X là
E ( X n ) = ∫x n f X ( x ) dx.
Ω

Từ tính chất của tích phân Lebesgue và định lý trên, ta có các tính chất
sau
Định lý 1.2.3. Cho X , Y là hai biến ngẫu nhiên xác định trên không
gian xác suất ( Ω, M, P ) . Ta có
a) Cho C ∈  là hằng số, E ( C ) = C .
b)Nếu X , Y ∈ L1 ( P ) , thì với mọi α , β ∈  , ta có α X + β Y ∈ L1 ( P ) ,
và

E (α X + β Y ) = α E ( X ) + β E ( Y ) .

c) Nếu X Y hầu chắc chắn (h.c.c) thì E ( X )E (Y ) . Ngoài ra giả
sử X0 h.c.c, ta có E ( X ) = 0 nếu và chỉ nếu X = 0 h.c.c.
d) Nếu X ∈ L1 ( P ) thì X ∈ L1 ( P ) và E ( X ) E X .
e) Nếu g :  →  là hàm lồi thì

g  E ( X )  E  g ( X )  .
f) Nếu hai biến ngẫu nhiên X và Y độc lập với nhau thì

E ( XY ) = E ( X ) .E (Y ) .
g) Với X là một biến ngẫu nhiên và Y = ϕ ( X ) là một hàm số xác
định thì
• Nếu X là biến ngẫu nhiên rời rạc với P ( X = xi ) = pi thì
19


P Y = ϕ ( xi )  = pi và E (Y ) = ∑ piϕ ( xi ) .

• Nếu X có hàm mật độ f X ( x ) , tức X là biến ngẫu nhiên liên
tục, thì
+∞

E (Y ) = ∫ ϕ ( x ) f ( x ) dx.
−∞

Tương tự, ta có các tính chất cho phương sai, độ lệch chuẩn như sau
Định lý 1.2.4. Cho X là biến ngẫu nhiên xác định trên không gian
xác suất ( Ω, M, P ) . Giả sử X ∈ L2 ( P ) . Ta có
a) Với mọi α ∈  ,

X ) = 2var ( X ) , var ( X + a ) = var ( X ) , var ( C ) = 0.

• var (aa
• var ( X + Y ) = var ( X ) + var (Y ) , Với X , Y là hai biến độc lập.
b) X ∈ L1 ( P ) và var ( X ) = E ( X 2 ) −  E ( X )  .
2

Định lý 1.2.5. Ta có
a) σ ( X )0.
b) σ ( kX ) = k σ ( X ) .
c) Nếu hai biến ngẫu nhiên X và Y độc lập với nhau thì

σ ( X ± Y ) = varX + varY σ ( X ) + σ (Y ) .
Ta có một số phân phối liên tục sẽ được sử dụng trong luận văn.
Định nghĩa 1.2.4. Phân phối đều.
• Hàm mật độ: f ( x ) =

1
, axb với a, b ∈ <, a < b .
b−a

20


+∞

x
a+b
.
dx =
2
b

a
−
a

b

• Trung bình: E ( X ) = ∫ xf ( x ) dx = ∫
−∞

• Phương sai:

(b − a )
varX =
12

2

.

Định nghĩa 1.2.5. Phân phối chuẩn (Phân phối Gauss) X  N ( µ ,σ 2 )
• Hàm mật độ: f ( x ) =

1
e
σ 2π

−

( x − µ )2
2σ 2

.

• Trung bình: E ( X ) = µ .
• Phương sai: varX = σ 2 .
1.3. Không gian định chuẩn
Định nghĩa 1.3.1. Cho X là một không gian tuyến tính trên trường
 , và ánh xạ

. :X →
thỏa mãn các tiên đề sau
i) x 0 với mọi x ∈  . Và x = 0 khi và chỉ khi x = 0 .
ii) α x = α x với mọi x ∈  và α ∈  .
iii) x + y  x + y với mọi x, y ∈  .
Khi đó . là một chuẩn trên X , và ( X , . ) được gọi là một không
gian tuyến tính định chuẩn.
Giả sử ( X , . ) là một không gian tuyến tính định chuẩn. Khi đó ánh
xạ
d:X×X → 
→ d ( x, y ) = x − y
( x, y )
21


là một mêtric. Ta gọi d là mêtric được sinh ra từ chuẩn hay chuẩn cảm sinh
mêtric trên X . Như vậy, không gian tuyến tính định chuẩn là một không
gian mêtric.
Không gian tuyến tính định chuẩn

(X, . )

nếu đầy đủ với mêtric

được sinh ra từ chuẩn thì X được gọi là không gian Banach.

p
1.4. Không gian L , 1p < +∞

Giả sử ( X ,  , µ ) là một không gian độ đo. Hàm số phức

f ( x ) = u ( x ) + iv ( x )
xác định trên tập hợp A∈  gọi là đo được trên A nếu u , v là hai hàm số
thực đo được trên A . Nếu f là một hàm số phức đo được trên A thì f
là một hàm số thực đo được trên A .
Cho 1p < +∞ , gọi Lp ( X , µ ) là tập hợp tất cả các hàm đo được trên
X sao cho

∫

f ( x ) d µ < ∞,
p

X

trong đó hai hàm phức tương đương trên X được xem là đồng nhất. Nếu

X ⊂  n là tập đo được theo Lebesgue và µ là độ đo Lebesgue thì ta ký
hiệu Lp ( X ) .
Định lý 1.4.1. Tập hợp Lp ( X , µ ) với hai phép toán cộng là tổng hai
hàm và phép nhân là tích vô hướng của một hàm với một số tạo thành một

không gian vectơ.
22


Định lý 1.4.2. (Bất đẳng thức Holder) Giả sử 1 < p < ∞ và q thỏa
mãn

1 1
+ = 1 . Nếu f ∈ Lp ( X , µ ) và g ∈ Lq ( X , µ ) thì fg ∈ L1 ( X , µ ) và
p q

∫

X

f ( x ) g ( x ) d µ

(∫

f ( x) d µ
p

X

) (∫
1
p

g ( x) d µ
q

X

).
1
q

Định lý 1.4.3. (Bất đẳng thức Minkovski) Giả sử 1 ≤ p < +∞ và

f , g ∈ Lp ( X , µ ) . Khi đó f + g ∈ Lp ( X , µ ) và

(∫

f ( x) + g ( x) d µ
p

X

) ( ∫
1
p

f ( x) d µ
p

X

) + (∫
1
p

g ( x) d µ
p

X

)

1
p

.

Định lý 1.4.4. Cho ( X ,  , µ ) là không gian độ đo, 1 ≤ p < +∞ . Khi
đó, hàm
f =

(∫

f ( x) d µ
p

X

)

1
p

xác định một chuẩn trên Lp ( X , µ ) và Lp ( X , µ ) là một không gian tuyến

tính định chuẩn.
Định lý 1.4.5. Không gian Lp ( X , µ ) , 1 ≤ p < +∞ là một không gian
Banach.
Định lý 1.4.6. Cho 1p < +∞ . Nếu

{ f n } ⊂ Lp ( X , m ) vÃlim
n→∞
thì tồn tại một dãy con

f − fn = 0

{ f } của dãy { f } , hội tụ hầu khắp nơi về
nk

n

f trên

X.

Định lý 1.4.7. Cho dãy

{ f n } ⊂ Lp ( X , µ ) ,

1p < +∞ . Nếu dãy

{ fn}

đơn điệu tăng và hội tụ hầu khắp nơi về f trên X thì lim f − f n = 0 .
n→∞

1.5. Không gian Hilbert
Định nghĩa 1.5.1. Cho H là một không gian trên trường  . Tích
23