BÀI TOÁN GIẢI CHẬP TRONG THỐNG KÊ PHI THAM SỐ

Header Page 1 of 162.

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

Nguyễn Thị Diệu Huyền

BÀI TOÁN GIẢI CHẬP
TRONG THỐNG KÊ PHI THAM SỐ

LUẬN VĂN THẠC SĨ TOÁN HỌC

Thành phố Hồ Chí Minh - 2013
Footer Page 1 of 162.


Header Page 2 of 162.

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH

Nguyễn Thị Diệu Huyền

BÀI TOÁN GIẢI CHẬP
TRONG THỐNG KÊ PHI THAM SỐ

Chuyên ngành: Toán Giải tích
Mã số: 60460102

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC:
GS.TS ĐẶNG ĐỨC TRỌNG

Thành phố Hồ Chí Minh - 2013
Footer Page 2 of 162.


Header Page 3 of 162.

LỜI CẢM ƠN
Để thực hiện tốt luận văn này, ngoài sự cố gắng nổ lực của bản thân, tôi đã nhận được
sự quan tâm, giúp đỡ từ thầy cô, bạn bè và gia đình. Nhân đây, tôi xin được gởi lời cảm ơn.
Trước hết, tôi xin chân thành cảm ơn Quý thầy cô trong Khoa Toán – Tin trường Đại
học Sư phạm Thành Phố Hồ Chí Minh đã truyền thụ những kiến thức bổ ích, làm nền tảng
cho tôi trong quá trình nghiên cứu luận văn này.
Và hơn hết, tôi xin gởi lời tri ân sâu sắc đến GS. TS. Đặng Đức Trọng, người đã tận
tình hướng dẫn, dạy bảo tôi phương pháp nghiên cứu khoa học, và tạo mọi điều kiện để tôi
có thể hoàn thành luận văn này.
Tôi cũng xin gởi lời cảm ơn chân thành đến Quý thầy cô trong hội đồng chấm luận văn
đã dành thời gian xem xét, chỉnh sửa và đưa ra những nhận xét quý báu để luận văn của tôi
được hoàn thiện.
Bên cạnh sự chỉ dạy của thầy cô, tôi cũng nhận được sự quan tâm của gia đình và bạn
bè. Xin chân thành cảm ơn mọi người.
Thành phố Hồ Chí Minh, tháng 9 năm 2013
Nguyễn Thị Diệu Huyền

Footer Page 3 of 162.

1

Header Page 4 of 162.

MỤC LỤC
LỜI CẢM ƠN .............................................................................................................. 1
MỤC LỤC .................................................................................................................... 2
CÁC KÝ HIỆU ............................................................................................................ 3
LỜI MỞ ĐẦU .............................................................................................................. 4
CHƯƠNG 1: KIẾN THỨC CHUẨN BỊ ................................................................... 5
1.1. Một số kiến thức về giải tích điều hòa trên

 ,  2 và  ( 3) ............................... 5

1.1.1. Các phép toán trên  .............................................................................................. 5
1.1.2. Một số kiến thức về độ đo ....................................................................................... 5
1.1.3. Tích vô hướng Hermit trên không gian vectơ ......................................................... 8
1.1.4. Một số chuẩn đặc biệt.............................................................................................. 9
1.1.5. Các biến đổi Fourier trên  ................................................................................. 10
1.1.6. Các yếu tố của giải tích điều hòa trên  ( 3) và  2 ........................................... 15
1.2. Một số kiến thức về xác suất thống kê ..................................................................... 18
1.2.1. Khái niệm hàm phân phối, hàm mật độ ................................................................ 18
1.2.2. Các giá trị đặc trưng của biến ngẫu nhiên X ......................................................... 19

CHƯƠNG 2: GIẢI CHẬP TRÊN  BẰNG PHƯƠNG PHÁP DỰA TRÊN
CÁC HÀM WAVELET ............................................................................................ 23
2.1. Giới thiệu bài toán nhân chập trên
2.2. Giải bài toán nhân chập trên



 ..................................................................... 23

bằng phương pháp dựa trên các hàm wavelet 24

2.2.1. Cơ sở lý thuyết ...................................................................................................... 24
2.2.2. Thuật toán giải chập dựa trên các wavelet ............................................................ 34

CHƯƠNG 3: GIẢI CHẬP CẦU BẰNG PHƯƠNG PHÁP TIẾP CẬN BỘ HÀM
..................................................................................................................................... 35
3.1. Giới thiệu bài toán nhân chập cầu ........................................................................... 35
3.2. Giải bài toán chập cầu bằng phương pháp tiếp cận bộ hàm ................................. 36
3.2.1. Cơ sở lý thuyết ...................................................................................................... 36
3.2.2. Thuật toán cực tiểu hóa ước lượng Lasso ............................................................. 58

KẾT LUẬN VÀ KIẾN NGHỊ................................................................................... 59
TÀI LIỆU THAM KHẢO ........................................................................................ 60

Footer Page 4 of 162.

2


Header Page 5 of 162.

CÁC KÝ HIỆU

= [ −∞; +∞ ] .

= ( −∞; +∞ ) , 

{

}

 n = x =( x j ) | x j ∈ ,i =1,n .
j

=
−1} .
{a + bi | a,b ∈ , i2 =

{
{( x ) ∈  | x

}

 n = x =( x j ) | x j ∈ , j =1,n .
j

2
=

3

j j

{

 m×n = X =( x jk )
 ( 3=

)

{X ∈ 

2
1

m×n

3×3

}

2
+ x 22 + x=
1 : mặt cầu đơn vị trong  3 .
3

}

| x jk ∈ , j =1,m, k =1,n : không gian các ma trận thực cấp m × n .

: X là ma trận trực giao } : nhóm quay trong  3 .



p
 p ( Ω=
)  f : Ω →  : ∫ f dµ < ∞  .



Ω

χ A : là hàm đặc trưng của tập A thỏa
1 , x ∈ A
0 , x ∉ A.

χA ( x ) = 

Footer Page 5 of 162.

3


Header Page 6 of 162.

LỜI MỞ ĐẦU
Bài toán tích chập xảy ra trong nhiều lĩnh vực thống kê phi tham số. Bài toán thường
gặp là ước lượng hàm mật độ của biến ngẫu nhiên X dựa trên dữ liệu bị nhiễu Y= X + ε
trong đó ε là biến ngẫu nhiên chưa biết nhưng hàm mật độ của nó xem như đã biết. Trong
hai thập kỷ gần đây, bài toán này được quan tâm ngày càng nhiều hơn, việc mở rộng bài
toán tích chập trên  thành bài toán tích chập trên quả cầu  2 đồng nghĩa với việc mở rộng
các ứng dụng của nó trong nhiều lĩnh vực, như kinh tế, y học, kỹ thuật,… Đặc trưng của bài
toán tích chập là chúng ta không thể tìm ra kết quả của nó một cách chính xác mà chỉ ở dạng
“gần đúng”. Do đó, mặc dù đã có không ít nhà toán học đưa ra phương pháp giải bài toán
này nhưng kết quả vẫn không dừng lại ở đó, vì có thể có một phương pháp khác cho ra kết
quả “tốt hơn”. Vì vậy, chúng tôi chọn đề tài này làm nội dung nghiên cứu của luận văn
nhằm học tập phương pháp nghiên cứu và có thể phát triển đề tài theo hướng của các nhà
khoa học trong và ngoài nước.
Nội dung luận văn gồm ba chương. Cụ thể như sau:

Chương 1: Trong phần này, chúng tôi đưa ra các kiến thức cơ bản, đặc biệt là các lý thuyết
về giải tích Fourier trên  ,  2 và  ( 3) , nhằm cung cấp cho việc giải các bài toán trong
chương 2 và 3.
Chương 2: Trong phần này, chúng tôi dựa chủ yếu vào sách [1], trình bày lại phương pháp
xây dựng ước lượng hàm mật độ f của bài toán giải chập trên  dựa trên các hàm wavelet
và đánh giá ước lượng này thông qua đánh giá MISE của nó (được định nghĩa trong (2.10)).
Chương 3: Dựa chủ yếu vào bài báo [11], chúng tôi trình bày lại cách xây dựng ước lượng
Lasso của hàm mật độ f của bài toán giải chập cầu, cực tiểu hóa ước lượng này bằng cách
thiết lập bất đẳng thức oracle với giả thiết cổ điển dựa trên bộ hàm tổng quát.

Footer Page 6 of 162.

4


Header Page 7 of 162.

CHƯƠNG 1: KIẾN THỨC CHUẨN BỊ

1.1. Một số kiến thức về giải tích điều hòa trên  ,  2 và  ( 3)
1.1.1. Các phép toán trên 
Giả sử z ∈  , z =ℜ ( z ) + iℑ ( z ) =( ℜ ( z ) , ℑ ( z ) ) ∈  2 , với ℜ ( z ) , ℑ ( z ) lần lượt là
phần thực, phần ảo của z, nên có thể xem  =  2 . Ta kí hiệu

z =ℜ ( z ) − iℑ ( z ) là số phức liên hợp của z,

z=

ℜ2 ( z ) + ℑ2 ( z ) là môđun của z.

Các phép toán trên  :

z = z , z.z = ℜ2 ( z ) + ℑ2 ( z ) = z ,
2

z + z =2ℜ ( z ) , z − z = 2iℑ ( z ) ,
z + w =z + w , z.w = z.w .
1.1.2. Một số kiến thức về độ đo
1. Độ đo Lebesgue
Cho tập X ≠ ∅ , một họ F các tập con của X được gọi là σ -đại số trên X nếu nó thỏa
mãn các điều kiện sau:
i. X ∈F , và nếu A ∈ F thì X \ A ∈F.
ii. Hợp đếm được các tập thuộc F cũng là tập thuộc F.
Khi đó, (X , F) gọi là không gian đo được, mỗi tập A∈ F gọi là tập đo được đối với F hay là
F – đo được. Và xét hàm f : A →  . Với a ∈  , ta kí hiệu

A [f < a ] =

{x ∈ A : f ( x ) < a} .

Hàm f được gọi là đo được trên A (đối với F hay F – đo được) nếu

A [f < a ] ∈ F

, ∀a ∈  .

Một ánh xạ µ : F → [ 0, ∞ ] được gọi là một độ đo xác định trên F nếu
i) µ ( ∅ ) =
0
ii) µ có tính chất σ − cộng, nghĩa là

Footer Page 7 of 162.

5


Header Page 8 of 162.

∀ {A n } n

∞
 ∞
⊂ F, ( A n ∩ A m ≠ ∅,n ≠ m ) ⇒ µ   A n  =∑ µ ( A n ) .
 n =1  n =1

Khi đó, ( X, F, µ ) được gọi là không gian độ đo.
Độ đo µ còn được gọi là độ đo tầm thường (độ đo 0) nếu µ ( A ) = 0 , ∀A ∈ F .
Nếu X =  , tức σ -đại số F các tập con của  , thì mỗi tập A ∈ F gọi là tập đo được
theo Lebesgue hay tập (L) – đo được, hàm f được gọi là hàm đo được theo Lebesgue hay
hàm (L) – đo được, và độ đo µ xác định trên F gọi là độ đo Lebesgue.
Nếu ( X,τ ) là không gian tôpô, σ -đại số F sinh bởi họ τ thì F gọi là σ -đại số Borel,
mỗi tập A ∈ F gọi là tập Borel, và độ đo µ xác định trên các tập Borel gọi là độ đo Borel.
2. Độ đo Haar (hay còn gọi là độ đo Radon)
Trong giải tích toán học, độ đo Haar là một độ đo gán một “tập bất biến” vào các tập
con của các nhóm tôpô compact địa phương và sau đó định nghĩa tích phân của các hàm
trên các nhóm tôpô đó.
Cho (G,.) là một nhóm tôpô compact địa phương Hausdorff, F là σ -đại số Borel tập tất
cả các tập con compact của G. Với g ∈ G , S∈ F , ta định nghĩa tịnh tiến trái và tịnh tiến
phải tập Borel S như sau:
• Tịnh tiến trái tập S là tập
=

gS
• Tịnh tiến phải tập S là tập
=
Sg

{g.s : s ∈ S} .
{s.g : s ∈ S} .

Các tập gS , Sg cũng là tập Borel. Một độ đo µ xác định trên σ -đại số Borel F được
gọi là bất biến tịnh tiến trái nếu với mọi g ∈ G , S∈ F , ta có

µ ( gS) = µ ( S) .
Bất biến tịnh tiến phải cũng được định nghĩa tương tự.
• Một độ đo µ xác định trên σ -đại số Borel F được gọi là chính quy nếu:
i) Độ đo µ hữu hạn trên mọi tập compact:

µ ( K ) < ∞ với mọi K compact
ii) Độ đo µ là chính quy ngoài trên các tập Borel E:

=
µ (E)

inf {µ ( U ) : E ⊆ U, U mở và Borel}

iii) Độ đo µ là chính quy trong trên các tập Borel E:
Footer Page 8 of 162.

6

Header Page 9 of 162.

=
µ (E)

sup {µ ( K ) : K ⊆ E, K compact} .

Lưu ý: Nếu G =  n thì ii), iii) là hệ quả của i).
 Định nghĩa độ đo Haar
Cho µ là độ đo Borel dương, không tầm thường, µ được gọi là độ đo Haar trái (phải)
nếu:
i. µ chính quy
ii. µ bất biến tịnh tiến trái (phải).
Độ đo Haar trái thường được gọi là độ đo Haar.
Từ định nghĩa, ta có độ đo Haar µ tồn tại duy nhất, µ ( U ) > 0 , với mọi U mở và
Borel. Đặc biệt, nếu G compact thì 0 < µ ( G ) < ∞ .
Độ đo xác suất Haar của không gian đo được Borel ( G, F ) , thường kí hiệu  , là độ đo
Haar thỏa 0 ≤  ( E ) ≤ 1 , ∀E ⊆ G , và  ( G ) = 1 .
Cho không gian độ đo Borel ( X, F, µ ) với µ là độ đo Haar. Xét hàm f : G →  liên
tục, có giá compact. Tích phân của f trên G theo độ đo Haar µ ,
gọn

∫

g∈G

f ( g ) dµ ( g ) hay viết

∫ f ( g ) dg , được định nghĩa là tổng Riemann
G

∫ f ( g ) dg

=

G

N

∑ f ( g )µ ( A )
i

i =1

trong đó các g i ∈ A i , A i ∩ A j =
∅ , i ≠ j và

i

N

A

i

=G.

i =1

Ta có các tính chất: Với c1 ,c 2 ∈  , f1 ,f 2 : G → 

+ c 2f 2 )( g ) dg =

•

∫ (c f

•

∫ f ( hg ) dg

G

1 1

G

=

c1 ∫ f1 ( g ) dg + c 2 ∫ f 2 ( g ) dg .

∫ f ( g ) dg
G

G

G

với mọi h ∈ G , f : G →  .

3. Hàm bình phương khả tích
Hàm f : Ω →  là bình phương khả tích nếu f là hàm đo được Lebesgue với độ đo µ
và thỏa mãn

∫

Ω

Footer Page 9 of 162.

2

f dµ < ∞ .
7


Header Page 10 of 162.

1.1.3. Tích vô hướng Hermit trên không gian vectơ
Giả sử V là không gian vectơ trên trường  .
Tích .,. : V × V →  là tích vô hướng Hermit trên không gian vectơ V nếu .,. thỏa
mãn các điều kiện sau :
i) u1 + u 2 , v = u1 , v + u 2 , v
ii) cu, v = c u, v

với mọi u, v ∈ V , c ∈  ;
với mọi u, v ∈ V ;

iii) u, v = v,u
iv)

với mọi u1 ,u 2 , v ∈ V ;

u,u ≥ 0 với mọi u ∈ V ;
u,u = 0 ⇔ u = θ (với θ là phần tử không trong V).

Từ các điều kiện trên suy ra
v) u, v1 + v 2 =

u, v1 + u, v 2

vi) u,cv = c u, v
vii) θ ,u = 0=
Khi đó u 2 :=

với mọi u, v1 , v 2 ∈ V ;

với mọi u, v ∈ V , c ∈  ;

u,θ

với mọi u ∈ V .

u,u được gọi là chuẩn liên hợp của u.

Chú ý rằng

cu

2

= c u

với mọi u ∈ V , c ∈  .

2

Mệnh đề sau cần thiết trong cơ sở lý thuyết.
Mệnh đề 1.1

u + v=
2
2

u

2
2

+ v

với mọi u, v ∈ V .

+ 2ℜ u, v

2
2

Thật vậy

u+v

2
2

= u + v,u + v
=

u,u

+ u, v +

+

v, v

=

u,u

+ u, v + u, v +

v, v

=

u

2
2

+ v

2
2

v,u

+ 2ℜ u, v .

Hệ quả 1.1 (qui tắc hình bình hành)

u+v
Footer Page 10 of 162.

2
2

(

+ u−v =
2

2 u 2+ v

2

8

2

2
2

)

với mọi u, v ∈ V .


Header Page 11 of 162.

Ngoài ra, giả sử

A:V×V → 

B:V× V → 

và

sao cho

=
u, v

A ( u, v ) + iB ( u, v )

với mọi u, v ∈ V .

Khi đó ta có
• A và B là các song tuyến tính trên  ;

• A là đối xứng và xác định dương;
• B là không đối xứng;
• A ( iu,iv ) = A ( u, v ) với mọi u, v ∈ V ;
• A ( iu, v ) = − B ( u, v ) với mọi u, v ∈ V .
Trong các trường hợp cụ thể:
 Tích vô hướng Hermit trên không gian vectơ  n
Với u
=

∈  n , v ( v1 ,.., v n ) ∈  n . Khi đó
( u1 ,..,u n )=

u, v =

n

∑u v
i

i =1

i

là tích vô hướng Hermit của u và v trên  n .
 Tích vô hướng Hermit trên  2 ( 
 ( 3) )
Với g, h ∈  2 ( 
 ( 3) ) . Khi đó

g,h

=∫

x∈( 3)

g ( x ) h ( x )dx

là tích vô hướng Hermit của g và h trên  2 ( 
 ( 3) ) .
Lưu ý:
•

∫ f ( x )dx
Ω

f 2
•=
2

= ∫ ℜ ( f ( x ) ) dx + i ∫ ℑ ( f ( x ) )dx
Ω

=
f ,f

Ω

∫

Ω

f ( x )f (=
x )dx

1.1.4. Một số chuẩn đặc biệt
1. Với 1 ≤ p < ∞ , chuẩn  p được xác định như sau

Footer Page 11 of 162.

9

∫

Ω

f ( x ) dx ≥ 0 .
2


Header Page 12 of 162.

λ

1
p


p
với λ
=  ∑ λk  =

 k =1

K

p

( λ1,.., λK ) ∈ K .

Khi đó, ta có

λ

1
p

1

với λ
=

( λ1,.., λK ) ∈ K .

với λ
= max λk =

( λ1,.., λK ) ∈ K .

≤ K λ

p

Chứng minh: Sử dụng bất đẳng thức Jensen.
2. Chuẩn  ∞ được xác định bởi

λ
3.
Cho λ
=

( λ1,.., λK ) ∈ K ,

∞

1≤ k ≤ K

tập J ⊂ {1,..,K} , bất kỳ. J C = {1,..,K} \ J .

k
Ta ký hiệu λJ ∈  K là vectơ với các thành phần λJ( ) thỏa

λk , k ∈ J

λJ( k ) = 

, k ∈ JC

0

với λk ∈ {λ1 ,..., λK } .

1.1.5. Các biến đổi Fourier trên 
Trước hết, ta định nghĩa tích chập trên  .
Cho f , g ∈ 1 (  ) , tích chập của f và g , kí hiệu f ∗ g , được định nghĩa bởi

f ∗ g(=
x)

∫ f ( y ) g ( x − y ) dy

, x∈ .

1.1.5.1. Biến đổi Fourier trong 1 (  )
Với f ∈ 1 (  ) , biến đổi Fourier của f , kí hiệu f ft , có dạng

f ft ( t ) =

∫ exp ( itx )f ( x ) dx

xác định trong không gian 1 (  ) .
Bổ đề sau sẽ tóm tắt các tính chất quan trọng .
Bổ đề 1.1
Giả sử f , g ∈ 1 (  ) , λ , µ ∈  . Khi đó ta có
1. Tính tuyến tính:
2. Tích chập:

Footer Page 12 of 162.

( λf + µg )
(f * g)

ft

ft

=λ f ft + µ g ft .

= f ft g ft .
10

, t∈


Header Page 13 of 162.

sup t∈ f ft ( t ) ≤ f 1 .

3. Tính bị chặn:
4. Tính liên tục đều:

f ft ( t ) − f ft ( s ) → 0 khi

5. Sự mở rộng tuyến tính:

f (.a + b ) 

ft

t −s → 0.

( t ) = a −1 exp ( −itb / a ) f ft ( t / a ) .

1 ft
1
f ( t + a ) + f ft ( t − a ) , ∀a ∈  .
2
2

6. Biến đổi Fourier: f ( ⋅) cos ( a ⋅)  (=
t)
ft

7. Tính đối xứng: Nếu f ( t ) ∈  , ∀t ∈  thì

f ft ( − t ) =
f ft ( t ) , ∀t ∈  .

Hơn nữa, nếu f đối xứng, tức là f ( − t ) =
f ( t ) ∀t ∈  , thì

f ft ( − t ) =
f ft ( t ) , ∀t ∈  .
Chứng minh:
1. Do tính tuyến tính của tích phân.
2. Với mọi f , g ∈ 1 (  ) , ta có

∫ exp ( itx )∫ f ( y )g ( x − y ) dydx
∫ exp ( ity )f ( y ) ∫ exp ( it ( x − y ) ) g ( x − y ) dxdy

=
(f * g) ( t )
ft

=
=

∫ exp ( ity )f ( y ) dy ∫ exp ( ity ) g ( y ) dy

(do định lí Fubini)

= f ft ( t ) g ft ( t ) .
3. Ta có

=
f ft ( t )

∫ exp ( itx )f ( x ) dx

≤

exp ( itx ) f ( x ) dx
∫


=1

=

∫ f ( x ) dx

= f

1

, ∀t ∈  .

4. Ta có

f ft ( t ) − f ft ( s ) ≤
=

∫ exp ( itx ) − exp ( isx ) f ( x ) dx
∫ exp ( i ( t − s ) x ) − 1 f ( x ) dx .

Vì exp ( i ( t − s ) x ) − 1 f ( x ) ≤ 2 f nên f ft ( t ) − f ft ( s ) ≤ 2 f 1 .
Mặt khác, với t ∈  , ta có

exp ( i ( t − s ) x ) − 1 f ( x ) → 0 khi t − s → 0 , ∀x ∈  .
Footer Page 13 of 162.

11


Header Page 14 of 162.

Do đó f ft liên tục đều trên  .
5. Ta có

f=
(.a + b ) ( t )
ft

=

∫ exp ( itx )f ( ax + b ) dx
1
exp ( it ( u − b ) a )f ( u ) du
a∫

=

1
exp ( −itb a ) ∫ exp ( itu a )f ( u ) du
a

=

1
exp ( −itb a ) f ft ( t a ) .
a

6. Sử dụng công thức Euler, ta có

f ( ⋅) cos ( a ⋅) 

ft

=
∫ exp ( itx ) f ( x ) cos ( ax ) dx

(t)

=

=

1
1
exp
ix
t
+
a
f
x
dx
+
exp ix ( t − a )  f ( x ) dx


(
)
(
)


2∫
2∫

1 ft
1
f ( t + a ) + f ft ( t − a ) .

2
2

7. Với mọi t ∈  , ta có

f ft ( − t=
)

∫ exp ( −itx ) f ( x ) dx= ∫ exp ( itx )f ( x ) dx=

f ft ( t ) .

Hơn nữa, nếu f đối xứng thì

f (t)
=
ft

+∞

0

∫ exp ( itx ) f ( x ) dx

+

−∞

∫ exp ( itx ) f ( x ) dx
0

+∞

+∞

0

0

=
∫ exp ( −itx ) f ( x ) dx +

∫ exp ( itx ) f ( x ) dx

+∞

=

2 ∫ cos ( tx ) f ( x ) dx ∈  .
0

Suy ra f ft ( − t ) =
f ft ( t ) , ∀t .



Định lí 1.1
Giả sử f ∈ 1 (  ) bị chặn và liên tục tại x ∈  , và f ft ∈ 1 (  ) . Khi đó, ta có

=

f (x)
Footer Page 14 of 162.

1
exp ( −itx )f ft ( t ) dt .
∫
2π
12


Header Page 15 of 162.

Chứng minh: Xem [1, tr.181-182].
1.1.5.2. Biến đổi Fourier trong  2 (  )
Giả sử  là tập hợp các hàm bị chặn và liên tục thuộc 1 (  ) mà biến đổi Fourier khả
tích. Dễ dàng ta thấy  cũng là không gian tuyến tính và từ Bổ đề 2.1 (trong chương 2), ta
có  ⊆  2 (  ) .
Với f ∈  , g ∈ 1 (  ) , ta có

=

f ,g

∫ f ( x ) g ( x )dx

=

1
2π

∫∫ exp ( −itx ) f ( t ) dtg ( x )dx

=

1
2π

∫∫ exp ( −itx ) g ( x )dxf ( t ) dt

ft

ft

1
g ft ( − t ) f ft ( t ) dt
∫
2π

=
=

1
g ft ( t )f ft ( t ) dt
∫
2π

=

1 ft ft
f ,g .

2π

Nếu g = f , ta được

f

2
2

=

1 ft 2
f .
2
2π

Bổ đề sau cho ta thấy các hàm f ∈  2 (  ) xấp xỉ bởi các hàm trong  .
Bổ đề 1.2
Ta có  là tập trù mật trong  2 (  ) . Tức là, với mọi f ∈  2 (  ) , tồn tại ( f n )n ⊂ 
sao cho

fn − f

2

n →∞

→ 0.

Chứng minh: Xem [1, tr.183-184]. Từ đây ta có định lí sau.

Định lí 1.2

Footer Page 15 of 162.

13


Header Page 16 of 162.

Biến đổi Fourier trên  2 (  ) , xác định bởi sự liên tục đều của biến đổi Fourier trên

 , là một song ánh đi từ  2 (  ) vào  2 (  ) . Ánh xạ ngược của nó là ánh xạ
f

1 ft
f ( −.) . Hơn nữa, với mọi f , g ∈  2 (  ) , ta có
2π
f ,g
f

2
2

=

1 ft ft
f ,g
2π

(đẳng cự Plancherel)

=

1 ft
f
2π

(đẳng thức Parseval)

2
2

.

Để so sánh biến đổi Fourier trên 1 (  ) và trên  2 (  ) , ta sẽ chỉ ra sự khác nhau giữa
biến đổi Fourier không có ảnh của một hàm trên 1 (  ) với một hàm nào đó trên  2 (  ) .
Mặt khác, biến đổi Fourier của một hàm trong  2 (  ) nói chung không cần liên tục hay bị
chặn. Tuy nhiên, trong Bổ đề 1.1 các tính chất 1, 5, 6 và 7 cũng đúng đối với biến đổi
Fourier trong  2 (  ) , riêng tính chất 7, từ “với mọi” sẽ thay bằng “hầu khắp nơi” theo
nghĩa Lebesgue. Tương tự, kết quả giải chập cũng được đưa ra trong bổ đề sau.
Bổ đề 1.3
Với mọi f ∈  2 (  ) , g ∈ L1 (  ) ∩ L 2 (  ) , ta có

(f * g)

ft

= f ft g ft .

Chứng minh:

 Trường hợp 1: f ∈ 1 (  ) ∩  2 (  ) , g ∈ 1 (  ) ∩  2 (  ) .
Theo tính chất 2 của Bổ đề 1.1 ta có Bổ để 1.3.
 Trường hợp 2: f ∈  2 (  ) , tùy ý.
Áp dụng Bổ đề 1.2, ta có 1 (  ) ∩  2 (  ) trù mật trong  2 (  ) nên với

f ∈  2 (  ) , tồn tại ( f n )n ⊂ 1 (  ) ∩  2 (  ) sao cho f n → f ứng với chuẩn trong  2 (  )
.Tức là

fn − f

2

n →∞

→ 0.

Do tính chất 2 và 3 của Bổ đề 1.1, g ∈ 1 (  ) ∩  2 (  ) nên g ft ( t ) ≤ g

( fn ∗ g )

ft

=
f nft g ft .

Footer Page 16 of 162.

14

1

và


Header Page 17 of 162.

Và theo đẳng thức Parseval, ta có
n →∞
→ f ft g ft ∈  2 (  ) .
f nft g ft 

Mặt khác, sử dụng đẳng thức Parseval, bất đẳng thức Cauchy-Schwarz và định lí Fubini, ta
có

( fn ∗ g )

ft

− (f ∗ g)

ft 2
2

= 2π ( f n − f ) ∗ g

2
2

≤ 2π ∫ ∫ f n ( x − y ) − f ( x − y ) g ( y )

12

g ( y)

12

2

dy dx

≤ 2π ∫∫ f n ( x − y ) − f ( x − y ) g ( y ) dxdy g 1
=

n →∞
→ 0.
2π f n − f 2 . g 1 
2

2

Định lí 1.3
Giả sử f ∈  2 (  ) có giá trên [ −π , π ] . Khi đó, ta có
π

∫π
−

2

1

f (x) −
2π

∑ exp ( −ikx ) f ( k )
ft

n →∞
dx 
→ 0.

k ≤n

Hơn nữa, đẳng thức Parseval cũng đúng ở dạng rời rạc

f

2
2

=

1
2π

∑ f (k)
ft

2

.

k

Chứng minh: Xem [1, tr.193-194].
1.1.6. Các yếu tố của giải tích điều hòa trên  ( 3) và  2
1.1.6.1. Biến đổi Fourier trên  ( 3)
Trên  ( 3) cho các ma trận

 cosφ − sin φ 0 
 cosθ 0 sin θ 


u (φ ) =  sin φ cosφ 0  , a (θ ) =  0
1 0 
 − sin θ 0 cosθ 
 0
0
1 



trong đó φ ∈ [ 0,2π ) , θ ∈ [ 0, π ) .
Theo sự khai triển góc Euler, với g ∈  ( 3) , g được viết duy nhất dưới dạng

g = u (φ ) a (θ ) u (ψ )

Footer Page 17 of 162.

15




Header Page 18 of 162.

trong đó φ , ψ ∈ [ 0,2π ) , θ ∈ [ 0, π ) và các góc này là góc Euler.
Xét các hàm

=
Dmn ( g )


=
D
mn (φ ,θ ,ψ )

e

− i( mφ + nψ )


.Pmn
( cosθ )

trong đó φ ,ψ ∈ [ 0,2π ) , θ ∈ [ 0, π ) ;

m , n ∈ [ −, − + 1,...,  − 1,  ] với  = 0,1,...
và



Pmn
( cosθ ) = i m−n

sin n −m θ .(1 + cosθ )

 (  − n )! 

12 
2 (  + m )!(  − m )!  (  + n )!
×

d +n
d ( cosθ )

12

m

( cosθ − 1) ( cosθ + 1)
+m

+n

−m

.


, với − ≤ m,n ≤ ,  =0,1,... , là các hàm riêng của toán tử Laplace
Các hàm Pmn

Beltrami trên  ( 3) .

{

Hơn nữa,

}


2 + 1Pmn
: − ≤ m,n ≤ ,  =0,1,... là cơ sở trực chuẩn đầy đủ của

2 ( 
 ( 3) ) ứng với độ đo xác suất Haar và có thể là các hàm điều hòa quay.
Ta định nghĩa:
• Với g ∈  ( 3) , − ≤ m,n ≤ ,  =0,1,...

D ( g ) =  Dmn ( g )  là ma trận cấp ( 2 + 1) × ( 2 + 1) .
• Với f ∈  2 ( 
 ( 3) ) , biến đổi Fourier của f trên  ( 3) :

(f )
∗

(

Và f ∗ =  f ∗

)

mn

mn

=

∫

( 3)

f ( g ) Dmn ( g ) dg .

 là ma trận cấp ( 2 + 1) × ( 2 + 1) .


Lấy nghịch đảo ta được

f (g)
=



∑ ∑ ( 2 + 1) f
 ≥0 m,n =
−

=



∑ ∑ ( 2 + 1) f
−
 ≥0 m,n =

∗
mn

∗
mn

.Dmn ( g )

.Dnm ( g −1 ) .

Đẳng thức trên được hiểu trong không gian  2 với việc bổ sung điều kiện trơn, nó có
thể đúng từng điểm.
Footer Page 18 of 162.

16


Header Page 19 of 162.

Giải tích Fourier trên quả cầu  2 cũng có kết quả tương tự.
1.1.6.2. Biến đổi Fourier trên  2
Với bất kì w ∈  2 , ta có

w = ( cosφ sin θ ,sin φ sin θ ,cosθ )

t

trong đó φ ∈ [ 0,2π ) , θ ∈ [ 0, π ) .
Xét các hàm

Ym ( w ) =

Ym (φ ,θ ) =

( −1)

m

( 2 + 1)(  − m )!.P cosθ eimφ
)
m(
4π (  + m )!

với φ ∈ [ 0,2π ) , θ ∈ [ 0, π ) và Pm ( cosθ ) là hàm hợp Legendre.
Nhắc lại, Pm ( x ) là hàm hợp Legendre nếu Pm ( x ) là nghiệm chính tắc của phương
trình Legendre tổng quát sau


m2 
(1 − x ) y′′ − 2xy′ +   (  + 1) − 1 − x 2  y =0 .


2

Phương trình trên tương đương với

2


m
′
(1 − x ) y′ +   (  + 1) −
0.
y =
2


1
−
x


2

Và nghiệm thu được của phương trình là

P (x) =
( −1) .(1 − x

m

m

)

2 m2

d m ( P ( x ) )
dx m

,

nên

P ( cosθ ) =

m

( −1)

m

.sin θ
m

d m ( P  ( cosθ ) )
dcos mθ

Và theo công thức Rodrigues

P ( cosθ )



1 d ( − sin θ )
.

= 
2 .! dcos θ


Suy ra

P ( cosθ ) =

m

Footer Page 19 of 162.

( −1)

d + m ( − sin θ )
.
.sin θ
2.!
dcos + mθ


m

m

17

.

Header Page 20 of 162.

Ta thấy các hàm Ym đều thỏa mãn

( −1)

Y−m (φ ,θ ) =

{

m

.Ym (φ ,θ ) .

}

( )

2
, có thể xem
Hơn nữa, tập Ym : − ≤ m ≤ ,  =0,1,.. là một cơ sở trực chuẩn của  2 

như cơ sở điều hòa cầu.
Ta định nghĩa:

( )

2
, biến đổi Fourier cầu của f có dạng
Với f ∈  2 

(f )
∗

=

m

∫ f ( w )Y ( w )dw

m

2

trong đó dw là độ đo xác suất đều trên quả cầu  2 .

(

Và f ∗ =  f ∗

)

m

 , với − ≤ m ≤  ,  = 0,1,... , là ma trận cấp 2 + 1.


Lấy nghịch đảo ta được

f (w) =



∑ ∑ (f )
∗

−
≥0 m =

m

Ym ( w ) , w ∈  2 .

Các căn cứ trên rất quan trọng trong việc nhận biết sự phân tích giá trị kỳ dị (SVD) của
toán tử nhân chập tạo bởi mô hình của nó.

( )

2
Với fε ∈  2 ( 
, tích chập của fε và f được định nghĩa bởi
 ( 3) ) , f ∈  2 

−1
2
fε ∗ f ( w ) =
∫ fε ( u ) f ( u ( w ) )du , w ∈  .
( 3)

Và biến đổi Fourier của tích chập

( fε ∗ f )m

∗



=
∑ ( fε∗ )
n =− 

(f )
∗

mn

n

, m ∈ [ −;  ] ,  = 0,1,...

1.2. Một số kiến thức về xác suất thống kê
1.2.1. Khái niệm hàm phân phối, hàm mật độ
Phân phối xác suất của biến ngẫu nhiên X:
• Biến X rời rạc
Cho biến ngẫu nhiên rời rạc X có không gian mẫu Ω ={x1 ,.., x N } (N có thể hữu hạn
hoặc vô hạn) và pi là xác suất của x i với i = 1, N . Ta có bảng phân phối xác suất của X như
sau:
Footer Page 20 of 162.

18

Header Page 21 of 162.

X

x1

x2

……….

xN

p

p1

p2

………..

pN

với pi ≥ 0 , i = 1, N và
Xác suất:

N

∑p

i =1

i

= 1.

 (a ≤ X ≤ b) =
∑ pi

, =
( X x=
i)

a ≤ xi ≤b

Hàm phân phối:

F( x ) =

pi .

∑p .

xi ≤x

i

Lưu ý:
o  ( X ≥ x ) =1 −
o

∑p

xi ≤x

i

=1 − F ( x ) .

Nếu a ≤ b thì  ( X ≥ a ) ≥  ( X ≥ b ) .

• Biến X liên tục
Hàm f ( x ) , x ∈  được gọi là hàm mật độ xác suất của X nếu thỏa các điều kiện sau:
i) f ( x ) ≥ 0 , ∀x ∈  .
+∞

ii)

∫ f ( x )dx = 1 .

−∞

iii)  ( X ∈ B ) = f ( x ) dx với B ⊆  là tập đo được.

∫

x∈B

Hàm phân phối: F ( x ) =

x

∫ f ( x )dx .

−∞

Lưu ý:
o 0 ≤ F ( x ) ≤ 1 , ∀x ∈  .
o F ( x ) không giảm.
o (X
= a=
)

a

∫ f ( x ) dx=

0.

a

1.2.2. Các giá trị đặc trưng của biến ngẫu nhiên X
 Kì vọng của biến X: E ( X )
• Biến X rời rạc
Footer Page 21 of 162.

19


Header Page 22 of 162.

N

∑ x .p

E(X) =

i =1

i

i

trong đó pi là xác suất của biến x i , i = 1, N .
Hơn nữa, thay X bởi hàm ϕ ( X ) , ta có
N

∑ϕ ( x ).p .

E ϕ ( X )  =

i =1

i

i

• Biến X liên tục và có hàm mật độ f(X)

E(X) =

∫

x.f ( x ) dx .

E ϕ ( X )  =

∫

ϕ ( x ) .f ( x ) dx .

x∈

Thay X bởi hàm ϕ ( X ) , ta có
x∈

Ý nghĩa: Là giá trị trung bình của biến ngẫu nhiên. Nó phản ánh giá trị trung tâm của
phân phối xác suất của biến ngẫu nhiên.
Ta có các tính chất:
o E ( C ) = C , C là hằng số.
o E ( CX ) = CE ( X ) .
o E ( X ± Y )=

E(X) ± E(Y).

o Nếu X, Y độc lập thì E ( XY ) = E ( X ) E ( Y ) .
 Phương sai của X: Var ( X ) hay V ( X )

Var ( X )

2

 N
−
x
E
X
pi
, X rêi r¹c
(
)
(
)
∑
i
2
 i =1


=EX
( − E ( X ) )  =
2

 ∫ ( x − E ( X ) ) f ( x ) dx , X liªn tôc
x∈

Ý nghĩa: X − E ( X ) là độ lệch giữa giá trị của X so với trung bình của nó, do đó
phương sai chính là trung bình của bình phương độ lệch đó. Nó đặc trưng cho độ phân tán
của biến ngẫu nhiên quanh giá trị trung bình.
Ta có các tính chất:
o V ( C ) = 0 , C là hằng số.
o V ( CX ) = C2 .V ( X ) .

Footer Page 22 of 162.

20


Header Page 23 of 162.

o =
V(X)
o

E ( X2 ) − ( E ( X )) .
2

Nếu X, Y độc lập thì V ( X ± Y )=

V(X) + V(Y) ,

V ( X + C) =
V(X) .
 Ước lượng không chệch:
Thống kê θˆ được gọi là ước lượng không chệch của θ nếu

()

E θˆ

= θ.

(

)

Ý nghĩa: Từ định nghĩa ta có: E θˆ − θ =
0 , tức là, trung bình của độ lệch (sai số)
giữa ước lượng với giá trị thật bằng 0. Sai số trung bình bằng 0 được gọi là sai số ngẫu
nhiên, ngược lại gọi là sai số hệ thống. Như vậy, θˆ là ước lượng không chệch của θˆ khi sai
số ước lượng là sai số ngẫu nhiên.
 Mệnh đề 1.2 (Bất đẳng thức Bernstein)
Cho X1 ,…, X N là các biến ngẫu nhiên độc lập, có giá trị thực. Giả sử tồn tại các số v
và c sao cho
N

∑ E X
i =1

2
i

 ≤ v .

Và với mọi k ∈  , k ≥ 3 sao cho
N

∑ E ( X )
i =1

Khi đó, với mọi x >=
0, S

N

∑(X
i =1

i

i

 ≤ k! vc k −2 .
+
2
k

− E [ X i ]) , ta có

 S ≥ 2vx + cx  ≤ e − x .
Hay

 [S ≥ x ] ≤ e

− x2
2( v + cx )

.

Chứng minh: Xem [7].
Hệ quả 1.2
Cho các biến ngẫu nhiên độc lập X1 ,...,X N thỏa mãn

Xi ≤ b
Footer Page 23 of 162.

21

, i = 1, N .


Header Page 24 of 162.

Đặt c =

N
b
 , S
, v = ∑ E  X i2=
3
i =1

N

∑(X
i =1

i

− E [ X i ]) .

Khi đó, với mọi x > 0 , ta có

  S ≥ 2vx + cx  ≤ 2e − x .
Hay

  S ≥ x  ≤ 2e

Footer Page 24 of 162.

22

− x2
2( v + cx )

.


Header Page 25 of 162.

CHƯƠNG 2: GIẢI CHẬP TRÊN  BẰNG PHƯƠNG PHÁP DỰA
TRÊN CÁC HÀM WAVELET

2.1. Giới thiệu bài toán nhân chập trên 
Trong thống kê, bài toán giải chập được mô tả một cách tổng quát như sau:
Tìm ước lượng của f từ các quan sát thực nghiệm được cho bởi

=
h

f=
*G

∫ f (x − y)dG ( y )

(2.1)

trong đó ∗ là tích chập hàm mật độ f với hàm phân phối xác suất tương ứng G, với các biến
ngẫu nhiên độc lập X1 ,...,X n được quan sát, trong đó mỗi X j đều có hàm phân phối G. Các
biến ngẫu nhiên này được xem như dữ liệu. Trong nhiều tình huống thực tế, các dữ liệu này
không thể có được trực tiếp, do sai số trong đo lường. Do đó, chúng ta có thể quan sát các
dữ liệu bị nhiễu Y1 ,...,Yn thay vì các dữ liệu thật X1 ,...,X n . Mô hình cơ bản của dữ liệu bị
nhiễu Y1 ,...,Yn là cộng thêm sai số đo lường, tức là, bất kì một quan sát thực nghiệm đều
được giới hạn bởi các dữ liệu

Yj
=

X j + ε j , j ∈ {1,...,n}

thay cho các X1 ,...,X n . Các biến ngẫu nhiên độc lập ε1 ,..., ε n đại diện cho sai số hoặc sự bị
nhiễu của dữ liệu, hàm mật độ của mỗi ε j được gọi là hàm mật độ sai số, kí hiệu là g .
Ngoài ra, ta giả sử X j và ε j có giá trị thực và độc lập với nhau. Kết quả cơ bản của lí thuyết
xác suất cho hàm mật độ của tổng của hai biến ngẫu nhiên độc lập bằng với tích chập của
hai hàm mật độ của chúng, do đó

=
h

f * g=
(x)

∫ f (x − y)g ( y ) dy

(2.1*)

trong đó h là hàm mật độ của quan sát Y . Vì bất kì truy cập thực nghiệm trực tiếp đều bị
giới hạn bởi h nên (2.1*) cũng chính là bài toán (2.1).
Hàm f được tìm lại từ một quan sát thực nghiệm h bất kì. Do đó ta chỉ có thể ước
lượng f từ các quan sát một cách gián tiếp. Trước hết ta đưa ra một phương án thực nghiệm

hˆ , gọi là ước lượng của h . Sau đó, áp dụng phương pháp giải chập đối với hˆ để ước lượng
f . Mục đích của ta là tìm ước lượng fˆ sao cho xấp xỉ với f , sai số này càng nhỏ càng tốt.
Footer Page 25 of 162.

23