Nghiên cứu các phương pháp toán học tiên tiến trong việc nâng cao chất lượng khôi phục ảnh y sinh (KL07434)

TRƢỜNG ĐẠI HỌC SƢ PHẠM HÀ NỘI 2
KHOA VẬT LÝ

TRẦN THỊ DUYÊN

NGHIÊN CỨU CÁC PHƢƠNG PHÁP TOÁN HỌC TIÊN TIẾN TRONG
VIỆC NÂNG CAO CHẤT LƢỢNG KHÔI PHỤC ẢNH Y SINH

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

HÀ NỘI, 2015


TRƢỜNG ĐẠI HỌC SƢ PHẠM HÀ NỘI 2
KHOA VẬT LÝ

TRẦN THỊ DUYÊN

NGHIÊN CỨU CÁC PHƢƠNG PHÁP TOÁN HỌC TIÊN TIẾN TRONG
VIỆC NÂNG CAO CHẤT LƢỢNG KHÔI PHỤC ẢNH Y SINH

Chuyên ngành: Vật lý kỹ thuật
Ngƣời hƣớng dẫn khoa học: ThS. Trần Quang Huy

HÀ NỘI, 2015


LỜI CẢM ƠN
Trƣớc tiên, tôi xin chân thành cảm ơn ThS. Trần Quang Huy, ngƣời đã
hƣớng dẫn tận tình, giúp tôi hoàn thành khóa luận.
Tôi xin chân thành cảm ơn các thầy giáo, cô giáo trong khoa Vật Lý

trƣờng Đại học Sƣ Phạm Hà Nội 2 đã giúp đỡ tôi trong suốt quá trình học tập
và làm khóa luận.
Đặc biệt, tôi xin gửi lời cảm ơn sâu sắc tới PGS. TS. Trần Đức Tân,
Trƣờng Đại học Công nghệ, Đại học Quốc gia Hà Nội. Thầy đã giới thiệu
thầy hƣớng dẫn tôi đến lĩnh vực siêu âm cắt lớp (một lĩnh vực còn rất mới và
mang tính thời sự ở Việt Nam), và đã đóng góp nhiều ý kiến quí báu trong
quá trình tôi hoàn thiện khóa luận.
Đây là đề tài tôi dày công nghiên cứu cùng với thầy hƣớng dẫn, vì vậy,
tôi hy vọng rằng, nó sẽ là tài liệu bổ ích cho những ngƣời quan tâm về lĩnh
vực này, mọi chi tiết cần điều chỉnh, bổ xung xin liên hệ tới Trần Thị Duyên,
; 01649635884.
Tôi xin cảm ơn bạn bè, ngƣời thân luôn cổ vũ, động viên, giúp đỡ tôi
hoàn thành khóa luận.

Hà Nội, tháng 5 năm 2015
Sinh viên

Trần Thị Duyên


LỜI CAM ĐOAN
Qua quá trình nghiên cứu khóa luận về đề tài: “Nghiên cứu các phƣơng
pháp toán học tiên tiến trong việc nâng cao chất lƣợng khôi phục ảnh y
sinh” tôi đã tiếp cận đƣợc một trong những lĩnh vực đang đƣợc phát triển
mạnh mẽ, đó là Kĩ thuật Y Sinh. Qua đây cũng giúp tôi bƣớc đầu làm quen
với công việc nghiên cứu khoa học.
Tôi xin cam đoan khóa luận này đƣợc hoàn thành do sự cố gắng tìm hiểu
nghiên cứu của bản thân cùng với sự hƣớng dẫn chỉ bảo tận tình và hiệu quả
của ThS. Trần Quang Huy cũng nhƣ các thầy cô giáo trong Khoa Vật lý,
Trƣờng Đại học Sƣ phạm Hà Nội 2. Đây là đề tài không trùng với các đề tài

khác và kết quả đạt đƣợc không trùng với kết quả của các tác giả khác.

Hà Nội, tháng 5 năm 2015
Sinh viên

Trần Thị Duyên


DANH MỤC CÁC TỪ VIẾT TẮT

Ultrasound/ Ultrasonography

Siêu âm

Tomography

Cắt lớp

Ultrasound tomography

Siêu âm cắt lớp

Least squared error

Lỗi bình phƣơng nhỏ nhất

Least Square Problem (LSP)

Bài toán bình phƣơng nhỏ nhất

Overdetermined System

Hệ có số phƣơng trình nhiều hơn số ẩn

Underdetermined System

Hệ có số phƣơng trình ít hơn số ẩn

Ill-posed problems

Bài toán giả định sai

Well-posed problems

Bài toán giả định đúng

Ill-conditioned matrix

Ma trận điều kiện xấu

Born Iterative Method - BIM

Phƣơng pháp lặp Born

Distorted Born Iterative Method DBIM

Phƣơng pháp lặp vi phân Born

Forward problems

Bài toán thuận

Inverse problems

Bài toán ngƣợc

Machine learning

Học máy

Singular Value Decomposition
(SVD)

Phân tích giá trị đơn


DANH MỤC HÌNH VẼ
Hình 1.1: Đồ thị phƣơng trình bậc nhất và các mẫu

........................... 11

Hình 2.1: Đồ thị mô tả 3 phƣơng trình của hệ ............................................ …24
Hình 3.1: Cấu hình hệ đo ................................................................................ 35
Hình 3.2: Hàm mục tiêu lí tƣởng .................................................................... 39


MỤC LỤC
Trang
MỞ ĐẦU ........................................................................................................ ..1
Chƣơng 1. Một số kiến thức toán cơ bản ứng dụng trong kĩ thuật siêu âm

cắt lớp ............................................................................................................. ..4
1.1. Chuẩn ma trận, vectơ ............................................................................ ..4
1.1.1. Ma trận .................................................................................................. ..4
1.1.2. Định thức của ma trận ........................................................................... ..5
1.1.2.1. Định nghĩa .......................................................................................... ..5
1.1.2.2. Phƣơng pháp tính định thức ............................................................... ..6
1.1.3. Ma trận nghịch đảo................................................................................ ..6
1.1.4. Chuẩn ma trận, vecto............................................................................. ..7
1.1.4.1. Chuẩn của vecto ................................................................................. ..7
1.1.4.2. Chuẩn của ma trận .............................................................................. ..9
1.2. Phƣơng pháp bình phƣơng nhỏ nhất ................................................... 11
1.3. Argument của một hàm ......................................................................... 12
1.4. Bài toán giả định đúng và Bài toán giả định sai ................................. 12
1.5. Bài toán ngƣợc ........................................................................................ 14
1.5.1. Giới thiệu chung .................................................................................... 14
1.5.2. Khái niệm ............................................................................................. 14
1.5.3. Bài toán ngƣợc ...................................................................................... 15
1.5.4. Bài toán ngƣợc tuyến tính ..................................................................... 15
1.5.5. Ví dụ (Trƣờng hấp dẫn của trái đất) ..................................................... 16


1.6. Chuẩn tắc (Regularization) ................................................................... 19
1.7. Hiện tƣợng Overfitting .......................................................................... 20
1.8. Hiện tƣợng Phase wrapping .................................................................. 20
Chƣơng 2. Các phƣơng pháp toán học nâng cao chất lƣợng khôi phục
ảnh y sinh ....................................................................................................... 21
2.1. Phƣơng pháp Moo-PenPenrose Psedoinverse ..................................... 21
2.2. Phƣơng pháp Tikhonov regulazation................................................... 24
2.2.1. Khái niệm .............................................................................................. 24
2.2.2. Chuẩn tắc Tikhonov tổng quát .............................................................. 25

2.2.3. Liên quan đến phân tích giá trị đơn (SVD) và bộ lọc Wiener .............. 26
2.2.4. Xác định hệ số Tikhonov ...................................................................... 27
2.3. Phƣơng pháp L1 regularation .............................................................. 28
2.3.1.

-Regularized Least squares ................................................................ 28

2.3.2. -Regularized Least Squares ................................................................ 29
Chƣơng 3: Mô phỏng và kết quả ................................................................. 34
3.1. Mô hình phƣơng pháp lặp vi phân Born (DBIM)............................... 34
3.2. Chi tiết tính toán phƣơng pháp lặp vi phân Born (DBIM) ................ 34
3.3. Các phƣơng pháp toán học khôi phục ảnh và chƣơng trình mô phỏng
……………………………………………………………………………….37
3.4. Chƣơng trình code của các thuật toán ................................................. 37
3.4.1. Chƣơng trình code của phƣơng pháp Moo-PenPenrose Psedoinverse . 37
3.4.2. Chƣơng trình code của phƣơng pháp Tikhonov regularization ............ 38
3.4.3. Chƣơng trình code của phƣơng pháp L1 regularization ..................... 38
3.5. Kết quả mô phỏng .................................................................................. 39


3.5.1. Mô phỏng sử dụng phƣơng pháp Tikhonov .......................................... 39
3.5.2. Mô phỏng sử dụng phƣơng pháp L1. N2 = 484

............................... 40

3.5.3. Đánh giá kết quả sử dụng phƣơng pháp Tikhonov và phƣơng pháp
L1…………………………………………………………………………….41
3.6. Kết quả mô phỏng sử dụng phƣơng pháp Tikhonov regularization.42
3.7. Kết quả mô phỏng sử dụng phƣơng pháp L1 regularization ........... 47
KẾT LUẬN .................................................................................................... 54

TÀI LIỆU THAM KHẢO ............................................................................ 55


MỞ ĐẦU
1. Lý do chọn đề tài
Kỹ thuật y sinh là một bộ môn khoa học ứng dụng dựa trên các nguyên
lý cơ bản trong kỹ thuật và các ý tƣởng về thiết kế để đƣa ra giải pháp trong y
học, y sinh. Kỹ thuật y sinh đã lấp đầy khoảng trống còn thiếu giữa các kỹ
thuật máy móc và y dƣợc học, nó là sự kết hợp của các thiết kế giúp giải
quyết các vấn đề còn vƣớng mắc về phƣơng pháp và kỹ thuật mà trƣớc đây y
học và sinh học chƣa thể chạm đến, sự kết hợp này đã nâng cao khả năng
chăm sóc sức khỏe, bao gồm công tác chẩn đoán, theo dõi, và điều trị. Kỹ
thuật y sinh là một lĩnh vực tƣơng đối mới mẻ, đa phần các thành tựu đạt
đƣợc chỉ mới dừng ở mức độ nghiên cứu, bao phủ nhiều lĩnh vực khác
nhau: tin sinh học, chẩn đoán hình ảnh, xử lý hình ảnh, xử lý tín hiệu sinh lý
học, cơ sinh học, vật liệu sinh học với kỹ thuật sinh học, phân tích hệ
thống, mô hình hóa 3 chiều …
Toán học đƣợc sử dụng trên khắp thế giới nhƣ một công cụ thiết yếu
trong nhiều lĩnh vực, bao gồm khoa học, kỹ thuật, y học, và tài chính.
Trong y học, chẩn đoán hình ảnh là một phƣơng pháp chẩn đoán cho
phép ngƣời bác sĩ có thể quan sát bằng hình ảnh các bộ phận của cơ thể một
cách trực quan nhất. Từ đó đƣa ra các chẩn đoán chính xác của bệnh lý để có
biện pháp điều trị hiệu quả. Khoa học hỗ trợ cho kĩ thuật chẩn đoán hình ảnh
chính là xử lý ảnh. Chẳng hạn nhƣ trong các phƣơng pháp: chụp X_quang,
chụp cắt lớp CT, MRI, siêu âm,… Ảnh sau khi đƣợc tái tạo chƣa thể rõ nét
đƣợc, ảnh hƣởng đến chất lƣợng, gây khó khăn cho việc chuẩn đoán bệnh. Do
vậy, mặc dù các thiết bị chụp y tế với công nghệ ngày càng nâng cao để hỗ trợ
cho việc phân tích và xử lý thông tin từ ảnh nhƣng vấn đề đặt ra cần phải giải
quyết song song là việc nâng cao chất lƣợng ảnh – đây là một khâu quan
trọng đƣợc coi là bƣớc tiền xử lý cho bƣớc tiếp theo là phân đoạn ảnh y học.

1


Hiện nay, tạo ảnh siêu âm là một công cụ an toàn, không bị iôn hoá để
chẩn đoán lâm sàng. So với phƣơng pháp X-ray, MRI, … thì phƣơng pháp
siêu âm cắt lớp cho phép tạo ảnh có lợi thế hơn nhiều. Hoạt động của nó dựa
trên sự tán xạ ngƣợc và có khả năng giải quyết những cấu trúc nhỏ hơn bƣớc
sóng của sóng tới, nó trái ngƣợc với phƣơng pháp tạo ảnh truyền thống sử
dụng phƣơng pháp phản hồi. Một số tính chất vật liệu, nhƣ độ tƣơng phản âm,
mật độ, độ suy hao, đƣợc ứng dụng để tìm ra các đối tƣợng có kích thƣớc nhỏ.
Hai phƣơng pháp lặp Born (Born Iterative Method - BIM) và lặp vi phân
Born (Distorted Born Iterative Method - DBIM) là hai phƣơng pháp đƣợc cho
là tốt nhất hiện nay để tạo ảnh tán xạ.
Vì vậy, sau một thời gian học tập và nghiên cứu, chúng tôi đã lựa chọn
và nghiên cứu đề tài:
“Nghiên cứu các phương pháp toán học tiên tiến trong việc nâng cao
chất lượng khôi phục ảnh y sinh”
2. Mục đích nghiên cứu
Tìm hiểu các phƣơng pháp toán học tiên tiến nhằm nâng cao chất lƣợng
khôi phục ảnh y sinh, cụ thể là ảnh siêu âm cắt lớp.
3. Giả thuyết khoa học
Nếu nắm đƣợc các phƣơng pháp toán học tiên tiến thì đã bƣớc đầu tiếp
cận đƣợc việc nâng cao chất lƣợng khôi phục ảnh y sinh.
3. Đối tƣợng và phạm vi nghiên cứu
- Đối tƣợng: Các phƣơng pháp toán học tiên tiến ứng dụng trong y sinh.
- Phạm vi nghiên cứu: Xử lí tín hiệu y sinh.
4. Nhiệm vụ nghiên cứu
- Nghiên cứu một số kiến thức toán cơ bản ứng dụng trong khôi phục
ảnh y sinh.

2


- Nghiên cứu các phƣơng pháp toán học nâng cao chất lƣợng khôi phục
ảnh y sinh.
5. Phƣơng pháp nghiên cứu
Sử dụng các phƣơng pháp nghiên cứu lí thuyết kết hợp với mô phỏng.
6. Cấu trúc luận văn
Chƣơng 1: Một số kiến thức toán cơ bản ứng dụng trong kĩ thuật siêu âm
cắt lớp.
Chƣơng 2: Các phƣơng pháp toán học nâng cao chất lƣợng khôi phục
ảnh y sinh.
Chƣơng 3: Mô phỏng và kết quả.

3


Chƣơng 1: Một số kiến thức toán cơ bản ứng dụng trong kĩ thuật siêu âm
cắt lớp
1.1. Chuẩn ma trận, vectơ
1.1.1. Ma trận
Trong phần này, chúng tôi giới thiệu các khái niệm cơ bản về ma trận:
Ma trận vuông, ma trận đƣờng chéo, ma trận đơn vị, ma trận tam giác trên,
ma trận tam giác dƣới, ma trận chuyển vị.
Cho ma trận chữ nhật A cấp

:

[

ở đây

]

là các số thực. Ma trận này có m hàng và n cột. Khi

trận cấp

ta có ma

và đƣợc gọi tắt là ma trận vuông cấp n.

Ma trận vuông cấp n mà mọi phần tử nằm ngoài đƣờng chéo chính bằng
0, tức là

đƣợc gọi là ma trận đường chéo. Nếu ma trận

với

đƣờng chéo có

thì ta gọi A là ma trận đơn vị và ta thƣờng ký hiệu là E

hoặc I.
Ma trận vuông A đƣợc gọi là ma trận tam giác trên, nếu A có dạng:
[

]

Tƣơng tự, ma trận vuông A đƣợc gọi là ma trận tam giác dưới, nếu A có

dạng:
[
Ma trận chữ nhật

cấp

]
đƣợc gọi là ma trận chuyển vị của ma trận
4


A cấp

nếu:
[

]

1.1.2. Định thức của ma trận
1.1.2.1. Định nghĩa
Trƣớc khi đƣa ra định nghĩa định thức của ma trận, chúng tôi giới
thiệu khái niệm hoán vị chẵn, hoán vị lẻ của một tập hợp n số nguyên{1, 2, ...
, n}.
là một hoán vị của tập {1,2,...,n}.Ta xét tất cả

Cho
các cặp

trong đó

ngƣợc, tức là các giá trị
ngƣợc là chẵn thì ta gọi

Nếu

thì ta gọi cặp

là cặp

đƣợc sắp xếp ngƣợc với k, h. Nếu trong
là hoán vị chẵn, ngƣợc lại thì ta gọi

số cặp

là hoán vị lẻ.

Với mỗi ma trận vuông A cấp n:
[

]

tồn tại một số thực đƣợc gọi là định thức của ma trận A, ký hiệu là det A,
đƣợc xác định bởi công thức:
∑

(1.1)

trong tập tất cả các hoán vị của tập {1,2,...,n},

với

{

Định thức của ma trận còn đƣợc ký hiệu là:
|

|

5


Với mỗi ma trận chữ nhật A cấp mxn bất kỳ ta có thể tính định thức
của tất cả các ma trận con vuông cấp k, với

. Nếu tồn tại một

số r sao cho có một ma trận con cấp r có định thức khác 0, còn mọi ma trận
con vuông cấp lớn hơn r đều bằng 0 thì ta nói rằng r là hạng của ma trận A.
Các phép biến đổi sơ cấp sau đây không làm biến đổi hạng của ma
trận:
- Đổi chỗ 2 hàng hoặc 2 cột bất kỳ.
- Nhân một hàng hay một cột bất kỳ với một số khác không.
- Cộng các thành phần tƣơng ứng của 2 hàng hoặc 2 cột bất kỳ.
Các phép biến đổi sơ cấp sẽ đƣợc sử dụng để tính định thức của ma
trận và tìm nghiệm của hệ phƣơng trình tuyến tính.
Ma trận E đƣợc gọi là ma trận đơn vị cấp n nếu E là ma trận vuông
cấp n và E có dạng:
[

]

1.1.2.2. Phƣơng pháp tính định thức
Tính định thức bằng cách chuyển ma trận về dạng tam giác trên.
Ta sẽ biến đổi để đƣa ma trận A về dạng ma trận tam giác trên:
[

]

Vậy
1.1.3. Ma trận nghịch đảo
Ma trận nghịch đảo của một ma trận vuông A cấp n là ma trận đƣợc ký
hiệu là

thoả mãn điều kiện:

6


Trong đó: E là ma trận đơn vị. Có thể chứng minh rằng để thỏa mãn
điều kiện trên thì bắt buộc

phải là ma trận vuông, và ma trận đảo nếu tồn

tại là duy nhất.
Điều kiện tồn tại của ma trận nghịch đảo: Ma trận vuông A cấp n có ma
trận nghịch đảo khi và chỉ khi
Cách tính ma trận nghịch đảo:
Gọi

là phần bù đại số của phần tử

khi đó ta có:

[

]

Tuy nhiên công thức này chỉ có ý nghĩa lý thuyết, không thể áp dụng để
tính trực tiếp ma trận đảo trên máy tính đƣợc vì số phép tính đòi hỏi quá lớn.
Chúng ta có thể áp dụng phƣơng pháp khử Gauss-Jordan để tính ma trận
3
nghịch đảo với số phép tính nhỏ hơn nhiều (khoảng n ).

1.1.4. Chuẩn ma trận, vecto
1.1.4.1. Chuẩn của vecto
Cho vecto , chuẩn của

kí hiệu là ‖ ‖ đƣợc định nghĩa là một số

không âm thỏa mãn các tính chất sau:
và ‖ ‖

1. ‖ ‖
2. ‖

‖

3. ‖

khi và chỉ khi

| |‖ ‖ với mọi
‖

‖ ‖

.

.

‖ ‖ (Bất đẳng thức tam giác).
. Trong thực tế ngƣời ta hay sử

Cho vecto
dụng một số dạng chuẩn sau:
Chuẩn-p
Cho

là số thực, chuẩn-p đƣợc định nghĩa là:

7


‖ ‖

(∑‖ ‖ )

ta đƣợc các dạng chuẩn Manhattan, Euclide và

Với

chuẩn cực đại, tƣơng ứng theo thứ tự đó.
, hàm khoảng cách này không thỏa bất đẳng thức

Với

tam giác nên nó không phải là một chuẩn.
Chuẩn Manhattan
Trong công thức chuẩn-p, cho
‖ ‖

ta đƣợc

∑| |

Chuẩn này còn đƣợc gọi là chuẩn Taxicab, chuẩn Manhattan hoặc
đơn giản là chuẩn

. Khoảng cách tƣơng ứng thƣờng đƣợc gọi là khoảng

cách Manhattan, khoảng cách

.

Chuẩn Euclide
Trong công thức chuẩn-p, cho
‖ ‖

(∑

)

ta đƣợc
√

√

Chuẩn Euclide còn đƣợc gọi là chuẩn

.

Chuẩn vô cực
Trong công thức chuẩn-p, khi
‖ ‖

| || |

ta đƣợc chuẩn cực đại
|

|

Ngoài ra ngƣời ta còn định nghĩa chuẩn cực tiểu, tƣơng ứng với
trƣờng hợp

:
‖ ‖

| || |

8

|

|


Tƣơng tự ở trên, lƣu ý rằng

đều

,

không phải là chuẩn.
Chuẩn khác
Kết hợp các dạng chuẩn trên, ta có thể có nhiều dạng chuẩn mới. Chẳng
hạn:
‖ ‖

| |

√ | |

| || |

cũng là một dạng chuẩn.
1.1.4.2. Chuẩn của ma trận
kích thƣớc

Cho ma trận

kí hiệu ‖ ‖ theo định

, chuẩn của

nghĩa là một số không âm thỏa mãn:
1. ‖ ‖

và‖ ‖

2. ‖

| |‖ ‖ với mọi .

3. ‖

‖

‖

‖ ‖

khi và chỉ khi

.

‖ ‖ (bất đẳng thức tam giác).

không giống nhƣ vecto, các dạng chuẩn đều đƣợc “phái sinh” từ một chuẩn
duy nhất là chuẩn-p, các dạng chuẩn của ma trận có thể xem nhƣ thuộc vào
một trong 3 “nguồn gốc” sau đây:

Chuẩn toán tử
thuộc không gian vecto

Nếu ma trận

thì chuẩn của

tƣơng ứng với chuẩn-p của vecto là
‖ ‖
‖ ‖

‖ ‖
với

.
Trƣờng hợp đặc biệt:
Với

thì chuẩn toán tử trở thành chuẩn cực đại theo cột:
‖ ‖

∑

9

|

|

để tìm chuẩn này, ta cộng giá trị tuyệt đối của các phần tử trong cùng một cột,
sau đó lấy kết quả lớn nhất.
, chuẩn toán tử trở thành chuẩn cực đại theo dòng:

Với

‖ ‖

∑

và

Với

|

|

, ta đƣợc dạng chuẩn Euclide của ma trận,

đƣợc tính bằng giá trị lớn nhất trong các singular value của .
‖ ‖
Chuẩn từng phần tử
Áp dụng một cách trực tiếp chuẩn-p của vecto đối với từng phần
tử của ma trận, ta đƣợc loại chuẩn tƣơng đối trực quan này

‖ ‖

(∑ ∑|

| )

để ý rằng ngƣời ta vẫn kí hiệu là ‖ ‖ mặc dù chuẩn này hoàn toàn khác với
chuẩn toán tử bên trên.
Trƣờng hợp đặc biệt

đƣợc gọi là chuẩn Frobenius, và

chính là chuẩn cực đại
Chuẩn Frobenius
Có nhều cách định nghĩa khác nhau:
‖ ‖

√∑

∑

|

|

√∑

√

với A* là ma trận conjugate transpose của A,
đƣờng chéo chính của

và

là các singular value của A.

Để ý sự tƣơng tự giữa √
vecto √

là tổng các phần tử trên

và công thức chuẩn Euclide của

.

10


Chuẩn Schatten
‖ ‖

(∑

)

1.2. Phƣơng pháp bình phƣơng nhỏ nhất
Giả sử có một tập các điểm dữ liệu xác định, chúng ta cần biểu diễn
đƣờng dữ liệu theo một hàm có dạng đã biết. Thông thƣờng, các mẫu dữ liệu
có ảnh hƣởng của nhiễu, vì vậy các tham số của hàm để mô tả chính xác tất cả
các mẫu không thể xác định đƣợc. Do đó, chúng ta cần tìm ra các tham số mà
nó mô tả các mẫu tốt nhất. Phƣơng pháp lỗi bình phƣơng nhỏ nhất “least
squared error” là một phƣơng pháp phổ biến để ƣớc tính tốt nhất. Lỗi bình
phƣơng là tổng bình phƣơng của sự sai khác giữa mỗi mẫu và giá trị kì vọng.
Tham số để lỗi bình phƣơng nhỏ nhất là tham số ƣớc tính tốt nhất.

Để đơn giản, chúng ta xét một ví dụ cụ thể sau: Cho n mẫu

, tìm

phƣơng trình đƣờng thẳng (có dạng của phƣơng trình bậc nhất) thỏa mãn các
mẫu cho trƣớc đó.
Giả sử phƣơng trình thỏa mãn các mẫu cho trƣớc có dạng y = ax + b.
Trong đó, x là đại lƣợng mà ta muốn ƣớc tính, y là các phép đo sử dụng các
sensors (chính là các mẫu), b là nhiễu hay lỗi của phép đo (giá trị của b
thƣờng rất nhỏ). Đồ thị phƣơng trình bậc nhất và các mẫu

đƣợc thể

hiện trên hình vẽ:

Hình 1.1: Đồ thị phương trình bậc nhất và các mẫu
Lỗi bình phƣơng nhỏ nhất E đƣợc định nghĩa nhƣ sau:
11

.


∑
cụ thể là:

∑

Phƣơng trình trên đƣợc biểu diễn dƣới dạng chuẩn Ơclit nhƣ sau:
‖

‖

giá trị nhiễu b là giá trị rất nhỏ không mong muốn. Trên thực tế, ta cần giảm
giá trị của b càng nhỏ càng tốt. Vì vậy, ta cần ƣớc tính ̂ sao cho ‖ ̂

‖

là nhỏ nhất.
Bài toán qui về tìm:
‖ ̂

‖

1.3. Argument của một hàm
Argument đƣợc gọi là đối số và nó đƣợc dùng trong khi chúng ta truyền
giá trị đầu vào khi gọi một hàm nào đó. Mỗi đối số ứng với một tham số nhất
định khi chúng ta khai báo hàm.
Arg min, đƣợc viết tắt từ argument of the minimum, và đƣợc kí hiệu:
arg min f ( x)
x

Biểu thức trên tính giá trị nhỏ nhất của hàm f(x), với giá trị xác định
của x.
Arg max, đƣợc viết tắt từ argument of the maximum, và đƣợc kí hiệu:
arg max f ( x)
x

Biểu thức trên tính giá trị lớn nhất của hàm f(x), với giá trị xác định của
x.
1.4. Bài toán giả định đúng và bài toán giả định sai

Bài toán giả định đúng đƣợc đề xƣớng bởi Jacques Hadamard. Ông cho
rằng, mô hình toán học của hiện tƣợng vật lí có các tính chất sau:
+ Tồn tại một giải pháp.

12


+ Giải pháp là duy nhất.
+ Hoạt động của giải pháp thay đổi liên tục theo điều kiện ban đầu.
Các ví dụ về bài toán giả định đúng bao gồm bài toán Dirichlet cho
phƣơng trình Laplace, phƣơng trình nhiệt với điều kiện ban đầu xác định. Đây
có thể đƣợc xem nhƣ các bài toán „tự nhiên‟ mà các quá trình vật lí đƣợc mô
hình bởi bài toán này.
Các bài toán không phải là bài toán giả định đúng theo đúng ý nghĩa
của Hadamard đƣợc định nghĩa bài toán giả định sai. Bài toán ngƣợc (Inverse
problem) thƣờng là bài toán giả định sai. Ví dụ, phƣơng trình nhiệt nghịch
đảo, có thể suy luận đƣợc sự phân bố nhiệt độ trƣớc đó từ dữ liệu cuối cùng,
không phải là bài toán giả định đúng vì giải pháp này có sự nhạy cao với sự
thay đổi ở dữ liệu cuối cùng.
Thông thƣờng, mô hình liên tục phải đƣợc rời rạc hóa để có thể tính
toán bằng phƣơng pháp số (numerical solution). Trong khi các giải pháp có
thể liên tục tƣơng ứng với điều kiện ban đầu, chúng có thể gặp phải tính
không ổn định số khi đƣợc giải quyết với độ chính xác có hạn, hoặc với lỗi
trong dữ liệu. Ngay cả với bài toán giả định đúng, nó vẫn có thể xảy ra điều
kiện yếu (ill-conditioned), nghĩa là khi có lỗi nhỏ trong dữ liệu ban đầu có thể
gây ra lỗi lớn hơn nhiều trong dữ liệu thu đƣợc. Bài toán điều kiện xấu đƣợc
biểu thị bởi số điều kiện lớn.
Nếu bài toán là giả định đúng, thì giải pháp có thể thực hiện tốt trên
máy tính sử dụng giải thuật ổn định (stable algorithm). Nếu bài toán là giả
định sai, chúng ta cần tính toán lại để điều trị số (numerical treatment). Đặc

biệt, vấn đề này bao gồm các giả định bổ sung, chẳng hạn nhƣ độ mƣợt của
giải pháp (smoothness of solution). Quá trình này đƣợc biết nhƣ là Chuẩn tắc
(regularization). Chuẩn tắc Tikhonov là một trong những giải pháp đƣợc sử
dụng rộng rãi nhất cho bài toán giả định sai tuyến tính.

13


1.5. Bài toán ngƣợc
1.5.1. Giới thiệu chung
Bài toán ngƣợc đƣợc sử dụng để biến đổi phép đo quan sát thành thông
tin về đối tƣợng hoặc hệ thống vật lí. Ví dụ, nếu chúng ta có phép đo về
trƣờng hấp dẫn của trái đất, thì chúng ta có thể đặt câu hỏi rằng: “nếu chúng
ta có dữ liệu, chúng ta có thể nói gì về sự phân bố mật độ của trái đất ở khu
vực đó?”. Giải pháp đối với vấn đề này (tức là, phân bố mật độ phù hợp với
dữ liệu nhất) là rất cần thiết bởi vì nó chỉ cho chúng ta biết về tham số vật lí
mà chúng ta không thể quan sát trực tiếp. Vì vậy, bài toán ngƣợc là một trong
những bài toán đƣợc nghiên cứu sâu và quan trọng nhất trong khoa học và
toán học. Bài toán ngƣợc phát triển trong nhiều ngành, bao gồm, thị lực máy
tính, xử lí ngôn ngữ tự nhiên, học máy, thống kê, luận thống kê, địa lí, tạo ảnh
y sinh (chẳng hạn nhƣ chụp cắt lớp điện toán, EEG/ERP), viễn thám, siêu âm
cắt lớp đại dƣơng, kiểm tra không phá hủy, thiên văn học, vật lí và nhiều lĩnh
vực khác.
1.5.2. Khái niệm
Bài toán ngƣợc có thể đƣợc xây dựng nhƣ sau
Dữ liệu → Tham số mô hình
Bài toán ngƣợc đƣợc xem xét là “ngƣợc” đối với bài toán thuận, nó liên
quan tham số mô hình đối với dữ liệu mà chúng ta quan sát:
Tham số mô hình → Dữ liệu
Sự biến đổi từ dữ liệu đến tham số mô hình (hoặc ngƣợc lại) là kết quả

của sự tƣơng tác của hệ thống vật lí với đối tƣợng mà chúng ta quan tâm đến
tính chất của nó.
Bảng dƣới đây chỉ ra một số ví dụ hệ thống vật lí, phƣơng trình chi
phối, đại lƣợng vật lí mà chúng ta quan tâm và những gì chúng ta thực sự
quan sát

14


Hệ thống vật lí

Phƣơng trình chi
phối

Đại lƣợng
vật lí

Dữ liệu quan
sát

Trƣờng hấp dẫn của
trái đất

Định luật vạn vật
hấp dẫn của Niutơn

Mật độ

Trƣờng hấp dẫn

Từ trƣờng của trái đất
(ở bề mặt)

Phƣơng trình
Maxwell

Độ cảm từ

Từ trƣờng

Phƣơng trình sóng

Tốc độ
sóng (mật
độ)

Vận tốc hạt

Sóng địa chấn (do
động đất)

Đại số tuyến tính là công cụ hiệu quả trong việc tìm hiểu quá trình xây
dựng toán lí của bài toán ngƣợc, bởi vì sự hiện diện của sự biến đổi hoặc ánh
xạ (mapping) của dữ liệu đến tham số mô hình.
1.5.3. Bài toán ngƣợc
Mục tiêu của bài toán ngƣợc là tìm ra mô hình m tốt nhất (hoặc ít nhất
là xấp xỉ) mà
Trong đó G là một toán tử mô tả mối quan hệ rõ ràng giữa dữ liệu quan
sát d và tham số mô hình. Trong các bối cảnh khác nhau, toán tử G đƣợc gọi
là toán tử thuận, toán tử quan sát hay hàm quan sát. Trong bối cảnh chung

nhất, G đại diện cho phƣơng trình chi phối mà nó liên quan đến tham số mô
hình đối với dữ liệu quan sát.
1.5.4. Bài toán ngƣợc tuyến tính
Trong trƣờng hợp bài toán ngƣợc tuyến tính rời rạc, mà nó mô tả hệ
thống tuyến tính, d (dữ liệu) và m (mô hình tốt nhất) là vectơ, và bài toán có
thể đƣợc biểu diễn nhƣ sau:
Trong đó: G là ma trận (toán tử), thƣờng đƣợc gọi là ma trận quan sát.

15


1.5.5. Ví dụ (Trƣờng hấp dẫn của trái đất)
Chỉ có một số ít hệ thống vật lí thực sự là tuyến tính với tham số mô
hình. Một hệ thống nhƣ vậy thuộc lĩnh vực địa vật lí là trƣờng hấp dẫn trái
đất. Trƣờng hấp dẫn trái đất đƣợc xác định bởi sự phân bố mật độ của trái đất
ở bên dƣới bề mặt. Vì khối thạch của trái đất thay đổi khá đáng kể, chúng ta
có thể quan sát sự khác biệt theo phút của trƣờng hấp dẫn trái đất trên bề mặt
trái đất. Từ sự hiểu biết về lực hấp dẫn (tức là, định luật vạn vật hấp dẫn của
Niutơn), biểu diễn toán học của lực hấp dẫn là

Trong đó a là phép đo của gia tốc trọng trƣờng địa phƣơng, K là hằng
số hấp dẫn, M là khối lƣợng địa phƣơng (nó liên quan đến mật độ) của khối
đá ở bên dƣới bề mặt và r là khoảng cách từ khối lƣợng đến điểm quan sát.
Bằng việc rời rạc phƣơng trình trên, chúng ta có thể tìm đƣợc mối liên
hệ giữa quan sát dữ liệu rời rạc trên bề mặt trái đất với tham số mô hình rời
rạc (mật độ) ở bên dƣới bề mặt mà chúng ta quan tâm. Ví dụ, xem xét trƣờng
hợp chúng ta có 5 phép đo ở bề mặt trái đất. Trong trƣờng hợp này, véctơ dữ
liệu của chúng ta d, nó là một véctơ cột có kích thƣớc 5x1. Chúng ta cũng biết
rằng, có 5 khối lƣợng chƣa biết ở bên dƣới bề mặt (nó không thực tế nhƣng
đƣợc dùng để chứng minh khái niệm). Vì vậy, ta có thể xây dựng hệ thống

tuyến tính, liên quan đến 5 khối lƣợng chƣa biết, đối với 5 điểm dữ liệu nhƣ
sau:

16