Một số phương pháp hiệu chỉnh giải hệ phương trình toán tử

ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
ĐẶNG VĂN HIẾU
MỘT SỐ PHƯƠNG PHÁP HIỆU CHỈNH
GIẢI HỆ PHƯƠNG TRÌNH TOÁN TỬ
LUẬN VĂN THẠC SĨ KHOA HỌC
Hà Nội - 2011
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
ĐẶNG VĂN HIẾU
MỘT SỐ PHƯƠNG PHÁP HIỆU CHỈNH
GIẢI HỆ PHƯƠNG TRÌNH TOÁN TỬ
Chuyên ngành: Toán học tính toán
Mã số: 604630
LUẬN VĂN THẠC SĨ KHOA HỌC
Người hướng dẫn khoa học:
GS.TSKH Phạm Kỳ Anh
Hà Nội - 2011
LỜI CẢM ƠN
Để hoàn thành bản luận văn này tôi đã nhận được sự giúp đỡ to lớn của
các Thầy, Cô giáo, gia đình và bạn bè xung quanh.
Tôi xin bày tỏ lòng kính trọng và biết ơn sâu sắc tới thầy giáo hướng dẫn
GS.TSKH Phạm Kỳ Anh, Khoa Toán - Cơ - Tin học, Trường đại học khoa
học tự nhiên, ĐHQG Hà Nội. Trong quá trình giảng dạy cũng như hướng dẫn,
thầy đã ân cần, động viên, giúp đỡ chỉ bảo tận tình cho tôi.
Tôi cũng gửi lời cảm ơn tới các Thầy, Cô trong Khoa Toán - Cơ - Tin học,
Phòng sau đại học, Trường Đại học khoa h ọc tự nhiên, ĐHQG Hà Nội đã dạy
dỗ, giúp đỡ tôi trong suốt quá trình học tập, đặc biệt là các Thầy, Cô trong
Seminar của Bộ môn Toán học tính toán đã có những ý kiến đóng góp quý
báu giúp cho bản luận văn hoàn chỉnh hơn.
Ngoài ra tôi cũng xin gửi lời cảm ơn tới các bạn đồng nghiệp đã giúp đỡ,

động viên tôi trong quá trình thực hiện luận văn này.
Cuối cùng, tôi xin gửi lời cảm ơn tới gia đình đã sinh thành, nu ô i dưỡng
và động viên tôi rất nhiều trong thời gian qua.
Dù đã cố gắng h ết sức nhưng luận văn không thể tránh khỏi những thiếu
sót. Mọi ý kiến đóng góp tôi xin được đón nhận với lòng biết ơn chân thành.
Hà Nội, ngày 23 tháng 11 năm 2011
Học Viên
Đặng Văn Hiếu
1
MỞ ĐẦU
Nhiều bài toán khoa học kĩ thuật dẫn đến việc giải phương trình
F(x) = y,
trong đó F : X →Y là toán tử (tuyến tính hoặc phi tuyến), X,Y là các không
gian Banach. Bài toán trên được gọi là đặt chỉnh, nếu
1. Phương trình luôn có nghiệm duy nhất với mọi y ∈Y.
2. Nghiệm phụ thuộc liên tục vào các dữ liệu F,y.
Khi đó ta có nhiều ph ươn g pháp giải bài toán trên. Tuy nhiên trong thực tế
không phải lúc nào bài toán cũng đ ặt chỉnh, tức là
1. Tồn lại y ∈Y đ ể phương trình vô nghiệm hoặc có nhiều hơn một nghiệm.
2. Nghiệm không ph ụ thuộc liên tục vào các dữ liệu F,y.
Các bài toán đặt không chỉnh rất khó giải do có sai số của dữ liệu và phải
tính toán gần đúng trên máy tính. Khi đó ta cần có chiến lược hiệu chỉnh để
giải bài toán trên. Nói nôm na, ta sẽ thay bài toán đặt khô ng chỉnh bằng một
họ các bài toán đặt chỉnh phụ thuộc tham số mà nghiệm của chúng hội tụ đến
nghiệm của bài toán đặt không chỉnh khi tham số hiệu chỉnh dần tới không.
Trong các bài toán nhận dạng đa tham số, ta phải xác định x, khi biết các
dữ liệu gần đúng y
δ
i
của y

i
, tức là phải giải hệ phương trình (thông thường là
đặt không chỉnh)
F
i
(x) = y
δ
i
,i = 1, ,l.
Nếu xem y
δ
như là một véc tơ y
δ
= (y
δ
1
,y
δ
2
, ,y
δ
l
), với y
δ
i
∈Y
i
,
δ
như là

một véctơ nhiễu
δ
= (
δ
1
,
δ
2
, ,
δ
l
)
T
∈ R
l
(mức nhiễu) thì hệ phương trình
toán tử trên đưa về một phương trình toán tử trong không gian tích
F(x) = y
δ
.
4
Trong nhiều trường hợp việc xét hệ phương trình thay cho một phương
trình trong không g ian tích với bộ tham số hiệu chỉnh cho kết quả khả quan.
Sau đây là hai ví dụ đưa về hệ phương trình toán tử đặt kh ông chỉnh.
Ví dụ 1. (Bài toán khôi phục hệ số của phương trình từ ánh xạ Dirichlet -
Neumann)
Ứơc lượng hệ số q ≥0 từ phương trình vi phân riêng
−∆u+ qu = 0, x ∈ Ω ⊂ R
d
,

với điều kiện biên Neumann g =
∂
u
∂
v
trên biên
∂
Ω của Ω. Giả sử biết trước p
các giá trị Dirichlet của u trên biên
∂
Ω là f
0
, f
1
, , f
p−1
và đo đạc được các
giá trị Neumann g
i
=
∂
u
i
∂
v
trên biên
∂
Ω tương ứng. Khi đó ta viết lại bài toán
F
i

(q) = g
i
, i = 0, , p−1,
trong đó F
i
: D(F
i
) ⊂ L
2
(Ω) → H
−1/2
(
∂
Ω) là toán tử phi tuyến ánh xạ q tới
∂
u
i
∂
v
, u
i
∈ H
1
(Ω) là nghiệm yếu của hệ



−∆u
i
+ qu

i
= 0, x ∈ Ω ⊂ R
d
u
i
= f
i
,x ∈
∂
Ω.
Bài toán ước lượng q ≥ 0 từ hệ trên là đặt không chỉnh (xem [5]).
Ví dụ 2. (Bài toán ước lượng mômen phi tuyến).
Bài toán ước lượng mômen phi tuyến là tìm hàm u ∈ L
2
(Ω) trên miền bị
chặn Ω ⊂R
d
thỏa mãn hệ p hương trình tích phân phi tuyến
g
i
=

Ω
k
i
(x,u(x))dx ∈ R
m
, i = 1, , p,
với các nhân trơn k
i

: Ω×R → R
m
và các véctơ g
i
cho trước (i = 1, , p).
Ta đưa về bài toán
F
i
(u) = g
i
, i = 1, , p,
trong đó F
i
: L
2
(Ω) →R
m
là toán tử phi tuyến đưa u vào

Ω
k
i
(x,u(x))dx. Đây
cũng là bài toán đặt không chỉnh (xem [5]).
5
Đã có nhiều phương pháp giải hệ phương trình toán tử đặt không chỉnh.
Ngoài các phương pháp lặp xoay vòng như Landweber - Kaczmarz, Newton -
Kaczmarz, đường dốc Kaczmarz, một nhóm các nhà khoa h ọc tại Trường Đại
học khoa học tự nhiên, ĐHQG Hà Nội đã đề xuất các phương pháp chỉnh lặp
song song: Newton hiệu chỉnh song song, Gauss - Newton hiệu chỉnh song

song, phương pháp chiếu điểm gần kề s ong song, phương pháp CQ - song
song giải hệ phương trình toán tử. Đăc điểm của các phương pháp này là hai
quá trình hiệu chỉnh và p hân rã song song được thực h iện đồng thời và tương
thích với nhau.
Luận văn này sẽ trình bày ba phương pháp giải hệ phương trình toán tử
đặt khôn g chỉnh: Phương pháp cực tiểu phiếm hàm ổn định với hạn chế độ
lệch trong mức sai số cho phép. Phương pháp cực tiểu phiếm hàm làm trơn
Tikhonov và phương ph áp Gauss - Newton hiệu chỉnh song song.
Nội dung chính của bản luận văn bao gồm các vấn đề sau đây:
1. Thiết lập tính đặt chỉnh của bài toán tối ưu có ràng buộc liên kết với hệ
phương trình toán tử đặt không chỉnh.
2. Đánh giá tốc độ hội tụ của phương pháp hiệu chỉnh đa tham số trong
trường hợp tổng quát.
3. Thiết lập mố i liên hệ giữa phương pháp nh ân tử Lagrange và phương
pháp hiệu chỉnh đa tham số.
4. Nghiên cứu phương pháp h iệu chỉnh đa tham số Tikhonov và đánh giá
tốc độ hội tụ.
5. Trình bày phương pháp chỉnh lặp song song dạng Gauss - Newton.
Các vấn đề 1−3 được trình bày trong bài báo của Torsten Hein [2]. Phần
5 được nghiên cứu trong công trình của Phạm Kỳ Anh và Vũ Tiến Dũng [1].
Phần 4 là các kết quả do học viên phát tr iển dựa theo tài liệu của Torsten Hein
[2], Nguyễn Bường và Nguyễn Đình Dũng [3].
6
Chương 1
Hiệu chỉnh đa tham số - sự
hội tụ và tốc độ hội tụ
Trong chương này, chúng tôi đề cập tới phương pháp hiệu chỉnh đa tham số
do Torsten đề x uất dựa trên việc cực tiểu phiếm hàm ổn định với điều kiện
độ lệch của các phương trình nằm trong giới hạn sai số cho phép, b ao gồm
các bổ đề về tính ổn định và đ ịnh lý về tốc độ hội tụ. Cuối chương, chúng tôi

giới thiệu hai thuật toán giải bài toán tối ưu và mối liên hệ giữa phương pháp
hiệu chỉnh đa tham số và phương pháp nhân tử Lagrange. Nội dung chính của
chương được trình bày theo dựa theo tài liệu [2].
1.1 Đặt bài toán
Cho X,Y
j
, ( j = 1, ,l) là các không gian B an ach phản xạ. Để đơn giản, chuẩn
trong các kh ô ng gian X,Y
j
cùng được kí hiệu là  .. F
j
: D(F
j
) ⊂ X →Y
j
( j =
1, ,l) nói chung là các toán tử phi tuyến. Đặt D =

l
j=1
D(F
j
), giả sử D = ∅.
Nếu vế phải cho là chính xác ta có hệ sau
F
j
(x) = y
j
( j = 1, ,l),x ∈ D. (1.1.1)
Tuy nhiên dữ liệu y

j
thường bị nhiễu bởi y
δ
j
: ||y
δ
j
−y
j
|| ≤
δ
j
khi đó ta chỉ
có phương trình
F
j
(x) = y
δ
j
( j = 1, ,l),x ∈D. (1.1.2)
7
Trong ứng dụng thì bài toán (1.1.2) thường là bài toán đặt không chỉnh.
Ngay cả khi các hệ (1.1.1) và (1.1.2) giải được duy nhất thì nghiệm của (1.1.2)
cũng không chắc phụ thuộc liên tục vào dữ liệu. Nghĩa là nếu x
†
là nghiệm
duy nhất của (1.1.1) và x
δ
là nghiệm duy nhất của (1.1.2) thì ||x
†

−x
δ
|| có
thể lớn tùy ý khi
δ
j
( j = 1, ,l) đủ nhỏ.
Chiến lược hiệu chỉnh. Xét phiếm hàm ổn định J : D ⊂ X → R mà tính
chất của nó được liệt kê trong mục 1.2 và thay (1.1.2) bởi bài toán tối ưu có
ràng buộc sau



J(x) → min
x∈D



F
j
(x) −y
δ
j



≤
δ
j
, j = 1, ,l.

(1.1.3)
Trong lý thuyết hiệu chỉnh Tikhonov, ta thay (1.1.2) bằng bài toán cực tiểu
phiếm hàm
l
∑
j=1
λ
j



F
j
(x) −y
δ
j



2
Y
j
+ J(x) → min
x∈D
, (1.1.4)
trong đó
λ
j
> 0( j = 1, ,l) là các tham số hiệu chỉnh.
Khi dùng phương pháp Lagrange để giải bài toán (1.1.3) ta có thể xem

các tham số
λ
j
> 0( j = 1, ,l) như các nhân tử Lagr an ge. Các hằng số
α
j
=
1
λ
j
,( j = 1, ,l) đóng vai trò các tham số hiệu chỉnh trong phương pháp hiệu
chỉnh đa tham số.
1.2 Các kết quả về tính ổn định
Ta sẽ chỉ ra tính đặt chỉnh của bài toán (1.1.3). Cụ thể ta sẽ thiết lập một số
điều kiện để bài toán (1.1.3) có nghiệm duy nhất x
δ
phụ thuộc liên tục vào
các dữ liệu y
δ
j
, j = 1, ,l. Ta sẽ chỉ ra rằng cách tiếp cận bài toán (1.1.3) cũng
gần giống như việc chứng minh sự tồn tại, tính ổn định và hội tụ của điểm
cực tiểu x
δ
α
của phiếm hàm Tikhonov



F(x) −y

δ



2
Y
+
α
J(x), (1.2.1)
8
ở đây J(x) = ||x−x
∗
||
2
hoặc J(x) = ||D(x−x
∗
)||
2
, trong đó D là toán tử tuyến
tính đóng.
Sau đây là một số giả thiết đối với toán tử F
j
,( j = 1, ,l) và phiếm hàm
ổn định J(x):
A1. Với dữ liệu chính xác thì hệ (1.1.1) có nghiệm x
†
, tức là F
j
(x
†

) = y
j
,( j =
1, ,l).
A2. F
j
,( j = 1, ,l) là các toán tử liên tục và đón g yếu (x
n
∈ D(F
j
),x
n
⇀
x,F
j
(x
n
) ⇀ y
j
thì x ∈D(F
j
) và F
j
(x) = y
j
).
A3. Phiếm hàm J : D ⊂ X → R không âm và nửa liên tục dưới yếu (x
n
⇀ x
thì J(x) ≤ lim

n→∞
(infJ(x
n
))).
A4. Tập
A(C) :=

x ∈ X : J(x) +
l
∑
j=1


F
j
(x)


≤C

bị chặn trong X với mọi C ≥ 0.
A5. Nếu x
n
⇀ x và J(x
n
) → J(x) thì x
n
→ x.
Nhận xét. Giả thiết A1 là một giả thiết tự nhiên đối với bài toán nhận
dạng, tức là nếu có quan sát chính xác y

j
,( j = 1, ,l) thì ta có thể giả thiết
có bộ "tham số" x
†
∈ D thỏa mãn hệ (1.1.1). Nhưng điều này có thể không
còn đúng khi dữ liệu bị nhiễu y
δ
j
,( j = 1, ,l). Tức là nghiệm của (1.1.2) có
thể không tồn tại.
Kí hiệu
M
δ
=

x ∈ X :



F
j
(x) −y
δ
j



Y
j
≤

δ
j
,( j = 1, ,l)

(1.2.2)
là tập các phần tử chấp nhận được. Vì x
†
∈ M
δ
,∀
δ
≥ 0 nên M
δ
= Ø. Ngoài
ra vì F
j
liên tục nên M
δ
là tập đóng.
Bây giờ ta chứng minh sự tồn tại nghiệm x
δ
của (1.1.3).
Bổ đề 1.2.1. Với các đ iều kiện (A1) −(A4) thì luôn tồn tại nghiệm x
δ
của
(1.1.3).
9
Chứng minh. Giả sử {x
n
} ⊂ M

δ
là dãy cực tiểu sao cho: J(x
n+1
) ≤ J(x
n
)
và lim
n→∞
J(x
n
) = inf
x∈D
J(x). Ta có: J(x
n
) ≤ J(x
0
),∀n ≥ 0.
Từ (1.2.2) ta có


F
j
(x
n
)


≤




y
δ
j



+
δ
j
≤


y
j


+ 2
δ
j
, j = 1, ,l.
Đặt C := J(x
0
) +
l
∑
j=1




y
j


+ 2
δ
j

.
Suy ra x
n
∈ A(C).
Do đó {(x
n
,F
1
(x
n
), ,F
l
(x
n
)}
n
là bị chặn trong không gian Banach phản xạ
X ×Y
1
× ×Y
l
.

Suy ra, tồn tại dãy {x
n
k
} sao cho x
n
k
⇀ x và F
j
(x
n
k
) ⇀

y
j
,(1 ≤ j ≤ l).
Theo (A2) thì F
j
(x) =

y
j
và ta có
F
j
(x
n
k
) −y
δ

j
⇀

y
j
−y
δ
j
= F
j
(x) −y
δ
j
,
Theo tính nửa liên tục dưới yếu của chuẩn,suy ra



F
j
(x) −y
δ
j



≤ lim
k→∞
inf




F (x
n
k
) −y
δ
j



≤
δ
j
, (1 ≤ j ≤ l) ,
chứng tỏ x ∈ M
δ
.
Theo (A3) và x
n
k
⇀ x suy ra J(x) ≤ lim
k→∞
infJ(x
n
k
). Từ đó x là nghiệm của
(1.1.3).⊠
Bổ đề 1.2.2. Cho các điều kiện (A1)−(A4). Hơn nữa {y
(n)

j
}với



y
(n)
j
−y
δ
j



≤
c
(n)
j
,c
(n)
j
→0 (n → ∞). Gọi {x
δ
n
} là dãy ngh iệm củ a (1.1.3) ứng với y
δ
j
= y
(n)
j

và
δ
j
+ c
(n)
j
.
Khi đó
1. Tồn tại dãy con {x
δ
n
k
} ⇀ x
δ
là nghiệm của (1.1.3).
2. Nếu x
δ
là nghiệm duy n hất thì x
δ
n
⇀ x
δ
.
10
Chứng minh
1. Với mỗi n ∈N, đặt
M
(n)
δ
= {x ∈X :



F
j
(x) −y
n
j


≤
δ
j
+ 2c
(n)
j
,( j = 1, ,l)},
suy ra x
δ
∈ M
(n)
δ
∀n và M
(n)
δ
→ M
δ
,(M
δ
⊂ M
(n)

δ
).
Do đó
J(x
δ
n
) ≤ J(x
δ
) ∀n. (∗)
Như lập luận trong Bổ đề 1.2.1.,tồn tại dãy {x
δ
n
k
} sao cho
x
δ
n
k
⇀ x ∈ M
δ
,
suy ra J(x
δ
) ≤ J(x) ≤ lim
k→∞
infJ(x
δ
n
k
) ≤ J(x

δ
), (**)
Do đó J(x) = J(x
δ
).
Vậy x là nghiệm của (1.1.3).
2. Nếu bài toán (1.1.3) có nghiệm duy nhất x
δ
thì x = x
δ
, từ đó suy ra sự hội
tụ yếu của dãy {x
δ
n
} về x
δ
. ⊠
Bổ đề 1.2.3. Giả sử có các giả thiết của Bổ đề 1.2.2. Nếu thêm điều kiện
(A5) thì {x
δ
n
} hội tụ mạnh về x
δ
.
Chứng minh. Hiển nhiên từ (*) và (**) cùng với x
δ
n
⇀ x
δ
, suy ra lim

n→∞
J(x
δ
n
) =
J(x
δ
). Kết hợp với (A5) ta có ngay điều phải chứng minh.⊠
Cuối cùng chúng ta muốn chứng minh sự hội tụ của nghiệm của (1.1.3)
tới nghiệm x
†
của (1.1.1) khi
δ
j
→ 0,(1 ≤ j ≤ l).
Định nghĩa 1.2.1. x
†
được gọi là nghiệm J −min của (1.1.1) nếu
J(x
†
) = min{J(x) : F
j
(x) = y
j
,1 ≤ j ≤ l}.
Từ Bổ đề 1 . 2.1. và 1.2. 3. su y ra x
δ
hội tụ tới nghiệm J −min của hệ (1.1.1)
khi
δ

→ 0. Nếu thay
δ
j
+ c
(n)
j
bởi
δ
j
và y
δ
j
bởi y
j
và lặp lại chứng minh của
Bổ đề 1.2.2., ta thu được kết quả sau.
Bổ đề 1.2.4. Cho các điều kiện (A1) −(A4) và
δ
j
→ 0, tức là (y
δ
j
→
y
j
,1 ≤ j ≤ l). Nếu x
δ
là nghiệm của (1.1.3) thì tồn tại dãy con {

x

δ
} hội tụ
yếu tới nghiệm J −min x
†
của (1.1.1). Hơn nữa, nếu nghiệm J −min x
†
là
duy nhất thì x
δ
⇀ x
†
. Nếu thêm điều kiện (A5) thì x
δ
→ x
†
.
11
1.3 Tốc độ hội tụ
Định nghĩa 1. 3.1. Giả sử J là hàm lồi và khả vi Fréchet với J
′
(x) ∈ X
∗
,∀x ∈
D. Khoảng cách Bregman giữa

x,x ∈ D là D(

x,x) xác định bởi
D(


x,x) := J(

x) −J(x)− < J
′
(x),

x−x >
X
∗
,X
,
trong đó < .,. >
X
∗
,X
là tích đối ngẫu trong X.
Sau này, để đơn giản, ta sẽ bỏ các kí tự X
∗
,X trong tích đối ngẫu.
Nhận xét. Từ tính lồi của hàm J(x) suy ra D(

x,x) ≥ 0. Nếu J(x) lồi chặt
thì D(

x,x) > 0, ∀

x = x.
Trước khi nghiên cứu tốc độ hội tụ của ph ươn g pháp hiệu chỉnh đa tham
số ta xét thêm điều kiện sau
A6. ∃

γ
: 0 ≤
γ
< 1 và
β
= (
β
1
,
β
2
, ,
β
l
)
T
∈ R
l
với
β
j
≥ 0,( j = 1, ,l) thỏa
mãn




J
′
(x

†
),x−x
†




≤
γ
D(x,x
†
) +
l
∑
j=1
β
j



F
j
(x) −F
j
(x
†
)




(1.3.1)
∀x ∈ B
r
(x
†
) ∩D với B
r
(x
†
) =

x ∈ X :


x−x
†


< r

, r > 0 đủ lớn.
Điều kiện A6 rất tổng quát và bao gồm các điều kiện nguồn, điều kiện nón
pháp tuyến vv
Định lý 1.3.1. Giả sử có các giả thiết (A1) −(A6);
δ
:= (
δ
1
, ,
δ

l
)
T
, khi
đó
D(x
δ
,x
†
) ≤
2
1−
γ



β



2

δ

2
, (1.3.2)
trong đó .
2
là chuẩn Euclid trong R
l

.
Chứng minh. Do x
†
∈ M
δ
∀
δ
≥ 0 nên J(x
δ
) ≤ J(x
†
).
Ta có
D(x
δ
,x
†
) = J(x
δ
) −J(x
†
) −

J
′
(x
†
),x
δ
−x

†

,
suy ra
D(x
δ
,x
†
) ≤




J
′
(x
†
),x
δ
−x
†




.
12
Theo (A6), ta suy ra
D(x
δ

,x
†
) ≤
γ
D(x
δ
,x
†
) +
l
∑
j=1
β
j



F
j
(x
δ
) −F
j
(x
†
)



≤

γ
D(x
δ
,x
†
) +
l
∑
j=1
β
j




F
j
(x
δ
) −y
δ
j



+



y

δ
j
−y
j




≤
γ
D(x
δ
,x
†
) +2
l
∑
j=1
β
j
δ
j
≤
γ
D(x
δ
,x
†
) +2




β



2

δ

2
Do đó
D(x
δ
,x
†
) ≤
2
1−
γ



β



2

δ


2
.⊠
Nhận xét. Để thiết lập tốc độ hội tụ trong X ta cần đặt thêm điều kiện lên
các toán tử F
j
hoặc/và hàm J(x). Chẳng hạn giả sử J(x) là hàm lồi mạnh với
hệ số
η
> 0, tức là
J(tx+ (1−t)y) ≤tJ(x) + (1−t)J(y) −
η
2
t(1−t)x−y
2
, ∀t ∈[0;1].
Suy ra x−y
2
≤
2
η
D(x,y) = C.D(x,y) với C =
2
η
.
Từ đây kết hợp với (1.3.2) ta có



x

δ
−x
†



2
X
≤C.D(x
δ
,x
+
) ≤
2C
1−
γ



β



2
.
δ

2
.
Từ đó ta có đánh giá tốc độ hội tụ trong X.

Mặt khác nếu J(x) = x−x
∗

2
thì D(

x,x) = 

x−x
2
.
Từ (1.3.2), ta được



x
δ
−x
†



2
= D(x
δ
,x
†
) ≤
2
1−

γ



β



2
.
δ

2
.
Ta xét một số trường hợp đặc biệt của giả thiết (A6). Giả thiết này đạt
được nếu ta có điều kiện nguồn sau
J
′
(x
†
) =
l
∑
j=1
G
∗
j
w
j
,w

j
∈Y
∗
j
,(1 ≤ j ≤ l), (1.3.3)
trong đó G
j
∈ L(X,Y
j
) là xấp xỉ tuyến tính của F
j
với phần dư là
r
j
(x,x
†
) := F
j
(x) −F
j
(x
†
) −G
j
(x−x
†
). (1.3.4)
13
Sau đây là 3 ví dụ điển hình.
Hệ quả 1.3.1. Giả sử (1.3.3) thỏa mãn với



r
j
(x,x
†
)


≤C
j
.D(x,x
†
) và C :=
l
∑
j=1


w
j


Y
∗
j
.C
j
< 1
thì điều kiện (A6) nghiệm đúng với

γ
= C và
β
j
=


w
j


Y
∗
j
,1 ≤ j ≤ l.
Chứng minh. Ta có

J
′
(x
†
),x−x
†

X
∗
,X
=
l
∑

j=1

G
∗
j
w
j
,x−x
†

X
∗
,X
=
l
∑
j=1

w
j
,G
j
(x−x
†
)

Y
∗
j
,Y

j
≤
l
∑
j=1


w
j


Y
∗
j


G
j
(x−x
†
)


Y
j
≤
l
∑
j=1



w
j


Y
∗
j



F
j
(x) −F
j
(x
†
)


+


r
j
(x,x
†
)




≤
l
∑
j=1


w
j


Y
∗
j


F
j
(x) −F
j
(x
†
)


+

l
∑
j=1



w
j


Y
∗
j
C
j

D(x,x
†
)
Từ đó suy ra điều phải chứng minh. ⊠
Nhận xét. Nếu J(x) = x−x
∗

2
và F
j
khả vi Fréchet thì các giả thiết của
Hệ quả 1.3.1 g iống các giả thiết trong phương pháp hiệu chỉnh Tikhonov,
trong đó G
j
= F
′
(x
†

) : X →Y
j
là liên tục Lipschitz. Điều này chứng tỏ (1.3.1)
là khái quát hóa của các giả thiết quen biết để chứng minh tốc độ h ội tụ. Mặt
khác tính liên tục Lipschitz của đạo hàm Fréchet không phải là điều kiện cần
để phương pháp hiệu chỉnh hội tụ. Do đó nó có thể được thay bởi các giả thiết
khác.
Hệ quả 1.3.2. Giả sử (1.3.3) thỏa mãn với



r
j
(x,x
†
)



Y
j
≤C
j



F
j
(x) −F
j

(x
†
)



Y
j
,1 ≤ j ≤ l
14
thì điều kiện (A6) nghiệm đúng với
γ
= 0 và
β
j
=


w
j


Y
∗
j
(C
j
+ 1),1 ≤ j ≤l.
Chứng minh. Như trên ta có


J
′
(x
†
),x−x
†

X
∗
,X
≤
l
∑
j=1


w
j


Y
∗
j
.



F
j
(x) −F

j
(x
†
)


+


r
j
(x,x
†
)



≤
l
∑
j=1


w
j


Y
∗
j


C
j
+ 1



F
j
(x) −F
j
(x
†
)


Từ đó suy ra điều phải chứng minh. ⊠
Hệ quả 1.3.3. Giả sử (1.3.3) thỏa mãn với



r
j
(x,x
†
)



Y

j
≤C
j



G
j
(x−x
†
)



Y
j
,1 ≤ j ≤ l
với C
j
< 1 thì điều kiện (A6) nghiệm đúng với
γ
= 0 và
β
j
=


w
j



Y
∗
j
(1 −
C
j
)
−1
,1 ≤ j ≤ l.
Chứng minh. Ta có r
j
(x,x
†
) := F
j
(x) −F
j
(x
†
) −G
j
(x−x
†
).
Suy ra



G(x−x

†
)



−



r
j
(x,x
†
)



≤



F
j
(x) −F
j
(x
†
)




≤



G(x−x
†
)



+



r
j
(x,x
†
)



.
Do đó
(1−C
j
)




G(x−x
†
)



≤



F
j
(x) −F
j
(x
†
)



≤ (1+C
j
)



G(x−x
†
)




.
Theo cách chứng minh của hệ quả (1.3.1) ta có

J
′
(x
†
),x−x
†

X
∗
,X
≤
l
∑
j=1


w
j


Y
∗
j
.



G
j
(x−x
†
)


Y
j
≤
l
∑
j=1

w
j

Y
∗
j
1−C
j


F
j
(x) −F
j

(x
†
)


Từ đó suy ra điều phải chứng minh.⊠
15
1.4 Hiệu ch ỉnh đa tham số trong không gian Hilbert
Ta xét bài toán (1 . 1 . 3) với X,Y
j
là các không gian Hilbert.
Giả sử J(x) := P(x)
2
trong đó P : X → Z là toán tử phi tuyến. Ta sử dụng
phương pháp nhân tử Lagrange giải bài toán (1.1.3).
Xét hàm Lagrange
L(x,
λ
) := J(x) +
l
∑
j=1
λ
j
(



F
j

(x) −y
δ
j



2
Y
j
−
δ
2
j
), (1.4.1)
hoặc hàm Tikhonov

T
λ
(x) := J(x) +
l
∑
j=1
λ
j



F
j
(x) −y

δ
j



2
Y
j
. (1.4.2)
Ta có thuật toán tìm nghiệm của bài toán (1.1.3) như sau [16]
Thuật toán 1
1. Cho x
δ
0
∈ X,
λ
(0)
= (
λ
(0)
1
, ,
λ
(0)
l
) ≥ 0;k := 0.
2. Tìm nghiệm x
δ
k+1
của bài toán


T
λ
(k)
(x) → min.
3. Đặt
λ
(k+1)
j
:=
λ
(k)
j
max






F
j
(x
δ
k+1
) −y
δ
j




ν
δ
ν
j
,
ε



,( j = 1, ,l)(0 <
ε
<< 1),
(1.4.3)
với
ν
> 0 cố định bất kì.
4. Nếu



λ
(k+1)
−
λ
(k)



< TOL thì dừng thuật toán, ngược lại đặt k := k+ 1

và quay lại bước 2.
Định lý 1.4.1. Nếu
λ
(k)
→
λ
và x
δ
k
→x
δ
∈D ⊂X khi k →∞ thì (x
δ
,
λ
) ∈
X ×R
l
là điểm yên ngựa của hàm Lagrange (1.4.1) và do đó x
δ
là nghiệm
của (1.1.3).
Trước khi đi vào chứng minh định lý 1.4.1 ta có bổ đề sau
16
Bổ đề 1.4.2 . Cặp (x
δ
,
λ
) ∈ D×R
l

+
là điểm yên ngựa của hàm Lagrange
(1.4.1) ứng với bài toán (1.1.3) nếu x = x
δ
làm cực tiểu phiếm hàm Tikho nov
(1.4.2) ứng với tham số hiệu chỉnh
λ
=
λ
và thỏa mãn
λ
j
(



F
j
(x
δ
) −y
δ
j



2
−
δ
2

j
) = 0 j = 1, ,l, (1.4.4)
và thêm điều kiện



F
j
(x
δ
) −y
δ
j



2
≤
δ
2
j
nếu
λ
j
= 0 j = 1, ,l. (1.4.5)
Chứng minh. Theo định nghĩa điểm yên n gựa ta có
L(x
δ
,
λ

) ≤ L(x
δ
,
λ
) ≤ L(x,
λ
) ∀x ∈ D, ∀
λ
∈ R
l
+
.
Bất đẳng thức thứ hai tương với
J

x
δ

+
l
∑
j=1
λ
j




F
j

(x
δ
) −y
δ
j



2
−
δ
2
j

≤J (x)+
l
∑
j=1
λ
j




F
j
(x) −y
δ
j




2
−
δ
2
j

,
hay

T
λ

x
δ

≤

T
λ
(x) ∀x ∈ D . Điều này đúng theo giả thiết x
δ
làm cực tiểu
phiếm hàm Tikhonov (1.4.2) .
Bất đẳng thức thứ nh ất tương đương với
l
∑
j=1


λ
j
−
λ
j





F
j
(x
δ
) −y
δ
j



2
−
δ
2
j

≥ 0 ∀
λ
∈ R
l

+
.
Do giả thiết (1.4.4) và (1.4.5) nên bất đẳng thức cuối này luôn đúng. Vậy Bổ
đề 1.4.2 được chứng minh. ⊠
Bây giờ ta đi chứng minh Định lý 1.4.1. Ta kiểm tra các giả thiết của Bổ
đề 1.4.2.
Theo cách xây dựng các dãy {
λ
k
} và {x
δ
k
} thì các giới hạn
λ
và x
δ
của phép
lặp (1.4.3) thỏa mãn

T
λ

x
δ

≤

T
λ
(x) với mọi x ∈ D, tức là x

δ
làm cực tiểu
phiếm hàm Tikhonov (1.4.2) ứng với
λ
=
λ
. Hơn nữa cặp (x
δ
,
λ
) thỏa mãn
λ
j
=
λ
j
max








F
j

x
δ


−y
δ
j



ν
δ
ν
j
,
ε





,1 ≤ j ≤ l. (1.4.6)
17
Do 0 <
ε
≪1, nên từ (1.4.6) suy ra hoặc
λ
j
= 0 hoặc



F

j

x
δ

−y
δ
j



2
=
δ
2
j
.
Điều này s uy ra giả thiết (1.4.4) của Bổ đề 1.4.2.
Tiếp tục kiểm tra giả thiết (1.4.5). Giả sử có chỉ số j nào đó sao cho



F
j

x
δ

−y
δ

j



2
>
δ
2
j
và
λ
j
= 0,
tức là



F
j

x
δ

−y
δ
j



ν

>
δ
ν
j
và
λ
j
= 0. Khi đó tồn tại k
0
= k
0
( j) sao cho



F
j

x
δ
k

−y
δ
j



ν
>

δ
ν
j
với mọi k ≥ k
0
(do F
j
liên tục và tính liên tục của
chuẩn). Do đó
max








F
j

x
δ
k

−y
δ
j




ν
δ
ν
j
,
ε





> 1.
Theo (1.4.3), su y ra
λ
k+1
j
>
λ
k
j
> 0 với mọi k ≥ k
0
. Cho k → ∞, suy ra
λ
j
= lim
k→∞
λ
k

j
>
λ
k
0
j
> 0. Điều này vô lý vì
λ
j
= 0. Vậy giả thiết (1 . 4.5) thỏ a
mãn. Áp dụng Bổ đề 1.4.2, Định lý 1.4.1 được chứng minh. ⊠
Nhược điểm của thuật toán 1
1. Phải giải b ài toán tối ưu phi tuyến trên mỗi bước lặp.
2. Do phép lặp (1.4.3) hội tụ chậm nên cần thực hiện nhiều bước lặp.
Sau đây ta trình bày thuật toán lặp Gauss - Newton để tìm nghiệm xấp xỉ
của bài toán (1. 1.3).
Xét bài toán



J(x) = P(x)
2
Z
→ min
x∈D



F
j

(x) −y
δ
j



≤
δ
j
, j = 1, ,l.
Ta dựng hàm Tikhonov

T
λ
(x) := J(x) +
l
∑
j=1
λ
j



F
j
(x) −y
δ
j




2
Y
j
.
Giả thiết F
j
(x) và P(x) là các hàm khả vi Fréchet với các đạo hàm F
′
j
(x)
và P
′
(x). Giả sử đã biết x
δ
k
, ta đi tìm x
δ
k+1
= x
δ
k
+ ∆x bằng cách tuyến tính hóa
18
F
j

x
δ
k

+ ∆x

≈ F
j

x
δ
k

+ F
′
j

x
δ
k

∆x
P

x
δ
k
+ ∆x

≈ P

x
δ
k


+ P
′

x
δ
k

∆x.
Ta đưa về bài toán tìm cực tiểu của dạng toàn phương

T
λ
(k)
(x
δ
k
+ ∆x) ≈ Φ(∆x) → min
∆x
trong đó
Φ(∆x) =



P
′
(x
δ
k
)∆x+ P(x

δ
k
)



2
Z
+
l
∑
j=1
λ
(k)
j



F
′
j
(x
δ
k
)∆x−

y
δ
j
−F

j
(x
δ
k
)




2
Y
j
.
Tìm ∆x là nghiệm của phương trình
∂
Φ
∂
∆x
= 0, tức là
∂
Φ
∂
∆x
= 2P
′
∗
(x
δ
k
)P

′
(x
δ
k
)∆x+ 2P
′
∗
(x
δ
k
)P(x
δ
k
)
+ 2
l
∑
j=1
λ
(k)
j

F
′
∗
j
(x
δ
k
)F

′
j
(x
δ
k
)∆x+ F
′
∗
j
(x
δ
k
)

y
δ
j
−F
j
(x
δ
k
)

= 0
điều này tương đương với

P
′
∗

(x
δ
k
)P
′
(x
δ
k
) +
l
∑
j=1
λ
(k)
j
F
′
∗
j
(x
δ
k
)F
′
j
(x
δ
k
)


∆x
=
l
∑
j=1
λ
(k)
j
F
′
∗
j
(x
δ
k
)

y
δ
j
−F
j
(x
δ
k
)

−P
′
∗

(x
δ
k
)P(x
δ
k
). (1.4.7)
Khi đó ta có thuật toán 2
1. Cho x
δ
0
∈ X,
λ
(0)
= (
λ
(0)
1
, ,
λ
(0)
l
) ≥ 0;k := 0
2. Giải (1.4.4) tìm ∆x. Đặt x
δ
k+1
= x
δ
k
+ ∆x.

3. Tìm
λ
(k+1)
= (
λ
(k+1)
1
, ,
λ
(k+1)
l
) theo công thức (1.4.3).
4. Nếu



λ
(k+1)
−
λ
(k)



< TOL1 và ∆x
X
< TOL2 thì dừng thuật toán,
ngược lại, đặt k := k + 1 và quay lại bước 2.
19
Sự hội tụ của phương pháp chỉnh lặp Gauss - Newton được nghiên cứu trong

[7, 8, 9, 10]. Trong ch ươn g 3, sẽ trình bày kĩ hơn về phương pháp chỉnh lặp
song song Gauss - Newton [1].
1.5 Mối liên h ệ giữa phương ph áp nhân tử La-
grange và phương pháp hiệu chỉnh đa tham
số
Ta sẽ chỉ ra rằng Thuật toán 1 liên quan mật thiết vớ i phương pháp nhân tử
Lagrange cho bài toán tối ưu với ràng buộc bất đẳng thức. Cho X là không
gian Banach, ta xét bài toán



J(x) → min
g
j
(x) ≤ 0, j = 1, ,l,
(1.5.1)
với hàm mục tiêu J : X →R và các hàm ràng buộc g
j
: X →R, j = 1, ,l. Với
mỗi nhân tử Lagrange
λ
= (
λ
1
, ,
λ
l
)
T
∈ R

l
,(
λ
j
≥ 0) và hằng số c > 0, đặt
M(x,
λ
,c) := J(x) +
1
2c
l
∑
j=1

max

0,
λ
j
+ cg
j
(x)

2
−
λ
2
j

. (1.5.2)

Sau đây là phươn g pháp nhân tử Lagrange. Cho
λ
k
≥ 0;c
k
> 0. Ta tìm
nghiệm x
k
của bài toán
M(x,
λ
k
,c
k
) → min,x ∈ X. (1.5.3)
Và cập nhật nhân tử Lagrange
λ
k+1
j
:= max{0;
λ
(k)
j
+ c
k
g
j
(x
k
)}, j = 1, ,l. (1.5.4)

Với c
k
được chọn theo một quy tắc nào đó (thông thường ta chọn là dãy tăng:
c
k+1
≥ c
k
).
Ta có một số thay đ ổi nhỏ so với bài toán trên là thay tham số đơn c ∈ R
bằng véctơ tham số c
= (c
1
, ,c
l
)
T
∈ R
l
với c
j
> 0 và thay hàm (1.5.2) bởi
M(x,
λ
,c) := J(x) +
l
∑
j=1
1
2c
j


max

0,
λ
j
+ c
j
g
j
(x)

2
−
λ
2
j

. (1.5.5)
20
Cho
ν
> 0, đặt
g
j
(x) := 2
δ
ν
j





F
j
(x) −y
δ
j



ν
Y
j
−
δ
ν
j

; c
j
:=
λ
j
2
δ
2
ν
j
.

Do đó
M(x,
λ
,c) := J(x)+
l
∑
j=1
1
2c
j


max

0,
λ
j
+
λ
j
δ
ν
j




F
j
(x) −y

δ
j



ν
Y
j
−
δ
ν
j


2
−
λ
2
j


= J(x) +
l
∑
j=1
δ
2
ν
j
λ

j


max

0,
λ
j
+
λ
j
δ
ν
j




F
j
(x) −y
δ
j



ν
Y
j
−

δ
ν
j


2
−
λ
2
j


= J(x) +
l
∑
j=1
δ
2
ν
j
λ
j


max

0,1+
1
δ
ν

j




F
j
(x) −y
δ
j



ν
Y
j
−
δ
ν
j


2
−1


= J(x) +
l
∑
j=1

δ
2
ν
j
λ
j





max







0,



F
j
(x) −y
δ
j




ν
Y
j
δ
ν
j







2
−1





= J(x) +
l
∑
j=1
λ
j





F
j
(x) −y
δ
j



2
ν
Y
j
−
δ
2
ν
j

Kết quả này trùng với hàm Lagrange trong (1.4.1) với
ν
= 1. Hơn nữa ta
cập nhật (1.5.4) và đi đến
λ
(k+1)
j
:= max

0,
λ

(k)
j
+ 2c
(k)
j
δ
ν
j




F
j
(x) −y
δ
j



ν
Y
j
−
δ
ν
j

= max




0,
λ
(k)
j
+
λ
(k)
j
δ
ν
j




F
j
(x) −y
δ
j



ν
Y
j
−
δ

ν
j




=
λ
(k)
j
max







0,



F
j
(x) −y
δ
j




ν
Y
j
δ
ν
j







.
Kết quả này trùn g với (1.4.3) khi
ε
= 0.
21
Chương 2
Phương pháp hiệu chỉnh đa
tham số Tikhonov
Trong chương này, chúng tôi đề cập tới phương pháp hiệu chỉnh đa tham
số Tikhonov dựa trên việc cực tiểu phiếm hàm làm trơn Tikhonov, trong đó
phiếm hàm có chứa tham số
α
và các tham số -
λ
j
, ( j = 1, ,l). Phần này tôi
phát triển d ựa theo cách tiếp cận tổng quát của Torsten [2] để mở rộng các kết

quả đã biết của Nguyễn Bường và Nguyễn Đình Dũng [3], bao gồm các định
lý: Định lý 2.2.1, Định lý 2.2.2, Định lý 2.2.3, Mệnh đề 2.2.4 về sự tồn tại và
tính ổn định của nghiệm. Cuối chương là hai định lý: Định lý 2.2.5, Định lý
2.2.6 về tốc độ hội tụ của nghiệm.
2.1 Nhắc lại bài toán
Cho X,Y
j
,( j = 1,2, ,l) là các không gian Banach phản xạ, F
j
: D(F
j
) ⊂
X →Y
j
là các toán tử ( phi tuyến), D :=
l

j=1
D(F
j
) = ∅. Ta cần giải hệ sau
F
j
(x) = y
j
,x ∈D,( j = 1,2, ,l). (2.1.1)
Trong trường hợp dữ liệu có nhiễu, y
δ
j
:




y
δ
j
−y
j



≤
δ
j
,( j = 1,2, ,l) ta có
hệ mới
F
j
(x) = y
δ
j
,x ∈ D,( j = 1,2, ,l). (2.1.2)
22
Phương pháp hiệu chỉnh đa tham số Tikhonov
Xét bài toán cực tiểu hóa phiếm hàm làm trơn Tikhonov
T
α
(x) =
l
∑

j=1
λ
j



F
j
(x) −y
δ
j



2
Y
j
+
α
J(x) → min
x∈D
, (2.1.3)
trong đó
α
> 0;
λ
= (
λ
1
, ,

λ
l
)
T
,
λ
j
> 0,
λ

∞
= 1, phiếm hàm ổn định
J : D ⊂X → R và véctơ hiệu chỉnh
α
= (
α
1
, ,
α
l
)
T
;
α
j
=
α
λ
j
, j = 1,2, ,l.

Định nghĩa. x
†
được gọi là nghiệm J −min của bài toán (2.1.1) nếu x
†
thỏa mãn (2.1.1) và
J(x
†
) = min{J(x) : x ∈S}
trong đó S := {x ∈D : F
j
(x) = y
j
, j = 1,2, ,l}.
Mục tiêu của chương này là thiết lập tính đặt chỉnh của bài toán (2.1.3)
với các điều kiện (A1) -(A5), tức là chứng minh bài toán (2.1.3) luôn có duy
nhất nghiệm x
δ
α
phụ thuộc liên tục vào dữ liệu đã cho. Ngoài ra thêm một vài
điều kiện bổ sung về hàm F
j
(x) và J(x) ta sẽ có đánh giá tốc độ hội tụ của
phương pháp theo khoảng cách Bregman.
2.2 Một số kết quả
Sau đây là một số kết quả chính thu được cho phương pháp hiệu chỉnh Tikhonov.
Định lý 2.2.1. Với các điều kiện (A1) −(A4) thì bài toán (2.1.3) luôn có
ít nhất một nghiệm x
δ
α
.

Chứng minh. Đặt d = inf
x∈D
T
α
(x). Khi đó tồn tại dãy cực tiểu {x
n
}⊂D, sao
cho d = lim
n→∞
T
α
(x
n
). Nói riêng d ãy {T
α
(x
n
)} là dãy bị chặn, nghĩa là, tồn tại
R > 0 sao cho 0 ≤ T
α
(x
n
) ≤ R ∀n ∈ N. Điều này tương đương với
l
∑
j=1
λ
j




F
j
(x
n
) −y
δ
j



2
+
α
J(x
n
) ≤ R ∀n ∈ N.
23
Do đó {F
j
(x
n
)}
n
,{J(x
n
)}
n
là bị chặn. Suy ra tồn tại C ≥ 0 sao cho J(x
n

) +
l
∑
j=1


F
j
(x
n
)


≤C, ∀n. Mà theo (A4) tập
A(C) =

x : J(x) +
l
∑
j=1


F
j
(x)


≤C

là bị chặn.

Từ đó suy ra dãy {x
n
,F
1
(x
n
), ,F
l
(x
n
)} là bị chặn trong không gian Ba-
nach phản xạ X ×Y
1
× ×Y
l
. Do vậy nó là tập compac tương đối yếu, hay
tồn tại dãy con {x
n
k
} ⊂ {x
n
} sao cho



x
n
k
⇀ x
0

F
j
(x
n
k
) ⇀ y
j
( j = 1,2, ,l).
Theo giả thiết (A2) thì x
0
∈D và F
j
(x
0
) = y
j
,( j = 1,2, ,l). Do tính nửa
liên tục dưới yếu của chuẩn và của J(x), ta có








F
j
(x
0

) −y
δ
j



=



y
j
−y
δ
j



≤ lim
k→∞
inf



F
j
(x
n
k
) −y

δ
j



, j = 1,2, ,l
J(x
0
) ≤ lim
k→∞
infJ(x
n
k
).
Từ đây suy ra
d ≤T
α
(x
0
) ≤ lim
k→∞
infT
α
(x
n
k
) ≤ lim
k→∞
supT
α

(x
n
k
) = lim
k→∞
T
α
(x
n
k
) = d,
do đó d = T
α
(x
0
), hay x
0
là nghiệm của bài toán (2.1.3).⊠
Định lý 2.2.2. Cho các g iả thiết (A1) −(A5),
α
> 0, và y
δ
n
j
→ y
δ
j
(n →
∞), j = 1,2, ,l. Gọi x
n

là nghiệm của bài toán (2.1.3) ứng với y
δ
j
thay
bằng y
δ
n
j
Khi đó
1. Tồn tại một dãy con hội tụ của dãy x
n
.
2. Mỗi giới hạn của dãy con là nghiệm của bài toán (2.1.3).
24
Chứng minh. Lập luận tương tự như trong định lý 2.2.1 ta có



x
n
k
⇀ x
0
∈ D
F
j
(x
n
k
) ⇀ y

j
và F
j
(x
0
) = y
j
,( j = 1, ,l). Vì x
n
k
là nghiệm của (2.1.3) và y
δ
n
k
j
→ y
δ
j
nên
ta có
T
α
(x
0
) ≤ lim
k
inf
l
∑
j=1

λ
j



F
j
(x
n
k
) −y
δ
n
k
j



2
+
α
lim
k
infJ(x
n
k
)
≤ lim
k


sup
l
∑
j=1
λ
j



F
j
(x
n
k
) −y
δ
n
k
j



2
+
α
supJ(x
n
k
)


≤ lim
k

l
∑
j=1
λ
j



F
j
(x) −y
δ
n
k
j



2
+
α
J(x)

=
l
∑
j=1

λ
j



F
j
(x) −y
δ
j



2
+
α
J(x) = T
α
(x) ∀x ∈ D. (2.2.1)
Vậy T
α
(x
0
) ≤ T
α
(x) ∀x ∈ D từ đây suy ra
x
0
∈ Argmin
x∈D

T
α
(x). (2.2.2)
Bây giờ ta chứng minh x
n
k
→ x
0
. Từ (2.2.1) ta có
lim
k→∞

l
∑
j=1
λ
j



F
j
(x
n
k
) −y
δ
n
k
j




2
+
α
J(x
n
k
)

=
l
∑
j=1
λ
j



F
j
(x
0
) −y
δ
j




2
+
α
J(x
0
)
(2.2.3)
Ta kết luận J(x
n
k
) → J(x
0
). Thật vậy giả sử ngược lại J(x
n
k
)  J(x
0
). Vì
J(x
0
) ≤ lim
k
infJ(x
n
k
) nên nếu đặt C := lim
k
supJ(x
n
k

) thì C > J(x
0
).
Ngoài ra, tồn tại dãy con {x
m
}
m
⊂ {x
n
k
}
k
sao cho
lim
m→∞
J(x
m
) = C.
Chú ý rằng x
m
⇀ x
0
,F
j
(x
m
) ⇀ y
j
= F
j

(x
0
) nên từ (2.2.3) ta có
lim
m
l
∑
j=1
λ
j



F
j
(x
m
) −y
δ
m
j



2
=
l
∑
j=1
λ

j



F
j
(x
0
) −y
δ
j



2
+
α
[J(x
0
) −C]
25