Một số thuật toán chiếu điểm gần kề giải phương trình với toán tử đơn điệu

ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

NGUYỄN THỊ HUỆ

MỘT SỐ THUẬT TOÁN CHIẾU - ĐIỂM GẦN KỀ
GIẢI PHƯƠNG TRÌNH TỐN TỬ VỚI TỐN TỬ ĐƠN ĐIỆU

LUẬN VĂN THẠC SĨ KHOA HỌC

Hà Nội - 2011


ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

NGUYỄN THỊ HUỆ

MỘT SỐ THUẬT TOÁN CHIẾU - ĐIỂM GẦN KỀ
GIẢI PHƯƠNG TRÌNH VỚI TỐN TỬ ĐƠN ĐIỆU

Chun ngành: Tốn học tính tốn
Mã số: 604630

LUẬN VĂN THẠC SĨ KHOA HỌC

Giáo viên hướng dẫn: GS TSKH Phạm Kỳ Anh

Hà Nội - 2011

Mục lục
Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

i

Bảng ký hiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

iv

Lời nói đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

v

1 Kiến thức chuẩn bị

1

1.1 Một số khái niệm . . . . . . . . . . . . . . . . . . . . . . . . . .

1

1.2 Phép chiếu trong không gian Hilbert . . . . . . . . . . . . . . .

4

2 Phương pháp chiếu-điểm gần kề

6

2.1 Giới thiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

6

2.2 Sự hội tụ mạnh của phương pháp chiếu-điểm gần kề . . . . . . .

10

2.2.1

Thuật toán chiếu-điểm gần kề . . . . . . . . . . . . . . .

10

2.2.2

Định lý hội tụ . . . . . . . . . . . . . . . . . . . . . . . .

13

2.3 Phương pháp chiếu-điểm gần kề song song . . . . . . . . . . . .

18

3 Phương pháp CQ

23

3.1 Các bổ đề quan trọng . . . . . . . . . . . . . . . . . . . . . . . .

23

3.2 Một số thuật tốn CQ trong khơng gian Banach . . . . . . . . .

25

3.3 Một số thuật toán CQ trong không gian Hilbert . . . . . . . . .

37

4 Áp dụng

41

4.1 Bài tốn khơi phục ảnh . . . . . . . . . . . . . . . . . . . . . . .

41

4.1.1

Phương pháp chiếu-điểm gần kề song song . . . . . . . .

42

4.1.2

Thử nghiệm số . . . . . . . . . . . . . . . . . . . . . . .

44

4.2 Giải hệ phương trình đại số tuyến tính . . . . . . . . . . . . . .

45

4.2.1

Phương pháp chiếu-điểm gần kề song song . . . . . . . .
ii

46


4.2.2

Phương pháp CQ song song . . . . . . . . . . . . . . . .

48

Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

49

Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . . .

51


Bảng ký hiệu
φ(·, ·)
∂f
E∗

F (T )
F (T )

Khoảng cách suy rộng trên E
Gradient của f
Không gian đối ngẫu của E
Tập các điểm bất động của T
Tập các điểm bất động tiệm cận của T

I

Ánh xạ đồng nhất

J
PC (·)
ri(D)
·, ·
⇀
S
T[k]

Ánh xạ đối ngẫu chuẩn tắc
Hình chiếu lên tập C
Tập các điểm trong tương đối của D
Tích đối ngẫu hoặc tích vơ hướng
Hội tụ yếu
Tập các không điểm hay tập nghiệm
Tk(modN )
Kết thúc chứng minh

Lời nói đầu
Nhiều vấn đề của khoa học và kỹ thuật như bài tốn chấp nhận lồi có ứng
dụng trong lý thuyết tối ưu, khôi phục ảnh, phương pháp xử lý bức xạ,..., có
thể đưa về bài tốn tìm nghiệm của hệ phương trình với tốn tử đơn điệu hoặc
tìm điểm bất động của một họ hữu hạn các ánh xạ khơng giãn (tương đối).
Thuật tốn điểm gần kề tìm khơng điểm của tốn tử đơn điệu cực đại được
Rockafellar [8] đề xuất vào năm 1976 và trải qua nhiều lần cải biên. Tuy nhiên
các thuật tốn này nói chung chỉ cho kết quả hội tụ yếu. Năm 2000, M. V.
Solodov và B. F. Svaiter [11] đã kết hợp thuật toán điểm gần kề với phép chiếu
đơn giản lên giao của các nửa không gian để thu được kết quả hội tụ mạnh.
Gần đây, P. K. Anh và C. V. Chung [3] đã thực hiện song song hóa thuật tốn
chiếu-điểm gần kề để tìm nghiệm của hệ phương trình tốn tử đơn điệu.
Cũng dựa trên ý tưởng lai ghép, Nakajo và Takahashi đã thu được định lý
hội tụ mạnh cho ánh xạ không giãn tương đối trong không gian Hilbert và S.
Matsushita [7] đã tổng quát kết quả này cho không gian Banach. Năm 2011,
Liu [6] đã cải biên thuật toán CQ của Qin và Su [9] để thu được định lý hội
tụ mạnh cho thuật tốn lặp xoay vịng tìm điểm bất động chung của một họ
hữu hạn các ánh xạ không giãn tương đối trong không gian Banach. Đến năm
2011, P. K. Anh và C. V. Chung đã đề xuất phương pháp CQ song song và chỉ
ra rằng thuật tốn này tốt hơn thuật tốn lặp xoay vịng của Liu ngay cả khi
chạy ở chế độ tuần tự.
Bản luận văn này tập trung trình bày các thuật tốn lai ghép với phép chiếu
để giải hệ phương trình với các tốn tử đơn điệu trong khơng gian Hilbert và
tìm điểm bất động của họ các ánh xạ không giãn tương đối trong khơng gian
Banach.
Ngồi các phần Mở đầu, kết luận và tài liệu tham khảo, luận văn gồm 4
chương:
Chương 1: "Kiến thức chuẩn bị" trình bày một số khái niệm về toán tử đơn

Lời nói đầu

vi

điệu, hình học của khơng gian Banach và một vài tính chất quan trọng của
phép chiếu dùng trong luận văn.
Chương 2: "Phương pháp chiếu-điểm gần kề" trình bày hai thuật toán lai
ghép giữa phương pháp chiếu và phương pháp điểm gần kề trong khơng gian
Hilbert, trong đó phần 2 của Chương 2 trình bày thuật tốn chiếu-điểm gần kề
tìm khơng điểm của tốn tử đơn điệu cực đại (đơn trị hoặc đa trị) và các định
lý hội tụ mạnh; phần 3 của Chương 2 trình bày thuật tốn chiếu-điểm gần kề
song song tìm nghiệm của hệ phương trình toán tử đơn điệu và định lý hội tụ
mạnh của nó.
Chương 3: "Phương pháp CQ" trình bày các định lý hội tụ mạnh của phương
pháp CQ cho một toán tử khơng giãn tương đối, phương pháp CQ xoay vịng
và phương pháp CQ song song cho một họ các toán tử không giãn tương đối
trong không gian Banach. Phần 3 của Chương 3 trình bày một ứng dụng của
phương pháp CQ và một cải biên của CQ song song trong không gian Hilbert.
Chương 4: "Áp dụng", chúng tôi áp dụng các phương pháp song song trong
luận văn để giải bài toán khôi phục ảnh trong không gian Hilbert và giải hệ
phương trình đại số tuyến tính. Trong chương này chúng tơi cũng đưa ra một
ví dụ số thực hiện trong mơi trường Matlab và minh họa hình học cho phương
pháp chiếu-điểm gần kề song song.
Hà nội, ngày 1 tháng 12 năm 2011


Chương 1
Kiến thức chuẩn bị
1.1

Một số khái niệm

Cho H là không gian Hilbert thực, E là không gian Banach và E ∗ là đối

ngẫu của E.

1. Tập lồi: Tập C ⊂ H (hoặc E) được gọi là lồi nếu C chứa mọi đoạn thẳng

nối hai điểm bất kỳ của nó. Tức là C lồi khi và chỉ khi

∀x, y ∈ C, ∀α ∈ [0, 1] ⇒ αx + (1 − α)y ∈ C.
2. Toán tử đơn điệu: Ánh xạ T : E → E ∗ được gọi là đơn điệu nếu
T x − T y, x − y ≥ 0 ∀x, y ∈ E,
trong đó ký hiệu f, x chỉ tích đối ngẫu. Trường hợp E = E ∗ = H ta có tích

vơ hướng trong H.

Bổ đề 1.1.1. Giả sử S là tập các không điểm của T , tức là
S = {x ∈ H | T x = θ}.
Nếu T là toán tử đơn điệu và S = ∅ thì S là tập lồi.
Chứng minh. Với mọi x1 , x2 ∈ S và t ∈ (0, 1) đặt x = tx1 + (1 − t)x2 . Vì T là

tốn tử đơn điệu nên ta có

0 ≤ T x − T x1 , x − x1 = T x, tx1 + (1 − t)x2 − x1
= (1 − t) T x, x2 − x1


2

Chương 1. Kiến thức chuẩn bị

và
0 ≤ T x − T x2 , x − x2 = T x, tx1 + (1 − t)x2 − x2
= t T x, x1 − x2 .
Từ điều này suy ra T x, x1 − x2 = 0. Vậy T x = θ nghĩa là x ∈ S.

3. Toán tử ngược-đơn điệu mạnh: T được gọi là đồng bức với hằng số c > 0
hay c-ngược đơn điệu mạnh trên H nếu
T x − T y, x − y ≥ c T x − T y

2

∀x, y ∈ H.

4. Toán tử đơn điệu cực đại: Toán tử T được gọi là đơn điệu cực đại nếu nó là
đơn điệu và đồ thị của nó không phải là tập con thực sự của đồ thị của một
toán tử đơn điệu nào khác.
Toán tử J : E → E ∗ xác định bởi
J(x) = {f ∈ E ∗ | f, x = x

2
E

= f

2
E∗ }

được gọi là ánh xạ đối ngẫu chuẩn tắc. Hàm số φ : E × E → R cho bởi
φ(y, x) = y

2

− 2 y, Jx + x

2

với mọi x, y ∈ E, trong đó J là ánh xạ đối ngẫu chuẩn tắc từ E vào E ∗ . Đại

lượng

φ(x, y) gọi là khoảng cách suy rộng trên E.

5. Ánh xạ không giãn và ánh xạ không giãn tương đối: Cho C là một tập con
lồi đóng của E và T là ánh xạ từ C vào chính nó. Ký hiệu F (T ) là tập các điểm
bất động của T . Một điểm p trong C được gọi điểm bất động tiệm cận của T
nếu C chứa một dãy {xn } hội tụ yếu tới p sao cho lim (xn − T xn ) = 0. Ký
n→∞

hiệu tập tất cả các điểm bất động tiệm cận của T là F (T ). Ánh xạ T được gọi

là không giãn nếu T x − T y ≤ x − y

∀x, y ∈ C. T là ánh xạ không giãn

tương đối nếu F (T ) = F (T ) và φ(p, T x) ≤ φ(p, x) với mọi x ∈ C và p ∈ F (T ).

Nếu T là tốn tử khơng giãn trên khơng gian Hilbert thì A = I − T là tốn

tử đơn điệu, trong đó I là tốn tử đồng nhất. Thật vậy, với mọi x, y ∈ H ta có
Tx − Ty ≤ x − y .


3

Chương 1. Kiến thức chuẩn bị

Do đó
0 ≤ Ax − Ay

2

= x−y
≤2

2

x−y

− 2 x − y, T x − T y + T x − T y
2

2

− x − y, T x − T y

= 2 Ax − Ay, x − y .
6. Không gian Banach lồi đều: Không gian Banach E được gọi là lồi đều nếu

với mọi ε > 0 tồn tại δ(ε) > 0 sao cho với mọi x, y ∈ E, x ≤ 1, y ≤ 1 và
x − y ≥ ε ta ln có x + y < 2(1 − δ(ε)).

Chú ý 1. Có thể thay đổi như sau: với mọi x, y ∈ E, d > 0 tồn tại δ( dε ), x ≤
d, y ≤ d, x − y ≥ ε ta có x + y ≤ 2d(1 − δ( dε )).

Chú ý 2. Mọi không gian Hilbert đều là không gian lồi đều. Thật vậy, giả sử

ε > 0, x ≤ 1, y ≤ 1 sao cho x − y ≥ ε. Từ bất đẳng thức hình bình hành

suy ra

x+y

2

=2

Do đó
x+y ≤

x

2

+ y

2

− x−y

√
4 − ε2 = 2 1 −

1−

2

≤ 4 − ε2 .

1 − ε2
4

.

Chú ý 3. Mọi không gian Banach lồi đều là không gian phản xạ, tức là E ∗∗ = E.
7. Không gian Banach lồi chặt: Không gian Banach E được gọi là lồi chặt nếu
với mọi x, y ∈ E, x = y, x ≤ 1, y ≤ 1 ta có x + y < 2.

8. Khơng gian Banach trơn và trơn đều: Đặt U = {x ∈ E | x = 1} là hình
cầu đơn vị của E. Khi đó khơng gian Banach E được gọi là trơn nếu giới hạn
lim
t→0

x + ty − x
t

tồn tại với mỗi x, y ∈ U . E được gọi là trơn đều nếu giới hạn trên đều với mọi

x, y ∈ U . Nếu E là trơn đều thì J liên tục chuẩn-chuẩn đều trên mỗi tập con

bị chặn của E.

9. Tính chất Kadec-Klee: Khơng gian Banach E có tính chất Kadec-Klee nếu
xn ⇀ x và xn → x thì xn → x khi n → ∞.
Bổ đề 1.1.2. Mọi khơng gian Banach lồi đều đều có tính chất Kadec-Klee.


4

Chương 1. Kiến thức chuẩn bị

Chứng minh. Giả sử xn ⇀ x và xn → x khi n → ∞.
Nếu x = θ thì xn → 0 suy ra xn → θ.

Nếu x = θ, không giảm tổng quát coi x = 1 và với mọi n, xn = θ. Đặt
xn
ta có yn = 1 và với mọi f ∈ E ∗ ta có
yn =
xn
f (yn ) =

f (xn )
f (x)
→
= f (x)
xn
1

suy ra yn ⇀ x. Do E lồi đều nên tồn tại δ > 0 sao cho với mọi ξ > 0, δ(ξ) > 0
yn + x ≤ 2(1 − δ( yn − x )).

Mặt khác, với mọi f ∈ E ∗ và f = 1 ta có
yn + x ≥ f (yn + x) = f (yn ) + f (x).
Do đó
lim2(1 − δ( yn − x )) ≥ 2f (x).
Theo định lý Hahn-Banach: tồn tại f ∈ E ∗ , f = 1, f (x) = x sao cho
lim2(1 − δ( yn − x )) ≥ 2 x = 2
suy ra yn → x khi n → ∞ và xn = xn yn → x x = x. Vậy xn → x.

1.2

Phép chiếu trong không gian Hilbert

Định nghĩa 1.2.1. Cho A là một tập khác rỗng (không nhất thiết lồi) của H
và điểm x ∈ H. Đặt

dA (x) = inf y − x .
y∈A

Ta nói dA (x) là khoảng cách từ x đến A. Nếu tồn tại π ∈ A sao cho dA (x) =

π −x thì ta nói π là hình chiếu vng góc của x lên A. Ký hiệu là π = PA (x).
Sau đây là một số tính chất quan trọng của phép chiếu trực giao mà chúng

ta sẽ sử dụng trong Chương 2, 3 và 4.


5

Chương 1. Kiến thức chuẩn bị

Bổ đề 1.2.1. Cho A là một tập lồi, đóng, khác rỗng của H. Khi đó với mọi
x, y ∈ H và z ∈ A, các tính chất sau đúng:

x − PA (x), z − PA (x) ≤ 0;
PA (x) − PA (y)

2

≤ x−y

2

− PA (x) − x + y − PA (y) 2 .

Bổ đề 1.2.2. Cho A là một tập con lồi, đóng, khác rỗng của H. Khi đó với

mọi x ∈ H hình chiếu PA (x) của x trên A ln tồn tại và duy nhất.

Chứng minh. Do dA (x) = inf y − x nên theo định nghĩa của cận dưới đúng,
y∈A

tồn tại dãy {yk } ∈ A sao cho

lim yk − x = dA (x) < +∞.
k

Vậy dãy {yk } bị chặn, do đó nó có một dãy con {ykj } hội tụ đến một điểm π
nào đó. Do A đóng nên π ∈ A. Vậy

π − x = lim ykj − z = lim yk − x = dA (x).

j

k

Chứng tỏ π là hình chiếu của x trên A.
Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy, nếu tồn tại hai
điểm π và π1 đều là hai hình chiếu của y trên A thì
π − x, π − y ≤ 0,

π1 − x, π1 − y ≤ 0,

với mọi y ∈ A. Suy ra
π − x, π − π1 ≤ 0,

π1 − x, π1 − π ≤ 0.

Cộng hai bất đẳng thức này ta suy ra π − π1 ≤ 0 và do đó π = π1 .

Cho siêu phẳng H = {z ∈ H | a, z = b} của H. Khi đó hình chiếu của

điểm x ∈ H bất kỳ lên H là

PH (x) = x −

a, x − b
a.
a 2


Chương 2

Phương pháp chiếu-điểm gần kề
Trong chương này chúng ta sẽ đề cập đến một cải tiến của phương pháp điểm
gần kề cổ điển giải bài tốn tìm khơng điểm của tốn tử đơn điệu cực đại trong
khơng gian Hilbert vơ hạn chiều. Thuật tốn mới thu được bằng cách lai ghép
phương pháp điểm gần kề và phương pháp chiếu. Trong thuật toán này, chúng
ta vẫn giữ lại những ưu điểm của phương pháp điểm gần kề trong khi không
mất nhiều chi phí tính tốn trong bước chiếu. Đặc biệt, dựa vào tính chất của
tốn tử đơn điệu cực đại và tính chất của phép chiếu, thuật tốn sẽ cho chúng
ta kết quả hội tụ mạnh đến một nghiệm của bài tốn.

2.1

Giới thiệu

Xét bài tốn
tìm x ∈ H sao cho 0 ∈ T (x),

(2.1)

trong đó H là khơng gian Hilbert và T (·) là một toán tử đơn điệu cực đại (nói

chung là tốn tử đa trị) trên H. Ký hiệu tập nghiệm của bài toán này là
S := {x ∈ H | 0 ∈ T (x)}.

1. Phương pháp điểm gần kề: Giả sử đã có xk ∈ H là một xấp xỉ tới nghiệm

của bài toán (2.1), điểm lặp tiếp theo thu được từ việc giải bài toán phụ gần
kề
0 ∈ T (x) + µk (x − xk ),
trong đó µk > 0 là tham số hiệu chỉnh.

(2.2)


7

Chương 2. Phương pháp chiếu-điểm gần kề

Nếu dãy tham số hiệu chỉnh {µk } được chọn bị chặn thì dãy lặp {xk } của

phương pháp điểm gần kề hội tụ yếu tới một nghiệm của bài toán (2.1) (giả

thiết bài toỏn (2.1) cú nghim). O. Gă
uler [4] ó a ra ví dụ một hàm f -lồi
thực sự trong khơng gian Hilbert vơ hạn chiều l2 , thuật tốn điểm gần kề cho
T = ∂f hội tụ yếu nhưng không hội tụ mạnh.
2. Việc giải chính xác bài tốn phụ gần kề (2.2) nói chung khó thực hiện. Vì
vậy trong thực tế bài toán (2.2) chỉ cần giải gần đúng, nghĩa là tìm một cặp
y k ∈ H và v k ∈ T (y k ) sao cho
εk = v k + µk (y k − xk ),

(2.3)

trong đó εk là sai số trên nghiệm chính xác của bài tốn con (2.2).
Trong phương pháp điểm gần kề gần đúng thuần túy, điểm lặp tiếp theo
được xác định từ công thức
xk+1 := y k .
Các điều kiện đảm bảo các phép lặp (2.3) hội tụ là
∞
k

ε

≤ σk µ k ,

k=0

σk < ∞,

hoặc

∞
k

ε

k

k

≤ σk µ k y − x ,

k=0

σk < ∞.

Điều kiện đầu tiên sẽ đảm bảo sự hội tụ toàn cục, trong khi điều kiện thứ hai
(cùng với giả thiết nào đó) sẽ cho tốc độ hội tụ tuyến tính địa phương. Chú ý
rằng, dãy khả tổng {σk } nói chung là được chọn trước.

Trong điều kiện thứ hai, sai số cho phép σk thỏa mãn
εk
≤ σk ,
µ k y k − xk

∞

k=0

σk < ∞.

Trong mọi trường hợp σk → 0, nên các điều kiện đặt lên sai số εk là q chặt.
Nếu {σk } là dãy hằng khác khơng thì sự hội tụ của dãy lặp gần kề gần đúng
không được đảm bảo, thậm chí cả trong trường hợp hữu hạn chiều.

3. Để khắc phục những khó khăn trong đánh giá sai số của thuật toán điểm
gần kề gần đúng thuần túy, chúng ta sẽ phải cải tiến phương pháp này theo


8

Chương 2. Phương pháp chiếu-điểm gần kề

hướng cố định sai số cho phép σ. Nói cách khác là chúng ta chấp nhận y k ∈ H

và v k ∈ T (y k ) là một nghiệm của (2.3) nếu một trong hai điều kiện sau đúng:
εk
≤σ
µ k y k − xk

hoặc

εk
≤ σ,
vk

trong đó σ ∈ [0, 1). Dưới điều kiện này, siêu phẳng
Hk := {x ∈ H | v k , x − y k = 0}
tách chặt điểm lặp xk khỏi tập nghiệm S (giả thiết S khác rỗng). Chúng ta
thu được một thuật toán lai ghép chiếu-điểm gần kề sau đây:
Thuật toán 2.1.1. ([10]) Chọn giá trị ban đầu tùy ý x0 ∈ H và σ ∈ [0, 1).
Giả sử đã có xk , chọn µk > 0 và

tìm y k ∈ H sao cho εk = v k + µk (y k − xk ),

v k ∈ T (y k ),

trong đó
εk ≤ σ max{ v k , µk y k − xk }.
Dừng nếu v k = 0 hoặc y k = xk . Nếu không, xây dựng siêu phẳng
Hk = {x ∈ H | v k , x − y k = 0}.
Đặt
xk+1 = PHk (xk ).
Trong phương án cải tiến này, chúng ta giữ lại tất cả các ưu điểm về hội tụ
của phương pháp điểm gần kề trong khi sai số cho phép σ được cố định. Đặc
biệt, phép chiếu xk lên siêu phẳng Hk có thể được viết dưới dạng cơng thức
tường minh, bởi vậy nó khơng cần thêm nhiều chi phí tính tốn. Tuy nhiên,
phương pháp lai ghép này cũng chỉ sinh ra dãy {xk } hội tụ yếu đến nghiệm
của bài tốn (2.1).

Định nghĩa 2.1.1. Cho x ∈ H, µ > 0 và σ ∈ [0, 1). Cặp (y, v) ∈ H × H được

gọi là nghiệm gần đúng với sai số cho phép σ của 0 ∈ T (·) + µ(· − x) nếu
v ∈ T (y),
và

v + µ(y − x) = ε,
ε ≤ σ max{ v , µ y − x }.


9

Chương 2. Phương pháp chiếu-điểm gần kề

Mệnh đề 2.1.1. Cho x ∈ H, µ > 0, σ ∈ [0, 1) và giả sử rằng (y, v) là một
nghiệm gần đúng của 0 ∈ T (·) + µ(· − x) với sai số cho phép σ. Khi đó
x − y, v ≥ (1 − σ) max{µ x − y 2 , v 2 /µ} ≥ (1 − σ) v

x−y .

(2.4)

Đặt
H := {z ∈ H | z − y, v ≤ 0}.
Bốn khẳng định sau là tương đương
x ∈ H;
y = x;
v = 0;
x là một nghiệm của bài toán (2.1).
Hơn nữa,

PH (x) − x ≥ (1 − σ) max{ x − y , v /µ}.
Chứng minh. Để chứng minh (2.4) ta xét hai trường hợp
và µ x − y ≥ v .

µ x−y ≤ v

Trong trường hợp thứ nhất, kết hợp với Định nghĩa 2.1.1 ta có
và

ε ≤σ v
Suy ra
x − y, v ≥
và
x − y, v ≥

1
µ

x − y, v =
v

2

1−σ
v
µ

− ε, v
2

1
v − ε, v .
µ

≥

1−σ
v
µ

≥ (1 − σ) v

2

y−x .

Như vậy ta chứng minh được (2.4) đúng trong trường hợp thứ nhất.
Xét trường hợp thứ hai. Tương tự, ta có
ε ≤ σµ y − x .
Vì vậy
x − y, v = x − y, µ(x − y) + ε

(2.5)


10

Chương 2. Phương pháp chiếu-điểm gần kề

≥ µ(1 − σ) x − y 2 .

Hơn nữa, trong trường hợp này ta có
x − y, v ≥ µ(1 − σ) x − y
≥ (1 − σ) v

2

y−x .

Vậy (2.4) đúng trong cả hai trường hợp.
Tiếp theo chúng ta sẽ chỉ ra sự tương đương của bốn khẳng định. Giả sử
x ∈ H, suy ra x−y, v ≤ 0. Từ (2.4) suy ra x = y. Nếu x = y thì x−y, v = 0,

từ (2.4) suy ra v = 0. Một cách tương tự, nếu v = 0 thì x = y và x là một

nghiệm của bài toán (2.1). Cuối cùng, nếu x là nghiệm của bài toán (2.1), nghĩa
là 0 ∈ T (x) thì từ tính đơn điệu của T
0 ≤ y − x, v − 0 = y − x, v ,
và vì vậy x ∈ H.

Cuối cùng, để chứng minh (2.5) chú ý rằng nếu x ∈ H thì x = y, v = 0 và

(2.5) đúng. Ta xét trường hợp x ∈
/ H. Ta có
PH (x) = x −

v, x − y
v.
v 2

Vì vậy

PH (x) − x =

v, x − y
.
v

Nếu v /µ ≥ x − y thì v 2 /µ ≥ µ x − y

2

và (2.5) được suy ra từ bất đẳng

thức đầu tiên của (2.4). Nếu v /µ ≤ x − y thì (2.5) được suy ra từ bất đẳng

thức thứ hai của (2.4).

Chứng minh được hoàn thành.

2.2

Sự hội tụ mạnh của phương pháp chiếu-điểm
gần kề

2.2.1

Thuật toán chiếu-điểm gần kề

Thuật toán 2.2.1. ([11]) Cho x0 ∈ H là xấp xỉ ban đầu bất kỳ và σ ∈ [0, 1).
Giả sử tại bước lặp thứ k chúng ta đã có xk .

11

Chương 2. Phương pháp chiếu-điểm gần kề

Bước 1: Chọn µk > 0, tìm (y k , v k ) là một nghiệm gần đúng của bài toán
0 ∈ T (x) + µk (x − xk )
với sai số cho phép σ.
Bước 2 (Bước chiếu): Xác định
Hk = {z ∈ H | z − y k , v k ≤ 0},
và
Wk = {z ∈ H | z − xk , x0 − xk ≤ 0}.
Tính
xk+1 = PHk ∩Wk (x0 ).
Nhận xét. 1. Trong mỗi bước lặp chúng ta cần giải hai bài tốn:
Bài tốn 1: Tìm nghiệm gần đúng của bài tốn phụ điểm gần kề. Bài tốn này
ln có một nghiệm chính xác và nghiệm này là duy nhất. Việc tìm nghiệm gần
đúng ln được thực hiện đơn giản hơn tìm nghiệm chính xác. Bởi vậy bước
1 của Thuật tốn 2.2.1 hoàn toàn xác định. Tuy nhiên, cặp nghiệm (y k , v k ) ở
bước 1 không duy nhất, bởi vậy dãy lặp {xk } khơng duy nhất;

Bài tốn 2: Tìm hình chiếu của x0 lên giao của hai nửa không gian Hk ∩ Wk .
Trong phần tiếp theo của chương này, chúng ta sẽ chứng minh được tập Hk ∩Wk

ln ln khác rỗng ngay cả khi bài tốn (2.1) vơ nghiệm. Vì vậy, Bước chiếu
của Thuật tốn 2.2.1 được xác định và do đó nó xác định theo nghĩa sinh ra
một dãy vơ hạn {xk }.

2. Việc tìm hình chiếu của x0 lên Hk ∩ Wk tương đương với việc giải một hệ
gồm hai phương trình tuyến tính hai ẩn số (kể cả trong không gian vô hạn

chiều). Thật vậy, giả sử tại lần lặp thứ k có Hk ∩ Wk khác rỗng. Khi đó xk+1
là nghiệm của

sao cho

minz z − x0
z − yk ,

vk

2

≤ 0,

z − xk , x0 − xk ≤ 0.


12

Chương 2. Phương pháp chiếu-điểm gần kề

Biểu diễn z − x0 như là tổ hợp tuyến tính của v k và x0 − xk cộng với một vectơ

trực giao với v k và x0 − xk :

z − x0 = λ1 v k + λ2 (x0 − xk ) + h, trong đó h, v k = 0, h, x0 − xk = 0.
Bài toán trên trở thành
minλ1 ,λ2 ,h h
sao cho

2

+ λ1 v k + λ2 (x0 − xk )

λ1v k + λ2 (x0 − xk ) + x0 − y k ,

vk

2

≤ 0,

λ1v k + λ2 (x0 − xk ) + x0 − xk , x0 − xk ≤ 0.

Dễ thấy, tại nghiệm của bài tốn thì h = 0. Do đó λ1 và λ2 thu được bằng cách
giải bài tốn bình phương tối thiểu hai chiều với hai ràng buộc bất đẳng thức
tuyến tính.
Hơn nữa, nếu hình chiếu của x0 lên Hk
PHk (x0 ) = x0 −

v k , x0 − y k k
v
vk 2

nằm trong Wk thì
PHk (x0 ) = PHk ∩Wk (x0 ).
Bởi vậy trong trường hợp này chúng ta thu được xk mà không cần thêm bất
cứ tính tốn nào. Ngược lại, nếu PHk (x0 ) khơng nằm trong Wk ta có
PHk ∩Wk (x0 ) = x0 + λ1 v k + λ2 (x0 − xk ),
trong đó λ1 , λ2 là nghiệm của hệ phương trình tuyến tính hai phương trình với

hai ẩn số

λ1 v k 2
+ λ 2 v k , x0 − xk
λ v k , x0 − xk + λ x0 − xk 2
1
2

= − x0 − y k , v k ,
= − x0 − xk 2 .

Như vậy chúng ta có thể viết tường minh cơng thức của xk+1 , điều này có nghĩa
là chi phí tính tốn ở bước chiếu trong Thuật tốn 2.2.1 khơng đáng kể.


13

Chương 2. Phương pháp chiếu-điểm gần kề

2.2.2

Định lý hội tụ

Chúng ta sẽ chỉ ra một số tính chất của Thuật tốn 2.2.1 mà khơng cần giả
thiết bài tốn có nghiệm. Giả sử xk , y k , v k , k = 0, 1, . . . là những đại lượng sinh
bởi Thuật toán 2.2.1.
Mệnh đề 2.2.1. Giả sử Thuật tốn 2.2.1 đúng đến k + 1. Khi đó các bất đẳng
thức sau đúng
xk+1 − x0

2

≥ xk − x0

2

+ xk+1 − xk 2 ,

(2.6)

và
xk+1 − xk ≥ (1 − σ) max{ y k − xk , v k /µk }.

(2.7)

Chứng minh. Từ định nghĩa của Wk ta có
∀z ∈ Wk ⇒ z − xk , x0 − xk ≤ 0

⇒ z − x0 , x0 − xk + x0 − xk , x0 − xk ≤ 0
⇒ xk − x0

⇒ xk − x0

2

2

≤ z − x0 , xk − x0

≤ xk − x0 · z − x0

⇒ xk − x0 ≤ z − x0 .

Điều này có nghĩa xk là hình chiếu của x0 lên Wk . Áp dụng Bổ đề 1.2.1 với
A = Wk , x = xk+1 và y = x0 , ta thu được
PWk (xk+1 ) − PWk (x0 )

2

≤ xk+1 − x0

2

− PWk (xk+1 ) − xk+1 + x0 − PWk (x0 ) 2 .

Vì xk+1 ∈ Wk nên PWk (xk+1 ) = xk+1 . Hơn nữa, PWk (x0 ) = xk . Vì vậy,
xk+1 − xk

2

≤ xk+1 − x0

2

− xk+1 − xk+1 + x0 − xk 2 .

Từ đó suy ra (2.6).
Vì xk+1 ∈ Hk nên
xk+1 − xk ≥ PHk (xk ) − xk ≥ (1 − σ) max{ y k − xk , v k /µk }.
Bất đẳng thức cuối cùng được suy từ Mệnh đề 2.1.1.

14

Chương 2. Phương pháp chiếu-điểm gần kề

Hệ quả 2.2.1. Giả sử dãy tham số hiệu chỉnh {µk } bị chặn và Thuật tốn
2.2.1 sinh ra dãy vơ hạn {xk }. Khi đó một trong hai khẳng định sau đúng
(i) Dãy {xk } bị chặn và các điểm tụ yếu của nó nằm trong S = ∅;
(ii) S = ∅ và lim xk = ∞.
k→∞

Chứng minh. Áp dụng liên tiếp (2.6), ta được
k−1
k

x −x

0 2

≥

j=0

xj+1 − xj 2 .

(i) Giả sử {xk } bị chặn. Cho k → ∞ ta có
∞

xj+1 − xj

j=0

2

< ∞,

và vì vậy
lim xk+1 − xk = 0.

k→∞

Kết hợp với (2.7) và tính bị chặn trên của {µk }k ta thu được
lim y k − xk = 0,

(2.8)

lim v k = 0.

(2.9)

k→∞

k→∞

Vì dãy {xk } bị chặn trong khơng gian Hilbert nên nó có các điểm tụ yếu. Gọi
x
¯ là một điểm tụ yếu bất kỳ của dãy {xk } và dãy con {xkj } hội tụ yếu về x¯.

Theo (2.8), dãy {y kj } tương ứng sẽ hội tụ về x¯. Vì v k ∈ T (y k ) với v k hội tụ

mạnh về 0 và do tính đơn điệu cực đại của T suy ra 0 ∈ T (¯
x). Nghĩa là x¯ ∈ S.

(ii) Giả sử S = ∅. Từ chứng minh ở trên ta suy ra dãy {xk } không bị chặn
trong trường hợp này. Từ (2.6) suy ra dãy { xk − x0 } khơng giảm, do đó
xk − x0 → ∞ khi k → ∞ và vì vậy xk → ∞ khi k → ∞.

Tiếp theo chúng ta sẽ chứng minh sự hội tụ mạnh của {xk } đến nghiệm của

phương trình trong trường hợp S = ∅. Sau đó chúng ta sẽ chỉ ra tính chất của

dãy {xk } trong trường hợp phương trình vơ nghiệm.

Trường hợp 1. S = ∅. Cho x0 là giá trị ban đầu bất kỳ. Đặt
U (x0 ) = {x ∈ H | ∀z ∈ S, z − x, x0 − x ≤ 0}.
Chúng ta sẽ chỉ ra tập Hk ∩ Wk luôn chứa tập nghiệm S và vì thế nó khác

rỗng. Hơn nữa, chúng ta cũng sẽ chứng tỏ dãy {xk } nằm trong U (x0 ).


15

Chương 2. Phương pháp chiếu-điểm gần kề

Mệnh đề 2.2.2. Giả sử Thuật toán 2.2.1 thực hiện được đến bước k và xk ∈

U (x0 ). Khi đó những khẳng định sau đây đúng:
(i) S ⊆ Hk ∩ Wk ;

(ii) xk+1 hoàn toàn xác định và xk+1 ∈ U (x0 ).

Chứng minh.(i) Từ tính đơn điệu của T ta có
v k , y k − x∗ ≥ 0 ∀x∗ ∈ S.
Vì vậy S ⊆ Hk .

Từ giả thiết xk ∈ U (x0 ) suy ra
x∗ − xk , x0 − xk ≤ 0 ∀x∗ ∈ S.
Từ định nghĩa của Wk ta có S ⊆ Wk . Từ đó suy ra S ⊆ Hk ∩ Wk .

(ii) Từ (i) suy ra Hk ∩ Wk = ∅, do đó xk+1 hồn tồn xác định. Vì xk+1 là hình
chiếu của x0 lên Hk ∩ Wk nên theo Bổ đề 1.2.1 ta có

z − xk+1 , x0 − xk+1 ≤ 0 ∀z ∈ Hk ∩ Wk .
Vì S ⊆ Hk ∩ Wk nên bất đẳng thức trên đúng với mọi z ∈ S. Từ định nghĩa

của U (x0 ) suy ra xk+1 ∈ U (x0 ).

Hệ quả 2.2.2. Thuật tốn 2.2.1 hồn tồn xác định và sinh ra các dãy lặp
{xk }, {y k } và {v k } sao cho xk ∈ U (x0 ), S ⊆ Hk ∩ Wk với mọi k. Hơn nữa, nếu
dãy µk bị chặn trên thì {xk } bị chặn và các điểm tụ yếu của nó nằm trong S.

Chứng minh. Dễ thấy x0 ∈ U (x0 ). Áp dụng Mệnh đề 2.2.2 và quy nạp theo k

ta chứng minh được phần đầu của Hệ quả 2.2.2. Từ Hệ quả 2.2.1 suy ra dãy
{xk } bị chặn và các điểm tụ yếu của nó nằm trong S.
Định lý 2.2.1. Giả sử dãy {xk } được sinh ra từ Thuật tốn 2.2.1 và dãy tham

số hiệu chỉnh {µk } bị chặn. Khi đó dãy {xk } hội tụ mạnh tới x∗ = PS (x0 ).

Chứng minh. Vì tập nghiệm S lồi, đóng và giả thiết khác rỗng nên tồn tại phép
chiếu x0 lên S và do đó x∗ = PS (x0 ) hoàn toàn xác định. Từ cách xác định

xk+1 ta có
xk+1 − x0 ≤ z − x0

∀z ∈ Hk ∩ Wk .


16

Chương 2. Phương pháp chiếu-điểm gần kề

Vì x∗ ∈ S ⊆ Hk ∩ Wk nên với mọi k ta có
(2.10)

xk − x0 ≤ x∗ − x0 .

Theo Hệ quả 2.2.2, dãy {xk } bị chặn và có các điểm tụ yếu nằm trong S. Giả

sử {xkj là một dãy con hội tụ yếu của {xk } và x¯ là giới hạn yếu của nó. Rõ

ràng

x kj − x ∗

2

= xkj − x0 − (x∗ − x0 )
= x kj − x 0

≤ 2 x∗ − x0

2

2

2

+ x∗ − x0

2

− 2 x kj − x 0 , x ∗ − x 0

− 2 x kj − x 0 , x ∗ − x 0 ,

bất đẳng thức cuối suy ra từ (2.10). Từ tính hội tụ yếu của {xkj } tới x¯ ta thu
được

lim sup xkj − x∗

j→∞

2

≤2

x∗ − x0

2

− x¯ − x0 , x∗ − x0

.

(2.11)

Áp dụng Bổ đề 1.2.1 với A = S, x = x0 , z = x¯ ∈ S và chú ý rằng x∗ là hình
chiếu của x0 lên S ta có

x0 − x∗ , x¯ − x∗ ≤ 0.
Từ đó suy ra
x∗ − x0 ≤ x¯ − x0 , x∗ − x0 .
Kết hợp bất đẳng thức cuối cùng với (2.11) ta có
lim supj→∞ xkj − x∗

2

= 0.

Từ đó suy ra dãy {xkj } hội tụ mạnh về x∗ và rõ ràng x¯ = x∗ vì x¯ là một giới
hạn yếu của {xkj }.

Vì x
¯ là một điểm tụ yếu bất kỳ của {xk } nên x∗ là điểm tụ yếu duy nhất

của dãy này. Vì {xk } bị chặn nên tồn bộ dãy {xk } hội tụ yếu đến x∗ . Mặt
khác, mọi dãy con hội tụ yếu của {xk } hội tụ mạnh về x∗ . Vì vậy tồn bộ dãy
{xk } hội tụ mạnh tới x∗ ∈ S.

Trường hợp S = ∅. Trong trường hợp này dãy {xk } vẫn xác định với mọi k và

phân kỳ.


17

Chương 2. Phương pháp chiếu-điểm gần kề

Định lý 2.2.2. Nếu S = ∅ thì Thuật tốn 2.2.1 sinh ra một dãy vô hạn {xk }.

Nếu thêm điều kiện dãy tham số hiệu chỉnh {µk } bị chặn thì lim xk = ∞.
k→∞

Chứng minh. Trước hết, chúng ta chỉ ra Thuật toán 2.2.1 xác định bằng phương
pháp quy nạp.
Với k = 0: Bài tốn 0 ∈ T (x) + µ0 (x − x0 ) ln có nghiệm chính xác và vì

vậy nó có nghiệm gần đúng (y 0 , v 0 ). Chú ý rằng W0 = H và H0 luôn khác rỗng

(vì y0 ∈ H0 ). Bởi vậy phép chiếu x0 lên H0 ∩ W0 hoàn toàn xác định, hay tồn

tại x1 = PH0 ∩W0 (x0 ).

Giả sử xk , (y k , v k ) đã được xác định với k = 0, . . . , k. Chúng ta cần phải
chứng minh xk+1 cũng được xác định.
Gọi z 0 ∈ ri(D(T )), trong đó D(T ) là miền xác định của T . Đặt
ρ = max{ y k − z 0 , k = 0, . . . , k}
và
h(x) =



0

nếu x − z 0 ≤ ρ + 1,

+∞ trong các trường hợp còn lại.

Gọi h : H → R ∪ {+∞} là một hàm số nửa liên tục dưới và lồi thực sự, do đó
∂h đơn điệu cực đại và

T ′ = T + ∂h
cũng đơn điệu cực đại. Hơn nữa,
T ′ (z) = T (z) nếu z − z 0 < ρ + 1.
Do đó, v k ∈ T ′ (y k ) với k = 0, . . . , k. Như vậy, xk , (y k , v k ) thỏa mãn các điều
kiện của Thuật toán 2.2.1 áp dụng cho bài toán
0 ∈ T ′ (x).
Vì T ′ có miền xác định bị chặn nên bài tốn trên có nghiệm. Sử dụng Hệ quả
2.2.2 ta suy ra xk+1 được xác định. Vậy Thuật tốn 2.2.1 hồn tồn xác định.
Theo Hệ quả 2.2.1 ta suy ra lim xk = ∞.
k→∞


18

Chương 2. Phương pháp chiếu-điểm gần kề

2.3

Phương pháp chiếu-điểm gần kề song song

Xét hệ phương trình tốn tử

Ai (x) = 0,

i = 1, . . . , N,

(2.12)

trong đó H là không gian Hilbert và Ai : H → H là các toán tử đơn điệu cực

đại.

Thuật toán 2.3.1. ([3]) Chọn giá trị ban đầu bất kỳ x0 ∈ H, µ
¯ > 0 và

σ ∈ [0, 1). Giả sử tại lần lặp thứ k, đã có xk :

Bước 1: Tìm nghiệm (đồng thời) yki ∈ H của phương trình
Ai (yki ) + µik (yki − xk ) + εik = 0,

i = 1, . . . , N,

(2.13)

trong đó µik ∈ (0, µ
¯ ), εik ≤ σ max{ Ai (yki ) , µik xk − yki }.

Bước 2: Xác định (đồng thời) các hình chiếu của xk lên các nửa không gian
Hki = {z ∈ H | z − yki , Ai (yki ) ≤ 0}
và tìm chỉ số tối ưu jk (1 ≤ jk ≤ N ) sao cho
xk − PH jk (xk ) = max { xk − PHki (xk ) }.
k

i=1,...,N

Bước 3: Đặt
xk+1 = PH jk ∩W (x0 ),
k

k

trong đó Wk = {z ∈ H | z − xk , x0 − xk ≤ 0}.
Nếu xk+1 = xk thì dừng quá trình lặp.

Nhận xét. 1. Nếu xk ∈ Hki thì PHki (xk ) = xk , do đó
xk − PHki (xk ) = 0.
Ngược lại, ta có
Ai (yki ), xk − yki
Ai (yki ),
PHki (xk ) = xk −
i
2
Ai (yk )
suy ra
xk − PHki (xk ) =

| Ai (yki ), xk − yki |
.
Ai (yki )

(2.14)