Một số phương pháp chiếu giải bài toán tối ưu và bất đẳng thức biến phân

..

ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KHOA HỌC

NGUYỄN THANH HẰNG

MỘT SỐ PHƯƠNG PHÁP CHIẾU GIẢI BÀI TOÁN TỐI
ƯU VÀ BẤT ĐẲNG THỨC BIẾN PHÂN

Chuyên ngành: TOÁN ỨNG DỤNG
Mã số: 60.46.36

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học:
GS.TSKH. LÊ DŨNG MƯU

THÁI NGUYÊN - NĂM 2012

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




i

Mục lục
Mục lục

i

Lời cảm ơn

iii

Mở đầu

1

1 Toán tử chiếu lên tập lồi đóng

3

1.1

1.2

Một số khái niệm và tính chất cơ bản . . . . . . . . . . . .

3

1.1.1

Tập lồi và hàm lồi

. . . . . . . . . . . . . . . . . .

3

1.1.2

Dưới vi phân . . . . . . . . . . . . . . . . . . . . . .

6

1.1.3

Tính đơn điệu. . . . . . . . . . . . . . . . . . . . . .

7

Phép chiếu lên tập lồi . . . . . . . . . . . . . . . . . . . . .

8

2 Phương pháp chiếu
giải quy hoạch lồi.
2.1

2.2

14

Bài toán quy hoạch lồi. . . . . . . . . . . . . . . . . . . . . 14
2.1.1

Mơ tả bài tốn . . . . . . . . . . . . . . . . . . . . . 14

2.1.2

Sự tồn tại nghiệm tối ưu . . . . . . . . . . . . . . . 16

2.1.3

Điều kiện tối ưu. . . . . . . . . . . . . . . . . . . . . 17

Phương pháp chiếu dưới gradient xấp xỉ.

. . . . . . . . . . 26

3 Phương pháp chiếu giải bài toán bất đẳng thức biến phân
(VIP).
3.1

33

Bài toán bất đẳng thức biến phân. . . . . . . . . . . . . . . 33
3.1.1

Mơ tả bài tốn . . . . . . . . . . . . . . . . . . . . . 33

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




ii

3.2

3.1.2

Sự tồn tại nghiệm . . . . . . . . . . . . . . . . . . . 34

3.1.3

Các bài toán liên quan. . . . . . . . . . . . . . . . . 39

Phương pháp chiếu giải bài toán (VIP) . . . . . . . . . . . 42
3.2.1

Phương pháp chiếu cơ bản. . . . . . . . . . . . . . . 42

3.2.2

Phương pháp đạo hàm tăng cường. . . . . . . . . . . 48

Kết luận.

51

Tài liệu tham khảo

52

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

iii

Lời cảm ơn
Trong suốt q trình làm luận văn, tơi luôn nhận được sự hướng dẫn
và giúp đỡ của GS.TSKH Lê Dũng Mưu (Viện Tốn học Việt Nam). Tơi
xin chân thành bày tỏ lịng biết ơn sâu sắc đến thầy.
Tơi xin cảm ơn quý thầy, cô giảng dạy lớp cao học khóa 4 (2010 - 2012)
đã mang đến cho tơi nhiều kiến thức bổ ích trong khoa học và cuộc sống.
Mặc dù đã có nhiều cố gắng nhưng luận văn khó tránh khỏi những thiếu
sót. Tác giả mong nhận được những ý kiến đóng góp của q thầy, cơ và
bạn đọc để luận văn được hoàn thiện hơn.
Xin trân trọng cảm ơn!
Hải Phòng, tháng 05 năm 2012.
Người viết Luận văn

Nguyễn Thanh Hằng

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




1

Mở đầu
Giải tích lồi là bộ mơn cơ bản của giải tích hiện đại, nghiên cứu về tập
lồi và hàm lồi cùng những vấn đề liên quan. Bộ môn này có vai trị quan
trọng trong nhiều lĩnh vực khác nhau của toán học ứng dụng, đặc biệt là
trong tối ưu hoá, bất đẳng thức biến phân, các bài toán cân bằng. Một
trong những vấn đề quan trọng của giải tích lồi đó là phép chiếu. Đây là

một cơng cụ sắc bén và khá đơn giản để chứng minh nhiều định lý quan
trọng như Định lý tách, Định lý xấp xỉ tập lồi, Định lý về tồn tại nghiệm
của Bất đẳng thức biến phân. Hơn nữa phép chiếu còn được dùng để xây
dựng các phương pháp giải nhiều lớp bài toán quan trọng như bài toán
quy hoạch lồi, bất đẳng thức biến phân.
Bài toán bất đẳng thức biến phân được ứng dụng rộng rãi trong nhiều
lĩnh vực khác nhau như kinh tế, kỹ thuật, vật lý toán, vận trù học. Bài
toán bất đẳng thức biến phân được giới thiệu bởi Hartman và Stampacchia
vào năm 1966. Những nghiên cứu đầu tiên về bài toán này liên quan tới
việc giải các bài toán điều khiển tối ưu và các bài toán biên của phương
trình đạo hàm riêng. Bài tốn bất đẳng thức biến phân trong không gian
vô hạn chiều và các ứng dụng của nó được giới thiệu trong cuốn sách
"An Introduction to Variational Inequalities and Their Applications" của
D. Kinderlehrer và G. Stampacchia , xuất bản năm 1980 và trong cuốn
sách "Variational and Quasivariational Inequalities: Application to Free
Boundary Problems" của C. Baiocci và A. Capelo , xuất bản năm 1984.
Bài toán bất đẳng thức biến phân trong không gian hữu hạn chiều được giới
thiệu khá đầy đủ trong cuốn Finite-Dimensional Variational-Inequalities
and Complementarity Problems của S. Facchinei and J. Pang (2003).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




2

Những năm gần đây, bài toán bất đẳng thức biến phân đã có những
bước phát triển rất mạnh và thu hút được sự quan tâm của nhiều nhà
nghiên cứu. Một trong các hướng nghiên cứu quan trọng của bài toán bất

đẳng thức biến phân là việc xây dựng các phương pháp giải. Có rất nhiều
phương pháp giải, trong đó có phương pháp dựa vào cách tiếp cận điểm
bất động. Ý tưởng chính của phương pháp này là chuyển việc giải bất đẳng
thức biến phân về bài tốn tìm điểm bất động của một ánh xạ thích hợp.
Một trong những cách tiếp cận điểm bất động là dựa trên phương pháp
chiếu.
Một lớp bài toán quan trọng của bất đẳng thức biến phân là bài toán
Quy hoạch lồi là một lớp bài tốn cơ bản của tối ưu hóa. Một đặc điểm
cơ bản nhất của bài toán này là mọi điểm cực tiểu địa phương đều là
cực tiểu tuyệt đối. Hơn nữa lý thuyết về bài toán quy hoạch lồi đã được
quan tâm nghiên cứu và đã thu được nhiều kết quả quan trọng dựa trên
lý thuyết của giải tích lồi và tối ưu hóa. Có nhiều phương pháp hữu hiệu
cho bài tốn này, các phương pháp đó được giới thiệu trong cuốn sách
Tối ưu lồi (Convex Optimization) của tác giả Stephen Boyd and Lieven
Vandenberghe do nhà xuất bản Cambridge University Press in năm 2004.
Mục đích của luận văn này chủ yếu trình bày về ứng dụng của phép
chiếu vng góc vào bài toán bất đẳng thức biến phân và bài toán tơí ưu.
Luận văn bao gồm 3 chương: Chương 1 nhắc lại các kiến thức cơ bản
của tập lồi và hàm lồi, dưới vi phân, tính đơn điệu, phép chiếu lên tập lồi.
Chương 2 giới thiệu về bài toán quy hoạch lồi và trình bày phương pháp
chiếu dưới gradient xấp xỉ. Chương 3 giới thiệu bài toán bất đẳng thức
biến phân và trình bày một số phương pháp chiếu để giải bài tốn bất
đẳng thức biến phân.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




3

Chương 1
Tốn tử chiếu lên tập lồi đóng
Dưới đây, ta nhắc lại một số khái niệm và tính chất cơ bản của giải tích
lồi như: Tập lồi, hàm lồi, dưới vi phân,.... Các kiến thức trong chương này
được lấy chủ yếu từ các tài liệu ([1]), ([2]), ([3]) và sẽ được sử dụng ở các
chương sau.

1.1
1.1.1

Một số khái niệm và tính chất cơ bản
Tập lồi và hàm lồi

Đoạn thẳng nối hai điểm a, b ∈ Rn là tập các véc tơ x có dạng

{x ∈ Rn : x = αa + βb; α ≥ 0; β ≥ 0; α + β = 1} .
Tập lồi là một khái niệm cơ bản nhất của giải tích lồi nó được định nghĩa
như sau.
Định nghĩa 1.1. Một tập C ⊂ Rn được gọi là một tập lồi, nếu C chứa
mọi đoạn thẳng đi qua hai điểm bất kỳ của nó. Tức là C lồi khi và chỉ khi

∀x, y ∈ C; ∀λ ∈ [0, 1] ⇒ λx + (1 − λ) y ∈ C.
Ví dụ 1.1. • Hình cầu đóng B(a, r) = {x ∈ Rn : x − a ≤ r}.

• Tồn khơng gian, siêu phẳng, hình tam giác, hình vng,
hình trịn, mặt phẳng, nửa mặt phẳng trong R2 .
Mệnh đề 1.1. Giao của một họ bất kỳ các tập lồi là một tập lồi.
Chứng minh

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




4

Giả sử {Aα }α∈I là họ các tập lồi. Cần chứng minh A =

Aα là một tập
α∈I

lồi.

• Với mọi x1 , x2 ∈ A suy ra x1 , x2 ∈ Aα (∀α ∈ I).
• Với mọi α ∈ I . Do Aα lồi nên với mọi λ ∈ [0; 1] ta có
λx1 + (1 − λ) x2 ∈ A.
Theo định nghĩa A =

✷

Aα là một tập lồi.
α∈I

Mệnh đề 1.2. (Tính chất tập lồi)

(i) Nếu C, D ⊂ Rn là các tập lồi thì
C + D = {x + y : x ∈ C, y ∈ D} ;
αC = {αx : x ∈ C, α ∈ R} .
cũng là các tập lồi trong Rn , do đó C − D = C + (−1) D là tập lồi trong

Rn .

(ii) Nếu C ⊂ Rn , D ⊂ Rm là tập lồi thì C × D = {(x, y) : x ∈ C, y ∈ D}
cũng là tập lồi trong Rn+m .
Định nghĩa 1.2. Một tập C ⊂ Rn được gọi là nón nếu

∀x ∈ C, ∀λ > 0 ⇒ λx ∈ C.
Một nón được gọi là nón lồi nếu nó là nón và là một tập lồi.
Định nghĩa 1.3. Cho C ⊆ Rn là một tập lồi và xo ∈ C .

(i) Tập NC x0 := w : wt (x − x0 ) ≤ 0; ∀x ∈ C được gọi là nón pháp
tuyến ngồi của C tại x0 và tập −NC x0 được gọi là nón pháp tuyến
trong của C tại x0 .
(ii) Tập NCε x0 := w : wt (x − x0 ) ≤ ε; ∀x ∈ C được gọi là nón ε pháp tuyến ngồi của C tại x0 .
Định nghĩa 1.4. Cho hàm f : C → (−∞; +∞], C lồi là tập con của Rn .
Khi đó:

(a) f được gọi là hàm lồi trên C nếu
f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y), ∀x, y ∈ C, λ ∈ [0, 1].

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




5

(b) f được gọi là lồi chặt trên C nếu với mọi x, y ∈ C sao cho x = y với
mọi λ ∈ (0, 1), ta có
f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y).

(c) f được gọi là tựa lồi tại y ∈ C nếu với mọi x ∈ C sao cho f (x) ≤ f (y)
với mọi λ ∈ [0, 1], ta có
f (λx + (1 − λ)y) ≤ f (y).
Hàm f được gọi là lồi trên C , nếu nó tựa lồi tại mọi điểm của C .

(d) f được gọi là tựa lồi chặt tại y ∈ C nếu với mọi x ∈ C sao cho
f (x) < f (y) với mọi λ ∈ (0, 1), ta có
f (λx + (1 − λ)y) < f (y).
(e) f được gọi là lồi mạnh trên C với hệ số β > 0 nếu với mọi x, y ∈
C, λ ∈ (0, 1), ta có
f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) − λ(1 − λ)β||x − y||2 .
Hàm lồi mạnh là lồi chặt và lồi chặt suy ra lồi. Chẳng hạn hàm y = x2
là lồi mạnh, do đó lồi chặt và lồi. Điều ngược lại nói chung khơng đúng.
Ví dụ hàm affine y = ax + b lồi nhưng không lồi chặt, hàm y =

1
x

lồi chặt

nhưng khơng lồi mạnh trên (0, ∞) .
Ví dụ 1.2.

• Giả sử C ⊆ Rn . Hàm đặc trưng của C là hàm:
0
δC (x) :=

khi x ∈ C

+∞ khi x ∈

/ C.

δC (x) là hàm lồi khi và chỉ khi C là tập lồi.
• Hàm chuẩn f (x) = x =

x, x , x ∈ Rn là lồi

✷

Định nghĩa 1.5. Cho hàm f : C → (−∞; +∞], C lồi là tập con của Rn .
Khi đó, miền hữu hiệu của f , kí hiệu là domf , được xác định bởi

domf := {x ∈ C : f (x) < +∞}.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




6

Hàm f được gọi là chính thường nếu:

domf = ∅ và f (x) > −∞,

∀x ∈ domf.

Mệnh đề 1.3. Cho hàm f : C → R với C ⊆ Rn .
Nếu f là hàm số khả vi và ∇f liên tục. Khi đó, f là hàm lồi khi và chỉ
khi

f (y) − f (x) ≥ ∇f (x), y − x , ∀x, y ∈ C.
Định nghĩa 1.6. Hàm f : C → R ∪ {+∞} được gọi là liên tục Lipchits
quanh x0 nếu có L > 0 và lân cận U của x0 sao cho

f (x) − f (x ) ≤ L x − x , ∀x, x ∈ U ∩ C.
Khi đó, L được gọi là hằng số Lipchits. Hàm f được gọi là liên tục Lipchits
trên C nếu .

f (x) − f (x ) ≤ L x − x , ∀x, x ∈ C.
1.1.2

Dưới vi phân

Định nghĩa 1.7. Véc tơ w ∈ Rn được gọi là dưới đạo hàm của f tại

x0 ∈ Rn nếu
w, x − x0 ≤ f (x) − f (x0 ),

∀x ∈ Rn .

• Tập hợp tất cả các dưới đạo hàm của hàm f tại x0 được gọi là dưới vi
phân của f tại x0 và kí hiệu là ∂f (x0 ). Vậy
∂f (x0 ) := {w ∈ Rn : w, x − x0 ≤ f (x) − f (x0 ), ∀x ∈ Rn }.
• Hàm f được gọi là khả dưới vi phân tại x0 nếu ∂f (x0 ) = ∅.
Ví dụ 1.3. Cho C là một tập lồi, khác rỗng của không gian Rn . Xét hàm
chỉ trên tập lồi C có dạng

δC (x) :=

0
nếu x ∈ C,
+∞ nếu x ∈
/ C.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




7

Khi đó,

∂δC (x0 ) = NC (x0 ), ∀x0 ∈ C.
Thật vậy, nếu x0 ∈ C thì δC (x0 ) = 0 và

∂δC (x0 ) = {w ∈ Rn : δC (x) ≥ w, x − x0 , ∀x ∈ C}.
Hay ∂δC (x0 ) = {w ∈ Rn : 0 ≥ w, x − x0 , ∀x ∈ C} = NC (x0 ).

1.1.3

✷

Tính đơn điệu.

Trong mục này ta ln giả sử C là tập lồi trong Rn
Định nghĩa 1.8. (xem[5]) Giả sử C ⊆ Rn và F : Rn → Rn . Toán tử F
được gọi là:

(a) Đơn điệu mạnh trên C với hằng số δ > 0 nếu
F (x) − F (y) , x − y ≥ δ x − y 2 , ∀x, y ∈ C.
(b) Đơn điệu chặt trên C nếu
F (x) − F (y) , x − y > 0, ∀x, y ∈ C : x = y.
(c) Đơn điệu trên C nếu
F (x) − F (y) , x − y ≥ 0, ∀x, y ∈ C.
(d) Giả đơn điệu trên C nếu
F (y) , x − y ≥ 0 ⇒ F (x) , x − y ≥ 0, ∀x, y ∈ C.
Ví dụ 1.4. (a) Hàm F (x) = x, ∀x ∈ R là đơn điệu mạnh với δ = 21 .

(b) Hàm F (x) = x3 , ∀x ∈ R là đơn điệu chặt.
(c) Hàm F (x) = c, ∀x ∈ R là đơn điệu.
• ∇f là đơn điệu trên C nếu f là hàm lồi trên C .
Thật vậy, ta giả sử x, y ∈ C . Do f là hàm lồi ta có
f (x) ≥ f (y) + ∇f (y) , x − y
f (y) ≥ f (x) + ∇f (x) , y − x .
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




8

Cộng vế của hai bất đẳng thức trên ta được

∇f (y) − ∇f (x) , y − x ≥ 0, ∀x, y ∈ C
✷

Vậy ∇f đơn điệu trên C .

• ∇f là đơn điệu mạnh trên C nếu f là hàm lồi mạnh trên C .
• ∇f là đơn điệu chặt trên C nếu f là hàm lồi chặt trên C .

1.2

Phép chiếu lên tập lồi

Định nghĩa 1.9. Cho C khác rỗng (không nhất thiết lồi) và y là một véc
tơ bất kỳ, đặt

dC := inf x − y .
x∈C

Ta nói dC (y) là khoảng cách từ y đến C . Nếu tồn tại π ∈ C sao cho

dC (y) = π − y , thì ta nói π là hình chiếu (khoảng cách) của y trên C .
Ký hiệu: π = pC (y) là hình chiếu của y trên C .
Theo định nghĩa, ta thấy rằng hình chiếu pC (y) của y trên C sẽ là nghiệm
của bài toán tối ưu
1
min
x − y 2 |x ∈ C .
2
Nói cách khác việc tìm hình chiếu của y trên C có thể đưa về việc tìm cực
tiểu của hàm tồn phương x − y

2

trên C . Nếu C = ∅ thì dC (y) hữu

hạn vì

0 ≤ dC (y) ≤ x − y , ∀x ∈ D.
Mệnh đề 1.4. Cho C là tập lồi đóng khác rỗng. Khi đó:

(i) Với y ∈ Rn , π ∈ C hai tính chất sau là tương đương
a) π = pC (y),
b) y − π ∈ NC (π).
(ii) Với mọi y ∈ Rn , hình chiếu pC (y) của y trên C luôn tồn tại và duy
nhất.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




9

(iii) Nếu y ∈
/ C thì pC (y) − y, x − pC (y) = 0 là siêu phẳng tựa của C
tại pC (y) và tách hẳn y khỏi C , tức là
pC (y) − y, x − pC (y) ≥ 0,

∀x ∈ C,

và

pC (y) − y, y − pC (y) < 0.
(iv) Ánh xạ y → pC (y) có các tính chất sau:
a) pC (x) − pC (y) ≤ x − y , ∀x, ∀y. (tính khơng giãn),

b) pC (x) − pC (y) , x − y ≥ pC (x) − pC (y) 2 . (tính đồng bức).
Chứng minh.

(i) • Giả sử có π = pC (y) cần chứng minh y − π ∈ NC (π).
Lấy x ∈ C và λ ∈ (0; 1). Đặt
xλ := λx + (1 − λ) π.
Ta có x, π ∈ C và tập C lồi nên xλ ∈ C .
Do π = pC (y) suy ra π − y

≤ y − xλ

⇔ π−y

2

≤ y − xλ

⇔ π−y

2

≤ y − (λx + (1 − λ) π)

⇔ π−y

2

≤ λ (π − x) + (y − π)

⇔ π−y

2

≤ λ2 π − x

⇔ λ2 π − x

2

2

2

+ y−π

2
2
2

+ 2λ π − x, y − π

+ 2λ π − x, y − π ≥ 0.

Do λ > 0 nên λ π − x

2

+ 2 π − x, y − π ≥ 0 đúng với mọi x ∈ C và

λ ∈ (0; 1).

Do đó λ → 0 thì π − y, x − π ≥ 0 với mọi x ∈ C .
Suy ra y − π ∈ NC (π) .
• Có y − π ∈ NC (π). Chứng minh π = pC (y).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




10

Do y − π ∈ NC (π) nên với mọi x ∈ C ta có

(y − π)T (x − π) ≤ 0
⇔ (y − π)T (x − y + y − π) ≤ 0
⇔ y−π

2

+ (y − π)T (x − y) ≤ 0.

Theo bất đẳng thức Cauchy-Schwarz ta có:

y−π

2

≤ (y − π)T (x − y) ≤ y − π

y−x .

Suy ra y − π ≤ y − x , ∀x ∈ C . Do đó π = pC (y).

p (y) = y
(ii) Nếu y ∈ C thì
dC (y) = 0.
Nếu y ∈
/ C , ta có dC (y) = π − y nên theo định nghĩa cận dưới đúng,
tồn tại một dãy xk ∈ C sao cho

lim xk − y = dC (y) < +∞.

k→∞

Vì dãy xk bị chặn nên tồn tại một dãy con xkj hội tụ đến điểm π nào
đó. Do C đóng, nên π ∈ C . Vậy

π − y = lim xkj − y = lim xk − y = dC (y) .
j→∞

k→∞

Suy ra π là hình chiếu của y trên C .
Ta chứng minh tính duy nhất. Giả sử tồn tại hai điểm π 1 và π 2 là hình
chiếu của y trên C thì y − π 1 ∈ NC π 1 ; y − π 2 ∈ NC π 2 .

 π 1 − y, π 1 − π 2 ≥ 0
⇒
 π 2 − y, π 2 − π 1 ≥ 0.
Cộng vế với vế π 1 − π 2 ≤ 0 suy ra π 1 = π 2 .

Vậy hình chiếu pC (y) của y trên C luôn tồn tại và duy nhất.

(iii) Do y − π ∈ NC (π) nên
π − y, x − π ≥ 0, ∀x ∈ C.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




11

Vậy π − y, x = π − y, π là một siêu phẳng tựa của C tại π . Siêu phẳng
này tách hẳn khỏi y vì y = π nên

π − y, x − π = − π − y

2

< 0.

(iv)
a) Theo (ii) Ánh xạ x → p (x) xác định khắp nơi. Do
z − p (z) ∈ NC (p (z)) , ∀z.
Áp dụng với z = y và z = x , ta có

x − p (x) , p (y) − p (x) ≤ 0,
y − p (y) , p (x) − p (y) ≤ 0.
Cộng vế hai bất đẳng thức được

p (y) − p (x) , p (y) − p (x) + x − y ≤ 0.
Theo bất đẳng thức Cauchy-Schwarz ta có: p (x) − p (y) ≤ x − y .

b) Theo tính chất (ii) áp dụng lần lượt với p(x) và p(y), ta có:
p (x) − x, p (x) − p (y) ≤ 0,
y − p (y) , p (x) − p (y) ≤ 0.
Cộng hai bất đẳng thức này ta được

p (x) − p (y) + y − x, p (x) − p (y) ≤ 0
⇔ p (x) − p (y)

2

+ p (x) − p (y) , y − x ≤ 0

⇔ p (x) − p (y) , x − y ≥ p (x) − p (y) 2 .
✷

Vậy ta có điều cần chứng minh.
Chú ý. Phép chiếu cịn một tính chất mạnh hơn tính khơng giãn là

p (x) − p (y)

2

≤ x−y

2

− p (x) − p (y) − x + y

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

2

∀x, y.



(1.1)


12

Thật vậy, do p (x) − p (y) , x − y ≥ p (x) − p (y)

2

xét vế phải của bất

phương trình (1.1) ta có

x−y

2

2

− p (x) − p (y) − x + y

= x−y

2

−

= x−y

2

− p (x) − p (y)

p (x) − p (y)
2

2

2

+ y−x
2

− y−x

= 2 p (x) − p (y) , x − y − p (x) − p (y)
≥ 2 p (x) − p (y)
⇒ x−y

2

2

− p (x) − p (y)

2

+ 2 p (x) − p (y) , x − y
2

= p (x) − p (y)
2

− p (x) − p (y) − x + y

− 2 p (x) − p (y) , x − y

2

≥ p (x) − p (y) 2 .
✷

Trong chương 2 ta sẽ sử dụng kiến thức sau
Định nghĩa 1.10. Cho C ⊆ Rn là tập lồi và f : C → Rn là hàm lồi và

ε ≥ 0. Xét bài toán
min f (x) .

(P )

x∈C

Một điểm x
¯ ∈ D được gọi là ε - nghiệm của bài toán (P ) nếu

f (¯
x) ≤ min f (x) + ε.
x∈C

Mệnh đề 1.5. Véctơ x
¯ ∈ D được gọi là ε - nghiệm của bài toán (P ) khi
và chỉ khi 0 ∈ ∂ε f (¯
x).
Định nghĩa 1.11. Cho C là tập lồi đóng khác rỗng trong Rn , x ∈ Rn và

ε ≥ 0. Một điểm px ∈ C được gọi là ε - chiếu của x trên C nếu px là một
ε - nghiệm của bài toán
min
x∈C

1
2

x − px
của x trên C .

Nghĩa là

2

≤

1
2

1
x−y
2

x − pC (x)

2

2

.

+ ε. Trong đó pC (x) là hình chiếu

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




13

Mệnh đề 1.6. Cho C là tập lồi đóng khác rỗng. Khi đó px là ε - chiếu
của x trên C khi và chỉ khi

x − px , px − y ≥ −ε, ∀y ∈ C.

(1.2)

Chứng minh
Giả sử px là ε - chiếu của x trên C , ta có

1
x−y
2

min
y∈C

2

⇔ min

1
x−y
2

2

+ δC (y) .

(1.3)

Trong đó δC (y) là hàm chỉ của y trên C . Đặt

f (y) :=

1
x − y 2 , x ∈ Rn .
2

Theo định nghĩa 1.11 px là ε- nghiệm của bài toán (1.3). Từ mệnh đề 1.5
ta được

0 ∈ ∂ε [f (px ) + δC (px )] = ∂ε f (px ) + ∂ε δC (px ) .

(1.4)

Theo ví dụ 1.3 ∂ε δC (px ) = NCε (px ), nên theo (1.4) ta có:

0 ∈ {−x + px } + NCε (px ).
Suy ra

0 ∈ (x − px ) ∈ NCε (px ) ⇔ x − px , ω − px ≤ ε, ∀ω ∈ C.
Ngược lai, giả sử có (1.2) ta có

x − pC (x)

2

= x − px

2

+ 2 x − px , px − pC (x) + px − pC (x)

≥ x − px

2

+ 2 x − px , px − pC (x) .

⇒ x − pC (x)

2

≥ x − px

2

2

− 2ε.
✷

Chứng tỏ pC (x) là ε - chiếu của x trên C .

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




14

Chương 2
Phương pháp chiếu
giải quy hoạch lồi.

Trong chương này chúng ta sẽ trình bày phương pháp cơ bản nhất dùng
để giải bài tốn quy hoạch lồi đó là phương pháp chiếu dưới gradient xấp
xỉ. Các kiến thức trong chương này chủ yếu được lấy từ tài liệu ([1]), ([7]).

2.1

Bài toán quy hoạch lồi.

2.1.1

Mơ tả bài tốn

Cho C là tập lồi đóng, khác rỗng trong Rn và f : C → R là hàm lồi
trên C . Bài toán quy hoạch lồi là bài tốn
Tìm x∗ ∈ C sao cho f (x∗ ) := min {f (x) : x ∈ C }

(P ).

Bài tốn này được hiểu là hãy tìm x∗ ∈ C sao cho f (x∗ ) ≤ f (x) với
mọi x ∈ C . Mỗi điểm x ∈ C được gọi là một phương án chấp nhận được
của bài toán (P ). Tập C được gọi là miền (tập) chấp nhận được, f gọi là
hàm mục tiêu của bài tốn (P). Thơng thường tập C được cho như tập
nghiệm của một hệ bất đẳng thức và đẳng thức có dạng:

C := {x ∈ X : gj (x) ≤ 0, hi (x) = 0, j = 1..., m; i = 1..., k} .

(2.1)

Trong đó X là tập lồi khác rỗng trong Rn và gj , hi : Rn → R, gj lồi, hi là
hàm affine. Bài toán (P ) cho bởi (2.1) gọi là trơn trên hàm mục tiêu và

các ràng buộc đều trơn (khả vi).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




15

Bài tốn (P ) có rất nhiều ứng dụng trong các lĩnh vực khác nhau, ví
dụ trong kinh tế nó là bài toán xác định phương án sản xuất sao cho chi
phí thấp nhất. Ví dụ x là phương án sản xuất mà mỗi tọa độ xj của nó là
số lượng sản phẩm loại j cần sản xuất, còn f (x) là chi phí ứng vơi phương
án x. Bài tốn (P ) trong mơ hình này có nghĩa là tìm một phương án sản
xuất trong tập hợp của các phương án chấp nhận được C sao cho chi phí
ứng với phương án này là thấp nhất.
Định nghĩa 2.1. Điểm x∗ ∈ C được gọi là lời giải tối ưu địa phương của
bài toán (P ) nếu tồn tại một lân cận U của x sao cho

f (x∗ ) ≤ f (x) , ∀x ∈ U ∩ C.
Và x∗ được gọi là lời giải tối ưu toàn cục của (P) nếu

f (x∗ ) ≤ f (x) , ∀x ∈ C.
Bổ đề 2.1. Đối với bài toán quy hoạch lồi (P ) mọi nghiệm tối ưu địa
phương đều là tối ưu toàn cục. Hơn nữa tập nghiệm tối ưu là một tập lồi.
Chứng minh. Giả sử x∗ là nghiệm tối ưu địa phương của f trên C , khi
đó tồn tại lân cận U của x∗ sao cho

f (x∗ ) ≤ f (x) , ∀x ∈ U ∩ C.
Với mọi x ∈ C và 0 < λ < 1. Do tập C là tập lồi và U là lân cận của

x∗ ∈ C nên
xλ := (1 − λ) x∗ + λx ∈ U ∩ C.
Do f (x∗ ) ≤ f (xλ ) và f lồi, ta có

f (x∗ ) ≤ f (xλ ) ≤ (1 − λ) f (x∗ ) + λf (x) , ∀x ∈ C.
Vậy x∗ là nghiệm tối ưu toàn cục của f trên C .
Giả sử x∗ , y ∗ ∈ C là điểm tối ưu của f trên C vậy

f (x∗ ) = f (y ∗ ) ≤ f (x) , ∀x ∈ C.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




16

Lấy z ∗ = λx∗ + (1 − λ) y ∗ với 0 < λ < 1. Do C lồi nên z ∗ ∈ C và do f lồi
nên:

f (z ∗ ) ≤ λf (x∗ ) + (1 − λ) f (y ∗ ) ≤ f (x)
⇒ f (z ∗ ) ≤ f (x) ,

∀x ∈ C.

Vậy z ∗ là điểm tối ưu của f trên C hay tập nghiệm tối ưu của f trên C

✷

là lồi.

2.1.2

Sự tồn tại nghiệm tối ưu

Xét bài tốn tối ưu tồn cục (P ). Có 4 trường hợp:

• C = ∅ (khơng có nghiệm).
• f không bị chặn dưới trên C ( inf f (x) = −∞).
x∈C

• inf f (x) < ∞ nhưng giá trị cực tiểu khơng đạt được trên C .
x∈C

• Tồn tại x∗ ∈ C sao cho f (x∗ ) = min f (x).
x∈C

Định lí 2.1. Điều kiện cần và đủ để tồn tại nghiệm tối ưu tồn cục của
bài tốn (P ) là

F + (C) := {t ∈ Rn : f (x) ≤ t, x ∈ C} ,
đóng và bị chặn dưới.
Chứng minh. Nếu x∗ là nghiệm tối ưu thì F + (C) = [f (x∗ ) , +∞] đóng
(là phần bù của một tập mở) và bị chặn dưới.
Ngược lại, giả sử F + (C) bị chặn dưới. Đặt t∗ = infF + (C) thì t > −∞.
Do F + (C) đóng, t∗ ∈ F + (C) nên tồn tại x∗ ∈ C sao cho f (x∗ ) = t∗ .
Chứng tỏ x∗ là một điểm cực tiểu của f trên C .

✷

Định lí 2.2. (Weierstrass) Nếu C là tập compact và f là nửa liên tục
dưới trên C thì bài tốn (P ) có nghiệm tối ưu.
Chứng minh. Đặt α := inf f (x). Theo định nghĩa có một dãy xk ⊂ C
x∈C

sao cho lim f xk = α. Do C là compact nên có một dãy con hội tụ về
k→+∞

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




17

x0 ∈ C , khơng giảm tính tổng qt có thể coi xk → x0 .
Vì f là nửa liên tục dưới nên α > −∞. Nhưng x0 ∈ C nên theo định
nghĩa của α, ta phải có f x0 ≥ α. Vậy f x0 = α.
✷
Hệ quả 2.1. Nếu f là nửa liên tục dưới trên C và thỏa mãn điều kiện bức
sau

f (x) → +∞ khi x ∈ C, x → +∞
thì f có điểm cực tiểu trên C .
Chứng minh. Đặt C (a) := {x ∈ C : f (x) ≤ f (a)} với a ∈ C . Rõ ràng,

C (a) đóng và bị chặn nên f có điểm cực tiểu trên C (a) và điểm đó cũng
chính là điểm cực tiểu của f trên C .
✷

2.1.3

Điều kiện tối ưu.

Trong phần này, ta sẽ sử dụng các định lý tách của tập lồi và bổ đề
Farkas, đây cũng là định lý cơ bản của giải tích lồi và là công cụ sắc bén
để chứng minh các điều kiện tối ưu. Các kiến thức chủ yếu được lấy từ tài
liệu ([1]).
Định nghĩa 2.2. Cho hai tập C và D khác rỗng trong Rn , ta nói siêu
phẳng aT x = α tách C và D nếu

aT x ≤ α ≤ aT y, ∀x ∈ C, ∀y ∈ D.
Ta nói siêu phẳng aT x = α tách chặt C và D nếu

aT x < α < aT y, ∀x ∈ C, ∀y ∈ D.
Ta nói siêu phẳng aT x = α tách mạnh C và D nếu

sup aT x < α < inf aT y.
x∈C

y∈D

Bổ đề 2.2. (Bổ đề liên thuộc) Cho C ⊂ Rn là một tập lồi khác rỗng. Giả
sử x0 ∈
/ C . Khi đó tồn tại t ∈ Rn , t = 0 thỏa mãn:

t, x ≥ t, x0

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

∀x ∈ C.




18

Chứng minh. Áp dụng (iii) của mệnh đề 1.4 với pC (y) = x0 , t =

pC (y) − y ta có
t, x − x0 ≥ 0, ∀x ∈ C.
Suy ra t, x ≥ t, x0

✷

∀x ∈ C.

Định lí 2.3. (Định lý Tách 1) Cho C và D là hai tập lồi khác rỗng trong
Rn sao cho C ∩ D = ∅. Khi đó có một siêu phẳng tách C và D.
Định lý tách 1 có thể suy ra ngay từ bổ đề trên, chính là định lý tách
một tập lồi và một phần tử khơng thuộc nó.
Chứng minh.
Do C và D là lồi, nên C −D cũng lồi. Hơn nữa 0 ∈
/ (C − D), vì C ∩D = ∅.
Theo bổ đề trên áp dụng với x0 = 0, tồn tại véc-tơ t ∈ Rn , t = 0 với mọi

z ∈ C − D. Vì z = x − y với x ∈ C, y ∈ D, nên ta có
t, x ≥ t, y ∀x ∈ C, y ∈ D.
Lấy α : = sup t, y , khi đó siêu phẳng t, x = α tách C và D.
y∈D

✷

Định lí 2.4. (Định lý tách 2 - Định lý nói về việc tách mạnh hai tập lồi).
Cho C và D là hai tập lồi đóng khác rỗng sao cho C ∩ D = ∅. Giả sử có ít
nhất một tập com-pắc. Khi đó hai tập này có thể tách mạnh được bởi một
siêu phẳng.
Bổ đề 2.3. Cho C ⊂ Rn là một tập lồi đóng khác rỗng sao cho 0 ∈
/ C.
Khi đó tồn tại một véc-tơ t ∈ Rn , t = 0 và α > 0 sao cho

t, x ≥ α > 0, ∀x ∈ C.
Theo bổ đề này, thì C và điểm gốc tọa độ có thể tách mạnh, ví dụ bởi siêu
phẳng t, x = α2 .
Chứng minh bổ đề. Do C đóng và 0 ∈
/ C , nên tồn tại quả cầu B tâm ở
gốc, bán kính r > 0 sao cho C ∩ B = ∅. Áp dụng định lý tách 1 cho hai
tập C và B , ta có t ∈ Rn \ {0} và α ∈ R, sao cho

t, x ≥ α ≥ t, y

∀x ∈ C, ∀y ∈ B.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




19

Bằng cách chuẩn hóa ta có thể xem t = 1 và do đó khoảng cách từ gốc
đến siêu phẳng ít nhất là bằng α ≥ r. Vậy thì

t, x ≥ α ≥ r > 0.
✷
Chứng minh định lý tách 2. Giả sử C là tập compact. Ta chỉ ra tập
C − D đóng. Thật vậy, giả sử z k ∈ C − D và z k → z . Ta có z k = xk − y k
với xk ∈ C, y k ∈ D. Vì C compact, nên có một dãy con xkj → x khi
j → + ∞. Vậy z = x − y ∈ C − D. Chứng tỏ C − D là tập đóng.
Do 0 ∈
/ C−D, nên theo bổ đề trên, tồn tại t = 0, sao cho t, x − y ≥ α > 0
với mọi x ∈ C, y ∈ D. Vậy
inf t, x −

x∈C

α
α
≥ sup t, y + .
2
2
y∈D

✷
Chú ý. Điều kiện một trong hai tập là compact trong định lý là khơng
thể bỏ được. Hãy xét ví dụ trong đó
Chứng tỏ C và D có thể tách mạnh.

C := (x, t) ∈ R2 x ≥ 0, t = 0 , D :=

(x, t) ∈ R2 t ≥

1
, t > 0, x > 0 .
x

Rõ ràng hai tập này lồi, đóng khơng có điểm chung, nhưng chúng khơng
thể tách mạnh được.
Bổ đề 2.4. (Bổ đề Farkas) Cho A là một ma trận thực cấp m × n và

a ∈ Rn . Khi đó trong hai hệ dưới đây có một hệ và chỉ duy nhất một hệ
có nghiệm:
Ax ≥ 0, aT x < 0 với một x ∈ Rn ,
AT y = a, y ≥ 0 với một y ∈ Rm .
Một cách phát biểu tương đương, dưới ngơn ngữ hình học, của bổ đề
Farkas là: Nửa không gian x aT x ≥ 0 chứa nón {x |Ax ≥ 0} khi và chỉ
khi vectơ a nằm trong nón sinh bởi các hàng của ma trận A. Tức là

AT x ≥ 0 ⇒ aT x ≥ 0 khi và chỉ khi AT y = a, y ≥ 0.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




20

Chứng minh. Giả sử AT y = a, y ≥ 0 với một y ∈ Rm có một nghiệm y
nào đó. Nếu như Ax ≥ 0, thì từ AT y = a, nhân tích vơ hướng với x, và
do Ax ≥ 0, y ≥ 0, ta có aT x = y T Ax ≥ 0. Vậy Ax ≥ 0, aT x < 0 với một

x ∈ Rn khơng thể có nghiệm.
Bây giờ ta giả sử AT y = a, y ≥ 0 với một y ∈ Rm khơng có nghiệm. Lấy
tập C = x| ∃y ≥ 0 : AT y = x . Hiển nhiên C là tập lồi đóng và 0 ∈ C .
Do AT y = a, y ≥ 0 với một y ∈ Rm khơng có nghiệm , nên a ∈
/ C . Theo
định lý tách mạnh, tồn tại p = 0 và một số α ∈ R sao cho pT a < α < pT x
với mọi x ∈ C . Do 0 ∈ C nên α < 0. Thay x = AT y , với y ≥ 0, ta viết
được α ≤ pT AT y = y T Ap.
Chú ý rằng nếu x ∈ C thì ζx ∈ C với mọi ζ ≥ 0, vì từ x = AT y có
ζx = AT ζy . Vậy các tọa độ của y có thể lớn tùy ý, nên từ bất đẳng thức
α ≤ pT AT y = y T Ap, suy ra Ap ≥ 0. Vậy ta đã chỉ ra sự tồn tại của một
véc-tơ p sao cho Ap ≥ 0 và aT p < 0. Chứng tỏ hệ Ax ≥ 0, aT x < 0 với
một x ∈ Rn có nghiệm.
✷
Định lí 2.5. Giả sử C là tập lồi và f là hàm lồi, khả vi phân trên C .Khi
đó x∗ là nghiệm tối ưu của bái toán (P ) khi và chỉ khi

0 ∈ ∂f (x∗ ) + NC (x∗ ) ,

(2.2)

trong đó NC (x∗ ) ký hiệu nón pháp tuyến của C tại x∗ .
Chứng minh.

⇒ Giả sử x∗ là nghiệm tối ưu của bài tốn. Đặt:
E := {(t, x) ∈ R × C : t > f (x) − f (x∗ )} ,
G := {0} × C ⊂ R × Rn .
Cả E và G đều là tập lồi (Do C và f lồi). Hơn nữa E ∩ G = ∅, vì trái lại
thì tồn tại (t¯, x

¯) ∈ E và (t¯, x¯) ∈ G

⇒ (t¯, x¯) = (0, x¯) với x¯ ∈ C ⇒ t¯ = 0.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




21

Kết hợp với (t¯, x
¯) ∈ E ⇒ t > f (x) − f (x∗ ) . Nên

0 > f (x) − f (x∗ ) ⇒ f (x∗ ) > f (x) .
Mâu thuẫn với giả thiết x∗ là nghiệm tối ưu, vậy E ∩ G = ∅.
Áp dụng định lý siêu phẳng tách tồn tại a = (u0 , u) = 0 ∈ R × Rn sao cho

a, y ≤ a, z , ∀y ∈ E, ∀z ∈ G.

(2.3)

Do y ∈ E và z ∈ G nên

y = (t, x) ∈ R × C, z = (0, v) ∈ {0} × C.
Thay vào (2.3), ta có:

(u0 , u) , (t, x) ≤ (u0 , u) , (0, x)
⇔ u0 t + u, x ≤ u0 0 + u, v ,

∀x, v ∈ C.

(2.4)

Cho t → +∞ ta có u0 ≤ 0. Xét trong trường hợp u0 = 0 thì từ (2.4), ta
có:

u, x ≤ u, v
⇔ u, v − x ≥ 0,

∀v, x ∈ C.

(2.5)

Đặt D = C − C = {z : z = a − b; a, b ∈ C} . Theo (2.5) suy ra

u, z ≥ 0,

∀z ∈ D.

(2.6)

Do tập C lồi nên D lồi hay intD = ∅.
Theo (2.6) ta có u = 0, mâu thuẫn với giả thiết a = (u0 , u) = 0. Do đó

u0 < 0. Chia cả hai vế của (2.4) cho −u0 > 0, ta có
−t +

u
,x

−u0

≤

u
, v , ∀x, v ∈ C; ∀t > f (x) − f (x∗ ) .
−u0

Cho t → f (x) − f (x∗ ), ta được

−f (x) + f (x∗ ) +

u
,x
−u0

≤

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

u
, v , ∀x, v ∈ C.
−u0