Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp dụng vào bài toán chấp nhận tách

..

ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KHOA HỌC

ĐÀO THU THỦY

PHƯƠNG PHÁP CHIẾU ĐẠO HÀM
GIẢI BÀI TOÁN TỐI ƯU LỒI VÀ
ÁP DỤNG VÀO BÀI TOÁN CHẤP NHẬN TÁCH

LUẬN VĂN THẠC SĨ TOÁN HỌC

THÁI NGUYÊN - 2015


ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KHOA HỌC

ĐÀO THU THỦY

PHƯƠNG PHÁP CHIẾU ĐẠO HÀM
GIẢI BÀI TOÁN TỐI ƯU LỒI VÀ
ÁP DỤNG VÀO BÀI TỐN CHẤP NHẬN TÁCH

Chun ngành: Tốn ứng dụng
Mã số:

60 46 01 12

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC

GS.TSKH. LÊ DŨNG MƯU

THÁI NGUYÊN - 2015


i

Mục lục

Danh mục các ký hiệu, các chữ viết tắt

iii

mở đầu

1

1

Kiến thức chuẩn bị

4

1.1

Không gian Hilbert . . . . . . . . . . . . . . . . . . . . . .

4

1.1.1

Không gian tiền Hilbert . . . . . . . . . . . . . . .

4

1.1.2

Không gian Hilbert . . . . . . . . . . . . . . . . . .

7

1.2

2

Tập lồi, hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2.1

Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . 10

1.2.2

Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . 15

Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp dụng
vào bài toán chấp nhận tách

24

2.1

Bài toán tối ưu lồi . . . . . . . . . . . . . . . . . . . . . . . 24

2.2

Thuật toán chiếu đạo hàm . . . . . . . . . . . . . . . . . . . 32

2.3

2.2.1

Toán tử chiếu lên tập lồi trong khơng gian Hilbert . . 32

2.2.2

Trình bày thuật toán . . . . . . . . . . . . . . . . . 40

2.2.3

Định lý hội tụ . . . . . . . . . . . . . . . . . . . . . 41

2.2.4

Ví dụ minh họa . . . . . . . . . . . . . . . . . . . . 43

Áp dụng vào bài toán chấp nhận tách . . . . . . . . . . . . . 45
2.3.1

Phát biểu bài toán chấp nhận tách . . . . . . . . . . 45


ii
2.3.2

Áp dụng phương pháp chiếu đạo hàm giải bài toán
chấp nhận tách . . . . . . . . . . . . . . . . . . . . 46

Tài liệu tham khảo

54


iii

Danh mục các ký hiệu, các chữ viết tắt
H

không gian Hilbert thực

R

Tập số thực R

[a, b]

Đoạn đóng của tập hợp số thực với các đầu mút a, b và
a

(a, b)

Khoảng mở của tập hợp số thực với các đầu mút a, b và
a
∀

Với mọi

∃

Tồn tại

,

Tích vơ hướng

.

Chuẩn

I

Ánh xạ đồng nhất

PD (x)

Hình chiếu của x lên D

⊥

Vng góc

⊂

Nằm trong

∩

Giao

⊕

Tổng trực tiếp


1

Mở đầu
Tối ưu hóa được khởi nguồn như một ngành của Tốn học, có rất nhiều
ứng dụng trong quy hoạch tài nguyên, thiết kế chế tạo máy, điều khiển tự
động, quản trị kinh doanh...trong việc tạo nên các hệ hỗ trợ ra quyết định
trong quản lý và phát triển các hệ thống lớn.
Chính vì vậy, các lĩnh vực của tối ưu hóa ngày càng trở nên đa dạng mang
nhiều tên gọi khác nhau như Quy hoạch toán học, Điều khiển tối ưu, Vận trù
học, Lý thuyết trị chơi...Hiện nay mơn học Tối ưu hóa được đưa vào giảng
dạy trong nhiều chương trình đào tạo đại học cho các ngành khoa học cơ
bản. Một trong những bài toán quan trọng của Tối ưu hóa là bài tốn tối ưu
lồi. Trong luận văn này ta sẽ xét bài toán tối ưu lồi trong không gian Hilbert

và một phương pháp cơ bản để giải bài toán này là phương pháp chiếu đạo
hàm. Thuật toán chiếu đạo hàm trong nhiều đề tài luận văn khác cịn có tên
gọi là thuật tốn gradient là khá phổ biến trong lý thuyết tối ưu. Tính thơng
dụng của thuật toán này bắt nguồn từ phép chiếu của các điểm trên miền
ràng buộc hoặc các miền ràng buộc xấp xỉ. Phép chiếu này có thể được thực
hiện dễ dàng trên máy tính với một số cấu trúc của miền ràng buộc như hình
hộp, hình cầu, thậm chí là đa diện. Thơng qua đó, ta nghiên cứu sâu hơn về
phương pháp chiếu đạo hàm trong việc giải bài toán chấp nhận tách cũng là
một bài tốn có nhiều ứng dụng và đang được nhiều người quan tâm nghiên
cứu.
Cho H là một khơng gian Hilbert thực với tích vơ hướng ., . và chuẩn


2
.

tương ứng. Cho D là một tập lồi, đóng, khác rỗng trong H và f : D →

R lồi trên D. Trong luận văn này ta sẽ xét hai bài toán:
Bài toán thứ nhất là bài toán tối ưu lồi: Tìm
x∗ ∈ D : f (x∗ ) ≤ f (x) ∀x ∈ D
hoặc viết tương đương min{f (x) : x ∈ D}.
Bài toán thứ hai là bài toán chấp nhận tách:
Cho C ⊂ Rn và D ⊂ Rm là các tập lồi đóng, khác rỗng. Tìm
x∗ ∈ C : Ax∗ ∈ D
trong đó A : Rn → Rm là tốn tử tuyến tính liên tục.
Mục đích của luận văn là:
- Tổng hợp lại kiến thức cơ bản nhất về bài tốn tối ưu lồi trong khơng gian
Hilbert.
- Trình bày phương pháp chiếu đạo hàm giải bài toán tối ưu lồi trong không

gian Hilbert.
- Áp dụng phương pháp chiếu đạo hàm vào bài toán chấp nhận tách.
Nội dung của luận văn gồm hai chương:
Chương 1: Kiến thức chuẩn bị. Chương này tác giả tập trung trình bày
lại kiến thức cơ bản về khơng gian Hilbert và giải tích lồi.
Chương 2: Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp
dụng vào bài toán chấp nhận tách. Chương này tác giả trình bày hai thuật
tốn để giải bài tốn tối ưu lồi và bài toán chấp nhận tách.
Luận văn này được hoàn thành tại trường Đại học Khoa học, Đại học
Thái Nguyên dưới sự giúp đỡ và hướng dẫn tận tình của GS.TSKH Lê Dũng
Mưu. Qua đây, tác giả xin bày tỏ lịng kính trọng và biết ơn sâu sắc tới Thầy,
người đã dành nhiều thời gian và tâm huyết để hướng dẫn và tạo điều kiện
cho tác giả trong suốt thời gian làm luận văn.


3
Trong quá trình học tập và làm luận văn, từ bài giảng của các Giáo sư,
Phó Giáo sư cơng tác tại Viện Tốn học, Viện Cơng nghệ Thơng tin, các thầy
cô trong trường Đại học Khoa học, Đại học Thái Nguyên, tác giả đã trau dồi
thêm rất nhiều kiến thức phục vụ cho việc nghiên cứu và công tác của bản
thân. Tác giả xin gửi lời cảm ơn chân thành đến các thầy cô.
Cuối cùng tác giả xin gửi lời cảm ơn tới gia đình, bạn bè, lãnh đạo đơn
vị công tác và đồng nghiệp đã luôn động viên, giúp đỡ và tạo điều kiện tốt
nhất cho tác giả trong quá trình học tập, nghiên cứu và làm luận văn.
Thái Nguyên, tháng 12 năm 2015
Học viên
Đào Thu Thủy


4

Chương 1

Kiến thức chuẩn bị
Trong chương này, ta sẽ trình bày lại một số kết quả sẽ được dùng cho
chương sau. Đó là kiến thức cơ bản về khơng gian Hilbert và giải tích lồi.
Nội dung trong chương được trích dẫn chủ yếu từ tài liệu tham khảo [1], [2],
[3], [4], [5], [6].

1.1

Khơng gian Hilbert

Trong tốn học, khơng gian Hilbert (Hilbert Space) là một dạng tổng
qt hóa của khơng gian Euclid mà không bị giới hạn về vấn đề hữu hạn
chiều. Đó là một khơng gian vectơ có tích vơ hướng. Hơn nữa, nó thỏa mãn
một yêu cầu nữa là tính đầy đủ để chắc chắn rằng giới hạn là tồn tại khi
cần làm các định nghĩa khác nhau trong tính tốn vi tích phân dễ dàng hơn.
Khơng gian Hilbert đóng vai trị quan trọng trong việc hình thức hóa tốn
học cơ học lượng tử. Các khơng gian Hilbert được đặt tên theo David Hilbert,
người nghiên cứu chúng trong ngữ nghĩa của phương trình tích phân.

1.1.1

Khơng gian tiền Hilbert

Định nghĩa 1.1. Khơng gian tiền Hilbert (hay cịn gọi là khơng gian Unita
hoặc khơng gian với tích vơ hướng) là một cặp (H, ., . ); trong đó: H là

5
khơng gian tuyến tính thực và ., . là ánh xạ được xác định như sau:
., . : H × H → R
(x, y) → x, y .
Với x, y là tích vơ hướng của hai vectơ x và y thỏa mãn các điều kiện
sau:
1) x, y = y, x , ∀x, y ∈ H.
2) x + y, z = x, z + y, z , ∀x, y, z ∈ H.
3) αx, y = α x, y , ∀x, y ∈ H; α ∈ R.
4) x, x ≥ 0 ∀x ∈ H; x, x = 0 ⇔ x = 0.
Ví dụ 1.1. Lấy H = C[0,1] là không gian các hàm liên tục trên [0, 1] nhận giá
trị thực với x, y ∈ H biểu thức x, y =

1

x(t)y(t)dt xác định một tích vơ

0

hướng trên C[0,1] .

Khi đó khơng gian này là một khơng gian tiền Hilbert và thường kí hiệu là
L
C[0,1]
.

Dưới đây là một số định lý quan trọng trong khơng gian tiền Hilbert.
Định lí 1.1. Cho (H, ., . ) là khơng gian tiền Hilbert. Khi đó,
x =

x, x

hay x

2

= x, x

, ∀x ∈ H

là một chuẩn trên H hay chuẩn sinh bởi tích vơ hướng.
Nhận xét 1.1. (H, . ); x

=

x, x , ∀x ∈ H là khơng gian định

chuẩn.
Định lí 1.2. (Bất đẳng thức Schwarz) Cho (H, ., . ) là không gian tiền
Hilbert. Với ∀x, y ∈ H ta ln có bất đẳng thức sau:
| x, y | ≤ x . y


6
hay
| x, y |2 ≤ x, x . y, y .
Dấu “ = ” xảy ra khi và chỉ khi x, y phụ thuộc tuyến tính.
Định lí 1.3. (Điều kiện bình hành) Cho (H, ., . ) là khơng gian tiền
Hilbert. Với ∀x, y ∈ H ta suy ra chuẩn trong một không gian tiền Hilbert
phải thỏa mãn điều kiện:

x+y

2

+ x−y

2

=2

x

2

+ y

2

.

Đẳng thức này có nghĩa là: tổng bình phương các cạnh của một hình bình
hành bằng tổng bình phương của hai đường chéo, cho nên thường gọi là điều
kiện bình hành.
Định lí 1.4. Giả sử (H, . ) là một khơng gian định chuẩn trên trường R
trong đó đẳng thức bình hành nghiệm đúng với ∀x, y ∈ H:
x+y

2

+ x−y

2

=2

x

2

+ y

2

.

Khi đó, ta đặt
1
x+y 2+ x−y 2 .
4
., . là một tích vơ hướng trên H và ta có x 2 = x, x ∀x ∈ H.
x, y =

Nhận xét 1.2. - Từ định nghĩa và các định lý trên ta thấy rằng: tích vơ hướng
x, y là một hàm liên tục đối với x và y. Các điều kiện 2), 3) có nghĩa là:
x, y là một phiếm hàm song tuyến tính trên H và bất đẳng thức Schwarz
cho thấy phiếm hàm này bị chặn.
- Vì một khơng gian tiền Hilbert là không gian định chuẩn, nên mọi khái
niệm và sự kiện về không gian định chuẩn đều áp dụng cho nó. Nói riêng
một khơng gian tiền Hilbert có thể khơng đầy đủ hay đầy đủ.
- Một khơng gian tiền Hilbert khơng đủ bao giờ cũng có thể bổ sung cho

thành không gian Hilbert.


7

1.1.2

Không gian Hilbert

Định nghĩa 1.2. Nếu (H, ., . ) là không gian tiền Hilbert và đầy đủ đối với
chuẩn sinh từ tích vơ hướng thì được gọi là khơng gian Hilbert.
Cũng tương tự như không gian tiền Hilbert, với trường R ta có khơng
gian Hilbert thực. Từ nay, trong luận văn này ta thống nhất kí hiệu H là một
khơng gian Hilbert thực.
Một số ví dụ về khơng gian Hilbert
1) Rn là khơng gian Hilbert thực với tích vơ hướng
n

x, y =

x i yi
i=1

trong đó x = (x1 , x2 , ..., xn ), y = (y1 , y2 , ..., yn ) ∈ Rn .
2) Trong C[a, b] các hàm thực liên tục trên [a, b] thì ánh xạ
b

(x, y) → x, y =

x(t)y(t)dt

a

là một tích vơ hướng.
Khơng gian (C[a, b], ., . ) là không gian Hilbert.
3) Xét không gian:
∞
2

l =

|xn |2 x < +∞

x = (xn )n ⊂ R

.

n=1

Ta đã biết l2 là không gian Banach với chuẩn x =

∞

|xn |2 .

n=1

Với x = (xn )n∈R , y = (yn )n∈R ∈ l2 , nhờ bất đẳng thức Cauchy – Schwarz
ta có:

2

∞

x n yn
n=1

≤ x

2

y

2

< +∞.


8
∞

Dễ kiểm tra rằng x, y =

n=1
∞

nó sinh bởi chuẩn x =

xn yn xác định một tích vơ hướng trong l2 và
|xn |2 .

n=1

Vậy l2 là một không gian Hilbert.
4) Cho (X, A, µ) là một khơng gian độ đo và E ∈ A. Xét khơng gian




2
2
L (E, µ) = f : E → A/ |f | dµ < ∞


E

|f |2 dµ

ta đã biết L2 (E, µ) là một khơng gian Banach với chuẩn f =

1
2

E

Hơn nữa, với f, g ∈ L2 (E, µ), từ bất đẳng thức Holder về tích phân, ta có:


 12 

|f g| dµ ≤ 

|f |2 dµ . 

E

E

 12
|g|2 dµ < +∞.
E

Ta dễ dàng kiểm tra được f, g =

f gdµ xác định một tích vơ hướng trong
E

L2 (E, µ) và L2 (E, µ) là không gian Hilbert thực.
Một số định lý quan trọng trong khơng gian Hilbert
Định lí 1.5. Cho H là một khơng gian Hilbert. Khi đó:
., . : H × H → R
là một hàm liên tục.
Định nghĩa 1.3. Hai vectơ x, y trong không gian Hilbert H được gọi là trực
giao với nhau nếu x, y = 0, kí hiệu x⊥y.
Định nghĩa 1.4. Một hệ {en } các phần tử của không gian Hilbert H gọi là
hệ trực chuẩn nếu ei , ej = δij .

.


9


 1 khi i = j
Với δij =
gọi là ký hiệu Kronecker.
 0 khi i = j
Nhận xét 1.3. Nếu hệ {en } là một hệ trực chuẩn thì với mọi x ∈ H số
ξi = x, ei gọi là hệ số Fouier của x đối với ei và chuỗi

∞
i=1 ξi ei

gọi là

chuỗi Fouier (hay khai triển Fouier) của x theo hệ {en }.
Định lí 1.6. (Bất đẳng thức Bessel) Cho hệ {en } là một hệ trực chuẩn trong
không gian Hilbert H. Khi đó với mọi x ∈ H thì:
∞
i=1

ξi2 ≤ x

2

.

Định lí 1.7. Cho hệ {en } là một hệ trực chuẩn trong khơng gian Hilbert H.
Khi đó với mọi x ∈ H thì chuỗi Fouier

∞
i=1 ξi ei

hội tụ và (x −

∞
i=1 ξi ei ) ⊥en ∀n.

Định lí 1.8. Hệ trực chuẩn {en } trong không gian Hilbert H là một hệ độc
lập tuyến tính.
Định lí 1.9. (Định lý Smit ) Nếu {xn } là một dãy độc lập tuyến tính trong
khơng gian Hilbert thì tồn tại hệ trực chuẩn {en } ⊂ H sao cho:
Lin{e1 , e2 , ..., en } =Lin{x1 , x2 , ..., xn }
với Lin{x} là khơng gian con sinh bởi x.
Định lí 1.10. (Đẳng thức Pythagore) Nếu {x1 , x2 , ..., xn } là hệ trực giao
trong không gian Hilbert H thì
2

n

xi
i=1

n

xi 2 .

=
i=1


10

Định lí 1.11. Giả sử {xn } là hệ trực giao trong không gian Hilbert H. Khi
∞

∞

xn hội tụ khi và chỉ khi chuỗi

đó, chuỗi
n=1

xn

2

hội tụ và

n=1
2

∞

xn

∞

xn 2 .

=
n=1

n=1

Nhận xét 1.4. Nếu {en }là hệ trực chuẩn ta có:
2

∞

αn en

∞

αn 2 .

=
n=1

n=1

Định nghĩa 1.5. Một hệ trực chuẩn {en } gọi là đầy đủ khi có vectơ 0 mới
trực giao với tất cả các phần tử của hệ:
x⊥en (n = 1, 2, ...) ⇒ x = 0.
Định lí 1.12. (Định lý Riesz – Fischer) Cho {en } là một hệ trực chuẩn đầy
đủ trong không gian Hilbert H. Nếu một dãy số {ξ} thỏa mãn điều kiện
∞

ξi2 < ∞ thì sẽ có một vectơ duy nhất x ∈ H nhận các ξi làm hệ số

i=1

Fourier và

∞

x=

ξi e i ,
i=1

1.2
1.2.1

∞

x

2

ξi2 .

=
i=1

Tập lồi, hàm lồi
Tập lồi

Định nghĩa 1.6. Cho hai điểm a, b ∈ H. Tập tất các điểm x ∈ H có dạng
x = (1 − λ)a + λb, 0 ≤ λ ≤ 1
được gọi là đoạn thẳng (đóng) nối a và b và được ký hiệu là [a, b].

11
Định nghĩa 1.7. Một tập D được gọi là tập affine nếu D chứa mọi đường
thẳng đi qua hai điểm bất kì x, y ∈ D, tức là:
∀x, y ∈ D ⇒ λx + (1 − λ)y ∈ D.
Định lí 1.13. Tập D = ∅ là tập affine khi và chỉ khi nó có dạng D = M + a
với M là một không gian con của H và a ∈ D.
Không gian M được xác định duy nhất và được coi là không gian con song
song của D (M//D).
Thứ nguyên (hay số chiều) của một tập affine D, ký hiệu dimD, là số
chiều của không gian con song song với nó. Quy ước dim ∅ = −1.
Định nghĩa 1.8. Siêu phẳng trong không gian H là một tập hợp các điểm có
dạng x ∈ H : aT x = α , trong đó a ∈ H là một vectơ khác 0 và α ∈ R.
Ngược lại, một tập bất kỳ có dạng trên là một siêu phẳng trong H.
Định nghĩa 1.9. Cho a ∈ H là một vectơ khác 0 và α ∈ R.
Tập H1 = x ∈ H : aT x ≥ α và H2 = x ∈ H : aT x ≤ α được gọi là
các nửa khơng gian đóng.
Tập H1 = x ∈ H : aT x > α và H2 = x ∈ H : aT x < α được gọi là
các nửa không gian mở.
Định nghĩa 1.10. Tập D được gọi là lồi nếu với mọi a, b ∈ D và mọi 0 ≤
λ ≤ 1 ta có:
(1 − λ)a + λb ∈ D.
Nghĩa là: tập D được gọi là một tập lồi nếu nó chứa trọn đoạn thẳng nối
hai điểm bất kỳ thuộc nó.


12
Một số ví dụ về tập lồi.
1) Các tập affine nói riêng là siêu phẳng đều là các tập lồi.
2) Các nửa khơng gian đóng, các nửa khơng gian mở là các tập lồi.
3) Tập rỗng là tập lồi.

4) Tập gồm duy nhất một điểm là tập lồi.
5) Toàn bộ không gian là tập lồi.
6) Các tam giác, tứ giác lồi, hình vng, hình trịn trong mặt phẳng là các
tập lồi.
7) Hình cầu tâm a, bán kính r:
B(a; r) = {x ∈ H : x − a ≤ r} ; B(a; r) = {x ∈ H : x − a < r}
là các tập lồi.
Một số tính chất của tập lồi
1) Giao của một họ bất kỳ các tập lồi là một tập lồi.
2) Nếu C, D là các tập lồi thì C + D, C − D, αC + βD cũng là các tập lồi
với mọi α, β ∈ R.
Định nghĩa 1.11. Ta nói x là tổ hợp lồi của các điểm (vectơ) x1 , x2 , ..., xk
nếu

k

k

λj xj ; λj ≥ 0 (j = 1, ..., k),

x=
j=1

λj = 1.
j=1

Tập hợp D là lồi khi và chỉ khi nó chứa mọi tổ hợp lồi của các phần tử
của nó.
Định nghĩa 1.12. Một tập D ⊂ H được gọi là nón nếu
∀x ∈ D, ∀λ > 0 ⇒ λx ∈ D.

13
Nón D gọi là nón lồi nếu D là tập lồi.
Như vậy, một tập lồi D là nón lồi khi và chỉ khi nó có tính chất sau:
i) λD ⊆ D, ∀λ > 0.
ii) D + D ⊆ D.
Định nghĩa 1.13. Cho D ⊆ h, x0 ∈ D. Nón pháp tuyến (ngoài) của tập D
tại x0 là tập hợp
ND (x0 ) := w : w, x − x0 ≤ 0, ∀x ∈ D .
Tập −ND (x0 ) gọi là nón pháp tuyến (trong) của tập D tại x0 .
Tập
NDε (x0 ) := w ∈ H: w, x − x0 ≤ ε, ∀x ∈ D
được gọi là ε- nón pháp tuyến của D tại x0 .
Các định lý tách tập lồi.
Định lý tách các tập lồi rất hay được dùng trong lý thuyết tối ưu hiện đại
và nó có liên hệ mật thiết với phép chiếu một điểm trên một tập lồi.
Định nghĩa 1.14. Cho hai tập C và D, ta nói rằng siêu phẳng
H = {x : t, x = α} , t = {0} ; α ∈ R
i) tách hai tập C và D nếu t, a ≤ α ≤ t, b , ∀a ∈ C, b ∈ D.
ii) tách chặt C và D nếu t, a < α < t, b , ∀a ∈ C, b ∈ D.
iii) tách mạnh C và D nếu inf t, x > α > sup t, y .
x∈D

x∈D

Về hình học có nghĩa là, các tập C và D nằm về hai phía khác nhau của
siêu phẳng H.

14
Định lí 1.14. (Định lý tách 1) Cho C và D là hai tập lồi khác rỗng trong H
sao cho C ∩ D = ∅. Khi đó, có một siêu phẳng tách C và D, nghĩa là tồn tại
vectơ t ∈ H(t = 0) và một số α ∈ R sao cho
inf t, x ≥ α ≥ sup t, y .

x∈C

x∈C

Định lí 1.15. (Định lý tách 2) Cho C và D là hai tập lồi đóng khác rỗng
trong H sao cho C ∩ D = ∅. Giả sử có ít nhất một trong hai tập này là
compăc. Khi đó hai tập C và D có thể tách mạnh bởi một siêu phẳng, nghĩa
là tồn tại một vectơ t ∈ H(t = 0) và một số α ∈ R sao cho:
inf t, x > α > sup t, y .

x∈C

x∈C

Một hệ quả rất quan trọng của định lý tách là bổ đề chọn mang tên nhà
toán học Hungary Farkas, được chứng minh từ năm 1892 dưới dạng một định
lý hình học. Bổ đề này rất trực quan, dễ áp dụng trong nhiều lĩnh vực như
tối ưu, điều khiển, lý thuyết toán tử...
Bổ đề 1.1. (Bổ đề Farkas) Cho A là một ma trận thực cấp m × n và a ∈ Rn .
Khi đó trong hai hệ dưới đây có một hệ và chỉ duy nhất một hệ có nghiệm:
Ax ≥ 0, aT x < 0 với một x ∈ Rn .

(1.1)

AT y = a, y ≥ 0 với một y ∈ Rm .

(1.2)

Chứng minh. Giả sử (1.2) có một nghiệm y nào đó. Nếu như Ax ≥ 0 thì từ
AT y = a, nhân tích vơ hướng với x, và do Ax ≥ 0 y ≥ 0, ta có aT x =
y T Ax ≥ 0. Vậy (1.1) không thể có nghiệm.
Bây giờ ta giả sử hệ (1.2) khơng có nghiệm. Lấy tập
C = x |∃ y ≥ 0 : AT y = x .


15
Hiển nhiên C là tập lồi đóng và 0 ∈ C. Do (1.2) khơng có nghiệm nên
a ∈
/ C. Theo định lý tách mạnh, tồn tại p = 0 và một số α ∈ R sao cho
pT a < α < pT x với mọi x ∈ C. Do 0 ∈ C nên α < 0. Thay x = AT y với
y ≥ 0 ta viết được α ≤ pT AT y = y T Ap.
Chú ý rằng nếu x ∈ C thì ξx ∈ C với mọi ξ ≥ 0, vì từ x = AT y có
ξx = AT ξy.
Vậy các tọa độ của y có thể lớn tùy ý, nên từ bất đẳng thức α ≤ pT AT y =
y T Ap suy ra Ap ≥ 0.
Vậy ta đã chỉ ra sự tồn tại của một vectơ p sao cho Ap ≥ 0 và aT p < 0.
Chứng tỏ hệ (1.1) có nghiệm.
Nhận xét 1.5. - Cả hai định lý tách chỉ nêu các điều kiện đủ để tách tập lồi.
- Nếu tập C là một nón thì cả hai định lý tách ta có thể lấy α = 0.
- Định lý tách 2 sẽ khơng cịn đúng nếu thiếu giả thiết “ít nhất một trong hai
tập này là compăc”.
- Lý thuyết tách các tập lồi được dùng để chứng minh nhiều sự kiện cơ bản
của qui hoạch tốn học, lý thuyết trị chơi và kinh tế tốn. Nói riêng nó được
áp dụng để chứng minh các định lý đối ngẫu trong qui hoạch lồi, định lý

minimax tổng quát trong lý thuyết trò chơi ma trận, để chứng minh sự tồn
tại tình thế cân bằng trong các mơ hình kinh tế cạnh tranh và nhiều vấn đề
khác.

1.2.2

Hàm lồi

Định nghĩa 1.15. Cho D là một tập lồi và f : D → R ∪ {+∞}. Khi đó
hàm f được gọi là:
i) lồi trên D nếu
f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y), ∀x, y ∈ D, λ ∈ (0, 1) .


16
ii) lồi chặt trên D nếu
f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y), ∀x, y ∈ D, λ ∈ (0, 1) .
iii) lồi mạnh với hệ số β > 0 trên D nếu với ∀x, y ∈ D, λ ∈ (0, 1) ta có
f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) − λ(1 − λ)β x − y

2

.

Hàm f là lõm (lõm chặt, lõm mạnh) nếu −f là hàm lồi (lồi chặt, lồi mạnh).
Nhận xét 1.6. - Hiển nhiên, một hàm lồi chặt là lồi nhưng điều ngược lại
khơng đúng.
- Hàm f gọi là tuyến tính affine (hay đơn giản là affine) trên D nếu f hữu
hạn và vừa lồi vừa lõm trên D.
Một số ví dụ về hàm lồi.

1) Hàm affine.
f (x) = aT x + α, a ∈ H, α ∈ R.
Dễ dàng kiểm tra được f là một hàm vừa lồi vừa lõm trên toàn khơng gian.
Khi α = 0, thì hàm này được gọi là hàm tuyến tính.
2) Hàm tựa. Với D = ∅ là một tập lồi, hàm
sD (x) = sup y, x
x∈D

gọi là hàm tựa của D.
3) Hàm khoảng cách. Cho D lồi đóng, hàm khoảng cách đến tập D được
định nghĩa bởi
dD (x) = min x − y .
y∈D


17
4) Hàm chuẩn. Giả sử x = x1 , ..., xn .
f (x) := x

1

:= max |xi | ,
i

hoặc
f (x) := x

2

:= x21 + ...x2n

1
2

.

5) Hàm mặt cầu. Cho một mặt cầu S := {x ∈ H/ x = 1} và là một hàm
bất kỳ g : S → H. Định nghĩa hàm f như sau:



0 khi x < 1,


f (x) :=
g(x) khi x = 1,



 +∞ khi x > 1.
Hàm này được gọi là hàm mặt cầu. Dễ thấy rằng f là một hàm lồi.
6) Hàm tổng chập. Cho f1 , f2 , ..., fm là các hàm lồi chính thường trên H.
Khi đó hàm f được xác định bởi

 m
f (x) := inf
fj (xj ) :

j=1

m

xj = x
j=1





được gọi là hàm tổng chập các hàm f1 , f2 , ..., fm .
Ký hiệu là: f1 , ⊕f2 ⊕ ... ⊕ fm .
Một số tính chất của hàm lồi
Định lí 1.16. Cho f và g là hai hàm lồi trên tập lồi C và D tương ứng. Khi
đó các hàm số
αf + βg (∀α, β ≥ 0) ; max {f , g}
cũng lồi trên C ∩ D.
Định nghĩa 1.16. Cho hàm bất kỳ f : D → R ∪ {+∞}, các tập
domf = {x ∈ D : f (x) < +∞} ,


18
epif = {(x, a) ∈ D × R : f (x) ≤ α}
được gọi lần lượt là miền hữu dụng và tập trên đồ thị của hàm f .
Nếu domf = ∅ thì ta nói hàm f là chính thường.
Định lí 1.17. Cho hàm bất kỳ f : D → R ∪ {+∞}, hàm f lồi trên D khi và
chỉ khi:
i) tập trên đồ thị epif là một tập lồi hoặc
m

ii) f (

m

λk xk ) ≤

k=1

m

λk f (xk )., xk ∈ D,
k=1

λk = 1, λk ≥ 0 ∀k, m ∈
k=1

Z, m ≥ 1. (Bất đẳng thức Jensen).
Định lí 1.18. (Bốn phép tốn cơ bản bảo tồn tính lồi)
i) Nếu fi : D → R ∪ {+∞} (i = 1, 2, ..., m) là hàm lồi thì
α1 f1 + α2 f2 + ... + αm fm
lồi với mọi αi ≥ 0 và lồi chặt nếu ít nhất một trong các hàm fi lồi chặt với
αi > 0.
ii) Nếu fi : D → R ∪ {+∞} (i = 1, 2, ..., m) là hàm lồi thì hàm
f (x) = max fi (x)
i

là hàm lồi.
iii) Nếu A : Rn → Rm là biến đổi tuyến tính và f : Rm → R ∪ {+∞} là
hàm lồi thì hàm hợp f (x) = gA(x) là hàm lồi.
iv) Nếu g : D → R ∪ {+∞} là hàm lồi và h : R → R ∪ {+∞} là hàm lồi
khơng giảm thì hàm hợp f (x) = h(g(x)) là hàm lồi.

Định lí 1.19. Giả sử f : D → R∪{+∞} là một hàm lồi và α ∈ [−∞, +∞].
Khi đó, các tập mức dưới
Dα = {x : f (x) < α} ; Dα = {x : f (x) ≤ α}


19
là tập lồi.
Tương tự, nếu f là một hàm lõm trên thì các tập mức trên
Dβ = {x : f (x) > β} ; Dβ = {x : f (x) ≥ β}
là tập lồi.
Định lí 1.20. Hàm f (x), x ∈ H là hàm lồi khi và chỉ khi hàm một biến số
ϕ(λ) ≡ f (x + λd) là hàm lồi theo λ với mỗi x, d ∈ H.
Một hàm lồi có thể khơng liên tục tại một điểm biên trên miền xác định
của nó, tuy nhiên nó liên tục tại mọi điểm trong của tập đó theo định lý sau:
Định lí 1.21. Một hàm lồi f xác định trên tập lồi D thì f liên tục tại mọi điểm
trong của D.
Định lí 1.22. Hàm lồi chính thường f trên liên tục tại mọi điểm trong của
miền hữu dụng của nó (f liên tục trên int(domf)).
Nhận xét 1.7. Một hàm lồi chính thường chỉ có thể gián đoạn tại những điểm
biên của miền hữu dụng của nó.
Ví dụ 1.2. Xét hàm một biến số xác định trên tập D = [0, +∞) có dạng
f (x) = ex với mọi x > 0 và f (0) = 2. Dễ thấy epif là tập lồi nên f là hàm
lồi trên D. Hàm f liên tục tại mọi điểm trong x > 0 và gián đoạn tại điểm
biên x = 0. Tại x = 0 hàm f nửa liên tục trên.
Định lí 1.23. Giả sử f là hàm lồi chính thường trên D. Khi đó các điều kiện
sau đây là tương đương:
i) f liên tục tại x0 .
ii) f bị chặn trong một tập mở chứa x0 .
iii) int(epi f ) = ∅.
iv) int(dom f ) = ∅ và f liên tục trên int(domf).

20
Tính chất sau đây đặc trưng cho một hàm lồi khả vi và thuận lợi để kiểm
tra tính lồi của một hàm số.
Định lí 1.24. Cho f : D → R là một hàm khả vi trên tập lồi mở D. Điều
kiện cần và đủ để f lồi trên D là
f (x) + ∇f (x), y − x ≤ f (y), ∀x, y ∈ D.
Nếu
f (x) + ∇f (x), y − x < f (y), ∀x, y ∈ D; x = y
thì hàm f lồi chặt trên D.
Định lí 1.25. Cho f : D → H là một hàm khả vi trên tập lồi mở D. Nếu f
hai lần khả vi liên tục trên D và ∇2 f (x) là ma trận Hessian các đạo hàm
riêng cấp 2 của f tại x thì:
i) ∇2 f (x) nửa xác định dương với mỗi x ∈ D ( y, ∇2 f (x)y ≥ 0, với mọi
y ∈ H) hoặc nếu ∇2 f (x) có mọi giá trị riêng khơng âm thì hàm f lồi trên
D.
ii) ∇2 f (x) xác định dương với mỗi x ∈ D ( y, ∇2 f (x)y

> 0 với mọi

y ∈ H\ {0}) hoặc nếu ∇2 f (x) có mọi giá trị riêng dương thì hàm f lồi chặt
trên D.
Tính khả vi của hàm lồi giữ vai trị quan trọng trong các phương pháp tối
ưu hóa. Lớp các hàm lồi có những tính chất khả vi rất đẹp mà các lớp khác
khơng có. Giả sử f : H → R ∪ {+∞} là hàm lồi. Ta có khái niệm sau:
Định nghĩa 1.17. Cho hàm f : H → E được gọi là nửa liên tục dưới tại
một điểm x, nếu như với mọi dãy xk , xk → x ta có:
lim inf f (xk ) ≥ f (x).