Tính nửa liên tục dưới của hàm lồi và ứng dụng

LỜI CẢM ƠN
Luận văn được hoàn thành tại Trường Đại học Sư phạm Hà Nội 2 dưới
sự hướng dẫn của PGS.TS. Nguyễn Năng Tâm. Tác giả xin được bày tỏ lòng
biết ơn chân thành, sâu sắc tới PGS.TS. Nguyễn Năng Tâm, người đã luôn
quan tâm, động viên và nhiệt tình hướng dẫn tác giả trong quá trình thực hiện
luận văn.
Tác giả xin được gửi lời cảm ơn chân thành tới các thầy cô giáo trong và
ngoài nhà trường, các thầy cô giáo giảng dạy chuyên ngành toán Giải tích đã
giúp đỡ tác giả trong suốt quá trình học tập và hoàn thành luận văn.
Cuối cùng, tác giả xin được cảm ơn tới gia đình, bạn bè và đồng nghiệp đã
động viên và tạo mọi điều kiện thuận lợi để tác giả hoàn thành luận văn này.
Hà Nội, ngày 30 tháng 9 năm 2010
Tác giả
Nguyễn Túc Vinh
LỜI CAM ĐOAN
Tác giả xin cam đoan luận văn là công trình nghiên cứu riêng của tác giả
dưới sự hướng dẫn của PGS.TS. Nguyễn Năng Tâm.
Trong khi nghiên cứu luận văn, tác giả đã kế thừa thành quả khoa học của
các nhà khoa học và đồng nghiệp với sự trân trọng và biết ơn.
Hà Nội, ngày 30 tháng 9 năm 2010
Tác giả
Nguyễn Túc Vinh
BẢNG KÍ HIỆU
R đường thẳng thực
R
n
không gian Euclid n - chiều
R = R ∪
{
−∞,+∞
}

tập số thực suy rộng
f : D → R ánh xạ đi từ D vào R
E
∗
không gian liên hợp của E
B(x, r) hình cầu đóng tâm x, bán kính r
dist(x, F) khoảng cách giữa x và F
l
p
không gian các dãy {x
i
} :
∞
∑
i=1
|
x
i
|
p
< ∞
l
∞
không gian các dãy bị chặn
sgnx
n
dấu của x
n
int Ω phần trong của Ω
diam A

n
đường kính của A
n
dom f miền hữu hiệu của f
epi f trên đồ thị của f
f

(x) đạo hàm của f tại x
f

(x; v) đạo hàm theo hướng v của f tại x
∂ f (x) dưới vi phân của f tại x
F : X ⇒ Y ánh xạ đa trị từ X vào Y

.

chuẩn trong không gian Banach

x
∗
,x

giá trị của x
∗
tại x
Mục lục
Mở đầu 1
Chương 1. Hàm lồi trên không gian Banach 3
1.1. Tập lồi và các tính chất cơ bản . . . . . . . . . . . . . . . . 3
1.2. Hàm lồi và các tính chất . . . . . . . . . . . . . . . . . . . 5

1.2.1. Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2.2. Các phép toán về hàm lồi . . . . . . . . . . . . . . . 12
1.2.3. Tính liên tục của hàm lồi . . . . . . . . . . . . . . . 13
1.2.4. Tính khả vi của hàm lồi . . . . . . . . . . . . . . . 16
Chương 2. Tính nửa liên tục dưới của hàm lồi 35
2.1. Tính nửa liên tục dưới . . . . . . . . . . . . . . . . . . . . 35
2.2. Ứng dụng . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
Kết luận 56
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . 57
MỞ ĐẦU
1. Lí do chọn đề tài
Giải tích lồi là một phân môn quan trọng của Giải tích toán học, nghiên
cứu về tập lồi và hàm lồi cùng với những vấn đề liên quan. Giải tích lồi có
vai trò quan trọng trong nhiều lĩnh vực khác nhau của toán học ứng dụng, đặc
biệt trong tối ưu hóa, bất đẳng thức biến phân, bài toán cân bằng.
Hàm lồi và tập lồi đã được nghiên cứu từ lâu, khởi đầu từ những công trình
của các nhà toán học như Holder, Jensen, Mazur, Minkowski. Đặc biệt, các
kết quả nghiên cứu của Fréchet, Rockafellar, Gâteaux vào các thập niên 60,
70 của thế kỷ trước đã đưa giải tích lồi trở thành một trong những lĩnh vực
phát triển mạnh mẽ của toán học. Trong nhiều ứng dụng của hàm lồi, sẽ thích
hợp hơn khi ta xem xét hàm lồi nửa liên tục dưới. Tính nửa liên tục dưới của
hàm lồi đảm bảo cho sự tồn tại nghiệm của nhiều bài toán trong giải tích lồi
và trong tối ưu hóa. Ví dụ như trong nhiều bài toán tối ưu, hàm tìm được thỏa
mãn bài toán có dạng cận trên đúng của một họ vô hạn những hàm affine
liên tục. Những hàm lồi nửa liên tục dưới cũng cho những kết quả biến đổi
một cách tự nhiên về những tập lồi đóng trong những kết quả của hàm lồi và
ngược lại.
Với mong muốn được tìm hiểu một cách có hệ thống và sâu sắc hơn
về các tính chất cũng như một số ứng dụng của giải tích lồi nói chung và
hàm lồi nửa liên tục dưới nói riêng nên tôi đã chọn nghiên cứu đề tài :

“Tính nửa liên tục dưới của hàm lồi và ứng dụng”
2
2. Mục đích nghiên cứu
- Nghiên cứu các tính chất của hàm lồi nửa liên tục dưới.
- Một số bài toán ứng dụng của hàm lồi nửa liên tục dưới.
3. Nhiệm vụ nghiên cứu
Trình bày một cách có hệ thống các tính chất của hàm lồi nửa liên tục dưới
và một số bài toán ứng dụng.
4. Đối tượng và phạm vi nghiên cứu
- Một số tính chất của hàm lồi trong không gian Banach.
- Tính nửa liên tục dưới của hàm lồi.
- Một số bài toán ứng dụng.
5. Phương pháp nghiên cứu
- Nghiên cứu lý luận, tài liệu chuyên khảo .
- Tổng hợp kiến thức, vận dụng cho mục đích nghiên cứu đề tài.
6. Những đóng góp mới của đề tài
Đề tài nhằm làm rõ hơn những tính chất của hàm lồi nửa liên tục dưới và
ứng dụng trong một số bài toán cụ thể.
Chương 1
Hàm lồi trên không gian Banach
Trong chương này chúng ta sẽ trình bày những khái niệm cơ bản nhất của
tập lồi trong không gian Banach và hàm lồi trên không gian Banach cùng với
những tính chất đặc trưng của nó. Nếu không có giả thiết gì thêm, trong suốt
luận văn này, các không gian Banach luôn được hiểu là không gian Banach
thực và được kí hiệu là E. Chuẩn trong các không gian Banach luôn được kí
hiệu bởi .. Không gian Banach các phiếm hàm tuyến tính liên tục trên E
được kí hiệu là E
∗
. Với x
∗

∈ E
∗
và x ∈ E, giá trị của x
∗
tại x sẽ được kí hiệu
là x
∗
,x (xem [1], [2]). Nội dung trình bày trong chương này chủ yếu từ [2],
[3], [5] và [6].
1.1. Tập lồi và các tính chất cơ bản
Định nghĩa 1.1. Tập D ⊂E được gọi là lồi nếu với mọi x,y ∈D và mọi λ ∈R
sao cho 0 ≤λ ≤ 1 thì λ x + (1 −λ)y ∈ D.
Định lý 1.1. Giao của một họ tùy ý các tập lồi trong E là một tập lồi trong E.
Chứng minh. Giả sử D
i
⊂ E (i ∈I) là các tập lồi với I là tập chỉ số bất kì, ta
cần chứng minh tập D =
∩
i∈I
D
i
là lồi.
Lấy tùy ý x
1
,x
2
∈D. Khi đó x
1
,x
2

∈D
i
, với mọi i ∈I. Do D
i
là lồi cho nên
λ x
1
+ (1 −λ )x
2
∈ D
i
với mọi λ ∈ [0,1], do đó λ x
1
+ (1 −λ )x
2
∈ D. Vì vậy
4
D là tập lồi.
Định nghĩa 1.2. Cho A, B là hai tập hợp tuỳ ý trong E và α ∈ R. Ký hiệu
A + B =
{
a + b : a ∈ A, b ∈ B
}
,
αA =
{
αa : a ∈ A
}
.
Định lý 1.2. Giả sử D

i
lồi, D
i
⊂ E, λ
i
∈ R (i = 1,2, ,m). Khi đó
λ
1
D
1
+ λ
2
D
2
+ + λ
m
D
m
là lồi.
Định nghĩa 1.3. Véctơ x ∈E được gọi là tổ hợp lồi của các véctơ x
1
, ,x
m
∈E
nếu tồn tại λ
i
≥ 0, (i = 1,2, ,m),
m
∑
i=1

λ
i
= 1, sao cho x =
m
∑
i=1
λ
i
x
i
.
Định lý 1.3. Một tập trong E là lồi khi và chỉ khi nó chứa tất cả các tổ hợp
lồi của các phần tử của nó. Tập D lồi trong E khi và chỉ khi:
D = {x =
m
∑
i=1
λ
i
x
i
: x
i
∈ D,
m
∑
i=1
λ
i
= 1,λ

i
≥ 0, i =
1,m, ∀m ∈ N}.
Chứng minh. ⇐) Lấy m = 2, D là tập lồi theo định nghĩa.
⇒) Giả sử D là tập lồi. Lấy tùy ý x
1
,x
2
, ,x
m
∈D, λ
1
, ,λ
m
≥0 và
m
∑
i=1
λ
i
= 1 ,
x =
m
∑
i=1
λ
i
x
i
. Ta chứng minh x ∈ D bằng quy nạp theo m.

Với m = 1 : x
1
∈ D,λ
1
= 1, khi đó x = x
1
∈ D.
Với m = 2 : x
1
,x
2
∈ D,λ
1
+ λ
2
= 1 mà D lồi suy ra x = λ
1
x
1
+ λ
2
x
2
∈ D.
Giả sử x ∈ D đúng với m −1 , ta có
m
∑
i=1
λ
i

x
i
∈ D, ∀x
i
∈ D,
m
∑
i=1
λ
i
= 1,λ
i
≥ 0.
Xét x =
m
∑
i=1
λ
i
x
i
=
m−1
∑
i=1
λ
i
x
i
+ λ

m
x
m
. Ta thấy: Nếu λ
m
= 0 thì x ∈ D theo giả
thiết quy nạp. Nếu λ
m
= 1 thì λ
1
= = λ
m−1
= 0 khi đó x = x
m
∈ D.
5
Nếu 0 < λ < 1, ta có
1 −λ
m
= λ
1
+ + λ
m−1
> 0,
λ
i
1 −λ
m
≥ 0 (i = 1, ,m −1).
Vì

m−1
∑
i=1
λ
i
1 −λ
m
= 1,
theo giả thiết quy nạp
y =
m−1
∑
i=1
x
i
∈ D.
Từ đó với y ∈ D, x
m
∈ D, 1 −λ
m
> 0 và (1 −λ
m
) + λ
m
= 1,
suy ra x = (1 −λ
m
)y + λ
m
x

m
∈ D (do D là tập lồi).
Ví dụ 1.1. Các tập lồi trong R:
/0,
{
x
}
, (a,b), (a,b], [a,b), [a,b],R.
Định lý 1.4. (Định lý Hahn-Banach, Định lý tách (xem [1], [2])) Cho A và B
là hai tập lồi trong không gian Banach E, có tính chất A ∩B = /0 và intA = /0.
Khi đó A và B có thể tách được bằng một phiếm hàm tuyến tính khác 0, tức
∃x
∗
∈ E
∗
\{0}, ∀x ∈ A, ∀y ∈ B : x
∗
,x  x
∗
,y.
1.2. Hàm lồi và các tính chất
1.2.1. Hàm lồi
Định nghĩa 1.4. Cho hàm f : D →R, trong đó D ⊂ E, R = R ∪
{
−∞,+∞
}
,
các tập
6
dom f =

{
x ∈ D : f (x ) < +∞
}
,
epi f =
{
(x,α) ∈ D ×R : f (x) ≤ α
}
,α ∈R ,
được gọi lần lượt là miền hữu hiệu và trên đồ thị của hàm f .
Định nghĩa 1.5. Hàm f : D →R được gọi là lồi nếu trên đồ thị của nó là một
tập lồi trong D ×R. Nếu dom f = /0 và −∞ < f (x) với mọi x ∈ D ta nói hàm
f là chính thường.
Ví dụ 1.2. Hàm
f : R → R, f (x) = x
2
,
là một hàm lồi. Ta có
epi f =

(x,α) ∈ R ×R : f (x) = x
2
≤ α

,
là tập lồi trong R ×R.
Thật vậy, lấy hai điểm bất kỳ (x
1
,α
1

) ∈ epi f , (x
2
,α
2
) ∈ epi f , nghĩa là
x
2
1
 α
1
, x
2
2
 α
2
.
Ta cần chứng minh λ (x
1
,α
1
) + (1 −λ) (x
2
,α
2
) ∈ epi f , 0 ≤ λ ≤ 1.
Điều này tương đương với
(λ x
1
+ (1 −λ)x
2

,λ α
1
+ (1 −λ)α
2
) ∈ epi f
⇔ λ α
1
+ (1 −λ)α
2
≥ (λ x
1
+ (1 −λ)x
2
)
2
⇔ λ α
1
+ (1 −λ)α
2
≥ λ
2
x
2
1
+ (1 −λ)
2
x
2
2
+ 2λ(1 −λ)x

1
x
2
.
Vì λ α
1
+ (1 −λ)α
2
≥ λ x
2
1
+ (1 −λ)x
2
2
,
7
và
λ x
2
1
+ (1 −λ)x
2
2
≥ λ
2
x
2
1
+ (1 −λ)
2

x
2
2
+ 2λ(1 −λ)x
1
x
2
⇔ (λ −λ
2
)x
2
1
+

(1 −λ)−(1 −λ )
2

x
2
2
−2λ(1 −λ)x
1
x
2
≥ 0
⇔ λ (1 −λ)x
2
1
+ λ(1 −λ)x
2

2
−2λ(1 −λ)x
1
x
2
≥ 0
⇔ λ (1 −λ)(x
1
−x
2
)
2
≥ 0,
ta suy ra epi f là tập lồi và ta có f là hàm lồi.
Ví dụ 1.3. Hàm
g : R → R, g(x) = x
3
,
không là hàm lồi. Ta có
epi g =

(x,α) ∈ R ×R : g(x) = x
3
≤ α

,
không lồi trong R ×R.
Thật vậy, ta có thể lấy hai điểm bất kỳ, chẳng hạn ta lấy (0,0) ∈ epi g,
(−1,−1) ∈ epi g, lấy λ =
1

2
khi đó
λ (0,0) + (1 −λ)(−2,−2) =
1
2
(0,0) +
1
2
(−2,−2) = (−1,−1),
không thuộc epi g. Vậy epi g không lồi và ta có g không lồi .
Ví dụ 1.4. Cho hàm chỉ của tập D kí hiệu là δ (.|D) xác định bởi
δ (x|D) :=



0 khi x ∈ D
+∞ khi x /∈ D.
Nếu D ⊂ E là tập lồi, thì δ(.|D) là hàm lồi.
Thật vậy, nếu x ∈ D thì epi δ(.|D) =
{
(x,α) : 0  α
}
.
Nếu x /∈ D thì epiδ (.|D) = /0. Như vậy epi δ(.|D) lồi và ta có δ(.|D) là
hàm lồi.
8
Định lý 1.5. Giả sử D là tập lồi trong E, hàm f : D → (−∞, +∞]. Khi đó, f
lồi trên D khi và chỉ khi
f (λ x + (1 −λ)y) ≤ λ f (x) + (1 −λ ) f (y), (1.1)
∀λ ∈ [0,1], ∀x,y ∈ D.

Chứng minh. ⇒) Giả sử f là hàm lồi, ta có thể xem như λ ∈ (0,1) vì với
λ ∈
{
0,1
}
thì (1.1) hiển nhiên đúng.
Lấy r = f (x), s = f (y). Không thể xảy ra trường hợp f (x) < +∞, f (y) < +∞
mà f (λx +(1 −λ )y) = +∞ bởi vì dom f lồi, với x,y ∈ dom f thì
[x,y] ∈dom f . Do λ ∈(0,1) nên f (x) = +∞, suy ra λ f (x) = +∞. Nếu x hoặc
y không thuộc dom f thì f (x) = +∞ hoặc f (y) = +∞ và (1.1) đúng.
Vì epi f lồi, với mọi (x,r) ∈ epi f , (y,s) ∈ epi f và λ ∈(0,1) ta có
λ (x,r) + (1 −λ)(y,s) = (λ x + (1 −λ)y,λ r + (1 −λ )s) ∈epi f ,
suy ra
f (λ x + (1 −λ)y) ≤ λ r + (1 −λ )s.
Vậy
f (λ x + (1 −λ)y) ≤ λ f (x) + (1 −λ ) f (y).
⇐) Giả sử (1.1) đúng. Lấy tùy ý (x,r) ∈ epi f , (y,s) ∈epi f và λ ∈ [0,1].
Ta phải chứng minh
λ (x,r) + (1 −λ)(y,s) ∈ epi f .
Vì (x,r) ∈ epi f , (y,s) ∈ epi f nên f (x) ≤ r, f (y) ≤s. Từ đó suy ra
f (λ x + (1 −λ)y) ≤ λ f (x) + (1 −λ ) f (y) ≤ λ r + (1 −λ)s,
9
hay
(λ x +(1 −λ )y,λ r + (1 −λ )s) ∈epi f .
Vậy
λ (x,r) + (1 −λ)(y,s) ∈ epi f .
Định lý 1.6. Giả sử f : E → (−∞,+∞]. Khi đó f là một hàm lồi khi và chỉ
khi với mọi λ
i
≥ 0(i = 1, ,k),

k
∑
i=1
λ
i
= 1, mọi x
1
, ,x
k
∈ R ta có
f (λ
1
x
1
+ + λ
k
x
k
) ≤ λ
1
f (x
1
) + + λ
k
f (x
k
). (1.2)
Chứng minh. Không giảm tổng quát, giả sử λ
i
≥ 0 (i = 1, ,k). Ta có, nếu

x
i
/∈dom f thì f (x
i
) = +∞, λ
i
f (x
i
) = +∞. Khi đó (1.2) hiển nhiên đúng.
Do dom f lồi nên nếu f (x
i
) < +∞, i = 1, ,k thì
f

k
∑
i=1
λ
i
x
i

< +∞ vì
k
∑
i=1
λ
i
x
i

∈ dom f .
Nếu x
i
∈ dom f , do epi f lồi và (x
i
, f (x
i
)) ∈ epi f , i = 1, ,k nên theo
Định lý (1.3) ta có
(λ
1
x
1
+ + λ
k
x
k
, λ
1
f (x
1
) + + λ
k
f (x
k
)) ∈ epi f .
Từ đó suy ra f (λ
1
x
1

+ + λ
k
x
k
) ≤ λ
1
f (x
1
) + + λ
k
f (x
k
).
Mệnh đề 1.1. Giả sử f : E → R. Khi đó, f là hàm lồi khi và chỉ khi
f (λ x + (1 −λ)y) < λ r + (1 −λ )s,
∀λ ∈ (0,1), ∀x , y : f (x) < r , f (y) < s.
Định nghĩa 1.6. Một hàm f xác định trên E được gọi là thuần nhất dương
nếu f (λx) = λ f (x) với mọi x ∈ E, mọi λ > 0.
10
Định lý 1.7. Hàm thuần nhất dương f : E → (−∞,+∞] là lồi khi và chỉ khi
f (x + y) ≤ f (x) + f (y), ∀x,y ∈ E. (1.3)
Chứng minh. ⇒) Giả sử hàm thuần nhất dương f là lồi. Lấy x,y ∈ E
f (x + y) = 2 f (
1
2
x) + f (
1
2
y)
≤ 2


1
2
f (x) +
1
2
f (y)

= f (x) + f (y).
⇐) Giả sử (1.3) đúng. Lấy (x
i
,r
i
) ∈ epi f (i = 1,2). Vì
f (x
1
+ x
2
) ≤ f (x
1
) + f (x
2
) ≤ r
1
+ r
2
,
ta có
(x
1

+ x
2
,r
1
+ r
2
) ∈ epi f.
Vì f là hàm thuần nhất dương nên, nếu (x,r) ∈ epi f thì f (x) ≤ r và
λ f (x) = f (λx) ≤ λ r (0 < λ < ∞),
suy ra λ (x,r) ∈ epi f . Vậy epi f đóng đối với phép cộng và phép nhân vô
hướng, hay
λ (x
1
,r
1
) + (1 −λ)(x
2
,r
2
) ∈ epi f,
với mọi λ ∈[0,1].
Vậy epi f là lồi và ta có f là hàm lồi.
Định lý 1.8. Một hàm thực một biến f : (a,b) →R khả vi trong một khoảng
mở (a,b) ⊂ R lồi khi và chỉ khi đạo hàm f

(x) là hàm tăng.
Chứng minh. ⇒) Lấy x < y < z với x,y,z ∈ (a,b). Vì hàm f lồi và
y =
z −y
z −x

x +
y −x
z −x
z,
11
nên
f (y) ≤
z −y
z −x
f (x) +
y −x
z −x
f (z).
Do đó ta có
f (y) − f (x) ≤
y −x
z −x
[ f (z) − f (x)],
f (z) − f (y) ≥
z −y
z −x
[ f (z) − f (x)].
Vậy
f (y) − f (x)
y −x
≤
f (z) − f (x)
z −x
≤
f (z) − f (y)

z −y
.
Cho y → x
+
rồi cho y →z
−
ta có
f

(x) ≤
f (z) − f (x)
z −x
≤ f

(z),
suy ra f

tăng.
⇐) Vì f

tăng nên với mọi [x, y] ⊂[a,b] và mọi λ ∈ (0,1) ta có
0 ≤ λ

y
x

f

(x) − f


(λ x)

dx
= λ

f (y) − f (x) −
f (x + λ (y −x))
λ
+
f (x)
λ

= λ [ f (y) − f (x)] − f (x + λ (y −x)) + f (x).
Do đó
f (x + λ (y −x)) ≤ f (x ) + λ [f (y) − f (x)],
hay f ((1 −λ )x + λ y) ≤(1 −λ) f (x) + λ f (y),
suy ra f lồi.
Định lý 1.9. Một hàm f : D →R hai lần khả vi trong một tập lồi mở D ⊂ R
n
lồi nếu tại mọi x ∈D ma trận Hessian
Q(x) = (q
ij
(x)) với q
ij
(x) =
∂
2
f
∂ x
i

∂ x
j
(x
1
, ,x
n
)
12
nửa xác định dương: Q(x)  0, tức là

v, Q(x)v

≥ 0 với mọi v ∈ R
n
.
1.2.2. Các phép toán về hàm lồi
Định lý 1.10. Cho f : E → (−∞,+∞] là một hàm lồi và g : R → (−∞,+∞]
là một hàm lồi không giảm. Khi đó h(x) = g( f (x)) cũng lồi.
Chứng minh. Với mọi x
1
,x
2
∈ E, λ ∈ (0, 1), do f lồi và g lồi, không giảm:
h((1 −λ)x
1
+ λx
2
) = g( f ((1 −λ )x
1
+ λx

2
))
≤ g((1 −λ) f (x
1
) + λ f (x
2
))
≤ (1 −λ)g( f (x
1
)) + λg( f (x
2
))
≤ (1 −λ)h(x
1
) + λh(x
2
).
Từ đó suy ra h lồi.
Định lý 1.11. Cho f
i
(i = 1, ,k) là hàm lồi, chính thường trên E khi đó
f
1
+ f
2
+ + f
k
là một hàm lồi trên E.
Ví dụ 1.5. Cho A,B ⊂ E, ta định nghĩa
f (x) =




0 x ∈ A
+∞ x /∈ A,
g(x) =



0 x ∈ B
+∞ x /∈ B.
Ta có f và g là các hàm lồi, chính thường.
Hàm f + g lồi không chính thường nếu A ∩B = /0.
Thật vậy, f + g lồi theo Định lý (1.5) , ta chứng minh f + g không chính
thường. Ta có:
13
Nếu x ∈ A thì x /∈ B khi đó g(x) = +∞ nên
( f + g)(x) = f (x) + g(x) = +∞,
suy ra x /∈ dom( f + g).
Nếu x ∈ B thì x /∈ A khi đó f (x) = +∞ nên
( f + g)(x) = f (x) + g(x) = +∞,
suy ra x /∈ dom( f + g).
Vậy dom( f + g) = /0, do đó f + g lồi không chính thường.
1.2.3. Tính liên tục của hàm lồi
Định nghĩa 1.7. Cho E là không gian Banach.
1) Ta nói rằng f là hàm Lipschitz trên tập D ⊂E, nếu tồn tại số k sao cho


f (x) − f (x


)


≤ k


x −x



, ∀x,x

∈ D.
2) Hàm f được gọi là Lipschitz địa phương tại x ∈E, nếu tồn tại số ε > 0 sao
cho f là Lipschitz trên B(x,ε) ∩D.
3) Hàm f được gọi là Lipschitz địa phương trên D, nếu nó Lipschitz địa
phương tại mọi điểm của D.
Mệnh đề 1.2. Một hàm lồi chính thường f trên E là liên tục tại mỗi điểm
trong của miền hữu hiệu của nó.
Định lý 1.12. Cho một hàm lồi chính thường f trên E. Ta có các khẳng định
sau là tương đương:
i) f là liên tục tại điểm x
0
∈ E,
ii) f là bị chặn trên tại lân cận của x
0
∈ E,
14
iii) int(epi f ) = /0,
iv) int(dom f ) = /0 và f là Lipschitz trên mỗi tập bị chặn chứa trong int(dom f ),

v) int(dom f ) = /0 và f là liên tục trên int(dom f ).
Ở đây int(epi f ) = {(x,α) ∈ E ×R : x ∈ int(dom f ), f (x) < α}.
Chứng minh. [(i) ⇒ (ii)] Nếu f là liên tục tại một điểm x
0
thì tồn tại một lân
cận U của x
0
thỏa mãn f (x ) < f (x
0
) + 1 với mọi x ∈U.
[(ii) ⇒ (iii)] Từ giả thiết suy ra tồn tại lân cận U của x
0
và c > 0 sao cho
f (x) ≤ c, với mọi x ∈U. Đặt
V =
{
(x,α) ∈ E ×R : x ∈U, α > c
}
,
ta có V ⊂ epi f và V là tập mở, nên ta suy ra int(epi f ) = /0.
[(iii) ⇒ (iv)] Nếu int(epi f ) = /0 thì tồn tại một tập mở U và một khoảng mở
I ⊂ R thỏa mãn U ×I ⊂epi f , do đó U ⊂ dom f , tức là int(dom f ) = /0. Xét
tập compact bất kì K ⊂ int(dom f ) và lấy B là hình cầu đơn vị trong E. Với
mỗi r > 0, tập K +rB là compact, và họ những tập đóng
{(K + rB) \int(dom f )r > 0}
có giao là rỗng. Trong biểu diễn của tính compact của K + rB một họ con
hữu hạn của những họ này phải có giao bằng rỗng, do đó với r > 0 ta phải có
(K +rB)\int(dom f ) = /0, nghĩa là (K +rB) ⊂int(dom f ). Từ Mệnh đề (1.2),
hàm f là liên tục trên int(dom f ). Kí hiệu µ
1

và µ
2
là cực đại và cực tiểu của
f trên K + rB. Lấy x, x

là hai điểm phân biệt trong K và lấy
z = x +
r(x −x

)

x −x


.
Khi đó
z ∈C + εB ⊂ int(dom f ).
15
Vì x = (1 −α)x

+ αz, α =
x −x


r + x −x


và z,x

∈ dom f nên

f (x) ≤ (1 −α) f (x

) + α f (z) = f (x

) + α( f (z) − f (x

)),
và
f (x) − f (x

) ≤ α( f (z) − f (x

)) ≤ α(µ
1
−µ
2
)
≤ k


x −x



, k =
µ
1
−µ
2
r

.
Bởi tính đối xứng, ta cũng có f (x

) − f (x) ≤ k

x −x


. Do vậy, với mọi x, x

thỏa mãn x ∈ K, x

∈ K
|f (x) − f (x

)| ≤ k


x −x



,
điều này chứng minh cho tính Lipschitz của f trên K.
(iv) ⇒ (v) và (v) ⇒ (i) : Hiển nhiên.
Ví dụ 1.6. Hàm chuẩn f (x) =

x

là một hàm lồi. Tổng quát hơn, nếu D là

tập con lồi khác rỗng của E thì hàm khoảng cách:
d
K
(x) = inf
{
x −y

: y ∈ K
}
, x ∈ E,
là liên tục và lồi trên D = E. (Chú ý d
K
(x) =

x

nếu K =
{
0
}
).
Ví dụ 1.7. Cận trên đúng của một họ các hàm lồi là một hàm lồi trên một tập
ở đó nó hữu hạn. Nói riêng ra, nếu A không rỗng và bị chặn thì hàm khoảng
cách lớn nhất :
x → sup
{
x −y

: y ∈ A
}

, A ⊂ E
là liên tục và lồi trên D = E.
Ví dụ 1.8. Hàm f (x) = −∞, với mọi x ∈R là hàm lồi, nhưng không liên tục
trên R.
16
1.2.4. Tính khả vi của hàm lồi
Định nghĩa 1.8. Cho E là một không gian Banach, D là một tập con lồi mở
khác rỗng trong E và f là một hàm lồi trên D, nghĩa là
f : D → R,
thỏa mãn
f [tx + (1 −t)y] ≤t f (x) +(1 −t) f (y),
với mọi x, y ∈D và 0 < t < 1.
Nếu đẳng thức trên xảy ra với mọi t ∈ R thì ta gọi f là hàm affine.
Chúng ta sẽ chỉ nghiên cứu tính khả vi của các hàm lồi trên các tập mở D với
giả thiết chúng là các hàm liên tục.
Các bổ đề sau đây là nền tảng cho việc nghiên cứu tính khả vi của các hàm
lồi.
Bổ đề 1.1. Nếu x
0
∈ D, thì với mọi x ∈ E đạo hàm theo hướng bên phải
d
+
f (x
0
) = lim
t→0
+
f (x
0
+tx) − f (x

0
)
t
,
tồn tại và xác định một phiếm hàm dưới tuyến tính trên E.
Chứng minh. Lưu ý rằng với D là tập mở, f (x
0
+tx) đã được định nghĩa với t
đủ nhỏ thỏa mãn t > 0. Để cho tiện, chúng ta có thể giả thiết rằng x
0
= 0 và
f (x
0
) = 0. Nếu 0 < t < δ , thì do tính lồi của f ta có:
f (tx) ≤
t
δ
f (δ x) +
(δ −t)
δ
f (0) =
t
δ
f (δ x).
Thay −x vào x , ta thấy rằng
−
f (x
0
−tx) − f (x
0

)
t
,
17
là không giảm khi t → 0
+
. Hơn nữa, cũng do tính lồi, với t > 0
2 f (x
0
) ≤ f (x
0
−2tx) + f (x
0
+ 2tx),
suy ra
−[ f (x
0
−2tx) − f (x
0
)]
2t
≤
[ f (x
0
+ 2tx) − f (x
0
)]
2t
.
Bất đẳng thức trên chứng tỏ bên phải bị chặn dưới và bên trái bị chặn trên.

Như vậy, cả hai giới hạn tồn tại, giới hạn bên trái là −d
+
f (x
0
)(−x) và chúng
ta hiển nhiên có
−d
+
f (x
0
)(−x) ≤ d
+
f (x
0
)(x).
Rõ ràng d
+
f (x) thuần nhất dương . Để thấy tính cộng tính dưới, sử dụng tính
lồi một lần nữa để chứng tỏ với t > 0,
[ f (x + t(u + v)) − f (x)]
t
≤
f (x + 2tu) − f (x)
2t
+
f (x + 2tv) − f (x)
2t
,
và lấy giới hạn khi t → 0
+

.
Định nghĩa 1.9. Hàm lồi f được gọi là khả vi Gâteaux tại x
0
∈ D nếu giới
hạn
d f (x
0
)(x) = lim
t→0
f (x
0
+tx) − f (x
0
)
t
,
tồn tại với mọi x ∈E. Khi đó, hàm d f (x
0
) được gọi là đạo hàm Gâteaux (hoặc
vi phân Gâteaux) của f tại x
0
.
Từ định nghĩa (đòi hỏi phải có sự tồn tại giới hạn hai phía) ta thấy rằng f
khả vi Gâteaux tại x
0
nếu và chỉ nếu
−d
+
f (x
0

)(−x) = d
+
f (x
0
)(x), với mọi x ∈E.
Vì phiếm hàm dưới tuyến tính p là tuyến tính nếu và chỉ nếu p(−x) = −p (x)
với mọi x, điều đó chứng tỏ f là khả vi Gâteaux tại x
0
nếu và chỉ nếu
18
x → d
+
f (x
0
)(x) là tuyến tính trong tại x. Nói riêng ra, nếu điều đó là đúng,
f (x
0
)(x) là một phiếm hàm tuyến tính trên E.
Ví dụ 1.9. Nếu f là một phiếm hàm tuyến tính trên E (không nhất thiết liên
tục) thì d f (x
0
)(x) = f (x ) với tất cả x
0
và x. Ví dụ về một phiếm hàm tuyến
tính không liên tục trên một không gian tuyến tính chuẩn: giả sử f (x) = x

(0),
với x thuộc không gian các hàm đa thức trên [−1,1] với chuẩn cận trên đúng.
(Dễ dàng xây dựng dãy các hàm đa thức x
n

hội tụ đều tới 0 sao cho x

n
(0) = 1
với mọi n). Ta có hàm x → d f (x
0
)(x) không liên tục.
Ví dụ 1.10. Chuẩn

x

=
n
∑
i=1
|
x
|
trong l
1
là khả vi Gâteaux tại những điểm
x = x
n
với x
n
= 0 với mọi n . Trong trường hợp này, vi phân Gâteaux là dãy
bị chặn (sgn x
n
) ∈ l
∞

. Chuẩn trong l
1
(Γ) ( Γ- không đếm được) là không khả
vi Gâteaux tại bất kì điểm nào.
Chứng minh. Nếu x ∈ l
1
và x
n
= 0 với một n nào đó . Giả sử
δ
n
= (0,0, ,0, 1,0, ),
là dãy mà ngoài thành phần thứ n bằng 1, các thành phần khác đều bằng 0.
Ta có

x +tδ
n

1
−

x

1
=
|
t
|
.
Như vậy, bằng cách chia cả hai vế cho t, ta thấy giới hạn (2 phía) không tồn

tại khi t → 0.
Lưu ý này chỉ ra cách chứng minh khẳng định thứ hai, vì bất kì phần tử nào
của l
1
(Γ) đều triệt tiêu tại tất cả, trừ một số đếm được các phần tử của Γ ).
Mặt khác, giả sử rằng đối với mọi n, x
n
= 0, ε > 0 và y ∈ l
1
. Ta có thể chọn
N > 0 sao cho
∑
n>N
|
y
n
|
<
ε
2
.
19
Với δ > 0 đủ nhỏ ta có
sgn(x
n
+ty
n
) = sgn x
n
nếu 1 ≤ n ≤ N,

|
t
|
< δ .
Từ đó suy ra






x +ty

1
−

x

1
t
−
∞
∑
n=1
y
n
.sgn x
n






≤





N
∑
n=1
t
−1
{|
x
n
+ty
n
|
−
|
x
n
|
−ty
n
.sgn x
n
}






+ 2
∑
n>N
|
y
n
|
< ε, với
|
t
|
< δ .
Nếu f là một hàm lồi liên tục và khả vi Gâteaux tại một điểm thì nó có vi
phân và vi phân đó là một phiếm hàm tuyến tính liên tục. Đây là một hệ quả
được suy ra từ các kết quả sau.
Nếu x ∈ E và r > 0, quả cầu đóng tâm tại x được ký hiệu
B(x,r) =
{
y ∈ E :

x −y

≤ r
}
.

Mệnh đề 1.3. Nếu hàm lồi f liên tục tại x
0
∈ D thì nó Lipschitz địa phương
tại x
0
, nghĩa là tồn tại M > 0 và δ > 0 sao cho B(x
0
,δ ) ⊂ D và
|
f (x) − f (y)
|
≤ M

x −y

với mọi x,y ∈ B(x
0
,δ ).
Chứng minh. Vì f liên tục tại x
0
, f bị chặn địa phương tại đó, nghĩa là tồn
tại M
1
> 0 và δ > 0 sao cho
|
f
|
≤ M
1
trên B(x

0
,2δ ) ⊂ D. Nếu x,y là hai
điểm phân biệt của B(x
0
,δ ), đặt α =

x −y

và z = y +
δ
α
(y −x). Chú ý rằng
z ∈ B(x
0
,2δ ). Vì
y =
α
(α + δ)
.z +
δ
(α + δ)
.x,
là một tổ hợp lồi nằm trong B(x
0
,2δ ), ta có
f (y) ≤
α
(α + δ)
. f (z) +
δ

(α + δ)
. f (x).
20
Vì vậy
f (y) − f (x) ≤
α
α + δ
{
f (z) − f (x)
}
≤
α
δ
.2M
1
=
2M
1
δ

x −y

.
Đổi vai trò x và y, ta có kết quả mong muốn, với M =
2M
1
δ
.
Lưu ý rằng chúng ta chỉ sử dụng tính bị chặn địa phương của f , như vậy
tính chất vừa nêu là tương đương với tính liên tục của một hàm lồi trên một

tập lồi mở. Thật ra, chỉ cần f là hàm bị chặn trên địa phương là đủ.
Nếu f ≤ M trên hình cầu B(x
0
,r), thì với mọi x ∈B(x
0
,r), ta có
2x
0
−x ∈ B(x
0
,r)
và từ đó
f (x
0
) ≤
f (2x
0
−x) + f (x)
2
≤
M + f (x)
2
,
vậy
−f (x) ≤ M + 2
|
f (x
0
)
|

,
nghĩa là
|
f
|
≤ M + 2
|
f (x
0
)
|
trên B(x
0
,r).
Hệ quả 1.1. Nếu hàm lồi f là liên tục tại x
0
∈ D thì d
+
f (x
0
) là một phiếm
hàm dưới tuyến tính liên tục trên E, và do đó d f (x
0
) ( khi nó tồn tại ) là một
phiếm hàm dưới tuyến tính liên tục.
Chứng minh. Cho x
0
∈D, tồn tại một lân cận B của x
0
và M > 0 sao cho, nếu

x ∈ E thì
f (x
0
+tx) − f (x
0
) ≤ Mt

x

,
nếu như t > 0 đủ nhỏ để x
0
+tx ∈B. Như vậy, với mọi điểm x ∈ E chúng ta
có d
+
f (x
0
)(x)  Mx. Điều đó kéo theo d
+
f (x
0
) là liên tục.
21
Mệnh đề 1.4. Hàm lồi liên tục f là khả vi Gâteaux tại x
0
nếu và chỉ nếu tồn
tại duy nhất phiếm hàm đơn trị x
∗
trong E
∗

thỏa mãn

x
∗
, x −x
0

≤ f (x) − f (x
0
), x ∈ D. (1.4)
Hoặc một cách tương đương

x
∗
, y

≤ d
+
f (x
0
)(y), y ∈ E. (1.5)
Chứng minh. Đầu tiên ta chứng tỏ rằng (1.4) và (1.5) là tương đương. Nếu
x
∗
∈E
∗
thỏa mãn (1.4) thì với bất kì y ∈E ta có x
0
+ty ∈D với t > 0 đủ nhỏ.
Do đó

t

x
∗
,y

=

x
∗
,(x
0
+ty) −x
0

≤ f (x
0
+ty) − f (x
0
),
và dẫn đến x
∗
thỏa mãn (1.5). Đảo lại, nếu x
∗
thỏa mãn (1.5) thì
x
0
+t (x −x
0
) ∈ D nếu 0 < t ≤1,

trong đó y = x −x
0
. Như vậy

x
∗
,x −x
0

≤ d
+
f (x
0
)(x −x
0
) ≤ t
−1
[ f (x
0
+t(x −x
0
)) − f (x
0
)],
với t = 1, ta có (1.4). Nếu d f (x
0
) tồn tại, thì như chúng ta đã thấy ở trên
d f (x
0
)(x −x

0
) ≤ f (x) − f (x
0
).
Do vậy d f (x
0
) thỏa mãn (1.4). Hơn thế, nếu x
∗
thỏa mãn (1.4) thì nó thỏa
mãn (1.5). Tính chất tuyến tính của d
+
f (x
0
) = d f (x
0
) kéo theo x
∗
= d f (x
0
).
Đảo lại, giả sử rằng x
∗
là phần tử duy nhất của E
∗
thỏa mãn (1.4), do đó là
phần tử duy nhất thỏa mãn (1.5). Bây giờ chúng ta áp dụng sự kiện tổng quát
là, nếu một phiếm hàm dưới tuyến tính liên tục p làm trội đúng thực sự một