Dưới vi phân của hàm lồi và ứng dụng (LV00373)

LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học sư phạm Hà Nội 2 dưới
sự hướng dẫn của PGS.TS Nguyễn Năng Tâm.
Tôi xin bày tỏ lòng biết ơn chân thành, sâu sắc tới PGS.TS Nguyễn
Năng Tâm, người đã luôn quan tâm, động viên và tận tình hướng dẫn
tôi trong quá trình thực hiện luận văn.
Tôi xin được gửi lời cảm ơn chân thành tới Ban giám hiệu trường Đại
học sư phạm Hà Nội 2, phòng Sau đại học, các thầy cô giáo trong nhà
trường và các thầy cô giáo dạy cao học chuyên ngành Toán giải tích đã
tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu.
Tôi xin bày tỏ lòng biết ơn tới gia đình, người thân đã động viên và
tạo mọi điều kiện để tôi có thể hoàn thành bản luận văn này.
Hà Nội, tháng 10 năm 2010
Nguyễn Thị Thanh
LỜI CAM ĐOAN
Tôi xin cam đoan luận văn là công trình nghiên cứu của riêng tôi dưới
sự hướng dẫn của PGS.TS Nguyễn Năng Tâm.
Hà Nội, tháng 10 năm 2010
Nguyễn Thị Thanh
Mục lục
Mở đầu 1
Chương 1. Tập lồi và hàm lồi 3
1.1. Định nghĩa tập lồi và các tính chất . . . . . . . . . . . . 3
1.2. Định nghĩa hàm lồi và các tính chất . . . . . . . . . . . . 6
1.2.1. Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.2. Các phép toán về hàm lồi . . . . . . . . . . . . . 11
1.2.3. Tính liên tục của hàm lồi . . . . . . . . . . . . . 13
1.3. Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Chương 2. Dưới vi phân hàm lồi 16
2.1. Định nghĩa và các tính chất cơ bản . . . . . . . . . . . . 16
2.2. Một số phép toán dưới vi phân . . . . . . . . . . . . . . 25

2.3. Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
Chương 3. Ứng dụng của dưới vi phân hàm lồi 32
3.1. Một số tính chất cơ bản . . . . . . . . . . . . . . . . . . 32
3.2. Một số ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.3. Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
Kết luận 42
Tài liệu tham khảo 43
BẢNG KÍ HIỆU
R
n
không gian Euclid n chiều trên tập số thực
R tập số thực (R = R
1
)
R = R ∪{−∞, +∞} tập số thực suy rộng
x =

n

i=1
x
i
2
chẩn Euclide của x
F : X ⇒ Y ánh xạ đa trị từ X vào Y
domf miền hữu hiệu của f
epif trên đồ thị của f
int Ω phần trong của Ω
ri Ω phần trong tương đối của Ω
cone Ω nón lồi sinh bởi Ω

N(¯x, Ω) nón pháp tuyến của Ω tại ¯x
∇f(x) hay f

(x) đạo hàm của f tại x
f

(x; v) đạo hàm theo hướng v của f tại x
∂f(x) dưới vi phân của f tại x
MỞ ĐẦU
1. Lý do chọn đề tài
Những hàm số không khả vi xuất hiện thường xuyên và được biết
đến từ lâu trong Toán học và các khoa học ứng dụng khác. Vì lý thuyết
vi phân cổ điển không thể ứng dụng được cho việc khảo sát những đối
tượng không khả vi, nên các lý thuyết vi phân suy rộng đã ra đời và đã
được xây dựng. Lý thuyết vi phân suy rộng đầu tiên là lý thuyết vi phân
suy rộng cho các hàm lồi. Với những cống hiến quan trọng của T. R.
Rockafellar và một số nhà toán học khác, ngày nay Giải tích lồi đã trở
thành một bộ phận quan trọng và đẹp đẽ của Giải tích toán học, góp
phần giải quyết được nhiều bài toán trong thực tế ([1], [7]). Với mong
muốn được tìm hiểu sâu hơn về sự phát triển của phép tính vi-tích phân
và ứng dụng của nó, tôi đã chọn nghiên cứu đề tài: “Dưới vi phân của
hàm lồi và ứng dụng”.
2. Mục đích nghiên cứu
Đề tài nghiên cứu các kết quả đạt được về dưới vi phân của hàm lồi
và một số ứng dụng vào bài toán tối ưu.
3. Nhiệm vụ nghiên cứu
Việc nghiên cứu luận văn với nhiệm vụ hệ thống, làm rõ khái niệm
dưới vi phân của hàm lồi và một số tính chất, từ đó trình bày ứng dụng
của nó trong một số bài toán.
4. Đối tượng và phạm vi nghiên cứu

Dưới vi phân của hàm lồi và một số tính chất.
Ứng dụng của dưới vi phân hàm lồi.
2
5. Phương pháp nghiên cứu
Tổng hợp kiến thức thu thập được qua những tài liệu liên quan đến
đề tài, sử dụng các phương pháp nghiên cứu của giải tích, giải tích lồi,
giải tích đa trị, tối ưu hoá.
6. Những đóng góp của đề tài
Trình bày một cách có hệ thống các kiến thức cơ bản về dưới vi phân
của hàm lồi và một số tính chất. Nghiên cứu ứng dụng của dưới vi phân
hàm lồi trong một số bài toán.
Chương 1
Tập lồi và hàm lồi
Trong chương này chúng ta sẽ trình bày những khái niệm cơ bản nhất
của tập lồi và hàm lồi cùng với những tính chất đặc trưng của nó.
1.1. Định nghĩa tập lồi và các tính chất
Định nghĩa 1.1.1. ([3], tr 3, định nghĩa 1.1) Tập A ⊂ R
n
được gọi
là lồi nếu với mọi x, y ∈ A và mọi λ ∈ R sao cho 0 ≤ λ ≤ 1 thì
λx + (1 − λ)y ∈ A.
Định lý 1.1.1. ([7], tr 10, định lý 2.1) Giao của một họ tùy ý các tập
lồi trong R
n
là một tập lồi trong R
n
.
Chứng minh. Giả sử A
α
∈ R

n
(α ∈ I) là các tập lồi với I là tập chỉ số
bất kì, ta cần chứng minh tập A =
∩
α∈I
A
α
là lồi.
Lấy tùy ý x
1
, x
2
∈ A. Khi đó x
1
, x
2
∈ A
α
, với mọi α ∈ I. Do A
α
là lồi
cho nên λx
1
+(1−λ)x
2
∈ A
α
với mọi λ ∈ [0, 1], do đó λx
1
+(1−λ)x

2
∈ A.
Vì vậy A là tập lồi.
Hệ quả 1.1. ([7], tr 10, hệ quả 2.1.1) Cho b
i
∈ R
n
; β
i
∈ R; i ∈ I với I
là tập chỉ số tùy ý. Khi đó A = {x ∈ R
n
| x; b
i
 ≤ β
i
; i ∈ I} là một tập
lồi trong R
n
.
Định nghĩa 1.1.2. Cho A và B là hai tập hợp tuỳ ý trong R
n
A + B = {a + b | a ∈ A; b ∈ B};
αA = {αa | a ∈ A}.
4
Định lý 1.1.2. ([3], tr 4, mệnh đề 1.2) Giả sử A
i
⊂ R
n
lồi; λ

i
∈ R
(i = 1, 2, , m). Khi đó λ
1
A
1
+ λ
2
A
2
+ + λ
m
A
m
là lồi.
Định nghĩa 1.1.3. Vectơ x ∈ R
n
được gọi là tổ hợp lồi của các vectơ
x
1
, , x
m
∈ R
n
nếu tồn tại λ
i
≥ 0 (i = 1, 2, , m)
m

i=1

λ
i
= 1 sao cho
x =
m

i=1
λ
i
x
i
.
Định lý 1.1.3. ([7], tr 11, định lý 2.2) Một tập trong R
n
là lồi khi và
chỉ khi nó chứa tất cả các tổ hợp lồi của các phần tử của nó.
A là tập lồi trong R
n
khi và chỉ khi
A = {x =
m

i=1
λ
i
x
i
| x
i
∈ A;

m

i=1
λ
i
= 1; λ
i
≥ 0; i =
1, m, ∀m ∈ N}.
Chứng minh. ⇐ / Chọn m = 2, khi đó A là tập lồi theo định nghĩa.
⇒ / Giả sử A là tập lồi, ta lấy tùy ý x
1
, x
2
, , x
m
∈ A; λ
1
, , λ
m
≥ 0
và
m

i=1
λ
i
= 1 ; x =
m


i=1
λ
i
x
i
.
Ta chứng minh x ∈ A bằng quy nạp theo m.
Với m = 1 : x
1
∈ A; λ
1
= 1, khi đó x = x
1
∈ A.
Với m = 2 : x
1
, x
2
∈ A; λ
1
+λ
2
= 1 mà A lồi suy ra x = λ
1
x
1
+λ
2
x
2

∈ A
theo định nghĩa.
Giả sử x ∈ A đúng với m − 1 , ta có
m

i=1
λ
i
x
i
∈ A; ∀x
i
∈ A;
m

i=1
λ
i
= 1; λ
i
≥ 0; i ∈ N.
Xét x =
m

i=1
λ
i
x
i
=

m−1

i=1
λ
i
x
i
+ λ
m
x
m
.
Nếu λ
m
= 0 thì x ∈ A theo giả thiết quy nạp.
Nếu λ
m
= 1 thì λ
1
= = λ
m−1
= 0 khi đó x = x
m
∈ A.
Nếu 0 < λ < 1 ta có
1 − λ
m
= λ
1
+ + λ

m−1
> 0
5
λ
i
1 − λ
m
≥ 0 (i = 1, , m − 1).
Vì
m−1

i=1
λ
i
1 − λ
m
= 1 nên theo giả thiết quy nạp y =
m−1

i=1
λ
i
1 − λ
m
x
i
∈ A,
từ đó với y ∈ A, x
m
∈ A, 1 − λ

m
> 0 và (1 − λ
m
) + λ
m
= 1 suy ra
x = (1 − λ
m
)y + λ
m
x
m
∈ A do A là tập lồi.
Định lý 1.1.4. Một tập A trong R là lồi khi và chỉ khi A liên thông.
Chứng minh. ⇒ / Giả sử A không liên thông , khi đó A là hợp của
hai tập mở rời nhau. Giả sử A = B ∪ C; B ∩ C = ∅; B, C mở, với
B = (x, y); C = (z, t), ở đó y < z. Suy ra
y + z
2
/∈ A, mâu thuẫn vì A
lồi.
⇐ / Giả sử A không lồi, khi đó tồn tại α ∈ (0, 1) và x, y ∈ A, x < y sao
cho
αx + (1 − α)y /∈ A
Lấy z ∈ A suy ra
z = αx + (1 − α)y ⇒

z > αx + (1 − α)y
z < αx + (1 − α)y
Lại do x < αx + (1 − α)y < y nên A = B ∪ C với

B = {s ∈ A : s < αx + (1 −α)y}
C = {s ∈ A : s > αx + (1 −α)y}
Điều này mâu thuẫn với tính chất A liên thông.
Ví dụ 1.1.1. Các tập lồi trong R:
∅, {x}, (a, b), (a, b] , [a, b) , [a, b] , R
6
1.2. Định nghĩa hàm lồi và các tính chất
1.2.1. Hàm lồi
Định nghĩa 1.2.1. ([1], tr 78) Cho hàm f : S → R, trong đó S ⊂ R
n
;
R = R ∪ {−∞, +∞}, các tập
dom f = {x ∈ S | f(x) < +∞},
epi f = {(x, α) ∈ S × R | f(x) ≤ α},
được gọi lần lượt là miền hữu hiệu và trên đồ thị của hàm f.
Định nghĩa 1.2.2. ([3], tr 39, định nghĩa 2.4) Hàm f : S → R được gọi
là lồi nếu trên đồ thị của nó là một tập lồi trong S ×R. Nếu dom f = ∅
và f(x) > −∞ với mọi x ∈ S ta nói hàm f là chính thường.
Ví dụ 1.2.2. a) Hàm
f : R → R
f(x) = x
2
epi f =

(x; µ) ∈ R × R |f(x) = x
2
≤ µ

là tập lồi trong R × R.
Thật vậy, lấy hai điểm bất kỳ (x

1
, µ
1
) ∈ epi f, (x
2
, µ
2
) ∈ epi f, tức
là µ
1
≥ x
1
2
, µ
2
≥ x
2
2
.
Ta cần chứng minh λ (x
1
, µ
1
) + (1 − λ) (x
2
, µ
2
) ∈ epi f; 0 ≤ λ ≤ 1
Điều này tương đương với
(λx

1
+ (1 − λ)x
2
, λµ
1
+ (1 − λ)µ
2
) ∈ epif
⇔ λµ
1
+ (1 − λ)µ
2
≥ (λx
1
+ (1 − λ)x
2
)
2
⇔ λµ
1
+ (1 − λ)µ
2
≥ λ
2
x
1
2
+ (1 − λ)
2
x

2
2
+ 2λ(1 − λ)x
1
x
2
.
Mà λµ
1
+ (1 − λ)µ
2
≥ λx
1
2
+ (1 − λ)x
2
2
.
7
Và
λx
1
2
+ (1 − λ)x
2
2
≥ λ
2
x
1

2
+ (1 − λ)
2
x
2
2
+ 2λ(1 − λ)x
1
x
2
⇔ (λ − λ
2
)x
1
2
+

(1 − λ) − (1 − λ)
2

x
2
2
− 2λ(1 − λ)x
1
x
2
≥ 0
⇔ λ(1 − λ)x
1

2
+ λ(1 − λ)x
2
2
− 2λ(1 − λ)x
1
x
2
≥ 0
⇔ λ(1 − λ)(x
1
− x
2
)
2
≥ 0 (luôn đúng).
Suy ra epi f là hàm lồi nên f là hàm lồi.
b) Hàm
f : R → R
f(x) = x
3
không là hàm lồi vì
epi f =

(x; µ) ∈ R × R |f(x) = x
3
≤ µ

không lồi trong R × R.
Thật vậy, lấy hai điểm bất kỳ (0, 0) ∈ epif, (−1, −1) ∈ epif, lấy

λ =
1
2
khi đó
λ(0, 0) + (1 − λ)(−1, −1) =
1
2
(0, 0) +
1
2
(−1, −1) =

−
1
2
, −
1
2

không thuộc epi f.
Ví dụ 1.2.3. ([3], tr 40, ví dụ 1.4) Cho hàm chỉ δ(. |A)
δ(x |A) :=

0 khi x ∈ A;
+∞ khi x /∈ A.
Nếu A là tập lồi, A ⊂ R
n
thì δ(. |A) là hàm lồi.
Thật vậy, khi x ∈ A thì epi δ = {(x, µ) ; µ ≥ 0} là tập lồi.
Khi x /∈ A thì epi δ = ∅ là tập lồi.

Vậy epi δ lồi nên δ(. |A) là hàm lồi.
8
Định lý 1.2.1. ([3], tr 40, định lý 2.1) Giả sử A là tập lồi trong R
n
,
hàm f : A → (−∞; +∞]. Khi đó, f lồi trên A khi và chỉ khi
f(λx + (1 − λ)y) ≤ λf(x) + (1 − λ)f(y) (1.1)
∀λ ∈ [0; 1]; ∀x, y ∈ A.
Chứng minh. ⇒ / Giả sử f là hàm lồi, ta có thể xem như λ ∈ (0; 1) vì
với λ ∈ {0; 1} thì (1.1) hiển nhiên đúng.
Lấy r = f(x); s = f(y). Vì f lồi suy ra dom f lồi.
Thật vậy, dom f là hình chiếu trên X của epi f
dom f = {x : f(x) < +∞} = {x : ∃r, (x, r) ∈ epi f}.
Như vậy dom f là ảnh của tập lồi epi f qua một ánh xạ tuyến tính,
do đó dom f lồi.
Nếu x hoặc y không thuộc dom f, giả sử x không thuộc dom f thì
f(x) = +∞, do λ ∈ (0; 1) nên f(x) = +∞ suy ra λf(x) = +∞ và (1.1)
đúng.
Nếu x, y ∈ dom f suy ra λx + (1 − λ)y ∈ dom f (vì dom f lồi) suy
ra f(λx + (1 − λ)y) = +∞.
Do epi f lồi nên với mọi (x, r) ∈ epi f; (y, s) ∈ epi f; λ ∈ (0; 1) ta có
λ(x, r) + (1 − λ)(y, s) = (λx + (1 − λ)y; λr + (1 − λ)s) ∈ epif
suy ra f(λx + (1 − λ)y) ≤ λr + (1 −λ)s.
Vậy f(λx + (1 − λ)y) ≤ λf(x) + (1 − λ)f(y).
⇐ / Giả sử (1.1) đúng. Lấy tùy ý (x, r) ∈ epi f; (y, s) ∈ epi f; λ ∈ [0; 1].
Ta phải chứng minh
λ(x, r) + (1 − λ)(y, s) ∈ epi f.
Vì (x, r) ∈ epi f; (y, s) ∈ epif nên f(x) ≤ r; f(y) ≤ s. Từ đó suy ra
f(λx + (1 − λ)y) ≤ λf(x) + (1 − λ)f(y) ≤ λr + (1 − λ)s
9

hay (λx + (1 − λ)y; λr + (1 − λ)s) ∈ epi f.
Vậy λ(x, r) + (1 − λ)(y, s) ∈ epi f.
Định lý 1.2.2. (Bất đẳng thức Jensen)([3], tr 42, định lý 2.2)
Giả sử f : R
n
→ (−∞; +∞]. Khi đó f là một hàm lồi khi và chỉ khi
với mọi λ
i
≥ 0(i = 1, , m);
m

i=1
λ
i
= 1; mọi x
1
, , x
m
∈ R ta có
f(λ
1
x
1
+ + λ
m
x
m
) ≤ λ
1
f(x

1
) + + λ
m
f(x
m
). (1.2)
Chứng minh. Không giảm tổng quát, giả sử λ
i
≥ 0 (i = 1, , m).
Ta có, nếu x
i
/∈ dom f thì f(x
i
) = +∞; λ
i
f(x
i
) = +∞. Khi đó (1.2)
hiển nhiên đúng.
Do dom f lồi nên nếu f(x
i
) < +∞; i = 1, , m thì
f

m

i=1
λ
i
x

i

< +∞ vì
m

i=1
λ
i
x
i
∈ dom f.
Nếu x
i
∈ dom f, do epi f lồi và (x
i
, f(x
i
)) ∈ epi f; i = 1, , m nên
theo định lý 1.1.3 ta có
(λ
1
x
1
+ + λ
m
x
m
; λ
1
f(x

1
) + + λ
m
f(x
m
) ∈ epi f.
Từ đó suy ra f(λ
1
x
1
+ + λ
m
x
m
) ≤ λ
1
f(x
1
) + + λ
m
f(x
m
).
Mệnh đề 1.2.1. ([3], tr 42, mệnh đề 2.1) Giả sử f : R
n
→ R, f là hàm
lồi khi và chỉ khi
f(λx + (1 − λ)y) < λr + (1 − λ)s;
∀λ ∈ (0; 1); ∀x, y : f(x) < r; f(y) < s.
Định nghĩa 1.2.3. ([3], tr 43, định nghĩa 2.5) Một hàm f xác định trên

R
n
được gọi là thuần nhất dương nếu f(λx) = λf(x) với mọi x ∈ R
n
;
mọi λ > 0.
Định lý 1.2.3. ([3], tr 44, định lý 2.4)
Hàm thuần nhất dương f : R
n
→ (−∞; +∞] là lồi khi và chỉ khi
f(x + y) ≤ f(x) + f(y); ∀x, y ∈ R
n
. (1.3)
10
Chứng minh. ⇒ / Giả sử hàm thuần nhất dương f là lồi. Lấy x, y ∈ R
n
f(x + y) = 2f(
1
2
x) + f(
1
2
y)
≤ 2

1
2
f(x) +
1
2

f(y)

= f(x) + f(y).
⇐ / Giả sử (1.3) đúng. Lấy (x
i
, r
i
) ∈ epi f (i = 1, 2), ta có
(x
1
+ x
2
, r
1
+ r
2
) ∈ epi f, bởi vì f(x
1
+ x
2
) ≤ f(x
1
) + f(x
2
) ≤ r
1
+ r
2
.
Mà f là hàm thuần nhất dương nên nếu (x, r) ∈ epi f thì f(x) ≤ r và

λf(x) = f(λx) ≤ λr (0 < λ < ∞) suy ra λ(x, r) ∈ epi f.
Vậy epi f đóng đối với phép cộng và phép nhân vô hướng.
Hay λ(x
1
, r
1
) + (1 − λ)(x
2
, r
2
) ∈ epi f với mọi λ ∈ [0; 1].
Từ đó suy ra epi f là lồi, suy ra f là hàm lồi.
Định lý 1.2.4. Một hàm thực một biến ϕ(t) khả vi trong một khoảng
mở (a, b) ⊂ R lồi khi và chỉ khi ϕ

(t) là hàm tăng.
Chứng minh. ⇒ / Lấy t
1
< t
2
< t
3
với t
1
, t
2
, t
3
∈ (a, b), bởi vì hàm ϕ(t)
lồi và

t
2
=
t
3
− t
2
t
3
− t
1
t
1
+
t
2
− t
1
t
3
− t
1
t
3
.
Cho nên
ϕ(t
2
) ≤
t

3
− t
2
t
3
− t
1
ϕ(t
1
) +
t
2
− t
1
t
3
− t
1
ϕ(t
3
),
từ đó ta có
ϕ(t
2
) − ϕ(t
1
) ≤
t
2
− t

1
t
3
− t
1
[ϕ(t
3
) − ϕ(t
1
)] ,
ϕ(t
3
) − ϕ(t
2
) ≥
t
3
− t
2
t
3
− t
1
[ϕ(t
3
) − ϕ(t
1
)] .
Vậy
ϕ(t

2
) − ϕ(t
1
)
t
2
− t
1
≤
ϕ(t
3
) − ϕ(t
1
)
t
3
− t
1
≤
ϕ(t
3
) − ϕ(t
2
)
t
3
− t
2
.
11

Cho t
2
→ t
1
+
rồi cho t
2
→ t
3
−
ta có
ϕ

(t
1
) ≤
ϕ(t
3
) − ϕ(t
1
)
t
3
− t
1
≤ ϕ

(t
3
).

Suy ra ϕ

(t) tăng.
⇐ / ϕ

(t) tăng kéo theo với mọi [t
1
, t
2
] ⊂ [a, b] và mọi λ ∈ (0, 1) ta có
0 ≤ λ

t
2
t
1
[ϕ

(t) − ϕ

(λt)]dt
= λ

ϕ(t
2
) − ϕ(t
1
) −
ϕ(t
1

+ λ(t
2
− t
1
))
λ
+
ϕ(t
1
)
λ

= λ [ϕ(t
2
) − ϕ(t
1
)] − ϕ(t
1
+ λ(t
2
− t
1
)) + ϕ(t
1
).
Do đó
ϕ(t
1
+ λ(t
2

− t
1
)) ≤ ϕ(t
1
) + λ [ϕ(t
2
) − ϕ(t
1
)]
hay ϕ((1 − λ)t
1
+ λ(t
2
− t
1
)) ≤ (1 − λ)ϕ(t
1
) + λϕ(t
2
).
Suy ra ϕ(t) lồi.
1.2.2. Các phép toán về hàm lồi
Định lý 1.2.5. Cho f là một hàm lồi. f : R
n
→ (−∞; +∞] và ϕ là một
hàm lồi ϕ : R → (−∞; +∞] không giảm, khi đó h = ϕ(f(x)) cũng lồi.
Chứng minh. Với mọi x
1
, x
2

∈ R
n
; λ ∈ (0; 1)
h((1 − λ)x
1
+ λx
2
) = ϕ(f((1 − λ)x
1
+ λx
2
))
≤ ϕ((1 − λ)f(x
1
) + λf(x
2
))
≤ (1 − λ)ϕ(f(x
1
)) + λϕ(f(x
2
))
≤ (1 − λ)h(x
1
) + λh(x
2
).
(do f lồi và ϕ không giảm).
Từ đó suy ra h lồi.
Định lý 1.2.6. ([3], tr 47, định lý 2.6) Cho f

i
(i = 1, , m) là hàm lồi,
chính thường trên R
n
khi đó f
1
+ f
2
+ + f
m
là một hàm lồi trên R
n
.
12
Ví dụ 1.2.4. Cho
f
1
=

0 x ∈ A
+∞ x /∈ A
là hàm lồi, chính thường.
f
2
=

0 x ∈ B
+∞ x /∈ B
là hàm lồi, chính thường.
f

1
+ f
2
lồi không chính thường nếu A ∩ B = ∅.
Thật vậy, f
1
+ f
2
lồi theo Định lý 1.2.6, ta chứng minh f
1
+ f
2
không
chính thường.
Ta có, nếu x ∈ A thì x /∈ B khi đó f
2
(x) = +∞ nên
(f
1
+ f
2
)(x) = f
1
(x) + f
2
(x) = +∞ suy ra x /∈ dom (f
1
+ f
2
).

Nếu x ∈ B thì x /∈ A khi đó f
1
(x) = +∞ nên
(f
1
+ f
2
)(x) = f
1
(x) + f
2
(x) = +∞ suy ra x /∈ dom (f
1
+ f
2
).
Vậy dom (f
1
+ f
2
) = ∅, do đó f
1
+ f
2
lồi không chính thường.
Định lý 1.2.7. ([7], tr 33, định lý 5.3) Cho C là một tập lồi trong R
n+1
và đặt
f(x) = inf {µ | (x, µ) ∈ C}.
Khi đó f là hàm lồi trên miền xác định.

Chứng minh. Lấy µ
1
, µ
2
∈ R; λ ∈ (0; 1).
Giả sử f(x) < µ
1
; f(y) < µ
2
, ta có
f((1 − λ)x + λy) < (1 − λ)µ
1
+ λµ
2
.
Thật vậy theo định nghĩa f ta có
f((1 − λ)x + λy) = inf {µ | ((1 − λ)x + λy, µ) ∈ C}.
Vì f(x) < µ
1
nên với ε = µ − f(x) > 0; tồn tại µ
1
: (x, µ
1
) ∈ C và
µ
1
< f(x) + ε.
Do đó f(x) < µ
1
< µ

1
.
Tương tự, từ f(y) < µ
2
suy ra tồn tại µ
2
: (y, µ
2
) ∈ C và µ
2
<
f(y) + ε
1
mà f(y) < µ
2
< µ
2
.
13
Từ trên ta có ((1 − λ)x + λy; (1 − λ)µ
1
+ λµ
2
) ∈ C
và (1 − λ)µ
1
+ λµ
2
< (1 − λ)µ
1

+ λµ
2
.
Do đó f((1 − λ)x + λy) ≤ (1 − λ)µ
1
+ λµ
2
< (1 − λ)µ
1
+ λµ
2
.
Từ đây suy ra f lồi theo mệnh đề 1.2.1.
1.2.3. Tính liên tục của hàm lồi
Định nghĩa 1.2.4. Cho X là không gian định chuẩn.
1) Ta nói rằng f là hàm Lipschitz trên tập D ⊂ X, nếu tồn tại số k sao
cho
|f(x) − f(x

)| ≤ kx − x

, ∀x, x

∈ D.
2) Hàm f được gọi là Lipschitz địa phương tại x ∈ X, nếu tồn tại số
ε > 0 sao cho f là Lipschitz trên B(x, ε) ∩D.
3) Hàm f được gọi là Lipschitz địa phương trên D, nếu nó Lipschitz địa
phương tại mọi điểm của D.
Mệnh đề 1.2.2. ([8], tr 44, mệnh đề 2.3) Một hàm lồi chính thường f
trên R

n
là liên tục tại mỗi điểm trong của miền hữu hiệu của nó.
Định lý 1.2.8. ([8], tr 55, định lý 2.2) Cho một hàm lồi chính thường
f trên R
n
. Ta có các khẳng định sau là tương đương:
i) f là liên tục tại điểm x
0
∈ R
n
;
ii) f là bị chặn trên tại lân cận của x
0
∈ R
n
;
iii) int(epi f) = ∅;
iv) int(dom f) = ∅ và f là Lipschitz trên mỗi tập bị chặn chứa trong
int(domf);
v) int(domf) = ∅ và f là liên tục trên int(domf).
Chứng minh. [(i) ⇒ (ii)] Nếu f là liên tục tại một điểm x
0
thì tồn tại
một lân cận U của x
0
thỏa mãn f(x) < f(x
0
) + 1 với mọi x ∈ U.
[(ii) ⇒ (iii)] Từ giả thiết suy ra tồn tại lân cận U của x
0

và c > 0 sao
14
cho f(x) ≤ c, với mọi x ∈ U. Đặt
V =

(x, α) ∈ R
n+1
| x ∈ U, α > c

,
ta có V ⊂ epif và V là tập mở vì với bất kì (x, α) ∈ V thì (x, α) thuộc
lân cận U × (c, +∞) ⊂ R
n+1
, nên ta suy ra int(epif) = ∅.
[(iii) ⇒ (iv)] Nếu int(epif) = ∅ thì tồn tại một tập mở U và một
khoảng mở I ⊂ R thỏa mãn U ×I ⊂ epif, do đó U ⊂ domf, tức là
int(domf) = ∅. Xét tập compact bất kì C ⊂ int(domf) và lấy B là hình
cầu đơn vị trong R
n
. Với mỗi r > 0, tập C + rB là compact, và họ
những tập đóng {(C + rB)\int(domf), r > 0} có giao là rỗng. Do tính
compact của C +rB một họ con hữu hạn của những họ này phải có một
giao bằng rỗng, do đó với r > 0 ta phải có (C + rB)\int(domf) = ∅,
nghĩa là (C +rB) ⊂ int(domf). Bởi Mệnh đề 1.2.2 hàm f là liên tục trên
int(domf). Kí hiệu µ
1
và µ
2
là cực đại và cực tiểu của f trên C + rB.
Lấy x, x


là hai điểm phân biệt trong C và lấy z = x +
r(x − x

)
x − x


. Khi đó
z ∈ C + rB ⊂ int(domf). Vì
x = (1 − α)x

+ αz, α =
x − x


r + x − x


,
và z, x

∈ domf nên
f(x) ≤ (1 − α)f(x

) + αf(z) = f(x

) + α(f(z) −f(x

)),

và
f(x) − f(x

) ≤ α(f(z) − f(x

)) ≤ α(µ
1
− µ
2
)
≤ kx − x

, k =
µ
1
− µ
2
r
.
Bởi tính đối xứng, ta cũng có f(x

) − f(x) ≤ kx − x

. Do vậy, với mọi
x, x

thỏa mãn x ∈ C, x

∈ C
|f(x) − f(x


)| ≤ k x − x

,
điều này chứng minh cho tính Lipschitz của f trên C.
(iv) ⇒ (v) và (v) ⇒ (i) : là rõ ràng.
15
Ví dụ 1.2.5. Hàm f(x) = x
2
, x ∈ R là hàm lồi liên tục trên R.
Hàm f(x) = −∞, x ∈ R là hàm lồi không liên tục trên R.
1.3. Kết luận
Trong chương này chúng ta đã trình bày định nghĩa, một số tính chất
cơ bản của tập lồi và hàm lồi cùng với một số ví dụ minh họa.
Một trong những ứng dụng chính của lý thuyết vi phân là tìm cực trị
của các phiếm hàm. Tuy nhiên khi tìm cực trị của một số phiếm hàm
không trơn (không khả vi) tại một số điểm thì lý thuyết vi phân nêu
trên không vận dụng được. Do đó, trong chương tiếp theo ta sẽ mở rộng
khái niệm vi phân cho dưới vi phân của hàm lồi.
Chương 2
Dưới vi phân hàm lồi
Trong chương này chúng ta sẽ trình bày những kiến thức cơ bản của
dưới vi phân của hàm lồi cần dùng trong quá trình nghiên cứu một số
bài toán tối ưu không trơn.
2.1. Định nghĩa và các tính chất cơ bản
Định nghĩa 2.1.1. ([3], tr 110, định nghĩa 4.2) Cho f là hàm lồi chính
thường trên R
n
; khi đó vectơ x
∗

∈ R
n
được gọi là vectơ dưới gradient của
f tại điểm x
0
nếu
f(x) − f(x
0
) ≥ x
∗
, x − x
0
 ∀x ∈ R
n
. (2.1)
Tập tất cả các dưới gradient của f tại x
0
được gọi là dưới vi phân của
f tại x
0
và được kí hiệu là ∂f(x
0
).
Hàm f được gọi là dưới khả vi tại x
0
nếu ∂f(x
0
) = ∅.
Ví dụ 2.1.6. Cho f(x) = x
2

, x ∈ R.
a) Với x
0
= 0, ta có
x
∗
∈ ∂f(0) ⇔ x
2
≥ x
∗
, x ∀x ∈ R
⇔ x
2
− x
∗
x ≥ 0 ∀x ∈ R
⇔ x
∗
= 0.
Vậy ∂f(0) = {0}.
17
b) Với x
0
= 1, ta có
x
∗
∈ ∂f(1) ⇔ x
2
− 1 ≥ x
∗

, x − 1 ∀x ∈ R
⇔ x
2
− 1 ≥ x
∗
x − x
∗
∀x ∈ R
⇔ x
2
− x
∗
x + x
∗
− 1 ≥ 0 ∀x ∈ R
⇔ ∆ = x
∗
2
− 4x
∗
+ 4 ≤ 0
⇔ (x
∗
− 2)
2
≤ 0 ⇔ x
∗
= 2.
Vậy ∂f(1) = {2}.
Nhận xét 2.1. Rõ ràng rằng x

∗
∈ R
n
là một dưới gradient của f tại điểm
x
0
nếu và chỉ nếu tồn tại α ∈ R sao cho hàm affine x → x
∗
, x + α
không trội hơn f khắp nơi và bằng f(x
0
) tại điểm x
0
.
Định lý 2.1.1. ([6], tr 15, mệnh đề 1.26) Cho f : R
n
→
R là lồi và
x ∈ domf, thì
f(x) = min
x∈R
n
f(x) ⇔ 0 ∈ ∂f(x).
Chứng minh. Thật vậy, do f đạt cực tiểu tại x ∈ domf nên
f(x) − f(x) ≥ 0 ⇔ f(x) − f(x) ≥ 0, x − x ⇔ 0 ∈ ∂f(x).
Định nghĩa 2.1.2. Hàm afin h được gọi là hàm non afin của f nếu
h(x) ≤ f(x) với mọi x; h được gọi là hàm non đúng của f tại x
0
nếu
h(x) ≤ f(x) với mọi x và h(x

0
) = f(x
0
).
Bổ đề 2.1. Với một hàm lồi chính thường bất kì luôn tồn tại hàm non
afin. Nếu x
0
∈ int(domf) thì tồn tại hàm non afin đúng của f tại x
0
.
Định lý 2.1.2. ([8], tr 62, định lý 2.6) Cho f là hàm lồi chính thường
trong R
n
. Với bất kì tập bị chặn C ⊂ int(domf) thì tập
∪
x∈C
∂f(x) là
khác rỗng và bị chặn. Đặc biệt ∂f(x
0
) là khác rỗng và bị chặn tại mỗi
x
0
∈ int(domf).
18
Chứng minh. Lấy x
0
∈ int(domf). Khi đó f có hàm non afin đúng tại x
0
có nghĩa là tồn tại một hàm afin h sao cho h(x) ≤ f(x) với mọi x ∈ R
n

và h(x
0
) = f(x
0
), suy ra h(x) = x
∗
, x − x
0
 + f(x
0
); x
∗
∈ ∂f(x
0
) do đó
∂f(x
0
) = ∅ với mọi x
0
∈ int(domf)
Lấy C là tập bị chặn C ⊂ int(domf), khi đó tồn tại r > 0, C + rB ⊂
int(domf). Với B là kí hiệu hình cầu đơn vị trong R
n
. Cố định x ∈ C ta
có
x
∗
, y − x + f(x) ≤ f(y) ∀y ∈ R
n
; x

∗
∈ ∂f(x).
Nhưng theo định lý 1.2.8 thì tồn tại γ > 0 thỏa mãn
|f(x) − f(y)| ≤ γ y − x ; ∀y ∈ C + rB.
Do đó |x
∗
, y − x| ≤ γ y −x với mọi y ∈ C + rB tức là
|x
∗
, u| ≤ γ u với mọi u ∈ B.
Nếu x
∗
= 0 thì x
∗
 = 0.
Nếu x
∗
= 0 thì u =
x
∗
x
∗

∈ B và do đó

x
∗
,
x
∗

x
∗


≤ γ.
Suy ra x
∗
 ≤ γ với mọi x
∗
∈ ∂f(x).
Vì f là Lipschitz trên C + rB với hệ số Lipschitz γ > 0 nên với mỗi
x ∈ C và x
∗
∈ ∂f(x) ta có x
∗
 ≤ γ suy ra ∂f(x) bị chặn.
Mà C là tập bị chặn nên
∪
x∈C
∂f(x) là bị chặn.
Hệ quả 2.1. ([8], tr 63, hệ quả 2.9) Cho f là một hàm lồi chính thường
trên R
n
. Với bất kì tập con lồi bị chặn C của int(domf) tồn tại một hằng
số dương γ thỏa mãn
f(x) = sup {h(x)| h ∈ Q
0
}, ∀x ∈ C,
ở đó mỗi h ∈ Q
0

có dạng h(x) = a, x−α với a ≤ γ; α ∈ R.
Ta xét một số ví dụ về dưới vi phân hàm lồi.
19
Ví dụ 2.1.7. ([8], tr 63, ví dụ 2.1)
Cho f : R
n
→ R là một hàm lồi thuần nhất dương, nghĩa là f : R
n
→
R là hàm lồi thỏa mãn f(λx) = λf(x), λ > 0. Khi đó
∂f(x
0
) = {x
∗
∈ R
n
| x
∗
, x
0
 = f(x
0
), x
∗
, x ≤ f(x), ∀x}. (2.2)
Thật vậy, sử dụng dưới vi phân hàm lồi ta tính dưới vi phân của hàm
trên.
Lấy x
∗
∈ ∂f(x

0
) nên f(x) − f(x
0
) ≥ x
∗
, x − x
0
.
Lấy x = 2x
0
có x
∗
, x
0
 ≤ f(x
0
).
Cho x = 0 thay vào ta có −x
∗
, x
0
 ≤ −f(x
0
) ⇔ x
∗
, x
0
 ≥ f(x
0
).

Từ đó ta có x
∗
, x
0
 = f(x
0
). Hơn nữa
x
∗
, x − x
0
 = x
∗
, x − x
∗
, x
0
 = x
∗
, x − f(x
0
)
⇔ x
∗
, x − x
0
 + f(x
0
) = x
∗

, x.
Vậy f(x) ≥ x
∗
, x với mọi x ∈ R
n
.
Ngược lại, nếu x
∗
thuộc vào vế phải của (2.2) thì
x
∗
, x − x
0
 = x
∗
, x − x
∗
, x
0
 ≤ f(x) − f(x
0
).
Do vậy x
∗
∈ ∂f(x
0
).
Nhận xét 2.2. Nếu ta thêm vào điều kiện f(−x) = f(x) ≥ 0 thì điều
kiện x
∗

, x ≤ f(x) tương đương với |x
∗
, x| ≤ f(x) với mọi x ∈ R
n
.
Ví dụ 2.1.8. ([8], tr 64, ví dụ 2.2) Cho C là một tập lồi đóng trong R
n
,
và
f(x) = min

y −x với y ∈ C

.
Kí hiệu π
C
(x) là hình chiếu của x trên C, ta có: π
C
(x) − x =
min

y −xvới y ∈ C

và x −π
C
(x), y −π
C
(x) ≤ 0, ∀y ∈ C. Khi đó
∂f(x
0

) =





N
C
(x
0
) ∩ B(0, 1), x
0
∈ C,

x
0
− π
C
(x
0
)
x
0
− π
C
(x
0
)

, x

0
/∈ C,
20
ở đó N
C
(x
0
) kí hiệu nón pháp tuyến của C tại x
0
và B(0, 1) là hình cầu
Euclide đơn vị.
Nón pháp tuyến N
C
(x
0
) của một tập lồi C ∈ R
n
tại một điểm x
0
∈ R
n
được xác định bởi công thức
N
C
(x
0
) =

{x
∗

∈ R
n
: x
∗
, x − x
0
 ≤ 0, ∀x ∈ C}nếu x
0
∈ C,
∅ nếu x
0
/∈ C.
Thật vậy, lấy x
0
∈ C, ta có f(x
0
) = 0. Khi đó x
∗
∈ ∂f(x
0
) kéo theo
x
∗
, x − x
0
 ≤ f(x) với mọi x ∈ R
n
. Do vậy, trong trường hợp đặc biệt
thì x
∗

, x − x
0
 ≤ 0 với mọi x ∈ C, nghĩa là x
∗
∈ N
C
(x
0
).
Hơn nữa x
∗
, x − x
0
 ≤ f(x) ≤ x − x
0
 với mọi x ∈ C.
Suy ra

x
∗
,
x − x
0
x − x
0


≤ 1; ∀x = x
0
Do vậy x

∗
 ≤ 1 nghĩa là x
∗
∈ B(0, 1) ∩N
C
(x
0
) vì x
∗
, u ≤ 1 với mọi
u ∈ S := {x ∈ R
n
|x = 1}.
Ngược lại, nếu lấy x
∗
∈ N
C
(x
0
) ∩ B(0; 1) thì
x
∗
, x − x
0
 ≤ x
∗
x − x
0
 ≤ x − x
0


Suy ra
x
∗
, x − π
C
(x) ≤ x
∗
x − π
C
(x)
= min

y −x với y ∈ C

= f(x).
Ta có
x
∗
, x − x
0
 = x
∗
, x − π
C
(x) + π
C
(x) − x
0


= x
∗
, x − π
C
(x) + x
∗
, π
C
(x) − x
0

≤ x
∗
, x − π
C
(x); (do x
∗
, π
C
(x) − x
0
 ≤ 0 vì x
∗
∈ N
C
(x
0
))
≤ f(x) = f(x) − f(x
0

)
suy ra x
∗
∈ ∂f(x
0
).
Với trường hợp x
0
/∈ C, khi đó
x
∗
∈ ∂f(x
0
) ⇔ x
∗
, x − x
0
 ≤ f(x) − f(x
0
), ∀x ∈ R
n
.
21
Do vậy, lấy x = π
C
(x
0
) thay vào ta có
x
∗

, π
C
(x
0
) − x
0
 ≤ f(π
C
(x
0
)) − f(x
0
)
⇔ x
∗
, π
C
(x
0
) − x
0
 ≤ −π
C
(x
0
) − x
0

⇔ x
∗

, x
0
− π
C
(x
0
) ≥ π
C
(x
0
) − x
0
.
Mặt khác, lấy x = 2x
0
− π
C
(x
0
) thay vào ta có
x
∗
, x
0
− π
C
(x
0
) ≤ π
C

(x
0
) − x
0
.
Suy ra x
∗
, x
0
− π
C
(x
0
) = π
C
(x
0
) − x
0
, và do đó x
∗
=
x
0
− π
C
(x
0
)
x

0
− π
C
(x
0
)
.
Ngược lại, giả sử x
∗
=
x
0
− π
C
(x
0
)
x
0
− π
C
(x
0
)
ta có
x
∗
, x − x
0
 = x

∗
, x − π
C
(x
0
) + π
C
(x
0
) − x
0

= x
∗
, x − π
C
(x
0
) + x
∗
, π
C
(x
0
) − x
0

= x
∗
, x − π

C
(x
0
) − x
0
− π
C
(x
0
)
= x
∗
, x − π
C
(x
0
) − f(x
0
)
Suy ra
x
∗
, x − x
0
 + f(x
0
) = x
∗
, x − π
C

(x
0
)
= x
∗
, x − π
C
(x) + x
∗
, π
C
(x) − π
C
(x
0
)
≤ f(x) +
1
x
0
− π
C
(x
0
)
x
0
− π
C
(x

0
), π
C
(x) − π
C
(x
0
)
≤ f(x), ∀x ∈ R
n
.
Vì vậy x
∗
∈ ∂f(x
0
).
Định nghĩa 2.1.3. (Đạo hàm theo hướng).([3], tr 104, định nghĩa 4.1)
Cho f : R
n
→ R; x
0
∈ R
n
sao cho f(x
0
) < +∞. Nếu với mỗi u ∈ R
n
mà giới hạn
lim
λ→0

+
f(x
0
+ λu) − f(x
0
)
λ
(2.3)
tồn tại thì ta nói f có đạo hàm theo hướng u tại điểm x
0
và kí hiệu
f

(x
0
, u).