LUẬN VĂN THẠC SỸ " TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI " docx

ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC SƯ PHẠM
HOÀNG KHẮC LỢI
TÍNH ĐƠN ĐIỆU
CỦA DƯỚI VI PHÂN HÀM LỒI
LUẠN VĂN THẠC SĨ TOÁN HỌC
CHUYÊN NGÀNH: GIẢI TÍCH
MÃ SỐ: 60.46.01.02
NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH. LÊ DŨNG MƯU
Thái Nguyên - Năm 2012
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 1
Mục lục
Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii
Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.1.Lý do chọn đề tài . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.Mục đích và nhiệm vụ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.1. Mục đích nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.2. Nhiệm vụ nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi
0.2.3. Phương pháp nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii
0.2.4. Bố cục luận văn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii
Chương 1. Tập lồi và hàm lồi trong không gian Hilbert thực . . . 1
1.1.Không gian Hilbert thực . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1.2. Các đẳng thức và bất đẳng thức . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.3. Phép chiếu theo chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.2.4. Định lí tách tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.3.Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.3.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

1.3.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Chương 2. Dưới vi phân của hàm lồi và tính đơn điệu của nó . . . 16
2.1.Dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
i
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 2
ii
2.2.Đạo hàm theo hướng. . . . . . . . . . . . . . . . . . . . . . . 21
2.3.Tính đơn điệu của dưới vi phân . . . . . . . . . . . . . . 25
2.3.1. Toán tử đơn điệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.3.2. Toán tử đơn điệu cực đại . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.3.3. Tính đơn điệu của dưới vi phân hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . 27
Chương 3. Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của
dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.1.Hàm tựa lồi và hàm giả lồi . . . . . . . . . . . . . . . . . . . 30
3.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.1.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
3.2.Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm
giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.2.1. Toán tử tựa đơn điệu và giả đơn điệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.2.2. Tính tựa đơn điệu và giả đơn điệu của đạo hàm của hàm tựa lồi và
hàm giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . 40
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 3
Lời cảm ơn
Bản luận văn được hoàn thành tại trường Đại học sư phạm Đại
học Thái Nguyên dưới sự hướng dẫn tận tình của GS.TSKH. Lê Dũng
Mưu. Nhân dịp này tôi xin bày tỏ lòng biết ơn Thầy về sự hướng dẫn
hiệu quả cùng những kinh nghiệm trong quá trình học tập, nghiên
cứu và hoàn thành luận văn.
Xin chân thành cảm ơn Khoa Sau Đại Học, Ban chủ nhiệm Khoa

Toán, các thầy cô giáo trường Đại học Sư Phạm - Đại học Thái Nguyên,
Viện Toán Học và trường Đại học Sư Phạm Hà Nội đã giảng dạy và
tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu
khoa học.
Xin chân thành cảm ơn tập thể bạn bè, đồng nghiệp lớp Cao Học
Toán K18B và BGH, đồng nghiệp Giáo Viên ở trường THPT Bạch Đằng
- Quảng Ninh đã gúp đỡ tôi trong suốt thời gian học tập và nghiên
cứu.
Bản luận văn chắc chắn sẽ không tránh khỏi những khiếm khuyết
vì vậy rất mong được sự góp ý kiến của các thầy cô giáo và các bạn
học viên để luận văn này được hoàn chỉnh hơn.
Cuối cùng xin cảm ơn gia đình và bạn bè đã động viên, khích lệ tôi
trong thời gian học tập, nghiên cứu và hoàn thành luận văn.
Thái Nguyên, Tháng 8 năm 2012
Tác Giả
Hoàng Khắc Lợi
iii
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 4
iv
Danh mục các kí hiệu viết tắt
H, H
i
, K: Không gian Hilbert t hực;
2
H
: Tập tất cả các tập con của H ;
R : Tập số thực;
N : Tập hợp số tự nhiên;
. | .: Tích vô hướng;
||.|| : Chuẩn trên không gian Hilbert;

[−∞, +∞]: Tập số thực mở rộng;
R
+
: = [0, +∞);
R
++
: = (0, +∞);
in f : Cận dưới đúng;
min : Cực tiểu;
sup : Cận trên đúng;
max : Cực đại;
α ↓ µ: α ∈ (µ, +∞) và α dần đến µ;
C − D : Hiệu Minkowski của tập C và D ;
span C : Không gian affine căng bởi C;
spanC : Không gian đóng affine căng bởi tập C;
C : Bao đóng của C;
C
⊥
: Phần bù trực giao của C;
convC : Bao lồi của tập C;
convC : Bao lồi đóng của tập C;
coreC: Lõi của tập C;
int C : Phần trong của C;
bdryC : Biên của C;
coneC: Bao nón của tập C;
N
C
: Nón chuẩn tắc của C;
P
C

: Phép chiếu lên tập C;
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 5
v
σC : Hàm tựa của tập C;
d
C
: Hàm khoảng cách của tập C;
B(x, ) : Hình cầu đóng tâm x, bán kính ;
ΓH : Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞];
Γ
0
H : Tập các hàm lồi chính thường nửa liên tục dưới từ H vào
(−∞, +∞];

i∈I
f
i
: Tổng trực tiếp của một hàm;
dom f : Miền xác định của f ;
f
∗
: Hàm liên hợp của f ;
∂ f (x) : Dưới vi phân của f tại x ;
 f (x) hoặc f

(x) : Đạo hàm của f tại x ;
f

(x, y) : Đạo hàm theo hướng y của f tại x;
Argmin f : Tập các cực tiểu toàn cục của hàm f ;

zerA: Tập các không điểm của toán tử A
epi f : Trên đồ thị của hàm f ;
gra f : Đồ thị của hàm f
I
d
: Toán tử đồng nhất;
cont f : Miền liên tục của hàm f ;
l
2
(I) : Không gian Hilbert của tổng các hàm từ I vào R;
B(H, K): Không gian các toán tử tuyến tính bị chặn từ H vào K;

i∈I
H
i
: Tổng trực tiếp các không gian Hilbert;
×
i∈I
H
i
: Tích các không gian Hilbert;
(x, y) : Khoảng trong R ;
[x, y] : Đoạn trong R;
(x
i
)
i∈I
: Họ các vectơ trong H.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 6
Mở đầu

0.1. Lý do chọn đề tài
Giải tích lồi là bộ môn quan trọng trong giải tích phi tuyến tính
hiện đại. Giải tích lồi nghiên cứu khía cạnh giải tích các khái niệm,
tính chất cơ bản của tập lồi và hàm lồi. Tính đơn điệu của dưới vi
phân hàm lồi là một trong những tính chất quan trọng của hàm lồi,
nó đã được nhiều nhà toán học trong và ngoài nước quan tâm nghiên
cứu và đã đạt được nhiều kết quả sâu sắc cùng với các ứng dụng quan
trọng trong các lĩnh vực khác nhau. Việc nghiên cứu về tính đơn điệu
của dưới vi phân hàm lồi và hoàn chỉnh hàm lồi vẫn là đề tài cần được
quan tâm và nghiên cứu trong bộ môn giải tích lồi.
0.2. Mục đích và nhiệm vụ
0.2.1. Mục đích nghiên cứu
Mục đích chính của luận văn là nghiên cứu và trình bày một cách
có hệ thống các kiến thức cơ bản và quan trọng nhất về dưới vi phân
của hàm lồi và tính đơn điệu của nó.
0.2.2. Nhiệm vụ nghiên cứu
Luận văn tập trung vào nhiệm vụ chính sau đây:
1) Nghiên cứu tập lồi và hàm lồi trong không gian Hilbert thực.
2) Đạo hàm theo hướng và dưới vi phân hàm lồi.
vi
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 7
vii
3) Tính đơn điệu của dưới vi phân hàm lồi.
4) Hàm tựa lồi và hàm giả lồi.
5) Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả
lồi.
0.2.3. Phương pháp nghiên cứu
- Sử dụng phương pháp của giải tích hàm kết hợp với phương pháp
của giải tích hiện đại.
- Sử dụng các phương pháp của lí thuyết tối ưu.

- Kế thừa phương pháp và kết quả của lý thuyết tôi ưu không trơn.
0.2.4. Bố cục luận văn
Nội dung luận văn gồm 47 trang, trong đó có phần mở đầu, ba
chương nội dung, phần kết luận và danh mục tài liệu tham khảo.
Chương 1 : Trình bày một số kiến thức cơ bản như : Không gian
Hilbert thực, tập lồi, hàm lồi.
Chương 2 : Dưới vi phân hàm lồi và tính đơn điệu của nó.
Nội dung của chương này là trình bày việc xây dụng đạo hàm theo
hướng và dưới vi phân của hàm lồi, các toán tử đơn điệu và chỉ ra tính
đơn điệu của dưới vi phân hàm lồi.
Chương 3 : Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của
dưới vi phân.
Cuối cùng là phần kết luận trình bày tóm tắt các kết quả đạt được.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 8
Chương 1
Tập lồi và hàm lồi trong không
gian Hilbert thực
Nội dung kiến thức trong luận văn này được nghiên cứu trên không
gian Hilbert thực, ta kí hiệu không gian này là H với tích vô hướng
. | . và || . || là chuẩn trên H tương ứng với tích vô hướng này, với
khoảng cách d, tức là:
Với mọi x, y ∈ H ta có ||x|| =

x | x và d(x, y) = ||x − y||.
Chương này nhằm giới thiệu những khái niệm cơ bản nhất, tính chất
đặc trưng của tập lồi và hàm lồi trong không gian Hilbert thực.
Các kiến thức ở trong chương này được trích từ cuốn sách ”Convex
Analysis and Monotone Operator Theory in Hilbert Spaces” của tác
giả HenizH. Bauschke và PatrickL. Combettes [2].
Hầu hết các hàm trong luận văn này là hàm f : H → R ∪ {+∞}.

1.1. Không gian Hilbert thực
1.1.1. Định nghĩa và ví dụ
Định nghĩa 1.1. Phần bù trực giao của tập C ⊆ H được kí hiệu là C
⊥
, tức
là
C
⊥
=
{
u ∈ H | ∀x ∈ C, x | u = 0
}
.
1
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 9
2
Một cơ sở của tập C ⊆ H được gọi là một cơ sở trực giao của H nếu spanC =
H. Không gian H được gọi là tách được nếu nó có một cơ sở trực giao đếm
được.
Bây giờ giả sử (x
i
)
i∈I
là họ các vectơ trong H và giả sử I là lớp các
tập con hữu hạn khác rỗng I định hướng bởi ⊂. Khi đó (x
i
)
i∈I
là khả
tổng nếu tồn tại x ∈ H mà (

∑
i∈J
x
i
)
J∈I
hội tụ đến x, tức là,
∀ε ∈ R
++
, ∃K ∈ I, ∀J ∈ I, J ⊃ K ⇒ ||x −
∑
j∈J
x
i
|| ≤ ε.
Trong trường hợp này ta viết x =
∑
i∈I
x
i
. Đối với (α
i
)
i∈I
trong [0, +∞],
ta có
∑
i∈I
α
i

= sup
J∈I
∑
j∈J
α
i
.
Đây là trường hợp riêng trong không gian Hilbert thực và nó sẽ được
sử dụng trong cuốn luận văn này.
Ví dụ 1.1. Tổng trực tiếp của một họ các không gian Hilbert thực (H
i
, || . ||
i
)
i∈I
là không gian Hilbert thực.

i∈I
H
i
= {x = (x
i
)
i∈I
∈ ×
i∈I
H
i
|
∑

i∈I
||x
i
||
2
i
< +∞}.
Được trang bị với phép cộng
(x, y) → (x
i
+ y
i
)
i∈I
.
Nhân
(α, x) → (αx
i
)
i∈I
.
Tích vô hướng
(x, y) →
∑
i∈I
x
i
| y
i
.

Khi I là tập hữu hạn, ta chỉ dùng chung một kí hiệu ×
i∈I
H
i
để thay
thế cho

i∈I
H
i
.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 10
3
Bây giờ giả sử rằng ∀i ∈ I, f
i
: H
i
→ R ∪
{
+∞
}
và I không là tập hữu
hạn, inf
i∈I
f
i
≥ 0. Khi đó

i∈I
f

i
:

i∈I
H
i
→ (−∞, +∞] : (x
i
)
i∈I
→
∑
i∈I
f
i
(x
i
).
Ví dụ 1.2. Nếu mỗi H
i
là R trong Ví dụ 1.1 thì ta thu được
l
2
(I) =

i∈I
R;
và mỗi giá trị trung bình với tích vô hướng
(x, y) = ((ξ
i

)
i∈I
, (η
i
)
i∈I
)
i∈I
→
∑
i∈I
ξ
i
η
i
.
Vectơ đơn vị (e
i
)
i∈I
của l
2
(I) được xác định bởi
∀i ∈ I, e
i
: I → R : j →

1 nếu j = i
0 nếu j = i
.

1.1.2. Các đẳng thức và bất đẳng thức
Chú ý 1.1. (Bất đẳng thức Cauchy - Schwarz) Cho x, y ∈ H, khi đó
|x | y| ≤ ||x|| ||y||.
Hơn nữa
|x | y| = ||x|| ||y|| ⇔ ∃ α ∈ R
+
, x = αy
hoặc y = αx.
Bổ đề 1.1. Cho x, y, z ∈ H. Khi đó ta luôn có
(i) ||x + y||
2
= ||x||
2
+ 2 x | y + ||y||
2
.
(ii) Đẳng thức hình bình hành: ||x + y||
2
+ ||x − y||
2
= 2||y||
2
.
(iii) Đẳng thức phân cực: 4x | y = ||x + y||
2
− ||x − y||
2
.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 11
4

(iv) Đẳng thức Apllonius:
||x − y||
2
= 2||z − x||
2
+ 2 ||z − y||
2
− 4 ||z −
x + y
2
||
2
.
Chứng minh. (i) Hiển nhiên.
(ii) và (iii) được suy ra từ (i) và
||x − y||
2
= ||x||
2
− 2 x | y + ||y||
2
. (1.1)
Cộng theo vế (i) với đẳng thức (1.1) suy ra (ii) và trừ theo vế đẳng
thức (i) với (1.1) suy ra (iii).
(iv) Áp dụng (ii) với hai điểm
z−x
2
và
z−y
2

.
Bổ đề 1.2. Cho x, y ∈ H. Khi đó ta có:
(i) x | y ≤ 0 ⇔ ∀α ∈ R
+
, ||x|| ≤ ||x − αy||
⇔ ∀α ∈ [0, 1], ||x|| ≤ ||x − αy||.
(ii) x ⊥ y ⇔ ∀α ∈ R, ||x|| ≤ ||x − αy||
⇔ ∀α ∈ [ −1, 1], ||x|| ≤ ||x − αy||.
Chứng minh. (i) Để ý rằng ∀α ∈ R,
||x − αy||
2
− ||x||
2
= α( α||y||
2
− 2 x | y) (1.2)
Như vậy, chiều thuận được suy ra trực tiếp.
Đảo lại nếu
α ∈ [0, 1], ||x|| ≤ ||x − αy||
thì từ (1.2) suy ra
x | y ≤
α||y||
2
2
Khi α  0, ta có x | y ≤ 0.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 12
5
(ii) Đây là một hệ quả của (i), từ đó
x⊥y ⇔ [x | − y ≤ 0 và x | − y ≤ 0].
Bổ đề 1.3. Cho (x

i
)
i∈I
và (u
i
)
i∈I
là họ các x | y tập hữu hạn trong H và
cho (α
i
)
i∈I
là một dãy trên R mà
∑
i∈I
α
i
= 1. Khi đó:
(i) 
∑
i∈I
α
i
x
i
|
∑
j∈I
α
j

u
j
 +
∑
i∈I
∑
j∈I
α
i
α
j
x
i
−x
j
| u
i
−u
j

2
=
∑
i∈I
α
i
x
i
| u
i

.
(ii) ||
∑
i∈I
α
i
x
i
||
2
+
∑
i∈I
∑
j∈I
α
i
α
j
||x
i
−x
j
||
2
2
=
∑
i∈I
α

i
||x
i
||
2
.
Chứng minh. (i) Ta có
2
∑
i∈I
α
i
x
i
|
∑
j∈I
α
j
u
j
 =
∑
i∈I
∑
j∈I
α
i
α
j

(x
i
| u
i
 + x
j
| u
j
)
=
∑
i∈I
∑
j∈I
α
i
α
j
(x
i
| u
i
 + x
j
| u
j
 − x
i
− x
j

| u
i
− u
j
)
= 2
∑
i∈I
α
i
x
i
| u
i
 −
∑
i∈I
∑
j∈I
α
i
α
j
(x
i
| u
i
 + x
j
| u

j
).
(ii) Được suy ra từ (i) khi (u
i
)
i∈I
= (x
i
)
i∈I
.
Hệ quả 1.1. Cho x, y ∈ H và α ∈ R, khi đó
||αx + (1 − α)y||
2
+ α(1 − α)||x − y||
2
= α||x||
2
+ (1 − α)||y||
2
.
Chú ý 1.2. (Biểu diễn Riesz - Frechet). Cho f ∈ B(H, R), khi đó tồn tại duy
nhất một vectơ u ∈ H mà
∀x ∈ H, f (x) = x | u.
Hơn nữa || f || = ||u||.
Nếu K là một không gian Hilbert và T ∈ B(H, K), liên hợp của T
là toán tử duy nhất T
∗
∈ B(K, H) thỏa mãn
∀x ∈ H, ∀y ∈ K, Tx | y = x | T

∗
y.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 13
6
1.2. Tập lồi
1.2.1. Định nghĩa và ví dụ
Định nghĩa 1.2. Một tập C ⊆ H được gọi là một tập lồi nếu
∀α ∈ (0, 1), αC + (1 − α)C = C;
hay tương đương
∀x ∈ C, ∀y ∈ C, (x, y) ∈ C.
Trường hợp đặc biệt H và ∅ là tập lồi.
Ví dụ 1.3. Trong mỗi trường hợp sau đây C là tập lồi trong H
(i) C là hình cầu.
(ii) C là một không gian con affine.
(iii) C là một nửa không gian.
(iv) C =

i∈I
C
i
với (C
i
)
i∈I
là họ các tập con lồi của H.
Tính chất giao ở (iv) được khẳng định bằng định nghĩa sau.
Định nghĩa 1.3. Cho C ⊆ H, bao lồi của C là giao của tất cả các tập con lồi
của H có chứa C, tức là nó là tập con lồi nhỏ nhất của H có chứa C. Nó được
kí hiệu là convC. Bao lồi đóng của C là tập con lồi đóng nhỏ nhất của H chứa
C, nó được kí hiệu là convC.

1.2.2. Một số tính chất quan trọng
Mệnh đề 1.1. Cho C ⊆ H và D là tập tất cả các tổ hợp lồi của các điểm
trong C, tức là
D =

∑
i∈I
α
i
x
i
| I hữu hạn,
{
x
i
}
i∈I
⊂ C,
{
α
i
}
i∈I
⊂ (0, 1],
∑
i∈I
α
i
= 1


.
Khi đó D = convC.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 14
7
Mệnh đề 1.2. Cho K là không gian Hilbert thực, giả sử T : H → K là một
toán tử affine và cho C, D là các tập lồi trong H, K tương ứng. Khi đó T(C)
và T
−1
(D) là các tập lồi trong K và H tương ứng.
Chứng minh. Ta có
∀x ∈ H, ∀y ∈ H, T((x, y)) = (Tx, Ty).
Bây giờ lấy hai điểm trong T(C)là Tx và Ty, ∀x ∈ C và ∀y ∈ C. Do
tính lồi (x, y) ⊂ C và do (Tx, Ty) = T((x, y)) ⊂ C.
Suy ra T(C) là tập lồi.
Cuối cùng cho x và y là hai điểm trong T
−1
(D) thì Tx và Ty nằm trong
D, do tính lồi nên T((x, y))(Tx, Ty) ⊂ D. Do đó
(x, y) ⊂ T
−1
(T(x, y)) ⊂ T
−1
(D).
Suy ra T
−1
(D) là tập lồi.
Mệnh đề 1.3. Cho (C
i
)
i∈I

là họ các tập hữu hạn của m tập con lồi trong H.
Khi đó ta có:
(i) ×
i∈I
C
i
là tập lồi.
(ii) ∀(α
i
)
i∈I
∈ R,
∑
i∈I
α
i
C
i
là tập lồi.
Chứng minh. (i) Hiển nhiên.
(ii) Đây là hệ quả của (i) và Mệnh đề 1.2. Từ đó
∑
i∈I
α
i
C
i
= L(×
i∈I
C

i
).
Ở đây
L : H
m
→ H : (x
i
)
i∈I
→
∑
i∈I
α
i
x
i
là tổ hợp tuyến tính.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 15
8
1.2.3. Phép chiếu theo chuẩn
Định nghĩa 1.4. Cho C ⊆ H, giả sử x ∈ H, p ∈ C. Khi đó p được gọi là
một xấp xỉ tối ưu của x từ C (hay là hình chiếu của x lên C) nếu ||x − p|| =
d
C
(x). Nếu mọi điểm trong H có ít nhất một hình chiếu lên C thì C được gọi
là tập xấp xỉ.
Nếu mọi điểm trong H có đúng một hình chiếu lên C thì C được
gọi là tập Chebyshev. Trong trường hợp này phép chiếu (hay toán tử
chiếu) lên tập C là toán tử kí hiệu là P
C

, mà ảnh mọi điểm trong H lên
nó là hình chiếu duy nhất lên C.
Ví dụ 1.4. Cho
{
e
i
}
i∈I
là một cơ sở trực chuẩn hữu hạn trong H.
Giả sử V = span
{
e
i
}
i∈I
và x ∈ H. Khi đó V là tập Chebyshev,
P
V
x =
∑
i∈I
x | e
i
e
i
và d
V
(x) =

||x||

2
−
∑
i∈I
x | e
i

2
.
Chứng minh. Cho mọi họ (α
i
)
i∈I
trong R , ta có:
||x −
∑
i∈I
α
i
e
i
||
2
= ||x||
2
− 2 x |
∑
i∈I
α
i

e
i
 + ||
∑
i∈I
α
i
e
i
||
2
= ||x||
2
− 2
∑
i∈I
α
i
x | e
i
 +
∑
i∈I
|α
i
|
2
= ||x||
2
−

∑
i∈I
|x | e
i
|
2
+
∑
i∈I
|α
i
− x | e
i
|
2
.
Chú ý 1.3. Cho C là tập khác rỗng trong H. Khi đó:
(i) C =
{
x ∈ H | d
C
(x) = 0
}
, không điểm trong tập C \C có hình chiếu
lên C. Một lân cận (trong một tập Chebyshev ) là một tập đóng.
(ii) Nếu C là một không gian hữu hạn chiều trong H thì nó là tập Chebyshev
và do đó nó là tập đóng.
Mệnh đề 1.4. Giả sử rằng H là không gian hữu hạn chiều và C là tập
Chebyshev trong H thì P
C

là liên tục.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 16
9
Chứng minh. Cho x ∈ H và giả sử (x
n
)
n∈N
là dãy trong H mà x
n
→ x.
Ta có d
C
là liên tục và do đó
||x
n
− P
C
x
n
|| = d
C
(x
n
) = ||x − P
C
x||.
Như vậy P
C
(x
n

)
n∈N
là bị chặn. Bây giờ cho y là điểm tụ của P
C
(x
n
)
n∈N
,
ta có P
C
x
k
n
→ y. Theo chú ý 1.3 (i) khẳng định rằng y ∈ C và mệnh đề
1.2 có nghĩa là
||x
k
n
− P
C
x
k
n
|| → ||x − y|| = d
C
(x).
Kéo theo y = P
C
x là điểm tụ của dãy bị chặn P

C
(x
n
)
n∈N
.
Do đó P
C
x
n
→ P
C
x.
Ví dụ 1.5. Cho H là không gian hữu hạn chiều và (e
n
)
n∈N
là một dãy các
vectơ trực chuẩn trong H, (α
n
)
n∈N
là dãy trong (1, +∞) mà α
n
 1.
Đặt
C =
{
x
n

}
n∈N
, ∀n ∈ N, x
n
= α
n
e
n
.
Khi đó cho bất kì hai điểm phân biệt x
n
và x
m
, ta có:
||x
n
− x
m
||
2
= ||x
n
||
2
+ ||x
m
||
2
> ||e
n

||
2
+ ||e
m
||
2
= 2.
Do đó mọi dãy hội tụ trong C đều là hằng số và C là tập đóng. Tuy nhiên 0
không có hình chiếu lên C, từ đó ∀n ∈ N, d
C
(0) = 1 < α
n
= ||0 − x
n
||.
Mệnh đề 1.5. Cho C là một tập lồi đóng khác rỗng trong H. Khi đó với mọi
x ∈ H hình chiếu P
C
(x) của x trên C luôn tồn tại và duy nhất.
Chứng minh. Giả sử x ∈ H, y ∈ C theo định nghĩa 1.4 ta có d
C
(x) =
||y − x||, suy ra tồn tại dãy (x
n
)
n∈N
trong C sao cho
||x
n
− x|| → d

C
(x) < +∞.
Vậy dãy (x
n
)
n∈N
là bị chặn, do đó nó có một dãy con (x
k
n
) hội tụ yếu
đến y. Do C đóng nên y ∈ C. Vậy
||y − x|| = lim
n
||x
k
n
− x|| = lim
n
||x
n
− x|| = d
C
(x).
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 17
10
Chứng tỏ y là hình chiếu của x trên C.
Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy nếu tồn tại hai
điểm y và z đều là hình chiếu của x trên C thì
x − y ∈ N
C

(y ), x − z ∈ N
C
(z ).
Tức là

y − x , z − y

≤ 0
và

z − x , y − z

≤ 0.
Cộng hai bất đẳng thức này ta suy ra ||y − z|| ≤ 0 và do đó y = z.
Mệnh đề 1.6. Cho C là tập lồi đóng khác rỗng trong H. Khi đó hình chiếu
P
C
là ánh xạ không giãn.
Chứng minh. Cố định x và y thuộc H, ta có
P
C
y − P
C
x | x − P
C
x ≤ 0
và
P
C
x − P

C
y | y − P
C
y ≤ 0.
Lấy tổng của hai bất đẳng thức trên ta được
||P
C
x − P
C
y||
2
≤ x − y | P
C
x − P
C
y.
Suy ra điều phải chứng minh từ bất đẳng thức Cauchy - Schwarz.
1.2.4. Định lí tách tập lồi
Định nghĩa 1.5. Cho C và D là hai tập con của H, tập C và D được gọi là
tách được nếu
∃u ∈ H \
{
0
}
, SupC | u ≤ in f D | u.
Và gọi là tách mạnh được nếu bất đẳng thức ở trên là ngặt.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 18
11
Hơn nữa một điểm x ∈ H tách được từ D nếu tập x và D là tách
được. Tương tự như vậy x tách mạnh được từ D nếu tập

{
x
}
và D là
tách mạnh được.
Định lý 1.1. Cho C là tập lồi đóng khác rỗng trong H và x ∈ H \ C. Khi
đó x tách mạnh được từ C.
Chứng minh. Đặt u = x − P
C
x và cố định y ∈ C. khi đó u = 0 và theo
mệnh đề 1.3 có y − x + u | u ≤ 0, tức là y − x | u ≤ −||u||
2
.
Do đó SupC − x | u ≤ −||u||
2
< 0.
Hệ quả 1.2. Cho C và D là các tập khác rỗng trong H mà C ∩ D = ∅ và
C − D là tập lồi đóng. Khi đó C và D là tách mạnh được.
Chứng minh. Từ 0 /∈ C − D, theo định lí 1.1 thì vectơ 0 là tách mạnh từ
C − D. Mà theo định nghĩa 1.5 thì C và D là tách mạnh được nếu và
chỉ nếu 0 là tách mạnh được từ C − D.
Hệ quả 1.3. Cho C và D là tập lồi đóng khác rỗng trong H mà C ∩ D = ∅
và D bị chặn, khi đó C và D là tách mạnh được.
Chứng minh. Theo hệ quả 1.2 ta cần chứng tỏ rằng C − D là tập lồi
đóng. Do tính lồi của C − D trong mệnh đề 1.3 (ii) chứng tỏ C − D
là đóng. Lấy một dãy hội tụ trong C − D mà x
n
→ y
n
→ z, ở đây

(x
n
)
n∈N
∈ C, (y
n
)
n∈N
∈ D và z ∈ H. Từ D là hội tụ yếu và compact
nên tồn tại dãy con (x
k
n
)
n∈N
hội tụ yếu đến y ∈ D .
Do đó x
k
n
→ z + y. Từ C là hội tụ yếu đóng, ta có z + y ∈ C.
Suy ra z ∈ C − D.
1.3. Hàm lồi
1.3.1. Định nghĩa và ví dụ
Định nghĩa 1.6. Cho f : H → [−∞, +∞], khi đó f được gọi là hàm lồi nếu
epi f =
{
(x, ξ) ∈ H × R | f (x) ≤ ξ
}
,
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 19
12

là tập con lồi của H × R.
Hàm f được gọi là hàm lõm nếu − f là hàm lồi.
Ví dụ 1.6. Cho C là tập con của H, ta có epii
C
= C × R
+
và i
C
là hàm lồi
nếu và chỉ nếu C là tập lồi.
Định nghĩa 1.7. Cho f : H → (−∞, +∞] là hàm chính thường. Khi đó f
được gọi là hàm lồi ngặt nếu ∀x ∈ dom f , ∀y ∈ dom f , ∀α ∈ (0, 1), x = y
⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).
Bây giờ cho C là tập con khác rỗng của dom f , khi đó f là hàm lồi
trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1)
f (αx + (1 − α)y) ≤ α f ( x) + (1 − α) f (y).
Và f là hàm lồi ngặt trên C nếu ∀x ∈ C, ∀y ∈ C, ∀α ∈ (0, 1), x = y
⇒ f (αx + (1 − α)y) < α f (x) + (1 − α) f (y).
Ví dụ 1.7. Hàm || . || là lồi. Nếu H =
{
0
}
thì || . || không lồi ngặt.
Chứng minh. Theo tính chất lồi, bây giờ lấy x ∈ H \
{
0
}
và α ∈ (0, 1).
Ta có
||αx + (1 − α)0|| = α||x|| + (1 − α)||0||.

Do đó || . || là không lồi ngặt.
Ví dụ 1.8. Hàm || . ||
2
là hàm lồi ngặt.
Định nghĩa 1.8. (i) Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, + ∞]
được kí hiệu là ΓH.
(ii) Tập các hàm lồi chính thường nửa liên tục dưới từ H vào (−∞, +∞ ]
được kí hiệu là Γ
0
H.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 20
13
Ví dụ 1.9. Cho (e
i
)
i∈I
là tổ hợp trong H và (φ
i
)
i∈I
là một họ trong Γ
0
H mà
∀i ∈ I,
φ
i
≥ φ
i
(0) = 0.
Đặt

f : H → (−∞, +∞] : x →
∑
i∈I
φ( x | e
i
).
Khi đó f ∈ Γ
0
H.
Chứng minh. Đặt
f
i
: H → (−∞, +∞] : x → φ(x | e
i
), ∀i ∈ I.
Ta có f =
∑
i∈I
f
i
và ∀i ∈ I, 0 ≤ f
i
∈ Γ
0
H. Suy ra f ∈ ΓH.
Cuối cùng từ f (0) = 0 suy ra f là hàm chính thường.
1.3.2. Một số tính chất quan trọng
Mệnh đề 1.7. Cho f : H → [−∞, +∞] là hàm lồi. Khi đó
dom f =
{

x ∈ H | f (x) < +∞
}
là tập hợp lồi.
Chứng minh. Đặt L : H × R → H : (x, ξ) → x, khi đó L là tuyến tính
và dom f = L(epi f ). Từ mệnh đề 1.2 ta có dom f là tập lồi.
Mệnh đề 1.8. Cho f : H → (−∞, +∞], hàm f là lồi nếu và chỉ nếu
∀x ∈ dom f , ∀y ∈ dom f , ∀α ∈ (0, 1)
f (αx + (1 − α)y) ≤ α f ( x) + (1 − α) f (y). (1.3)
Chứng minh. Chú ý rằng f ≡ +∞ ⇔ epi f = ∅ ⇔ dom f = ∅ thì f
là hàm lồi và thỏa mãn (1.3). Giả sử rằng dom f = ∅ và lấy (x, ξ) ∈
epi f , (y, η) ∈ epi f và α ∈ (0, 1). Trước hết giả sử f là hàm lồi thì
α(x, ξ) + (1 − α)(y, η) ∈ epi f .
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 21
14
Và do đó
f (αx + (1 − α)y) ≤ αξ + (1 − α)η. (1.4)
Trong (1.3) cho ξ ↓ f (x) và η ↓ f (y) ta thu được (1.4). Bây giờ giả sử
rằng hàm f thỏa mãn (1.3), khi đó
f (αx + (1 − α)y) ≤ α f ( x) + (1 − α) f (y) ≤ αξ + (1 − α)η.
Và do đó α(x, ξ) + (1 − α)(y, η) ∈ epi f .
Mệnh đề 1.9. Cho f : H → (−∞, +∞ ], khi đó hàm f là lồi nếu và chỉ
nếu tổ hợp hữu hạn tất cả các (α
i
)
i∈I
∈ (0, 1) mà
∑
i∈I
α
i

= 1 và (x
i
)
i∈I
∈
dom f , ta có
f (
∑
i∈I
α
i
x
i
) ≤
∑
i∈I
α
i
f (x
i
). (1.5)
Chứng minh. Giả sử f là hàm lồi và cố định (x
i
)
i∈I
∈ dom f và (α
i
)
i∈I
∈

(0, 1) mà
∑
i∈I
α
i
= 1. Khi đó (x
i
, f (x
i
))
i∈I
∈ epi f .
Như vậy theo tính chất lồi ta có
(
∑
i∈I
α
i
x
i
,
∑
i∈I
α
i
f (x
i
)) ∈ conv(epi f ) = epi f .
Suy ra được (1.5).
Ngược lại được suy ra từ mệnh đề 1.8.

Hệ quả 1.4. Cho f : H → (−∞, +∞ ] là hàm chính thường. Khi đó các
mệnh đề sau là tương đương:
(i) f là hàm lồi.
(ii) Cho tổ hợp hữu hạn các (α
i
)
i∈I
∈ (0, 1) mà
∑
i∈I
α
i
= 1 và (x
i
)
i∈I
∈
dom f , ta có
f (
∑
i∈I
α
i
x
i
) ≤
∑
i∈I
α
i

f (x
i
).
(iii) ∀x ∈ H, ∀y ∈ H, ∀α ∈ (0, 1)
f (αx + (1 − α)y) ≤ α f ( x) + (1 − α) f (y).
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 22
15
Mệnh đề 1.10. Cho f : H → (−∞, +∞] là hàm chính thường. Khi đó f
là hàm lồi ngặt nếu và chỉ nếu mọi tổ hợp hữu hạn các (α
i
)
i∈I
∈ (0, 1) mà
∑
i∈I
α
i
= 1 và (x
i
)
i∈I
∈ dom f , ta có
f (
∑
i∈I
α
i
x
i
) ≤

∑
i∈I
α
i
f (x
i
).
Chứng minh. Trước hết giả sử f là lồi ngặt. Ta chứng minh điều kéo
theo bằng phương pháp quy nạp cho m phần tử trong I. Ta có kết quả
đúng với m = 2. Bây giờ giả sử m ≥ 3 mà I = 1, , m và kết quả đúng
với họ chứa m − 1 .
Ta đặt µ = f (
∑
i∈I
α
i
x
i
) =
∑
i∈I
α
i
f (x
i
) thì
µ ≤ (1 − α
m
) f (
m−1

∑
i=1
α
i
1 − α
m
x
i
) + α
m
f (x
m
) (1.6)
≤ (1 − α
m
)
m−1
∑
i=1
α
i
1 − α
m
f (x
i
) + α
m
f (x
m
) (1.7)

= µ.
Như vậy bất đẳng thức (1.6) và (1.7) là đẳng thức thức thực sự và theo
giả t hiết quy nạp (1 − α
m
)
−1
(
m−1
∑
i=1
α
i
x
i
) = x
m
và x
1
= = x
m−1
. Do
đó x
1
= = x
m
. là điều cần tìm.
Ngược lại điều kéo theo có được khi chú ý đến trường hợp trong I chỉ
chứa hai phần tử.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 23
Chương 2

Dưới vi phân của hàm lồi và tính
đơn điệu của nó
Dưới vi phân là một công cụ cơ bản trong giải tích, hàm không khả
vi và đặc biệt là hàm lồi. Đạo hàm theo hướng, tính liên tục và tính
đơn điệu của nó là các khái niệm liên quan chặt chẽ đến nhau. Trong
chương này ta nghiên cứu một số kết quả của dưới vi phân, đạo hàm
theo hướng và tính đơn điệu của dưới vi phân hàm lồi.
Nội dung kiến thức của chương này được trích từ cuốn sách "Convex
Analysis and Monotone Operator Theory in Hilbert Spaces" của tác
giả HenizH. Bauschke và PatrickL. Combettes [2].
2.1. Dưới vi phân
Định nghĩa 2.1. Cho f : H → (−∞, +∞] là hàm chính thường. Dưới vi
phân của hàm f là tập giá trị của toán tử
∂ f : H → 2
H
: x →
{
u ∈ H | ∀y ∈ H, y − x | u + f (x) ≤ f ( y)
}
.
Cho x ∈ H, thì f có dưới vi phân tại x nếu ∂ f (x) = ∅, các phần tử của
∂ f (x) là các dưới đạo hàm của f tại x.
Một vectơ u ∈ H là một dưới đạo hàm của hàm chính thường
f : H → (−∞, +∞] tại x ∈ dom f
16
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 24
17
nếu hàm liên tục affine
f
x,u

: y → y − x | u + f (x)
trùng với giá trị nhỏ nhất của f tại x.
Định lý 2.1. (Quy tắc Fermat) Cho f : H → (−∞, +∞] là hàm chính
thường. Khi đó :
Argmin f = ze r∂ f =
{
x ∈ H | 0 ∈ ∂ f ( x)
}
.
Chứng minh. Cho x ∈ H, khi đó
x ∈ Argmin f ⇔ ∀y ∈ H, y − x | 0 + f ( x) ≤ f (y) ⇔ 0 ∈ ∂ f (x).
Mệnh đề 2.1. Cho f : H → (−∞, +∞] là hàm chính thường và cho x ∈
dom f . Ta có:
(i) dom∂ f ⊂ dom f .
(ii) ∂ f (x) =

y∈dom f
{
u ∈ H | y − x | u ≤ f (y) − f (x)
}
.
(iii) ∂ f (x) là đóng yếu*.
(iv) Giả sử x ∈ dom f thì f là hàm nửa liên tục dưới tại x.
Chứng minh. (i) Từ f là hàm chính thường và f (x) = +∞
⇒ ∂ f (x) = ∅.
(ii) Theo định nghĩa 2.1.
(iii) Theo (ii).
(iv) Lấy u ∈ ∂ f (x) , ta có
∀y ∈ H, f (x) ≤ f ( y) + y − x | u.
Và do đó f (x) ≤ lim

y→x
f (y).
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên 25