GIẢI TÍCH KHÔNG TRƠN (Giáo trình Cao học)

GIẢI TÍCH KHÔNG TRƠN
(Giáo trình Cao học)
Huỳnh Thế Phùng
Ngày 28 tháng 9 năm 2007


1

Mục lục
Mục lục
Chương 1

1
Phép tính Xấp xỉ Trong Không gian Hilbert

2

1.1. Pháp tuyến xấp xỉ. . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2

1.2. Dưới gradient xấp xỉ. . . . . . . . . . . . . . . . . . . . . . . . . . . .

4

1.3. Các khái niệm đạo hàm. . . . . . . . . . . . . . . . . . . . . . . . . .

5

1.4. Đặc trưng của dưới gradient xấp xỉ. . . . . . . . . . . . . . . . . . . .

7

1.5. Định lý trù mật. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

9

1.6. Tổng chập cực tiểu của hàm toàn phương. . . . . . . . . . . . . . . . 10
1.7. Các nguyên lý tối ưu hóa. . . . . . . . . . . . . . . . . . . . . . . . . 11
1.8. Khảo sát hàm khoảng cách. . . . . . . . . . . . . . . . . . . . . . . . 11
1.9. Trường hợp hàm Lipschitz. . . . . . . . . . . . . . . . . . . . . . . . . 13
Chương 2

Gradient suy rộng trong không gian Banach

14

2.1. Định nghĩa và tính chất cơ bản. . . . . . . . . . . . . . . . . . . . . . 14
2.2. Các phép tính trên Gradient suy rộng. . . . . . . . . . . . . . . . . . 16
2.3. Quan hệ với các đạo hàm. . . . . . . . . . . . . . . . . . . . . . . . . 17
2.4. Hàm lồi - Hàm chính qui. . . . . . . . . . . . . . . . . . . . . . . . . 17
2.5. Nón tiếp xúc và Nón pháp tuyến. . . . . . . . . . . . . . . . . . . . . 18
2.6. Trường hợp hữu hạn chiều. . . . . . . . . . . . . . . . . . . . . . . . . 20
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21


Chương 1
Phép tính Xấp xỉ
Trong Không gian Hilbert
1.1.

Pháp tuyến xấp xỉ.

Trong giáo trình này ta luôn giả thiết X là không gian Hilbert thực. Cho S là
một tập con khác rỗng của X và x ∈ X. Điểm s ∈ S được gọi là điểm chiếu của x
lên S nếu
x − s = dS (x) := inf x − u : u ∈ S .
Ta kí hiệu projS (x) là tập các điểm chiếu của x lên S. Khi projS (x) chỉ có một phần
tử ta sẽ nói projS (x) là tập đơn tử.
Bài tập 1.1. Cho S là tập đóng khác rỗng trong X. Nếu một trong hai điều kiện
sau thoả mãn
a) dim(X) < +∞,
b) S lồi,
thì với mọi x ∈ X, projS (x) là tập khác rỗng. Hơn nữa, với điều kiện thứ hai,
projS (x) là tập đơn tử.
Bài tập 1.2. Chứng minh
a) x ∈ S ⇔ dS (x) = 0.
b) dS (x) = dT (x), ∀x ∈ X ⇔ S = T .
c) dS (x) − dS (y) ≤ x − y ; ∀x, y ∈ X.
d) Giả sử S là tập đóng khác rỗng trong Rn . Lúc đó, projS (x) = ∅ với mọi x ∈ X.
Hơn nữa, tập hợp {projS (x); x ∈ Rn \ S} trù mật trên ∂S.


3
Mệnh đề 1.1. Cho S ⊂ X, x ∈ X và s ∈ S. Khi đó các phát biểu sau tương đương
a) s ∈ projS (x);
b) x − s, s − s ≤

1
2

s − s 2 , ∀s ∈ S;

c) s ∈ projS (s + t(x − s)), ∀t ∈ [0; 1];
d) dS (s + t(x − s)) = t x − s , ∀t ∈ [0; 1].
Bài tập 1.3. Chứng minh rằng nếu s ∈ projS (x) thì projS (s + t(x − s)) = {s} với
mọi t ∈ [0; 1).
Cho x ∈ X, s ∈ projS (x). Ta gọi các vectơ có dạng ξ = t(x − s), với t ≥ 0, là
vectơ pháp tuyến xấp xỉ của S tại s và tập
NSP (s) := {t(x − s) | x ∈ X, s ∈ projS (x), t ≥ 0}

(1.1)

là nón pháp tuyến xấp xỉ của S tại s.
Từ định nghĩa ta thấy NSP (s) thực sự là một nón chứa gốc và
NSP (s) = {ξ ∈ X | ∃t > 0 : dS (s + tξ) = t ξ } .

(1.2)

Hơn nữa, nếu s ∈ S không phải là điểm chiếu của bất kỳ một điểm x nào nằm ngoài
S thì NSP (s) = {0}. Để tiện làm việc ta quy ước NSP (s) = ∅ khi s ∈ S.
Mệnh đề 1.2. Cho S ⊂ X, s ∈ S. Khi đó
a) ξ ∈ NSP (s) khi và chỉ khi tồn tại σ(ξ, s) ≥ 0 sao cho
ξ, s − s ≤ σ s − s 2 , ∀s ∈ S.

(1.3)

b) Cho trước δ > 0, ξ ∈ NSP (s) khi và chỉ khi tồn tại σ(ξ, s) ≥ 0 sao cho
ξ, s − s ≤ σ s − s 2 , ∀s ∈ S ∩ B(s, δ).

(1.4)

Từ Mệnh đề 1.2 ta thấy nón pháp tuyến xấp xỉ có tính chất địa phương. Hai
nón pháp tuyến xấp xỉ NS1 (s) và NS2 (s) sẽ trùng nhau nếu hai tập S1 và S2 trùng
nhau trong một lân cận của s. Các bất đẳng thức (1.3) và (1.4) được gọi là bất đẳng
thức pháp tuyến xấp xỉ.
Mệnh đề 1.3. Cho S là tập lồi đóng trong X. Khi đó
a) ξ ∈ NSP (s) khi và chỉ khi ξ, s − s ≤ 0 với mọi s ∈ S;
b) Nếu X hữu hạn chiều thì NSP (s) = {0} với mọi s ∈ ∂S.


4
Mệnh đề này cho thấy rằng khái niệm nón pháp tuyến xấp xỉ trùng với nón
pháp tuyến theo nghĩa giải tích lồi nếu S là tập lồi.
Bây giờ cho S là một đa tạp khả vi, tức là
S = {x ∈ Rn | hi (x) = 0; 1 ≤ i ≤ k},
với hi : Rn → R là các hàm thuộc lớp C 1 .
Mệnh đề 1.4. Giả sử S là đa tạp khả vi được cho như trên. Hơn nữa, s ∈ S và hệ
{∇hi (s), 1 ≤ i ≤ k} độc lập tuyến tính. Lúc đó
a) NSP (s) ⊂ span{∇hi (s), 1 ≤ i ≤ k};
b) Nếu các hàm hi đều thuộc lớp C 2 , thì đẳng thức xảy ra.
Như vậy ta thấy khái niệm pháp tuyến xấp xỉ cũng là một mở rộng của hướng
pháp tuyến đối với C 2 −đa tạp trong hình học vi phân.
Bài tập 1.4. Trong R2 cho các tập
S1 = {(x, y) | x2 +y 2 ≤ 2; x ≥ 0; y ≥ 0}; S2 = {(x, y) | x2 +y 2 ≥ 2; |x| ≤ 2; |y| ≤ 2}
và các điểm s1 = (0, 0), s2 = (2, 0), s3 = (1, 1), s4 = (2, 2). Xác định các nón NSP1 (s1 ),
NSP1 (s2 ), NSP1 (s3 ), NSP2 (s2 ), NSP2 (s3 ), NSP2 (s4 ).

1.2.

Dưới gradient xấp xỉ.

Từ nay về sau ta luôn giả thiết f : X → (−∞, +∞]. Ta vẫn sử dụng các ký
hiệu và định nghĩa quen thuộc sau
dom f = {x ∈ X | f (x) < +∞},
Gr f = {(x, f (x)) | x ∈ dom f },
epi f = {(x, r) ∈ dom f × R | r ≥ f (x)}.
f được gọi là nửa liên tục dưới (l.s.c.) tại x ∈ X nếu
lim inf f (x ) ≥ f (x).
x →x

f là l.s.c. trên tập U ⊂ X nếu f l.s.c. tại mọi điểm x ∈ U . Ta ký hiệu
F(U ) = {f | f l.s.c. trên U và dom f ∩ U = ∅};
f được gọi là lồi nếu epi f là tập lồi.
Bài tập 1.5. Chứng minh

F = F(X).


5
a) f ∈ F ⇔ epi f đóng ⇔ {x ∈ X | f (x) ≤ r} đóng với mọi r ∈ R.
b) Cho ∅ = S ⊂ X và IS là hàm chỉ của S. Lúc đó, S đóng khi và chỉ khi IS l.s.c.,
S lồi khi và chỉ khi IS lồi.
P
c) Giả sử (ξ, −λ) ∈ Nepi
f (x, r) với f ∈ F và (x, r) ∈ epi f . Lúc đó, λ ≥ 0;
r = f (x) nếu λ > 0; λ = 0 nếu r > f (x).

d) Nếu S = epi f với f ∈ F thì, với x ∈ X cố định, hàm dS (x, r) là hàm giảm
theo r ∈ R.
P

e) Tìm một hàm liên tục f : R → R sao cho (1, 0) ∈ Nepi
f (0, f (0)).

Cho f ∈ F và x ∈ dom f . Vector ξ ∈ X được gọi là dưới gradient xấp xỉ của f
P
tại x nếu (ξ, −1) ∈ Nepi
f (x, f (x)). Tập tất cả các dưới gradient xấp xỉ của f tại x,
kí hiệu ∂P f (x), được gọi là dưới vi phân xấp xỉ của f tại x.
Ví dụ 1.1. Cho hàm số thực f (x) = −|x|. Lúc đó ∂P f (0) = ∅.
Bài tập 1.6. Chứng minh
a) NSP (s) là nón lồi. Từ đó suy ra ∂P f (x) là tập lồi,
b) ∂P IS (x) = NSP (x) với mọi x ∈ S,
c) Nếu f ∈ F và f đạt cực tiểu tại x thì 0 ∈ ∂P f (x)

1.3.

Các khái niệm đạo hàm.

Đạo hàm Gâteaux của f tại x ∈ X là vectơ fG (x) ∈ X sao cho với mọi d ∈ X
đạo hàm theo hướng f (x; d) tồn tại và bằng fG (x), d . Hàm f được gọi là khả vi
Gâteaux trên tập U ⊂ X nếu nó khả vi Gâteaux tại mọi điểm x ∈ U .
Vectơ f (x) ∈ X được gọi là đạo hàm Fréchet của f tại x nếu
∀r > 0, ∀ > 0, ∃δ > 0: ∀d ∈ B(0; r), ∀t ∈ (0, δ):
f (x + td) − f (x)
− f (x), d < .
t
Hàm f được gọi là khả vi Fréchet trên tập U ⊂ X nếu nó khả vi Fréchet tại mọi
x ∈ U.
Từ định nghĩa ta thấy nếu f là hàm một biến thực thì các khái niệm khả vi
thông thường, khả vi Gâteaux và khả vi Fréchet là tương đương. Trong trường hợp

tổng quát, nếu f có đạo hàm Fréchet tại x thì cũng liên tục và có đạo hàm Gâteaux
tại điểm đó. Tuy nhiên, nếu f có đạo hàm Gâteaux tại x thì không nhất thiết f có
đạo hàm Fréchet và thậm chí f không liên tục tại điểm đó.


6
Ví dụ 1.2. Cho hàm hai biến
f (x, y) =

y3
,
x

0,

x=0
x=0

Rõ ràng, f khả vi Gâteaux tại (0, 0) nhưng gián đoạn tại điểm đó, và dĩ nhiên,
không khả vi Fréchet tại (0, 0).
Bây giờ ta mở rộng các khái niệm đạo hàm trên cho các ánh xạ giữa các không
gian Hilbert. Cho X, Y là các không gian Hilbert, x0 ∈ X, F : X → Y . Toán tử
FG (x0 ) ∈ L(X, Y ) được gọi là đạo hàm Gâteaux của F tại x0 nếu
lim
t↓0

F (x0 + tv) − F (x0 )
− FG (x0 )(v)
t

= 0, ∀v ∈ X.

Toán tử F (x0 ) ∈ L(X, Y ) được gọi là đạo hàm Fréchet của F tại x0 nếu
lim
t↓0

F (x0 + tv) − F (x0 )
− F (x0 )(v)
t

= 0, ∀v ∈ X,

và sự hội tụ là đều theo v trong một tập bị chặn bất kì của X. Từ định nghĩa ta có
ngay
Mệnh đề 1.5. Cho X, Y, Z là các không gian Hilbert, x0 ∈ X và các hàm F : X →
Y , G : Y → Z. Khi đó nếu F khả vi Fréchet tại x0 và G khả vi Fréchet tại F (x0 )
thì G ◦ F khả vi Fréchet tại x0 và
(G ◦ F ) (x0 ) = G (F (x0 )) ◦ F (x0 ).
Giả sử U ⊂ X là một tập mở và f là một hàm có đạo hàm Fréchet f liên tục
trên U . Nếu đến phiên nó, f : U → X là một ánh xạ có đạo hàm Fréchet liên tục
trên U thì đạo hàm của f , kí hiệu f , được gọi là đạo hàm cấp 2 của f và f được
gọi là khả vi liên tục đến cấp 2. Chú ý rằng lúc này f (x) ∈ X và f (x) ∈ L(X, X)
với x ∈ U . Ta kí hiệu C 1 (U ) và C 2 (U ) lần lượt là họ các hàm khả vi liên tục đến cấp
1 và cấp 2 trên U và, để đơn giản, ta sẽ viết C 1 và C 2 thay cho C 1 (X) và C 2 (X).
Từ nay, khi nhắc đến đạo hàm (t.ư. khả vi) mà không nói gì thêm thì ta ngầm
hiểu đó là đạo hàm (t.ư. khả vi) Fréchet.
Bổ đề 1.1. Cho f ∈ F và x, y ∈ X. Xét hàm g : [0, 1] → R xác định bởi
g(t) := f (x + t(y − x));

t ∈ [0, 1].

(1.5)

Lúc đó
a) Nếu f khả vi Gâteaux thì g cũng có đạo hàm trên [0, 1] và
g (t0 ) = fG (x + t0 (y − x)), y − x ;

∀t0 ∈ [0, 1]

(1.6)


7
b) Nếu f khả vi hai lần thì g cũng vậy. Hơn nữa,
g (t0 ) = y − x, f (x + t0 (y − x))(y − x) ;

∀t0 ∈ [0, 1].

(1.7)

Mệnh đề 1.6. Cho f ∈ F khả vi Gâteaux trên tập mở U ⊂ X. Xét x, y ∈ X, x = y
sao cho [x, y] ⊂ U . Khi đó có z ∈ (x, y) sao cho
f (y) − f (x) = fG (z), y − x .
Giả sử f ∈ C 2 (U ). Sử dụng khai triển Taylor cho hàm g xác định bởi (1.5)
trong Bổ đề 1.1 trên [0, 1] ta có
1
g(t) = g(0) + g (0)t + g (t0 )t2 ,
2
với t0 ∈ (0, t). Thay t = 1 và sử dụng (1.6), (1.7) ta nhận được
f (y) = f (x) + f (x), y − x +

1
f (z)(y − x), y − x ,
2

với z = x + t0 (y − x) ∈ (x, y). Như vậy nếu f ∈ C 2 (U ) thì có η > 0 và σ ≥ 0 sao cho
f (y) ≥ f (x) + f (x), y − x − σ y − x 2 , ∀y ∈ B(x, η).

1.4.

(1.8)

Đặc trưng của dưới gradient xấp xỉ.

Bổ đề 1.2. Cho x0 ∈ X, f (y) = y − x0 2 . Khi đó f ∈ C 2 và với mọi y ∈ X,
f (y) = 2(y − x0 ),

f (y) = 2IdX ,

với IdX ∈ L(X, X) là toán tử đồng nhất trên X.
Bổ đề 1.3. Cho c > 0 và ξ, x ∈ X. Đặt
g(y) = c2 + 2c ξ, y − x − y − x

2

1
2

.

Lúc đó, tồn tại lân cận U của x sao cho g ∈ C 2 (U ) và g (x) = ξ.
Bài tập 1.7. Chứng minh hàm f (x) = x khả vi tại mọi điểm x0 = 0. Hơn nữa,
f (x0 ) = x0 / x0 .
Định lý 1.7. Cho f ∈ F, x ∈ dom f . Lúc đó ξ ∈ ∂P f (x) khi và chỉ khi tồn tại các
số dương η, σ sao cho
f (y) ≥ f (x) + ξ, y − x − σ y − x 2 ,

∀y ∈ B(x, η).

(1.9)


8
Đây được gọi là bất đẳng thức dưới gradient xấp xỉ. Từ bất đẳng thức này ta
thấy gần x, hàm f luôn nằm trên hàm toàn phương
h(y) := f (x) + ξ, y − x − σ y − x 2 ,
và đẳng thức xảy ra tại y = x. Nói cách khác, hàm l(y) := f (y) − h(y) đạt cực tiểu
địa phương tại y = x. Hơn nữa, từ cách chứng minh định lý ta thấy có một hình
cầu trong X × R tiếp xúc ngoài với epi f tại (x, f (x)).
Hệ quả 1.1. Cho f ∈ F và tập mở U ⊂ X. Lúc đó,
a) Nếu f khả vi Gâteaux tại x ∈ U thì ∂P f (x) ⊂ {fG (x)};
b) Nếu f ∈ C 2 (U ) thì ∂P f (x) = {f (x)}, ∀x ∈ U .
c) Nếu f lồi thì
ξ ∈ ∂P f (x) ⇔ f (y) ≥ f (x) + ξ, y − x ; ∀y ∈ X.
3

Giả thiết f ∈ C 2 trong hệ quả trên là cần thiết. Thật vậy, xét hàm f (x) = −|x| 2 ,
ta thấy f ∈ C 1 và f (0) = 0. Tuy vậy, ∂P f (0) = ∅. Điều này là do f ∈ C 2 . Như
vậy ∂P f không thực sự là một mở rộng của khái niệm đạo hàm, vì ngay cả những
hàm thuộc lớp C 1 cũng có thể không khả dưới vi phân. Có lẻ đây là nhược điểm

cơ bản của khái niệm này vì dưới vi phân hàm lồi và dưới vi phân Clarke cho hàm
Lipschitz (ở Chương 2) cũng không mắc nhược điểm đó.
Hệ quả 1.2. Giả sử f ∈ F. Lúc đó,
a) Nếu f đạt cực tiểu địa phương tại x0 thì 0 ∈ ∂P f (x0 );
b) Nếu f lồi và 0 ∈ ∂P f (x0 ) thì x0 là điểm cực tiểu toàn cục của f .
Bài tập 1.8. Xác định dưới vi phân xấp xỉ của các hàm số thực sau
√
a) f (x) = 3 x tại 0,
b) f (x) = −|x| tại 0 và 1,
√
x, x ≥ 0,
tại 0, 1 và −1,
c) f (x) =
−x2 , x < 0
d) f (x) =

x2 sin x1 , x = 0,
0,
x=0

tại 0.

Bài tập 1.9. Cho f, g ∈ F. Chứng minh
a) ∂P f (x) + ∂P g(x) ⊂ ∂P (f + g)(x).
b) ∂P (cf )(x) = c∂P f (x) với mọi c > 0.
c) Cho ví dụ ở đó, ∂P (f + g)(x) = ∅ nhưng ∂P f (x) = ∅ hoặc ∂P g(x) = ∅.


9
Mệnh đề 1.8.

a) Giả sử U ⊂ X là một tập mở, x ∈ U và f : U → R liên tục sao cho ∂P f (x) = ∅
và ∂P (−f )(x) = ∅. Khi đó f khả vi Fréchet tại x và
∂P f (x) = −∂P (−f )(x) = {f (x)}.
b) Giả sử f lồi, liên tục tại x ∈ Int(dom f ). Khi đó ∂P f (x) = ∅. Hơn nữa, nếu
∂P (−f )(x) = ∅ thì f khả vi Fréchet tại x.
Mệnh đề 1.9. Giả sử f ∈ F, x ∈ X, g ∈ C 2 (B(x, δ)) với δ > 0. Khi đó
ξ ∈ ∂P (f + g)(x) ⇔ ξ − g (x) ∈ ∂P f (x).
Bài tập 1.10.
a) Cho f ∈ C 2 và giả sử f nhận cực tiểu trên S tại x0 . Chứng minh rằng −f (x0 ) ∈
NPS (x0 ).
b) Giả sử f Lipschitz với hằng số K trên một lân cận của x0 . Chứng minh rằng
ξ ≤ K, ∀ξ ∈ ∂P f (x0 ).
c) Cho f ∈ C 1 (U ) với U mở. Chứng minh f Lipschitz địa phương trên U (Dùng
Định lý giá trị trung bình). Hơn nữa, nếu S ⊂ U là tập lồi, compact thì f
Lipschitz trên S với hằng số
K = max{ f (x) | x ∈ S}.

1.5.

Định lý trù mật.

Tiếp theo chúng ta đi đến một kết quả rất thú vị nói rằng tập hợp các điểm tại
đó dưới vi phân xấp xỉ của hàm f khác rỗng là trù mật trên dom f . Hay nói cách
khác, hàm f là khả dưới vi phân xấp xỉ trên một tập con trù mật của dom f . Điều
đó được khẳng định trong định lý sau
Định lý 1.10. Giả sử f ∈ F, x0 ∈ dom f và
tại y ∈ B(x0 , ) sao cho ∂P f (y) = ∅ và

là một số dương tùy ý. Lúc đó, tồn

f (x0 ) − ≤ f (y) ≤ f (x0 ).
Đặc biệt, dom ∂P f trù mật trong dom f .


10

1.6.

Tổng chập cực tiểu của hàm toàn phương.

Trong mục này ta sẽ khảo sát dưới vi phân xấp xỉ của hàm là tổng chập cực
tiểu của một hàm với hàm toàn phương. Nhắc lại rằng, tổng chập cực tiểu của hai
hàm f, g : X → R là hàm h : X → R được xác định bởi
h(x) := inf{f (y) + g(x − y); y ∈ X}, x ∈ X,
và được ký hiệu bởi h = f ⊕ g. Bằng quy nạp, ta cũng có khái niệm tổng chập cực
tiểu của m hàm: f1 , f2 , · · · , fm và được ký hiệu
m

fi = f1 ⊕ f2 ⊕ · · · ⊕ fm .
i=1

Ở đây, ta chỉ xét tổng chập cực tiểu của f với một hàm toàn phương dạng
gα (x) = α x 2 . Lúc đó ta nhận được hàm
fα (x) := (f ⊕ gα )(x) := inf{f (y) + α x − y 2 ; y ∈ X}.
Một dãy (yi ) ⊂ X được gọi là dãy cực tiểu của fα (x) nếu
lim (f (yi ) + α yi − x 2 ) = fα (x).

i→∞

Ta luôn giả thiết f bị chặn dưới trên X và α > 0.

Bổ đề 1.4. Giả sử f ∈ F. Lúc đó,
a) Nếu f lồi thì fα lồi.
b) Nếu f bị chặn dưới bởi c thì fα cũng bị chặn dưới bởi c. Hơn nữa, fα Lipschitz
trên mọi tập bị chặn trong X.
Định lý 1.11. Giả sử f ∈ F và hàm fα khả dưới vi phân xấp xỉ tại điểm x ∈ X.
Lúc đó, tồn tại duy nhất y¯ ∈ X thỏa mãn các điều kiện sau
a) Nếu (yi ) là dãy cực tiểu của hàm fα thì yi → y¯;
b) Hàm f (y) + α y − x

2

đạt cực tiểu duy nhất tại y¯;

c) Đạo hàm Fréchet fα (x) tồn tại và
∂P fα (x) = {fα (x)} = {2α(x − y¯)};
d) 2α(x − y¯) ∈ ∂P f (¯
y ).
Định lý này cho ta một tính chất rất thú vị của hàm fα là tại mỗi điểm x ∈ X
ta có, hoặc ∂P fα (x) = ∅ hoặc fα khả vi Fréchet tại x và ∂P fα (x) = {fα (x)}.


11

1.7.

Các nguyên lý tối ưu hóa.

Trong Mục 1.5. ta thấy việc chứng minh Định lý trù mật được thực hiện một
cách đơn giản trong trường hợp hữu hạn chiều, nhưng lại rất phức tạp trong trường
hợp vô hạn chiều. Điều đó là do một hàm nửa liên tục dưới trên một tập đóng, bị

chặn (trong không gian vô hạn chiều) không nhất thiết tồn tại điểm cực tiểu, thậm
chí không bị chặn dưới. Tuy nhiên, những kết quả ngay dưới đây cho thấy, với những
nhiễu (tuyến tính hay toàn phương) nhỏ tùy ý, một hàm nửa liên tục dưới sẽ đạt
được cực tiểu.
Định lý 1.12 (Nguyên lý tối ưu Stegall). Cho f ∈ F và S ⊂ X là tập đóng, bị
chặn sao cho S ∩ dom f = ∅ và inf f > −∞. Lúc đó, tồn tại một tập trù mật các
S

x ∈ X sao cho hàm
h(y) = f (y) − x, y
nhận một giá trị cực tiểu duy nhất trên S.
Thật ra định lý này tương đương với một khẳng định nhẹ hơn rằng: Tồn tại
một dãy (xk ) ⊂ X, hội tụ về 0, sao cho các hàm f (y) − xk , y có duy nhất một
điểm cực tiểu trên S.
Định lý 1.13 (Nguyên lý tối ưu Borwein-Preiss). Cho f ∈ F thỏa mãn inf f > −∞.
S

Giả sử

> 0 và x0 ∈ X sao cho f (x0 ) < inf f + . Lúc đó, với mọi λ > 0, tồn tại
S

các điểm z ∈ B(x0 , λ), y ∈ B(z, λ) với f (y) ≤ f (x0 ) sao cho hàm
g(x) = f (x) +

λ2

x−z

2

nhận x = y làm điểm cực tiểu duy nhất.
Chứng minh chi tiết của các định lý này sẽ được cho trong mục tiếp theo, khi
nghiên cứu về “tổng chập cực tiểu” của hàm toàn phương.
Bài tập 1.11. Cho f , x0 , như trong
√ f khả vi Fréchet.
√ Định lý 1.13, hơn nữa
và f (y) ≤ f (x0 ).
Chứng minh rằng tồn tại y ∈ B(x0 , 2 ) sao cho f (y) ≤ 2
Từ đó suy ra tồn tại dãy cực tiểu (yi ) của f sao cho f (yi ) → 0.

1.8.

Khảo sát hàm khoảng cách.

Trong mục này ta luôn giả thiết S là tập con đóng khác rỗng trong X và dS là
hàm khoảng cách đến tập S.
Bài tập 1.12. Cho hàm f (x) ≥ 0, chứng minh nếu ξ ∈ ∂P f (x0 ) thì 2f (x0 )ξ ∈
∂P (f 2 )(x0 ).


12
Định lý 1.14. Giả sử x ∈ S và ξ ∈ ∂P dS (x). Lúc đó tồn tại duy nhất điểm s¯ ∈ S
sao cho
a) Nếu (si ) ⊂ S là dãy cực tiểu của hàm s → x − s thì si → s¯;
b) projS (x) = {¯
s};
c) Đạo hàm Fréchet dS (x) tồn tại và
∂P dS (x) = {dS (x)} =

x − s¯
x − s¯

;

d) dS (x) ∈ NSP (¯
s).
Hệ quả 1.3.
a) Tập hợp {x ∈ X | projS (x) đơn tử } là trù mật trong X.
b) Tập hợp {s ∈ ∂S | NSP (s) = {0}} là trù mật trong ∂S.
Dưới đây ta sẽ xét việc dùng hàm khoảng cách như một hàm phạt trong bài
toán cực tiểu có ràng buộc:
(PS ) : inf f (s).
s∈S

Mệnh đề 1.15. Giả sử f là hàm Lipschitz, với hằng số K > 0, trên tập mở U chứa
S. Lúc đó
a) Nếu s là nghiệm của bài toán (PS ) thì nó cũng là nghiệm của bài toán
(PUK ) : inf f (x) + KdS (x) .
x∈U

b) Ngược lại, nếu s là nghiệm của bài toán (PUL ), với L > K, thì s ∈ S và cũng
là nghiệm của bài toán (PS ).
Kết quả sau đây sẽ chỉ ra mối liên hệ giữa một khái niệm hình học, là nón pháp
tuyến xấp xỉ, và khái niệm giải tích, là dưới vi phân xấp xỉ.
Định lý 1.16. Cho s ∈ S. Lúc đó
NSP (s) = tξ | t ≥ 0; ξ ∈ ∂P dS (s) .


13

1.9.

Trường hợp hàm Lipschitz.

Hàm f được gọi là Lipschitz với hằng số K trên tập M nếu |f (y) − f (x)| ≤
K y − x , với mọi x, y ∈ M , f được gọi là Lipschitz địa phương trên M nếu với mọi
x ∈ M , tồn tại lân cận U của x sao cho f Lipschitz, với một hằng số K(x) nào đó,
trên U ∩ M . Định lý dưới đây là một kết quả quan trọng trong giải tích lồi.
Định lý 1.17. Cho tập lồi, mở U ⊂ X và f : U → R là một hàm lồi. Nếu f bị
chặn trên trong một hình cầu nào đó B(¯
x, r) ⊂ U , thì f Lipschitz địa phương trên
U.
Hệ quả 1.4. Mọi hàm lồi f trên tập lồi, mở U ⊂ Rn đều Lipschitz địa phương.
Bài tập 1.13. Cho M > 0, > 0. Xây dựng hàm ϕ ∈ C 2 : [0, 3 ) → [0, +∞) sao
cho ϕ(t) = M t với mọi t ∈ [0, 2 ]; ϕ (t) ≥ M với mọi t ∈ [2 , 3 ) và lim ϕ(t) = +∞.
t→3

Định lý 1.18. Cho U ⊂ X là tập lồi mở và f ∈ F(U ). Lúc đó, f Lipschitz trên U
với hằng số K > 0 khi và chỉ khi ξ ≤ K với mọi x ∈ U và ξ ∈ ∂P f (x).
Hệ quả 1.5. Cho U ⊂ X là tập lồi, mở và f ∈ F(U ). Lúc đó, f là hàm hằng trên
U khi và chỉ khi ∂P f (x) ⊂ {0}, với mọi x ∈ U .
Bài tập 1.14.
a) Chỉ ra rằng Hệ quả 1.5 không còn đúng nếu U không lồi.
b) Chứng minh nếu U mở (không nhất thiết lồi) thì một hàm f ∈ F(U ) là
Lipschitz địa phương trên U khi và chỉ khi ∂P f (x) bị chặn địa phương trên U .
c) Chứng minh nếu S lồi, compact, thì từ giả thiết f Lipschitz địa phương trên
S cũng kéo theo f Lipschitz trên S.

14

Chương 2
Gradient suy rộng
Trong Không gian Banach
Trong chương này ta luôn giả thiết X là không gian Banach trên trường số thực
và f : X → R là hàm Lipschitz địa phương. Ta sẽ mở rộng các khái niệm vi phân
cho hàm Lipschitz, theo đó nhiều khái niệm hình học cũng như các điều kiện cực
trị cho bài toán tối ưu cũng được thiết lập.

2.1.

Định nghĩa và tính chất cơ bản.

Giả sử f là hàm Lipschitz trong một lân cận của x ∈ X với hằng số K. Với mỗi
v ∈ X, ta gọi đạo hàm theo hướng suy rộng của f tại x theo hướng v là giới hạn sau
f 0 (x; v) := lim sup
y→x, t↓0

f (y + tv) − f (y)
.
t

(2.1)

Do tính Lipschitz của f , giới hạn này luôn luôn tồn tại. Mệnh đề dưới đây cho
ta một số tính chất khác của đạo hàm này.
Mệnh đề 2.1. Với hàm f và điểm x được cho như trên, ta có
a) Hàm f 0 (x; ·) hữu hạn, lồi, thuần nhất dương trên X. Hơn nữa,
|f 0 (x; v)| ≤ K v ; ∀v ∈ X.

b) Hàm hai biến f 0 (·; ·) là nửa liên tục trên còn hàm một biến f 0 (x; ·) Lipschitz
với chính hằng số K trên X.
c) f 0 (x; −v) = (−f )0 (x; v); ∀v ∈ X.
Bài tập 2.1. Cho f và g là hai hàm Lipschitz gần x. Chứng minh
(f + g)0 (x; v) ≤ f 0 (x; v) + g 0 (x; v); ∀v ∈ X.


15
Trước khi đi đến định nghĩa dưới gradient suy rộng (một khái niệm mở rộng
của dưới vi phân) của hàm f , ta cần nhắc lại một số kết quả liên quan đến hàm
tựa. Nhắc lại rằng, với tập C ⊂ X cho trước, ta gọi hàm tựa σC là hàm được xác
định bởi
σC (x∗ ) = sup x∗ , x ; x∗ ∈ X ∗ .
x∈C

Tương tự, hàm tựa của một tập D ⊂ X ∗ lại được xác định trên X, tức là
σD (x) = sup x∗ , x ; x ∈ X.
x∗ ∈D

Mệnh đề sau là một kết quả từ giải tích lồi.
Mệnh đề 2.2.
a) Với ∅ = D ⊂ X ∗ , σD lồi, thuần nhất dương, nửa liên tục dưới.
b) Nếu D lồi và đóng yếu* thì
ξ ∈ D ⇔ σD (x) ≥ ξ, x ; ∀x ∈ X.
c) Cho D1 , D2 ⊂ X ∗ lồi, đóng yếu*. Lúc đó
D1 ⊂ D2 ⇔ σD1 (x) ≤ σD2 (x); ∀x ∈ X.
d) Nếu p : X → R là một hàm lồi, thuần nhất dương và bị chặn trên hình cầu
đơn vị, thì tồn tại duy nhất một tập D ⊂ X ∗ lồi, khác rỗng, compact yếu* sao
cho σD = p.
Từ Mệnh đề 2.1 và Mệnh đề 2.2.d tồn tại duy nhất tập hợp lồi, khác rỗng,

compact yếu* D ⊂ X ∗ sao cho σD (·) = f 0 (x; ·). Ta ký hiệu ∂f (x) = D và gọi là
dưới gradient suy rộng của f tại x. Từ Mệnh đề 2.2.b, ta có
∂f (x) = {ξ ∈ X ∗ | ξ, v ≤ f 0 (x; v), ∀v ∈ X}.
Các khẳng định sau suy ra trực tiếp từ định nghĩa.
Hệ quả 2.1.
a) ∂f (x) khác rỗng, lồi, compact yếu* và ξ ≤ K với mọi ξ ∈ ∂f (x).
b) f 0 (x; v) = max{ ξ, v | ξ ∈ ∂f (x)}.
c) ξ ∈ ∂f (x) ⇔ f 0 (x; v) ≥ ξ, v , ∀v ∈ X.

(2.2)


16
Bài tập 2.2.
a) Cho f : Rn → R thuộc lớp C 1 . Chứng minh f 0 (x; v) = f (x), v với mọi v ∈ X
và ∂f (x) = {f (x)}.
b) Giả sử f (x) = max{x, 0}, x ∈ R. Chứng minh f 0 (0; v) = max{0, v}. Tính
∂f (0).
c) Xác định f 0 (0; ·) và ∂f (0) khi f : Rn → R: f (x) = x .
d) Chứng minh nếu f nhận cực trị địa phương tại x thì 0 ∈ ∂f (x).
Ánh xạ đa trị F : X → Y được gọi là nửa liên tục trên tại x ∈ X nếu
∀ > 0, ∃δ > 0, ∀y ∈ B(x, δ) : F (y) ⊂ F (x) + B(0, 1).
Mệnh đề 2.3.
w∗

a) Nếu (xi ) ⊂ X và (ξi ) ⊂ X ∗ sao cho: ξi ∈ ∂f (xi ), xi → x, ξi → ξ, thì ξ ∈ ∂f (x).
b) Nếu dim X < ∞, thì ∂f (·) là nửa liên tục trên tại x.
Bài tập 2.3.
a) Kiểm chứng tính nửa liên tục trên của ∂f tại 0 đối với các hàm f được cho
trong Bài tập 2.2.b, c.

b) Giả sử ξi ∈ ∂f (xi ) + i B ∗ với xi → x,

2.2.

W∗

i

→ 0 và ξi → ξ. Cm ξ ∈ ∂f (x).

Các phép tính trên Gradient suy rộng.

Mệnh đề 2.4. ∂(λf )(x) = λ∂f (x), với mọi λ ∈ R và x ∈ X.
Mệnh đề 2.5. Giả sử fi Lipschitz gần x và λi ∈ R với 1 ≤ i ≤ n. Lúc đó, hàm
λi fi cũng Lipschitz gần x và
n

n

λi fi (x) ⊂

∂
1

λi ∂fi (x).
1

Bài tập 2.4. Tìm một ví dụ với X = R, n = 2 và bao hàm thức trong mệnh đề
trên là chặt.
Định lý 2.6 (Định lý trung bình Lebourg). Cho x, y ∈ X sao cho f Lipschitz trên

tập mở U ⊃ [x, y]. Lúc đó, tồn tại u ∈ (x, y) sao cho
f (y) − f (x) ∈ ∂f (u), y − x .


17
Để chứng minh định lý trên ta cần sử dụng bổ đề sau
Bổ đề 2.1. Hàm g được xác định bởi (1.5) là Lipschitz trên đoạn [0, 1] và
∂g(t) ⊂ ∂f (x + t(y − x)), y − x .
Định lý 2.7. Cho F : X → Rn Lipschitz gần x và g : Rn → R Lipschitz gần F (x).
Lúc đó, hàm f = g ◦ F Lipschitz gần x và
∂f (x) ⊂ co∗ {∂ γ, F (·) (x) | γ ∈ ∂g(F (x))}.
Ở đây, co∗ ký hiệu bao lồi đóng yếu*.
Bài tập 2.5. Chứng minh nếu f và g Lipschitz gần x thì f g cũng vậy. Hơn nữa,
∂(f g)(x) ⊂ f (x)∂g(x) + g(x)∂f (x).

2.3.

Quan hệ với các đạo hàm.

Mệnh đề 2.8. Cho f Lipschitz gần x. Lúc đó
a) Nếu tồn tại đạo hàm Gâteaux fG (x) thì fG (x) ∈ ∂f (x).
b) Nếu f khả vi liên tục tại x thì ∂f (x) = {f (x)}.
Định lý 2.9. Cho Y là không gian Banach và F : X → Y khả vi liên tục gần x và
g : Y → R Lipschitz gần F (x). Lúc đó, f := g ◦ F Lipschitz gần x và
∂f (x) ∈ [F (x)]∗ ∂g(F (x)).

2.4.

Hàm lồi - Hàm chính qui.

Mệnh đề 2.10. Nếu f lồi trên một tập mở, lồi U ⊂ X và f bị chặn trên trong một
lân cận của x¯ ∈ U thì f Lipschitz gần x¯.
Mệnh đề 2.11. Cho f lồi trên tập lồi, mở U ⊂ X và Lipschitz gần x¯ ∈ U . Lúc đó,
với mọi v ∈ X, tồn tại đạo hàm theo hướng f (¯
x; v) = f 0 (¯
x; v). Hơn nữa,
ξ ∈ ∂f (¯
x) ⇔ f (x) − f (¯
x) ≥ ξ, x − x¯ ;

∀x ∈ U.

Một cách tổng quát, ta gọi một hàm f là chính qui tại x¯ nếu f Lipschitz gần
x¯, tồn tại đạo hàm f (¯
x; v) theo mọi hướng v ∈ X và
f (¯
x; v) = f 0 (¯
x; v);

∀v ∈ X.

Như vậy, một hàm lồi Lipschitz là chính qui. Chúng ta cũng dễ dàng chứng minh
được rằng mọi hàm khả vi liên tục cũng chính qui.


18
Bài tập 2.6.
a) Tìm một hàm f : R → R chính qui nhưng không lồi mà cũng không khả vi
liên tục.
b) Chứng minh nếu f và g chính qui tại x thì f + g cũng vậy. Hơn nữa,

∂(f + g)(x) = ∂f (x) + ∂g(x).
Định lý 2.12. Cho F : X → Rn sao cho mỗi thành phần fi : X → R của F đều
chính qui tại x, hàm g : Rn → R chính qui tại F (x) và mỗi γ ∈ ∂g(F (x)) đều không
âm. Lúc đó, hàm f := g ◦ F chính qui tại x và
∂f (x) = co∗ {∂ γ, F (·) (x) | γ ∈ ∂g(F (x))}.
Bài tập 2.7.
a) Cho f : Rn → R không giảm theo biến đầu tiên và ξ ∈ ∂f (x). Chứng minh
ξ1 ≥ 0.
b) Tìm điều kiện trên f và g và giá trị của chúng tại x để dấu = xảy ra trong
Bài tập 2.5.
Bài tập 2.8.
a) Cho f : R2 → R xác định bởi f (x, y) = max{|x − y|, y − x2 }. Tìm ∂f (0, 0).
b) Cho f1 , f2 , · · · , fm Lipschitz gần x và f = ∨fi . Chứng minh f cũng Lipschitz
gần x và
∂f (x) ⊂ co
∂fi (x) ,
i∈I(x)

trong đó, I(x) = {i | fi (x) = f (x)}. Hơn nữa, nếu các fi đều chính qui thì dấu
đẳng thức xãy ra.

2.5.

Nón tiếp xúc và Nón pháp tuyến.

Cho S là tập con đóng khác rỗng trong không gian Banach X và s ∈ S. Ta gọi
nón tiếp xúc của S tại s là tập hợp sau
TS (s) := {v ∈ X | d0S (s; v) = 0},
mỗi vec tơ v ∈ TS (s) được gọi là một hướng tiếp xúc của S tại s.
Chú ý rằng, do dS ≥ 0 và dS (s) = 0 nên cũng có thể định nghĩa TS (s) là tập

hợp các vec tơ v sao cho d0S (s; v) ≤ 0.
Một cách tự nhiên, ta gọi tập hợp sau là nón pháp tuyến của S tại s:
NS (s) := TS (s)0 = {ξ ∈ X ∗ | ξ, v ≤ 0; ∀v ∈ TS (s)}.


19
Bài tập 2.9. Chứng minh TS (s) là nón lồi đóng chứa gốc.
Định lý 2.13. Cho s ∈ S. Lúc đó,
v ∈ TS (s) ⇔

∀(xi ) ⊂ S; ∀(ti ) ⊂ (0, +∞) : xi → s; ti → 0,
∃(vi ) ⊂ X : vi → v và xi + ti vi ∈ S; ∀i

Bài tập 2.10. Cho X1 và X2 là hai không gian Banach và X = X1 × X2 . S1 ⊂ X1 ,
S2 ⊂ X2 và S = S1 × S2 (s1 , s2 ) =: s. Chứng minh rằng
TS (s) = TS1 (s1 ) × TS2 (s2 ).
Mệnh đề 2.14.
a) NS (s) là nón lồi, đóng yếu*.
∗

b) NS (s) = ∪{λ∂dS (s); λ ≥ 0} .
c) TS (s) = NS (s)0 = {v ∈ X | ξ, v ≤ 0; ∀ξ ∈ NS (s)}.
Mệnh đề 2.15. Nếu S là tập lồi, thì
a) TS (s) = ∪{λ(S − s); λ ≥ 0},
b) NS (s) = {ξ ∈ X ∗ | ξ, s − s ≤ 0; ∀s ∈ S}.
Định lý 2.16. Cho f Lipschitz gần x. Lúc đó,
a) Tepi f (x, f (x)) = epi f 0 (x; ·).
b) ξ ∈ ∂f (x) ⇔ (ξ, −1) ∈ Nepi f (x, f (x)).
Bài tập 2.11. Xác định NS (0, 0) và TS (0, 0) với S ⊂ R2 được cho bởi
a) S = {(x, y) | xy = 0},

b) S = {(x, y) | y ≥ 2|x|},
c) S = {(x, y) | y ≤ 2|x|},
d) S = {(x, y) | y ≤

|x|}.

Bài tập 2.12. Tương tự Bài tập 2.11, với S ⊂ R2 được cho bởi
a) S = {(x, y) | y = − |x|},
b) S = {(x, y) | y ≤ − |x|},
c) S = {(x, y) | y ≥ 2|x| hoặc x = 0}.


20

2.6.

Trường hợp hữu hạn chiều.

Trong mục này ta luôn giả thiết f là hàm xác định trên không gian Rn .
Định lý 2.17 (Rademacher). Nếu f Lipschitz địa phương thì f khả vi hầu khắp nơi
(theo độ đo Lebesgue).
Định lý 2.18. Giả sử f Lipschitz gần x ∈ Rn . Lúc đó, nếu Ω là tập có độ đo không
bất kỳ trong Rn và Ωf là tập các điểm tại đó f không khả vi Fréchet, ta có
∂f (x) = co{lim ∇f (xi ) | xi → x; xi ∈
/ Ω ∪ Ωf }.
Ta xét hai hàm sau trên R:
f (x) =

x2 sin x1
0

nếu x = 0,
;
nếu x = 0

x sin x1
0

g(x) =

nếu x = 0,
nếu x = 0.

Chú ý rằng hàm g không Lipschitz gần 0.
Hệ quả 2.2. Với các giả thiết như trong định lý trên, ta có
f 0 (x; v) =

lim sup

∇f (y), v ; ∀v ∈ X.

y→x; y ∈Ω∪Ω
/
f

Mệnh đề 2.19. Cho S ⊂ Rn là tập đóng và x ∈ Rn . Nếu dS (x) tồn tại và khác
không thì x ∈
/ S, projS (x) = {s} và
∂dS (x) =

x−s
x−s

.

Bài tập 2.13. Tính ∂f (0, 0) vơí f (x, y) = max{min{x, −y}, y − x}. Gợi ý: Đặt
C1 = {(x, y) | y ≤ 2x ; y ≤ −x},
x
C2 = {(x, y) | y ≤ ; y ≥ −x},
2
x
C3 = {(x, y) | y ≥ 2x hoặc y ≥ }.
2
Lúc đó, C1 ∪ C2 ∪ C3 = R2 và


(x, y) ∈ C1 ,
x
f (x, y) = −y
(x, y) ∈ C2 ,


y − x (x, y) ∈ C3 .
Bài tập 2.14. Cho S ⊂ Rn , s ∈ ∂S và Ω là tập có độ đo không. Chứng minh rằng
NS (s) = co{ lim λi (xi − si ) | λi ≥ 0; xi ∈
/ Ω ∪ S; xi → s; projS (xi ) = {si }}.
i→∞

Bài tập 2.15. Dùng Bài tập 2.14 để giải lại các Bài tập 2.11 và 2.12.

21

Tài liệu tham khảo
[1] Clarke F.H., Ledyaev Yu.S., Stern R.J., Wolensk P.R., Nonsmooth Anlysis and
Control theory, Springer, 1998.
[2] Rockafellar R.T, Convex analysis, Princeton University Press, 1970.