Luận văn nón tiếp và nón pháp trong không gian banach

Bộ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC sư
PHẠM HÀ NỘI 2
• • • •
NGUYỄN THỊ SÁU ANH ■
NÓN TIẾP VÀ NÓN PHÁP TRONG
KHÔNG GIAN BANACH
LUẬN VĂN THẠC Sĩ TOÁN HỌC
• • •
HÀ NỘI, 2014
BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC sư PHẠM HÀ
NỘI 2
NÓN TIẾP VÀ NÓN PHÁP
TRONG KHÔNG GIAN
BANACH
LUẬN VĂN THẠC SỸ
Chuyên ngành : TOÁN GIẢI TÍCH Mã số : 60 46 01 02
Giáo viên hướng dẫn:
PGS.TS. NGUYỄN NĂNG TÂM
HÀ NỘI, 2 0 1 4
Mục lục
3
Lời cảm ơn
Tôi xin bày tỏ lòng biết ơn sâu sắc tới PGS.TS. Nguyễn Năng Tâm, người đã định
hướng chọn đề tài và tận tình hướng dẫn để tôi hoàn thành luận văn này.
Tôi cũng xin bày tỏ lòng biết ơn chân thành tới các thầy cô phòng Sau đại học, cùng
các thầy cô giáo dạy cao học chuyên ngành Toán giải tích, trường Đại học Sư phạm
Hà Nội 2 đã giúp đỡ tôi trong suốt quá trình học tập.
Xin cảm ơn gia đình, bạn bè đã luôn động viên, cổ vũ, tạo mọi điều kiện thuận lợi
cho tôi trong quá trình học tập và hoàn thành luận văn.
Hà Nội, tháng 7 năm
2014

Tác
giả
Nguyễn Thị Sáu Anh
Lời cam đoan
Tôi xin cam đoan, dưới sự hướng dẫn của PGS.TS. Nguyễn Năng Tâm, luận văn
Thạc sĩ chuyên ngành Toán giải tích với đề tài “Nón tiếp và nón pháp trong không
gian Banach" được hoàn thành bởi nhận thức của bản thân tác giả.
Trong quá trình nghiên cứu thực hiện luận văn, tác giả đã kế thừa những thành tựu
của các nhà khoa học với sự trân trọng và biết ơn.
Hà Nội, tháng 7 năm 201Ậ Tác
giả
Nguyễn Thị Sáu Anh
Bảng một số kí hiệu
K = KU {—oo, +00} /
: X ->• R dom(f)
epiự)
f\x)
v/(x)
v
2
f ( x )
E*
int A
A,clA
domf
epif
f ọ (
x
)
f(x; V)

9 f { x )
( x * , x )
K
A
N
A
( X ) f < 9
L { f , a ) = { x e X I
f ( x ) < a }
c —hầm id
A
B (y,e) đường thẳng
thực
không gian Euclid n -
chiều
tập số thực suy rộng
ánh xạ đi từ X vào R
miền hữu hiệu của /
trên đồ thị của /
đạo hàm của / tại X
gradient của / tại X
ma trận Hessian của / tại X
không gian liên hợp của E
phần trong của A
bao đóng của A
miền hữu hiệu của /
trên đồ thị của /
đạo hàm Frechet của / tại
X
đạo hàm Gâteaux của / tại

X
đạo hàm theo hướng V
của / tại X
dưới vi phân của / tại X
chuẩn trong không gian
Banach
trị tuyệt đối của số X
giá trị của X* tại X
nón lồi sinh bởi A
nón pháp của A tại X
f { x ) < g { x ) với mọi X
tập mức dưới
hàm khả vi liên tục đến
cấp k ánh xạ đồng nhất
trên A cầu tâm y bán kính
£
Mở đầu
1. LÝ DO CHỌN ĐỀ TÀI
Trong Giải tích biến phân và giải tích hàm phi tuyến, nón tiếp và nón pháp là hai
khái niệm quan trọng. Chúng có vai trò lớn trong nghiên cứu của nhiều lĩnh vực,
chẳng hạn như: bất đẳng thức biến phân, lý thuyết tối ưu, V.V Nhiều tác giả
(Minkowski, Fenchel, Bouligand, Clarke, Hiriart- Uruty, Rockafellar, Robinson,
Zowe, Kurcyusz, Lyusternik, Aubin, Schi- rotzek, Klatte và Kummer, Penot,
Borwen và Zhu, ) quan tâm nghiên cứu và sử dụng; xem [4], [5] và các tài liệu dẫn
trong đó.
Với mong muốn tìm hiểu sâu hơn về những kiến thức đã học, mối quan hệ và
những ứng dụng của toán giải tích, đặc biệt là giải tích không trơn và ứng dụng, tôi
chọn đề tài “Nón tiếp và nón pháp trong không gian Banach” để nghiên cứu.
2. MỤC ĐÍCH NGHIÊN cứu
Đạt được một sự hiểu biết tốt về khái niệm và tính chất của một số nón tiếp, của

một số nón pháp trong không gian Banach và ứng dụng của chúng trong Giải tích
biến phân.
3. NHIỆM VỤ NGHIÊN cứu
Nghiên cứu những khái niệm và tính chất cơ bản của những nón tiếp và nón pháp
cùng ứng dụng của chúng trong Giải tích biến phân.
4. ĐỐI TƯỢNG VÀ PHẠM VI NGHIÊN cứu
Đối tượng nghiên cứu: Nón tiếp và nón pháp cùng ứng dụng.
- Phạm vi nghiên cứu: Nón và tính chất của nón trong không gian Danach.
5. PHƯƠNG PHÁP NGHIÊN cứu
Tìm hiểu tài liệu: Các bài báo đã được đăng và sách đã in liên quan mật thiết đến
nón tiếp và nón pháp cùng ứng dụng. Sử dụng các phương pháp của Toán giải tích.
6. GIẢ THIẾT KHOA HỌC (Dự KIEN đóng góp MỚI)
Một tổng quan về nón tiếp và nón pháp cùng một số ứng dụng.
7
Chương 1
Một số kiến thức chuẩn bị
Trong chương này chúng ta sẽ trình bày những khái niệm cơ bản nhất về không
gian Banach và không gian Hilbert cùng những toán tử tuyến tính trên chúng.
Những kiến thức trình bày trong chương này được chọn chủ yếu từ các tài liệu [1],
[2], [3], [4] và [5].
1.1 Không gian Banach và không gian Hilbert
Cho E là một không gian vectơ trên trường số R .
Định nghĩa 1.1. Một chuẩn
;
kí hiệu II • II, trong E là một ánh xạ đi từ
E vào K thỏa mãn cấc điều kiện:
1)

I\x 11 > 0 với mọi X € E ;
2)

|Ịa;|Ị = 0 khi và chỉ khi X = 9
(6
là kí hiệu phần tử không);
3)

||Ax|| = |A|||a:|| với mọi số \ e R và mọi X e E;
4) ||x + y\\ < ||x|| + ||y|| với mọi x,y e E.
Số ||;c|| được gọi là chuẩn của vectơ X £ E. Một không gian vectơ
E cùng với một chuẩn xác định trong không gian ấy, được gọi là một không gian
định chuẩn.
Mệnh đề 1.1. Giả sử E là một không gian định chuẩn. Với mọi x
:
y G E, đặt
p { x , y ) = \\x - y||.
Khỉ đó, p là một metric trên E.
Định nghĩa 1.2. Cho E là một không gian định chuẩn với chuẩn ||.||. Nếu E
với khoảng cách sinh bởi chuẩn của E: p ( x , y ) = I|íc — y\\, là một không
gian metrỉc đầy đủ thì E gọi là không gian Banach.
Nếu không có giả thiết gì thêm, trong suốt luận văn này, không gian Banach
được kí hiệu là E. Chuẩn trong các không gian Banach luôn được kí hiệu bởi II.
II.
8
Định nghĩa 1.3. Không gian Banach E được gọi là không gian Banach
Fréchet trơn nếu nó có chuẩn tương đương và chuẩn đó H— khả vi trên
E\{ 0}.
Định nghĩa 1.4. Cho E là một không gian định chuẩn với chuẩn II. II. Tìa
gọi mỗi ánh xạ tuyến tính X* : E —> R là một phiếm hàm tuyến tính xác
định trên E.
Nếu X* là một phiếm hàm tuyến tính xác định trên E và X G E thì giá

trị của X* tại X sẽ được kí hiệu là ( x * , x } , nghĩa là ( x * , x } = x * ( x ) .
Dễ dàng kiểm tra được rằng, tập hợp tất cả các phiếm hàm tuyến tính liên tục
trên E với phép cộng ánh xạ tuyến tính và phép nhân ánh xạ tuyến tính với số
thực lập thành một không gian tuyến tính thực. Ta gọi không gian này là không
gian liên hợp của E và được kí hiệu là E*. Không gian liên hợp của E* gọi là
không gian liên hợp thứ hai của E và kí hiệu là E**.
Định lý 1.1. Không gian liên hợp E* của E với chuẩn xác định bởi
lk*|| = sup{ ( x \ y ) : y e E , ||y|| < 1}
là một không gian Banach.
Tôpô Ts sinh bởi metric của không gian định chuẩn E* nêu trong định lý vừa
nêu gọi là tôpô mạnh trong E*.
Định nghĩa 1.5. Tôpô Tw trong E* gọi là tôpô yếu và kí hiệu là ơ(E**, E*)
nếu hệ thống các lăn cận của 0 của E* là các tập có dạng
{x* e E* : (x*ị*, X*) < £, 4 = 1,k},
trong đó x*ị* G E** với i = ĩ, ,k và £ > 0.
Định nghĩa 1.6. Tôpô T* trong E* gọi là tôpô yếu* và kí hiệu là ơ ( E * , E ) nếu
hệ thống các lân cận của 0 của E* là các tập có dạng
{x* E E* : (x*, Xi) < £, i = 1 , & } ,
trong đó Xi G E với ỉ = 1,k.
Định nghĩa 1.7. Tập A c E mà là đóng (compact, bị chặn) theo tô pô yếu trong
E gọi là tập đóng (tương ứng, compact, bị chặn) yếu. Tập A đóng (compact,
bị chặn) theo tô pô yếu* trong không gian liên hợp E* của E thì gọi là tập
đóng yếu* (tương ứng, compact yếu*, bị chặn yếu*) . Kí hiệu CỈ*M là bao
9
đóng của M trong E* theo tô pô ơ ( E * , E ) .
1.2 Tập lồi
Giả sử E là một không gian Banach, K là tập số thực.
Định nghĩa 1.8. Tập A c E được gọi là lồi, nếu
VíCi, X2 ẽ A Ị VA G M : 0 < Ằ < 1 \x\ “I“ (1 — A)X2 G A.
Ví dụ 1.1. Cả không gian E là tập lồi. Tập A = 0 là tập lồi.

Mệnh đề 1.2. Giả A
a
c E (a £ I) là các tập lồi, với I là tập chỉ số bất kì. Khi đó
A = n A
a
cúng lồi.
a€l
Mệnh đề 1.3. Giả sử tập Aị c E lồi, Aj € R (i =1, 2,m). Khi đó
ẰiAị + + A
m
^4
m
cũng là tập lồi.
Mệnh đề 1.4. Giả sử Eị là không gian Banach, tập Aị c Eị lồi (i =
1 , 2 , . . . , m ) . Khi đó tích Đềcác Ai X X A
m
là tập lồi trong El X
X E
m
.
Mệnh đề 1.5. Giả sử El, E
2
là các không gian Danach, T : El —ì E
2

là toán tử
tuyến tính. Khi đó,
a) A c El lồi thì T(A) lồi;
b) B c E
2

lồi thì nghịch ảnh T~
l
(B) của B là tập lồi.
Định nghĩa 1.9. Véc tơ X e E được gọi là tổ hợp lồi của các véctơ
m
X i , x
m
thuộc E, nếu 3Aj >0 (г = 1, 2,m), Aj = 1 sao cho
i= 1
m
X = ^2 ^i
x
i-
i= 1
Định lý 1.2. Giả sử tập А с E lồi; xi, ,x
m
E A. Khi đó A chứa tất cả các tổ hợp
lồi của xi
:
,x
m
.
Định nghĩa 1.10. Giả sử А с E. Giao của tất cả các tập lồichứa А
được gọi là bao lồi (convex hull) của tập Ả, kí hiệu là coA.
Định lý 1.3. co A trùng với tập tất cả các tổ hợp lồi của A.
1
0
Hệ quả 1.1. Tập A lồi khi và chỉ khi A chứa tất cả các tổ hợplồi của
A.
Định nghĩa 1.11. Giả sử А с E. Giao của tất cả các tập lồi đóngchứa

A được gọi là bao lồi đóng của tậpA và kí hiệu là cõA.
Mệnh đề 1.6. Giả А С E lồi. Khi đó,
ỉ) Phần trong int^ và bao đóng A của A là các tập lồi;
ii) Nếu Xị G int A, x
2
£ A, thì {Aa?! + (1 — Ằ)x
2
: 0 < Xị <
с
ini А.
Định nghĩa 1.12. Tập к с E được gọi là nón có đỉnh 0
;
nếu
Vz G x,vЛ > 0 => Ằ x e K .
К được gọi là nón đỉnh X o nếu к — x
ữ
là nón có đỉnh 0.
Định nghĩa 1.13. Nón к có đỉnh 0 được gọi là nón lồi, nếu к là một
tập lồi, vậy
Vx, y G К, VA, Ịi>0=>\x + ịẤ,yGK.
Mệnh đề 1.7. Giả sứ K
a
(a: G I) là các nón lồi có đỉnh x
0
với Ilà tập
chỉ số bất kì. Khi đó п К a là nón lồi có đỉnh x
0
.
a€l
Định lý 1.4.

Tập К С E là
một nón lồi có đỉnh 0 khi và chỉkhi
Ух, y G К, VA > о => X + у £ К, Хх £ К .
Hệ quả 1.2. Tập К С E là nón lồi khi và chỉ khi к chứa tất cả các tổ hợp tuyến
tính dương của các phần tử của K, tức là nếu xi, ,x
m
G
К, A l , A
m
> 0 thì X ị X ị G К .
ỉ= 1
Hệ quả 1.3. Giả sử A là tập bất kì trong E, к là tập tất cả các tổ hợp tuyến
tính dương của A. Khi đó к là nón lồi nhỏ nhất chứa Ả.
Định nghĩa 1.14. Giao của tất cả các nón lồi (có đỉnh tại 0) chứa tập A và
điểm 0 là một nón lồi, kí hiệu là к A và được gọi là nón lồi sinh bởi tập A.
1
1
Định nghĩa 1.15. Cho A là một tập lồi khác rỗng trong E, x
ữ
G A. nón pháp
của Ả tại x
ữ
, kí hiệu là Na{xo )
;
là tập
N A { X о) = (
ж
* £ E * : ( x * , x — X Q ) < 0 Vx G A}.
Định lý 1.5. (Định lí Carathéodory)
Giả sử dim E < oo và А с E. Khi đó, mỗi điểm của tập co A là tổ hợp lồi

không quá 71+ 1 điểm khấc nhau của A.
Định nghĩa 1.16. Tập H trong không gian E được gọi là siêu phẳng nếu tồn tại
phiếm hàm tuyến tính khác không X* từ E vào R và số a G м sao cho H = {x
e E : { x * , x } = o;}. Khi đó ta nói H xác định bởi X* và at, và viết là
H ( x * , a ) .
Định nghĩa 1.17. Cho các tập hợp А, в с E . Ta nói phiếm hàm tuyến
tính liên tục X* Ỷ 0 tách Ả và B, nếu tồn tại số a sao cho
(x*ì y) <
a
< (
x
*ĩ
x
) {V
х
Ễ j4,Vy G ß),
Nếu như có ( x * , y ) < a < (x * , x ) (Vx G A,\/y G В), thì ta nói X* tách
ngặt A và B.
Khi đó siêu phẳng H (x*, a) = {x G E : ( x * , x ) = a ] được gọi là siêu phẳng
tách A và в , các tập A và в được gọi là tách được.
Định lý 1.6. (Định lý Hahn-Banach, Định lý tách (xem [1], [2]) Cho А và В là
hai tập lồi trong không gian Banach E, có tính chất А п в = 0 và int A Ỷ 0.
Khi đó A và В có thể tách được bằng một phiếm hàm tuyến tính khác 0, tức
Эх* G E* \ {0}, Vx e A, \/y e В :( x * , x ) ^ ( x * , y ) .
1.3 Hàm lồi
1.3.1Định nghĩa
Cho E là không gian Banach, D c E , f : D —> R.
Định nghĩa 1.18. Cho hàm f : D —> M, trong đó D c E, K =
K u {—00, +oo}, cấc tập
dom f = {x & DI f(x) < +00} ,

epi f = { ( x , a ) £ D X R I f ( x ) < ữ},ữ Ễ M
được gọi lần lượt là miền hữu hiệu và trên đồ thị của hàm f.
1
2
Định nghĩa1.19. Hàm f : D —> M được gọi là lồi nếu trên đồ thị của
nó là một
lồi trong DXR. Nếu dom f Ỷ 0 và —00 < f(x) với mọi
X € D ta nói hàm f là chính thường.
Định nghĩa 1.20. Hàm f được gọi là lồi trên D nếu e p i f là tập lồi trong E X R.
Hàm Ị được gọi là lõm trên D (concave on D), nếu —f là hàm lồi trên D.
Định lý 1.7. Giả sử D là tập lồi trong không gian E, hàm /:£)—>■
(—00, +00]. Khi đó, f lồi trên D khi và chỉ khi
f ( Á x + (1 - A) y ) < X f { x ) + (1 - A) / ( y ) (VA e [0,1], V x , y e D ) .
Mệnh đề 1.8. Giả sử f \ E —¥ (—00, +00]. Khi đó, f là hàm lồi khi và chỉ khi
f (Xx + (1 - A) ỳ) < \r + (1 - A) s,
(VA G (0,1), V x , y : f ( x ) < r , f ( y ) < s ).
Định lý 1.8. Giả sử f là hàm lồi trên E, ịi e [—00,+00]. Khi đó, các tập mức {x
: f (X) < ỊẤ} và {x : f (X) < ịi\ lồi.
Hệ quả 1.4. Giả sử f
a
là hàm lồi trên E, X
a
G K (Vqí ẽ I), I là tập chỉ số bất kì.
Khi đó, tập A = {x £ E : f
a
(2;) < A
a
, \/a G 1} lồi.
Ví dụ 1.1. (Hàm chỉ). Cho с Ф 0 là một tập lồi trong E.
D ặ t

X f \ _ Ị 0 khi X
& c, с \
х
) ỵ -|-00 khi
X ị c.
Ta nói ỏc là hàm chỉ của с.
+ Vx, у £ С , VA G (0,1)
;
ta có: ỏc (X ) =
0, ỏc (у) = О.
Do С lồi nên Ằx +(1 — Ằ)y G C.
Suy ra ỗc [Аж + (1 - Х )у] = о = Xổc (X ) +(1 - A)ố
c
( у ) .
-f Vx Ễ С, V y Ệ c, VA e (0,1), t a c ó :
ỏc (X) = 0, ỏ c (у) = +00, ỏc [Аж + (1 - Л)у] < +00.
Suy ra ỏc [ Ằ x + (1 - X)y] < Aỏ c (X ) + (1 - A)ổ
c
(y ).
+ У х , у ị с , VA G (0,1)
;
t a c ó :
Sc {x) = +00, ỏ c (y) = +00, ỏ c [Az + (1 - X)y] < +00.
Suy ra Sc [Аж + (1 - Л)у] < лỏc (х) + (1 - A)ổc (у) ■
Ví dụ 1.2. (Hàm tựa). Cho с Ỷ 0 là một tập lồi trong E. Dặt Sc (y) :=
1
3
su
Pxec Ì V ì
x

) v ớ i У ẽ E * . T a n ó i S c là h à m t ự a
c ủ a c .
Væ, y g С , У Х , У g (о, 1), t a c ó
s
c
[Az + (1 - Л) у ] = sup ( Х х + (1 - Л) у , z )
zee
= sup {(Аж, z ) + ((1 - Л) у , z ) }
zee
< sup (Аж, z ) + sup ((1 — Л) y , z )
zzC Z£C
= Asup (X , z ) + (1 — Л) sup (у , z )
z&c Z£C
= \ S c ( x ) + ( l - \ ) S c ( y ) .
Vậy Sc là hàm lồi trên C.
Định nghĩa 1.21. Hàm f được gọi là đóng, nếu e p i f đóng trong E X R.
Định lý 1.9. Hàm f đóng khi và chỉ khi tất cả các tập có dạng {x : f (ж) < а}
của Ị là đóng.
Định lý 1.10. Giả sử /i,f
m
là các hàm lồi chính thường trên E. Khi đó,
tổng fi + + fm là một hàm lồi.
1.3.2 Tính liên tục của hàm lồi
Định lý 1.11. Giả sử f là hàm lồi chính thường trên E. Khi đó các khẳng định
sau là tương đương:
i) ĩ bị chặn trong một lẫn cận của X ;
ii) f liên tục tại X ; ỉỉi)
i n t ( e p i f ) Ỷ 0 ỉ
IV) i n t ( d o m f ) Ỷ 0 và f liên tục trên i n t ( d o m f ) .
Đồng thời, ỉnt(epỉỊ) = G E X R : X G i n t ( d o m f ) , f (X) < f l } .

Định nghĩa 1.22. Giả sử E là không gian Banach. Hàm f : E —»• R
được gọi là Lipschitz địa phương xung quanh X G E, nếu tồn tại lân cận
u của X £ E, số L > 0 sao cho \/x, x' G u,
\ f (x) - f { x ' ) \ < L \ \ x - x ' \ \ .
Khỉ đó ta nói f là L—liên tục địa phương xung quanh x; Nếu u = E thì ta nói
f là L— liên tục với hằng số L hay f là hàm Lipschitz với hằng số L.
Hàm f được gọi là Lipschitz địa phương trên tập D c E nếu f Lips- chitz
địa phương xung quanh mọi X G D.
1
4
Ví dụ 1.3. Cho E là không gian Banach, A c E là tập con khác rỗng. Hàm (ỈA
'■ E —»■ R xác định bởi
d
A
( x ) = inf{||a; - y\\ I y e A }
gọi là phiếm hàm khoảng cách.
Dễ thấy, nếu Ả là tập lồi đóng thì d,A là một hàm lồi và d,A luôn là hàm
Lipschitz với hằng số 1: \ ( Ỉ A {X ) — (ỈA{y )I ^ IIX — y \ \ với mọi x ,y G E .
Định lý 1.12. Giả sử E là không gian Danach; f là hàm lồi trên tập mở D c E;
f bị chặn trên một lãn cận của một điểm nào đó thuộc D. Khi đó, f Lipschitz
địa phương trên D.
Hệ quả 1.5. Giả sử f : D —¥ E là hàm lồi, liên tục tại X thuộc tập lồi mở D.
Khi đó, f Lipschitz địa phương trên D.
Định nghĩa 1.23. i) Hàm f được gọi là nửa liên tục dưới (ỉsc) t ạ i x G E (với f
(x) < oo), nếu với mọi £ > 0, tồn tại lăn cận u của X sao cho
f { x ) - e < f { y ) (Vy G u ).
n) Nếu f (X) = 4-00, thì f được gọi là nứa liên tục dưới (Isc) tại X, nếu với
mọi N > 0, tồn tại lăn cận u của X sao cho: f (y) > N (Vy £ u).
iii) Hàm f được gọi là nứa liên tục dưới (ỉsc), nếu f nứa liên tục dưới tại
mọi X € E.

Mệnh đề 1.9. / đóng khi và chỉ khi f nửa liên tục dưới.
Hệ quả 1.6. Giả sử E là một không gian Danach, A c E lồi. Khi đó, bao đóng
A của A theo tôpô mạnh là đóng theo tôpô yếu của E.
Hệ quả 1.7. Giả sử E là một không gian Banach, Ả c E, x
ữ
thuộc bao đóng yếu
của A. Khi đó, tồn tại dãy các tổ hợp lồi các phần tử của A, hội tụ đến x
0
theo chuẩn.
Giả sử E là một không gian Banach, E* là một không gian liên hợp tôpô của E, f
là hàm xác định trên E.
Định nghĩa 1.24. Hàm liên hợp với f được xác định trên E* như sau:
f* (z*) = sup {(x*, x ) - f (x)} .
X€E
Định lý 1.13. Định lý Caratheodory đối với nón lồi
Giả sử A c M”sao cho dỉmA = m ( A Ỷ > KA ỉà nón lồi sinh bởi tập
1
5
A. Khi đó mỗi điểm
X ^ ũ, X E A
tồn tại hệ {xi, x
2
, x
m
} độc lập tuyến tính sao cho X điCỢc biểu diễn
dưới dạng X = Ằ ị X ị + + Ằ
m
x
m
trong đó Xi > 0, Xi £ A (i = 1, n),

1.4 Ánh xạ đa trị
Định nghĩa 1.25. Giả sử X,Y là hai tập. Kí hiệu 2
Y
là tập tất cả các tập con
của Y. Một ánh xạ đa trị $ đi từ tập X vào tập Y là một ánh xạ từ X vào 2
Y
. Kí
hiệu : X =£ Y. Đồ thị của ánh xạ đa trị G r a p h ( $ ) c X X Y được xác định như
sau:
G r a p h { § ) = { { x , y ) \ y e $(z)}.
1
6
Ánh xạ đ a trị Ф được gọi là không tầm thường nếu Graph(ф) Ф 0, nghĩa là
tồn tại X £ X sao cho ф(ж) Ỷ 0. Nếu ф(ж) Ỷ 0 vói mọi X E X thì ta nói rằng
ánh xạ đa trị Ф là chính thường. Miền hữu hiệu của ánh xạ đa trị Ф , kí hiệu
Dom(Ф) là tập {x G X, ф(ж) Ф
0
ị. Ảnh của ánh xạ đa trị Ф được cho bởi 1т(ф)
= и ф(ж). Nếu M là tập con khác rỗng của
X và Ф là ánh xạ đa trị từ X vào Y thì ta dùng kí hiệu ф|
м
để chỉ ánh xạ đa trị
thu hẹp của Ф lên M và được định nghĩa:
Ánh xạ ngược Ф
1
: Y ^ X của ánh xạ đa trị ф : X =£ Y được xác định bởi công
thức Ф
-1
(y) = {x G X : y G ф (ж)}.
Ví dụ 1.4. Xét phương trình đa thức:

X
й
+ a i X
n 1
+ + a
n
_ i X + a
n
= 0
trong đó n G N ỉà các số nguyên dương , dị G R (г = 1, n) là các hệ số
thực. Qui tắc cho tương ứng với mỗi véc tơ а = (oi, , a
n
) ẽ R
n
với tập
nghiệm ký hiệu b ở i Ф ( a ) của (
1
.
1
) cho ta một ánh xạ đa trị Ф : M" —>
2
c
từ
không gian Euclide R" vào tập số phức с
Với Ф là ánh xạ đa trị trong ví dụ 1.4 ta có:
Graph(Ф) = {(a, x) G M" X с : X
й
+ a i X
n
~

l
+ + a
n
_ i X + a
0
= 0} , Dom(Ф) =
R”, Im(Ф) = c.
Định nghĩa 1.26. Cho X,Y là hai không gian tô pô và ф : X =3 Y ỉà ánh xạ đa
trị .
i) Nếu Graph(Ф) là tập đóng trong không gian tô pô tích X X Y thì Ф
được gọi là ánh xạ đóng.
ii) Nếu X, Y là các không gian định chuẩn thì nếu Graph(Ф) ỉà tập lồi
trong không gian tích X X Y thì Ф được gọi là ánh xạ đa trị lồi.
iii) Nếu ф (ж) là tập đóng với mọi X G X thì ф (X) được gọi là ánh xạ có
giá trị đóng.
iv) Nếu Y là không gian định chuẩn và nếu ф(ж) ỉà tập lồi thì ф (ж)
được gọi là ánh xạ có giá trị lồi .
1
7
(1.1
)
1.5 Đạo hàm theo hướng
Giả định rằng E và F là các không gian định chuẩn, D c E là mở và khác rỗng, X
e D và / : D —> F. Ta sẽ nhắclại một số khái niệm cổ
điển. Để bắt đầu, ta xem xét đạo hàm theo hướng y. Taviết:
A/ ( x ^ y ) := f ( x + y ) - f ( x ) , V y £ D - X
Chúng ta sử dụng các chữ viết tắt sau đây:
• G — đạo hàm : đạo hàm Gateaux,
• H — đạo hàm : đạo hàm Hadamard,
• F — đạo hàm : đạo hàm Eréchet.

Định nghĩa 1.27. Giả sử y e E . Ta gọi:
Ĩg Oẽ) y)
=
li
m _
A/ (x, ry) là G-đạo hàm theo hướng rịo r
ỈQ (x, y) = lim -A/ (x, ry) là G-đạo hàm theo hướng chặt
x—>x
ỈH Oẽ, y) — li
m
- A f ( x , rz) là H-đao hàm theo hướng rịo r
z->y
f
S
H (z, y) = lim / (X, rz) là H-đạo hàm theo hướng chặt
rịo_ r
X—ỊX
z-ìy
của ĩ tại X theo hướng y, nếu các giới hạn tương ứng tồn tại .
Bổ đề 1.1. (a) Nếu fiỊ {x, y) tồn tại, khi đó fc { x , y ) cũng tồn tại và cả hai đạo
hàm theo hướng trùng nhau.
(b) Nếu f là L—liên tục địa phương xung quanh X, khi đó f
H
(X, y) tồn tại khi
và chỉ khi fc (X, y) tồn tại.
1.6 Dưới vi phân Eréchet
Định nghĩa 1.28. Giả sử rằng E là một không gian Danach, f : E R là chính
thường và Isc, X £ domf
(a) Phiếm hàm f được gọi là dưới khả vi Frechet (F— dưới khả vi) tại
X nếu tồn tại X* G E* (gọi là F — d ư ớ i đạ o h à m c ủ a f tạ i x )

1
8
sao cho :
hil
ịWựM
I
M > ũ.
ỹ-TÔ ||y||
(b) Phiếm hàm f được gọi là dưới khả vi nhớt tại X nếu tồn tại X* G
E* (gọi là dưới đạo hàm nhớt của f t ạ i x ) và c
1
— hàm g : E —»• R
sao cho g' (ĨẼ) = X * và f — g đạt được giá trị cực tiểu địa phương tại
X .
Nếu t r o n g trường hợp đ ặ c b i ệ t : g (a:) = ( x * , X — x) — ơ \\x — x \\
2
v ớ i h ằ n g số
dương ơ thì X* được gọi là gradỉen dưới gần kề của f tại X.
Tập hợp:
dpf (x) = tập của tất cả các F-dưới đạo hàm của ĩ tại X.
9vf ỘẼ)
=
tập của tất cả các dưới đạo hàm nhớt c ủ a f tại X . d p f
0*0
=
tập của tất cả các gradỉen gần kề c ủ a f t ạ i X .
được gọi là dưới vi phân của Frechet (F— dưới vi phân ), dưới vi phân nhớt, dưới
vi phân gần kề của / tại X theo thứ tự tương ứng.
1.7 Dưới vi phân Clarke, dưới vi phân Michel—Penot
Giả sử rằng: D c E là mở, / : D —¥ E. Nhắc lại rằng

Ĩ H (ẽ, y) := lim sup \ (/ ( x + r z ) - / (^)). r->0 r
z->y
Định nghĩa 1.29. Nếu y € E thì
/° (Ẽ, y ) := lim sup - (/ ( x + r y ) - / (z))
r->0 r
được gọi là đạo hàm theo hướng Clarke của f tại X theo hướng y và
(x, y) := sup lim sup - (/ (x + ry + rz) — f (x + rz))
Z
£E r^o r
được gọi là đạo hàm theo hướng Michel - Penot của f tại X theo hướng V -
1
9
Định lý 1.14. Giả sử f là L— liên tục địa phương xung quanh X với hằng số X
> 0 . Khi đó :
(a)

/° (X,.) và /0 (X,.) là tuyến tính dưới và L—liên tục với hằng số X trên E
thỏa mãn :
ỈH ( x , y ) < f
ộ
( x , y ) < /° ( x , y ) < X |Ịi/|Ị, Vỉ/ G E .
Trong trường hợp đặc biệt, /° (X,.) và(X,.) là xấp xỉ lồi hữu hạn
trên của f tại X.
(b) Vy e E ta có: /° (x, -y) = (-/) (x, y) , f
ộ
(x, -y) = (-/) (z, y).
Ví dụ 1.5. Giả sử E := R, / (X) := |a;| — |sinx| và X := 7T. Khi đó ta có:
Ta thấy rằng trong các đạo hàm theo hướng trên , phiếm hàm f
H
(7T,.) là xấp xỉ

địa phương tốt nhất của / tại 7T nhưng nó không là lồi. Vì nếu f là lồi thì df (X) =
{x* I { x * , y } < f c ( x , y), Vy G E } . Trong trường hợp không lồi ta có:
Định nghĩa 1.30. Nếu f là L—liên tục địa phương xung quanh X thì:
d j ( x ) : = { x * e E * I ( x * , y ) < /° ( x , y ) , V y e E }
gọi là dưới vi phân Clarke hoặc gradỉen suy rộng Clarke của f tại X và
d ộ f { x ) : = {z* e E * \ (x* , y ) < f
ộ
{ x , y ) , V y G E }
gọi là dưới vi phẫn Michel- Penot của f tại X .
2
0
Mệnh đề 1.10. Nếu f là L — liên tục địa phương xung quanh X , khi đó với mọi
ta có:
□
Kết luận
Trong chương này chúng ta đã trình bày định nghĩa, một số tính chất cơ bản của
tập lồi, hàm lồi, hàm Lipschitz, ánh xạ đa trị và số khái niệm đạo hàm cổ điển.
Những nội dung này sẽ dùng như là những kiến thức chuẩn bị cho chương sau.
Chương 2
Nón tiếp và nón pháp
Chương này nghiên cứu những khái niệm và tính chất cơ bản của những
nón tiếp và nón pháp cùng ứng dụng của chúng trong Giải tích biến phân.
Ngoài những trường hợp cụ thể, ta luôn giả sử rằng E là không gian định
chuẩn, A là một tập con khác rỗng của E,x G A. Nội dung trình bày trong
chương này chủ yếu lấy từ Chương 11 của [5].
2.1 Nón tiếp
Ta định nghĩa những nón tiếp khác nhau xem như những xấpxỉ của
A gần X. Kí hiệu X —>A X nghĩa là X e A, X —> X.
Định nghĩa 2.1. ([5]) Ta gọi
i) T

r
(A,x) := {y e E I 3rỵ ị OVA; : X + rỵy G A} là nón các tia của A
tại X .
ii) T (A, X) := {y e E I 3rỵ ị 0 3yk —>• y \/k : X + rkVk £ A} ỉà nón mật
tiếp của A tại X (hoặc nón tiếp tuyến Bouligand của A tại x).
iii) T
c
( A , x ) := { y G E \ \/x
k
ìA x,\/r
k
ị 03y
k
-»■ ỳik : Xỵ + r
k
y
k
G A }
là nón tiếp Clarke của A tại X.
iv) I
r
(^4, x) := {y G E I 3e > OVr G (0, e) : X + ry G A}, nón các tia hướng
vào trong hoặc nón các phương chấp nhận được của A tại X.
v) I (A, x) := {y £ E \ 3e > OVr G (0, e ) V z G B (y , e ) : X +r z £ A},
nón
các phương trong của A tại X.
2
1
vi) H (Ả, x) := {y e E I Mx
k

ìA xir
k
ị 0My
k
yVk : x
k
+ r
k
.y
k
e A}
là nón các siêu tiếp của A tại X.
Mệnh đề 2.1.
(a) Ta có: I ( A , x ) c /
r
(^4,ĨẼ) c T
r
(A,:Ẽ) c T { A , x )
H ( A , x ) c Tc (i4, z) c T ( A , x ) .
Mỗi trong các tập nêu trên là một nón, I { A , x ) v à H { A , x ) c ó
t h ể rỗng, những nón khác chứa phần tử 0.
(b) T ( A , x ) và Tc (A , x ) là đóng ,Tc (A,x) là lồi.
(c) Nếu u là một lãn cận của X , thì T (A, x) = T (A n u, X) và
tương tư
như những nón khác ở phần (a).
(d) Nếu A là lồi thì
I
r
(Ả, X) = T
r

(A, X) = R
+
(A — X)
T { A , x ) = cl((R
+
(A — x ) ) )
I ( A , x ) = {/} ( x — x ) \ p > 0, X G intA} .
Chứng minh.
(I) Ta chứng tỏ rằng T { A , x ) là đóng. Giả sử ( z
n
) là một dãy trong T (j4,x),
hội tụ đến y e E,Vn e N. Khi đó tồn tại dãy (r£) trong (0, +oo) và { y l )
trong E thỏa mãn: (r£) ị 0, { y l ) — * ■ z
n
khi A: — > o o v ầ x + (r£)
( y % ) £ A , \ / k G N.
Do đó, Vn Ẽ N tồn tại /c (n) sao cho:
1
,w
<
n
và
< -~,Vk > k {rì).
n
Đặt r
n
:= r^
n
yy
n

:= y^
n)
và r„ ị 0, chúng ta thu được r
n
ị 0 và y
n
—> y khi n
—>• oo như X + r
n
.y
n
G A, Vn. Cho nên: y e T (^4, ãf)
2
2
(”) ,
2/* ^
(II) Bây giờ ta kiểm tra Tc (A,x) là lồi. Giả sử 2/1,2/2 ẽ ĩc { A , x ) . Vì T c (^4, X )
là một nón, ta chỉ cần chứng tỏ rằng 2/1 + y
2
€ Tc (^4, x ) .
2
3
Giả sử rằng T ỵ ị 0 và X ỵ —)• A X khi к —» oo. Khi đó tồn tại trong
о ỉ
tồn tại trong E thỏa mãn:
(2)
v
У кУ
2
và

Xk + г
к
(y£
1}
+ y£
2)
) = + г
к
.у^
]
<E A, VA: G N.
Từ đó, ta có : + yJ.
2)
->• Ух + y
2
- Ta kết luận Ух + 2/2 e т
с
(Л, ж).
□
Mệnh đề 2.2. iVeu A,B ç. E vàx G Ап в thì
2
4
E sao cho—> 2/1 khi к —> oo và := X ỵ + rỵ.y^\ Vì —> X
Chứng minh. Xem Chương 11 của [5]. □
Bây giờ ta thiết lập một biểu diễn của nón tiếp Clarke theo thuật ngữ của
đạo hàm theo hướng Clarke. Dễ dàng thấy rằng
\d
A
(X) - d
A

(y) < ||x - y\\ \, M x , y e E , (2.3)
nghĩa là phiếm hàm khoảng cách (ỈA (.) là L- liên tục (là hàm Lipschitz) và vì
vậy d
ữ
A
(X , y ) tồn tại với mọi x , y £ E .
Mệnh đề 2.4. T a c ó : T
c
{ A , x ) = { y ẽ E\d
ũ
A
( x , y ) = 0} .
Chứng minh. Giả sử y e E thỏa mãn: d
ữ
A
(X, y) = 0, dãy rỵ ị 0 và Xk —>A X
xác định. Khi đó:
D = lim sup - (d
A
(X + ry) - d
A
(X)) > lim sup — (d
A
(Xỵ+ r
k
y) - d
A
(Xỵ))
r r
k

trong đó (ỈA (x
k
) = 0. Mặt khác chúng ta có
lim inf Ị-d
A
(x
k
+ r
k
y) > 0
k—>00 Tf-
nên
lim d
A
(x
k
+ r
k
y) = 0.
k—too Tỵ
Theo định nghĩa của d,A,\/k G N, tồn tại Zỵ £ Ả thỏa mãn:
II3* - (Xk + r
k
y ) II < d
A
( x
k
+ r
k
y ) + y.

Đặt Vk = — (Z]Ị — Xk) , ta thu được
Để ý rằng dãy (a:
fe
) không cần thuộc A . Nhưng, vì tồn tại một dãy (Xfe) trong
A hội tụ tới X , ta có:
d ? A (Ẽ, y ) > lim sup -Ị- (ư
A
(z
fe
+ r
fe
y) - (z
fe
)) > 0.
k-too Tỵ
2
5