Điều kiện tối ưu cho bài toán không tối ưu

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2




HÀ THỊ THU THỦY





ĐIỀU KIỆN TỐI ƯU
CHO BÀI TOÁN TỐI ƯU KHÔNG LỒI



\

LUẬN VĂN THẠC SĨ TOÁN HỌC

HÀ NỘI, 2014


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2





HÀ THỊ THU THỦY





ĐIỀU KIỆN TỐI ƯU
CHO BÀI TOÁN TỐI ƯU KHÔNG LỒI


Chuyên ngành: Toán Giải tích
Mã số: 60.46.01.02


LUẬN VĂN THẠC SĨ TOÁN HỌC



Người hướng dẫn khoa học: PGS.TS. Đỗ Văn Lưu

HÀ NỘI, 2014

LỜI CẢM ƠN
Trong quá trình học tập và làm luận văn, cùng với sự nỗ lực của
bản thân, tôi đã nhận được sự quan tâm, giúp đỡ tận tình của các thầy,
cô giáo của phòng sau đại học trường đại học Sư Phạm Hà Nội 2 và thầy
PGS.TS. Đỗ Văn Lưu. Tôi xin bày tỏ lòng biết ơn chân thành và sâu sắc
tới PGS.TS. Đỗ văn Lưu, người thầy đã trực tiếp hướng dẫn, dìu dắt và
chỉ bảo, giúp đỡ tôi hoàn thành bản luận văn này. Tôi xin chân thành
cảm ơn phòng sau đại học, trường đại học Sư Phạm Hà Nội 2 cùng toàn
thể các thầy cô giáo và cán bộ trong nhà trường.
Tôi xin chân thành cảm ơn Ban Giám hiệu trường Hữu Nghị 80,
tổ toán trường Hữu Nghị 80 đã tạo điều kiện, giúp đỡ tôi hoàn thành
khóa học này.
Xin chân thành cảm ơn gia đình, bạn bè đồng nghiệp và các thành
viên trong lớp cao học K16 - TGT đã luôn quan tâm, động viên, giúp đỡ
tôi trong suốt quá trình học tập và thực hiện luận văn tốt nghiệp này.
Hà Nội, Ngày 5 tháng 8 năm 2014
Học viên
Hà Thị Thu Thủy
LỜI CAM ĐOAN
Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi.
Các số liệu, kết quả nêu trong luận văn là trung thực và chưa từng
được ai công bố trong bất kỳ công trình nào khác.
Hà Nội, Ngày 5 tháng 8 năm 2014
Học viên
Hà Thị Thu Thủy
ii
Mục lục

MỞ ĐẦU 1
1 Kiến thức chuẩn bị 3
1.1. Dưới vi phân Clarke, dưới vi phân Michel - Penot và dưới
vi phân Fréchet . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.1. Dưới vi phân Clarke . . . . . . . . . . . . . . . . 3
1.1.2. Dưới vi phân Michel- Penot . . . . . . . . . . . . 8
1.1.3. Dưới vi phân Fréchet . . . . . . . . . . . . . . . . 13
1.2. Các điều kiện tối ưu cơ bản . . . . . . . . . . . . . . . . 16
2 Điều kiện tối ưu cho bài toán điểm mút cuối cố định của
phép tính biến phân 19
2.1. Phát biểu bài toán . . . . . . . . . . . . . . . . . . . . . 19
2.2. Trường hợp trơn . . . . . . . . . . . . . . . . . . . . . . 20
2.3. Trường hợp không trơn . . . . . . . . . . . . . . . . . . . 21
3 Điều kiện tối ưu cho bài toán quy hoạch toán học 26
3.1. Quy tắc nhân tử Lagrange dưới ngôn ngữ xấp xỉ lồi trên 26
iii
3.2. Quy tắc nhân tử Lagrange của Clarke . . . . . . . . . . . 37
3.3. Quy tắc nhân tử Lagrange xấp xỉ . . . . . . . . . . . . . 40
KẾT LUẬN 43
TÀI LIỆU THAM KHẢO 43
iv
MỞ ĐẦU
Lý do chọn đề tài
Các bài toán tối ưu không lồi không trơn đã và đang thu hút nhiều
nhà toán học quan tâm nghiên cứu. Các lí thuyết dưới vi phân là các
công cụ hữu hiệu để nghiên cứu các điều kiện tối ưu, chẳng hạn dưới vi
phân lồi, dưới vi phân Clarke, dưới vi phân Michel - Penot, dưới vi phân
Fréchet, dưới vi phân Mordukhovich,. . . Các điều kiện cần tối ưu cho
bài toán biến phân và bài toán quy hoạch toán học dưới ngôn ngữ dưới
vi phân Clarke, dưới vi phân Michel - Penot và dưới vi phân Fréchet đã

được W. Schirotzek trình bày trong cuốn sách chuyên khảo “ Nonsmooth
Analysis” (2006). Đây là đề tài đã thu hút nhiều tác giả trong và ngoài
nước quan tâm nghiên cứu. Vì thế, tôi chọn đề tài luận văn : “Điều kiện
tối ưu cho bài toán tối ưu không lồi”.
Mục đích nghiên cứu
• Đọc và dịch tài liệu trong cuốn sách “Nonsmooth Analysis” (2006)
của W.Schirotzek.
• Tham khảo các tài liệu có liên quan.
• Phân tích, tổng hợp làm rõ các điều kiện tối ưu cho bài toán tối ưu
không lồi.
1
Nhiệm vụ nghiên cứu
• Các điều kiện tối ưu cơ bản.
• Điều kiện tối ưu cho bài toán điểm mút cuối cố định của phép tính
biến phân.
• Điều kiện tối ưu cho bài toán quy hoạch toán học.
Đối tượng và phạm vi nghiên cứu
Luận văn trình bày các điều kiện cần tối ưu cho bài toán biến phân
và bài toán quy hoạch toán học dưới ngôn ngữ dưới vi phân Clarke, dưới
vi phân Michel- Penot và dưới vi phân Fréchet được W. Schirotzek trình
bày trong cuốn sách chuyên khảo “ Nonsmooth Analysis” (2006).
Những đóng góp mới của đề tài
Tác giả mong muốn có cách nhìn tổng quát hơn về điều kiện tối
ưu cho các bài toán tối ưu không lồi và hoàn chỉnh bản luận văn của
mình.
Phương pháp nghiên cứu
Đọc và nghiên cứu tài liệu để phân tích, tổng hợp các nội dung
của đề tài luận văn.
2
Chương 1

Kiến thức chuẩn bị
Chương 1 trình bày một số kiến thức cơ bản về các dưới vi phân
Clarke, Michel - Penot, Fréchet và các điều kiện tối ưu cơ bản. Các kiến
thức trình bày trong chương này được tham khảo trong các tài liệu [1]
- [5].
1.1. Dưới vi phân Clarke, dưới vi phân Michel -
Penot và dưới vi phân Fréchet
1.1.1. Dưới vi phân Clarke
Giả sử E là không gian Banach thực, D ⊆ E là mở, x ∈ D và
f : D → R.
Định nghĩa 1.1.
Hàm f được gọi là Lipschitz địa phương tại x ∈ D nếu tồn tại lân cận
U của x và số λ > 0 sao cho
|f(x) −f(x

)| ≤ λ||x −x

|| (∀x, x

∈ U) (1.1)
Hàm f được gọi là Lipschitz địa phương trên D nếu f Lipschitz địa
3
phương tại mọi x ∈ D. Hàm f được gọi là Lipschitz với hằng số λ trên
D nếu (1.1) đúng với mọi x, x

∈ D.
Định nghĩa 1.2.
Nếu y ∈ E thì
f
◦

(x, y) := lim
τ↓0
sup
x→
x
1
τ
(f(x + τy) − f(x)) (1.2)
được gọi là đạo hàm Clarke của f tại x theo phương y.
Định lý 1.1.
Cho f là hàm Lipschitz địa phương tại x với hằng số λ > 0. Khi đó,
a) f
◦
(x, .) là dưới cộng tính, thuần nhất dương và Lipschitz với hằng số
λ trên E và thỏa mãn:
f
◦
(x, y) ≤ λ||y|| (∀y ∈ E) (1.3)
b) Với bất kì y ∈ E, ta có: f
◦
(x, −y) = (−f)
◦
(x, y).
Chứng minh.
a) Cho y ∈ E cố định, từ giả thiết ta có:
1
τ
(f(x + τy) − f(x)) ≤
1
τ

λ||τy|| = λ||y||
với ||x −x|| và τ > 0 đủ nhỏ. Do đó f
◦
(x, y) ≤ λ||y||.
b) Ta có:
f
◦
(x, −y) = lim
τ↓0
sup
x→x
1
τ
[f(x −τy) − f(x)]
= lim
τ↓0
sup
x→x
1
τ
[(−f)(x + τy) − (−f)(x)] = (−f)
◦
(x, y),
trong đó x = x −τy
4
Định nghĩa 1.3.
Nếu f là hàm Lipschitz địa phương tại x thì
∂
◦
f(x) := {x

∗
∈ E
∗



x
∗
, y

≤ f
◦
(x, y) ∀y ∈ E}
được gọi là dưới vi phân Clarke hoặc građient suy rộng Clarke của f tại
x .
Mệnh đề 1.1. [1]
Nếu f là hàm Lipschitz địa phương tại x và λ ∈ R. Khi đó,
∂
◦
(λf)(x) = λ∂
◦
f(x).
Mệnh đề 1.2.
Nếu f là hàm Lipschitz địa phương tại x và x là một cực tiểu địa phương
hoặc một cực đại địa phương của f, thì 0 ∈ ∂
◦
f(x).
Chứng minh.
Do ∂(−f) = −∂(f). Vì thế ta chỉ cần chứng minh cho cực tiểu là đủ.
Giả sử x là cực tiểu địa phương của f, với bất kì y ∈ E ta có:

0 ≤ lim inf
τ↓0
1
τ
(f(x +τy) −f(x)) ≤ lim sup
τ↓0
1
τ
(f(x +τy) −f(x)) ≤ f
◦
(x, y)
Suy ra 0 ∈ ∂
◦
f(x).
Mệnh đề 1.3.
Cho f là hàm Lipschitz địa phương tại x với hằng số λ > 0. Khi đó,
a) Dưới vi phân ∂
◦
f(x) là khác rỗng, lồi, compact yếu* và
∂
◦
f(x) ⊆ B
E
∗
(0, λ),
trong đó B
E
∗
(0, λ) là hình cầu đóng tâm O, bán kính λ trong E
∗

.
5
b) Ta có:
f
◦
(x, y) = max{

x
∗
, y

|x
∗
∈ ∂
◦
f(x)} (∀y ∈ E).
Chứng minh.
Ta có: g(y) = f
◦
(x, y) là một hàm lồi, thuần nhất dương và Lipschitz
trên D nên
∂
◦
f(x) = ∂g(0) = {x
∗
∈ E
∗




x
∗
, y

≤ f
◦
(x, y) ∀y ∈ E}
khác rỗng, lồi, compact yếu
∗
và do mệnh đề 4.1.6[4] ta có
f
◦
(x, y) = g(y) = g

(0, y) = max


x
∗
, y



x
∗
∈ ∂
◦
f(x)

(∀y ∈ E)

Mặt khác với mọi x
∗
∈ ∂
◦
f(x) ta có

x
∗
, y

≤ f
◦
(x, y) ≤ λ||y|| (∀y ∈ E)
nên ∂
◦
f(x) ⊆ B
E
∗
(0, λ).
Mệnh đề 1.4.
Nếu f : E → R là Lipschitz địa phương trên E. Khi đó:
a) Hàm (x, y) → f
◦
(x, y) là nửa liên tục trên trên E × E.
b) Cho (x
k
) và (x
∗
k
) là dãy tương ứng trong E và E

∗
, sao cho x
∗
k
∈
∂
◦
f(x
k
), ∀k ∈ N.
Giả sử rằng (x
k
) hội tụ đến x ∈ E khi k → ∞ và x
∗
∈ E
∗
là một
điểm tụ yếu* của (x
∗
k
). Khi đó x
∗
∈ ∂
◦
f(x) (Đồ thị của (∂
◦
f) là một
tập con đóng yếu* của E × E
∗
).

c) Ánh xạ dưới vi phân ∂
◦
f : E ⇒ E
∗
là nửa liên tục trên yếu*.
Chứng minh.
6
a) Lấy (x
k
) và (y
k
) là các dãy hội tụ về x ∈ E và y ∈ E tương ứng.
Từ định nghĩa của f
◦
, với mỗi k tồn tại z
k
∈ E và τ
k
> 0 sao cho
||z
k
− x
k
|| + τ
k
<
1
k
và
f

◦
(x
k
, y
k
) −
1
k
≤
f(z
k
+ τ
k
y
k
) −f(z
k
)
τ
k
=
f(z
k
+ τ
k
y) −f(z
k
)
τ
k

+
f(z
k
+ τ
k
y
k
) −f(z
k
+ τ
k
y)
τ
k
≤
f(z
k
+ τ
k
y) −f(z
k
)
τ
k
+ λ||y
k
− y||.
Trong số hạng cuối λ > 0 là hằng số Lipschitz của f tại x. Khi k → ∞,
từ định nghĩa của giới hạn trên ta có lim sup
k→∞

f
o
(x
k
, y
k
) ≤ f
o
(x, y).
Do đó, f
◦
là nửa liên tục trên tại (x, y).
b) Cho y ∈ E. Dãy con của (

x
∗
k
, y

) cũng kí hiệu là (

x
∗
k
, y

) thỏa mãn

x
∗

k
, y

→

x
∗
, y

khi k → ∞. Từ định nghĩa của ∂
◦
f ta có:

x
∗
k
, y

≤ f
◦
(x
k
, y), ∀k.
Cho k → ∞ từ kết quả (a) ta có

x
∗
, y

≤ f

◦
(x, y).
Do y ∈ E là bất kì, nên x
∗
∈ ∂
◦
f(x).
c) Ta có từ (b) ∂
◦
f là ánh xạ đóng. Từ mệnh đề 1.3 suy ra ∂
◦
f bị chặn
địa phương tại mọi x ∈ E. Từ mệnh đề 4.3.2 [4] ta suy ra ∂
◦
f là nửa
liên tục trên yếu*.
Định lý 1.2. [3]
Nếu f : R
n
→ R là Lipschitz địa phương tại x và S ⊆ R
n
và có độ đo
Legesgue n - chiều bằng 0 thì
∂
◦
f(x) = co{ lim
k→∞
f

(x

k
)|x
k
→ x, x
k
/∈ Ω
f
∪ S},
trong đó co chỉ bao lồi.
7
1.1.2. Dưới vi phân Michel- Penot
Định nghĩa 1.4.
Cho E là không gian Banach thực, D ⊆ E là mở, x ∈ D và f : D → R.
Nếu y ∈ E thì f

(x, y) := sup
z∈E
lim sup
τ↓0
1
τ
(f(x +τy +τz) −f(x + τz)) được
gọi là đạo hàm Michel-Penot của f theo phương y tại x.
Định lý 1.3.
Cho f là Lipschitz địa phương tại x với hằng số λ > 0. Khi đó,
a) f

(x, .) là dưới tuyến tính và Lipschitz với hằng số λ trên E và
f
H

(x, y) ≤ f

(x, .) ≤ λ||y|| (∀y ∈ E), (1.4)
trong đó f
H
(x, y) = lim sup
τ↓0
z→y
1
τ
(f(x + τz) −f(x))
b) Với bất kì y ∈ E ta có: f

(x, −y) = (−f)

(x, y).
Chứng minh.
a) Ta có f
◦
(x, y) ≤ λ||y|| (do định lý 1.1). Ta chứng minh
f

(x, y) ≤ f
◦
(x, y) ∀y ∈ E
Cho y ∈ E cố định, cho ε > 0. Với mỗi z ∈ E thì tồn tại δ(z) > 0 sao
cho:
1
τ
(f(x + τy + τz) − f(x + τz)) < f

◦
(x, y) + ε (∀τ ∈ (0, δ(z)))
(x := x + τz)
Điều này kéo theo
lim sup
τ↓0
1
τ
(f(x + τy + τz) − f(x + τz)) ≤ f
◦
(x, y) + ε
8
với z ∈ E.
Vậy f

(x, y) ≤ f
◦
(x, y) + ε.
Khi ε ↓ 0 thì f

(x, y) ≤ f
◦
(x, y), ∀y ∈ E.
Cho y ∈ E cố định, cho ε > 0, với mọi τ > 0 đủ nhỏ và z ∈ E sao
cho ||y − z|| đủ nhỏ, ta có,
1
τ
(f(x + τz) −f(x)) =
1
τ

(f(x + τy + τ(z − y)) −f(x + τ(z −y)))
+
1
τ
(f(x + τ(z − y)) −f(x))
≤
1
τ
(f(x + τy + τ(z − y)) −f(x + τ(z −y))) + λ||z −y||
≤ f

(x, y) + ε + λ||z − y||.
Cho τ ↓ 0, z → y và sau đó ε ↓ 0 thì bất đẳng thức thứ nhất được
chứng minh.
Vậy (a) được chứng minh.
b) Với bất kì z ∈ E ta có:
lim sup
τ↓0
1
τ
[f(x −τy + τz) − f(x + τz)]
= lim sup
τ↓0
[(−f)(x + τy + τ(z − y)) −(−f)(x + τ(z −y))]
Lấy cận trên đúng theo z và z – y tương ứng, suy ra f

(x, −y) =
(−f)

(x, y).

Ví dụ 1.1.
Cho E := R, f(x) := |x| −|sin x| và x := π. Khi đó, ta có
f
H
(π, y) =





2y, nếu y < 0,
0, nếu y ≥ 0,
9
f

(π, y) = f
◦
(π, y) =





0, nếu y < 0,
2y, nếu y ≥ 0,
Ta thấy rằng trong ba đạo hàm theo phương, hàm f
H
(π, .) là không
lồi.
Định nghĩa 1.5.

Nếu f là hàm Lipschitz địa phương tại x thì
∂

f(x) := {x
∗
∈ E
∗
|

x
∗
, y

≤ f

(x, y) ∀y ∈ E}
được gọi là dưới vi phân Michel - Penot của f tại x.
Mệnh đề 1.5.
Nếu f là hàm Lipschitz địa phương tại x và λ ∈ R, ta có
∂

(λf)(x) = λ∂

f(x).
Chứng minh.
Nếu λ ≥ 0 ta có công thức sau: (λf)

(x, .) = λf

(x, .).

Suy ra ∂

(λf)(x) = λ∂

f(x).
Với λ < 0 ta chỉ cần chứng minh cho λ = −1 là đủ.
Với λ = −1. Ta có:
∂

(−f)(x) = {x
∗
∈ E
∗
|

x
∗
, y

≤ (−f)

(x, y) ∀y ∈ E}
= {x
∗
∈ E
∗
|

x
∗

, −z

≤ f

(x, z) ∀z ∈ E} = −∂

f(x)
Đặt z := −y.
Mệnh đề 1.6.
Nếu f là Lipschitz địa phương tại x và x là cực tiểu địa phương hoặc cực
đại địa phương của f thì 0 ∈ ∂

f(x).
10
Chứng minh.
Do ∂(−f) = −∂f vì thế ta chỉ cần chứng minh cho cực tiểu là đủ.
Giả sử x là cực tiểu địa phương của f, thì với bất kì y ∈ E ta có:
0 ≤ sup
z∈E
lim inf
τ↓0
1
τ
(f(x + τy + τz) − f(x + τz))
≤ sup
z∈E
lim sup
τ↓0
1
τ

(f(x + τy + τz) − f(x + τz)) = f

(x, y)
Suy ra 0 ∈ ∂

f(x).
Nhắc lại:
Hàm f được gọi là khả vi Gâteaux tại x ∈ E nếu tồn tại ∧ ∈ E
∗
(không
gian liên hợp tôpô của E) sao cho với mỗi v ∈ E,
f(x + tv) = f(x) + t ∧v + o(t).
Ta gọi ∧ là đạo hàm Gâteaux của f tại x và kí hiệu là f

G
(x).
Hàm f được gọi là khả vi Hadamard tại x ∈ E nếu tồn tại ∧ ∈ E
∗
sao
cho với mỗi v ∈ E,
f(
x + tv) = f(x) + t ∧v + o(t)
và
f(x + tv) −f(x)
t
− ∧v → 0,
Sự hội tụ này là đồng đều theo v trên các tập compact. Ta gọi ∧ là đạo
hàm Hadamard của f tại x và kí hiệu là f

H

(x).
Mệnh đề 1.7.
Cho f là hàm Lipschitz địa phương tại x với hằng số λ > 0. Khi đó,
a) Dưới vi phân ∂

f(x) là khác rỗng, lồi và compact yếu* thỏa mãn:
∂

f(x) ⊂ ∂
◦
f(x) ⊆ B
E
∗
(0, λ).
11
b) Ta có:
f

(x, y) = max{

x
∗
, y



x
∗
∈ ∂


f(x)} (∀y ∈ E)
Chứng minh.
Mệnh đề được chứng minh tương tự mệnh đề 1.3.
Mệnh đề 1.8. [4]
a) Nếu f
G
(x, .) tồn tại và là dưới tuyến tính trên E thì f

(x, y) :=
f
G
(x, y) với mỗi y ∈ E. Đặc biệt nếu f là khả vi Gâteaux tại x
thì ∂

f(x) = {f

G
(x)}, trong đó f

G
(x) là đạo hàm Gâteaux của f tại
x và
f
G
(x, y) = lim
τ↓0
f(x + τy) − f(x)
τ
(G - đạo hàm theo phương của f tại x theo phương y)
b) Nếu D lồi, f lồi và Lipschitz địa phương tại x thì f


(x, y) = f
H
(x, y)
với mỗi y ∈ E và ∂

f(x) = ∂f(x), trong đó
f
H
(x, y) = lim
τ↓0,z→y
1
τ

f(x + τz) −f(x)

(H - đạo hàm theo phương).
Mệnh đề 3.2.4 [4] chỉ ra rằng:
a) f khả vi Gâteaux tại x khi và chỉ khi tồn tại f

G
(x) ∈ E
∗
sao cho
f

G
(x)y = f
G
(x, y) (∀y ∈ E).

b) f khả vi Hadamard tại x khi và chỉ khi tồn tại f

H
(x) ∈ E
∗
sao cho
f

H
(x)y = f
H
(x, y) (∀y ∈ E).
12
Ví dụ 1.2.
Cho E := R và
f(x) =





x
2
sin
1
x
, nếu x = 0,
0, nếu x = 0
Khi đó f là Lipschitz địa phương và khả vi tại 0, với f


H
(0) = 0. Ta có
f

(0, y) = 0 với mỗi y ∈ R và ∂

f(0) = {0}.
Ngoài ra ta có f
◦
(0, y) = |y| với mỗi y ∈ R và ∂
◦
f(0) = [−1, 1]
1.1.3. Dưới vi phân Fréchet
Định nghĩa 1.6.
Giả sử rằng E là không gian Banach, f : E → R là hàm chính thường
và nửa liên tục dưới và x ∈ domf.
a) Hàm f được gọi là khả dưới vi phân Fréchet (F - dưới khả vi ) tại x
nếu tồn tại F - dưới đạo hàm của f tại x, x
∗
∈ E
∗
thỏa mãn
lim inf
y→0
f(x + y) −f(x) −

x
∗
, y


||y||
≥ 0.
b) Hàm f được gọi là khả dưới vi phân nhớt (viscosity subdifferentiable)
tại x nếu tồn tại dưới đạo hàm nhớt của f tại x, x
∗
∈ E
∗
và hàm
thuộc lớp C
1
là g : E → R thỏa mãn g

(x) = x
∗
và f −g đạt cực tiểu
địa phương tại x.
Đặc biệt: g(x) =

x
∗
, x −x

−σ||x−x||
2
với hằng số dương σ thì x
∗
được
gọi là dưới gradient gần kề của f tại x.
Tập:
∂

F
f(x) = tập tất cả F - dưới đạo hàm của f tại x
13
∂
V
f(x) = tập tất cả dưới đạo hàm nhớt của f tại x
∂
P
f(x) = tập tất cả dưới gradient gần kề của f tại x
được gọi tương ứng là dưới vi phân Fréchet (F - dưới vi phân), dưới vi
phân nhớt và dưới vi phân gần kề.
Mệnh đề 1.9. [4]
Giả sử E là không gian Banach, f : E → R là chính thường, nửa liên
tục dưới và x ∈ domf. Khi đó: ∂
V
f(x) ⊆ ∂
F
f(x).
Mệnh đề 1.10. [4]
Nếu hàm f : E → R là chính thường, nửa liên tục dưới đạt cực tiểu địa
phương tại x, thì 0 ∈ ∂
V
f(x) và do đó 0 ∈ ∂
F
f(x).
Định nghĩa 1.7.
Không gian Banach E được gọi là trơn Fréchet nếu nó nhận một chuẩn
tương đương mà khả vi Fréchet trên E \ {0}.
Định lý 1.4. [4]
Cho E là một không gian Banach trơn Fréchet, hàm f : E → R là chính

thường, nửa liên tục dưới và x ∈ domf. Khi đó ∂
V
f(x) = ∂
F
f(x).
Mệnh đề 1.11.
Cho E là một không gian Banach trơn Fréchet, hàm f : E → R là chính
thường, nửa liên tục dưới.
a) Nếu G - đạo hàm theo phương f
G
(x, .) của f tại x ∈ domf tồn tại
trên E, thì
∀x
∗
∈ ∂
F
f(x) :

x
∗
, y

≤ f
G
(x, y), ∀y ∈ E.
Nếu f là khả vi Gâteaux tại x ∈ domf thì ∂
F
f(x) ⊆ {f

G

(x)}.
14
b) Nếu f ∈ C
1
(U), U ⊆ E là khác rỗng và mở. Khi đó,
∂
F
f(x) = {f

(x)}, ∀x ∈ U.
c) Nếu f ∈ C
2
(U), U ⊆ E là khác rỗng và mở. Khi đó,
∂
P
f(x) = ∂
F
f(x) = {f

(x)}, ∀x ∈ U.
d) Nếu f là lồi thì ∂
P
f(x) = ∂
F
f(x) = ∂f(x), ∀x ∈ domf, trong đó
∂f(x) là dưới vi phân hàm f lồi tại x
∂f(x) = {x
∗
∈ E
∗

:

x
∗
, y −x

≤ f(y) −f(x), ∀y ∈ E}
e) Nếu f là Lipschitz địa phương trên E, thì ∂
F
f(x) ⊆ ∂
◦
f(x), ∀x ∈ E.
Chứng minh.
a) Cho x
∗
∈ ∂
F
f(x). Khi đó tồn tại C
1
- hàm g và số ε > 0 sao cho
g

(x) = x
∗
và với mỗi x ∈ B(x, ε), ta có:
(f − g)(x) ≥ (f − g)(x), ∀x ∈ B(x, ε).
Cho y ∈ E. Khi đó, với mỗi τ > 0 đủ nhỏ ta có x + τy ∈ B(x, ε).
Vậy
1
τ

(f(x + τy) − f(x)) ≥
1
τ
(g(x + τy) −g(x)).
Cho τ ↓ 0 suy ra f
G
(x, y) ≥

g

(x), y

=

x
∗
, y

.
Nếu f là khả vi Gâteaux tại x thì bất đẳng thức sau cùng trở thành
f

(x) = x
∗
.
b) Hiển nhiên f

(x) ∈ ∂
F
f(x), ∀x ∈ U. Kết hợp với (a) ta suy ra

∂
F
f(x) = {f

(x)}, ∀x ∈ U.
c) Do f

(x) ∈ ∂
P
f(x) và ∂
P
f(x) ⊆ ∂
F
f(x). Kết hợp với (a) ta có khẳng
định (c) đúng.
15
d) Ta có ∂f(x) ⊆ ∂
P
f(x) ⊆ ∂
F
f(x), ∀x ∈ domf.
Cho x
∗
∈ ∂
F
f(x).
Như trong chứng minh (a) cho g và ε sao cho g

(x) = x
∗

và với mỗi
x ∈ B(x, ε) ta có: (f − g)(x) ≥ (f − g)(x), ∀x ∈ B(x, ε).
Cho x ∈ E. Nếu τ ∈ (0, 1) đủ nhỏ, thì (1 − τ)x + τx ∈ B(x, ε) và sử
dụng tính lồi của f ta có:
(1−τ)f(x)+τ f(x) ≥ f((1−τ)x+τx) ≥ f(x)+g((1−τ)x+τ x)−g(x)
Suy ra: f(x) −f(x) ≥
g(x + τ(x − x)) −g(x)
τ
.
Cho τ ↓ 0 ta thấy rằng f(x) −f(x) ≥

g

(x), x −x

=

x
∗
, x −x

.
Do x ∈ E là tùy ý, ta suy ra x
∗
∈ ∂f(x).
1.2. Các điều kiện tối ưu cơ bản
Cho f : E → R là hàm chính thường, A ⊆ E và x ∈ A ∩ domf.
Ta kí hiệu
f
G

(x, y) := lim sup
τ↓0
f(x + τy) − f(x)
τ
(G - đạo hàm theo phương trên)
f
H
(x, y) := lim sup
τ↓0
z→y
f(x + τy) − f(x)
τ
(H - đạo hàm theo phương trên)
Tập hợp:
T
r
(A, x) := {y ∈ E|∃τ
k
↓ 0, ∀k ∈ N : x + τ
k
y ∈ A}
là một nón.
Mệnh đề 1.12. [4]
Cho x là cực tiểu địa phương của f trên A.
16
a) Ta có f
G
(x, y) ≥ 0 với mọi y ∈ T
r
(A, x) và f

H
(x, y) ≥ 0 với mọi
y ∈ T(A, x)
b) Nếu f là khả vi Gâteaux tại x thì

f

G
(x), y

≥ 0 với mọi y ∈ T
r
(A, x).
c) Nếu f là khả vi Hadamard tại x thì

f

(x), y

≥ 0 với mọi y ∈
T (A, x), trong đó T (A, x) là nón tiếp liên của A tại x:
T (A, x) = {y ∈ E : ∃τ
k
↓ 0, ∃y
k
→ y, ∀k ∈ N, x + τ
k
y
k
∈ A}.

Mệnh đề 1.13.
Cho f là hàm Lipschitz địa phương với hằng số Lipschitz

λ trên một tập
mở U chứa A. Nếu x là một cực tiểu của f trên A, thì ∀λ ≥

λ, x là một
cực tiểu của f + λd
A
trên U (vì là một cực tiểu của f + λd
A
trên E).
Chứng minh.
Từ giả thiết ta có:
f(z)−

λ||y−z|| ≤ f(y) ≤ f(z)+

λ||y−z||, ∀y, z ∈ U, f(x) ≤ f(y), ∀y ∈ A.
Lấy z ∈ U và ε > 0. Khi đó tồn tại y ∈ A sao cho ||y −z|| ≤ d
A
(z) + ε.
Suy ra: f(x) + λd
A
(x) = f(x) ≤ f(y) ≤ f(z) +

λ||y − z|| ≤ f(z) +
λd
A
(z) + λε.

Cho ε ↓ 0 ta suy ra điều phải chứng minh.
Nhắc lại:
Nón tiếp tuyến Clarke của tập A tại x ∈ A là tập
T
C
(A, x) := {y ∈ E|∀x
k
→ x, x
k
∈ A, ∀τ
k
↓ 0, ∃y
k
→ y ∀k : x
k
+τ
k
y
k
∈ A}
Nón pháp tuyến Clarke của A tại x là tập
N
C
(A, x) = T
C
(A, x)
◦
:= {x
∗
∈ E

∗
|

x
∗
, v

≤ 0 ∀v ∈ T
C
(A, x)}
17
Mệnh đề 1.14.
Cho f là một hàm Lipschitz địa phương trên một tập mở chứa A. Giả
sử x là một cực tiểu địa phương trên A. Khi đó,
f
◦
(x, y) ≥ 0, ∀y ∈ T
C
(A, x),
và
0 ∈ ∂
0
f(x) + N
C
(A, x).
Chứng minh.
(I) Cho η > 0 sao cho x là cực tiểu của f trên A
η
:= A ∩B(x, η). Khi đó
0 ≤ (f + λd

A
η
)
◦
(x, y) ≤ f
◦
(x, y) + λd
◦
A
η
∀y ∈ E, (1.5)
Theo mệnh đề 1.13 và định nghĩa đạo hàm theo phương Clarke.
Bởi vì T
C
(A, x) = {y ∈ E |d
◦
A
(x, y) = 0} cho nên f
◦
(x, y) ≥ 0 ∀y ∈
T
C
(A
η
, x).
Ta lại có T
C
(A
η
, x) = T

C
(A, x).
Vậy f
o
(x, y) ≥ 0 ∀y ∈ T
C
(A
η
, x).
(II) Từ (1.5) ta có 0 ∈ ∂
◦
(f + λd
A
η
)(x).
Do N
C
(A, x) = cl
∗
(R
+
∂
◦
d
A
(x)) và ta suy ra
0 ∈ ∂
◦
f(x) + N
C

(A
η
, x)
Vì N
C
(A
η
, x) = N
C
(A, x) cho nên 0 ∈ ∂
◦
f(x) + N
C
(A, x)
18
Chương 2
Điều kiện tối ưu cho bài toán điểm
mút cuối cố định của phép tính
biến phân
Chương 2 trình bày các điều kiện tối ưu cho bài toán điểm mút
cuối cố định của phép tính biến phân cho các trường hợp trơn và không
trơn. Các kiến thức trình bày trong chương này được tham khảo trong
[4].
2.1. Phát biểu bài toán
Gọi L
p
[a, b](p ∈ [1, +∞)) là không gian véctơ của các hàm đo được
Lebesgue g : [a, b] → R sao cho |g|
p
khả tích Lebesgue trên [a, b]; L

∞
[a, b]
là không gian véctơ các hàm đo được Lebesgue g : [a, b] → R sao cho
esssup
x∈[a,b]
|g(x)| < +∞ Kí hiệu AC
∞
[a, b](a < b) là không gian véctơ các
hàm tuyệt đối liên tục x : [a, b] → R sao cho x ∈ L
∞
[a, b]. Chú ý rằng
AC
∞
[a, b](a < b) là một không gian Banach với chuẩn
||x||
1,∞
= max{||x||
∞
, ||˙x||
∞
}.
19