Dưới vi phân clarke và ứng dụng

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
——————  ——————
PHẠM THANH ĐỨC
DƯỚI VI PHÂN CLARKE
VÀ ỨNG DỤNG
LUẬN VĂN THẠC SỸ TOÁN HỌC
Hà Nội-2012
BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
——————  ——————
PHẠM THANH ĐỨC
DƯỚI VI PHÂN CLARKE
VÀ ỨNG DỤNG
Chuyên ngành: Toán giải tích
Mã số: 60 46 01
LUẬN VĂN THẠC SỸ TOÁN HỌC
Người hướng dẫn khoa học: PGS.TS Nguyễn Năng Tâm
Hà Nội-2012
LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học sư phạm Hà Nội 2 dưới
sự hướng dẫn của PGS.TS Nguyễn Năng Tâm.
Tác giả xin bày tỏ lòng biết ơn chân thành, sâu sắc tới PGS.TS Nguyễn
Năng Tâm, người đã luôn quan tâm, động viên và tận tình hướng dẫn
tác giả trong quá trình thực hiện luận văn.
Tác giả xin được gửi lời cảm ơn chân thành Ban giám hiệu trường
Đại học sư phạm Hà Nội 2, phòng Sau đại học, các thầy cô giáo trong
nhà trường và các thầy cô giáo dạy cao học chuyên ngành Toán giải tích
đã tạo điều kiện thuận lợi trong quá trình tác giả học tập và nghiên cứu.
Tác giả xin bày tỏ lòng biết ơn tới gia đình, người thân đã động viên
và tạo mọi điều kiện để tác giả có thể hoàn thành bản luận văn này.

Hà Nội, tháng 12 năm 2012
Tác giả
Phạm Thanh Đức
LỜI CAM ĐOAN
Tôi xin cam đoan Luận văn là công trình nghiên cứu của riêng tôi
dưới sự hướng dẫn trực tiếp của PGS.TS Nguyễn Năng Tâm.
Trong quá trình nghiên cứu, tôi đã kế thừa thành quả khoa học của
các nhà khoa học với sự trân trọng và biết ơn.
Hà Nội, tháng 12 năm 2012
Tác giả
Phạm Thanh Đức
v
Mục lục
Bảng kí hiệu và viết tắt vii
Mở đầu ix
Nội dung 1
1 Một số kiến thức chuẩn bị 1
1.1 Không gian Banach . . . . . . . . . . . . . . . . . . . . . 1
1.2 Tôpô yếu và tôpô yếu* . . . . . . . . . . . . . . . . . . . 3
1.2.1 Tô pô . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.2 Tôpô yếu và tôpô yếu* . . . . . . . . . . . . . . . 4
1.3 Hàm số khả vi trên không gian Banach . . . . . . . . . . 5
1.4 Hàm lồi và dưới vi phân của hàm lồi . . . . . . . . . . . 8
1.4.1 Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . 8
1.4.2 Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . 10
1.4.3 Dưới vi phân của hàm lồi . . . . . . . . . . . . . 11
2 Dưới vi phân Clarke 14
2.1 Một số định nghĩa và những tính chất cơ bản . . . . . . 14
2.1.1 Khái niệm đạo hàm suy rộng theo phương . . . . 14
2.1.2 Dưới vi phân Clarke và các tính chất . . . . . . . 17

2.2 Những phép tính cơ bản . . . . . . . . . . . . . . . . . . 23
2.2.1 Phép nhân với một số . . . . . . . . . . . . . . . 23
vi
2.2.2 Tổng hữu hạn . . . . . . . . . . . . . . . . . . . . 24
2.2.3 Gradient suy rộng của hàm hợp . . . . . . . . . . 25
2.2.4 Gradient suy rộng của tích và thương hai hàm . . 32
2.3 Những khái niệm hình học liên kết . . . . . . . . . . . . 32
3 Ứng dụng vào lý thuyết tối ưu 38
3.1 Bài toán tối ưu . . . . . . . . . . . . . . . . . . . . . . . 38
3.2 Điều kiện tối ưu . . . . . . . . . . . . . . . . . . . . . . . 39
3.3 Quy tắc nhân tử Lagrange . . . . . . . . . . . . . . . . . 41
Kết luận 45
Tài liệu tham khảo 46
vii
Bảng kí hiệu và viết tắt
R : Tập hợp các số thực.
R
n
: Không gian thực n chiều.
X : Không gian Banach.
X
∗
: Không gian đối ngẫu của không gian Banach X.
X
∗∗
: Không gian liên hợp thứ hai của không gian X.
sup : Cận trên đúng.
inf : Cận dưới đúng.
Γ : X → 2
Y

: Ánh xạ đa trị từ X vào tập con của Y .
domf : Miền xác định hữu hiệu của f.
epif : Đồ thị của hàm f.
L (X, Y ) : Không gian các ánh xạ tuyến tính liên tục từ X vào Y .
viii
·, · : Tích vô hướng.
co : Bao lồi.
· : Chuẩn trong không gian Banach.
∂f (x) : Dưới vi phân của hàm f tại x.
Y ⊂ X : Y là tập con của X.
max : Giá trị lớn nhất.
f
0
(x; v) : Đạo hàm suy rộng của hàm f theo phương v tại x.
B (0, k) : Hình cầu đóng tâm 0, bán kính k.
ix
Mở đầu
1. Lí do chọn đề tài
Trong thực tiễn cũng như trong lý thuyết chúng ta thường gặp
những bài toán đòi hỏi phải khảo sát những hàm số không khả vi. Với
những bài toán như thế, công cụ toán học “ phép tính vi phân cổ điển”
tỏ ra không đủ để giải quyết chúng. Để đáp ứng nhu cầu giải quyết
những bài toán có chứa yếu tố “không khả vi”, nhiều khái niệm vi phân
suy rộng đã ra đời. Những năm 60 của thế kỷ 20, Rockafellar [7] đã xây
dựng lý thuyết dưới vi phân cho các hàm lồi. Những năm 70 của thế
kỉ 20, Clarke [6] đã xây dựng dưới vi phân cho các hàm Lipschitz địa
phương. Từ đó đến nay các lý thuyết này không ngừng phát triển và
ngày càng tỏ ra có nhiều ứng dụng hiệu quả.
Nhiều tác giả trong và ngoài nước đã quan tâm nghiên cứu những
khía cạnh khác nhau của lý thuyết dưới vi phân Clarke (xem [6 ], [7] và

những tài liệu dẫn trong đó).
Sau khi được học những kiến thức về Toán giải tích, với mong
muốn tìm hiểu sâu hơn về những kiến thức đã học, mối quan hệ và ứng
dụng của chúng, tôi đã chọn đề tài nghiên cứu
"Dưới vi phân Clarke và ứng dụng"
2. Mục đích nghiên cứu
Tìm hiểu về lý thuyết dưới vi phân Clarke và ứng dụng.
x
3. Nhiệm vụ nghiên cứu
Hệ thống, tổng hợp các kiến thức về dưới vi phân Clarke cùng
một số ứng dụng của nó vào lý thuyết tối ưu.
4. Đối tượng và phạm vi nghiên cứu
Đối tượng: Dưới vi phân Clarke và ứng dụng.
Phạm vi: Lý thuyết dưới vi phân Clarke cùng một số ứng dụng
của nó vào lý thuyết tối ưu.
5. Phương pháp nghiên cứu
Tổng hợp kiến thức thu thập được qua những tài liệu liên quan
đến đề tài, sử dụng các phương pháp nghiên cứu của giải tích hàm, lý
thuyết toán tử.
6. Dự kiến đóng góp mới
Nghiên cứu và làm rõ được khái niệm dưới vi phân Clarke.
Tổng hợp, hệ thống một số kết quả đã được các nhà khoa học
nghiên cứu và công bố về dưới vi phân Clarke và ứng dụng.
1
Chương 1
Một số kiến thức chuẩn bị
Trong chương này, chúng ta sẽ trình bày những khái niệm cơ bản
nhất về không gian Banach, tôpô yếu, tô pô yếu*, hàm số khả vi trên
không gian Banach, hàm lồi và dưới vi phân của hàm lồi. Những kiến
thức trình bày trong chương này được chọn chủ yếu từ các tài liệu [1],

[2], [3], [4].
1.1 Không gian Banach
Định nghĩa 1.1.1. ([2], tr.11)Cho X là không gian tuyến tính trên
trường K. Hàm số thực g : X → R xác định trên X gọi là một sơ chuẩn
trên X, nếu với mọi x, y ∈ X và với mọi λ ≥ 0, ta đều có:
1) g (x + y) ≤ g (x) + g (y) ;
2) g (λx) = λg (x) .
Định nghĩa 1.1.2. ([1], tr.18) Cho X là không gian tuyến tính trên X
trên trường K. Một chuẩn trên X là một hàm x → x từ X vào R thoả
mãn các tiên đề sau đây với mọi x, y ∈ X, mọi λ ∈ R
i)x ≥ 0, x = 0 ⇔ x = 0;
ii) λx = |λ|x;
iii)x + y ≤ x + y.
2
Định nghĩa 1.1.3. ([1], tr.18) Một không gian định chuẩn là một không
gian vectơ cùng với một chuẩn trên nó.
Mệnh đề 1.1.1. Cho không gian định chuẩn X. Đối với hai vectơ bất
kỳ x, y ∈ X ta đặt
d (x, y) = x −y (1.1)
Khi đó d là một metric trên X.
Định nghĩa 1.1.4. Dãy điểm {x
n
} của không gian định chuẩn X gọi là
hội tụ tới điểm x ∈ X, nếu lim
n→∞
x
n
− x = 0, ký hiệu
lim
n→∞

x
n
= x hay x
n
→ x (n → ∞) .
Dựa vào định nghĩa, dễ dàng chứng minh một số tính chất sau đây:
1) Nếu dãy {x
n
} hội tụ tới x, thì dãy chuẩn {x
n
} hội tụ tới x. Hay
nói cách khác x là một hàm giá trị thực theo biến x.
2) Nếu dãy điểm {x
n
} hội tụ trong không gian định chuẩn X, thì dãy
chuẩn tương ứng {x
n
} bị chặn.
3) Nếu dãy điểm {x
n
} hội tụ tới x, dãy điểm {y
n
} hội tụ tới y trong
không gian định chuẩn X, dãy số{α
n
} hội tụ tới α thì
x
n
+ y
n

→ x + y (n → ∞) , α
n
x
n
→ αx (n → ∞) .
Định nghĩa 1.1.5. Dãy điểm {x
n
} trong không gian định chuẩn X gọi
là dãy cơ bản, nếu lim
m,n→∞
x
n
− x
m
 = 0.
Định nghĩa 1.1.6. Không gian định chuẩn X gọi là không gian Banach,
nếu mọi dãy cơ bản trong X đều hội tụ
Ví dụ 1.1.2. Đối với số thực bất kì x ∈ R, ta đặt
x = |x| (1.2)
Nhờ các tính chất về giá trị tuyệt đối của số thực, công thức (1.2) cho
một chuẩn trên R. Không gian định chuẩn tương ứng ký hiệu là R
1
. Dễ
dàng thấy R
1
là không gian Banach.
3
1.2 Tôpô yếu và tôpô yếu*
1.2.1 Tô pô
Định nghĩa 1.2.1. ([1], tr.9) Cho X là một tập. Họ τ các tập con của

X gọi là một tôpô trên X nếu
(i) ∅ ∈ τ, X ∈ τ;
(ii) Nếu U
i
∈ τ, i ∈ I thì ∪U
i
∈ τ;
(iii) Nếu U, V ∈ τ thì U ∩ V ∈ τ.
Định nghĩa 1.2.2. ([1], tr.9) Không gian tôpô X = (X, τ ) là một tập
X cùng với một tôpô τ trên nó.
Định nghĩa 1.2.3. ([1], tr.9) Không gian tôpô X gọi là tách nếu mọi
cặp điểm khác nhau x, y ∈ X, tồn tại hai tập mở không giao nhau U, V
sao cho x ∈ U, y ∈ V .
Định nghĩa 1.2.4. ([1], tr.9) Cho X là một không gian tôpô. Tập con
U ⊂ X gọi là một lân cận của điểm x ⊂ X nếu tồn tại tập mở G sao
cho x ∈ G ⊂ X.
Định nghĩa 1.2.5. ([1], tr.11) Cho X và Y là hai không gian tôpô và
ánh xạ f : X → Y . Ánh xạ f được gọi là liên tục tại x ∈ X nếu với mọi
lân cận V của f (x) trong Y tồn tại lân cận U của x trong X sao cho
f (U) ⊂ V .
Định nghĩa 1.2.6. ([1], tr.14) Cho X là một không gian tôpô. Một họ
{X
α
}
α∈I
các tập mở của X gọi là phủ mở của X nếu {∪X
α
}
α∈I
= X.

Định nghĩa 1.2.7. ([1], tr.14) Không gian X được gọi là compăc nếu
mọi phủ mở {X
α
}
α∈I
tồn tại tập con hữu hạn J ⊂ I sao cho {X
α
}
α∈J
cũng là một phủ mở của X.
4
Định nghĩa 1.2.8. ([1], tr.14) Tập con A ⊂ X gọi là compăc nếu nó
compăc đối với tôpô cảm sinh.
Mệnh đề 1.2.1. ([1], tr.33) Giả sử X và Y là các không gian Banach.
Ký hiệu L (X, Y ) là không gian các ánh xạ tuyến tính liên tục từ X vào
Y . Khi đó với mọi f ∈ L (X, Y ) ta có
f = sup
x=0
f(x)
x
= sup
x≤1
f (x) = sup
x=1
f (x).
Định nghĩa 1.2.9. ([1], tr.35) Không gian L (X, K) = X
∗
được gọi là
không gian liên hợp hay đối ngẫu của X. Không gian liên hợp của X
∗

gọi là không gian liên hợp thứ hai của X và kí hiệu là X
∗∗
.
Định nghĩa 1.2.10. Không gian tôpô X được gọi là lồi địa phương, nếu
trong nó mỗi tập mở không rỗng chứa một tập con mở lồi không rỗng.
1.2.2 Tôpô yếu và tôpô yếu*
Định lí 1.2.2. Không gian X
∗
và chuẩn xác định bởi
x = sup {x
∗
(x) : x ∈ X, x = 0}
là một không gian Banach.
Định nghĩa 1.2.11. Tôpô τ sinh bởi metric của X
∗
trong định lí trên
gọi là tôpô mạnh trong X
∗
.
Định nghĩa 1.2.12. Tôpô τ trong X
∗
gọi là tôpô yếu nếu hệ thống các
lân cận của θ ∈ X
∗
là các tập có dạng
{x
∗
∈ X : x
∗∗
i

(x
∗
) < ε}
trong đó x
∗∗
i
∈ X
∗∗
và ε > 0.
Định nghĩa 1.2.13. Tôpô τ
∗
trong X
∗
gọi là tôpô yếu* nếu hệ thống
các lân cận của θ ∈ X
∗
là các tập có dạng
5

x
∗
∈ X : x
∗
(x
i
) < ε, i = 1, k

trong đó x
i
∈ X và ε > 0.

Định nghĩa 1.2.14. Tập A ⊂ X đóng (bị chặn, compăc) theo tôpô yếu
trong X được gọi là tập đóng yếu (tương ứng bị chặn, compăc yếu). Tập
A đóng (bị chặn, compăc) theo tôpô yếu* trong X
∗
thì gọi là đóng yếu*
(tương ứng bị chặn, compăc yếu*).
Định nghĩa 1.2.15. ([5], tr.273) Dãy phần tử {x
n
} của X gọi là hội tụ
yếu tới phần tử x
0
của X, nếu với phiếm hàm tuyến tính liên tục bất kỳ
ϕ (x) trên X, dãy số {ϕ (x
n
)} hội tụ tới ϕ (x
0
).
Mệnh đề 1.2.3. ([5], tr.273) Nếu {x
n
} là dãy hội tụ yếu trong không
gian định chuẩn thì tồn tại một hằng số C sao cho
x
n
 ≤ C.
Nói một cách khác, mỗi dãy hội tụ yếu trong không gian định chuẩn thì
bị chặn.
Định nghĩa 1.2.16. ([5], tr.279) Dãy các phiếm hàm {f
n
} đi từ X vào
R được gọi là hội tụ yếu đến f ∈ X

∗
, nếu với mỗi x ∈ X có hệ thức
f
n
(x) → f (x) .
Định lí 1.2.4. ([5], tr.279) Nếu {f
n
} là một dãy hội tụ yếu các phiếm
hàm tuyến tính trên không gian Banach thì tồn tại hằng số C sao cho
f
n
 ≤ C, n = 1, 2
1.3 Hàm số khả vi trên không gian Banach
Giả sử X là không gian Banach, f : X → R .
6
Định nghĩa 1.3.1. a) Hàm f được gọi là hàm Lipschitz địa phương tại
x ∈ X, hay Lipschitz ở gần x, nếu tồn tại lân cận U của x , số K > 0
sao cho:
(∀x, x

∈ U) |f (x) −f (x

)| ≤ K x − x

. (1.3)
Hàm f được gọi là hàm Lipschitz địa phương trên tập Y ⊂ X, nếu f
Lipschitz địa phương tại mọi x ∈ Y .
b) Hàm f được gọi là hàm Lipschitz với hằng số K trên tập Y ⊂ X, nếu
(1.3) đúng với mọi x, x


∈ Y .
Mệnh đề 1.3.1. Giả sử f là hàm Lipschitz địa phương trên tập lồi
U ⊂ X. Khi đó, với mọi x, x

∈ U, hàm số φ (t) := f (x + t (x

− x)) (0 ≤ t ≤ 1)
có đạo hàm hầu khắp nơi.
Mệnh đề 1.3.2. Giả sử f là hàm Lipschitz trên tập lồi U ⊂ X. Khi đó,
với mọi
x, x

∈ U : f (x

) −f (x) =
1

0
φ

(t) dt (1.4)
trong đó φ (t) = f (x + t (x

− x)) (0 ≤ t ≤ 1).
Giả sử F là ánh xạ X → Y , trong đó X và Y là các không gian
Banach. Ký hiệu L (X, Y ) là không gian các toán tử tuyến tính liên tục
từ X vào Y .
Định nghĩa 1.3.2. Ánh xạ F được gọi là khả vi Gâteaux tại x, nếu tồn
tại ϑ ∈ L (X, Y ) sao cho với mỗi v ∈ X,
F (x + tv) = F (x) + tϑv + 0 (t) . (1.5)

Khi đó, ta gọi ϑ là đạo hàm Gâteaux tại .
7
Mệnh đề 1.3.3. Nếu ánh xạ F khả vi Gâteaux tại x, thì
F (x + tv) −F (x)
t
− ϑv → 0 (1.6)
sự hội tụ này là đồng đều theo v trên tập hữu hạn ( với v tuỳ ý thuộc H
hữu hạn).
Định nghĩa 1.3.3. Ánh xạ F được gọi là khả vi Hadamard tại x, nếu
tồn tại ϑ ∈ L (X, Y ) sao cho với mỗi (1.5) đúng và (1.6) hội tụ đồng đều
theo v trên các tập compăc.
Ví dụ 1.3.4. Cho X = R
2
f (x, y) = x
Khi đó f khả vi Gâteaux tại (0; 0), nhưng không liên tục và không khả
vi Fréchet tại (0; 0).
Định nghĩa 1.3.4. Ánh xạ F được gọi là Lipschitz địa phương tại x,
nếu tồn tại số γ > 0 và số K > 0 sao cho:



F (x

) −F

x






Y
≤ k



x

− x




X

∀x

, x

∈ x + γB

(1.7)
trong đó B là hình cầu đơn vị mở.
Mệnh đề 1.3.5. Nếu ánh xạ F là Lipschitz địa phương tại x thì khái
niệm khả vi theo Hadamard và Gâteaux là trùng nhau.
Định nghĩa 1.3.5. Ánh xạ F được gọi là có đạo hàm chặt Hadamard
tại x: D
s
F (x) ∈ L (X, Y ), nếu với mọi v giới hạn sau đây tồn tại:
lim

x→x
t→0
F (x + tv) −F (x)
t
= D
s
F (x) v
trong đó sự hội tụ là đồng đều theo v trên các tập compăc.
8
Định lí 1.3.6. (Định lí giá trị trung bình [4], tr.34) Giả sử x, y ∈ X, f
là Lipschitz trên tập mở chứa đoạn [x; y]. Khi đó, tồn tại u ∈ (x; y) sao
cho:
f (y) − f (x) ∈ ∂f (u) , y −x
Định lí 1.3.7. ( Định lí Hahn-Banach [2], tr.55) Giả sử X là một không
gian tuyến tính thực, U là không gian con tuyến tính của X, g là một
sơ chuẩn trên X, z
∗
là một phiếm hàm tuyến tính thực trên U sao cho:
z
∗
(x) ≤ g (x) , ∀x ∈ U.
Khi đó, tồn tại một phiếm hàm tuyến tính thực x
∗
trên X sao cho
x
∗
|
U
= z
∗

và x
∗
(x) ≤ g (x) , ∀x ∈ X.
1.4 Hàm lồi và dưới vi phân của hàm lồi
1.4.1 Tập lồi
Cho X là không gian Banach; x, y ∈ X. Đoạn thẳng nối hai điểm x và
y , ký hiệu [x, y], là tập hợp tất cả các điểm z = tx + (1 −t)y, ∀t ∈ [0; 1].
Định nghĩa 1.4.1. ([4], tr.3) Tập A ⊂ X được gọi là lồi nếu
λx + (1 − λ)y ∈ A, ∀x, y ∈ A, ∀λ ∈ [0; 1].
Theo định nghĩa, tập ∅ được xem là tập lồi.
Mệnh đề 1.4.1. ([4], tr.4) Cho I là tập chỉ số bất kì. Nếu các tập
A
α
⊂ X (α ∈ I) là lồi thì A =
∩
α∈I
A
α
cũng là tập lồi.
Mệnh đề 1.4.2. ([4], tr.4) Cho A và B là những tập lồi trong X, α ∈ R,
λ ∈ R. Khi đó:
(i) Z := αA + λB là tập lồi.
(ii) Tích đề các A × B là tập lồi.
9
Mệnh đề 1.4.3. ([4], tr.5) Giả sử X, Y là các không gian Banach,
f : X → Y là toán tử tuyến tính. Khi đó:
(i) Nếu A ⊂ X lồi thì f (A) cũng lồi.
(ii) Nếu B lồi thì nghịch ảnh f
−1
(B) cũng lồi.

Định nghĩa 1.4.2. ([4], tr.5) Vectơ x ∈ X được gọi là một tổ hợp lồi
của các vectơ x
1
, , x
m
∈ X nếu tồn tại λ
1
≥ 0, , λ
m
≥ 0 sao cho
x = λ
1
x
1
+ λ
m
x
m
và λ
1
+ + λ
m
= 1.
Định nghĩa 1.4.3. ([4], tr.6) Giả sử A ⊂ X. Giao của tất cả các tập
lồi trong X chứa A được gọi là bao lồi của tập A. Ký hiệu coA.
Nhận xét 1.4.4. ([4], tr.6) coA là một tập lồi. Đó là tập lồi nhỏ nhất
chứa A. Nếu A lồi thì A = coA .
Định lí 1.4.5. ([4], tr.6) Tập coA là tập hợp tất cả các tổ hợp lồi những
phần tử của A ⊂ X.
Ví dụ 1.4.6. Bao lồi của ba điểm phân biệt trong R

2
là tam giác nhận
ba điểm đó làm đỉnh.
Mệnh đề 1.4.7. ([4], tr. 7) Tập A lồi khi và chỉ khi chứa tất cả các tổ
hợp lồi của A.
Định nghĩa 1.4.4. ([4], tr.7) Giả sử A ⊂ X. Giao của tất cả các tập
lồi, đóng trong X mà chứa A được gọi là bao lồi đóng của tập A, ký
hiệu là coA.
Nhận xét 1.4.8. coA là một tập lồi đóng. Đó là tập lồi nhỏ nhất chứa
A.
Mệnh đề 1.4.9. ([4], tr.7) Giả sử A ⊂ X là một tập lồi. Khi đó
a) Phần trong intA và bao đóng A của A là các tập lồi.
b) Nếu x
1
∈ intA, x
2
∈ A thì
10
(x
1
, x
2
) = {λx
1
+ (1 − λ) x
2
: 0 < λ < 1} ⊂ intA.
Nói riêng, nếu intA = ∅ thì A = intA, intA = intA.
Định lí 1.4.10. (Carathéodory) ([4] tr. 17) Nếu A ⊂ R
n

thì mọi phần
tử của coA là một tổ hợp lồi của nhiều nhất n + 1 điểm của A.
1.4.2 Hàm lồi
Giả sử X là không gian lồi địa phương, D ⊂ X, f : D → R ∪{±∞}.
Định nghĩa 1.4.5. ([4], tr.38) Trên đồ thị của hàm f, ký hiệu là epif,
được định nghĩa như sau:
epi (f) = {(x, r) ∈ D ×R/f (x) ≤ r}.
Định nghĩa 1.4.6. ([4], tr.38) Miền hữu hiệu của hàm f, ký hiệu là
domf, được định nghĩa như sau:
domf = {x ∈ D : f (x) < +∞}.
Định nghĩa 1.4.7. ([4], tr.38) Hàm f được gọi là chính thường nếu
domf = ∅ và f (x) > −∞(∀x ∈ D).
Định nghĩa 1.4.8. Hàm f được gọi là lồi trên D, nếu epif là tập lồi
trong X ×R. Hàm f được gọi là lõm trên D, nếu −f là hàm lồi trên D.
Ví dụ 1.4.11. Hàm hằng f : X → R, f (x) = α (x ∈ X) là hàm lồi.
Ví dụ 1.4.12. Hàm f : R → R, f (x) = x
3
là một hàm không lồi trên
R. Thật vậy, với x = −1, y = 0, t =
1
2
ta có
f (tx + (1 − t) y) = −
1
8
, tf (x) + (1 − t) f (y) = −
1
2
.
Chứng tỏ

f (tx + (1 − t) y) > tf (x) + (1 −t) f (y) .
Do đó f (x) = x
3
là một hàm không lồi trên R.
Dễ thấy hàm f : R → R, f (x) = x
3
cũng không là hàm lõm trên R .
11
Định lí 1.4.13. ([4], tr.40) Giả sử D là tập lồi trong không gian X,
hàm f : D → (−∞; +∞). Khi đó, f lồi trên D khi và chỉ khi:
f (λx + (1 − λ) y) ≤ λf (x) + (1 −λ) f (y) (∀λ ∈ [0; 1] , ∀x, y ∈ D) .
Mệnh đề 1.4.14. Hàm f : D → R lồi khi và chỉ khi với mọi x
0
∈ D
cố định, với mọi y ∈ D, hàm số một biến ϕ (t) = f (x
0
+ tv) là hàm lồi
trên tập lồi
C := {t ∈ R : x
0
+ tv ∈ D}.
Định nghĩa 1.4.9. ([4], tr.45) Hàm f xác định trên X được gọi là thuần
nhất dương, nếu
∀x ∈ X, ∀λ ∈ (0; +∞) , f (λx) = λf (x) .
Định nghĩa 1.4.10. ([4], tr.45) Hàm f được gọi là đóng, nếu epif đóng
trong X × R.
Định nghĩa 1.4.11. ([4], tr.57) Hàm f được gọi là nửa dưới liên tục
dưới tại x ∈ X (với f (x) < +∞), nếu với mọi ε > 0, tồn tại lân cận U
của x sao cho:
f (x) − ε ≤ f (y) (∀y ∈ U) .

Định nghĩa 1.4.12. ([4], tr.57) Nếu f (x) = +∞, thì f được gọi là nửa
liên tục dưới tại x, nếu với mọi N > 0, tồn tại lân cận U của x sao cho:
f (y) ≥ N (∀y ∈ U) .
1.4.3 Dưới vi phân của hàm lồi
Định nghĩa 1.4.13. Đạo hàm của f theo phương v tại x, ký hiệu là
f

(x, v), được định nghĩa là giới hạn sau:
f

(x, v) := lim
λ→0
f (x + λv) −f (x)
λ
nếu giới hạn này tồn tại.
12
Định nghĩa 1.4.14. Giả sử f là hàm lồi trên X. Phiếm hàm x
∗
∈ X
∗
được gọi là dưới gradient của hàm f tại x ∈ X, nếu
f (x) − f (x) ≥ x
∗
, x − x(∀x ∈ X) .
Định nghĩa 1.4.15. Tập tất cả dưới gradient của f tại x được gọi là
dưới vi phân của hàm f tại x, kí hiệu là ∂
C
f (x), tức là:
∂
C

f (x) = {x
∗
∈ X : f (x) −f (x) ≥ x
∗
, x − x, ∀x ∈ X}. (1.8)
Ví dụ 1.4.15. Cho f (x) = |x|. Khi đó
∂f (0) = [−1; 1] ;
∂f (x) =

{1} , x > 0
{−1} , x < 0
.
Ví dụ 1.4.16. Cho f (x) = e
x
− 1. Khi đó
∂f (0) = [0; 1] ;
∂f (x) =

e
x
, x > 0
0 , x < 0
.
Định nghĩa 1.4.16. Hàm f được gọi là khả dưới vi phân tại x nếu tập
∂
C
f (x) = ∅.
Định nghĩa 1.4.17. ([4], tr.135) Hàm f xác định trên X được gọi là
lồi địa phương tại điểm x ∈ X, nếu đạo hàm theo phương f


(x, .) tồn
tại và lồi.
Định nghĩa 1.4.18. ([4], tr.135) Ánh xạ f : X → Y được gọi là khả vi
đồng đều theo phương v tại điểm x, nếu với mọi lân cận V của 0 trong Y ,
tồn tại lân cận U của v trong X và số λ
0
> 0 sao cho: ∀z ∈ U, ∀λ ∈ (0; λ
0
),
f (x + λv) −f (x)
λ
− f

(x; v) ∈ V. (1.9)
13
Mệnh đề 1.4.17. ([4], tr.135) Giả sử f : X → Y khả vi đồng đều theo
mọi phương v tại điểm x, thì đạo hàm theo phương f

(x; .) là ánh xạ liên
tục từ X vào Y .
Như vậy trong chương này tôi đã nêu ra nhiều kiến thức như đã nói
ở trên, ngoài ra còn đưa thêm vào các kiến thức về hàm lồi và các kiến
thức này sẽ được áp dụng vào chương sau nhằm hỗ trợ phần chứng minh
các định lý, mệnh đề, hệ quả.
14
Chương 2
Dưới vi phân Clarke
Chương này trình bày các định nghĩa và tính chất cơ bản của dưới vi
phân Clarke, các phép tính sơ cấp, nón tiếp tuyến và nón pháp tuyến.
2.1 Một số định nghĩa và những tính chất cơ bản

2.1.1 Khái niệm đạo hàm suy rộng theo phương
Giả sử X là không gian Banach, f : X → R là hàm Lipschitz địa
phương tại x ∈ X.
Định nghĩa 2.1.1. Đạo hàm suy rộng của hàm f theo phương v tại x,
ký hiệu là f
0
(x; v), được xác định như sau:
f
0
(x; v) = lim
x→x
t→0
f (x + tv) −f(x)
t
(2.1)
trong đó x ∈ X, t > 0 .
Định lí 2.1.1. ([4], tr.13) Giả sử hàm f Lipschitz địa phương với hằng
số Lipschitz K tại x ∈ X. Khi đó:
(i) Hàm v → f
0
(x; v) hữu hạn, thuần nhất dương, dưới cộng tính trên
X và


f
0
(x; v)


≤ K v;

(ii) f
0
(x; v) nửa liên tục trên theo (x; v), f
0
(x; .) Lipschitz (theo v) với
15
hằng số K trên X;
(iii) f
0
(x; −v) = −f
0
(x; v) .
Chứng minh. (i) Do f Lipschitz địa phương tại x với hằng số Lips-
chitz K, cho nên tồn tại lân cận U của x sao cho với mọi y, z ∈ U :
|f (y) − f (z)| ≤ K y − z. Do đó, từ (2.1) ta có:


f
0
(x; v)


≤ lim
y→x
t→0
sup
Ktv
t
= K v
bởi vì với t đủ nhỏ, y ∈ U thì y + tv ∈ U. Từ đó suy ra tính chất hữu

hạn của hàm f
0
(x; .).Với λ > 0 ta có:
f
0
(x; λv) = lim
y→x
t→0
sup
f (y + tv) −f (y)
t
= λ lim
y→x
t→0
sup
f (y + tλv) −f (y)
tλ
= λf
0
(x; v) .
Suy ra hàm f
0
(x; v) thuần nhất dương.
Bây giờ kiểm tra tính chất dưới cộng tính
f
0
(x; v + w) = lim
y→x
t→0
sup

f (y + tv + tw) − f (y)
t
≤ lim
y→x
t→0
sup
f (y + tv + tw) − f (y + tv)
t
+ lim
y→x
t→0
sup
f (y + tv) −f (y)
t
= f
0
(x; w) + f
0
(x; v) .
bởi vì y + tv → x khi y → x và t → 0 .
Lấy các dãy {x
i
} và {v
i
} hội tụ đến xvà v (tương ứng). Theo định nghĩa