Dưới vi phân của hàm lồi và một số ứng dụng trong tối ưu

✶
➜➵✐ ❤ä❝ t❤➳✐ ♥❣✉②➟♥
❚r➢ê♥❣ ➤➵✐ ❤ä❝ s➢ ♣❤➵♠
✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲ ✲
◆➠♥❣ ❚❤Þ ▼❛✐
❉➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ ❤➭♠ ❧å✐ ✈➭ ♠ét sè
ø♥❣ ❞ô♥❣ tr♦♥❣ tè✐ ➢✉
❈❤✉②➟♥ ♥❣➭♥❤✿ ●✐➯✐ tÝ❝❤
▼➲ sè✿✻✵✳✹✻✳✵✶
▲✉❐♥ ✈➝♥ t❤➵❝ sÜ t♦➳♥ ❤ä❝
◆❣➢ê✐ ❤➢í♥❣ ❞➱♥ ❦❤♦❛ ❤ä❝✿
●❙ ✲❚❙❑❍ ▲➟ ❉ò♥❣ ▼➢✉
❚❤➳✐ ♥❣✉②➟♥ ✲ ◆➝♠ ✷✵✵✽
✷
▼ô❝ ❧ô❝
❚r❛♥❣
❚r❛♥❣ ♣❤ô ❜×❛ ✶
▼ô❝ ❧ô❝ ✷
❉❛♥❤ ♠ô❝ ❝➳❝ ❦ý ❤✐Ö✉✱ ❝➳❝ ❝❤÷ ✈✐Õt t➽t ✸
▲ê✐ ♥ã✐ ➤➬✉ ✹
❈❤➢➡♥❣✶✳ ❈➳❝ ❦✐Õ♥ t❤ø❝ ❝➡ ❜➯♥ ✈Ò t❐♣ ❧å✐ ✈➭ ❤➭♠ ❧å✐ ✺
✶✳✶✳ ❚❐♣ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺
✶✳✷✳ ❍➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶
✶✳✷✳✶✳ ❍➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶
✶✳✷✳✷✳ ❚Ý♥❤ ❧✐➟♥ tô❝ ❝ñ❛ ❤➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✺
✶✳✷✳✸✳ ❈➳❝ ♣❤Ð♣ t♦➳♥ ❜➯♦ t♦➭♥ tÝ♥❤ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✺
✶✳✷✳✹✳ ❇✃t ➤➻♥❣ t❤ø❝ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✻
✶✳✷✳✺✳ ❍➭♠ ❧✐➟♥ ❤î♣ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✻
❈❤➢➡♥❣✷✳ ❉➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ ❤➭♠ ❧å✐ ✶✽
✷✳✶✳ ➜➵♦ ❤➭♠ t❤❡♦ ♣❤➢➡♥❣ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✽
✷✳✷✳ ❉➢í✐ ✈✐ ♣❤➞♥ ✈➭ ❝➳❝ tÝ♥❤ ❝❤✃t ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✷

✷✳✷✳✶✳ ❉➢í✐ ✈✐ ♣❤➞♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✷
✷✳✷✳✷✳ ❚Ý♥❤ ❦❤➯ ✈✐ ❝ñ❛ ❤➭♠ ❧å✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✸✵
✷✳✷✳✸✳ ❚Ý♥❤ ➤➡♥ ➤✐Ö✉ ❝ñ❛ ❞➢í✐ ✈✐ ♣❤➞♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✸✺
✷✳✷✳✹✳ ❚Ý♥❤ ❧✐➟♥ tô❝ ❝ñ❛ ❞➢í✐ ✈✐ ♣❤➞♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✸✾
✷✳✷✳✺✳ P❤Ð♣ tÝ♥❤ ✈í✐ ❞➢í✐ ➤➵♦ ❤➭♠ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✹✸
✷✳✸✳ ❉➢í✐ ✈✐ ♣❤➞♥ ①✃♣ ①Ø ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✹✺
❈❤➢➡♥❣✸✳ ▼ét sè ø♥❣ ❞ô♥❣ ❝ñ❛ ❞➢í✐ ✈✐ ♣❤➞♥ tr♦♥❣ tè✐ ➢✉ ❤♦➳ ✺✷
✸✳✶✳ ❈➳❝ ❦❤➳✐ ♥✐Ö♠ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺✷
✸✳✷✳ ❇➭✐ t♦➳♥ ❧å✐ ❦❤➠♥❣ ❝ã r➺♥❣ ❜✉é❝ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺✸
✸✳✸✳ ❇➭✐ t♦➳♥ ❧å✐ ✈í✐ r➺♥❣ ❜✉é❝ ➤➻♥❣ t❤ø❝ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺✸
✸✳✹✳ ❇➭✐ t♦➳♥ ❧å✐ ✈í✐ r➺♥❣ ❜✉é❝ ❜✃t ➤➻♥❣ t❤ø❝ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✺✹
❑Õt ❧✉❐♥ ✻✸
❚➭✐ ❧✐Ö✉ t❤❛♠ ❦❤➯♦ ✻✹
✸
❉❛♥❤ ♠ô❝ ❝➳❝ ❦ý ❤✐Ö✉✱ ❝➳❝ ❝❤÷ ✈✐Õt t➽t
❱í✐ ♥ ❧➭ sè ♥❣✉②➟♥ ❞➢➡♥❣✱ ❦ý ❤✐Ö✉✿
R
n
✿ ❦❤➠♥❣ ❣✐❛♥ ❊✉❝❧✐❞❡ ♥✲❝❤✐Ò✉ tr➟♥ tr➢ê♥❣ sè t❤ù❝❀
R
n
+
✿ ❣ã❝ ❦❤➠♥❣ ➞♠ ❝ñ❛ R
n
✭t❐♣ ❝➳❝ ✈Ð❝✲t➡ ❝ã ♠ä✐ t♦➵ ➤é ➤Ò✉ ❦❤➠♥❣ ➞♠ ✮❀
R✿ trô❝ sè t❤ù❝ (R = R
1
)❀
R✿ trô❝ sè t❤ù❝ ♠ë ré♥❣ (R = R ∪{−∞, +∞})❀
N✿ t❐♣ ❤î♣ sè ♥❣✉②➟♥ ❞➢➡♥❣❀

2
R
n
✿ t❐♣ ❤î♣ t✃t ❝➯ ❝➳❝ t❐♣ ❝♦♥ ❝ñ❛ R
n
❀
❱í✐ ♠ä✐ ✈Ð❝✲t➡ x, y ∈ R
n
✱ ❦ý ❤✐Ö✉✿
x
i
✿ t♦➵ ➤é t❤ø ✐ ❝ñ❛ ①❀
x
T
✿ ✈Ð❝✲t➡ ❤➭♥❣ ✭❝❤✉②Ó♥ ✈Þ ❝ñ❛ ①✮❀
x, y = x
T
y = xy :=

n
j=1
x
j
y
j
✿ tÝ❝❤ ✈➠ ❤➢í♥❣ ❝ñ❛ ❤❛✐ ✈Ð❝✲t➡ ① ✈➭ ②❀
||x|| =


n

j=1
x
2
j
✿ ❝❤✉➮♥ ❊✉❝❧✐❞❡ ❝ñ❛ ①❀
[x, y]✿ ➤♦➵♥ t❤➻♥❣ ➤ã♥❣ ♥è✐ ① ✈➭ ②❀
(x, y)✿ ➤♦➵♥ t❤➻♥❣ ♠ë ♥è✐ ① ✈➭ ②❀
❱í✐ t❐♣ A✱ ❦ý ❤✐Ö✉✿
A✿ ❜❛♦ ➤ã♥❣ ❝ñ❛ A❀
coA✿ ❜❛♦ ❧å✐ ❝ñ❛ A❀
aff A✿ ❜❛♦ ❛✲♣❤✐♥ ❝ñ❛ A❀
intA✿ t❐♣ ❤î♣ ❝➳❝ ➤✐Ó♠ tr♦♥❣ ❝ñ❛ A❀
ri A✿ t❐♣ ❤î♣ ❝➳❝ ➤✐Ó♠ tr♦♥❣ t➢➡♥❣ ➤è✐ ❝ñ❛ A❀
❱í✐ ❤➭♠ f ❝ñ❛ ♥ ❜✐Õ♥✱ ❦ý ❤✐Ö✉✿
f✿ ❤➭♠ ❜❛♦ ➤ã♥❣ ❝ñ❛ f❀
dom f✿ t❐♣ ❤÷✉ ❞ô♥❣ ❝ñ❛ f❀
f
∗
✿ ❤➭♠ ❧✐➟♥ ❤î♣ ❝ñ❛ f❀
epi f✿ tr➟♥ ➤å t❤Þ ❝ñ❛ f❀
∂f(x)✿ ❞➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ f t➵✐ ①❀
∂

f(x)✿ ✲ ❞➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ f t➵✐ ①❀
f(x) ❤♦➷❝ f

(x)✿ ➤➵♦ ❤➭♠ ❝ñ❛ f t➵✐ ①❀
f

(x, d)✿ ➤➵♦ ❤➭♠ t❤❡♦ ♣❤➢➡♥❣ d ❝ñ❛ f t➵✐ ①❀

ờ ó
tí ồ ột ộ q trọ tr tí tế ệ
tí ồ ứ ữ í tí ủ t ồ ồ
ớ ột ệ ủ tí ồ ở rộ
ề t trò ủ ớ
tr tí ệ ũ ó t q trọ trò ủ tr
tí ổ ể ớ ủ ồ ó rt ề ứ ụ tr
tí tế ệt tr ộ t ứ ụ tố
t tứ ế
ụ í ủ trì ột ó ệ tố ế tứ
q trọ t ề ớ ủ ồ ét ột số ứ
ụ ể ì ủ ớ tr tố
ồ r sẽ trì ữ ế tứ
ề t ồ ồ ế tứ ổ trợ
ó sẽ ợ ứ tr r sẽ ề
ề t ớ ớ ỉ ột số tí
t ủ ú ự tr ết q ứ tr
trớ tr sẽ trì ề ệ ự trị t q
ồ ớ r ộ r ộ r ộ
tứ r ộ t tứ
ợ t ớ sự ớ ọ ủ
ũ t t ớ
ộ ế í ọ t ứ ể t


ế tứ ề t ồ
ồ
r ú t sẽ ệ ớ ề tr
trờ số tự R ợ í ệ R

n

ớ tệ ữ ệ t ủ t ồ ồ ù ớ ữ
tí t tr ủ ó ế tứ ở tr ợ ở t
ệ
trì tí ồ ứ ụ ủ t ũ
ễ ề
ố ss ủ t r
ỉ tí t ổ trợ t ứ
ết q ở
ồ
ị ĩ t ố ể tr R
n
t ợ
ét ó
{x R
n
| x = a + b , 0 , 0 , + = 1}.
ị ĩ ột t C R
n
ợ ọ ột t ồ ế C ứ ọ
t q ể t ỳ ủ ó ứ
C ồ ỉ x, y C, [0, 1] = x + (1 )y C.

✻
❱Ý ❞ô ✶✳✶✳ ✭❱Ò t❐♣ ❧å✐✮✳
❛✮ ❚❐♣ C = R
2
+
❧➭ t❐♣ ❧å✐✳

❜✮ ❚❐♣ C = [−2; 3) ❧➭ t❐♣ ❧å✐✳
❝✮ ❚❐♣ C ≡ oxy tr♦♥❣ R
3
❧➭ t❐♣ ❧å✐✳
❞✮ ❈➳❝ t❛♠ ❣✐➳❝✱ ❤×♥❤ trß♥ tr♦♥❣ ♠➷t ♣❤➻♥❣ ❧➭ ❝➳❝ t❐♣ ❧å✐✳
❱Ý ❞ô ✶✳✷✳ ✭❱Ò t❐♣ ❦❤➠♥❣ ❧å✐✮✳
❛✮ ❚❐♣ C = (−2; 0) ∪ (0; 3) ❦❤➠♥❣ ❧➭ t❐♣ ❧å✐✳
❜✮ ❚❐♣ C = {(x, y) ∈ R
2
| xy = 0} ❦❤➠♥❣ ❧➭ t❐♣ ❧å✐✳
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✸✳ ❚❛ ♥ã✐ ① ❧➭ tæ ❤î♣ ❧å✐ ❝ñ❛ ❝➳❝ ➤✐Ó♠ ✭✈Ð❝✲t➡✮ x
1
, ..., x
k
♥Õ✉
x =
k

j=1
λ
j
x
j
, λ
j
 0 , ∀j = 1, ..., k ,
k

j=1
λ

j
= 1.
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✹✳ ❙✐➟✉ ♣❤➻♥❣ tr♦♥❣ ❦❤➠♥❣ ❣✐❛♥ R
n
❧➭ ♠ét t❐♣ ❤î♣ ❝➳❝ ➤✐Ó♠
❝ã ❞➵♥❣
{x ∈ R
n
| a
T
x = α},
tr♦♥❣ ➤ã a ∈ R
n
❧➭ ♠ét ✈Ð❝✲t➡ ❦❤➳❝ ✵ ✈➭ α ∈ R✳
❱Ð❝✲t➡ ❛ t❤➢ê♥❣ ➤➢î❝ ❣ä✐ ❧➭ ✈Ð❝✲t➡ ♣❤➳♣ t✉②Õ♥ ❝ñ❛ s✐➟✉ ♣❤➻♥❣✳ ▼ét s✐➟✉
♣❤➻♥❣ sÏ ❝❤✐❛ ❦❤➠♥❣ ❣✐❛♥ r❛ ❤❛✐ ♥ö❛ ❦❤➠♥❣ ❣✐❛♥✳ ◆ö❛ ❦❤➠♥❣ ❣✐❛♥ ➤➢î❝ ➤Þ♥❤
♥❣❤Ü❛ ♥❤➢ s❛✉✿
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✺✳ ◆ö❛ ❦❤➠♥❣ ❣✐❛♥ ❧➭ ♠ét t❐♣ ❤î♣ ❝ã ❞➵♥❣
{x | a
T
x  α},
tr♦♥❣ ➤ã a = 0 ✈➭ α ∈ R✳ ➜➞② ❧➭ ♥ö❛ ❦❤➠♥❣ ❣✐❛♥ ➤ã♥❣✳
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✻✳ ❈❤♦ C ⊆ R
n
❧➭ ♠ét t❐♣ ❧å✐ ✈➭ x ∈ C✳ ❚❐♣
N
C
(x) := {ω | ω, y − x  0 , ∀y ∈ C},
➤➢î❝ ❣ä✐ ❧➭ ♥ã♥ ♣❤➳♣ t✉②Õ♥ ♥❣♦➭✐ ❝ñ❛ C t➵✐ ①✳
◆❤❐♥ ①Ðt✳ N

C
(x) ❧➭ ♠ét ♥ã♥ ❧å✐ ➤ã♥❣✳

í ụ r R
2
ét t C = R
2
+

N
C
(0) = { | , y 0 0 , y C}
= { |
2

i=1

i
y
i
0}
= { |
i
0}.
ị ĩ ột ể a C ợ ọ ể tr t ố ủ C
ế ó ể tr ủ C t t s ở a C
sẽ ý ệ t ợ ể tr t ố ủ C ri C ị
ĩ tr t ó
ri C := {a C | B : (a + B) a C C},
tr ó B ột ở ủ ố ể

ri C := {a a C | B : (a + B) a C C}.
tờ ệ t ý ệ C ó ủ C ợ C \ ri C ợ
ọ t ố ủ C
ệ ề C R
n
ột t ồ sử x ri C ó ớ ọ
y C tt ể tr t ố ó tể trừ ề tộ
ri C ó ớ ọ 0 < 1 tì (1 ) ri C + C ri C
ị ĩ ột ờ t ố ể ét tr R
n

t ợ tt ét x R
n
ó
{x R
n
| x = a + b , , R , + = 1}.
ị ĩ ột t C ợ ọ t ế ó ứ ọ ờ
t q ể t ỳ ủ ó tứ
x, y C , R = x + (1 )y C.
í ụ ề t
C = R
2
t ột t

ét ột trờ ợ r ủ t ồ
ị ĩ ồ ủ ột t E ủ tt t ồ ứ
E ồ ủ ột t E sẽ ợ ý ệ coE
ồ ó ủ ột t E t ồ ó ỏ t ứ E sẽ ý
ệ ồ ó ủ ột t E coE

ủ E ủ tt t ứ E
ủ ột t E sẽ ợ ý ệ a E
ị ĩ E R
n

ể ợ ọ ể tr ủ E ế tồ t ột ở U(a)
ủ s U(a) E
ý ệ t ợ ể tr ủ t E intE B q
ị t ở ố ó t ị ĩ t ó
intE = {x | r > 0 : x + rB E}.
ể ợ ọ ể ủ E ế ọ ủ ề ó ể
tộ E ể tộ E
E ợ ọ t ở ế ọ ể ủ E ề ể tr ủ E
E ợ ọ t ó ế E ứ ọ ể ủ ó
E ợ ọ ị ế tồ t ột ì ứ E
r R
n
t E ợ ọ t ế E ột t ó ị
ị ĩ ột t ồ
ột t F C ợ ọ ột ệ ủ ột t ồ C ế
F t ồ x, y C , tx + (1 t)y F , 0 < t < 1 = [x, y] F.
í ụ C := {(x, y, z) R
3
| x, y, z [0, 1]}
F
1
:= {(x, y, z) R
3
| x, y [0, 1], z = 0} ột ệ ủ t C
F

2
:= {(x, y, z) R
3
| y [0, 1], x = 1, z = 0} ột ệ ủ t
C
ể ự ệ ó tứ ề

ị ĩ x
0
C ó a
T
x = s tự ủ C t
x
0
ế
a
T
x
0
= , a
T
x x C.
s tự ủ C t x
0
C s q x
0
ể
t C ề ột í ử a
T
x tr ị ĩ tr ợ ọ

ử tự ủ C t x
0

ị ý r
ọ t ồ ó rỗ ứ ờ t ề ó ể ự

ị ý ỉ tế tí t ồ
ọ t ồ ó rỗ trù ớ t ộ ề
ủ tt ử tự ủ ó
ị ĩ t C D rỗ
ó s a
T
x = t C D ế
a
T
x a
T
y , x C , y D.
ó s a
T
x = t t C D ế
a
T
x < < a
T
y , x C , y D.
ó s a
T
x = t C D ế
Sup

xC
a
T
x < < inf
yD
a
T
y.
í ụ t t
t
C = {(x, y) R
2
| x
2
+ y
2
1},

D = {(x, y) R
2
| 1 x 1, 1 y 3}.
ó
✶✵
✰ C ✈➭ D ❦❤➳❝ rç♥❣✳
✰ C, D t➳❝❤ ➤➢î❝ ✈× tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣ (0, 1)(x, y) = 1 t❤♦➯ ♠➲♥
(0, 1)(x, y)  1  (0, 1)(x

, y

) ∀(x, y) ∈ C,∀(x


, y

) ∈ D.
❍❛②
y  1  y

∀(x, y) ∈ C,∀(x

, y

) ∈ D.
✰ C, D ❦❤➠♥❣ t➳❝❤ ❝❤➷t ➤➢î❝ ✈× ❦❤➠♥❣ tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣
(a
1
, a
2
)(x, y) = α ♥➭♦ t❤♦➯ ♠➲♥
(a
1
, a
2
)(x, y) < α < (a
1
, a
2
)(x

, y


) ∀(x, y) ∈ C,∀(x

, y

) ∈ D.
❱Ý ❞ô ✶✳✼✳ ✭❚➳❝❤ ♥❤➢♥❣ ❦❤➠♥❣ t➳❝❤ ♠➵♥❤✮✳
❈❤♦ t❐♣
C = {(x, y) ∈ R
2
| x  0, y = 0},
✈➭
D = {(x, y) ∈ R
2
| y 
1
x
, y > 0, x > 0}.
❚❛ ❝ã✿
✰ C ✈➭ D ❦❤➳❝ rç♥❣✳
✰ C, D t➳❝❤ ➤➢î❝ ✈× tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣ (0, 1)(x, y) = 0 t❤♦➯ ♠➲♥
(0, 1)(x, y) = 0  (0, 1)(x

, y

) ∀(x, y) ∈ C,∀(x

, y

) ∈ D.
❍❛②

y = 0  y

∀(x, y) ∈ C,∀(x

, y

) ∈ D.
✰ C, D ❦❤➠♥❣ t➳❝❤ ♠➵♥❤ ➤➢î❝ ✈×
Sup
(x,y)∈C
(0, 1)(x, y) = 0,
inf
(x

,y

)∈D
(0, 1)(x

, y

) = 0.
➜Þ♥❤ ❧ý ✶✳✸✳ ✭➜Þ♥❤ ❧ý t➳❝❤ ✶✮✳
❈❤♦ C ✈➭ D ❧➭ ❤❛✐ t❐♣ ❧å✐ ❦❤➳❝ rç♥❣ tr♦♥❣ R
n
s❛♦ ❝❤♦ C ∩ D = ∅✳ ❑❤✐
➤ã ❝ã ♠ét s✐➟✉ ♣❤➻♥❣ t➳❝❤ C ✈➭ D✳

ệ q ổ ề tộ
C R

n
ột t ồ rỗ sử x
0
C ó tồ t
t R
n
, t = 0 t
t, x t, x
0
x C.
ị ý ị ý t
C D t ồ ó rỗ s C D = sử
ó ít t ột t ó t ó tể t ợ ở
ột s
ệ q C R
n
ột t ồ ó rỗ s 0 C
ó tồ t ột ét t R
n
, t = 0 > 0 s
t, x > 0 , x C.
ồ
ồ
C R
n
f : C R {, +} sẽ í ệ
dom f := {x C | f(x) < +} dom f ợ ọ ề ữ
ụ ủ f
epi f := {(x, à) C ì R | f(x) à} epi f ợ ọ tr ồ tị
ủ f

f(x) = + ế x C t ó tể f ợ ị
tr t ể
dom f := {x R
n
| f(x) < +}.
epi f := {(x, à) R
n
ì R | f(x) à}.
ị ĩ = C R
n
ồ f : C R {, +}
ó f ồ tr C ế epi f ột t ồ tr R
n+1

t sẽ ủ ế ệ ớ f : R
n
R {+}r
trờ ợ ị ĩ tr t ớ
✶✷
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ tr➟♥ C ♥Õ✉
f[λx + (1 − λ)y]  λf(x) + (1 − λ)f(y) , ∀x, y ∈ C , ∀λ ∈ (0, 1)
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ ❝❤➷t tr➟♥ C ♥Õ✉
f[λx + (1 − λ)y] < λf(x) + (1 − λ)f(y) , ∀x, y ∈ C , ∀λ ∈ (0, 1)
❍➭♠ f : R
n
−→ R ∪ {+∞} ❧➭ ❤➭♠ ❧å✐ ♠➵♥❤ tr➟♥ C ✈í✐ ❤Ö sè ❧å✐ η > 0

♥Õ✉
f[λx + (1 − λ)y]  λf(x) + (1 − λ)f(y) −
1
2
ηλ(1 − λ)||x − y||
2
,
∀x, y ∈ C , ∀λ ∈ (0, 1).
❍➭♠ f ➤➢î❝ ❣ä✐ ❧➭ ♠ét ❤➭♠ ❧â♠ tr➟♥ C✱ ♥Õ✉ −f ❧➭ ❤➭♠ ❧å✐ tr➟♥ C✳
❱Ý ❞ô ✶✳✽✳ ❍➭♠ ❛✲♣❤✐♥✳ f(x) = a
T
x + α, a ∈ R
n
, α ∈ R
∀x, y ∈ R
n
,∀λ ∈ (0, 1)✱ t❛ ❝ã
f[λx + (1 − λ)y] = a
T
[λx + (1 − λ)y] + α
= λa
T
x + (1 − λ)a
T
y + α
= λa
T
x + λα + (1 − λ)a
T
y + (1 − λ)α

= λ(a
T
x + α) + (1 − λ)(a
T
y + α)
= λf(x) + (1 − λ)f(y).
❱❐② f ❧➭ ♠ét ❤➭♠ ❧å✐ tr➟♥ R
n
✳
∀x, y ∈ R
n
,∀λ ∈ (0, 1)✱ ❧➵✐ ❝ã
−f[λx + (1 − λ)y] = −a
T
[λx + (1 − λ)y] − α
= −λa
T
x − (1 − λ)a
T
y − α
= −λa
T
x − λα − (1 − λ)a
T
y − (1 − λ)α
= −λ(a
T
x + α) − (1 − λ)(a
T
y + α)

= −λf(x) − (1 − λ)f(y).
❱❐② −f ❧➭ ♠ét ❤➭♠ ❧å✐ tr➟♥ R
n
✳ ❙✉② r❛ f ❧➭ ♠ét ❤➭♠ ❧â♠ tr➟♥ R
n
✳

í ụ ỉ C = ột t ồ
t
C
(x) :=

0 ế x C,
+ ế x C.
ó
C
ỉ ủ C
x, y C, (0, 1) t ó
C
(x) = 0 ,
C
(y) = 0
C ồ x + (1 )y C
r
C
[x + (1 )y] = 0 =
C
(x) + (1 )
C
(y)

x C,y C, (0, 1) t ó

C
(x) = 0 ,
C
(y) = + ,
C
[x + (1 )y] +
r
C
[x + (1 )y]
C
(x) + (1 )
C
(y)
x, y C, (0, 1) t ó

C
(x) = + ,
C
(y) = + ,
C
[x + (1 )y] +
r
C
[x + (1 )y]
C
(x) + (1 )
C
(y)

C
ồ tr R
n

í ụ tự
t S
C
(y) := Sup
xC
y, x ó S
C
tự ủ C
x, y C, (0, 1) t ó
S
C
[x + (1 )y] = Sup
zC
x + (1 )y, z
= Sup
zC
{x, z + (1 )y, z}
Sup
zC
x, z + Sup
zC
(1 )y, z
= Sup
zC
x, z + (1 ) Sup

zC
y, z
= S
C
(x) + (1 )S
C
(y).
S
C
ồ tr C
ị ĩ f : R
n
R {+} t tết ồ
C R
n
ột t ồ rỗ ột số tự
ó ệ số ồ ủ f tr C ế ớ ọ (0, 1) ớ ọ
x, y C t ó
f[(1 )x + y] (1 )f(x) + f(y)
1
2
(1 )||x y||
2
.

ế = 0 tì f ồ tr C
ế f ó ệ số ồ tr C > 0 tì f ồ tr C ớ ệ số
ị ĩ ột f : R
n
R{+} ợ ọ í tờ

ế dom f = f(x) > ớ ọ
ị ĩ f : R
n
R {+} ợ ọ ó ế epi f
ột t ó tr R
n+1
ú ý ế f ột ồ tr ột t ồ C tì ó tể t trể
f t t
f
e
(x) =

f(x) ế x C,
+ ế x C.
ể f
e
(x) = f(x) ớ ọ x C f
e
ồ tr R
n
ữ f
e
í tờ ỉ f í tờ tự f
e
ó ỉ
f ó
ế f ột ồ tr R
n
tì dom f ột t ồ ì dom f í
ì ế tr R

n
ủ epi f tứ
dom f = {x|à R : (x, à) epi f}.
ị ĩ f : R
n
R {+}
f ợ ọ t t tr R
n
ế
f(x) = f(x) x R
n
, > 0.
f ợ ọ ớ ộ tí ế f(x + y) f(x) + f(y) x, y
f ợ ọ ớ tế tí ế f t t ớ
ộ tí
í ụ f(x) = x ớ tế tí t
x R
n
, > 0 t ó f(x) = x = ||.x = x = f(x)
x, y R
n
t ó f(x + y) = x + y x + y = f(x) + f(y)
ệ ề f : R
n
R {+} ột t t
tr R
n

ó ồ ỉ ớ ộ tí

í tụ ủ ồ
ị ĩ f : E R {, +}
f ợ ọ ử tụ ớ t ột ể x E ế ớ ọ
{x
k
} E, x
k
x t ó
lim inf f(x
k
) f(x).
f ợ ọ ử tụ tr t x E ế f ử tụ
ớ t x E f ử tụ tr t x E ế ớ ọ
{x
k
} E, x
k
x t ó
lim sup f(x
k
) f(x).
f ợ ọ tụ t x E ế ó ừ ử tụ tr
ử tụ ớ t x E
f ợ ọ ử tụ ớ tr E ế ó ử tụ ớ t
ọ ể tộ E
f ợ ọ ử tụ tr tr E ế ó ử tụ tr t
ọ ể tộ E
f ợ ọ tụ tr E ế ó ử tụ tr ử tụ
ớ tr E
ị ĩ f g ị tr R

n

ó g ó ủ f ế epi g = epi f ó ủ f sẽ ợ
í ệ f epi f = epi f
f ợ ọ ó ế epi f = epi f
é t t tí ồ
ị ĩ sử {f

}
I
ột ọ tỳ ý số tr R
n

E R
n
tr ủ ọ tr coE ý ệ V
I
f


số ợ ị ĩ s
(V
I
f

)(x) := Sup
I
f

(x)

ớ ỗ x coE

ệ ề sử {f

}
I
ột ọ ồ tr R
n
E R
n

ó tr ủ ọ ột ồ tr coE
t tứ ồ
ị ĩ D R
n
ột t ồ f
1
, ..., f
m
ồ
tr R
n
ệ t tứ
x D, f
i
(x) <= 0, i I
ợ ọ ệ t tứ ồ tr ó t ỉ số ý ệ <= ó
tể ể <
ệ ề f
1

, ..., f
m
ồ ữ tr ột t ồ D =
ột tr tự k ì n sử b ri A(D) ó ệ
x D, Ax = b, f
i
(x) < 0 i = 1, .., m
ó ệ ỉ tồ t t R
k

i
0, i = 1, .., m s


m
i=1

i
= 1
t, Ax b +
m

i=1

i
f
i
(x) 0 x D.
ợ
ị ĩ f : R

n
[, +] ột t ỳ
f

(x

) := Sup{x

, x f(x) | x R
n
}
ợ ọ ợ ủ f
ú ý tờ ệ tr ị ĩ tr t q ớ tr ú
tr ột t rỗ ế f + tì f

r
ế f ó trị tì f

+
ể ỏ ệ ớ ợ ồ t + ồ
t t sẽ ế ệ ét ợ tr ớ ó tí
t s
f + tồ t ột ủ .
✶✼
❱Ý ❞ô ✶✳✶✷✳ ❳Ðt ❤➭♠ ❝❤Ø
δ
C
(x) =

0 ♥Õ✉ x ∈ C,

+∞ ♥Õ✉ x ∈ C.
❚❛ ❝ã✿
δ
∗
C
(x
∗
) := Sup
x∈R
n
{x
∗
, x − δ
C
(x)}
= Sup
x∈C
{x
∗
, x − δ
C
(x)}
= Sup
x∈C
{x
∗
, x − 0}
= Sup
x∈C
x

∗
, x
= S
C
(x
∗
).
▼Ö♥❤ ➤Ò ✶✳✺✳ ❱í✐ ♠ä✐ ❤➭♠ sè f✱ ❤➭♠ ❧✐➟♥ ❤î♣ f
∗
❧➭ ♠ét ❤➭♠ ❧å✐ ➤ã♥❣ t❤♦➯
♠➲♥ ❜✃t ➤➻♥❣ t❤ø❝ ❋❡♥❝❤❡❧ s❛✉✿
f
∗
(x
∗
)  x
∗
, x − f(x) ∀x,∀x
∗
.
❈❤ó ý ✶✳✸✳ ❚r♦♥❣ ♥❤✐Ò✉ tr➢ê♥❣ ❤î♣✱ t❛ q✉❛♥ t➞♠ ➤Õ♥ ❤➭♠ ❧✐➟♥ ❤î♣ t❤ø ❤❛✐✳
❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❤➭♠ ❧✐➟♥ ❤î♣ t❤×
f
∗∗
(x) := (f
∗
)
∗
(x) = Sup{x, s − f
∗

(s) | s ∈ R
n
}.
❍➭♠ ❧✐➟♥ ❤î♣ t❤ø ❤❛✐ t✃t ♥❤✐➟♥ ❧✉➠♥ ❧➭ ♠ét ❤➭♠ ❧å✐ ➤ã♥❣✳
▼Ö♥❤ ➤Ò ✶✳✻✳ ●✐➯ sö f ≡ +∞ ✈➭ tå♥ t➵✐ ♠ét ❤➭♠ ♥♦♥ ❛✲♣❤✐♥ ❝ñ❛ f✳ ❑❤✐ ➤ã
epi f
∗∗
= co(epi f).
❍Ö q✉➯ ✶✳✸✳ f ≡ f
∗∗
❦❤✐ ✈➭ ❝❤Ø ❦❤✐ f ❧➭ ❤➭♠ ❧å✐✱ ➤ã♥❣✳
➜Þ♥❤ ♥❣❤Ü❛ ✶✳✷✺✳ ❍➭♠ l ❧➭ ❤➭♠ ♥♦♥ ❛✲♣❤✐♥ ❝ñ❛ ♠ét ❤➭♠ f tr➟♥ R
n
♥Õ✉
l ❧➭ ❤➭♠ ❛✲♣❤✐♥ tr➟♥ R
n
✈➭ l(x)  f(x) ∀x ∈ R
n
.

ớ ủ ồ
Pé tí ột tr ữ ề t t ủ tí ổ ể
r tí ồ ý tết trở ú ờ ữ tí
t ệt ủ t ồ ồ ụ t ủ sẽ ét ế
t ủ ột ồ ế ế ở ụ sẽ r ị
ĩ ề ớ tí t ủ ó ét tí ủ
ồ st tí ệ ủ ớ st tí tụ ủ
ớ ột số é tí ớ ớ ụ ố ủ
sẽ ớ tệ ề ớ ỉ ột số tí t ủ ó
t

ột ế f : R
n
R{+} ố ị ột ét
ề ế tr ó tì t ó ột ột ế sử y = 0
ột trớ t t từ ể x
0
ó ọ ể x tộ ờ
t q x
0
ó y ề ó x = x
0
+ y ớ R ế
t () = f(x
0
+ y) tì ồ tr R ỉ f ồ tr R
n

ị ĩ f : R
n
R {+} x
0
R
n
s
f(x
0
) < +
ế ớ ột ét y R
n
ớ lim

0
f(x
0
+y)f(x
0
)

tồ t ữ
tì t ó f ó t y t ể x
0
sẽ ý
ệ ớ f

(x
0
, y)

✶✾
❱Ý ❞ô ✷✳✶✳ ●✐➯ sö f ➤➢î❝ ❝❤♦ ♥❤➢ s❛✉✿
f(x) =





0 ♥Õ✉ x < 0,
1 ♥Õ✉ x = 0,
+∞ ♥Õ✉ x > 0.
❚❛ ❝ã
dom f = (−∞; 0] ⇒ dom f = ∅ ✱

f(x) > −∞,∀x ✳ ❱❐② f ❧➭ ❤➭♠ ❝❤Ý♥❤ t❤➢ê♥❣ ✳
❚❛ ❝ã✿
f

(0,−1) = lim
λ→0
f(0+λ(−1))−f(0)
λ
= lim
λ→0
0−1
λ
= −∞✱
f

(0, 0) = lim
λ→0
f(0+λ0)−f(0)
λ
= lim
λ→0
1−1
λ
= 0✱
f

(0, 1) = lim
λ→0
f(0+λ1)−f(0)
λ

= lim
λ→0
∞−1
λ
= +∞✳
❙✉② r❛ f

(0, .) ❦❤➠♥❣ ❧➭ ❤➭♠ ❝❤Ý♥❤ t❤➢ê♥❣✳
▼Ö♥❤ ➤Ò ✷✳✶✳ ❈❤♦ f : R
n
−→ R ∪ {+∞} ❧å✐✳ ❑❤✐ ➤ã ✈í✐ ♠ä✐ x ∈ dom f
✈➭ ♠ä✐ y ∈ R
n
t❛ ❝ã✿
✐✮ ϕ ❧➭ ❤➭♠ ➤➡♥ ➤✐Ö✉ ❦❤➠♥❣ ❣✐➯♠ tr➟♥ (0; +∞) ✱ tr♦♥❣ ➤ã
ϕ(λ) :=
f(x + λy) − f(x)
λ
,
✈➭ ❞♦ ➤ã f

(x, y) tå♥ t➵✐ ✈í✐ ♠ä✐ y ∈ R
n
✈➭
f

(x, y) := inf
λ>0
f(x + λy) − f(x)
λ

.
✐✐✮ ❍➭♠ f

(x, .) t❤✉➬♥ ♥❤✃t ❞➢➡♥❣ ❜❐❝ ✶✳
◆❣♦➭✐ r❛ ♥Õ✉ f

(x, .) > −∞ t❤× ❤➭♠ f

(x, .) ❧➭ ❞➢í✐ t✉②Õ♥ tÝ♥❤ tr➟♥ R
n
✭❞♦ ➤ã ♥ã ❧➭ ❤➭♠ ❧å✐ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ R
n
✮✳
✐✐✐✮ −f

(x,−y)  f

(x, y) ∀y ∈ R
n
✳
✐✈✮ ❍➭♠ f

(x, .) ♥❤❐♥ ❣✐➳ trÞ ❤÷✉ ❤➵♥ tr➟♥ F ❦❤✐ ✈➭ ❝❤Ø ❦❤✐ x ∈ ri(dom f)✱
tr♦♥❣ ➤ã F ❧➭ ❦❤➠♥❣ ❣✐❛♥ ❝♦♥ ❝ñ❛ dom f✳
❈❤ø♥❣ ♠✐♥❤✳ ✐✮ ❚❛ ❝❤ø♥❣ ♠✐♥❤ ❤➭♠ ϕ ➤➡♥ ➤✐Ö✉ ❦❤➠♥❣ ❣✐➯♠ tr➟♥ ♠✐Ò♥
(0; +∞)✳
✷✵
➜Þ♥❤ ♥❣❤Ü❛ ❤➭♠ h : R −→ R ∪ {+∞} ①➳❝ ➤Þ♥❤ ❜ë✐
h(λ) = f(x + λ.y) − f(x).
❑❤✐ ➤ã h(0) = 0✳

●✐➯ sö 0 < λ

 λ✱ ❞♦ f ❧➭ ❤➭♠ ❧å✐ ♥➟♥ h ❧➭ ❤➭♠ ❧å✐ ✱ ❦❤➠♥❣ ♥❤❐♥ ❣✐➳ trÞ
−∞✳
❚❛ ❝ã
h(λ

) = h[
λ

λ
λ + (1 −
λ

λ
)0]

λ

λ
h(λ) + (1 −
λ

λ
)h(0)
=
λ

λ
h(λ).

❉♦ ϕ(λ) =
f(x+λy)−f(x)
λ
=
h(λ)
λ
♥➟♥ ϕ(λ

)  ϕ(λ)✳
❱❐② ϕ ❧➭ ❤➭♠ ❦❤➠♥❣ ❣✐➯♠ tr➟♥ ♠✐Ò♥ (0; +∞)✳
❙✉② r❛ f

(x, y) = lim
λ→0
ϕ(λ) tå♥ t➵✐ ✈➭
lim
λ→0
ϕ(λ) = inf
λ>0
ϕ(λ) = inf
λ>0
f(x + λ.y) − f(x)
λ
.
✐✐✮ ❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛✱ t❛ ❝ã
f

(x, 0) = lim
λ→0
f(x + λ0) − f(x)

λ
= 0.
❈❤ø♥❣ ♠✐♥❤ tÝ♥❤ t❤✉➬♥ ♥❤✃t ❞➢➡♥❣ ✳
❱í✐ t > 0✱ t❛ ✈✐Õt
f

(x, ty) = lim
λ→0
f(x + λty) − f(x)
λ
.
➜➷t λ

= λt✱ t❛ ❝ã t✐Õ♣
f

(x, ty) = t lim
λ→0
f(x + λ

y) − f(x)
λ

= tf

(x, y).
❱❐② f

(x, .) t❤✉➬♥ ♥❤✃t ❞➢➡♥❣✳
❈❤ø♥❣ ♠✐♥❤ tÝ♥❤ ❞➢í✐ t✉②Õ♥ tÝ♥❤✳

✷✶
●✐➯ sö f

(x, .) > −∞✱ ✈í✐ ♠ä✐ u ✈➭ v t❛ ❝ã✿
f

(x, u + v) = inf
λ>0
f[x +
λ
2
(u + v)] − f(x)
λ
2
✭t❤❡♦ ✐✮
= inf
λ>0
f[(
x
2
+
λ
2
u) + (
x
2
+
λ
2
v)] −

1
2
f(x) −
1
2
f(x)
λ
2
.
❉♦ f ❧➭ ❤➭♠ ❧å✐ ❦❤➠♥❣ ♥❤❐♥ ❣✐➳ trÞ −∞ ✱♥➟♥
f[(
x
2
+
λ
2
u) + (
x
2
+
λ
2
v)] −
1
2
f(x) −
1
2
f(x)


1
2
[f(x + λu) − f(x)] +
1
2
[f(x + λv) − f(x)].
❉♦ ➤ã
f

(x, u + v)  inf
λ>0
f(x + λu)
λ
+ inf
λ>0
f(x + λv)
λ
= f

(x, u) + f

(x, v).
✭f

(x, u) + f

(x, v) ❝ã ♥❣❤Ü❛ ✈× f

(x, .) > −∞✮✳
❱❐② f


(x, .) ❧➭ ❤➭♠ ❞➢í✐ ❝é♥❣ tÝ♥❤✳ ❙✉② r❛ f

(x, .) ❧➭ ❤➭♠ ❞➢í✐ t✉②Õ♥ tÝ♥❤
tr➟♥ R
n
✳
❱× f

(x, .) > −∞, f

(x, 0) = 0 ✈➭ f

(x, .) ❧➭ ❞➢í✐ t✉②Õ♥ tÝ♥❤ tr➟♥ R
n
✱ ♥➟♥
♥ã ❧➭ ❤➭♠ ❧å✐✱ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ t♦➭♥ ❦❤➠♥❣ ❣✐❛♥✳
✐✐✐✮ ❉♦ f

(x, 0) = 0 ✈➭ t❤❡♦ tÝ♥❤ ❝❤✃t ❞➢í✐ ❝é♥❣ tÝ♥❤✱ t❛ ❝ã✿
0 = f

(x, 0) = f

(x, y − y)  f

(x, y) + f

(x,−y) ∀y ∈ R
n

.
❙✉② r❛ −f

(x,−y)  f

(x, y) ✈í✐ ♠ä✐ y ∈ R
n
✳
✐✈✮ ●✐➯ sö x ∈ ri(dom f) ✳ ❚❛ ❝➬♥ ❝❤ø♥❣ tá f

(x, .) ❤÷✉ ❤➵♥ tr➟♥ F✳
❚õ ✐✐✐✮ s✉② r❛ f

(x, .) > −∞✳ ❱❐② ❝➬♥ ❝❤Ø r❛ f

(x, y) < +∞ ✈í✐ ♠ä✐
y ∈ F✳
❉♦ x ∈ ri(dom f)✱ ♥➟♥ ∀y ∈ F , x + λ.y ∈ dom f ∀λ > 0 ➤ñ ♥❤á✳
❉♦ ➤ã f

(x, y) = inf
λ>0
f(x+λ.y)−f(x)
λ
< +∞✳
◆❣➢î❝ ❧➵✐✱ ❣✐➯ sö f

(x, y) ❤÷✉ ❤➵♥ ✈í✐ ♠ä✐ y ∈ F✳ ❚❛ ❝➬♥ ❝❤ø♥❣ tá
x ∈ ri(dom f)✳

t ế tr sẽ tồ t y F ột {
k
} số ộ
tụ ế x +
k
.y dom f ớ ọ ủ ớ r trờ ợ
f(x +
k
.y) f(x) = + ớ ọ ủ ớ.
ó f

(x, y) = + t ớ tết x ri(dom f)
ớ tí t
ớ
ị ĩ f : R
n
R {+} ó x

R
n
ớ
ủ f t x ế
x

, z x + f(x) f(z) z.
í ệ t ợ tt ớ ủ f t x f(x) f(x)
ột t ó tể tr R
n
f(x) = tì t ó f
ớ t x

ị ĩ ột ể x

f(x) ỉ ó t ột
ệ t tứ tế tí f(x) ủ ử
ó f(x) ột t ồ ó ó tể rỗ
í ệ dom(f) := {x|f(x) = }
í ụ f(x) = x, x R
n

ể x = 0 t ó
f(0) = {x

|x

, x x,x}.
f(x) ớ
ó
lim
x0
f(x) f(0) x

, x 0
x 0
= lim
x0
x x

, x
x
= 1 = 0.

f(x) t x = 0
✷✸
✷✮ ❍➭♠ ❝❤Ø
f(x) = δ
C
(x) :=

0 ♥Õ✉ x ∈ C,
+∞ ♥Õ✉ x ∈ C.
❚r♦♥❣ ➤ã C ❧➭ ♠ét t❐♣ ❧å✐ ❦❤➳❝ ∅✳
❑❤✐ ➤ã ✈í✐ x
0
∈ C✱ t❛ ❝ã
∂f(x
0
) = ∂δ
C
(x
0
) = {x
∗
|x
∗
, x − x
0
  δ
C
(x),∀x}.
❱í✐ x ∈ C t❤× δ
C

(x) = +∞✱ ♥➟♥ ❜✃t ➤➻♥❣ t❤ø❝ ♥➭② ❧✉➠♥ ➤ó♥❣✳
❱❐② ∂f(x
0
) = ∂δ
C
(x
0
) = {x
∗
|x
∗
, x − x
0
  0,∀x ∈ C} = N
C
(x
0
)✳
❱❐② ❞➢í✐ ✈✐ ♣❤➞♥ ❝ñ❛ ❤➭♠ ❝❤Ø ❝ñ❛ ♠ét t❐♣ ❧å✐ C ❦❤➳❝ ∅ t➵✐ ♠ét ➤✐Ó♠
x
0
∈ C ❝❤Ý♥❤ ❧➭ ♥ã♥ ♣❤➳♣ t✉②Õ♥ ♥❣♦➭✐ ❝ñ❛ C t➵✐ x
0
✳
▼Ö♥❤ ➤Ò ✷✳✷✳ ✐✮ x
∗
∈ ∂f(x) ❦❤✐ ✈➭ ❝❤Ø ❦❤✐ f

(x, y)  x
∗

, y ,∀y✳
✐✐✮ ◆Õ✉ f ❧➭ ❤➭♠ ❧å✐ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ R
n
✱ t❤× ✈í✐ ♠ä✐ x ∈ dom(∂f)✱ t❛
❝ã f(x) = f(x) ✈➭ ∂f(x) = ∂f(x)✳
❈❤ø♥❣ ♠✐♥❤✳ ✐✮ ❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛
x
∗
∈ ∂f(x) ⇔ x
∗
, z − x + f(x)  f(z) ∀z.
❱í✐ ❜✃t ❦× y✱ ❧✃② z = x + λ.y, λ > 0✱ t❛ ❝ã
x
∗
, λ.y + f(x)  f(x + λ.y).
❚õ ➤➞② s✉② r❛
x
∗
, y 
f(x + λ.y) − f(x)
λ
∀λ > 0. ✭✷✳✶✮
❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❝ñ❛ f

(x, y)✱ s✉② r❛ ♥❣❛② x
∗
, y  f

(x, y) ∀y✳
◆❣➢î❝ ❧➵✐✱ ❣✐➯ sö ✭✷✳✶✮ t❤♦➯ ♠➲♥✳

▲✃② z ❜✃t ❦× ✈➭ ➳♣ ❞ô♥❣ ✭✷✳✶✮ ✈í✐ y = z − x ✈➭ λ = 1✱ t❛ ❝ã
x
∗
, z − x  f(z) − f(x) ∀z.
❱❐② x
∗
∈ ∂f(x)✳
✐✐✮ ❈❤♦ x ∈ dom(∂f)✱ t❤× ∂f(x) = ∅✱ tø❝ ❧➭ tå♥ t➵✐ x
∗
∈ ∂f(x)✳
✷✹
❚❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❝ñ❛ f✱ t❛ ❝ã epi f = epi f✳
▼➷t ❦❤➳❝✱ t❛ ❧➵✐ ❝ã epi f ⊂ epi f✱ s✉② r❛ epi f ⊂ epi f✳ ❱❐②
f(x)  f(x). ✭✷✳✷✮
❚❤❡♦ ❣✐➯ t❤✐Õt f ❧➭ ❤➭♠ ❧å✐ ❝❤Ý♥❤ t❤➢ê♥❣ tr➟♥ R
n
✱ ♥➟♥ f ❧➭ ❤➭♠ ❧å✐ ➤ã♥❣
tr➟♥ R
n
✱ t❤❡♦ ❤Ö q✉➯ ✶✳✶✱ t❛ ❝ã
f(x) = f
∗∗
(x). ✭✷✳✸✮
❚❤❡♦ tÝ♥❤ ❝❤✃t ❝ñ❛ ❤➭♠ ❧✐➟♥ ❤î♣ t❤ø ✷✱ t❛ ❝ã
f
∗∗
(x) < x
∗
, x − f
∗

(x
∗
) = f(x). ✭✷✳✹✮
❚õ ✭✷✳✷✮✱✭✷✳✸✮ ✈➭ ✭✷✳✹✮ t❛ ❝ã f(x) = f(x)✳
❚❛ ❧✃② y
∗
∈ ∂f(x) t❤× ∀z t❛❝ã
y
∗
, z − x + f(x)  f(z).
▼➷t ❦❤➳❝
f(z)  f(z)  y
∗
, z − x + f(x) = y
∗
, z − x + f(x).
❙✉② r❛ y
∗
∈ ∂f(x)✳ ❱❐②
∂f(x) ⊂ ∂f(x). ✭✷✳✺✮
◆❣➢î❝ ❧➵✐✱ ❧✃② z
0
∈ ri(dom f)✳ ❱í✐ ♠ä✐ z t❛ ❝ã
f(z) = f(z) = lim
t→0
f[(1 − t).z + t.z
0
].
❱❐② t❤❡♦ ➤Þ♥❤ ♥❣❤Ü❛ ❝ñ❛ ❞➢í✐ ✈✐ ♣❤➞♥ t❛ ❝ã ✿
x

∗
∈ ∂f(x) ⇔ x
∗
, (1 − t).z + t.z
0
− x + f(x)  f[(1 − t).z + t.z
0
].
❈❤♦ t → 0 t❛ ➤➢î❝ ✿
x
∗
, z − x + f(x) 
f(z).
✷✺
❍❛②
x
∗
, z − x + f(x)  f(z)
❈❤ø♥❣ tá x
∗
∈ ∂f(x)✳ ❱❐②
∂f(x) ⊂ ∂f(x). ✭✷✳✻✮
❚õ ✭✷✳✺✮ ✈➭ ✭✷✳✻✮ t❛ ❝ã ∂f(x) = ∂f(x)✳
▼Ö♥❤ ➤Ò ✷✳✸✳ ❈❤♦ f : R
n
−→ R ∪ {+∞} ❧å✐✱ ❦❤✐ ➤ã ✿
✐✮ ◆Õ✉ x ∈ dom f✱ t❤× ∂f(x) = ∅✳
✐✐✮ x ∈ ri(dom f) ❦❤✐ ✈➭ ❝❤Ø ❦❤✐ ∂f(x) = ∅ ✈➭ ❝♦♠♣➽❝✳
❈❤ø♥❣ ♠✐♥❤✳ ✐✮ ❈❤♦ z ∈ dom f✱ t❤× f(z) < +∞✳ ❱❐② ♥Õ✉ x ∈ dom f t❤×
f(x) = +∞ ✈➭ ❞♦ ➤ã ❦❤➠♥❣ t❤Ó tå♥ t➵✐ x

∗
t❤♦ ♠➲♥
x
∗
, z − x + f(x)  f(z) < +∞.
❱❐② ∂f(x) = ∅✳
✐✐✮ ●✐➯ sö x ∈ ri(dom f)✳ ❚❛ ❝ã ➤✐Ó♠ (x, f(x)) ♥➺♠ tr➟♥ ❜✐➟♥ ❝ñ❛ epi f✳
❉♦ f ❧å✐✱ ❝❤Ý♥❤ t❤➢ê♥❣✱ ♥➟♥ tå♥ t➵✐ s✐➟✉ ♣❤➻♥❣ tù❛ ❝ñ❛ epi f ➤✐ q✉❛
(x, f(x))✳
❚ø❝ ❧➭ tå♥ t➵✐ p ∈ R
n
, t ∈ R ❦❤➠♥❣ ➤å♥❣ t❤ê✐ ❜➺♥❣ 0 s❛♦ ❝❤♦
p, x + t.f(x)  p, y + t.µ ,∀(y, µ) ∈ epi f. ✭✷✳✼✮
❚❛ ❝ã t = 0✱ ✈× ♥Õ✉ t = 0 t❤× p, x  p, y ,∀y ∈ dom f✳
❍❛② p, x − y  0 ,∀y ∈ dom f✳
◆❤➢♥❣ ❞♦ x ∈ ri(dom f)✱ ♥➟♥ ➤✐Ò✉ ♥➭② ❦Ð♦ t❤❡♦ p = 0✳ ▼➞✉ t❤✉➱♥ ✈í✐
p, t ❦❤➠♥❣ ➤å♥❣ t❤ê✐ ❜➺♥❣ ✵✳ ❱❐② t = 0✳
❍➡♥ ♥÷❛ t > 0✱ ✈× ♥Õ✉ t < 0 t❤× tr♦♥❣ ❜✃t ➤➻♥❣ t❤ø❝ ✭✷✳✼✮✱ ❦❤✐ ❝❤♦ µ → ∞
t❛ s✉② r❛ ♠➞✉ t❤✉➱♥ ✈× ✈Õ tr➳✐ ❝è ➤Þ♥❤✳
❈❤✐❛ ❤❛✐ ✈Õ ❝ñ❛ ✭✷✳✼✮ ❝❤♦ t > 0✱ t❛ ➤➢î❝✿

p
t
, x + f(x)  
p
t
, y + µ ∀y ∈ dom f.