Header Page 1 of 54.
❇❐ ●■⑩❖ ❉Ö❈ ❱⑨ ✣⑨❖ ❚❸❖
❚❘×❮◆● ✣❸■ ❍➴❈ ❙× P❍❸▼ ❍⑨ ◆❐■ ✷
◆●❯❨➍◆ ▲➊ ◗❯❹◆
✣■➋❯ ❑■➏◆ ❚➮■ ×❯ ❚❖⑨◆ ❈Ö❈
❚❘❖◆● ◗❯❨ ❍❖❸❈❍ ❚❖⑨◆ P❍×❒◆●
▲❯❾◆ ❱❿◆ ❚❍❸❈ ❙➒ ❚❖⑩◆ ❍➴❈
❍➔ ◆ë✐ ✲ ✷✵✶✽
Footer Page 1 of 54.
Header Page 2 of 54.
❇❐ ●■⑩❖ ❉Ö❈ ❱⑨ ✣⑨❖ ❚❸❖
❚❘×❮◆● ✣❸■ ❍➴❈ ❙× P❍❸▼ ❍⑨ ◆❐■ ✷
◆●❯❨➍◆ ▲➊ ◗❯❹◆
✣■➋❯ ❑■➏◆ ❚➮■ ×❯ ❚❖⑨◆ ❈Ö❈
❚❘❖◆● ◗❯❨ ❍❖❸❈❍ ❚❖⑨◆ P❍×❒◆●
❈❤✉②➯♥ ♥❣➔♥❤✿ ❚♦→♥ ❣✐↔✐ t➼❝❤
▼➣ sè✿ ✽ ✹✻ ✵✶ ✵✷
▲❯❾◆ ❱❿◆ ❚❍❸❈ ❙➒ ❚❖⑩◆ ❍➴❈
◆❣÷í✐ ❤÷î♥❣ ❞➝♥ ❦❤♦❛ ❤å❝✿
P●❙✳ ❚❙✳ ◆❣✉②➵♥ ◆➠♥❣ ❚➙♠
❍➔ ◆ë✐ ✲ ✷✵✶✽
Footer Page 2 of 54.
Header Page 3 of 54.
ữủ t t trữớ ồ ữ ở ữợ
sỹ ữợ ừ P tọ ỏ t
ỡ s s tợ ữớ t t ữợ ú ù tr
sốt q tr ự õ t t
ụ tọ ỏ t ỡ t tợ qỵ t ổ trữớ
ồ ữ ở ú ù t õ
ồ ụ t ỡ ỗ
rữớ P ỗ Pữủ ở
ổ ở ú ù t ồ t
tr sốt q tr ồ t tỹ
ở t
Footer Page 3 of 54.
Header Page 4 of 54.
▲❮■ ❈❆▼ ✣❖❆◆
❚æ✐ ①✐♥ ❝❛♠ ✤♦❛♥✱ ❞÷î✐ sü ❤÷î♥❣ ❞➝♥ ❝õ❛ P●❙✳ ❚❙✳ ◆❣✉②➵♥ ◆➠♥❣ ❚➙♠✱
❧✉➟♥ ✈➠♥ ❈❤✉②➯♥ ♥❣➔♥❤ ❚♦→♥ ❣✐↔✐ t➼❝❤ ✈î✐ ✤➲ t➔✐✿
❝ö❝ tr♦♥❣ q✉② ❤♦↕❝❤ t♦➔♥ ♣❤÷ì♥❣ ❞♦ tæ✐ tü ❧➔♠✳
✣✐➲✉ ❦✐➺♥ tè✐ ÷✉ t♦➔♥
❚r♦♥❣ q✉→ tr➻♥❤ ♥❣❤✐➯♥ ❝ù✉ ✈➔ t❤ü❝ ❤✐➺♥ ❧✉➟♥ ✈➠♥✱ tæ✐ ✤➣ ❦➳ t❤ø❛ ♥❤ú♥❣
t❤➔♥❤ q✉↔ ❝õ❛ ❝→❝ ♥❤➔ ❦❤♦❛ ❤å❝ ✈î✐ sü tr➙♥ trå♥❣ ✈➔ ❜✐➳t ì♥✳
❈→❝ ❦➳t q✉↔ tr➼❝❤ ❞➝♥ tr♦♥❣ ❧✉➟♥ ✈➠♥ ❧➔ tr✉♥❣ t❤ü❝ ✈➔ ✤÷ñ❝ ❝❤➾ rã ♥❣✉ç♥
❣è❝✳
❍➔ ◆ë✐✱ ♥❣➔② ✷✽ t❤→♥❣ ✵✼ ♥➠♠ ✷✵✶✽
◆❣✉②➵♥ ▲➯ ◗✉➙♥
✷
Footer Page 4 of 54.
Header Page 5 of 54.
▼ö❝ ❧ö❝
▲❮■ ❈❷▼ ❒◆
▲❮■ ❈❆▼ ✣❖❆◆
▲❮■ ▼Ð ✣❺❯
✶ ❑■➌◆ ❚❍Ù❈ ❈❍❯❽◆ ❇➚
✶
✷
✹
✻
✶✳✶
▼ët sè ♥ë✐ ❞✉♥❣ ❝ì ❜↔♥ ❝õ❛ ❣✐↔✐ t➼❝❤ ❧ç✐ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳
✻
✶✳✷
❇➔✐ t♦→♥ tè✐ ÷✉ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶
✶✳✸
❈→❝ ✤✐➲✉ ❦✐➺♥ ✤õ ❝❤♦ ❝ü❝ t✐➸✉ t♦➔♥ ❝ö❝ ✈➔ ✤➦❝ tr÷♥❣ ♥❤➙♥
tû ▲❛❣r❛♥❣❡ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✹
✷ ✣■➋❯ ❑■➏◆ ❚➮■ ×❯ ❚❖⑨◆ ❈Ö❈ ❚❘❖◆● ◗❯❨ ❍❖❸❈❍
❚❖⑨◆ P❍×❒◆●
✶✾
✷✳✶
❚è✐ ÷✉ t♦➔♥ ♣❤÷ì♥❣ ✈î✐ ❝→❝ r➔♥❣ ❜✉ë❝ t♦➔♥ ♣❤÷ì♥❣ ✳ ✳ ✳ ✳ ✳ ✶✾
✷✳✷
✣➦❝ tr÷♥❣ ❝õ❛ ❇ê ✤➲ S ✈➔ ❝❤➼♥❤ q✉② ❤â❛ ❦❤æ♥❣ ✤✐➲✉ ❦✐➺♥
❙❧❛t❡r ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✹
✷✳✸
✣✐➲✉ ❦✐➺♥ ❝➛♥ ✈➔ ✤õ ❝❤♦ tè✐ ÷✉ t♦➔♥ ❝ö❝ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✸✼
❑➌❚ ▲❯❾◆
❚➔✐ ❧✐➺✉ t❤❛♠ ❦❤↔♦
✹✷
✹✸
✸
Footer Page 5 of 54.
Header Page 6 of 54.
é
ố ữ t ữỡ ởt ở ừ q t ồ õ
ự ử tr ỵ tt ụ ữ tr ớ số tỹ t
ự t t t ụ ữ tt t ỳ
q t ữỡ ởt ừ ữủ t tr
ữợ q t s ữủ ồ ự ỳ
tự t t ợ ố t s ỡ ỳ
tự ồ ự ử ừ ú tổ ồ t ự
tố ữ t ử tr q t ữỡ
ự tố ữ t ử ừ ỳ
ợ t tr q t ữỡ õ t ữủ t q
trồ ừ ỳ tự ồ ự ử ừ ú ợ ở
ự ớ t t t
ữủ t ữỡ t q t tr tr ữỡ
ử t ữ s
ữỡ tự r ữỡ
tr ỳ tự tt t ỗ ỵ tt tố
ữ sỷ ử ữỡ t t ữ t ỗ ỗ ữợ
õ tr t tố ữ ũ ợ
ữủ ỹ t ữỡ ỹ t t ử
ữỡ tố ữ t ử tr q t
ữỡ r ữỡ trữợ t s tr tố ữ
t ữỡ ợ r ở t ữỡ õ t ữủ
ừ ụ ữ ừ ỹ t t ử õ
tr trữ ừ ờ S ố r
Footer Page 6 of 54.
Header Page 7 of 54.
tè✐ ÷✉ t♦➔♥ ♣❤÷ì♥❣ tr➯♥ ♠ët r➔♥❣ ❜✉ë❝ t♦➔♥ ♣❤÷ì♥❣ t❤æ♥❣ q✉❛ ✤✐➲✉ ❦✐➺♥
❙❧❛t❡r✳ ❱➔ s❛✉ ✤â ❧➔ ❝❤➼♥❤ q✉② ❤â❛ ❇ê ✤➲ S ❦❤æ♥❣ ✤✐➲✉ ❦✐➺♥ ❙❧❛t❡r✳ ❈✉è✐
❝❤÷ì♥❣✱ ❧✉➟♥ ✈➠♥ tr➻♥❤ ❜➔② ❝→❝ ✤✐➲✉ ❦✐➺♥ ❝➛♥ ✈➔ ✤õ ❝❤♦ tè✐ ÷✉ t♦➔♥ ❝ö❝
tr♦♥❣ q✉② ❤♦↕❝❤ t♦➔♥ ♣❤÷ì♥❣✳
✺
Footer Page 7 of 54.
Header Page 8 of 54.
ữỡ
r ữỡ s tr ởt số
t q tt t ỗ ỵ tt tố ữ ử ử
ữỡ t ừ ữỡ
ởt số ở ỡ ừ t ỗ
r t ở t ỵ Rn ổ n
tr trữớ số tỹ R ộ tỡ x Rn s ỗ n tồ ở số tỹ
ợ tỡ x = (x1 , . . . , xn )T y = (y1 , . . . , yn )T tở Rn t
r
n
x, y :=
xi yi
i=1
ồ
t ổ ữợ ừ tỡ x y ừ tỷ x
ữủ ữ s
x, x .
x :=
ỵ Rn+ t tt tỡ ổ ừ Rn ợ tỡ
x, y Rn , x y ữủ xi yi ợ i = 1, . . . , n tr ỡ
(n ì n) ữủ ỵ In A
ữỡ
0 õ tr A ỷ
tr ợ tỷ ữớ 1, . . . , n ữủ ỵ
diag(1 , . . . , n )
ổ ừ tt tr ố ự (n ì n) ữủ ỵ
S n t A
B A
B tữỡ ự ữủ tr A B
Footer Page 8 of 54.
Header Page 9 of 54.
ỷ ữỡ ữỡ
õ ỷ ữỡ ữủ
S+n := {M S n : M
0}.
tr t ừ A B ữủ
n
n
A ã B = Tr[AB] =
aij bji ,
i=1 j=1
tr õ aij tỷ (i, j) ừ A bji tỷ (j, i) ừ B
K ởt õ tr S n
ừ A S n tứ A
õ K ữủ ữủt A = (A ã A)1/2
d(A, K) = inf A B .
BK
r ừ ởt tr A S n ữủ
KerA := {x Rn : Ax = 0}.
õ ừ D ữủ ỵ D ởt t
ởt õ K K ợ ồ 0 ỹ
ợ ởt t D Rn
K Rn ữủ ồ
t
r ừ K ỵ
K := {d : dT x 0 x K}.
ợ õ K1 , K2 Rn ổ tự ỹ s ữủ tọ
(K1 K2 ) = K1 + K2 .
n
t K1 = S+
K2 =
t0 tH2
tr õ H2 tr
õ tr S n t t ữủ
{X S+n : H2 ã X 0} = (K1 K2 )
= K1 + K2
= S+n +
tH2 .
t0
Footer Page 9 of 54.
Header Page 10 of 54.
▼ët ✤÷í♥❣ t❤➥♥❣ ♥è✐ ❤❛✐ ✤✐➸♠ ✭❤❛✐ ✈➨❝ tì✮ a, b tr♦♥❣ Rn ❧➔ t➟♣ ❤ñ♣ t➜t
❝↔ ❝→❝ ✈➨❝ tì x ∈ Rn ❝â ❞↕♥❣
{x ∈ Rn : x = αa + βb, α, β ∈ R, α + β = 1}.
✣♦↕♥ t❤➥♥❣ ♥è✐ ❤❛✐ ✤✐➸♠ a, b tr♦♥❣ Rn ❧➔ t➟♣ ❤ñ♣ t➜t ❝↔ ❝→❝ ✈➨❝ tì x ∈ Rn
❝â ❞↕♥❣
{x ∈ Rn : x = αa + βb, α ≥ 0, β ≥ 0, α + β = 1}.
✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✶
▼ët t➟♣ C ⊆ Rn ✤÷ñ❝ ❣å✐ ❧➔ ♠ët
t➟♣ ❧ç✐ ✭❬✶❪✮✱ ♥➳✉ C
❝❤ù❛ ♠å✐ ✤♦↕♥ t❤➥♥❣ ✤✐ q✉❛ ❤❛✐ ✤✐➸♠ ❜➜t ❦ý ❝õ❛ ♥â✳ ◆â✐ ❦❤→❝ ✤✐✱ t➟♣ C
❧➔ ❧ç✐ ♥➳✉ ✈➔ ❝❤➾ ♥➳✉
∀x, y ∈ C, ∀λ ∈ [0, 1] =⇒ λx + (1 − λ)y ∈ C.
✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✷
✭❬✶✻❪✮
❈❤♦ h : Rn −→ R ∪ {−∞, +∞}✳
✭✐✮
dom h := {x ∈ Rn | h(x) < +∞} ❧➔
✭✐✐✮
❍➔♠ h ✤÷ñ❝ ❣å✐ ❧➔
♠✐➲♥ ❤ú✉ ❞ö♥❣ ❝õ❛ h❀
❝❤➼♥❤ t❤÷í♥❣ ♥➳✉ h ❦❤æ♥❣ ❧➜② tr➯♥ ❣✐→ trà −∞
✈➔ dom h = ∅❀
❚r➯♥ ✤ç t❤à ✭❡♣✐❣r❛♣❤✮ ❝õ❛ h ✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛ ♥❤÷ s❛✉✿
✭✐✐✐✮
epi h := {(x, r) ∈ Rn × R | x ∈ dom h, h(x) ≤ r};
❍➔♠ ❧✐➯♥ ❤ñ♣ ✭❝♦♥❥✉❣❛t❡ ❢✉♥❝t✐♦♥✮ ❝õ❛ h✱ h∗ : Rn −→ R ∪ {+∞}✱
✭✐✈✮
✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛ ❜ð✐
h∗ (v) := sup{v(x) − h(x) | x ∈ dom h},
tr♦♥❣ ✤â v(x) := v T x✳
✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✸
✭❬✶❪✮
❈❤♦ C ⊆ Rn ❧➔ ♠ët t➟♣ ❧ç✐✱ ❦❤→❝ ré♥❣ ✈➔ →♥❤
①↕ h : C −→ R✳ ◆➳✉ ❡♣✐ h ❧➔ ♠ët t➟♣ ❧ç✐ tr♦♥❣ Rn+1 ✱ t❤➻ t❛ ♥â✐ h ❧➔ ♠ët
❤➔♠ ❧ç✐ tr➯♥ C ✳
✽
Footer Page 10 of 54.
Header Page 11 of 54.
❚r♦♥❣ tr÷í♥❣ ❤ñ♣ t❛ ❧➔♠ ✈✐➺❝ ✈î✐ ❤➔♠ h : Rn −→ R ∪ {+∞}✱ t❤➻ ✤à♥❤
♥❣❤➽❛ tr➯♥ t÷ì♥❣ ✤÷ì♥❣ ✈î✐ h ❧➔ ❤➔♠ ❧ç✐ tr➯♥ C ♥➳✉ ✈➔ ❝❤➾ ♥➳✉
h(λx + (1 − λ)y) ≤ λh(x) + (1 − λ)h(y) ∀x, y ∈ C, ∀λ ∈ [0, 1].
❱➼ ❞ö ✶✳✶✳✹
❈→❝ ✈➼ ❞ö ✈➲ ❤➔♠ ❧ç✐✳
❍➔♠ ❦❤♦↔♥❣ ❝→❝❤ ✤➳♥ t➟♣ ❧ç✐ ✤â♥❣ ❈ ✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛ ❜ð✐
✭✶✮
dC (x) := min x − y ,
y∈C
❧➔ ♠ët ❤➔♠ ❧ç✐✳
✭✷✮
●å✐ C = ∅ ❧➔ ♠ët t➟♣ ❧ç✐✳ ◆➳✉ ✤➦t
h(x) :=
0
❦❤✐ x ∈ C,
+∞ ❦❤✐ x = C,
t❤➻ h ❧➔ ♠ët ❤➔♠ ❧ç✐✳ ❍➔♠ ♥➔② ❝á♥ ✤÷ñ❝ ❣å✐ ❧➔
❤➔♠ ❝❤➾
✈➔ t❤÷í♥❣ ✤÷ñ❝
❦þ ❤✐➺✉ ❧➔ δC (x)✳
✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✺
✭❬✶✻❪✮
❈❤♦ h : Rn −→ R ❧➔ ♠ët ❤➔♠ ❧ç✐ ❧✐➯♥ tö❝✱
❞÷î✐ ✈✐ ♣❤➙♥ ❝õ❛ h t↕✐ x ∈ Rn ✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛ ❜ð✐
∂h(x) = {a ∈ Rn : aT (y − x) ≤ h(y) − h(x) ∀y ∈ Rn }.
❱î✐ ε ≥ 0✱ ε✲❞÷î✐
✭✶✳✷✮
✈✐ ♣❤➙♥ ✭ε✲ s✉❜❞✐❢❢❡r❡♥t✐❛❧ ✮ ❝õ❛ h t↕✐ x ∈ Rn ✤÷ñ❝ ✤à♥❤
♥❣❤➽❛ ♥❤÷ s❛✉✿
∂ε h(x) = {a ∈ Rn : aT (y − x) ≤ h(y) − h(x) + ε ∀y ∈ Rn }.
✭✶✳✸✮
❚❛ ❝â t❤➸ t❤➜② r➡♥❣ ∂h(x) ⊆ ∂ε h(x) ✈î✐ ♠å✐ ε > 0 ✈➔ ∂h(x) = {∇h(x)}
♥➳✉ h ❧➔ ♠ët ❤➔♠ ❧ç✐ ❦❤↔ ✈✐ ❧✐➯♥ tö❝✳
❈❤♦ h : Rn −→ R✱ t❛ ❦þ ❤✐➺✉
[h ≤ 0] := {x ∈ Rn | h(x) ≤ 0}.
◆â♥ ♣❤→♣ t✉②➳♥ ❝õ❛ [h ≤ 0] t↕✐ ✤✐➸♠ x ∈ [h ≤ 0] ❧➔
N[h≤0] (x) := {a ∈ Rn : aT (z − x) ≤ 0, ∀z ∈ [h ≤ 0]}.
✾
Footer Page 11 of 54.
Header Page 12 of 54.
◆➳✉ h ❧➔ ♠ët ❤➔♠ ❧ç✐ ❦❤↔ ✈✐ ❧✐➯♥ tö❝ tr➯♥ Rn ✱ t❤➻ ✈î✐ ♠é✐ x ∈ [h ≤ 0]✱ t❛
❝â
N[h≤0] (x) =
a ∈ Rn : (a, aT x) ∈
epi (λh)∗
✭✶✳✹✮
λ≥0
✈➔
{λ∇h(x)} =
✭✶✳✺✮
λ≥0
λ≥0,λh(x)=0
❉♦ ✤â✱ ♥➳✉
epi (λh)∗ .
a ∈ Rn : (a, aT x) ∈
λ≥0 epi
(λh)∗ ❧➔ ✤â♥❣✱ t❤➻
{λ∇h(x)}
N[h≤0] (x) =
✭✶✳✻✮
λ≥0,λh(x)=0
✈î✐ ♠é✐ x ∈ [h ≤ 0]✳
❈❤♦ f ❧➔ ♠ët
❤➔♠ t♦➔♥ ♣❤÷ì♥❣ ✭q✉❛❞r❛t✐❝ ❢✉♥❝t✐♦♥✮ ✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛
❜ð✐
f (x) = xT Ax + aT x + α,
tr♦♥❣ ✤â A ∈ S n ✱ a ∈ Rn ✈➔ α ∈ R✳ ✣à♥❤ ♥❣❤➽❛ Hf ❜ð✐
Hf =
◆❤➟♥ ①➨t ✶✳✶✳✻
A
a/2
aT /2
α
.
✭✶✳✼✮
n+1
❱î✐ ♠å✐ x ∈ Rn ✱ f (x) ≥ 0 ♥➳✉ ✈➔ ❝❤➾ ♥➳✉ Hf ∈ S+
✳
❍❛✐ ❦➳t ❧✉➟♥ s❛✉ ✤➙② ✭①❡♠ ❬✶✻❪✱ ❇ê ✤➲ ✷✳✶ ✈➔ ❇ê ✤➲ ✷✳✷✮ ❝â ✈❛✐ trá
q✉❛♥ trå♥❣ tr♦♥❣ ✤à♥❤ ❧þ ✈➲ ❝❤➼♥❤ q✉② ❤â❛ ❇ê ✤➲ S ♠➔ t❛ s➩ ✤➲ ❝➟♣ tr♦♥❣
❈❤÷ì♥❣ ✷✳
❇ê ✤➲ ✶✳✶✳✼ ◆➳✉ f, g : Rn −→ R (n ≥ 3) ❧➔ ❝→❝ ❤➔♠ t♦➔♥ ♣❤÷ì♥❣ t❤✉➛♥
♥❤➜t✱ ✤÷ñ❝ ✤à♥❤ ♥❣❤➽❛ ❜ð✐
f (x) = xT Ax ✈➔ g(x) = xT Bx,
tr♦♥❣ ✤â A, B ∈ S n✱ t❤➻
V := {(f (x), g(x)) | x = 1} ⊂ R2
✶✵
Footer Page 12 of 54.
Header Page 13 of 54.
ởt t t ỗ
ờ ờ A, B tr ố ự tỹ
ù 2 ì 2 K = {(xT Ax, xT Bx) : x R2} õ
K = {(A ã X, B ã X) : X S+2 }
K ởt t ỗ
t tố ữ
t tố ữ r ở t õ tờ qt ữ s
min
xRn
s
f (x)
gi (x) = 0, i = 1, . . . , me ;
gi (x) 0, i = me + 1, ã ã ã , m,
tr õ ử t f (x) r ở gi (x) ợ i = 1, . . . , m
trỡ tỹ tr Rn t t ởt tr số õ
t me m số ổ ợ 0 me m ồ
E = {1, . . . , me } I = {me + 1, ã ã ã , m}
ữủt t số ừ r ở ữỡ tr r ở t
ữỡ tr
ổ õ t t
ởt
t tố ữ ổ r ở
me = m = 0 t t ữủ ồ ởt
tố ữ r ở ữỡ tr
t
tt gi (x) ợ i = 1, . . . , m t t t
t ữủ ồ ởt
t tố ữ r ở t
t ởt t tố ữ r ở t t ợ ử t t
ữỡ f (x) ữủ ồ ởt t q t ữỡ
Footer Page 13 of 54.
Header Page 14 of 54.
x Rn ữủ ồ ởt
ữủ
tọ tt ữủ
ữủ ồ ởt
t ữủ
r t ữủ ồ
r ở ứ ữủ
tọ tt r ở t t ữủ X ữ s
X=
x Rn
gi (x) = 0,
i = 1, . . . , me ;
gi (x) 0,
i = me + 1, . . . , m
X = {x Rn | gi (x) = 0, i E; gi (x) 0, i I}.
õ t õ t ữủ t ữ s
minf (x).
xX
õ t ừ t tố ữ r ở
q t ởt x tr t ữủ X s
ử t f (x) t ỹ t
t s
ỹ t ữỡ ỹ t t ử
x X
f (x) f (x ),
t x ữủ ồ
x X,
ỹ t t ử r ừ t
x X
f (x) > f (x ),
t x ữủ ồ
x X, x = x ,
ỹ t t ử t strt r
x X tỗ t ởt B(x , ) ừ
x s
f (x) f (x ),
x X B(x , ),
Footer Page 14 of 54.
Header Page 15 of 54.
t❤➻ x∗ ✤÷ñ❝ ❣å✐ ❧➔ ❝ü❝
t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ✭❧♦❝❛❧ ♠✐♥✐♠✐③❡r ✮ ✭❬✷✻❪✮ ❝õ❛ ❜➔✐ t♦→♥
✭✶✳✽✮✲✭✶✳✶✵✮✱ tr♦♥❣ ✤â
B(x∗ , δ) = {x : x − x∗
2
≤ δ}
✭✶✳✶✼✮
✈➔ δ > 0✳
◆➳✉ x∗ ∈ X ✈➔ ♥➳✉ tç♥ t↕✐ ♠ët ❧➙♥ ❝➟♥ B(x∗ , δ) ❝õ❛ x∗ s❛♦ ❝❤♦
f (x) > f (x∗ ),
t❤➻ x∗ ✤÷ñ❝ ❣å✐ ❧➔
∀x ∈ X ∩ B(x∗ , δ), x = x∗ ,
✭✶✳✶✽✮
❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ♥❣➦t ✭str✐❝t ❧♦❝❛❧ ♠✐♥✐♠✐③❡r ✮✳
✣à♥❤ ♥❣❤➽❛ ✶✳✷✳✹
◆➳✉ x∗ ∈ X ✈➔ ♥➳✉ tç♥ t↕✐ ♠ët ❧➙♥ ❝➟♥ B(x∗ , δ) ❝õ❛
x∗ s❛♦ ❝❤♦ x∗ ❝❤➾ ❧➔ ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ tr➯♥ X ∩ B(x∗ , δ)✱ t❤➻ x∗ ✤÷ñ❝ ❣å✐
❧➔ ♠ët
❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ❝æ ❧➟♣✳
●✐↔ sû r➡♥❣ x∗ ❧➔ ♠ët ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ❝õ❛ ❜➔✐ t♦→♥ ✭✶✳✽✮✲✭✶✳✶✵✮✳
◆➳✉ tç♥ t↕✐ ♠ët ❝❤➾ sè i0 ∈ I = [me + 1, m] s❛♦ ❝❤♦
gi0 (x∗ ) > 0,
✭✶✳✶✾✮
❦❤✐ ✤â✱ ♥➳✉ t❛ ①â❛ r➔♥❣ ❜✉ë❝ t❤ù i0 t❤➻ x∗ ✈➝♥ ❧➔ ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ❝õ❛
❜➔✐ t♦→♥ t❤✉ ✤÷ñ❝ ❜➡♥❣ ❝→❝❤ ①â❛ r➔♥❣ ❜✉ë❝ t❤ù i0 ✳ ❉♦ ✤â✱ t❛ ♥â✐ r➡♥❣ r➔♥❣
❜✉ë❝ t❤ù i0 ❧➔
❦❤æ♥❣ ❤♦↕t ✭✐♥❛❝t✐✈❡ ✮ t↕✐ x∗✳
❇➙② ❣✐í✱ t❛ s➩ ✤÷❛ r❛ ❝→❝ ✤à♥❤ ♥❣❤➽❛ ✈➲ r➔♥❣ ❜✉ë❝ ❤♦↕t ✈➔ r➔♥❣ ❜✉ë❝
❦❤æ♥❣ ❤♦↕t✳ ❚r÷î❝ ❤➳t✱ t❛ ✤➦t
I(x) = {i | gi (x) = 0, i ∈ I}.
✣à♥❤ ♥❣❤➽❛ ✶✳✷✳✺
✭❬✷✻❪✮
✭✶✳✷✵✮
❱î✐ ♠é✐ x ∈ Rn ✱ t➟♣
A(x) = E ∪ I(x)
✭✶✳✷✶✮
t➟♣ ❝❤➾ sè ❤♦↕t ❝→❝ r➔♥❣ ❜✉ë❝ ✭✐♥❞❡① s❡t ♦❢ ❛❝t✐✈❡ ❝♦♥str❛✐♥ts ✮ t↕✐ x❀
gi (x)(i ∈ A(x)) ❧➔ ♠ët r➔♥❣ ❜✉ë❝ ❤♦↕t ✭❛❝t✐✈❡ ❝♦♥str❛✐♥t ✮ t↕✐ x❀ gi (x)(i ∈
/
A) ❧➔ ♠ët r➔♥❣ ❜✉ë❝ ❦❤æ♥❣ ❤♦↕t ✭✐♥❛❝t✐✈❡ ❝♦♥str❛✐♥t ✮ t↕✐ x✳
❧➔ ♠ët
✶✸
Footer Page 15 of 54.
Header Page 16 of 54.
sỷ r A(x ) ởt t số t r ở ừ t
t x õ ữợ r ở ổ t
ừ t õ t t tố ữ r ở
min f (x)
s
gi (x) = 0, i A(x ).
t r ở ữỡ tr tữớ t ỡ s ợ
t ố
ừ ỹ t t ử
trữ tỷ r
r ử tr t q tố ữ t ử
tỷ r t tố ữ r ở ổ ỗ s
t ợ ởt số ỡ ú ỵ q trồ s ữủ sỷ
ử ữỡ s
Lữợ
L ởt t
tr tỹ l : Rn R f : Rn R ởt tỷ l L ữủ
ồ ởt Lữợ
rt ừ f t ởt x0 Rn
f (x) f (x0 ) + l(x) l(x0 ), x Rn .
L f (x0 ) ừ tt Lữợ rt ừ f t x0 ữủ ồ Lữợ
Lsrt ừ f t x0
ú ỵ r L ữủ ồ ữ t tt t t
ữủ tr Rn t õ ợ ồ ỗ tr tỹ f
ữủ tr Rn t õ L f (x) = f (x) tr õ f (x) ữợ
t t ỗ
t t tố ữ r ở t ữỡ tr
min
xRn
s
P
f (x)
gi (x) 0, i = 1, ã ã ã , m,
Footer Page 16 of 54.
Header Page 17 of 54.
tr õ f, gi : Rn R, i = 1, ã ã ã , m ữủ ừ (P )
ữủ ỵ
S := {x Rn | gi (x) 0, i = 1, ã ã ã , m}.
ừ ỹ t t ử
sỷ L ởt t tr tỹ ữủ tr Rn
s l L ợ l L r t (P ) x S sỷ r
m
(
Rm
+)
0 L f (x) + L
i gi (x)
m
i gi (x) = 0.
i=1
i=1
õ x ởt ỹ t t ử ừ (P )
ự
t tỗ t i 0, i = 1, ã ã ã , m
l L s
i gi (x) = 0 (i = 1, ã ã ã , m), l L f (x)
m
l L
i gi (x).
i=1
ợ ộ x Rn t ừ Lữợ t õ
f (x) f (x) l(x) + l(x)
= f (x) [l(x) l(x)]
m
f (x)
m
i gi (x)
i=1
i gi (x)
i=1
m
= f (x)
i gi (x).
i=1
r f (x) f (x) ợ ồ x S ứ õ t õ x ởt ỹ t t
ử ừ (P )
sỷ L ởt t tr tỹ ữủ
tr Rn s l L ợ l L r t (P )
Footer Page 17 of 54.
Header Page 18 of 54.
x S
sỷ r f L õ tọ
m
(
Rm
+)
f L
i gi (x)
i gi (x) = 0.
i=1
i=1
ự
m
f L f L f (x) t õ s r
ữủ sỷ tọ õ ữ tr ự
ừ t õ
m
i gi (x) ợ ồ x Rn .
f (x) f (x)
i=1
ứ õ ợ ồ x Rn t ữủ
m
m
i gi (x)
i=1
i gi (x) f (x) + f (x),
i=1
m
i gi (x) = 0.
i=1
r
m
f L
i gi (x).
i=1
ữủ tọ ữủ ự
r õ t ừ ởt t rộ D tr Rn ố
ợ L ữủ
NL,D (x) :=
{l L : l(y) l(x) 0, y D} x D
x
/ D.
t r L t tt t t ữủ
tr Rn D ởt t ỗ t NL,D (x) = ND (x) õ t ừ
D t ừ t ỗ ỡ ỳ ợ S ữủ ữ tr
t s ổ ữủ tọ
m
NL,S (x)
L
àRm
+
m
ài gi (x)
i=1
i=1
Footer Page 18 of 54.
ài gi (x) = 0 .
Header Page 19 of 54.
ữ t s t tr ữỡ tr tr õ trỏ
t q trồ tr trữ ừ tố ữ t ử tổ q
tỷ r
tS
r ở ữủ ồ tọ
t tS S rrt
m
NL,S (x) =
L
àRm
+
m
ài gi (x)
i=1
ài gi (x) = 0 ,
i=1
ợ ồ x S
õ t tS tọ t x tọ t x t
r t tS õ trỏ ữ
t ữủ st rrt ợ
g1 , ã ã ã , gm , l L R t t s
gi (y) 0, i = 1, . . . , m = l(y)
( Rm
+ ) l(y) +
m
i=1 i gi (y)
, y Rn .
õ t t r s r tứ
r tr trữớ ủ t s r ữủ tọ
t {g1 , . . . , gm , l, } ữủ ồ
tọ t ữủ
L t t t gi t
tọ t ữủ s r tứ ỵ ữủ
t ữủ ồ ờ rs ữỡ tỹ tr trữớ ủ
gi ỗ tr gi (x0 ) < 0, i = 1, 2, . . . , m ợ x0 Rn
õ t r tọ t ữủ
t
ợ ồ l L ợ ộ x Rn {g1 , . . . , gm , l, l(x)}
tọ t ữủ r ở tọ t t
S r trữớ ủ L t tt t t f, g1 , g2 , . . . , gm
ỗ t t tS t r ở t
trữ tỷ r ừ tố ữ ố ợ t (P ) r
trữớ ủ tr t ữủ ừ ỗ
L ởt t tr tỹ ữủ
tr Rn s l L ợ l L r t (P ) x S
Footer Page 19 of 54.
Header Page 20 of 54.
sỷ r f L t tS tọ t x õ x ởt ỹ
t t ử ừ (P ) tọ
ự
ứ x ởt ỹ t t ử ừ (P ) t
t õ f NL,S (x) õ ớ t tS t õ tọ ỷ
ử t õ ự
ỵ s s r r t tS t t trữ
ỹ t t ử tổ q tỷ r
ỵ trữ tỷ r ừ t tS sỷ
r L ởt t tr tỹ ữủ tr Rn s
l L ợ l L õ s tữỡ ữỡ
r ở tọ t tS
ợ ồ f L ợ ộ ỹ t t ử x ừ f tr S
m
(
Rm
+)
f L
i gi (x)
i=1
ự
m
i gi (x) = 0.
i=1
= ữủ s r tứ
= sỷ r x S l L õ l NL,S (x) t t
õ L t Lr t õ x ởt ỹ t
t ử ừ l tr S tỗ t Rm
+ s
m
m
i gi (x)
l L
i=1
i gi (x) = 0.
i=1
r
m
m
NL,S (x)
ài gi (x)
L
àRm
+
ài gi (x) = 0 .
i=1
i=1
ứ õ t õ t tS tọ õ ụ õ
ỵ ữủ ự t
Footer Page 20 of 54.
Header Page 21 of 54.
❈❤÷ì♥❣ ✷
✣■➋❯ ❑■➏◆ ❚➮■ ×❯ ❚❖⑨◆ ❈Ö❈
❚❘❖◆● ◗❯❨ ❍❖❸❈❍ ❚❖⑨◆
P❍×❒◆●
❚r♦♥❣ ❝❤÷ì♥❣ ♥➔②✱ tr÷î❝ t✐➯♥✱ ❧✉➟♥ ✈➠♥ s➩ tr➻♥❤ ❜➔② ✈➲ tè✐ ÷✉ t♦➔♥
♣❤÷ì♥❣ ✈î✐ ❝→❝ r➔♥❣ ❜✉ë❝ t♦➔♥ ♣❤÷ì♥❣✳ ◗✉❛ ✤â✱ t❤✉ ✤÷ñ❝ ❝→❝ ✤✐➲✉ ❦✐➺♥
✤õ ❝ô♥❣ ♥❤÷ ✤✐➲✉ ❦✐➺♥ ❝➛♥ ✈➔ ✤õ ❝❤♦ ❝→❝ ❝ü❝ t✐➸✉ t♦➔♥ ❝ö❝✳ ❚✐➳♣ ✤â✱ ❧✉➟♥
✈➠♥ tr➻♥❤ ❜➔② ❝→❝ ✤➦❝ tr÷♥❣ ❝õ❛ ❇ê ✤➲ S ✈➔ ✤è✐ ♥❣➝✉ ▲❛❣r❛♥❣❡ ❝❤♦ tè✐ ÷✉
t♦➔♥ ♣❤÷ì♥❣ tr➯♥ ♠ët r➔♥❣ ❜✉ë❝ t♦➔♥ ♣❤÷ì♥❣ t❤æ♥❣ q✉❛ ✤✐➲✉ ❦✐➺♥ ❙❧❛t❡r✳
❱➔ s❛✉ ✤â ❧➔ ❝❤➼♥❤ q✉② ❤â❛ ❇ê ✤➲ S ❦❤æ♥❣ ✤✐➲✉ ❦✐➺♥ ❙❧❛t❡r✳ ❈✉è✐ ❝❤÷ì♥❣✱
❧✉➟♥ ✈➠♥ tr➻♥❤ ❜➔② ❝→❝ ✤✐➲✉ ❦✐➺♥ ❝➛♥ ✈➔ ✤õ ❝❤♦ tè✐ ÷✉ t♦➔♥ ❝ö❝ tr♦♥❣ q✉②
❤♦↕❝❤ t♦➔♥ ♣❤÷ì♥❣✳ ❚➔✐ ❧✐➺✉ t❤❛♠ ❦❤↔♦ ❝❤➼♥❤ ❝❤♦ ❝❤÷ì♥❣ ♥➔② ❧➔ ❬✸❪✱ ❬✶✺❪
✈➔ ❬✶✻❪✳
✷✳✶ ❚è✐ ÷✉ t♦➔♥ ♣❤÷ì♥❣ ✈î✐ ❝→❝ r➔♥❣ ❜✉ë❝ t♦➔♥
♣❤÷ì♥❣
❑þ ❤✐➺✉ Sn ❧➔ t➟♣ t➜t ❝↔ ❝→❝ ♠❛ tr➟♥ ✤è✐ ①ù♥❣ n × n✳
❳➨t ❜➔✐ t♦→♥ q✉② ❤♦↕❝❤ t♦➔♥ ♣❤÷ì♥❣✿
min
s❛♦ ❝❤♦
1 T
x A0 x + aT0 x
2
1 T
x Ai x + aTi x + ci ≤ 0, i = 1, 2, . . . , m,
2
✶✾
Footer Page 21 of 54.
✭◗P✮
Header Page 22 of 54.
tr♦♥❣ ✤â Ai ∈ Sn , ai ∈ Rn ✈➔ ci ∈ R, i = 0, 1, . . . , m✳ ❚❛ ✤➦t
1
f (x) := xT A0 x + aT0 x;
2
1
gi (x) := xT Ai x + aTi x + ci , ✈î✐ ♠å✐ i = 1, 2, . . . , m;
2
S := {x ∈ Rn | gi (x) ≤ 0, i = 1, 2, . . . , m};
1
L := l : Rn −→ R | l(x) = xT Ax + bT x, A ∈ Sn , b ∈ Rn .
2
▼➺♥❤ ✤➲ ✷✳✶✳✶ ❈❤♦ h(x) =
c∗ ∈ R
✈➔ x ∈ Rn✳ ❑❤✐ ✤â✱
∂L h(x) =
1 T
x A∗ x + aT∗ x + c∗ , A∗ ∈ Sn , a∗ ∈ Rn ✱
2
1 T
x Ax + bT x A = A∗ − B, b = a∗ + Bx, B ∈ Sn , B
2
❈❤ù♥❣ ♠✐♥❤ ✳
0 .
●✐↔ sû l0 ∈ L✱ ✈î✐
1
l0 (x) = xT Ax + bT x.
2
❑❤✐ ✤â✱ l0 ∈ ∂L h(x) ♥➳✉ ✈➔ ❝❤➾ ♥➳✉
l0 (x) − l0 (x) ≤ h(x) − h(x),
✈î✐ ♠å✐ x ∈ Rn ✳ ✣➦t
φ(x) = h(x) − l0 (x).
❑❤✐ ✤â✱ t❛ ❝â
1
φ(x) = xT (A∗ − A)x + (a∗ − b)T x + c∗ .
2
❚❤❡♦ ✭✷✳✶✮✱ ✈î✐ ♠å✐ x ∈ Rn ✱ t❛ ❝â
φ(x) ≥ φ(x).
❙✉② r❛
A∗ − A
0.
◆➳✉ ❦❤æ♥❣✱ tç♥ t↕✐ x0 ∈ Rn s❛♦ ❝❤♦
xT0 (A∗ − A)x0 < 0.
✷✵
Footer Page 22 of 54.
✭✷✳✶✮
Header Page 23 of 54.
ớ ợ k R t õ
1
(kx0 ) = (kx0 )T (A A)(kx0 ) + (a b)T (kx0 ) + c
2
k2
= u + kv + c ,
2
tr õ
u := xT0 (A A)x0 < 0 v := (a b)T x0 .
ứ u < 0 t s r
(kx0 ) < (x)
ợ k õ |k| ừ ợ ởt t A A ởt tr
ỷ ữỡ ởt ỗ tr Rn ỡ ỳ t
ữủ ỹ t ừ õ t x (x) = 0 ự
b = a + (A A)x.
õ l0 L h(x)
A A
0 b = a + (A A)x.
t B = A A õ l0 L h(x)
B
b = a + Bx.
0, B Sn , A = A B
ữủ ự
ừ ỹ t t ử ừ t q t ữỡ
P ữủ ổ t ỵ ữợ
ỵ ừ ỹ t t ử
ợ t P sỷ x S tỗ t i 0, i = 1, . . . , m s
m
i Ai + A0
i=1
m
m
i Ai + A0 x +
i ai + a0
i=1
i=1
Footer Page 23 of 54.
0,
= 0,
Header Page 24 of 54.
m
i gi (x) = 0.
i=1
t x ởt ỹ t t ử ừ t q t ữỡ P
ự
r
m
f L
i gi (x)
i=1
m
i gi (x) = 0.
i=1
õ t t s r x ởt ỹ t
t ử ừ t q t ữỡ P ỵ ữủ ự
t t s t r ừ tố ữ
t ử ữợ t tS
ỵ ừ ỹ t t ử
ợ t q t ữỡ P x S sỷ r r
ở tọ t tS t x õ x ởt ỹ t t ử ừ
t P ữủ tọ
ự
t r tữỡ ữỡ
ợ t t õ tọ tỗ t Rm
+
ợ
m
i gi (x) = 0
i=1
s
m
f L
i gi (x).
i=1
m
i=1 i gi
f L
C Sn ợ C
(x) tỗ t
0 s
m
A0 =
i Ai C
i=1
Footer Page 24 of 54.
Header Page 25 of 54.
m
a0 =
i ai + Cx.
i=1
ứ õ tọ t ró r ụ tọ
ữủ sỷ õ õ tứ
m
A0 =
m
i Ai A0 +
i=1
i Ai
i=1
m
a0 =
m
i ai + A0 +
i=1
i Ai x,
i=1
t õ
m
m
i gi (x) = 0
f L
i gi (x).
i=1
i=1
r ữủ tọ ỵ ữủ ự t
t
ứ ỵ t t r r ở tọ
t tS tọ ợ ộ f L ợ ồ ỹ
t x ừ f tr S
ởt ổ ử rt q trồ tr ỵ tt tr
t tố ữ õ õ ờ S õ ữ r
t tS ởt trữớ ủ t ữỡ ổ ỗ
ờ ờ S ổ t t
f, g1 : Rn R t ữỡ ữủ
1
f (x) = xT Ax + aT x + c0 ,
2
1
g1 (x) = xT Bx + bT x + c1 ,
2
ợ A, B Sn; a, b Rn c0, c1 R sỷ r tỗ t x0 Rn s
g1(x0) < 0 õ s tữỡ ữỡ
Footer Page 25 of 54.