(Luận văn thạc sĩ) Về bài toán tối ưu trong học độ tương tự

ĐẠI HỌC THÁI NGUYÊN
TRƢỜNG ĐẠI HỌC KHOA HỌC
-------------------------------

TRẦN VĂN PHƢỢNG

VỀ BÀI TOÁN TỐI ƢU
TRONG HỌC ĐỘ TƢƠNG TỰ

LUẬN VĂN THẠC SĨ TOÁN HỌC

THÁI NGUYÊN - 2019


ĐẠI HỌC THÁI NGUYÊN
TRƢỜNG ĐẠI HỌC KHOA HỌC
-------------------------------

TRẦN VĂN PHƢỢNG

VỀ BÀI TOÁN TỐI ƢU
TRONG HỌC ĐỘ TƢƠNG TỰ
Chuyên ngành: Toán ứng dụng
Mã số
: 8 46 01 12

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC
TS. Nguyễn Thanh Sơn

THÁI NGUYÊN - 2019


✐✐✐

▼ö❝ ❧ö❝
❇↔♥❣ ❦þ ❤✐➺✉
✶
▼ð ✤➛✉
✷
❈❤÷ì♥❣ ✶ ❇➔✐ t♦→♥ tè✐ ÷✉ tr♦♥❣ ❦❤æ♥❣ ❣✐❛♥ ❤ú✉ ❤↕♥ ❝❤✐➲✉ ✻
✶✳✶

❙ì ❧÷ñ❝ ✈➲ ❜➔✐ t♦→♥ tè✐ ÷✉

✻

✶✳✶✳✶

❇➔✐ t♦→♥ tè✐ ÷✉

✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳

✻

✶✳✶✳✷

❑❤→✐ q✉→t ❜➔✐ t♦→♥ tè✐ ÷✉ ❝â r➔♥❣ ❜✉ë❝ ✳ ✳ ✳ ✳ ✳ ✳ ✳

✽

✶✳✶✳✸

❚è✐ ÷✉ ❤➔♠ ♠ö❝ t✐➯✉ ❜➟❝ ❤❛✐ ✈î✐ r➔♥❣ ❜✉ë❝ ❜➜t
✤➥♥❣ t❤ù❝

✶✳✷

✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳

✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✵

▼ët sè ♣❤÷ì♥❣ ♣❤→♣ ❣✐↔✐ ❜➔✐ t♦→♥ tè✐ ÷✉
✶✳✷✳✶

P❤÷ì♥❣ ♣❤→♣ ◆❡✇t♦♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶

✶✳✷✳✷

P❤÷ì♥❣ ♣❤→♣ ❣✐↔♠ s➙✉ ♥❤➜t ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✸

✶✳✷✳✸

P❤÷ì♥❣ ♣❤→♣ ❤➔♠ ❝❤➢♥ ❧♦❣❛r✐t❤ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✺

✶✳✷✳✹

P❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✽

❈❤÷ì♥❣ ✷ ❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü

✷✳✶

✷✳✷

✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✶✶

✷✶

❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü ✈➔ ❝→❝ ❦✐➳♥ t❤ù❝ ❧✐➯♥ q✉❛♥ ✳ ✳ ✳ ✳ ✷✶
✷✳✶✳✶

▼ët sè ❦✐➳♥ t❤ù❝ ❧✐➯♥ q✉❛♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✶

✷✳✶✳✷

❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✺

✷✳✶✳✸

❚➼♥❤ ❧ç✐ ❝õ❛ ❜➔✐ t♦→♥ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✻

✷✳✶✳✹

❑❤♦↔♥❣ ❝→❝❤ ▼❛❤❛❧❛♥♦❜✐s

✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✼

P❤÷ì♥❣ ♣❤→♣ ❣✐↔✐ ❜➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✽
✷✳✷✳✶

❚r÷í♥❣ ❤ñ♣ ❦❤♦↔♥❣ ❝→❝❤ ❊✉❝❧✐❞❡ ❝â trå♥❣ sè ✳ ✳ ✳ ✳ ✷✽


✐✈
✷✳✷✳✷

P❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t ❝❤♦ ❜➔✐ t♦→♥ ❤å❝ ✤ë
t÷ì♥❣ tü ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✷✾

✷✳✷✳✸

❱➼ ❞ö sè ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✳ ✸✷

❑➳t ❧✉➟♥
❚➔✐ ❧✐➺✉ t❤❛♠ ❦❤↔♦

✸✻
✸✼


❇↔♥❣ ❦þ ❤✐➺✉
H

❦❤æ♥❣ ❣✐❛♥ ❍✐❧❜❡rt t❤ü❝

∇f

❣r❛❞✐❡♥t ❝õ❛ ❤➔♠ sè✱ ❣r❛❞

∇2 f

❍❡ss✐❛♥ ❝õ❛ ❤➔♠ sè

A

f

f

✈➔ ❧➔ ♠❛ tr➟♥ ❝ï

❝❤✉➞♥ ❊✉❝❧✐❞ ❝õ❛ ♠❛ tr➟♥

A

λ(A)

❝→❝ ❣✐→ trà r✐➯♥❣ ❝õ❛

A

A≥0

♠❛ tr➟♥ ♥û❛ ①→❝ ✤à♥❤ ❞÷ì♥❣

A>0

♠❛ tr➟♥ ①→❝ ✤à♥❤ ❞÷ì♥❣

x∗

✤✐➸♠ ❝ü❝ t✐➸✉ ❤❛② ❝ü❝ t✐➸✉

f (x∗ )

❣✐→ trà ❝ü❝ t✐➸✉

n×n





ợ ữợ ở ồ tự tữ ợ
rt t r t t trt s
trt t ỳ ởt t ớ ổ trỏ
ừ õ ố ợ ởt qố ởt ũ tờ ợ ự ữủ
r ổ s t tr ở
tr ổ t
r tỹ t r t t ử t ỡ ỳ ồ
r ởt t tr tứ ừ ồ
t s t ởt t ọ tr ỹ rở ợ
ữợ õ ở t ồ õ

ồ ở tữỡ tỹ

r ởt ổ tờ qt ỡ tr ởt ổ
tr ữủ ũ ỳ
ố tữủ ố tữủ trũ
ọ ợ

ớ t t ởt t ủ tờ qt ỡ ữ t ử
t ữớ t sỷ t õ t ờ ố tữủ
õ t ố tữủ t ồ ữ tỡ tr
ỹ ởt õ t t ữủ õ ố tữủ
tữỡ tỹ t ữủ ố tữủ tữỡ
tỹ õ t ứ ữủ ỹ ọ
ố tữủ s õ ợ
ọ t t ỹ õ ữ t ị tữ tỹ


✸
♥❤✐➯♥ ❧➔ ❦❤→✐ q✉→t ❤â❛ ❦❤♦↔♥❣ ❝→❝❤ ❊✉❝❧✐❞❡✳ ❚❛ ❝â ✈î✐

x−y
tr♦♥❣ ✤â

E

I

=

2

x−y

(x − y)T (x − y) =

=

x−y

A

A

=

t❤➻

(x − y)T I(x − y),
I

❜➡♥❣ ♠ët ♠❛ tr➟♥

(x − y)T A(x − y).

✭✵✳✵✳✶✮

❧➔ ♠ët ♠❛ tr➟♥ ✤ì♥ ✈à✳ ❇➙② ❣✐í✱ t❛ t❤❛②

✤è✐ ①ù♥❣ ♥û❛ ①→❝ ✤à♥❤ ❞÷ì♥❣

x, y ∈ Rn

✈➔ ✤à♥❤ ♥❣❤➽❛

▲÷✉ þ r➡♥❣ ❦❤✐ ✤â ✭✵✳✵✳✶✮ ❝❤➾ ❧➔ ♠ët ❣✐↔ ❦❤♦↔♥❣ ❝→❝❤✱ tù❝ ❧➔ ❤❛✐ ✤✐➸♠

0✳ ◆❤÷ ✈➟②✱ ✈✐➺❝ ①➙② ❞ü♥❣ ❦❤♦↔♥❣

❦❤→❝ ♥❤❛✉ ❝â t❤➸ ❝â ❦❤♦↔♥❣ ❝→❝❤ ❜➡♥❣

❝→❝❤ ✤÷ñ❝ q✉② ✈➲ ✈✐➺❝ t➻♠ ♠ët ♠❛ tr➟♥ ✤è✐ ①ù♥❣ ♥û❛ ①→❝ ✤à♥❤ ❞÷ì♥❣✳
◆➳✉ ❦❤æ♥❣ ❝â ❣ñ✐ þ ❣➻ t❤➻ ✤➙② ❧➔ ♠ët ❜➔✐ t♦→♥ ❦❤æ♥❣ ❝â ❧í✐ ❣✐↔✐✳ Ð
❣â❝ ✤ë ❍å❝ ♠→②✱ ♠✉è♥ ♠→② ♣❤➙♥ ❜✐➺t ✤÷ñ❝ t❤➳ ♥➔♦ ❧➔ ❤❛✐ ✤è✐ t÷ñ♥❣
❧➔ t÷ì♥❣ tü✱ t❤➳ ♥➔♦ ❧➔ ❦❤æ♥❣ t÷ì♥❣ tü t❤➻ t❛ ♣❤↔✐ ❞↕② ♥â✳ ❚❤æ♥❣ t✐♥

S

❣ñ✐ þ ð ✤➙② ❧➔ ✈✐➺❝ ❝❤♦ tr÷î❝ ❤❛✐ t➟♣ ❝♦♥
✤è✐ t÷ñ♥❣ ✭❣✐↔ sû ❧➔
♥❤❛✉✱ ❝á♥

D

Rn ✮

♠➔ tr♦♥❣ ✤â

S

✈➔

D

❝õ❛ ❦❤æ♥❣ ❣✐❛♥ ❝→❝

❝❤ù❛ ♥❤ú♥❣ ✤è✐ t÷ñ♥❣ t÷ì♥❣ tü

❝❤ù❛ ♥❤ú♥❣ ✤è✐ t÷ñ♥❣ ❦❤æ♥❣ t÷ì♥❣ tü✳ ▼ët ♣❤➨♣ ✤♦ tèt✱

A✱

tr♦♥❣ tr÷í♥❣ ❤ñ♣ ♥➔② ✤➦❝ tr÷♥❣ ❜ð✐ ♠❛ tr➟♥
✐✮ ❑❤♦↔♥❣ ❝→❝❤ ❣✐ú❛ ❝→❝ ✤è✐ t÷ñ♥❣ t❤✉ë❝

S

♣❤↔✐ t❤ä❛ ♠➣♥ ❜❛ ✤✐➲✉✿

t❤❡♦ ♠❛ tr➟♥

A

❝➔♥❣ ♥❤ä

❝➔♥❣ tèt❀
✐✐✮ ❑❤♦↔♥❣ ❝→❝❤ ❣✐ú❛ ❝→❝ ✤è✐ t÷ñ♥❣ t❤✉ë❝

D t❤❡♦ ♠❛ tr➟♥ A ♣❤↔✐ t÷ì♥❣

✤è✐ ❧î♥❀
✐✐✐✮ ▼❛ tr➟♥

A ♣❤↔✐ t❤ä❛ ♠➣♥ ❝→❝ ✤✐➲✉ ❦✐➺♥ ✤➸ ①➙② ❞ü♥❣ ✤÷ñ❝ ❣✐↔ ❦❤♦↔♥❣

❝→❝❤✱ tù❝ ❧➔

A

♣❤↔✐ ✤è✐ ①ù♥❣ ✈➔ ♥û❛ ①→❝ ✤à♥❤ ❞÷ì♥❣✳

◆❤ú♥❣ ❣ñ✐ þ tr➯♥ ✤➣ ❞➝♥ ✤➳♥ ❜➔✐ t♦→♥ tè✐ ÷✉ s❛✉✿

x−y

❛r❣ min

A

2
A

✭✵✳✵✳✷✮

(xi ,xj )∈S

s❛♦ ❝❤♦

x−y
(xi ,xj )∈D

A

≥ 1,

A ≥ 0.

✭✵✳✵✳✸✮

✹
▼ö❝ ✤➼❝❤ ❝õ❛ ✤➲ t➔✐ ❧➔ tr➻♥❤ ❜➔② ✈✐➺❝ ❣✐↔✐ ❜➔✐ t♦→♥ tè✐ ÷✉ ♥↔② s✐♥❤
tr♦♥❣ ❤å❝ ✤ë t÷ì♥❣ tü ✭✵✳✵✳✷✮✱ ✭✵✳✵✳✸✮✳
◆ë✐ ❞✉♥❣ ❝õ❛ ✤➲ t➔✐ ❧✉➟♥ ✈➠♥ ✤÷ñ❝ tr➻♥❤ ❜➔② tr♦♥❣ ❤❛✐ ❝❤÷ì♥❣✳

❈❤÷ì♥❣ ✶✳ ❇➔✐ t♦→♥ tè✐ ÷✉ tr♦♥❣ ❦❤æ♥❣ ❣✐❛♥ ❤ú✉ ❤↕♥ ❝❤✐➲✉
◆ë✐ ❞✉♥❣ ❝❤➼♥❤ ❝õ❛ ❝❤÷ì♥❣ ♥➔② ❧➔ ❝→❝ ❦✐➳♥ t❤ù❝ ✈➲ tè✐ ÷✉ ❤â❛✳ ❈❤ó♥❣
tæ✐ ♥❤➢❝ ❧↕✐ ♠ët ❝→❝❤ sì ❧÷ñ❝ ❝→❝ ❦❤→✐ ♥✐➺♠ ❝ì ❜↔♥ ❝õ❛ ❜➔✐ t♦→♥ tè✐ ÷✉
✈➔ ♠ët sè ♣❤÷ì♥❣ ♣❤→♣ ❝❤♦ ❜➔✐ t♦→♥ tè✐ ÷✉ ❦❤æ♥❣ r➔♥❣ ❜✉ë❝✳ ❚r♦♥❣ ✤â✱
❝❤ó♥❣ tæ✐ ✤✐ s➙✉ ✈➔♦ tr➻♥❤ ❜➔② ❝❤✐ t✐➳t ♣❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t s➩
❞ò♥❣ ð ❈❤÷ì♥❣ ✷✳ ❚➔✐ ❧✐➺✉ t❤❛♠ ❦❤↔♦ ❝❤➼♥❤ ❝❤♦ ❝❤÷ì♥❣ ♥➔② ❧➔ ❬✷❪✱ ❬✹❪✳

❈❤÷ì♥❣ ✷✳ ❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü
❚r♦♥❣ ❝❤÷ì♥❣ ♥➔②✱ ❧✉➟♥ ✈➠♥ tr➻♥❤ ❜➔② ♥❤ú♥❣ ❝❤õ ✤➲ ❦❤→✐ q✉→t ✈➲ ❜➔✐
t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü✳ ❙❛✉ ✤â✱ ❝❤ó♥❣ tæ✐ ✤✐ ✈➔♦ tr➻♥❤ ❜➔② ❝❤✐ t✐➳t ❜➔✐
t♦→♥ ❍å❝ ✤ë t÷ì♥❣ tü t❤❡♦ ❧♦↕t✳ ❈á♥ ♠ët sè ❝❤õ ✤➲ r➜t t❤ó ✈à ❦❤→❝ ♥❤÷
❍å❝ ✤ë t÷ì♥❣ tü ♦♥❧✐♥❡✱ ❍å❝ ✤ë t÷ì♥❣ tü ❞ü❛ tr➯♥ ❧þ t❤✉②➳t t❤æ♥❣ t✐♥
✤➣ ❦❤æ♥❣ t❤➸ ✤÷ñ❝ tr➻♥❤ ❜➔② ❞♦ ❦❤✉æ♥ ❦❤ê ❝â ❤↕♥ ❝õ❛ ❧✉➟♥ ✈➠♥ ❝ô♥❣
♥❤÷ sü ❤↕♥ ❝❤➳ ✈➲ t❤í✐ ❣✐❛♥ ✈➔ ♥➠♥❣ ❧ü❝✳ ❙❛✉ ❝ò♥❣✱ ❝❤÷ì♥❣ ♥➔② tr➻♥❤
❜➔② ♣❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t ❝❤♦ ❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü ✈➔ ✈➼ ❞ö
sè ♠✐♥❤ ❤å❛ ❝❤♦ ♣❤÷ì♥❣ ♣❤→♣ ✤â✳ ❈❤÷ì♥❣ ♥➔② t❤❛♠ ❦❤↔♦ ❝→❝ t➔✐ ❧✐➺✉
❬✸❪✱ ❬✺❪✳
▲✉➟♥ ✈➠♥ ✤÷ñ❝ ❤♦➔♥ t❤➔♥❤ t↕✐ ❚r÷í♥❣ ✣↕✐ ❤å❝ ❑❤♦❛ ❤å❝ ✲ ✣↕✐ ❤å❝
❚❤→✐ ◆❣✉②➯♥✳ ❚r♦♥❣ q✉→ tr➻♥❤ ❤å❝ t➟♣ ✈➔ t❤ü❝ ❤✐➺♥ ❧✉➟♥ ✈➠♥ ♥➔②✱ ❚r÷í♥❣
✣↕✐ ❤å❝ ❑❤♦❛ ❤å❝ ✤➣ t↕♦ ♠å✐ ✤✐➲✉ ❦✐➺♥ tèt ♥❤➜t ✤➸ t→❝ ❣✐↔ ❤å❝ t➟♣✱
♥❣❤✐➯♥ ❝ù✉✳ ❚→❝ ❣✐↔ ①✐♥ ✤÷ñ❝ ❜➔② tä ❧á♥❣ ❜✐➳t ì♥ ❝❤➙♥ t❤➔♥❤ ✤➳♥ ❝→❝
t❤➛②✱ ❝æ tr♦♥❣ ❦❤♦❛ ❚♦→♥ ✲ ❚✐♥✱ tr♦♥❣ ❚r÷í♥❣ ✣↕✐ ❤å❝ ❑❤♦❛ ❤å❝ ✲ ✣↕✐
❤å❝ ❚❤→✐ ◆❣✉②➯♥✳ ✣➦❝ ❜✐➺t✱ t→❝ ❣✐↔ ①✐♥ ❜➔② tä ❧á♥❣ ❜✐➳t ì♥ s➙✉ s➢❝ tî✐

❚❙✳ ◆❣✉②➵♥ ❚❤❛♥❤ ❙ì♥ ✲ ◆❣÷í✐ ✤➣ t➟♥ t➻♥❤ ❤÷î♥❣ ❞➝♥ t→❝ ❣✐↔ ❤♦➔♥


✺
t❤➔♥❤ ❧✉➟♥ ✈➠♥ ♥➔②✳
❚→❝ ❣✐↔ ❝ô♥❣ ①✐♥ ✤÷ñ❝ ❣û✐ ❧í✐ ❝↔♠ ì♥ tî✐ ❇❛♥ ❣✐→♠ ❤✐➺✉ tr÷í♥❣ ❚❍P❚
◆❣✉②➵♥ ✣➠♥❣ ✣↕♦ ✈➔ t➟♣ t❤➸ ❝→❝ t❤➛② ❝æ ❣✐→♦ tr♦♥❣ tê ❚♦→♥✲❚✐♥ ❝õ❛
❚r÷í♥❣ ✤➣ t↕♦ ✤✐➲✉ ❦✐➺♥ ❣✐ó♣ ✤ï t→❝ ❣✐↔ tr♦♥❣ t❤í✐ ❣✐❛♥ t→❝ ❣✐↔ t❤❛♠
❣✐❛ ❤å❝ ❝❛♦ ❤å❝✳

❚❤→✐ ◆❣✉②➯♥✱ t❤→♥❣ ✵✹ ♥➠♠ ✷✵✶✾
❚→❝ ❣✐↔ ❧✉➟♥ ✈➠♥

❚r➛♥ ❱➠♥ P❤÷ñ♥❣


✻

❈❤÷ì♥❣ ✶

❇➔✐ t♦→♥ tè✐ ÷✉ tr♦♥❣ ❦❤æ♥❣ ❣✐❛♥
❤ú✉ ❤↕♥ ❝❤✐➲✉
◆ë✐ ❞✉♥❣ ❝❤➼♥❤ ❝õ❛ ❝❤÷ì♥❣ ♥➔② ❧➔ ❝→❝ ❦✐➳♥ t❤ù❝ ✈➲ tè✐ ÷✉ ❤â❛✳ ❈❤ó♥❣
tæ✐ ♥❤➢❝ ❧↕✐ ♠ët ❝→❝❤ sì ❧÷ñ❝ ❝→❝ ❦❤→✐ ♥✐➺♠ ❝ì ❜↔♥ ❝õ❛ ❜➔✐ t♦→♥ tè✐ ÷✉ ✈➔
♠ët sè ♣❤÷ì♥❣ ♣❤→♣ ❝❤♦ ❜➔✐ t♦→♥ tè✐ ÷✉ ❜❛♦ ❣ç♠ ❜➔✐ t♦→♥ ❦❤æ♥❣ r➔♥❣
❜✉ë❝ ✈➔ ❜➔✐ t♦→♥ ❝â r➔♥❣ ❜✉ë❝✳ ❚r♦♥❣ ✤â✱ ❝❤ó♥❣ tæ✐ ✤✐ s➙✉ ✈➔♦ tr➻♥❤ ❜➔②
❝❤✐ t✐➳t ♣❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t s➩ ❞ò♥❣ ð ❈❤÷ì♥❣ ✷✳ ❚➔✐ ❧✐➺✉ t❤❛♠
❦❤↔♦ ❝❤➼♥❤ ❝❤♦ ❝❤÷ì♥❣ ♥➔② ❧➔ ❬✷❪✱ ❬✹❪✳

✶✳✶ ❙ì ❧÷ñ❝ ✈➲ ❜➔✐ t♦→♥ tè✐ ÷✉

▼ö❝ ♥➔② s➩ tr➻♥❤ ❜➔② ❦❤→✐ ♥✐➺♠✱ ❦➳t q✉↔ ❝ì ❜↔♥ ✤➸ ❝â ❝→✐ ♥❤➻♥ ❦❤→✐
q✉→t ✈➲ ❜➔✐ t♦→♥ tè✐ ÷✉✳

✶✳✶✳✶ ❇➔✐ t♦→♥ tè✐ ÷✉
❈❤♦

f : Rn → R✳

❚➻♠ ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣

x∗

f (x∗ ) ≤ f (x), ∀x ∈ Ux∗ ,
tr♦♥❣ ✤â✱

U x∗

❧➔ ❧➙♥ ❝➟♥ ✤à❛ ♣❤÷ì♥❣ ♥➔♦ ✤â ❝õ❛

min f (x).
x

❝õ❛

f✱

♥❣❤➽❛ ❧➔✱
✭✶✳✶✳✶✮

x∗ ✳ ✣➸ ♥❣➢♥ ❣å♥✱ t❛ ✈✐➳t

✭✶✳✶✳✷✮


✼

❤➔♠ ♠ö❝ t✐➯✉✱
• x∗ ✿ ✤✐➸♠ ❝ü❝ t✐➸✉ ❤❛② ❝ü❝ t✐➸✉✱
• f (x∗ ) ✿ ❣✐→ trà ❝ü❝ t✐➸✉✱
• ❇➔✐ t♦→♥ ✭✶✳✶✳✶✮✿ ❇➔✐ t♦→♥ ❝ü❝ t✐➸✉ ❦❤æ♥❣ r➔♥❣ ❜✉ë❝✳
❇➔✐ t♦→♥ ❝ü❝ t✐➸✉ ❝â r➔♥❣ ❜✉ë❝ ✭❝♦♥str❛✐♥❡❞ ♦♣t✐♠✐③❛t✐♦♥✮ ❧➔ ❜➔✐ t♦→♥
• f✿

t➻♠

x∗

s❛♦ ❝❤♦

f (x∗ ) ≤ f (x), ∀x ∈ Ux∗ ∩ U,
✈î✐

U

✭✶✳✶✳✸✮

❝❤♦ tr÷î❝✳ ◆â ❝â t❤➸ ✈✐➳t ❞÷î✐ ❞↕♥❣

min f (x).
x∈U

❇➔✐ t♦→♥ ❝ü❝ t✐➸✉ t♦➔♥ ❝ö❝ ✭❣❧♦❜❛❧ ♦♣t✐♠✐③❛t✐♦♥✮ ❧➔ ❜➔✐ t♦→♥ t➻♠ x∗
s❛♦ ❝❤♦

f (x∗ ) ≤ f (x), ∀x.

✭✶✳✶✳✹✮

✣✐➲✉ ❦✐➺♥ tè✐ ÷✉
❈→❝ ✤✐➲✉ ❦✐➺♥ ❝➛♥ t❤✐➳t ❝❤♦ sü tè✐ ÷✉ ✤÷ñ❝ rót r❛ ❜➡♥❣ ❝→❝❤ ❣✐↔ sû
r➡♥❣

x∗

∇f (x∗ )

❧➔ ✤✐➸♠ ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ✈➔ s❛✉ ✤â ❝❤ù♥❣ ♠✐♥❤ t➼♥❤ ❝❤➜t ❝õ❛
✈➔

∇2 f (x∗ )✳

✣à♥❤ ❧þ ✶✳✶✳✶ ✭✣✐➲✉ ❦✐➺♥ ❝➛♥✮✳ ❈❤♦ f ∈ C 2(Ux ) ✈➔ x∗ ❧➔ ♠ët ❝ü❝ t✐➸✉
∗

✤à❛ ♣❤÷ì♥❣ ❝õ❛ f ✳ ❑❤✐ ✤â

∇f (x∗ ) = 0.

❍ì♥ ♥ú❛✱ t❛ ❝á♥ ❝â
∇2 f (x∗ ) ≥ 0.
❚ø ✤à♥❤ ❧➼ tr➯♥ t❛ ✤à♥❤ ♥❣❤➽❛ ❝→❝ ❦❤→✐ ♥✐➺♠ s❛✉✿

f (x) = 0 ữủ ồ

ởt x tọ ởt ữủ ồ ứ
tợ

ỵ ừ f C 2(Ux ) sỷ f (x) = 0


2f (x) > 0 õ x ởt ỹ t ữỡ ừ f

qt t tố ữ õ r ở
ứ ử t ữỡ t s t t tố ữ r ở
tờ qt ữ s

minn (f (x))

xR

tr õ

f, ci , cj

r

f

ci (x) = 0, i E

s

trỡ

I, E

t số ỳ

ữủ ồ ử t

ở tự

cj (x), j I



cj (x) 0, j I

ci (x), i E

r

r ở t tự



= {x Rn : ci (x) = 0, i E, cj (x) 0, j I},
ồ õ

t ữủ õ t õ t ữủ

t

min f (x).
x



x Rn

ữủ ồ

õ ởt

N

ừ

ởt ữỡ ừ x
x

tr

Rn

s

f (x) f (x ), x N .
t t tr > t õ

ữỡ t








✾

✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✹ ❈❤♦ x ∈ Ω✱ t➟♣ ❤♦↕t ✭❛❝t✐✈❡ s❡t✮ ❦➼ ❤✐➺✉ A(x) ✤÷ñ❝

✤à♥❤ ♥❣❤➽❛ ❧➔

A(x) = E ∪ {i ∈ I : ci (x) = 0}.

❘➔♥❣ ❜✉ë❝ ❜➜t ✤➥♥❣ t❤ù❝ i ✤÷ñ❝ ❣å✐ ❧➔ ❤♦↕t ✭❛❝t✐✈❡✮ ♥➳✉ ci(x) = 0 ✈➔
♥❣÷ñ❝ ❧↕✐ ♥➳✉ ci(x) > 0 t❤➻ ✤÷ñ❝ ❣å✐ ❧➔ ❦❤æ♥❣ ❤♦↕t✳

✣à♥❤ ♥❣❤➽❛ ✶✳✶✳✺ ❚❛ ♥â✐ t↕✐ ✤✐➸♠ x ✤✐➲✉ ❦✐➺♥ r➔♥❣ ❜✉ë❝ ✤ë❝ ❧➟♣ t✉②➳♥

t➼♥❤ ✭▲■❈◗✮ ✤÷ñ❝ t❤ä❛ ♠➣♥ ♥➳✉ t↕✐ ✤â t➟♣ ❝→❝ ❣r❛❞✐❡♥t ❝õ❛ ❝→❝ r➔♥❣
❜✉ë❝ ❤♦↕t✱
{∇ci (x), i ∈ A(x)}

❧➔ ✤ë❝ ❧➟♣ t✉②➳♥ t➼♥❤✳
❱î✐ ❝→❝ ♥❣✉②➯♥ ❧✐➺✉ tr➯♥✱ t❛ ❝â t❤➸ ♣❤→t ❜✐➸✉ ✤à♥❤ ❧þ ✈➲ ✤✐➲✉ ❦✐➺♥ ❝➛♥
tè✐ ÷✉ ❝ì ❜↔♥ ♥❤➜t ❝õ❛ ❜➔✐ t♦→♥ tè✐ ÷✉ ❝â r➔♥❣ ❜✉ë❝✱ ✤✐➲✉ ❦✐➺♥ ❑❛r✉s❤✲
❑✉❤♥✲ ❚✉❝❦❡r ❤❛② ♥❣➢♥ ❣å♥ ❧➔ ✤✐➲✉ ❦✐➺♥ ❑❑❚✳

✣à♥❤ ❧þ ✶✳✶✳✻ ●✐↔ sû x∗ ❧➔ ♠ët ♥❣❤✐➺♠ ✤à❛ ♣❤÷ì♥❣ ❝õ❛ ❜➔✐ t♦→♥

✭✶✳✶✳✺✮

✈î✐ ❤➔♠ ♠ö❝ t✐➯✉ ✈➔ ❤➔♠ r➔♥❣ ❜✉ë❝ t❤✉ë❝ ❧î♣ C 1 ✈➔ ✤✐➲✉ ❦✐➺♥ ▲■❈◗ ✤÷ñ❝
t❤ä❛ ♠➣♥✳ ❑❤✐ ✤â ❝â ♠ët ♥❤➙♥ tû ▲❛❣r❛♥❣❡ λ∗ = (λ∗i ), i ∈ E ∪ I s❛♦ ❝❤♦
❝→❝ ✤✐➲✉ ❦✐➺♥ s❛✉ ✤➙② t❤ä❛ ♠➣♥ t↕✐ ✤✐➸♠ (x∗, λ∗)
∇x L(x∗ , λ∗ ) = 0,
ci (x∗ ) = 0, ✈î✐

✭✶✳✶✳✶✵✮

ci (x∗ ) ≥

✭✶✳✶✳✶✶✮

λ∗i ≥
λ∗i ci (x∗ ) =

♠å✐ i ∈ E,
0, ✈î✐ ♠å✐ i ∈ I,
0, ✈î✐ ♠å✐ i ∈ I,
0, ✈î✐ ♠å✐ i ∈ E ∪ I.

✭✶✳✶✳✾✮

❈❤ù♥❣ ♠✐♥❤ ❝õ❛ ✤à♥❤ ❧þ ♥➔② ✤÷ñ❝ tr➻♥❤ ❜➔② ❝❤✐ t✐➳t tr♦♥❣ ❬✹❪✳

✭✶✳✶✳✶✷✮
✭✶✳✶✳✶✸✮




ố ữ ử t ợ r ở t
tự
r ử t t tờ qt ú tổ s t t s

1
min q(x) = xT Gx + xT c,
x
2



aTi x = bi , i E,



aTi x bi , i I,



s

tr õ

G

ởt tr ố ự ù

n ì n, c, ai , bi

tỡ

trữợ t ổ õ r ở tự t

E =

tr t ợ t tờ qt ử t
ởt r ở t t

G ởt

tr ỷ ữỡ t õ õ t q tố ữ
t ữỡ ỗ

G ữỡ t ữủ ồ ỗ t

rữớ ủ ỏ t s õ ỡ
õ õ t õ ỹ tr ữỡ ứ
rữợ t t ử ỵ tt tờ qt ừ tố ữ õ r
ở t r t

1

L(x, ) = xT Gx + xT c
2
õ t số t t

x A(x )

i (aTi x bi ).
iIE

ỗ số tọ

A(x ) = i E I : aTi x = bi .
ử ừ ỵ t s r tố ữ





x

tỗ t tỷ r

Gx + c

i , i A(x )



i ai = 0,

iA(x )

aTi x = bi , i A(x ),



aTi x bi , i I\A(x ),



i 0, i I A(x ).



ữ ỵ r t ổ ữ ỵ
t s t ởt trữớ ủ t ữ rt
tr tỹ t t tố ữ t ữỡ

ỵ x tọ


ợ
i A(x ) õ G ỷ ữỡ ỗ
ữỡ t x ởt t ử ừ t


ự ừ ỵ ữủ tr tr ụ tứ ự
t s r

G

ữỡ t

x

t

ởt số ữỡ t tố ữ
ở tr ử ữủ tr tứ t t

Pữỡ t
r ử t sỷ r s ổ ữủ tọ


s ữủ ồ tt t

f t st ợ ss
2 f (x) 2 f (x) x y .






f tọ t x
f (x ) = 0.

f õ s s t x
2 f (x ) > 0.

Pữỡ t ỹ ởt ở tử tợ s
t tr t t tr t t

x+

tứ tr t

t ỹ t ừ ởt t ồ

ừ f q xc

xc

ổ

1
mc (x) = f (xc ) + f (xc )T (x xc ) + (x xc )T 2 f (xc )(x xc ).
2
2
f (xc ) > 0 ỹ t t x+ ừ mc (x) t
ừ ữỡ tr

mc (x) = 0

tữỡ ữỡ ợ

0 = mc (x+ ) = f (xc ) + 2 f (xc )(x+ xc ).
õ

x+ = xc (2 f (xc ))1 f (xc ).
õ ữợ t s

x+ = xc + s,
ợ

s = (2 f (xc ))1 f (xc )

ữ ỵ r


x+

xc

ỹ t t

2 f (xc )

õ t ổ s

õ t ỹ ỹ

trứ tt

2 f (x ) > 0

ừ tt t

ỹ ở tử ừ ữỡ t ữủ tr s

ỵ sỷ tt t ữủ tọ t


xk+1 = xk + pk ,


✶✸

✈î✐ pk = −∇2fk−1∇fk ✳ ❑❤✐ ✤â✿
• ◆➳✉ x0 ✤õ ❣➛♥ x∗ t❤➻ ❞➣② {xk } ❤ë✐ tö tî✐ x∗ ✳
• ❚è❝ ✤ë ❤ë✐ tö ❧➔ q ✲❜➟❝ ❤❛✐✳
• ❉➣② ❝❤✉➞♥ ❝õ❛ ❣r❛❞✐❡♥t { ∇fk } ❤ë✐ tö q ✲❜➟❝ ❤❛✐ tî✐ 0✳

✶✳✷✳✷ P❤÷ì♥❣ ♣❤→♣ ❣✐↔♠ s➙✉ ♥❤➜t
◆❤÷ ✤➣ ❜✐➳t ❤÷î♥❣ ❣✐↔♠ s➙✉ ♥❤➜t ✭st❡❡♣❡st ❞❡s❝❡♥t✮ t↕✐

d = −∇f (x)✳

P❤÷ì♥❣ ♣❤→♣ ♥➔② ❝➟♣ ♥❤➟t

xc

λ>0

❧➔

❜ð✐ ❝æ♥❣ t❤ù❝

x+ = xc − λ∇f (xc ),
tr♦♥❣ ✤â

x

✭✶✳✷✳✶✮

❧➔ ✤ë ❞➔✐ ❜÷î❝✳

▼➦❝ ❞ò t❛ ✤➣ ①→❝ ✤à♥❤ ✤÷ñ❝ ❤÷î♥❣ ❣✐↔♠ s➙✉ ♥❤➜t✱ ♥❤÷♥❣ ✈✐➺❝ ①→❝
✤à♥❤ ✤÷ñ❝ ✤ë ❞➔✐ ❜÷î❝
❝❤å♥ tèt ♥❤➜t ❝❤♦

λ

λ

❧➔ tè✐ q✉❛♥ trå♥❣ ❝õ❛ ♣❤÷ì♥❣ ♣❤→♣ ♥➔②✳ ▲ü❛

❧➔ ♥â tè✐ t❤✐➸✉ ❤â❛ ❤➔♠

φ(λ) = f (xc − λ∇f (xc )).
◆❤÷♥❣ ❜➔✐ t♦→♥ ♥➔② tr♦♥❣ ❤➛✉ ❤➳t tr÷í♥❣ ❤ñ♣ ❝ô♥❣ ❦❤æ♥❣ ❞➵ ❣✐↔✐ ❤ì♥
❜➔✐ t♦→♥ ❝ü❝ trà ❜❛♥ ✤➛✉✳ ❱➻ t❤➳✱ ♥❣÷í✐ t❛ t➻♠ ♠ët ❝→❝❤ t✐➳♣ ❝➟♥ ♥î✐
❧ä♥❣✳ ❚❛ ①➨t ♠æ ❤➻♥❤ ①➜♣ ①➾ ❜➟❝ ♠ët ❝õ❛

f (x)

mc (x) = f (xc ) + ∇f (xc )(x − xc ).
◗✉❛ ❜÷î❝ ❝➟♣ ♥❤➟t ✭✶✳✷✳✶✮✱ ♠æ ❤➻♥❤ ❜➟❝ ♠ët ✭❧➔ ①➜♣ ①➾ ❚❛②❧♦r ❜➟❝ ♠ët
❝õ❛ ❤➔♠ ♠ö❝ t✐➯✉✮ s➩ ❣✐↔♠

pr❡❞ = mc (xc ) − mc (x+ )
= ∇f (xx )(xc − x+ )
= λ ∇f (xc ) 2 .
❱➔ ✤ë ❣✐↔♠ t÷ì♥❣ ù♥❣ ❝õ❛ ❤➔♠ ♠ö❝ t✐➯✉ ❧➔

ar❡❞ = f (xc ) − f (x+ ).


✶✹
❚❛ s➩ r➔♥❣ ❜✉ë❝ ✤✐➲✉ ❦✐➺♥

ar❡❞ > αλpr❡❞ ,
❤❛② t÷ì♥❣ ✤÷ì♥❣

f (xc − λ∇) − f (xc ) < −αλ ∇f (xc ) 2 .

✭✶✳✷✳✷✮

Þ ♥❣❤➽❛ ❝õ❛ ✤✐➲✉ ❦✐➺♥ ♥➔② ❧➔ ✤ë ❣✐↔♠ t❤ü❝ sü ❝õ❛ ❤➔♠ ♠ö❝ t✐➯✉ ♣❤↔✐
❧î♥ ❤ì♥ t➼❝❤ ❝õ❛ ✤ë ❣✐↔♠ ♠æ ❤➻♥❤ ❜➟❝ ♠ët ✈î✐ ❤➺ sè
t❤÷í♥❣✱ ♥❣÷í✐ t❛ ❤❛② ❝❤å♥
✣➸ ①→❝ ✤à♥❤ ✤ë ❞➔✐ ❜÷î❝
✭❜❛❝❦tr❛❝❦✐♥❣✮✳ ❚❛ ❝❤å♥
t➻♠ sè ♥❣✉②➯♥ ❞÷ì♥❣
❝ö t❤➸ ❤â❛ ð ✈á♥❣ ❧➦♣

m

α

❞÷ì♥❣✳ ❚❤æ♥❣

α = 10−4 ✳
λ✱

t❛ ❝â t❤➸ sû ❞ö♥❣ ♠ët

β ∈ (0; 1)

t❤õ tö❝ tr✉② ♥❣÷ñ❝

✭❝â t❤➸ ❝❤å♥ ❜➡♥❣

♥❤ä ♥❤➜t s❛♦ ❝❤♦

λ = β m✳

0, 9✮

✈➔ s❛✉ ✤â✱

❚❤õ tö❝ ♥➔② ✤÷ñ❝

✇❤✐❧❡ tr♦♥❣ ❝õ❛ ❚❤✉➟t t♦→♥ ✶✳ ✣➙② ❝ô♥❣ ❧➔ ♠ët

❝→❝❤ t❤æ♥❣ ❞ö♥❣ ✤➸ ①→❝ ✤à♥❤ ✤ë ❞➔✐ ❜÷î❝ ✤è✐ ✈î✐ ♥❤ú♥❣ ♣❤÷ì♥❣ ♣❤→♣

t➻♠ t❤❡♦ ✤÷í♥❣ t❤➥♥❣ ❦❤→❝✳

❆❧❣♦r✐t❤♠ ✶ ❚❤✉➟t t♦→♥ ❣✐↔♠ s➙✉✲st❡❡♣
■♥♣✉t✿

x, f, τ, kmax , α, β

❖✉t♣✉t✿ ♠ët ①➜♣ ①➾ ❝õ❛

✶✿

r0 = ∇f (x)

✷✿

tol = τa r0 + τr

✸✿

k = 2❀

✹✿ ✇❤✐❧❡

∇f (x) > tol

x∗

❛♥❞

k < kmax

✺✿

m=1

✻✿

ar❡❞ = f (x) − f (x − β∇f (x))

✼✿

pr❡❞ = β ∇f (x)

✽✿ ✇❤✐❧❡
✾✿

❞♦

2

ar❡❞ ≤ αpr❡❞

❞♦

m=m+1

✶✵✿

ar❡❞ = f (x) − f (x − β m ∇f (x))

✶✶✿

pr❡❞ = β m ∇f (x)

2

✶✷✿ ❡♥❞ ✇❤✐❧❡
✶✸✿

x = x + λx

✶✹✿ ❡♥❞ ✇❤✐❧❡
✶✺✿

◆➳✉

k = kmax

t❤➻ ❜→♦ ❝❤÷ì♥❣ tr➻♥❤ t❤➜t ❜↕✐


✶✺
❑❤→✐ q✉→t ✤✐➲✉ ❦✐➺♥ ✭✶✳✷✳✷✮✱ t❛ ❝â ✤✐➲✉ ❦✐➺♥

f (xc + λd) − f (xc ) < αλ∇f (xc )T d,
tr♦♥❣ ✤â

α ∈ (0, 1) ❧➔ t❤❛♠ sè t❤✉➟t t♦→♥✳ ❈ô♥❣ ♥❤÷ ♣❤÷ì♥❣ ♣❤→♣ ❣✐↔♠

s➙✉ ♥❤➜t✱ t❛ t❤÷í♥❣ ❝❤å♥

α = 10−4 ✳

✣✐➲✉ ❦✐➺♥ ♥➔② ❝❤➼♥❤ ❧➔

✤✐➲✉ ❦✐➺♥

❆r♠✐❥♦ ✈➔ t❤÷í♥❣ ✤÷ñ❝ ❣å✐ ❧➔ ✤✐➲✉ ❦✐➺♥ ❣✐↔♠ ✤õ ✭s✉❢❢✐❝✐❡♥t ❝♦♥❞✐t✐♦♥✮✳

✶✳✷✳✸ P❤÷ì♥❣ ♣❤→♣ ❤➔♠ ❝❤➢♥ ❧♦❣❛r✐t❤
❚r♦♥❣ ♠ö❝ ♥➔②✱ ❝❤ó♥❣ t❛ t➻♠ ❤✐➸✉ ♣❤÷ì♥❣ ♣❤→♣ ❤➔♠ ❝❤➢♥ ❧♦❣❛r✐t❤
❝❤♦ ❜➔✐ t♦→♥ tè✐ ÷✉ r➔♥❣ ❜✉ë❝ ❞↕♥❣ ❜➜t ✤➥♥❣ t❤ù❝✳ ❈ö t❤➸ t❛ ①➨t ❜➔✐
t♦→♥ tè✐ ÷✉

min f (x),
x

s❛♦ ❝❤♦

: ci (x) ≥ 0, i ∈ I.

✭✶✳✷✳✸✮

❚❛ ✤à♥❤ ♥❣❤➽❛ ♠✐➲♥ ❤ú✉ ❤↕♥ ♥❣➦t

F 0 := {x ∈ Rn : ci (x) > 0,

✈î✐ ♠å✐

i ∈ I},

✭✶✳✷✳✹✮

✈➔ ❣✐↔ sû r➡♥❣ ♠✐➲♥ ❦❤→❝ ré♥❣✳ ❚❛ s➩ ①➙② ❞ü♥❣ ❤➔♠ ❝❤➢♥ ❝❤♦ ❇➔✐ t♦→♥
✭✶✳✷✳✸✮✱ ✭✶✳✷✳✹✮ ✈î✐ ❝→❝ t➼♥❤ ❝❤➜t s❛✉✿
✭✐✮ ❣✐→ trà ✈æ ❝ò♥❣ ❦❤✐
✭✐✐✮ trì♥ tr♦♥❣

F 0✱

∞

❦❤✐

✭✐✐✐✮ t✐➳♥ tî✐

x

x∈
/ F 0✱

t✐➳♥ ✤➳♥ ❜✐➯♥

F 0✳

❈â t❤➸ t❤➜② ❤➔♠

−

log ci (x),

✭✶✳✷✳✺✮

i∈I
✈î✐

log

❧➔ ❧♦❣❛r✐t❤ ❝ì sè tü ♥❤✐➯♥✱ t❤ä❛ ♠➣♥ ❝→❝ t➼♥❤ ❝❤➜t ✭✐✮✲✭✐✐✐✮✳ ◆â

✤÷ñ❝ ❣å✐ ❧➔ ❤➔♠ ❝❤➢♥ ❧♦❣❛r✐t❤✳ ❑❤✐ ✤â✱ ❤➔♠ ❦➳t ❤ñ♣ ✭❝õ❛ ❤➔♠ ♠ö❝ t✐➯✉
✈➔ ❤➔♠ ❝❤➢♥✮ ❝❤♦ ❇➔✐ t♦→♥ ✭✶✳✷✳✸✮✱ ✭✶✳✷✳✹✮ ✤÷ñ❝ ❝❤♦ ❜ð✐

P (x; µ) = f (x) − µ

log ci (x),
i∈I

✭✶✳✷✳✻✮



tr õ

à

ởt số trỏ ừ tr

tờ ủ ữủ ồ
ồ

t số t ủ P (x; à) ụ ữủ

log t tố ữ t

à t



0



log P (x; à)

ử t ừ

t ữ t ừ ữỡ

log

t t t tố ữ ợ r ở t tự ởt ồ
t tố ữ ổ r ở ử tở t số õ
t õ t ổ t q tr tr t t

rt Pữỡ rrr

à0 > 0 s 0 > 0 t xs0

r k = 0, 1, 2, . . .

ởt tố t ú xk ừ P (.; àk ) t tứ xsk
t tú P (x; àk ) k

tr sỹ ở tử ố ũ tọ
st ợ ú x
k

ồ t số ợ àk+1 (0, àk )
ồ t ợ xsk+1

r

t ỹ t ữợ tr t t t õ t sỷ ử
ữỡ t t tố ữ ổ r ở tr
ử
ỵ s s ú t ố q ỳ t
tố ữ ổ r ở t tố ữ õ r ở

ỵ sỷ r f ci, i I ỗ

ỳ t F 0 ổ rộ t {àk } ởt s
àk 0 sỷ r t ủ M ổ trố ợ ở
õ s ú
ợ ồ à > 0, P (x; à) ỗ tr F 0 õ ởt ỹ t x(à)
ổ t tt t tr F 0 t ý ỹ t

ữỡ x(à) ụ ỹ t t ử ừ P (x, à)
t ý tố t {x(àk )} ụ õ ởt ở tử tt
ợ õ t õ ừ õ M
f (x(àk )) f P (x(àk ); àk ) f ợ t ý tố t
{x(àk )}
ỵ t t s tt ố q ừ ữỡ

log

ợ t tờ qt t tố ữ tr

ử rữợ t t ợ t ờ s t
ỵ ừ

ờ s t


ữỡ ừ ởt tỡ tọ ú
t õ r ờ s t ú ởt tr i
ci(x) 0 ợ ộ số i I õ t õ i > 0
ộ i I A(X )
x

ỵ sỷ r ố ợ ởt số x Rn õ tỡ
tỷ r s ữủ tọ sỷ
ụ
wT xx L(x , )w > 0,

ợ ồ w F2(), w = 0.

õ x ởt ữỡ t ừ

ỵ sỷ r F 0 ổ rộ x ởt

ữỡ ừ t t õ ữủ tọ
ởt số sỷ r ở ở t t
ờ s t ừ tọ t (x, )
õ s ú


✶✽

✭✐✮ ❈â ❞✉② ♥❤➜t ♠ët ❤➔♠ ✈❡❝tì ❦❤↔ ✈✐ ❧✐➯♥ tö❝ x(µ)✱ ①→❝ ✤à♥❤ ✈î✐ ♠å✐
❣✐→ trà ✤õ ♥❤ä µ ✤➸ x(µ) ❧➔ ❝ü❝ t✐➸✉ ✤à❛ ♣❤÷ì♥❣ ❝õ❛ P (x, µ) tr♦♥❣
♠ët sè ❧➙♥ ❝➟♥ ❝õ❛ x∗✱ s❛♦ ❝❤♦ limµ↓0 x(µ) = x∗✳
✭✐✐✮ ✣è✐ ✈î✐ ❤➔♠ x(µ) tr♦♥❣ ✭✐✮✱ ÷î❝ ❧÷ñ♥❣ ♥❤➙♥ tû ▲❛❣r❛♥❣❡ λ(µ) ❤ë✐ tö
✈➲ λ∗ ❦❤✐ µ ↓ 0✳
✭✐✐✐✮ ❍❡ss✐❛♥ ∇2xxP (x; µ) ❧➔ ①→❝ ✤à♥❤ ❞÷ì♥❣ ✈î✐ ♠å✐ µ ✤õ ♥❤ä✳

✶✳✷✳✹ P❤÷ì♥❣ ♣❤→♣ ❝❤✐➳✉ ❣r❛❞✐❡♥t
✣➙② ❧➔ ♠ët ♠ð rë♥❣ ❝❤♦ ❚❤✉➟t t♦→♥ ❣✐↔♠ s➙✉ ♥❤➜t ❝❤♦ ❜➔✐ t♦→♥ ❝ü❝
trà ✈î✐ r➔♥❣ ❜✉ë❝ ❝➟♥✳ ●✐↔ sû t❛ ✤❛♥❣ ð

xc ✱

t❛ ❝➟♣ ♥❤➟t ♥â ❜➡♥❣ ❝æ♥❣

t❤ù❝

x+ = P (xc − λ∇f (xc )),
tr♦♥❣ ✤â

P

❧➔ ♣❤➨♣ ❝❤✐➳✉ ❧➯♥ t➟♣

Ω

✈➔

λ

❧➔ ✤ë ❞➔✐ ❜÷î❝ ✤÷ñ❝ ❝❤å♥ ❜ð✐✱

❝❤➥♥❣ ❤↕♥ q✉② t➢❝ ❆r♠✐❥♦✳ ✣➦t

x(λ) = P (x − λ∇f (x)).
❑❤✐ ✤â✱ ♥➳✉ ♠✉è♥ sû ❞ö♥❣ ❚❤✉➟t t♦→♥ t➻♠ t❤❡♦ ✤÷í♥❣ t❤➥♥❣✱ t❛ ✤à♥❤
♥❣❤➽❛ ❤÷î♥❣ ❣✐↔♠ ✤õ ♥❤÷ s❛✉

f (x(λ)) − f (x) =

✈î✐

α = 10−4 ✳

−α
x − x(λ) 2 ,
λ

✭✶✳✷✳✼✮




rt t t rt rr
t x, f, k
tt ởt x ừ x
r k = 1, ..., k
max

k





max



f f tr ứ



số ữỡ m ọ t s tọ ợ = m

x = x()




r

k = kmax tt t ợ t

ứ

r ử t t t s





Rn

ỳ t tr

= {x Rn : Li xi Ui , i = 1, . . . , n},


f

trữợ tr

x

s

f (x ) f (x), x Ux ,
tr õ

U x

ởt õ ừ

x



t ữủ ồ

t tố ữ ỹ tr ữỡ õ r ở
ổ ữ t ỹ tr ổ r ở sỷ ử

f

ọ

ổ trữ ỹ tr t ổ t sỷ ử õ t
ứ s sỷ ử

x x(1)

t ứ ự

tỹ õ s

ỵ sỷ f

x ứ ổ s
ừ t ừ ỹ tr ữủ tọ t x
õ tỗ t M s e < A(x) = A(x) t
C 2 ()

e
x x M e .
M

t õ t sỷ ử ừ t ứ
x x(1) a .


✷✵

❜✮ ❙ü ❤ë✐ tö
❙ü ❤ë✐ tö ❝õ❛ ❚❤✉➟t t♦→♥ ❝❤✐➳✉ ❣r❛❞✐❡♥t ✤÷ñ❝ ✤↔♠ ❜↔♦ ❜ð✐ ❦❤➥♥❣
✤à♥❤ s❛✉ ✤➙②✳

✣à♥❤ ❧þ ✶✳✷✳✾ ●✐↔ sû ∇f ❧➔ ❧✐➯♥ tö❝ ▲✐♣s❝❤✐t③ ✈î✐ ❤➡♥❣ sè L✳ ❑❤✐ ✤â✱

✤✐➸♠ ❣✐î✐ ❤↕♥ ❝õ❛ ❞➣② {xn} s✐♥❤ ❜ð✐ ❚❤✉➟t t♦→♥ ❝❤✐➳✉ ❣r❛❞✐❡♥t ✤➲✉ ❧➔
✤✐➸♠ ❞ø♥❣ ❝õ❛ ❇➔✐ t♦→♥ ✭✶✳✷✳✽✮✳

✷✶

❈❤÷ì♥❣ ✷

❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü
❚r♦♥❣ ❝❤÷ì♥❣ ♥➔②✱ tr÷î❝ t✐➯♥ ❝❤ó♥❣ tæ✐ tr➻♥❤ ❜➔② ♠❛♥❣ t➼♥❤ ❣✐î✐ t❤✐➺✉
✈➲ ❜➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü✳ ❈❤ó♥❣ t❛ s➩ t❤➜② ✤➙② t❤ü❝ r❛ ❧➔ ♠ët ❧î♣
❝♦♥ ❝õ❛ ❜➔✐ t♦→♥ ❤å❝ ♠❡tr✐❝✱ ✈è♥ ❞ò♥❣ ✤➸ ❣✐↔✐ q✉②➳t ♥❤✐➲✉ ❧î♣ ❜➔✐ t♦→♥
❦❤→❝✱ tr♦♥❣ ✤â ❜❛♦ ❣ç♠ ❜➔✐ t♦→♥ ✈➲ ✤ë t÷ì♥❣ tü✳ ❚❛ s➩ q✉② ❜➔✐ t♦→♥
♥➔② ✈➲ ♠ët ❜➔✐ t♦→♥ tè✐ ÷✉ ✈➔ ♥❣❤✐➯♥ ❝ù✉ ♠ët sè t➼♥❤ ❝❤➜t ❝õ❛ ❜➔✐ t♦→♥
tè✐ ÷✉ ✤â✳ ❙❛✉ ❝ò♥❣✱ ✈➟♥ ❞ö♥❣ ♥❤ú♥❣ ♣❤÷ì♥❣ ♣❤→♣ tè✐ ÷✉ ✤➣ tr➻♥❤ ❜➔②
ð ❝❤÷ì♥❣ ✶✱ ❝❤ó♥❣ tæ✐ tr➻♥❤ ❜➔② ❧í✐ ❣✐↔✐ ❝❤♦ ❜➔✐ t♦→♥✳ ❈❤÷ì♥❣ ♥➔② ❝ô♥❣
❜❛♦ ❣ç♠ ♠ët sè ✈➼ ❞ö t❤ü❝ t➳ ✈î✐ ❞ú ❧✐➺✉ ✤÷ñ❝ ❧➜② tø ♥❣✉ç♥ ♣❤ê ❜✐➳♥
tr♦♥❣ ❝ë♥❣ ✤ç♥❣ ❤å❝ ♠→②✳

✷✳✶ ❇➔✐ t♦→♥ ❤å❝ ✤ë t÷ì♥❣ tü ✈➔ ❝→❝ ❦✐➳♥ t❤ù❝ ❧✐➯♥
q✉❛♥
✷✳✶✳✶ ▼ët sè ❦✐➳♥ t❤ù❝ ❧✐➯♥ q✉❛♥
❛✮ ❉ú ❧✐➺✉ ↔♥❤ tr♦♥❣ ▼❆❚▲❆❇
▼❆❚▲❆❇ ❝â t❤➸ ❧÷✉ r➜t ♥❤✐➲✉ ❦✐➸✉ ❞ú ❧✐➺✉ ♥❤÷ ➙♠ t❤❛♥❤✱ ❤➻♥❤ ↔♥❤✱
✈➠♥ ❜↔♥✱ ✳ ✳ ✳ ✳ ❉♦ ❧✉➟♥ ✈➠♥ ♥➔② ❝❤➾ q✉❛♥ t➙♠ ✤➳♥ ❞ú ❧✐➺✉ ↔♥❤ ♥➯♥ t❛ ❝❤➾
t❤↔♦ ❧✉➟♥ ✈➲ ❦✐➸✉ ❞ú ❧✐➺✉ ♥➔②✳

❜✮ ❍➺ tå❛ ✤ë ↔♥❤