(Luận văn thạc sĩ file word) Giải bài toán giá trị riêng thông qua tối ưu hóa

I H C TH I NGUY N

TR NG I H C KHOA H C
o0o

INH TH KIM OANH
GI I B I TO N GI TR RI NG
TH NG QUA T I U H A
Chuy n ng nh: To n ng d
ng M s : 8 46 01 12
LU N V N TH C S TO N H C
C N B H NG D N KHOA H C
1.
TS. Nguy n Thanh S n
2.
TS. Ho ng Th Tu n

Th i Nguy n - 2021


Licm n
Lu n v n n y c ho n th nh t i Tr ng i h c Khoa h c - i h c
Th i Nguy n d i s h ng d n h t s c t n t nh c a t p th h ng d n, TS.
Nguy n Thanh S n v TS. Ho ng Th Tu n. T i xin c b y t l ng k nh
tr ng v bi t
n s u s c nh t t i c c Th y, nh ng ng i lu n theo s t, h ng d n,
ch b o nhi t t nh v ng vi n t i trong su t qu tr nh t khi l a ch
n t i cho n khi th c hi n v ho n thi n lu n v n.
Qua y, t i c ng xin ch n th nh c m n t i c c qu Th y, C gi o
thu c Khoa To n - Tin, Tr ng i h c Khoa h c - i h c Th i Nguy n
t n t nh gi ng d y v gi p t i ho n th nh kh a h c. Cu i c ng, t i

xin g i l i c m
n t i Ban gi m hi u, t p th c c Th y, C gi o c a Tr ng THPT L ng
Th Vinh n i t i ang c ng t c, ng vi n v t o i u ki n cho t i trong
su t th i gian h c t p c ng nh th c hi n t i.
Th i Nguy n, th ng 5 n m 2021
T c gi

inh Th Kim Oanh


Licm n

i


Mcl
c
M c l c

ii

Danh m c k hi u v ch vi t t t

iv

M

1

u

1 Ki n th c chu n b

3

1.1 M t s v n c b n v b i to n gi tr ri ng . . . . . . . . . .
.
1.2 S l c m t s ph ng ph p gi i b i to n gi tr ri ng
..
....
1.2.1 Ph ng ph p Arnoldi . . . . . . . . . . . . . . . . . . . . .

3
5

1.2.2 Ph ng ph p Lanczos

9

....................

6

1.3 Nh c l i s l c v b i to n t i u . . . . . . . . . . . . . . . . 11
.
1.3.1 i u ki n c n . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.3.2 i u ki n

. . . . . . . . . . . . . . . . . . . . . . . . . 12

1.3.3 Ph ng ph p ng d c nh t . . . . . . . . . . . . . . . . 12
2 Gi i b i to n gi tr ri ng th ng qua t i u h a

14

2.1 nh l Courant-Fischer-Weyl . . . . . . . . . . . . . . . . . . . . 14
2.2 T m gi tr ri ng th ng qua t i u h a h m v t ma tr n . . 15
...
2.3 X p x gi tr ri ng b ng t s Rayleigh . . . . . . . . . . . . . . 18
.
2.4 S d ng h m chi ph Brockett . . . . . . . . . . . . . . . . . . . . 22
2.4.1 H m chi ph v h ng t m ki m . . . . . . . . . . . . . . . 22
2.4.2 i m t i h n . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.5 M t s b i to n gi tr ri ng kh ng ti u chu n. . . . . . . . . 25


Mcl
c

.

ii


iii

2.6 B i to n gi tr ri ng c a c p ma tr n i x ng/ph n i x
ng
ch nh t c: gi tr ri ng symplectic........................................................30

Danh m c k hi u v ch vi t t t
H

Kh ng gian Hilbert th c H

Rn

Kh ng gian th c n chi u

C2n

T ch Descartes c a C hay kh ng gian ph c v c t 2n chi

u
P(2n)

Kh ng gian c c ma tr n th c c n × n
T p c c ma tr n th c i x ng, x c nh d ng c 2n ×

2n Sp(2n)

T p t t c c c ma tr n symplectic c 2n × 2n

Sp(2k, 2n)

T p t t c c c ma tr n symplectic c 2n × 2k

∇f

Gradient c a h m f

Rn×n

2

∇ f

Hessian c a h m f

⟨x, y⟩

T ch v h ng c a hai v c t x v y

ǁxǁ

Chu n c a v c t x

iv


M

u

V n t nh to n kh ng gian ri ng v gi tr ri ng c a ma tr n l r t ph bi
n trong k thu t v khoa h c v t l . N li n quan n c c l nh v c a d
ng nh
ng l c h c c u tr c v khai th c d li u v c r t nhi u ng d
ng k thu t. V th , kh ng c g ng c nhi n khi n v ang l m t l

nh v c nghi n c u r t t ch c c.
B i to n gi tr ri ng tr th nh kinh i n trong i s tuy n t nh
v to n h c t nh to n. Trong nh ngh a ti u chu n, gi tr ri ng l
nghi m c a ph ng tr nh c tr ng c a ma tr n. C ch ti p c n n y kh
ng gi p ch cho vi c t nh gi tr ri ng c a ma tr n c trung b nh v l
n. C c ph ng ph p s
t nh gi tr ri ng hi n nay nh ph ng ph p
Lanczos, ph ng ph p Arnoldi s d ng ch y u c c ki n th c c a i s
tuy n t nh s .
m t di n bi n kh c, t i u tr th nh m t ng nh l n c a to n h c. N
ph t tri n c kh a c nh l thuy t v gi i s . C u h i t ra l ta c
th a b i to n gi tr ri ng v b i to n t i u hay kh ng? N u th c
hi n c i u n y, ta c th s d ng nh ng thu t to n t i u v n r t
phong ph
p d ng cho b i to n n y. V m t l thuy t, n nh m t n
t g ch n i cho ph p k t h p gi a hai h ng nghi n c u t ng ch ng t
li n quan n nhau. Lu n v n n y s tr nh b y c ch ti p c n t i u h a
cho b i to n gi tr ri ng. N i dung c a lu n v n
c chia l m hai ch ng.
Ch ng 1. Ki n th c chu n b

Trong ch ng n y, ch ng t i t ng k t l i c c ki n th c c b n v b i to n
gi tr ri ng, s l c m t s ph ng ph p s gi i b i to n gi tr ri ng v ki
n th c c n thi t v t i u h a. C c t i li u tham kh o cho ch ng n y g
m c [3, 5, 6].


M

u

1


2

Ch ng 2. Gi i b i to n gi tr ri ng th ng qua t i u h a

Ch ng n y l n i dung ch nh c a lu n v n. Trong ch ng n y ch ng t
i x t b i to n gi tr ri ng ti u chu n cho ma tr n v cho c p ma tr
n (A, B) v i B i x ng x c nh d ng. C th , tr c ti n, ch ng t i tr nh
b y nh l Courant- Fischer-Weyl kinh i n v x c nh gi tr ri ng c a
ma tr n i x ng th ng qua b i to n minimax. Sau , ch ng t i x t
m nh t ng qu t h n v n li n quan
n m t t p h p con c c gi tr ri ng v c c v c t ri ng t ng ng. Ch
ng t i ti p t c i s u khai th c h ng n y khi tr nh b y h ng ti p c
n b i to n n y nh m t b i to n t i u tr n a t p c ng v i vi c s d ng
phi m h m Brockett. Hai m c cu i c a ch ng n y
c d nh cho
vi c tr nh b y c c k t qu t ng t nh ng li n quan n b i to n gi tr ri
ng kh ng ti u chu n khi B l ma tr n kh ng x c nh v B l ma tr n
ph n i x ng. Khi vi t ch ng n y, ch ng t i
tham kh o c c t i li u [2, 4, 5, 8].


Ch ng 1
Ki n th c chu n b
1.1 M t s v n c b n v b i to n gi tr ri ng
Cho m t ma tr n vu ng A ∈ Rn×n. B i to n gi tr ri ng l b i to n t
mmt
i l ng v h ng λ sao cho c v c t x, x /= 0, c th l c c i l ng

ph c, sao cho

ho
c

Ax = λx

(1.1)

(A − λI)x = 0

(1.2)

c nghi m kh ng t m th ng (kh c kh ng).
nh ngh a 1.1.1. V i c c k hi u v quan h

ng th c (1.2),

+ λ c g i l m t gi tr ri ng c a A.
+ x c g i l v c t ri ng c a A t ng ng v i λ.
+ T t c c c v c t ri ng c c ng gi tr ri ng λ c ng v i c c v c t kh
ng t o th nh m t kh ng gian con tuy n t nh c a Rn, c g i l kh
ng gian con ri ng c a λ.
+ C p (λ, x) c g i l m t c p ri ng.
+ T p h p c c gi tr ri ng c a A c g i l ph c a A.
+ C c gi tr ri ng c a A l nghi m c a a th c c tr ng c a A,
PA(z) := det(A − zI).
3

12

+ B i c a nghi m c a a th c c g i l b i i s c a gi tr ri ng t
ng ng.
+ B i h nh h c c a tr ri ng l s chi u c a kh ng gian con ri ng t ng
ng v i tr ri ng .
+ N u T l m t ma tr n kh ngh ch v (λ, x) l m t c p ri ng c a A, th
c p (λ, Tx) l m t c p ri ng c a (TAT −1). Ph p bi n i A ›→ TAT −1 c
g i l ph p bi n i ng d ng c a A.
i x ng c p n th n c n gi tr ri
ng th c, n v c t ri ng tr c chu n t ng ng. i u n y c ng c th
c ph t bi u b ng c ch kh c: ma tr n i x ng th c lu n c th c
ch o h a b i m t ma tr n tr c giao qua ph p bi n i t ng ng.
C th , n u A = AT th lu n t n t i V tr c chu n cho:
Ch

1.1.2. N u A l ma tr n

(1.3)

V T AV = D,

trong D l ma tr n ch o m c c ph n t tr n ng ch o ch nh l c c
gi tr ri ng c a A. H th c (1.3) c n c g i ph n t ch gi tr ri ng c
a A.
nh ngh a 1.1.3. Cho h

v c t S = {v1, v2, ..., vm} trong kh ng
gian v c t V . T p h p t t c c c t h p tuy n t nh c a S g i l bao
tuy n t nh c a h S, k hi u l span(S) ho c span(v1, v2, ..., vm).

nh ngh a 1.1.4. V t c a m t ma tr n vu ng A c p n,

ck
hi u l tr(A), l t ng c c ph n t tr n ng ch o ch nh ( ng n i t g c
tr n b n tr i xu ng g c d i b n ph i) c a A. C th , n u A = (aij), i, j
= 1, . . . , n th
tr(A) = a11 + a22 + ... + ann

n
Σ
=
aii.
i=1

nh ngh a 1.1.5.

T s

ρ(x) :
=

x∗Ax
x∗x

, x

0

c g i l c c t s Reyleigh c a A t i x. D u
v nuA

∗

c hi u l chuy n


13

l ma tr n th c v li n h p ph c n u A l ma tr n ph c.


nh ngh a 1.1.6. M t ma tr n P th a m n P 2 = P

cgil m

t ph p chi u.
u

nh ngh a 1.1.7. M t ma tr n P

c g i l ph p chi u tr c giao n

i) P 2 = P ,
ii)

PT = P .

nh l 1.1.8. N u A ∈ Rn×n th c m t ma tr n tr c giao Q ∈ Rn×n sao

cho

 R11 R12


T

Q AQ =

R22

. . . R1m 



. . . R2m

..

.
.

. Rmm







l t a tam gi c tr n. C c kh i ch o Rii l m t ma tr n 1 × 1 ho c 2 × 2. M t

kh i 1 × 1 t ng ng v i m t gi tr ri ng th c, m t kh i 2 × 2 t ng ng v i
m t c p gi tr ri ng li n h p.
Nh n x t 1.1.9. Ta c th suy ra t nh ch t ch o h a

c c a ma
tr n i x ng b i c c ma tr n tr c giao t nh l v ph n t ch Schur
c a ma tr n i x ng. Th t v y, do t nh i x ng c a A n n c c ma tr
n con kh i kh ng n m tr n ng ch o ch nh u b ng kh ng. Th m v
o , do ma tr n i x ng ch c gi tr ri ng th c n n c c ma tr n con
kh i tr n ng ch o ch nh u c c 1 × 1 v do , ch ng ch nh l c c gi
tr ri ng.

1.2 S l c m t s ph ng ph p gi i b i to n gi tr ri
ng
Trong m c n y ch ng t i nh c l i hai ph ng ph p i s tuy n t nh
ph bi n
t nh gi tr ri ng c a ma tr n c l n. Ch ng t i s d ng ph n tr nh b y
trong lu n v n c a V V n T n [1], m t i li u g c l [3]. Ch ng t i s tr
nh b y hai ph ng ph p ph bi n trong i s tuy n t nh t nh gi tr
ri ng c a ma tr n A c n × n: ph ng ph p Arnoldi v ph ng ph p


Lanczos. Trong khi ph ng ph p th hai p d ng cho ma tr n i x
ng, ph ng ph p th nh t p d ng cho ma tr n b t k .


t nh m t s gi tr ri ng c a A, ch ng h n c c gi tr ri ng c
modul l n nh t, t ng chung c a hai ph ng ph p n y l chi u ma tr
n A l n m t kh ng gian con Krylov c a A c s chi u nh h n n. Gi s
kh ng gian n y c bi u th b i m t ma tr n m c t V (n > m ≥ k). tr

nh c c v n trong t nh to n g n ng, V n n c c c c t tr c chu n.
Sau khi t nh
c V , ng i ta x t ma tr n V T AV v ch ra r ng c c gi
tr ri ng c a V T AV x p x r t t t c c gi tr ri ng c a A. Th m v o ,
ngo i vi c c c nh h n ma tr n A ban u, V T AV l i th ng c d ng c
bi t, ch ng h n Hessenberg, ba ng ch o, n n vi c t nh gi tr ri ng c
a n r t n gi n. Do v y, kh i l ng t nh to n ch y u c a hai ph ng
ph p n y t p trung vi c x y d ng ma tr n V . V th , trong hai m
c con d i y, lu n v n ch t p trung tr nh b y vi c x y d ng ma tr n V .
1.2.1 Ph ng ph p Arnoldi
nh ngh a 1.2.1. Ma tr n
Km(x) = Km(x, A) := hx, Ax, ..., A(m−1)xi ∈ Rn×m

c g i l ma tr n Krylov. Kh ng gian con sinh b i c c c t c a n
c g i l kh ng gian con Krylov,
m

m

K (x) = K (x, A) := span ,x, Ax, A2, ..., A(m−1)x, ⊂ Rn

C c thu t to n Arnoldi v Lanczos l nh ng ph ng ph p
to n m t c s tr c giao c a kh ng gian Krylov.

t nh

M t c s tr c giao cho kh ng gian Krylov

H sinh c a kh ng gian con Krylov Kj (x) = Kj (x, A) l
}

x, Ax, ...,

A(j−1)x v i c c v c t A(k)x h i t theo h ng c a c c v c t ri ng t

ng ng v i gi tr ri ng c modul l n nh t c a A. Do c c th t c n gi
n l c c qu tr nh tr c giao h a Gram-Schmidt
c t trong c s n y
Krylov.

c p d ng cho c c v

t m m t c s tr c giao c a kh ng gian


Gi s {q1 , q2 , ..., qi } l c s tr c giao cho Ki (x),
y i ≤ j . Ch ng
ta x y d ng v c t qi+1 b ng tr c giao h a Aix v i q1, q2, ..., qi b ng c ch
t
Σ
i
i A x−
y :=
q q A xi

T
l

i

l=1
l

v sau chu n h a c c v c t k t
qu

qi+1 = yi/ǁyiǁ.

Ta
c {q1 , q2 , ..., qi+1 } l m t c s tr c giao c a Ki+1 (x), g i chung l
c s Arnoldi. C c v c t
c g i l v c t Arnoldi t ng ng. Trong
th c t t nh to n, c c v c t qi c t nh nh sau
i+1

K (x, A) = span [x, Ax, ..., Aix]

(q1 = x/ǁxǁ)

= span [q1, Aq1, ..., Aiq1]

(Aq1 = αq1 + βq2, β

0)

= span [q1, αq1 + βq2, A(αq1 + βq2), ..., Ai−1(αq1 + βq2)] ,

.
= span([q1, q2, ..., qi−1, Aqi]).

V v y, thay v tr c giao h a Ai q1 v i q1 , q2 , ..., qi , ch ng ta c th tr c
giao h a Aqi v i q1 , q2 , ..., qi
c
c qj+1 . C c th nh ph n ri c a Aqi
tr c giao v i q1, q2, ..., qi c cho b i
i
Σ
r = Aq −

T
l

q (q Aq ).

l=1

(1.4)j j
l
l
N u ri = 0 th th t c d ng l i c ngh a l ch ng ta t m th y m t kh ng
gian con b t bi n, c th l span{q1 , q2 , ..., qi }.
N u ǁriǁ > 0 ta c
c qi+1 b i quy t c
qi+1 =

ri

.
ǁriǁ

K t khi qi+1 v ri c ng ph ng, ch ng ta lu n c
i

=

i+1

i


qT r

i+1 i

= ǁr ǁ
T

q

(1.4)

Aq .

(1.5)


C c ph ng tr nh cu i c ng cho ta qi+1 tr c giao v i t t c c c v c t
Arnoldi tr c .
cho
hij = qT Aqj th (1.4) - (1.5) c th

c vi t
i
j+1
Σ
Aqj =
qi hij .

(1.6)

i=1

Thu t to n 1.2.2. Thu t to n Arnoldi t m m t c s tr c giao c a kh ng

gian Krylov
1: Cho A ∈ Rn×n v x ∈ Rn . Thu t to n n y t nh to n m t c s tr c giao cho
Kk(x), k ≤ n.

2: q1 =
x/ǁxǁ2

3: for j = 1, ... do
4: r := Aqj;
5: for i = 1, ...j do /∗ tr c giao h a Gram-Schmidt ∗/
6: hij := qiT r, r := r − qi hij ;
7: end for
8: hj+1,j := ǁrǁ;
9: if hj+1,j = 0/∗ t m m t kh ng gian con b t bi n ∗/
10: return (q1 , q2 , ..., qj , H ∈ Rj×j )
11: end if
12: qj+1 = r/hj+1,j ;

13: end for
14: return (q1, q2, ..., qk+1, H ∈ Rk+1×k)
Thu t to n Arnoldi d ng l i n u hj+1,j = 0.
t Qk = [q1, ..., qk] th ph ng tr nh (1.6) v i j = 1, ..., k
sau
AQk = QkHk + [0, ..., 0, qk+1hk+1,k]
` ˛¸ x

c vi t nh
(1.7)

k−1

Ph ng tr nh (1.7) c g i l quan h Arnoldi, trong H l ma tr n d ng
Hessenberg, t c ma tr n c c c ph n t n m c ch d i ng ch o ch
nh m t v tr u b ng 0.


1.2.2 Ph ng ph p Lanczos

T ng t nh tr n, ta c ng c n x y d ng m t c s cho kh ng gian
con Krylov m ta s g i l c s Lanczos. C s Lanczos c x y d
ng c ng m t c ch nh l c s Arnoldi v i m t ma tr n Hermit ho
c i x ng th c. B ng
c ch nh n tr i (1.7) v ik QT ch ng ta c
c
QT AQk = QT QkHk = Hk.
k

k

N u A l i x ng th Hk l ba ng ch o, ch ng ta g i ma tr n ba
ng ch o n y l Tk. Do t nh i x ng ph ng tr nh (1.4) c n gi n h a nh
sau
(1.8)

rj = Aqj − qi (q T Aqj ) −qj−1 (q T Aqj ) = Aqj − αj qj − βj−1 qj−1 .
j

j−1

` α˛j ∈¸R x

` βj−˛1¸∈F x

T ng t nh tr n, ch ng ta nh n t b n tr i (1.8) v i qj+1
T

c

c

T

ǁrj ǁ = qj+1 rj = qj+1 (Aqj − αj qj − βj−1 qj−1 )

T

=
q

T
j+1 Aqj

= βj.

y suy ra βj ∈ R. Do
βj qj+1 = rj ,

βj = ǁrj ǁ.

(1.9) T (1.8) - (1.9) ta nh n
c
Aqj = βj−1 qj−1 + αi qj + βj qj+1 .

Thu th p c c ph ng tr nh v i j = 1, ..., k ch ng ta c
 α1 β1

AQk = Qk






β 1 α2 β 2
β 2 α3

.

..
..




+βk[0, ..., 0, qk+1]

(1.10)


..

. . k1
k1

k

`
x
Ták
Tk Rkìk l

Lanczos.

i x ng th c. Ph ng tr nh (1.10)

c g i l quan h

C c b c c a thu t to n Lanczos c t m t t trong Thu t to n 1.2.3.
Trong thu t to n n y, c c v c t q, r v v
c c p nh t theo v ng l
p. Trong b c l p th j (d ng 8) q
c g n qj v v l u gi qj−1 , r l u
gi u ti n (d ng 9) Aqj − βj−1 qj−1 . Sau
(b c 11), khi αj s n s ng
d ng, n l u trong rj = Aqj − βj−1 qj−1 − αj qj . Trong th c t t nh to n,
j
αi
c x c nh t q T qj−1 = 0,
αj = qjT Aqj = qjT (Aqj − βj−1 qj−1 ),

m i l n i qua v ng j m t c t
th nh Qj .

c n i th m v o ma tr n Qj−1

tr

Thu t to n 1.2.3. Thu t to n Lanczos c b n t nh to n m t c s tr c giao

cho kh ng gian Krylov Km(x)
1: Cho A ∈ Rn×n l i x ng, x ∈ Rn. Thu t to n n y s t nh to n c c m i
quan h Lanczos (1.10), ngh a l m t c s tr c giao Qm = [q1, ..., qm] cho Km(x)
trong
m l ch s nh nh t sao cho Km(x) = Km+1(x), v (c c y u t kh ng t m
th ng c a) c c ma tr n ba ng ch o Tm.
2: q := x/ǁxǁ; Qi = [q];
3: r := Aq;

4: α1 := qT r;
5: r := r − α1q
6: β1 := ǁrǁ;
7: for j = 2, 3, ... do
8: v = q; q := r/βj−1 ; Qj := [Qj−1 , q];
9: r := Aq − βj−1v;
10: αj := qT r;
11: r := r − αj q;
12: βj := ǁrǁ;
13: if βj = 0 then
14: return (Q ∈ Rn×j ; α1, ..., αj; β1, ..., βj−1)
15: end if
16: end for


Cho (λi, si) l m t c p ri ng c
a Tm
Tms

(m)

i

i
i

th

(m) m

=ϑ

(1.11)

s

AQms(m) =
QmTms(m)
=
ϑ(m)Qms(m)
.V v

y, gi tr
ri ng c
a Tm c
ng l

i
i
i
i

gi tr ri
ng c a
A. C c v
c t ri
ng c a
A t ng
ng v i
gi tr ri

ng ϑi l
yi =
Qm s(m)
= [q1 ,
...,
qm ]s(m)
Σ
=
qj s(m) .

m
i

i
j=1

j
i

(1.12)

1.3 N
h


c l i s l c v b i to n t i
u
Cho f : Rn −→ R. T m c c ti u a ph
ng x∗ c a f , ngh a l ,
f (x∗) ≤ f (x), ∀x

∈ Ux ∗ ,

(1.13) trong , Ux∗ l l n c n a ph ng
n o c a x∗. ng n g n, ta vi t
minf (x)

(1.14)

x

f : h m m c ti u
x∗: i m c c ti u hay c c ti u
f (x∗): gi tr c c ti u

B i to n (1.13): B i to n c c ti u kh ng
r ng bu c
B i to n c c ti u c r ng bu c (constrained
optimization) l b i to n t m x∗
sao cho
f (x∗) ≤ f (x), ∀x ∈
Ux ∗ ∩ U

(1.15) v i U cho tr c. N c th vi t d
i d ng
minf (x).
x∈U

B i to n c c ti u to n c c (global
optimization) l b i to n t m x∗ sao cho
f (x∗) ≤ f (x),

∀x.

(1.16)


1.3.1 i u ki n c n
nh l

Khi

1.3.1. Cho f ∈ C2(Ux∗ ) v x∗ l m t c c ti u a ph ng c a f .

∇f (x∗) = 0.

H n n a, ta c n c
2

∇ f (x∗) ≥ 0.

nh ngh a 1.3.2.

i u ki n ∇f (x∗) = 0

th a m n i u ki n i u ki n c n c p 1
i h n.

c g i l i u ki n c n c p
1. x∗
c g i l i m d ng hay i m t

1.3.2 i u ki n
nh l

1.3.3. Cho f ∈ C2(Ux∗ ). Gi s ∇f (x∗) = 0 v ∇2f (x∗) > 0.

Khi ,
x∗ l m t c c ti u a ph ng c a f .
1.3.3 Ph ng ph p

ng d c nh t

Nh

bi t h ng gi m s u nh t (steepest descent) t i x l d = −∇f
(x).
Ph ng ph p n y c p nh t xc b i c ng th c
x+ = xc − λ∇f (xc),

(1.17) trong λ > 0 l
d i b c.
M c d ta x c nh c h ng gi m s u nh t, nh ng vi c x c
nh
c
d i b c λ l t i quan tr ng c a ph ng ph ng ph p n y. L a ch n t t
nh t cho λ l n t i thi u h a h m
φ(λ) = f (xc − λ∇f (xc)).

Nh ng b i to n n y trong h u h t tr ng h p c ng kh ng d gi i h
n b i to n c c tr ban u. V th , ng i ta t m m t c ch ti p c n n i l
ng. Ta x t m h nh x p x b c 1 c a f (x)