Một số phương pháp lặp giải phương trình và hệ phương trình phi tuyến

1


2

LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học sư phạm Hà Nội 2 dưới sự
hướng dẫn của TS.Khuất Văn Ninh.
Tôi xin chân thành cảm ơn sâu sắc TS.Khuất Văn Ninh, người đã luôn
quan tâm, động viên, tận tình hướng dẫn tôi trong quá trình làm luận văn.
Tôi xin gửi lời cảm ơn chân thành tới Ban giám hiệu trường Đại học sư
phạm Hà Nội 2, phòng sau đại học, các thầy cô giáo trong nhà trường, các
thầy cô giáo dạy cao học chuyên ngành Toán giải tích đã tạo điều kiện thuận
lợi cho tôi trong quá trình học tập và nghiên cứu.
Tôi bày tỏ lòng biết ơn tới gia đình, người thân, bạn bè cùng học, đội ngũ
bảo vệ an ninh khu vực đã động viên và tạo mọi điều kiện thuận lợi để tôi
hoàn thành bản luận văn này.
Hà Nội, tháng 6 năm 2011

Lê Thị Thu Phương


3

LỜI CAM ĐOAN
Tôi xin cam đoan bản luận văn này là công trình nghiên cứu của riêng
tôi dưới sự hướng dẫn của TS.Khuất Văn Ninh.
Hà Nội, tháng 6 năm 2011

Lê Thị Thu Phương

4

MỤC LỤC
Trang
Trang phụ bìa…………………………………………………………….. 1
Lời cảm ơn ………………………………………………………………...2
Lời cam đoan ……………………………………………………………...3
Mục lục……………………………………………………………………..4
Bảng các kí hiệu …………………………………………………………...5
Mở đầu……………………………………………………………………..6
Nội dung ………………………………………………………………….. 8
Chương 1: Kiến thức cơ sở …………………………………………….8
1.1 Không gian véc tơ …………………………………………………..8
1.2 Các không gian quan trọng ………………………………………..11
1.3 Đạo hàm Gateaux và đạo hàm Frechet ……………………………15
Chương 2: Một số phương pháp lặp giải phương trình và hệ
phương trình phi tuyến…………………………………...19
2.1 Phương pháp Newton và một số biến thể của nó…………………..19
2.2 Phương pháp cát tuyến……………………………………………..27
2.3 Một số biến thể …………………………………………………….44
2.4 Phương pháp sử dụng tính liên tục của ánh xạ …………………….52
2.5 Các phương pháp đặc biệt đối với hàm một biến ………………….57
2.6 Bàn thảo về các phương pháp lặp giải phương trình và hệ
phương trình phi tuyến …………………………………………….62
Chương 3: Bài tập……………………………………………………...67
Kết luận và kiến nghị…………………………………………………….71
Tài liệu tham khảo……………………………………………………….72

5

BẢNG CÁC KÝ HIỆU
R

Tập hợp số thực.

Rn

Không gian véc tơ Ơclit thực n chiều.

L# ( X , Y )

Không gian các ánh xạ tuyến tính từ X vào Y .

L( X , Y )

Không gian các ánh xạ tuyến tính liên tục từ X vào Y .

X # := L# ( X , K ) Không gian các phiếm hàm tuyến tính trên X .
X * := L( X , K ) Không gian các phiếm hàm tuyến tính liên tục trên X .
Mat (m × n, K )

Tập các ma trận m dòng n cột.

Mat (n, K )

Tập các ma trận vuông n dòng n cột.

GL(n, K )

Tập các ma trận vuông cấp n không suy biến.

L(X )

Không gian các toán tử tuyến tính từ X vào X .

C

Tập hợp số phức.

K

Tập hợp số thực hoặc phức.

K*

Tập hợp số thực hoặc phức khác không.


6

MỞ ĐẦU
1. Lý do chọn đề tài
Vào những năm 70 của thế kỷ 20, một số nhà toán học đã nghiên cứu về
giải các phương trình và hệ phương trình dạng:
Fx = y

(1)

trong đó F là một toán tử từ một tập X đến một tập Y , x ∈ X , y ∈ Y
Trường hợp đặc biệt của (1) là:
Fx = 0

(2)

với F = ( f1 ,..., f n ) : R n → R n , n ≥ 1.
hay:

⎧ f 1 ( x1 ,..., x n ) = 0
⎪
M
⎨
⎪ f ( x ,..., x ) = 0
n
⎩ n 1

Với các hiểu biết ban đầu và qua tham khảo một số tài liệu liên quan, tôi
thấy:
Phạm vi ứng dụng của lý thuyết toán tử là rất rộng lớn. Phạm vi ứng dụng này
càng rộng và càng có hiệu lực thực tiễn trước sự phát triển nhanh chóng của
máy tính điện tử với sự phát triển mạnh mẽ các công trình nghiên cứu xấp xỉ.
Việc giải xấp xỉ các phương trình, hệ phương trình dạng (2) là phù hợp với
năng lực của tôi. Có nhiều phương pháp giải, song phương pháp lặp là
phương pháp có thể lập trình trên máy tính điện tử. Vì vậy tôi đã chọn đề tài:
“Một số phương pháp lặp giải phương trình và hệ phương trình phi tuyến
n ẩn số”
2. Mục đích nghiên cứu
Nghiên cứu một số phương pháp lặp giải phương trình và hệ phương
trình phi tuyến n ẩn số, ứng dụng vào các bài tập cụ thể có sử dụng máy tính

7

điện tử để giải. Đánh giá về những nghiên cứu khoa học của mình. Nêu ra
những đóng góp của đề tài. Đề xuất các kiến nghị.
3. Nhiệm vụ nghiên cứu
Nghiên cứu một số phương pháp lặp giải phương trình và hệ phương
trình phi tuyến n ẩn số.
4. Đối tượng và phạm vi nghiên cứu
Nghiên cứu một số phương pháp lặp giải phương trình và hệ phương
trình phi tuyến n ẩn số. Nghiên cứu các ứng dụng của lý thuyết vào các bài
toán cụ thể có sử dụng ngôn ngữ lập trình Maple hoặc Pascal.
5. Phương pháp nghiên cứu
Nghiên cứu lý thuyết, áp dụng lý thuyết vào giải toán số.
6. Dự kiến đóng góp mới của đề tài
Hệ thống hoá các phương pháp lặp giải phương trình và hệ phương trình
phi tuyến n ẩn số. Lập trình các bài toán trên máy tính điện tử bằng ngôn ngữ
lập trình Maple hoặc Pascal.


8

NỘI DUNG
CHƯƠNG 1: KIẾN THỨC CƠ SỞ
1.1. Không gian véc tơ.
1.1.1. Định nghĩa: Cho X là một tập hợp, K là một trường số. Một không
gian véc tơ X trên trường K là một tập hợp X cùng với hai ánh xạ:
(phép cộng):
(phép nhân với một vô hướng):

X×X → X
( x, y )

a x+ y

K×X → X
(α , x) a α x

thoả mãn các tiên đề sau: ∀x, y, z ∈ X ; ∀α , β ∈ K .
1.

x+ y = y+x

(phép cộng có tính giao hoán)

2.

x + y + z = ( x + y) + z = x + ( y + z)

(phép cộng có tính kết hợp)

3.

∃θ ∈ X : x + θ = θ + x = x

( θ gọi là phần tử không của X )

4.

∃ − x ∈ X : x + (− x) = (− x) + x = θ

( − x gọi là phần tử đối của x )

5.

(α β ) x = α ( β x)

6.

(α + β ) x = α x + β x

7.

α ( x + y) = α x + α y

8.

1 x = x1 = x

( 1 là phần tử đơn vị của trường K )

Các phần tử: θ và − x là duy nhất, ngoài ra (− x) = −1 x
1.1.2. Cơ sở Hamel và số chiều của không gian véc tơ.
Cho X là không gian véc tơ trên trường K .
1.1.2.1. Định nghĩa: Giả sử { x1 ,..., x n } ⊂ X

{α 1 ,..., α n } ⊂ K là một bộ số tuỳ ý. Ta gọi

là một hệ véctơ tuỳ ý,

n

y = ∑ α i xi là tổ hợp tuyến tính của
i =1

các véc tơ x1 ,..., x n trong X (hay còn nói là y biểu thị tuyến tính qua các véc
tơ x1 ,..., x n ).


9

Hệ véc tơ { x1 ,..., x n } ⊂ X được gọi là độc lập tuyến tính nếu
∀α 1 ,..., α n ∈ K , từ đẳng thức:

n

∑α x
i

i =1

i

= θ ⇒ α i = 0, ∀i = 1, n .

Hệ véc tơ { x1 ,..., xn } ⊂ X được gọi là phụ thuộc tuyến tính nếu nó không
độc lập tuyến tính.
1.1.2.2. Định nghĩa: Tập M ⊂ X , M ≠ φ gọi là tập độc lập tuyến tính nếu mọi
hệ hữu hạn { x1 ,..., xn } ⊂ M , {α 1 ,..., α n } ⊂ K từ đẳng thức

n

∑α x
i =1

i

i

= θ ⇒ α i = 0, ∀i = 1, n .

Tập M ⊂ X là tập độc lập tuyến tính tối đại của X nếu nó là tập độc lập
tuyến tính và nếu có B là tập độc lập tuyến tính của X mà M ⊆ B thì M = B
1.1.2.3. Định lí và định nghĩa: Cho hệ hữu hạn vectơ
X1 =

{ x 1 ,...,

x m } ⊂ X khi đó số phần tử của mọi hệ con độc lập tuyến tính

tối đại của hệ X 1 là bằng nhau. Số đó được gọi là hạng của hệ véc tơ X 1 .
1.1.2.4. Định nghĩa: Tập M ⊂ X gọi là cơ sở Hamel của X nếu M là tập
độc lập tuyến tính và mọi phần tử của X đều biểu thị tuyến tính duy nhất qua
các phần tử của M (hay M là tập độc lập tuyến tính tối đại của X ). Khi đó số
chiều của X , kí hiệu là d i m X , chính là số phần tử của M .
1.1.3. Không gian véc tơ con.
Cho X là không gian véc tơ trên trường K .
1.1.3.1. Định nghĩa: Tập M ⊂ X gọi là không gian véc tơ con của X nếu M
đóng kín đối với các phép toán của X , nghĩa là:
x + y ∈ M ; ∀x, y ∈ M

α x ∈ M ; ∀α ∈ K , ∀x ∈ M

(hay M là một không gian véc tơ với các phép toán cảm sinh từ X ).
1.1.3.2. Định nghĩa: Giả sử M là một tập con của X . Khi đó tập tất cả các tổ


10

hợp tuyến tính của các phần tử thuộc M lập thành một không gian con của
X , ký hiệu là

M

Nhận xét: M

hay sp a n M .
là giao của mọi không gian véc tơ con của X chứa M ,

đó là không gian véc tơ con nhỏ nhất của X chứa M và gọi là không gian con
sinh bởi M (hay còn gọi là bao tuyến tính của M )
1.1.4. Ánh xạ và ma trận.
Cho X , Y là hai không gian véc tơ trên cùng trường K . Ánh xạ
F : X →Y .

1.1.4.1. Định nghĩa: F gọi là ánh xạ tuyến tính nếu và chỉ nếu:
n

n

i =1

i =1

F ( ∑ α i xi ) = ∑ α i F ( xi ); ∀ xi ∈ X , α i ∈ K , i = 1, n. n ≥ 2.

1.1.4.2. Ma trận: Giả sử X và Y là các không gian hữu hạn chiều,
u = { u1 ,..., u n } là một cơ sở của

X,

v = { v1 ,..., v m } là một cơ sở của Y , F là ánh

xạ tuyến tính. Khi đó F hoàn toàn được xác định bởi:
m

F (u j ) = b j = ∑ ai j vi ;

j = 1, n

i =1

n

Nếu y = F ( x), x = ( x1 ,..., xn ) ∈ X , y = ( y1 ,..., y m ) ∈ Y thì y i = ∑ ai j x j ; i = 1, m.
j =1

Hay
⎧ y1 = a11 x1 + a12 x 2 + ..... + a1n x n
⎪ y = a x + a x + ..... + a x

⎪ 2
21 1
22 2
2n n
⎨
..........
⎪
⎪⎩ y m = a m 1 x1 + a m 2 x 2 + ..... + a m n x n


11

⎛ a11
⎜
⎜a
Ta có ma trận: A = (ai j ) = ⎜ 21
M
⎜
⎜a
⎝ m1

a12
a 22
M
am 2

a1n ⎞
⎟
L a2n ⎟
và gọi là ma trận của ánh

M
M ⎟
⎟
L a m n ⎟⎠
L

xạ tuyến tính F đối với các cơ sở nói trên. Từ đó F hoàn toàn được xác định
bởi ma trận A = (ai j ) này.
Định nghĩa: F ( X ) = I m F = { y ∈ Y ∃ x ∈ X : y = F ( x) } gọi là ảnh của F .
F −1 (θ Y ) = Ker F = { x ∈ X F ( x) = θ Y }

gọi

là

hạt

nhân

(hạch)

của

F.

hạng F = hạng { F (u j ) } nj =1 = d i m I m F = hạng A .
Định nghĩa và tính chất: Cho ma trận A ∈ Mat (n, K ) thì A là ma trận không
suy biến nếu và chỉ nếu A là ma trận khả nghịch (hoặc nếu và chỉ nếu
d e t A ≠ 0 ), nghĩa là tồn tại ma trận nghịch đảo A −1 của A để A −1 A = A A −1 = I

( I là ma trận đơn vị).
1.1.5. Định nghĩa không gian afin: Cho X là không gian véc tơ thực.
Tập A ⊂ X gọi là tập afin nếu ∀ x, y ∈ A, ∀ t ∈ R ⇒ t x + (1 − t ) y ∈ A
Tập A ⊂ X gọi là không gian con afin của X (hay không gian véc tơ
con của X ) nếu và chỉ nếu A là tập afin chứa phần tử θ ∈ X
1.2. Các không gian quan trọng.
1.2.1. Không gian Metric.
1.2.1.1. Định nghĩa
Định nghĩa 1: Cho tập hợp X ≠ φ , ánh xạ d : X × X → R
thoả mãn với ∀ x, y, z ∈ X ta có:
1. d ( x, y ) ≥ 0 ;

d ( x, y ) = 0 ⇔ x = y

(tiên đề đồng nhất)

2. d ( x, y ) = d ( y, x)

(tiên đề đối xứng)

3. d ( x, y ) ≤ d ( x, z ) + d ( z , y )

(tiên đề tam giác)


12

Ánh xạ d gọi là metric (hay khoảng cách) trên X . Các tiên đề 1,2,3 gọi
là hệ tiên đề metric. Tập X cùng với ánh xạ d như thế gọi là một không gian
metric, kí hiệu là ( X , d )

Định nghĩa 2: Dãy điểm { x n } trong không gian metric ( X , d ) được gọi là hội
tụ đến x0 ∈ X nếu ∀ ε > 0, ∃ n0 ∈ N * : ∀ n ≥ n0 , d ( xn , x0 ) < ε . Ta viết:
→∞
l i m x n = x0 hoặc x n ⎯n⎯
⎯→ x0 .

n→∞

Dãy điểm { x n } ⊂ ( X , d ) gọi là dãy cơ bản (hay dãy Cauchy) nếu:
∀ ε > 0 , ∃ n 0 ∈ N * : ∀ m, n ≥ n 0 , d ( x n , x m ) < ε

(hay l i m d ( x n , x m ) = 0 )
m,n→∞

Không gian metric ( X , d ) là không gian đầy nếu mọi dãy cơ bản trong
nó đều hội tụ.
1.2.1.2. Nguyên lí Cantor về dãy hình cầu thắt dần.
Không gian metric ( X , d ) là không gian đầy khi và chỉ khi mọi dãy
hình cầu đóng thắt dần đều có một điểm chung duy nhất.
1.2.1.3. Nguyên lí Banach về ánh xạ co.
Định nghĩa: Cho hai không gian metric ( X , d1 ) và ( Y , d 2 ) . Ánh xạ: F : X → Y
gọi là ánh xạ co nếu tồn tại α ∈ [ 0 ;1) sao cho:
d 2 ( F x1 , F x 2 ) ≤ α d1 ( x1 , x 2 ) ;

∀ x1 , x 2 ∈ X .

Nguyên lí Banach về ánh xạ co: Mọi ánh xạ co F : ( X , d ) → ( X , d )
không gian metric đầy vào chính nó đều có một điểm bất động duy nhất
(nghĩa là tồn tại duy nhất một điểm x * ∈ X : F x * = x * ).
1.2.2. Định nghĩa không gian định chuẩn và không gian Banach.

Định nghĩa 1: Ta gọi không gian định chuẩn X là không gian véc tơ X trên
trường K cùng với một ánh xạ . : X → R (gọi là chuẩn) thoả mãn các tiên đề
sau:


13

Với ∀ x, y ∈ X , ∀ α ∈ K ta có:
1.

x ≥ 0;

x = 0 ⇔ x =θ

2. α x = α x
3.

x+ y ≤ x + y

Nếu ta đặt d ( x, y ) = x − y thì d là một mêtric trên X .
Định nghĩa 2: Dãy điểm { xn } trong không gian định chuẩn X gọi là dãy cơ
bản (hay dãy Cauchy) nếu:
lim
m,n→∞

xn − xm = 0 .

Định nghĩa 3: Dãy điểm { xn } trong không gian định chuẩn X gọi là hội tụ
tới x ∈ X nếu l i m xn − x = 0 .
n→∞

Ta viết:
l i m xn = x

n→∞

hay

→∞
x n ⎯n⎯
⎯→ x .

Định nghĩa 4: Không gian định chuẩn X gọi là không gian Banach nếu mọi
dãy cơ bản trong X đều hội tụ.
1.2.3. Không gian véc tơ tôpô.
1.2.3.1. Định nghĩa: Cho X là một tập bất kỳ. Ta nói họ τ các tập con của
X là một tôpô trên X nếu:

(i) φ , X ∈ τ .
(ii) Giao của một số hữu hạn các tập thuộc τ thì cũng thuộc τ ( τ kín
đối với phép giao hữu hạn).
(iii) Hợp của một số tuỳ ý các tập thuộc τ thì cũng thuộc τ (τ kín
đối với phép hợp bất kỳ).
Tập X cùng với một tôpô τ trên X gọi là không gian tôpô ( X ,τ ) . Các
tập thuộc họ τ đều là các tập mở.


14

1.2.3.2. Định nghĩa và định lí.

Định nghĩa 1: Tập V trong không gian tôpô ( X ,τ ) gọi là một lân cận của
điểm x ∈ X nếu ∃ D ∈ τ : x ∈ D ⊆ V .
Định lí: Ký hiệu ϑ x là họ tất cả các lân cận của x ∈ X . Ta có ϑ x ≠ φ và:
i) V ∈ϑ x ⇒ x ∈ V .
(ii) V ∈ ϑ x , V ⊆ U ⇒ U ∈ ϑ x .
(iii) U ,V ∈ ϑ x ⇒ U ∩ V ∈ ϑ x .
(4i) V ∈ ϑ x ⇒ ∃W ⊆ V : x ∈ W , W ∈ ϑ y , ∀y ∈ W .
Định nghĩa 2: Họ con U x ⊂ ϑ x gọi là hệ cơ sở các lân cận của x nếu:
∀V ∈ ϑ x , ∃U ∈ U x : U ⊆ V

Định nghĩa 3: Không gian tôpô ( X ,τ ) gọi là tách Hausdorff nếu với hai điểm
bất kỳ x, y ∈ X , x ≠ y tồn tại các lân cận tương ứng V x , V y của x và y sao cho
Vx ∩ V y = φ .

1.2.3.3. Định nghĩa.
Định nghĩa 1: Giả sử X là không gian véc tơ trên trường K . Ta nói tôpô τ
trên không gian véc tơ X là tương thích với cấu trúc đại số nếu các phép toán
đại số trong X liên tục trong tôpô đó, nghĩa là:
(i) x + y là hàm liên tục của hai biến x , y (tức là mọi lân cận V của
điểm x + y đều có một lân cận U x của điểm x và một lân cận U y của điểm y
sao cho nếu x1 ∈ U x , y1 ∈ U y ⇒ x1 + y1 ∈ V ).
(ii) α x là hàm liên tục của hai biến α , x (tức là mọi lân cận V của
α x đều có một số ε > 0 và một lân cận U của x sao cho
α 1 − α < ε , x1 ∈ U ⇒ α 1 x1 ∈ V ).

Định nghĩa 2: Không gian véc tơ X trên đó có một tôpô tương thích với cấu


15

trúc đại số gọi là không gian véc tơ tôpô.
Định nghĩa 3: Tập con A trong không gian véc tơ X gọi là tập lồi nếu:
∀ x, y ∈ A ; 0 ≤ α ≤ 1 ⇒ α x + ( 1 − α ) y ∈ A .

Định nghĩa 4: Không gian véc tơ tôpô X gọi là không gian lồi địa phương
nếu mọi phần tử của X đều có cơ sở lân cận thành lập từ các tập lồi (hay nếu
phần tử θ ∈ X có cơ sở lân cận thành lập từ các tập lồi).
1.2.3.4. Ánh xạ afin.
Định nghĩa 1: Cho X , Y là hai không gian véc tơ, ánh xạ . , . : X × Y → R gọi
là một dạng song tuyến tính tách được theo từng biến nếu:
x , λ y1 + µ y 2 = λ x , y1 + µ x , y 2 ; ∀ x ∈ X , ∀ y1 , y 2 ∈ Y , ∀ λ , µ ∈ R

λ x1 + µ x 2 , y = λ x1 , y + µ x 2 , y ; ∀ x1 , x 2 ∈ X , ∀ y ∈ Y , ∀ λ , µ ∈ R
∀ x0 ∈ X − {θ X }, ∃ y ∈ Y : x 0 , y ≠ 0
∀ y 0 ∈ Y − {θ Y }, ∃ x ∈ X : x , y 0 ≠ 0

Định nghĩa 2: Cho X là không gian véc tơ tô pô lồi địa phương tách
Hausdorff. Ta viết:
x , x # = x # ( x) ;

x ∈ X , x# ∈ X #

(đây là một dạng song tuyến tính trên X × X # ).
Ánh xạ affine trên X là hàm có dạng:
ϕ ( x) = x , x # + α

với x ∈ X , x # ∈ X # , α ∈ R

ϕ liên tục khi và chỉ khi x # ∈ X * .

1.3. Đạo hàm Gateaux và đạo hàm Frechet.
Định nghĩa 1: Cho X , Y là hai không gian định chuẩn, U là một tập con mở
của X , ánh xạ F : U → Y . Khi đó:
(i) Ánh xạ tuyến tính liên tục T : X → Y là đạo hàm Gateaux của F tại
x 0 ∈ U nếu và chỉ nếu:


16

∀ u ∈ X : lim
τ →0

1

τ

F ( x 0 + τ u ) − F ( x 0 ) − τ Tu = 0

(ii) Ánh xạ tuyến tính liên tục T : X → Y là đạo hàm Frechet của F
tại x 0 ∈ U nếu và chỉ nếu:
1
u

∀ u ∈ X : lim
u →0

F ( x 0 + u ) − F ( x 0 ) − Tu = 0

(iii) Ánh xạ tuyến tính liên tục T : X → Y là đạo hàm Gateaux yếu
của F tại x 0 ∈ U nếu và chỉ nếu:

1

∀ u ∈ X , ∀ x* ∈ X * : lim

τ

τ →0

[

]

x * F ( x 0 + τ u ) − F ( x 0 ) − τ Tu = 0

(4i) Ánh xạ tuyến tính liên tục T : X → Y là đạo hàm Frechet yếu của
F tại x 0 ∈ U nếu và chỉ nếu:
∀ x* ∈ X * :

lim
u →0

[

]

1 *
x F ( x 0 + u ) − F ( x 0 ) − Tu = 0
u

Các đạo hàm được định nghĩa trên đây đều được kí hiệu là T = F ' ( x 0 ) .

Định nghĩa 2: Cho X 1 ,..., X n , Y ; n ≥ 2, là các không gian định chuẩn, ánh xạ:
F : X 1 × ... × X n → Y , với mọi x = ( x1 ,..., x n ) ∈ X 1 × ... × X n , ta cố định

⎛ ⎛ 0 ⎞1 ⎛ 0 ⎞ n ⎞
x = ⎜ ⎜ x ⎟ ,..., ⎜ x ⎟ ⎟ ∈ X 1 × ... × X n
⎜⎝ ⎠
⎝ ⎠ ⎟⎠
⎝
0

xét ánh xạ:
F : X → Y ; i = 1, n,
i

i

⎛ ⎛ 0 ⎞1 ⎛ 0 ⎞ i −1 i ⎛ 0 ⎞ i +1 ⎛ 0 ⎞ n ⎞
F ( x ) = F ⎜ ⎜ x ⎟ ,..., ⎜ x ⎟ , x , ⎜ x ⎟ ,..., ⎜ x ⎟ ⎟
⎜⎝ ⎠
⎝ ⎠
⎝ ⎠
⎝ ⎠ ⎟⎠
⎝
i

i

i

0

Nếu F có đạo hàm Frechet tại điểm ⎛⎜ x ⎞⎟ thì đạo hàm đó gọi là đạo
⎝ ⎠
i

0

hàm riêng Frechet của F theo x i tại điểm x . Ta viết:

∂F ⎛ 0 ⎞
⎛0⎞
x = (F i ) ' ⎜ x ⎟
i ⎜ ⎟
∂x ⎝ ⎠
⎝ ⎠

i

Khi X 1 = ... = X n = Y = R thì đạo hàm riêng Frechet này trùng với đạo
hàm riêng thông thường.


17

Ví dụ 1: Cho X , Y là hai không gian định chuẩn, F : X → Y là ánh xạ hằng
∧

(tức là ∀ x ∈ X : Fx = b = const, b ∈ Y ). Khi đó ∀ x ∈ X ⇒ F ' x = θ (ánh xạ
không).
Ví dụ 2: f : R → R là hàm số thực, với x 0 ∈ R ta có f ' ( x 0 ) là đạo hàm của f
tại x 0 theo nghĩa thông thường.

Ví dụ 3: Giả sử ánh xạ:
F : Rn → R
x = ( x1 ,..., x n ) a F x = F ( x1 ,..., x n )

n≥2

có các đạo hàm riêng theo x1 ,..., xn liên tục. Khi đó mọi x = ( x1 ,..., x n ) ∈ R n ta có:
⎛ ∂F
⎞
∂F
( x ),.....,
( x) ⎟⎟
F ' ( x ) = ⎜⎜
∂x n
⎝ ∂x1
⎠

và

n

∀ h = (h1 ,..., hn ) ∈ R n ⇒ F ' ( x) h = ∑
j =1

∂F
hj
∂x j

Ví dụ 4: Nếu mỗi ánh xạ
f i ( x) = f i ( x1 ,..., x n ) : R n ⎯

⎯→ R;

n ≥ 2, i = 1, m. (m ≥ 2)

có đạo hàm tại x thì ánh xạ:
F = ( f1 ,..., f m ) : R n ⎯
⎯→ R m
F x = ( f1 ( x),..., f m ( x) )

là hàm véc tơ nhiều biến có đạo hàm tại x và:

⎛ f1 ' ( x) ⎞
⎞
⎜
⎟ ⎛ ∂f
F ' ( x) = ⎜ M ⎟ = ⎜ i ( x) ⎟
⎜ ∂x
⎟
⎜ f ' ( x) ⎟ ⎝ j
⎠ m×n
⎝ m
⎠

⎛ ∂f 1
⎜
⎜ ∂x1
⎜ ∂f 2
⎜ ∂x
⎜ 1
=⎜

⎜ M
⎜
⎜
⎜ ∂f m
⎜
⎝ ∂x1

∂f1
∂x 2
∂f 2
∂x 2
M
∂f m
∂x 2

∂f 1
xn
∂f 2
K
∂x n

⎞
⎟
⎟
⎟
⎟
⎟
⎟
M
M ⎟

⎟
⎟
∂f m ⎟
K
⎟
∂x n ⎠

L

(ma trận Jacobi của ánh xạ F ).


18

⎛ f1 ' ( x)h ⎞
⎜
⎟
∀ h = (h1 ,..., hn ) ∈ R ⇒ F ' ( x)h = ⎜
M
⎟
⎜ f ' ( x)h ⎟
⎝ m
⎠
n

Định lí hàm số ngược: Cho X , Y là hai không gian định chuẩn, U là tập con
mở trong X , ánh xạ F : U → Y là phép đồng phôi từ U vào tập con mở
V = F (U ) ⊂ Y . Giả sử F có đạo hàm Frechet tại điểm x 0 ∈ U và F ' ( x 0 ) : X → Y

là phép đồng phôi tuyến tính. Khi đó ánh xạ ngược F −1 : V → X có đạo hàm

Frechet tại điểm y 0 = F x 0 ∈ V và
( F −1 ) ' ( y 0 ) = ( F −1 ) ' ( Fx 0 ) = F ' ( x 0 ) −1


19

CHƯƠNG 2: MỘT SỐ PHƯƠNG PHÁP LẶP GIẢI PHƯƠNG TRÌNH
VÀ HỆ PHƯƠNG TRÌNH PHI TUYẾN
2.1. Phương pháp Newton và một số biến thể của nó.
2.1.1. Phương pháp dây cung song song.
Cho f : U ⊂ R → R là hàm số thực một biến có một nghiệm x * , ta thay
giá trị của f tại một xấp xỉ x 0 của x * bởi một hàm tuyến tính:
l ( x) = α ( x − x 0 ) + f ( x 0 )

với độ lệch α ≠ 0 thích hợp, sau đó lấy nghiệm x1 của l làm một xấp xỉ mới
của x * . Lặp lại cách làm này với α cố định, ta có phương pháp lặp:
x k +1 = x k − α −1 f ( x k ),

k = 0,1,...

(2.1.1)

gọi là phương pháp dây cung song song trong không gian một chiều và
được biểu diễn hình học như hình 2.1 dưới đây:

Hình 2.1
Ta mở rộng từ hàm f đến hàm F : D ⊂ R n → R n trong không gian n chiều,
n ≥ 2 , giả sử F có nghiệm x * , có ma trận Jacobi A ∈ GL (n, R) không đổi, ta

thay giá trị của F tại một xấp xỉ x k của x * bởi hàm afin: Lk x = A ( x − x k ) + F x k

20

, đặt x k +1 là nghiệm duy nhất của Lk x = θ (với θ = (0,...,0) ∈ R n ; k = 0,1,... ).
Ta có phương pháp dây cung song song trong không gian n chiều
x k +1 = x k − A −1 F x k ,

k = 0,1,.....

(2.1.2)

Về mặt hình học, x k +1 chính là giao điểm của n siêu phẳng:
n

∑a
j =1

ij

( x j − x kj ) + f i ( x k ) = 0 ;

i = 1,..., n. với siêu phẳng x = θ trong R n +1 .

Để áp dụng phương pháp dây cung song song thì điều quan trọng là
phải chọn ma trận A thích hợp. Ta giới thiệu một vài cách chọn sau đây:
Cách 1:

A = λ I với λ ∈ R * nào đó. Từ đó ta thấy phương pháp lặp trong

không gian một chiều (2.1.1) được gắn vào mỗi thành phần riêng f i của F .
Cách 2: Đối với quá trình lặp trong không gian một chiều (2.1.1), ta có
f ' ( x 0 ) là hệ số góc của tiếp tuyến của f tại x 0 , ta chọn α = f ' ( x 0 ) , cách chọn

này hoàn toàn hợp lý.
Đối với quá trình lặp trong không gian n chiều (2.1.2), ta chọn
A = F ' ( x 0 ) , với F ' ( x) là đạo hàm Gato của F tại x , khi đó (2.1.2) là phương

pháp Newton cải biên:
x k +1 = x k − F ' ( x 0 ) −1 F x k , k = 0,1,...

(2.1.3)

Cách 3: Chọn A một cách ngẫu nhiên tuỳ thuộc vào dạng đặc biệt nào đó của
F.

Ví dụ:
F x = Ax −G x

(2.1.4)

với A ∈ GL (n, R) nào đó, G là một hàm phi tuyến, ta có phương pháp Picard:
x k +1 = A −1G x k , k = 0,1,...

(2.1.5)

Vì A −1G x = x − A −1 F x nên rõ ràng (2.1.5) có thể được viết lại dưới dạng (2.1.2)
Chú ý: Có nhiều cách chọn ma trận A khác nữa trong phương pháp dây

21

cung song song . Tuy nhiên, yêu cầu cơ bản là phải chọn A sao cho quá trình
lặp (2.1.2) ít nhất phải là hội tụ địa phương. Nghĩa là khi x 0 đủ gần tới
nghiệm x * của F x = 0 thì chắc chắn ta có: l i m x k = x * .
k →∞

Ta có thể chứng minh được rằng khi F ' ( x * ) tồn tại thì điều kiện cần và
đủ để (2.1.2) hội tụ địa phương là:
σ = ρ ( I − A −1 F ' ( x * ) ) < 1

(2.1.6)

Trong đó ρ là bán kính phổ của ma trận. Hơn nữa, ta còn có thể chứng minh
được rằng σ càng nhỏ thì hội tụ càng nhanh.
Do x * chưa biết nên khó chọn trước được ma trận A để có (2.1.6),
trong đó cách chọn lý tưởng vẫn là A = F ' ( x * ) . Từ đó buộc ta phải đi xét các
quá trình lặp:
x k +1 = x k − Ak−1 F x k , k = 0,1,...

với Ak = F ' ( x k ) được thay đổi từ bước nọ đến bước kia sao cho:
l i m Ak = F ' ( x * )

k →∞

Nguyên mẫu của các phương pháp như thế gọi là phương pháp
Newton. Phương pháp Newton đóng vai trò trọng tâm trong tất cả các phương
pháp lặp giải phương trình và hệ phương trình phi tuyến n ẩn số.
2.1.2. Phương pháp Newton.
Cho f : U ⊂ R → R là hàm số thực một biến có một nghiệm x * , quá

trình lặp:
x k +1 = x k − f ' ( x k ) −1 f ( x k ), k = 0,1,...

(2.1.7)

là phương pháp Newton trong không gian một chiều và được biểu diễn hình
học như hình 2.2 sau đây:


22

Hình 2.2
Ta mở rộng từ hàm f đến hàm F : D ⊂ R n → R n trong không gian n
chiều, n ≥ 2 , có nghiệm x * , bằng cách thay f ' ( x k ) trong (2.1.7) bằng đạo hàm
Gato F ' ( x k ) của F tại x k , ta có phương pháp Newton trong không gian n
chiều:
x k +1 = x k − F ' ( x k ) −1 F x k , k = 0,1,...

(2.1.8)

Bước lặp từ x k đến x k +1 ở (2.1.8) được mô tả hình học là: Mỗi thành
phần f i của F được xấp xỉ bởi hàm afin:
L ( x) = f i ' ( x k )( x − x k ) + f i ( x k )

(2.1.9)

mà hàm afin này mô tả siêu phẳng tiếp xúc với f i tại x k , sau đó lấy x k +1 là
giao điểm của n siêu phẳng (2.1.9) với siêu phẳng x = θ trong R n+1 .
Khi n = 1 thì (2.1.8) chính là (2.1.7). Vậy (2.1.8) là công thức tổng quát
của phương pháp Newton từ một chiều đến n chiều.

Chú ý: Có nhiều phương pháp lặp trong không gian n chiều khác nữa
mà cũng có điều kiện khi cho n = 1 thì nó trở thành (2.1.7), chẳng hạn ta xét
quá trình lặp:
x k +1 = x k − F ' ( x k ) −1 F x k + (n − 1) G x k ; k = 0,1,...

(2.1.10)


23

với G : R n → R n là ánh xạ tuỳ ý nào đó.
Tầm quan trọng của phép lặp Newton (2.1.8) dựa trên cơ sở là: từ
những điều kiện đã cho đối với F , bất đẳng thức dạng:
2

x k +1 − x * ≤ c x k − x *

(2.1.11)

luôn thoả mãn, miễn là các x k đủ gần với nghiệm x * . Điều này chứng tỏ rằng
sai số thứ k + 1 tỉ lệ thuận với bình phương của sai số thứ k , bởi vậy sự hội tụ
là rất nhanh mỗi khi các sai số là rất nhỏ. Đây còn được gọi là tính chất của sự
hội tụ bậc hai; nói chung tính chất này không đúng với các quá trình lặp dạng
(2.1.10); bất đẳng thức (2.1.11) kết hợp với (2.1.8) tạo ra phương pháp
Newton - một tâm điểm trong việc nghiên cứu các phương pháp lặp giải
phương trình và hệ phương trình phi tuyến n ẩn số.
Ta hoàn toàn có thể chứng minh được (2.1.11). Hơn nữa, ta có thể thấy
rằng bất đẳng thức (2.1.11) có được là do phép lấy đạo hàm sau đây của
phương pháp Newton:
Nếu F có đạo hàm Frechet tại x k thì:

θ = F x * = F x k + F ' ( x k )( x * − x k ) + R ( x * − x k )

ở đây: l i m
h→0

(2.1.12)

R ( h)
=0
h

Từ đó nếu x k gần với nghiệm x * thì hiển nhiên số hạng R ( x * − x k )
giảm đi và xấp xỉ hiệu x * − x k bằng nghiệm h của hệ tuyến tính:
(2.1.13)

F ' (x k ) h = −F x k

Hay nói cách khác,
x k +1 = x k + h = x k − F ' ( x k ) −1 F x k

được lấy là một xấp xỉ mới của x * .
Nếu F ' ' bị chặn trong một lân cận của x * thì ta có:
R (x k − x* ) ≤ α x k − x*

2


24

và giả sử F ' ( x * ) không suy biến từ đó dẫn tới đánh giá (2.1.11).

Mọi phép lấy đạo hàm có liên quan của phương pháp Newton hoàn
toàn có thể thực hiện được dựa vào định lí hàm số ngược.
Thực chất là nếu F khả vi liên tục và F ' ( x) không suy biến trong một
lân cận U của x * thì theo định lý hàm số ngược ta có: thu hẹp FU của F trên
U có một nghịch đảo G = FU−1 khả vi và G ' ( F x) = F ' ( x) −1 .
Do đó nếu ta khai triển G theo F x k , ta có:
∧

∧

x * = G (θ ) = G ( F x k ) − G ' ( F x k ) F x k + R ( F x k ) = x k − F ' ( x k ) −1 F x k + R ( F x k ) (2.1.14)

Ta thấy (2.1.14) lại cho ta phương pháp Newton khi bỏ đi số hạng cuối.
2.1.3. Một số biến thể của phương pháp Newton.
Mặc dù phương pháp Newton là lý thuyết có sức thu hút người đọc,
nhưng nó rất khó khăn trong thực hành. Thực tế tại mỗi bước ta cần phải có
nghiệm của hệ tuyến tính (2.1.13), hiếm khi ta tính chính xác được giá trị
F ' ( x k ) −1 , đặc biệt là các bài toán nảy sinh từ các phương trình đạo hàm riêng

trong đó kích cỡ của hệ có thể là vài nghìn; đây là một việc hết sức khó khăn.
Hơn nữa, tại mỗi bước không chỉ cần tới n thành phần của F x k mà còn cần
có cả n 2 dạng F ' ( x k ) , và nếu các đạo hàm riêng ∂ j f i ( x k ) có dạng hàm số phức
tạp thì ta hoàn toàn không cần tính toán các đạo hàm riêng này. Hầu hết các
phương pháp của chương này đều tránh việc tính toán một cách chính xác các
đạo hàm. Hai phép xấp xỉ khác nhau điển hình thường được sử dụng để tránh
tính F ' ( x) đơn giản nhất là xấp xỉ các đạo hàm riêng ∂ j f i ( x); i, j = 1, n. bằng
các tỷ sai phân:
∂ j f i ( x) =

và

j
1 ⎡ ⎛
k
⎢ f i ⎜⎜ x + ∑ hi k e
hi j ⎣ ⎝
k =1

j −1
⎞
⎛
⎟⎟ − f i ⎜⎜ x + ∑ hi k e k
k =1
⎠
⎝

⎞⎤
⎟⎟ ⎥
⎠⎦

(2.1.15)


25

∂ j f i ( x) =

[

1

f i ( x + hi j e j ) − f i ( x)
hi j

]

(2.1.16)

với hi j ∈ R là các tham số phân biệt, e j = (0,..,0,1,0,..,0) là véc tơ toạ độ thứ j .
Biến thể 1: Tổng quát, cho h ∈ R p là một véc tơ tham số, ∆ i j ( x, h) là các xấp
xỉ khác nhau của ∂ j f i (x) với tính chất: mỗi khi ∂ j f i (x) tồn tại thì với i, j = 1, n.
ta có:
(2.1.17)

l i m ∆ i j ( x, h ) = ∂ j f i ( x )
h→0

Khi đó, với ma trận sai số:
J ( x, h ) = ( ∆ i j ( x , h ) )

(2.1.18)

thì quá trình lặp:
x k +1 = x k − J ( x k , h k ) −1 F x k ;

k = 0,1,...

(2.1.19)

được gọi là phương pháp Newton rời rạc với các véc tơ tham số h k ∈ R p
được phép thay đổi theo chỉ số lần lặp.

Chọn h k đơn giản nhất là h k = h ∈ R p (các tham số khác nhau được giữ
cố định cùng bằng một hằng số trong suốt quá trình lặp).
Ta dễ thấy phép lặp chỉ có một tốc độ hội tụ tuyến tính, và để tiến dần
đến sự hội tụ nhanh của phương pháp Newton thì cần phải có l i m h k = 0 .
k →∞

Muốn vậy ta có nhiều cách chọn h k ; chẳng hạn chọn h k = γ k h , với h ∈ R p cố
định và dãy {γ k } ⊂ R sao cho l i m γ k = 0
k →∞

Đặc biệt là các phương pháp thú vị khác sinh ra khi lấy h k là các hàm
số.
Thực chất mỗi phương pháp được nói tới trong chương này là một biến
thể của phương pháp Newton theo một nghĩa nào đó.
Một trong những quy tắc được gắn với bất kỳ phương pháp lặp nào là
quy tắc “làm giảm chuẩn” theo nghĩa: