Tìm hiểu bài toán tối ưu hàm hạng và ứng dụng

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

KHOA TOÁN

NGUYỄN THÙY LINH

TÌM HIỂU BÀI TOÁN TỐI ƯU HÀM HẠNG
VÀ ỨNG DỤNG

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

Hà Nội – Năm 2016


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

KHOA TOÁN

NGUYỄN THÙY LINH

TÌM HIỂU BÀI TOÁN TỐI ƯU HÀM HẠNG
VÀ ỨNG DỤNG

Chuyên ngành: Toán ứng dụng

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC:
TS. LÊ HẢI YẾN

Hà Nội – Năm 2016


LỜI CẢM ƠN

Luận văn được hoàn thành tại Viện Toán học, Viện Hàn lâm Khoa học
và Công nghệ Việt Nam, dưới sự hướng dẫn của TS. Lê Hải Yến.
Em xin chân thành cảm ơn cô Lê Hải Yến đã tận tình giúp đỡ em trong
quá trình làm luận văn. Em xin trân trọng cảm ơn ban chủ nhiệm khoa
Toán, các thầy giáo, cô giáo trong khoa và tổ Toán ứng dụng – Trường
Đại học Sư phạm Hà Nội 2 đã quan tâm giúp đỡ trong suốt quá trình em
học tập và hoàn thành khóa luận tốt nghiệp.
Em xin chân thành cảm ơn !
Hà Nội, ngày 03 tháng 05 năm 2016
Sinh viên
Nguyễn Thùy Linh

i


LỜI CAM ĐOAN

Tôi xin cam đoan khóa luận tốt nghiệp “Bài toán tối ưu hàm hạng và
ứng dụng”, là kết quả nghiên cứu của bản thân. Tất cả những số liệu và
kết quả nghiên cứu trong khóa luận này là hoàn toàn trung thực và không
trùng lặp với đề tài khác. Tôi xin cam đoan rằng mọi sự giúp đỡ cho việc
thực hiện khóa luận này đã được cảm ơn và các thông tin trích dẫn trong
khóa luận đã được chỉ rõ nguồn gốc.
Tôi xin chịu trách nhiệm về kết quả nghiên cứu của mình.

Hà Nội, Ngày 03 tháng 05 năm 2015
Sinh viên
Nguyễn Thùy Linh

ii


Mục lục

LỜI MỞ ĐẦU

iii

1 Kiến thức chuẩn bị

1

1.1

Hàm hạng của ma trận . . . . . . . . . . . . . . . . . . .

1

1.2

Chuẩn của vectơ và chuẩn của ma trận . . . . . . . . . .

7

1.2.1

Chuẩn vectơ . . . . . . . . . . . . . . . . . . . . .

7

1.2.2

Chuẩn ma trận . . . . . . . . . . . . . . . . . . .

8

Khái niệm giá trị kì dị . . . . . . . . . . . . . . . . . . .

15

1.3.1

Định lí . . . . . . . . . . . . . . . . . . . . . . . .

15

1.3.2

Một số tính chất . . . . . . . . . . . . . . . . . .

18

1.3

2 Hàm lồi và bao lồi

2.1

2.2

27

Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . .

27

2.1.1

Tập lồi . . . . . . . . . . . . . . . . . . . . . . . .

27

2.1.2

Bao lồi . . . . . . . . . . . . . . . . . . . . . . . .

30

2.1.3

Nón lồi . . . . . . . . . . . . . . . . . . . . . . . .

31

2.1.4

Định lý Caratheo’dory . . . . . . . . . . . . . . .

31

Hàm lồi và bao lồi của một hàm . . . . . . . . . . . . . .

33

2.2.1

Hàm lồi . . . . . . . . . . . . . . . . . . . . . . .

33

2.2.2

Bao lồi của một hàm . . . . . . . . . . . . . . . .

35

i


Khóa luận tốt nghiệp Đại học

2.3

Nguyễn Thùy Linh

Đối ngẫu Fenchel . . . . . . . . . . . . . . . . . . . . . .

36

2.3.1

Phép biến đổi Young - Fenchel (Hàm liên hợp) . .

36

2.3.2

Tính chất của hàm liên hợp . . . . . . . . . . . .

37

3 Bài toán tối ưu hàm hạng và ứng dụng
3.1

3.2

42

Bài toán tối ưu hàm hạng . . . . . . . . . . . . . . . . .

42

3.1.1

Bài toán tối ưu của hàm hạng (RMP) . . . . . . .

42

3.1.2

Ứng dụng . . . . . . . . . . . . . . . . . . . . . .

43

Bao lồi của hàm hạng . . . . . . . . . . . . . . . . . . . .

45

KẾT LUẬN

50

Tài liệu tham khảo

51

ii


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

LỜI MỞ ĐẦU

1. Lý do chọn đề tài.

Hàm hạng là một trong số những hàm cơ bản nhất của ma trận và
các tính chất của nó đã được nghiên cứu và giới thiệu trong hầu hết các
tài liệu về Đại số tuyến tính. Bài toán tối ưu hàm hạng đã và đang thu
hút được sự quan tâm của nhiều nhà toán học như Candès, Tao, Fazel,
. . . . Bài toán này có ứng dụng rộng rãi trong việc xử lí dữ liệu, thống kê,
điều khiển, kinh tế. Tuy vậy, bài toán tối ưu hàm hạng lại được chứng
minh là một bài toán NP-khó.
Vào năm 2002, Fazel đã chứng minh được rằng bao lồi của hàm hạng
trên một hình cầu ứng với chuẩn phổ chính là chuẩn nguyên tử. Nhờ đó,
thay vì giải quyết trực tiếp bài toán tối ưu của hàm hạng, người ta có
thể giải quyết bài toán tối ưu lồi với hàm mục tiêu là chuẩn nguyên tử.
Với tầm quan trọng trên, đề tài của luận văn được lựa chọn để tìm
hiểu và nghiên cứu về: “Bài toán tối ưu hàm hạng và ứng dụng”.
2. Mục tiêu nghiên cứu.
Luận văn giới thiệu về bài toán tối ưu của hàm hạng và các ứng dụng
đồng thời cũng giới thiệu kết quả về bao lồi của hàm hạng.
3. Đối tượng nghiên cứu.
• Hàm hạng và bài toán tối ưu của hàm hạng.
• Hàm lồi và bao lồi.
• Bao lồi của hàm hạng.
iii


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

4. Phương pháp nghiên cứu.
Nghiên cứu lý luận.
5. Cấu trúc của khóa luận.

Luận văn gồm ba chương:
Chương 1: Kiến thức chuẩn bị, trình bày lại các khái niệm cơ bản của
Đại số tuyến tính.
Chương 2: Hàm lồi và bao lồi, trình bày các khái niệm cơ bản của
Giải tích lồi, định lý quan trọng trong chương này là định lý 2.6.
Chương 3: Bài toán tối ưu hàm hạng và ứng dụng, giới thiệu bài toán
tối ưu của hàm hạng và tìm hiểu cách giải cho bài toán dựa vào sự xấp
xỉ bao lồi.

iv


Chương 1
Kiến thức chuẩn bị
Chương này trình bày lại một số khái niệm cơ bản của đại số tuyến tính
như hạng của ma trận, chuẩn véc tơ, chuẩn ma trận, ma trận trực giao,
khai triển thành giá trị kì dị và một số tính chất phục vụ cho chương 3.
Nội dung chương được tham khảo từ tài liệu [2], [3].

1.1

Hàm hạng của ma trận

Ta kí hiệu Rm×n là tập hợp các ma trận thực cấp m × n. Xét A ∈ Rm×n
và A = 0.
Định nghĩa 1.1. Hạng của ma trận A là số tự nhiên r,
1 ≤ r ≤ min{m, n} thỏa mãn các điều kiện sau:
1. Tồn tại ít nhất một định thức con cấp r của ma trận A khác 0.
2. Mọi định thức con cấp lớn hơn r (nếu có) của ma trận A đều
bằng 0.

Ta kí hiệu hạng của ma trận A là rank(A).
Qui ước: hạng của ma trận không là 0.
Định nghĩa 1.2. Coi mỗi cột (dòng) của ma trận A là một vectơ ta
1


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

được n vectơ (m vectơ) thuộc không gian vectơ Rn (Rm ). Ta gọi hạng của
hệ n vectơ (m vectơ) này là hạng của ma trận A. Kí hiệu: rank(A).
Nhận xét 1.1. Hai định nghĩa trên tương đương với nhau.
Các phương pháp tìm hạng của ma trận sẽ được nhắc lại sau đây:
Phương pháp 1
Từ định nghĩa [1.1], ta có thể suy ra ngay thuật toán sau để tìm hạng
của ma trận A cấp m × n (A = 0):
Bước 1: Tìm một định thức con cấp k, Dk = 0. Số k càng lớn càng tốt.
Bước 2: Xem tất cả các định thức con cấp k + 1 của A chứa định thức
Dk .
1. Không có một định thức cấp k + 1 nào của A . Khả năng này xảy
ra khi và chỉ khi k = min{m, n}. Khi đó: rankA = k.
2. Tất cả các định thức cấp k + 1 của A chứa định thức con Dk đều
bằng 0. Khi đó: rankA = k.
3. Tồn tại một định thức con cấp k + 1 của A là Dk+1 chứa định thức
con Dk khác 0. Khi đó lặp lại bước 2 với Dk+1 thay cho Dk . Tiếp tục
như vậy cho đến khi xảy ra trường hợp 1 hoặc 2 thì thuật toán kết thúc.

Ví dụ 1.1. Ta sẽ tìm hạng của ma trận A bằng phương pháp định thức:


1


−1
A=

1

2

2 2 1
1 1 1
3 3 2
1 1 0

2


4


3


2

1

Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Ta thấy A có định thức con cấp 2

D2 =

1

2

= 3 = 0.

−1 2

Xét các định thức con cấp 3 của A chứa D2 , ta thấy có định thức con
cấp 3 khác không. Đó là:
1

2 1

D3 = −1 1 1 = 1 = 0.
1

3 2

Tiếp tục ta xét các định thức con cấp 4 của A chứa D3 . Có hai định
thức như vậy và cả hai định thức này đều bằng 0,
1

D4,1 =

2 2 1

−1 1 1 1

1
= 0,

D4,2 =

2 2 4

−1 1 1 3

1

3 3 2

1

3 3 2

2

1 1 0

2

1 1 1

= 0.

Do đó: rankA = 3.
Việc tìm hạng của ma trận theo phương pháp trên phải tính toán khá
phức tạp nên trong thực tế người ta ít sử dụng.
Phương pháp 2: Sử dụng các phép biến đổi sơ cấp
Nhắc lại rằng, các phép biến đổi sơ cấp trên các dòng của ma trận là:
1. Đổi chỗ hai dòng của định thức cho nhau.
2. Nhân một dòng với một số khác 0.
3. Nhân một dòng với một số bất kỳ rồi cộng vào dòng khác.
3


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Tương tự, bằng cách thay dòng thành cột, ta có 3 phép biến đổi sơ cấp
trên các cột của ma trận.
Định nghĩa 1.3. Ma trận A cấp m × n khác không gọi là một ma trận
bậc thang nếu tồn tại một số tự nhiên r, 1 ≤ r ≤ min{m, n} thỏa mãn
các điều kiện sau:
1. r dòng đầu tiên của A khác không. Các dòng từ thứ r + 1 trở đi
(nếu có) đều bằng không.
2. Xét dòng thứ k với 1 ≤ k ≤ r. Nếu (Akik ) là phần tử đầu tiên
bên trái (tính từ trái sang phải) khác 0 của dòng k thì ta phải có:
i1 < i2 < ... < ir .
Các phần tử (Akik ) gọi là các phần tử đánh dấu của ma trận A.
Các cột chứa các phần tử đánh dấu (cột i1 , i2 , ..., ir ) gọi là cột đánh

dấu.
Như vậy ma trận bậc thang có dạng:


0...0 (A)1i1
...


0...0 0...0 (A)2i2


 ...
...
...


A =  ...
...
...


0...0 0...0
0...


 ...
...
...

0...0 0...0

0...

...

...

...

...

...

...

... (A)rir
...

0...

...

...

...

0...

...





... 


... 


...  .


...0


... 

...0

Nhận xét 1.2. Nếu A là ma trận bậc thang thì số r trong định nghĩa
là rankA.
Thật vậy, có thể chỉ ra một định thức con cấp r của A khác 0 chính
4


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

là định thức Dr tạo bởi r dòng đầu tiên và r cột đánh dấu i1 , i2 , ...

(A)1i1
0
Dr =

...

...

...

(A)1i1 ...

...
= (A)1i1 × (A)2i2 ...(A)rir = 0.

...

...

...

...

...

...

...

...

...

...

... (A)rir

Ngoài ra các định thức con cấp r + 1 của A đều tạo bởi r + 1 dòng nào
đó nên có ít nhất một dòng bằng 0. Do đó chúng đều bằng 0. Một ma
trận khác 0 bất kỳ có thể đưa về dạng bậc thang sau một số hữu hạn
các phép biến đổi sơ cấp trên các dòng.
Như vậy, muốn tìm hạng của ma trận A, ta dùng các phép biến đổi
sơ cấp để đưa A về dạng bậc thang và sử dụng nhận xét trên để tìm
hạng của ma trận A.

* Thuật toán đưa một ma trận về dạng bậc thang.
Xét ma trận :


a
a12
 11

 a21 a22
A=

 ... ...

am1 am2

... a1n





... a2n 


... ... 

... amn

Bước 1: Bằng cách đổi chỗ 2 dòng cho nhau (nếu cần), ta luôn có thể
giả sử a11 = 0.
Nhân dòng (1) với −

a21
cộng vào dòng (2).
a11
5


Khóa luận tốt nghiệp Đại học

Nhân dòng (1) với −

Nguyễn Thùy Linh

a31

cộng vào dòng (3).
a11

...
Nhân dòng (1) với −

am1
cộng vào dòng (m).
a11

Ta được ma trận:

a
 11

0


A1 =  0


 ...

0

a12 ... a1n
b22 ...
b32 ...
... ...
bm2 ...





b2n 


b3n 


... 

bmn

Bước 2: Xét ma trận:


b
 22

 b32
B=

 ...

bm2

... ... b2n





... ... b3n 


... ... ... 

... ... bmn

• Nếu B = 0 hoặc B có dạng ma trận bậc thang thì A1 là ma trận
bậc thang. Thuật toán kết thúc.
• Trường hợp ngược lại, tiếp tục lặp lại bước 1 cho ma trận B. Sau
một số hữu hạn bước lặp, B sẽ là ma trận không hoặc ma trận bậc
thang. Thuật toán kết thúc.

6


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Ví dụ 1.2. Ta tìm hạng của ma trận bằng phương pháp 2:




0 1 3 4 6





 1 −3 4 5 2 

A=


−3 5 −2 −3 −4


−2 3 5 6 4



1 −3 4 5 2
1 −3 4 5 2








0 1 3 4 6  2d1 +d4 →d4 0 1 3 4 6
d1 ↔d2 

 −−−−−−→ 

A −→ 

 3d1 +d3 →d3 

0 −4 10 12 2
−3 5 −2 −3 −4




0 −3 13 16 8
−2 3 5 6 4








1 −3 4 5 2
1 −3 4 5 2









0 1 3 4 6  d3 −d4 →d4 0 1 3 4 6 
3d2 +d4 →d4 
 −−−−−−→ 

−−−−−−→ 




4d2 +d3 →d3 
0 0 22 28 26
0 0 22 28 26




0 0 22 28 26
0 0 0 0 0
Ta có thể thấy rằng A có thể đưa về một ma trận bậc thang có 3
dòng đầu khác không.
Do đó: rankA = 3.

1.2
1.2.1

Chuẩn của vectơ và chuẩn của ma trận
Chuẩn vectơ

Định nghĩa 1.4. Chuẩn vectơ trên Rn là một hàm f : Rn → R thỏa
mãn các tính chất sau:

7


Khóa luận tốt nghiệp Đại học

(i) f (x) ≥ 0;

Nguyễn Thùy Linh

∀x ∈ Rn

f (x) = 0 ⇔ x = 0,
(ii) f (x + y) ≤ f (x) + f (y);
(iii) f (αx) = |α|.f (x);

∀x, y ∈ Rn ,

∀x ∈ Rn .

Kí hiệu: f (x) = ||x||.
Cho vectơ x = (x1 , x2 , ..., xn )T , các chuẩn thông dụng là:
(i) Chuẩn p
1

||x||p = (|x1 |p + ... + |xn |p ) p , p ≥ 1.
(ii) Chuẩn 1 (p = 1)
||x||1 = |x1 | + ... + |xn |.
(iii) Chuẩn 2 (p = 2)
1

1

||x||2 = (|x1 |2 + ... + |xn |2 ) 2 = (xT x) 2 .
(iv) Chuẩn ∞ (p = ∞)
||x||∞ = max(|x1 |, |x2 |, ..., |xn |).

Các chuẩn là tương đương trên Rn .
1.2.2

Chuẩn ma trận

Định nghĩa 1.5. Chuẩn ma trận trên Rm×n là hàm số f : Rm×n → R
thỏa mãn các tính chất sau:
8


Khóa luận tốt nghiệp Đại học

(i) f (A) ≥ 0;

Nguyễn Thùy Linh

∀A ∈ Rm×n và f (A) = 0 ⇔ A = 0
∀A, B ∈ Rm×n

(ii) f (A + B) ≤ f (A) + f (B);
(iii) f (αA) = |α|.f (A);

∀α ∈ R, ∀A ∈ Rm×n .

Kí hiệu: f (A) = ||A||.
Cho ma trận


A = (aij )m×n

a
a12
 11

 a21 a22
=

 ... ...

am1 am2

... a1n





... a2n 
,

... ... 

... amn

các chuẩn thông dụng là:
(i) Chuẩn toán tử: Nếu ma trận A thuộc không gian vectơ Rm×n thì
chuẩn A ứng với chuẩn p của vectơ được cho bởi:
||A|| = max
x=0

||Ax||p
, ∀x ∈ Rn .
||x||p

• Chuẩn 1 (chuẩn cực đại theo cột)
m

||A||1 = max

1≤j≤n

|aij |.
i=1

• Chuẩn ∞ (chuẩn cực đại theo hàng)
n

||A||∞ = max

1≤i≤m

|aij |.
j=1

• Chuẩn 2: Với p = 2 ta được chuẩn 2 của ma trận, được tính bằng
giá trị lớn nhất trong các giá trị kì dị của ma trận A. (Giá trị kì dị
9


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

của ma trận sẽ được trình bày trong 1.3).
Ví dụ 1.3. Cho ma trận


4


−1
A=

0

2

2

3






3 −2


1 5

4 −3

a) Chuẩn 1 của ma trận A là:
4

||A||1 = max

1≤j≤3

|aij |
i=1

= max (|a1j | + |a2j | + |a3j | + |a4j |)
1≤j≤3

= max(a11 | + |a21 | + |a31 | + |a41 |; |a12 | + |a22 | + |a32 | + |a42 |;
a13 | + |a23 | + |a33 | + |a43 |)
= max(4 + (+1) + 0 + 2; 2 + 3 + 1 + 4; 3 + (+2) + 5 + (+3))
= max(7; 10; 13) = 13

10


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

b) Chuẩn ∞ của ma trận A là:
3

||A||∞ = max

1≤i≤4

|aij |
j=1

= max (|ai1 | + |ai2 | + |ai3 |)
1≤i≤4

= max(|a11 | + |a12 | + |a13 |; |a21 | + |a22 | + |a23 |; |a31 | + |a32 | + |a33 |;
|a41 | + |a42 | + |a43 |)
= max(4 + 2 + 3; (+1) + 3 + (+2); 0 + 1 + 5; 2 + 4 + (+3))
= max(9; 6; 6; 9) = 9.
(ii) Chuẩn từng phần: Lấy chuẩn cho từng phần của ma trận, ta có:
1
p

n

m

|aij |p

||A|| =

.

i=1 j=1

Ví dụ 1.4. Ta xét ma trận A ở ví dụ 1.3.
Khi đó, chuẩn từng phần của ma trận A với p = 3 là:
4

1
3

3

|aij |3

||A|| =
i=1 j=1

= (|4|3 + |2|3 + |3|3 + | − 1|3 + |3|3 + | − 2|3 + |0|3 + |1|3 + |5|3 +
1

+ |2|3 + |4|3 + | − 2|3 ) 3
√
3
= 360.

Đặc biệt, p = 2 ta được chuẩn Frobenius. Kí hiệu ||A||F .
Chuẩn Frobenius có nhiều cách định nghĩa khác nhau:

11


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

m

n

|aij |2

||A||F =
i=1 j=1

hoặc
tr(AT A).

||A||F =

Ví dụ 1.5. Ta xét ma trận A ở ví dụ 1.3.
Khi đó, chuẩn Frobenius của ma trận A là:
m

n

|aij |2

||A||F =
i=1 j=1

= (|4|2 + |2|2 + |3|2 + | − 1|2 + |3|2 + | − 2|2 + |0|2 + |1|2 + |5|2 +
1

+ |2|2 | + 4|2 + | − 2|2 ) 2
√
√
= 98 = 7 2.

Định nghĩa 1.6. Ma trận vuông Q ∈ Rn×n được gọi là trực giao nếu
QT Q = QQT = I, với I là ma trận đơn vị.
Bổ đề 1.1. Nếu Q ∈ Rn×n là ma trận trực giao và x ∈ Rn thì:
||Qx||2 = ||x||2 .

12


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Chứng minh. Ta có, theo định nghĩa tích vô hướng:
||Qx||22 =< Qx, Qx >
= (Qx)T (Qx)
= xT QT Qx

(do tính chất của ma trận chuyển vị)

= xT x

(do Q là ma trận trực giao nên QT Q = I)

= ||x||22 .
Định lý 1.1 (Tính bất biến của chuẩn Frobenius). Cho ma trận
A ∈ Rm×n , nếu hai ma trận Q ∈ Rm×m và Z ∈ Rn×n là trực giao thì :
||QAZ||F = ||A||F .
Chứng minh. Ta có theo định nghĩa chuẩn Frobenius
n

||QA||F =

||QA(:, j)||2

(A(:,j) là ma trận cột)

j=1
n

||A(:, j)||2

=

(theo bổ đề 1.1)

j=1

= ||A||F

(theo định nghĩa chuẩn Frobenius)

13


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Vì vậy,
||Q(AZ)||F = ||AZ||F
= ||(AZ)T ||F
(do định nghĩa chuẩn Frobenius ||AZ||F = ||(AZ)T ||F )
= ||Z T AT ||F
= ||AT ||F

(do tính chất của ma trận chuyển vị)

(do Z là ma trận trực giao nên Z T trực giao)

= ||A||F .
Định lý 1.2 (Tính bất biến của chuẩn 2). Cho ma trận
A ∈ Rm×n , nếu hai ma trận Q ∈ Rm×m và Z ∈ Rn×n là trực giao thì :
||QAZ||2 = ||A||2 .
Chứng minh. Theo định nghĩa của chuẩn 2, ta có:
|QA||2 = max
x=0

= max
x=0

||Ax||2
||x||2

||QAx||2
||x||2

(theo bổ đề 1.1)

= ||A||2 .
Do đó,
||QAZ||2 = ||AZ||2
= ||(AZ)T ||2
= ||Z T AT ||2 = ||AT ||2 = ||A||2 .
14


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

( lý giải tương tự phần chứng minh của Định lí 1.1).

1.3

Khái niệm giá trị kì dị

Trong khai triển thành giá trị kì dị (SVD), người ta sử dụng các ma trận
trực giao để đưa ma trận ban đầu về dạng đường chéo. SVD có vai trò
rất quan trọng trong xử lí dữ liệu và bài toán tìm ma trận gần nhất.

Trong định lí sau đây, ta đưa ma trận A ban đầu về dạng đường chéo
bằng cách nhân nó với ma trận trực giao.
1.3.1

Định lí

Định lý 1.3. Nếu ma trận A ∈ Rm×n thì tồn tại các ma trận trực giao:
U = [u1 |...|um ] ∈ Rm×m và V = [v1 |...|vn ] ∈ Rn×n
sao cho:
U T AV = Σ = diag(σ1 (A), σ2 (A), ..., σp (A)) ∈ Rm×n , p = min{m, n},
ở đó, diag(σ1 (A), σ2 (A), ..., σp (A)) là một ma trận cỡ m × n trong đó,
σ1 (A) ≥ σ2 (A) ≥ ... ≥ σp (A) ≥ 0 là các phần tử nằm trên đường chéo
và các phần tử khác đều bằng 0.
Chứng minh. Xét x ∈ Rn và y ∈ Rm là các vectơ đơn vị theo chuẩn 2
thỏa mãn: Ax = σy với σ = ||A||2 .
Ta đã biết: nếu δ = {v1 , v2 , ..., vr } là họ vectơ trực chuẩn trong Rn thì
khi đó, ta có thể bổ sung n − r vectơ vào δ để thu được một hệ cơ sở
trực chuẩn.
15


Khóa luận tốt nghiệp Đại học

Nguyễn Thùy Linh

Do đó, tồn tại V2 ∈ Rn×(n−1) và U2 ∈ Rm×(m−1) sao cho V = [x|V2 ] ∈
Rn×n và U = [y|U2 ] ∈ Rm×m là các ma trận trực giao .
Ta có:


T





T



y
y
U T AV =   A[x|V2 ] =   [Ax|AV2 ]
U2T
U2T
 
yT
 [σy|AV2 ]

=
U2T


T
T
y σy y AV2

=
U2T σy U2T AV2



T
σ W
 = A1 .
=
0 B
trong đó:
y T y = 1, U2T y = 0 do U trực giao ,
W ∈ Rn−1 , B ∈ R(m−1)×(n−1) .
Lạicó:

  
  
T
2
T
σ +W W
σ
σ
σ W
.
  = 
A1   = 
BW
W
0 B
W
  2
σ
Do đó: A1   = (σ 2 + W T W )2 + ||BW ||22 ≥ (σ 2 + W T W )2 .

W
2

16


Khóa luận tốt nghiệp Đại học

với :

Nguyễn Thùy Linh




σ = ||A||2 là một số








W = y T AV2 là ma trận n-1 dòng, 1 cột



W T là ma trận 1 dòng, n-1 cột







B là ma trận m-1 dòng, m-1 cột






 W T W = w2 + w2 + ... + w2
m−1
2
1

Vì


||A1 ||22

=

2

||A1 x||2
sup
x=0 ||x||2



2

σ
A1  
W
2
≥
  2
σ
 
W
2

2

≥


σ



(do  
W

T

2

(σ + W W )
= σ2 + W T W
2
T
σ +W W

2

= σ2 + W T W )
2

Do đó:
||A1 ||22 ≥ σ 2 + W T W
Theo tính bất biến của chuẩn 2 (Định lý 1.2), ta có:
||U T AV ||22 = ||A||22 .

17

(1)