Luận văn thạc sĩ toán học định lý frank wolfe trong quy hoạch toàn phương và một số mở rộng

Mục lục
Lời mở đầu

iii

Danh mục kí hiệu . . . . . . . . . . . . . . . . . . . . . . . . .
1 Kiến thức chuẩn bị

vi
1

1.1. Tập afin và tập lồi . . . . . . . . . . . . . . . . . . . . . . . .

1

1.2. Hàm toàn phương và hàm lồi . . . . . . . . . . . . . . . . . .

6

1.3. Qui hoạch tuyến tính và định lý cơ bản . . . . . . . . . . . .

9

2 Định lý Frank-Wolfe trong qui hoạch toàn phương

14

2.1. Bài toán qui hoạch toàn phương . . . . . . . . . . . . . . . .

14

2.2. Định lý Frank-Wolfe trong qui hoạch toàn phương . . . . . .

15

2.3. Ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

24

3 Một số dạng mở rộng của định lý Frank-Wolfe

28

3.1. Qui hoạch toàn phương với các ràng buộc toàn phương . . . .

28

3.2. Hệ bất đẳng thức toàn phương lồi . . . . . . . . . . . . . . .

29

3.3. Trường hợp một ràng buộc toàn phương lồi . . . . . . . . . .

36

3.4. Hàm mục tiêu tựa lồi . . . . . . . . . . . . . . . . . . . . . .

49

i

Kết luận

56

Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . .

ii

58


Lời mở đầu
Trong qui hoạch tuyến tính ta đã biết sự kiện quen thuộc sau: Một hàm
tuyến tính bị chặn dưới trên một tập lồi đa diện D = ∅ phải đạt cực tiểu
trên D (xem chẳng hạn, [9] Định lý 9, tr. 312). Tính chất này rất đáng chú
ý, bởi vì nó không đúng cho qui hoạch phi tuyến, nói chung. Tính chất này
được xem như định lý cơ bản của qui hoạch tuyến tính.
Vào năm 1956 M. Frank và F. Wolfe trong [6] công bố một kết quả quan
trọng nếu một hàm toàn phương (bất kể hàm đó lồi hay không) mà bị chặn
dưới trên một tập lồi đa diện D = ∅ thì hàm đó chắc chắn đạt cực tiểu trên

D. Kết quả này được biết với tên gọi Định lý Frank - Wolfe và định lý này
là một mở rộng của định lý cơ bản trong qui hoạch tuyến tính.
Một số tác giả tiếp tục mở rộng định lý Frank - Wolfe cho các hàm mục
tiêu khác và D có thể khác tập lồi đa diện. Chẳng hạn, A. F. Perold (1980)
mở rộng cho một lớp hàm mục tiêu không toàn phương trên tập lồi đa diện,
Z.-Q. Luo và S. Zhang trong [8] đã chứng minh rằng hàm mục tiêu lồi toàn
phương bị chặn dưới trên một tập lồi D = ∅, xác định bởi hệ bất đẳng thức
toàn phương lồi, cũng đạt cực tiểu trên D.

Luận văn này đề cập tới các bài toán tìm cực tiểu của một hàm toàn
phương với hữu hạn ràng buộc bất đẳng thức toàn phương, gọi tắt là bài
toán qui hoạch toàn phương với các ràng buộc toàn phương, kí hiệu là QCQP

iii


(Quadratically Constrained Quadratic Programming). Trong luận văn này
trình bày định lý Frank-Wolfe và một số kết quả mở rộng của Z.-Q. Luo và
S. Zhang nêu trong tài liệu tham khảo [8], với đầy đủ diễn giải và lập luận
toán học chặt chẽ, tìm và đưa ra thêm các ví dụ minh họa. Nội dung luận
văn gồm ba chương:
Chương 1. Kiến thức chuẩn bị. Trình bày một số kiến thức cần chuẩn bị
về tập lồi, tập đa diện lồi, hàm lồi, hàm toàn phương, qui hoạch tuyến tính
và các định lý cơ bản. Chương này tác giả chủ yếu dựa trên các tài liệu [1],
[2].
Chương 2. Định lý Frank-Wolfe trong qui hoạch toàn phương. Đề
cập tới bài toán qui hoạch toàn phương, định lý Frank-Wolfe (mở rộng định
lý cơ bản). Mục này cũng đưa ra các ví dụ minh họa cho các trường hợp định
lý không còn đúng. Chương này tác giả chủ yếu dựa trên các tài liệu [4], [5],
[6], [7], [9].
Chương 3. Một số mở rộng định lý Frank-Wolfe. Dựa chủ yếu trên
tài liệu [8], tác giả nêu ra các kết quả về qui hoạch toàn phương với các ràng
buộc toàn phương, hệ bất đẳng thức toàn phương lồi, trường hợp một ràng
buộc toàn phương lồi, hàm mục tiêu tựa lồi.
Tuy đã có nhiều cố gắng nhưng do thời gian và khả năng có hạn nên các
vấn đề trong luận văn vẫn chưa được trình bày sâu sắc và không thể tránh
khỏi có những sai sót trong cách trình bày. Tác giả mong nhận được sự góp
ý xây dựng của thầy cô và các bạn đồng nghiệp để luận văn được hoàn thiện
hơn.

Nhân dịp này, tác giả xin bày tỏ lòng biết ơn sâu sắc đến thầy hướng dẫn
GS-TS Trần Vũ Thiệu đã tận tình giúp đỡ trong suốt quá trình làm luận văn.
iv


Tác giả xin trân trọng cảm ơn các thầy, cô giáo Viện Toán Học - Viện Hàn
Lâm Khoa Học và Công Nghệ Việt Nam, đã giảng dạy và tạo mọi điều kiện
thuận lợi trong quá trình tác giả học tập và nghiên cứu.
Tác giả cũng xin chân thành cảm ơn Ban giám hiệu, các Phòng, Ban chức
năng của trường THPT Nguyễn Đăng Đạo - Bắc Ninh và tập thể bạn bè
đồng nghiệp cùng gia đình đã quan tâm giúp đỡ, động viên để tác giả hoàn
thành tốt luận văn này.
Hà Nội, ngày 30 tháng 08 năm 2015.
Tác giả luận văn

Nguyễn Thị Mai

v


Danh mục kí hiệu
R
R
Rn
Sn
inf(A)
sup(A)
reD
min f
max f

∂D
∞
[a, b]
x∈M
∅
M ⊂N
M ∩N
M \N
¯ δ)
B(x,
n

x =

đường thẳng thực mở rộng
đường thẳng thực
không gian Euclide n-chiều
tập các ma trận đối xứng cấp n
cận dưới đúng của A
cận trên đúng của A
nón lùi xa của D
giá trị cực tiểu của f
giá trị cực đại của f
biên của D
vô cùng
tập số thực {t ∈ R : a ≤ t ≤ b}
phần tử x thuộc M
tập rỗng
M là tập con của N
giao của hai tập M và N

tập các điểm thuộc M nhưng không thuộc N
hình cầu đóng tâm x, bán kính δ

(xi )2 chuẩn Euclid của x trong Rn

i=1
T

x
∀x
∃x
x, y
∇f (x)
QCQP
QP

chuyển vị của x
với mọi x
tồn tại x
tích vô hướng của x và y
gradient của f tại x
qui hoạch toàn phương với các ràng buộc toàn phương
qui hoạch toàn phương
kết thúc chứng minh.

vi


Chương 1

Kiến thức chuẩn bị
Chương này trình bày một số kiến thức về giải tích lồi như các khái niệm
tập lồi, tập lồi đa diện, hàm lồi, hàm toàn phương và tính chất,..., và tối ưu
hóa như bài toán qui hoạch tuyến tính, qui hoạch lồi, qui hoạch toàn phương,
các định lý tồn tại nghiệm tối ưu,..., các nội dung trên cần thiết cho việc
trình bày các nội dung ở chương sau. Nội dung chương được tham khảo từ
các tài liệu [1], [2].

1.1.

Tập afin và tập lồi

Định nghĩa 1.1.1. Một tập M ⊂ Rn được gọi là tập afin (hay đa tạp tuyến
tính) nếu

λa + (1 − λ) b ∈ M với ∀a, b ∈ M và ∀λ ∈ R,
tức là nếu M chứa hai điểm nào đó thì M chứa cả đường thẳng qua hai điểm
ấy.
Định lý 1.1.2. Tập M không rỗng là một tập afin khi và chỉ khi M = a + L,
trong đó a ∈ M và L là một không gian con.
Định nghĩa 1.1.3. Không gian con L nói trên được gọi là không gian con
song song với tập afin M . Ký hiệu L//M.
1


Định nghĩa 1.1.4. Thứ nguyên (hay số chiều) của một tập afin M , ký hiệu

dimM, được định nghĩa là số chiều của không gian con song song với nó. Ta
qui ước dim∅ = −1.
Định lý 1.1.5. Một tập afin k chiều bất kỳ có dạng M = {x : Ax = b} với

A ∈ Rm×n , b ∈ Rm và rankA = n − k (M là tập nghiệm của một hệ phương
trình tuyến tính). Ngược lại, một tập khác rỗng bất kỳ có dạng trên là một
tập afin k chiều.
Định nghĩa 1.1.6. Một tập afin (n − 1) chiều trong Rn được gọi là một siêu
phẳng.
Định nghĩa 1.1.7. Trong Rn siêu phẳng H = {x : a, x = α} với a ∈
Rn \{0} và α ∈ R chia Rn thành hai nửa không gian đóng:

H − = {x : a, x ≤ α} và H + = {x : a, x ≥ α};
Mỗi nửa không gian này ở về một phía của siêu phẳng và phần chung của
chúng chính là siêu phẳng H . Tương tự, H cũng chia Rn thành hai nửa không
gian mở:

{x : a, x < α} và {x : a, x > α}.
Định nghĩa 1.1.8. Một tập được gọi là tập lồi đa diện nếu nó là giao của
một số hữu hạn các nửa không gian đóng (hay tập lồi đa điện là tập hợp
nghiệm của một hệ hữu hạn các bất phương trình tuyến tính).
Định nghĩa 1.1.9. Bao afin của một tập E là giao của tất cả các tập afin
chứa E , ký hiệu aff(E). Đó là tập afin nhỏ nhất chứa E .
Định nghĩa 1.1.10. Một tập k điểm x1 , x2 , ..., xk gọi là độc lập afin nếu

k − 1 vectơ x2 − x1 , ..., xk − x1 độc lập tuyến tính. Qua n điểm độc lập afin
trong Rn có một siêu phẳng duy nhất.
2


Định nghĩa 1.1.11. Tập hợp C ⊂ Rn được gọi là một tập lồi nếu

λa + (1 − λ) b ∈ C với ∀a, b ∈ C và mọi 0 ≤ λ ≤ 1

tức là nếu C chứa hai điểm nào đó thì C chứa cả đoạn thẳng nối hai điểm
ấy.
Định nghĩa 1.1.12. Thứ nguyên (hay số chiều) của một tập lồi C ⊂ Rn ,
ký hiệu dimC, là thứ nguyên của bao afin của nó. Một tập lồi C trong Rn
gọi là có thứ nguyên đầy đủ nếu dimC = n.
Định nghĩa 1.1.13. Một tập C được gọi là nón nếu

λx ∈ C với ∀λ > 0 và ∀x ∈ C
theo định nghĩa, ta thấy rằng gốc tọa độ có thể thuộc nón hoặc không thuộc
nón. Một nón gọi là nón lồi nếu nó đồng thời là một tập lồi. Một nón lồi được
gọi là nón nhọn nếu nó không chứa đường thẳng. Khi đó ta nói O là đỉnh
của nón. Nếu nón lồi này lại là một tập lồi đa diện thì ta nói nó là nón lồi
đa diện.
Mệnh đề 1.1.14. Một tập C là nón lồi khi và chỉ khi nó có các tính chất
sau:
(i) λC ⊆ C với ∀λ > 0,
(ii) C + C ⊆ C .
Định nghĩa 1.1.15. Cho C là một tập lồi trong Rn . Một vectơ y = 0 được
gọi là hướng lùi xa của C , nếu mọi tia xuất phát từ một điểm bất kỳ của C
theo hướng y đều nằm chọn trong C , tức là, y là hướng lùi xa khi và chỉ khi

x + λy ∈ C với ∀x ∈ C và ∀λ ≥ 0.

Một hướng lùi xa còn gọi là hướng vô hạn. Ta ký hiệu tập hợp tất cả các
3


hướng lùi xa của tập lồi C và vectơ 0 là recC. Tập hợp này được gọi là nón
lùi xa của C .
Mệnh đề 1.1.16. Giả sử C là một tập lồi đóng. Khi đó y là một hướng lùi

xa của C khi và chỉ khi

x + λy ∈ C với ∀λ ≥ 0 và x ∈ C .
Định nghĩa 1.1.17. Cho C là một tập lồi khác rỗng và x ∈ C . Ta nói

d ∈ Rn là một hướng chấp nhận được của C tại x nếu tồn tại t0 > 0 sao cho
x + td ∈ C với mọi 0 ≤ t ≤ t0 . Tập tất cả các hướng chấp nhận được là một
nón lồi chứa gốc. Ta ký hiệu nón này là FC (x) và gọi là nón các hướng chấp
nhận được (hay nón chấp nhận được) của C tại x.
Định nghĩa 1.1.18. Cho một tập bất kỳ E ⊂ Rn . Giao của tất cả các tập
lồi chứa E được gọi là bao lồi của E , ký hiệu conv (E). Đó là tập lồi nhỏ nhất
chứa E . Có thể thấy:
(i) conv (E) trùng với tập tất cả các tổ hợp lồi của các phần tử thuộc E .
(ii) Bao đóng của một tập lồi cũng là tập lồi.
Định nghĩa 1.1.19. Một điểm a của tập C gọi là một điểm trong của C
nếu có một hình cầu tâm a nằm trọn trong C . Tập các điểm trong của C gọi
là phần trong của C . Ký hiệu intC.
Định lý 1.1.20. Một tập lồi C ⊂ Rn có phần trong khác rỗng khi và chỉ khi
nó có thứ nguyên đầy đủ.
Định nghĩa 1.1.21. Bao nón lồi của tập E (còn gọi là nón lồi sinh bởi E )
là giao của tất cả các nón lồi chứa E . Ký hiệu coneE.

4


Mệnh đề 1.1.22. Cho E là một tập lồi. Khi đó

coneE = {λx : x ∈ E, λ ≥ 0}.
Định nghĩa 1.1.23. Cho C ⊂ Rn là một tập lồi. Điểm x ∈ C gọi là điểm
cực biên của C nếu x không biểu diễn dưới dạng một tổ hợp lồi của hai điểm

phân biệt bất kỳ khác của C , nghĩa là không tồn tại hai điểm y, z ∈ C, y = z
sao cho

x = λy + (1 − λ)z với 0 < λ < 1.
Tập hợp các điểm cực biên của C , ký hiệu V(C). Khi C là tập lồi đa diện,
thì điểm cực biên còn được gọi là đỉnh.
Định lý 1.1.24. (Định lý biểu diên tập lồi đa diện)
Với mỗi tập lồi đa diện C , tồn tại hai tập hữu hạn V = {vi : i ∈ I} và

U = {uj : i ∈ J} sao cho
C = ConvV + coneU,
tức là, mọi điểm của C đều biểu diễn được như là tổng của một tổ hợp lồi
của các điểm cực biên và tổ hợp không âm của các hướng cực biên của C .
Trong đó, V là tập các đỉnh của C ; U là tập các hướng cực biên của C ; I, J
là các tập chỉ số hữu hạn.
Định nghĩa 1.1.25. Hai tập lồi C, D khác rỗng trong Rn tách được bởi siêu
phẳng H = {x ∈ Rn : t, x = α} với t ∈ Rn \ {0} và α ∈ R , nếu

inf t, x ≥ α ≥ sup t, y .

x∈C

y∈D

Định lý 1.1.26. (Định lý tách I)
Cho hai tập lồi C, D trong Rn khác rỗng, không có điểm chung có thể tách

5

được bởi một siêu phẳng, nghĩa là tồn tại vectơ t ∈ Rn \ {0} và một số α ∈ R
sao cho

inf t, x ≥ α ≥ sup t, y .

x∈C

y∈D

Định nghĩa 1.1.27. Hai tập lồi C, D khác rỗng trong Rn tách hẳn bởi siêu
phẳng H = {x ∈ Rn : t, x = α} với t ∈ Rn \ {0} và α ∈ R , nếu

inf t, x > α > sup t, y .

x∈C

y∈D

Định lý 1.1.28. (Định lý tách II)
Cho hai tập lồi C, D đóng trong Rn khác rỗng, không cắt nhau với ít nhất
một trong hai tập này là compact, có thể tách hẳn bởi một siêu phẳng, nghĩa
là tồn tại vectơ t ∈ Rn \ {0} và một số α ∈ R sao cho

inf t, x > α > sup t, y .

x∈C

1.2.

y∈D

Hàm toàn phương và hàm lồi

Định nghĩa 1.2.29. Ma trận vuông, đối xứng C (cấp n) gọi là xác định
dương nếu xT Cx > 0 với mọi x = 0 (x ∈ Rn ), gọi là nửa xác định dương (hay
xác định không âm) nếu xT Cx ≥ 0 với mọi x ∈ Rn . Ma trận C gọi là xác
định âm (nửa xác định âm) nếu −C xác định dương (nửa xác định dương).
Định nghĩa 1.2.30. Hàm toàn phương (hay dạng toàn phương) là một hàm
số có dạng

n

n

T

f (x) = x Cx =

cij xi xj
i=1 j=1

trong đó C = [cij ] là ma trận vuông, đối xứng cấp n cho trước (tùy ý).

6


Hàm toàn phương f (x) = xT Cx gọi là xác định dương nếu xT Cx > 0 với
mọi x = 0, nghĩa là C là ma trận xác định dương.
Ví dụ 1.2.31. Dạng toàn phương f (x) = x21 + x22 là xác định dương (n = 2).
Hàm toàn phương f (x) = xT Cx gọi là nửa xác định dương nếu xT Cx ≥ 0

với mọi x và tồn tại ít nhất một x = 0 (x ∈ Rn ) sao cho xT Cx = 0, nghĩa là

C là ma trận nửa xác định dương, nhưng không xác định dương.
Ví dụ 1.2.32. Dạng toàn phương f (x) = (x1 − x2 )2 ≥ 0 với mọi x1 , x2 và
bằng 0 khi x1 = x2 = 1, vì thế f (x) là nửa xác định dương.
Hàm toàn phương f (x) = xT Cx gọi là xác định âm (nửa xác định âm)
nếu −f (x) là xác định dương (nửa xác định dương).

¯ Ta ký hiệu
Định nghĩa 1.2.33. Cho C ⊆ Rn là tập lồi và f : C → R.
domf := {x ∈ C : f (x) < +∞}.
Tập domf được gọi là miền hiệu dụng của f .
Tập

epif := {(x, µ) ∈ C × R : f (x) ≤ µ}
được gọi là trên đồ thị của hàm f .

¯ Ta nói f là hàm
Định nghĩa 1.2.34. Cho ∅ = C ⊆ Rn lồi và f : C → R.
lồi trên C nếu với mọi x, y ∈ C và mọi số thực λ ∈ [0, 1] ta có

f [λx + (1 − λ) y] ≤ λf (x) + (1 − λ) f (y) .
Hàm f gọi là hàm lồi chặt trên C nếu với mọi x, y ∈ C , x = y và mọi

0 < λ < 1 ta có
f [λx + (1 − λ) y] < λf (x) + (1 − λ) f (y) .
7


Hàm f gọi là lõm (lõm chặt) trên C nếu −f là lồi (lồi chặt) trên C .

Hàm f gọi là lồi mạnh trên C với hệ số η > 0, nếu với mọi x, y ∈ C , mọi

0 < λ < 1 ta có
1
f [λx + (1 − λ) y] < λf (x) + (1 − λ) f (y) − ηλ(1 − λ) x − y 2 .
2
Hàm f được gọi là chính thường nếu domf = ∅ và f (x) > −∞ với mọi x.
Hàm f được gọi là đóng, nếu epif là một tập đóng trong Rn+1 .
Hàm f được gọi là tuyến tính afin, nếu f là hàm vừa lồi, vừa lõm.

¯ là lồi trên C khi và chỉ khi
Mệnh đề 1.2.35. Một hàm f : C → R
f (λx + (1 − λ)y) ≤ λα + (1 − λ)β
với ∀x, y ∈ C, ∀α > f (x), ∀β > f (y), ∀λ ∈ [0, 1].
Ví dụ 1.2.36.
a) Hàm tuyến tính afin f (x) = c, x + α là vừa lồi vừa lõm, vì với mọi

x, y ∈ Rn và với mọi λ ta có:
f [λx + (1 − λ) y] = λf (x) + (1 − λ) f (y) .
Tuy nhiên, hàm đó không phải là hàm lồi chặt hay lõm chặt.
b) Hàm chuẩn f (x) = x =

x, x với x ∈ Rn , là hàm lồi.

c) Hàm khoảng cách từ điểm x ∈ Rn tới một tập hợp lồi, đóng C ⊂ Rn :

f (x) = inf x − y cũng là hàm lồi.
y∈C

Định lý 1.2.37. Hàm f (x) là lồi trên toàn Rn khi và chỉ khi có một trong

bốn điều kiện sau đây (giả thiết hàm f khả vi nếu cần):

(i) f (y) − f (x) ≥ ∇f (x) , y − x với mọi x, y ∈ Rn .
8


(ii) Ma trận các đạo hàm cấp hai ∇2 f (x) là nửa xác định dương với mọi
x ∈ Rn .
Định lý 1.2.38. Cho C là ma trận vuông đối xứng thực cấp n. Hàm toàn
phương f (x) = xT Cx = x, Cx lồi khi và chỉ khi C nửa xác định dương.
Hơn nữa, hàm f lồi chặt khi và chỉ khi C xác định dương.
Mệnh đề 1.2.39. Cho ma trận đối xứng, nửa xác định dương C và cho p, x0 ∈
Rn . Khi đó: p, x +

1
2

x, Cx ≥ p, x0 +

1
2

x0 , Cx0 + x − x0 , p + Cx0 ,

∀x ∈ Rn .
Định nghĩa 1.2.40. Hàm f được gọi là tựa lồi nếu
với x, y ∈ X ⊂ Rn , ∀z ∈ [x, y] thì f (z) ≤ max{f(x), f(y)} .
Ví dụ 1.2.41. Hàm y = x3 , y =

1.3.

| x | là các hàm tựa lồi.

Qui hoạch tuyến tính và định lý cơ bản

A. Dạng tổng quát
Bài toán này có dạng: Tìm các số x1 , x2 , ..., xn thỏa mãn
n

f (x) ≡

cj xj → min
j=1

9


với các điều kiện
n

aij xj ≤ bi , i = 1, ..., m1 ,

(1.1)

aij xj ≥ bi , i = m1 + 1, ..., m1 + m2 ,

(1.2)

aij xj = bi , i = m1 + m2 + 1, ..., m,

(1.3)

xj ≥ 0, j = 1, ..., n1 , xj ≤ 0, j = n1 + 1, ..., n1 + n2 ≤ n,

(1.4)

j=1
n

j=1
n

j=1

trong đó aij , bi , cj là các hằng số thực cho trước.
Trong bài toán trên, f gọi là hàm mục tiêu, mỗi hệ thức (1.1), (1.2), (1.3),
(1.4) gọi là một ràng buộc. Mỗi ràng buộc (1.1), (1.2), (1.3) gọi là một ràng
buộc chính liên kết nhiều biến với nhau (dạng đẳng thức hay bất đẳng thức),
mỗi ràng buộc xj ≥ 0 hay xj ≤ 0 gọi là một ràng buộc về dấu.
Điểm x = (x1 , x2 , ..., xn ) ∈ Rn thỏa mãn mọi ràng buộc gọi là một điểm
chấp nhận được, hay một phương án. Tập hợp tất cả các phương án, ký hiệu

D, gọi là tập ràng buộc hay miền chấp nhận được. Một phương án đạt cực
tiểu của hàm mục tiêu gọi là một phương án tối ưu hay một lời giải của bài
toán đã cho.
Bài toán có ít nhất một phương án tối ưu gọi là bài toán có lời giải. Bài
toán không có phương án (tập ràng buộc rỗng D = ∅) hoặc có phương án
nhưng không có phương án tối ưu, do hàm mục tiêu giảm vô hạn (bài toán
tìm min) hoặc tăng vô hạn (bài toán tìm max), gọi là bài toán không có lời
giải.

10


B. Dạng chính tắc:
n

f (x) ≡

cj xj → min,
j=1

với các điều kiện
n

aij xj = bi , i = 1, 2, ..., m,
j=1

xj ≥ 0, j = 1, ..., n,
(đặc điểm của bài toán này là ràng buộc chính chỉ là đẳng thức và mọi biến
đều không âm).
C. Dạng chuẩn tắc:
n

f (x) ≡

cj xj → min,
j=1

với các điều kiện

n

aij xj ≥ bi , i = 1, 2, ..., m,
j=1

xj ≥ 0, j = 1, ..., n,
(đặc điểm của bài toán này là ràng buộc chính chỉ gồm các bất đẳng thức
"≥" đối với bài toán min hoặc "≤" đối với bài toán max và mọi biến đều
không âm).

11


Để viết bài toán gọn hơn, ta dùng các ký hiệu vectơ và ma trận như sau:




 a 
b1
a11 a12 ... a1n
1j


 a21 a22 ... a2n 
 a2j 
 b2 










A=
;
 ..
.. . .
..  ; Aj =  ..  ; b = 
.. 


.
.
.
.


 . 
 . 
am1 am2 ... amn
amj
bm




c1

x1
 c2 
 x2 




;x = 

c=
 .. 
 .. 
 . 
 . 
cn
xn
trong đó, A là ma trận m × n gồm các hệ số ở vế trái ràng buộc chính, Aj là
vectơ cột thứ j của A tương ứng với biến xj , b là vectơ các hệ số ở vế phải
ràng buộc chính, c là vectơ các hệ số ở hàm mục tiêu, x là vectơ các ẩn số, 0
là vectơ không.
Với các ký hiệu trên, bài toán qui hoạch tuyến tính chính tắc có dạng:

min {f (x) = c, x : Ax = b, x ≥ 0}
hay

max {f (x) = c, x : Ax = b, x ≥ 0}
(với c, x là tích vô hướng của hai vectơ c và x).
Bài toán quy hoạch tuyến tính chuẩn tắc có dạng:

min {f (x) = c, x : Ax ≥ b, x ≥ 0}

hay

max {f (x) = c, x : Ax ≤ b, x ≥ 0} .

12


Định lý 1.3.42. (Định lý cơ bản của qui hoạch tuyến tính)
Nếu hàm tuyến tính f (x) = c, x bị chặn dưới trên một tập lồi đa diện D
khác rỗng thì f (x) phải đạt cực tiểu trên D.

13


Chương 2

Định lý Frank-Wolfe trong qui hoạch
toàn phương
Chương này trình bày chứng minh ngắn gọn định lý Frank-Wolfe, dựa trên
định lý biểu diễn tập lồi đa diện qua các đỉnh và cạnh của nó, và đưa vào
một vài ví dụ minh họa cho định lý. Nội dung của chương được tham khảo
từ các tài liệu [4], [5], [6], [7], [9].

2.1.

Bài toán qui hoạch toàn phương

Xét bài toán qui hoạch toàn phương có dạng:

1

min f (x) = xT Qx + cT x : Ax ≤ b
2

(QP)

trong đó, Q ∈ S n (ma trận đối xứng), A ∈ Rm×n (ma trận cấp m × n),

b ∈ Rm và c ∈ Rn .
Qui hoạch tuyến tính là một trường hợp riêng của qui hoạch toàn phương
(khi Q = 0).

Ký hiệu: D = {x ∈ Rn : Ax ≤ b} và θ = inf{f (x) : x ∈ D}.

14


2.2.

Định lý Frank-Wolfe trong qui hoạch toàn phương

Định lý 2.2.43. (Định lý Frank-Wolfe)
Nếu hàm toàn phương f (x) = 12 xT Qx + cT x bị chặn dưới trên một tập lồi đa
diện D khác rỗng (tức θ > −∞) thì f (x) phải đạt cực tiểu trên D, nghĩa là
tồn tại vectơ x ∈ D sao cho f (x) ≤ f (x) với ∀x ∈ D.
Chứng minh. Ta giả thiết D không bị chặn, vì nếu D bị chặn thì định lý đúng
với mọi hàm liên tục.
Vì vậy, theo định lý biểu diễn tập lồi đa diện, ta có thể viết:

D = {x : Ax ≤ b} = {p + λs : p ∈ P, s ∈ S, λ ≥ 0}
trong đó, P là đa diện lồi và S là giao của nón lùi xa reD với mặt cầu đơn

vị trong Rn , cả P và S là các tập compact (đóng và bị chặn). Vì D không bị
chặn, tức reD = {0}, nên tập S khác rỗng.
Ta chứng minh bằng qui nạp theo số chiều của D. Không giảm tính tổng
quát, ta có thể giả thiết D có phần trong khác rỗng, nghĩa là dimD = n.
Rõ ràng định lý đúng với n = 1, bởi vì trong trường hợp này hàm một
biến f (x) = ax2 + bx + c là một tam thức bậc hai bị chặn dưới theo giả thiết
và D là một tia hay cả đường thẳng (do D không bị chặn) trong R1 .
Giả thiết quy nạp: Giả sử n > 1 và định lý đúng cho mọi tập lồi đa diện
khác rỗng với số chiều nhỏ hơn n. Theo giả thiết

θ= inf {f (x) : x ∈ D} > −∞.
Khi đó, theo định nghĩa của hàm f (x), với mọi x = p + λs ∈ D, (p ∈ P, s ∈

S, λ ≥ 0) ta có:
1
f (x) = f (p + λs) = f (p) + λ(c + Qp)T s + λ2 sT Qs ≥ θ.
2
15


Do f (x) = f (p + λs) ≥ θ với mọi λ ≥ 0 nên phải có sT Qs ≥ 0 với mọi

s ∈ S (vì trái lại f (x) → −∞ khi cho λ → +∞, trái với θ > −∞). Xét hai
trường hợp:
Đầu tiên, ta xét trường hợp sT Qs > 0 với mọi s ∈ S . Đặt α = min sT Qs : s ∈ S
và β = min (c + Qp)T s : p ∈ P, s ∈ S .
Do P và S compact nên α và β tồn tại. Ta có α > 0 > β . Như vậy, trong
trường hợp này sT Qs ≥ α > 0 với mọi s ∈ S và (c + Qp)T ≥ β với mọi

p ∈ P, s ∈ S . Do đó với mọi λ ≥ 0 thì

1
1
f (p + λs) = f (p) + λ(c + Qp)T s + λ2 sT Qs ≥ f (p) + λβ + λ2 α.
2
2
Với p và s cố định, cực tiểu của f (p + λs) theo λ ≥ 0 đạt tại
T
(c
+
Qp)
s
¯ = max 0, −
λ
sT Qs

trong khi đó cực tiểu của

1
f (p) + λβ + λ2 α
2
∧

đạt tại λ = −

β
> 0.
α

β
Giá trị lớn nhất trong hai giá trị này là − .

α
Do đó ta có thể tìm cực tiểu của f (x) trên tập compact
p + λs : p ∈ P, s ∈ S, λ ∈ 0, −

β
α

.

Rõ ràng tập này chứa một điểm x sao cho

f (x) = min {f (x) : x ∈ D} .
Tiếp theo, xét trường hợp sT Qs = 0 với s nào đó thuộc S . Khi đó, do
16


s ∈ S nên với mọi x ∈ D và mọi λ ≥ 0 ta có x + λs ∈ D và
f (x + λs) = f (x) + λ(c + Qx)T s ≥ θ.
Như vậy phải có (c + Qx)T s ≥ 0 với mọi x ∈ D (vì nếu (c + Qx)T s < 0 thì

f (x + λs) → −∞ khi λ → +∞, trái với θ > −∞ theo giả thiết).
Trước hết, giả sử tồn tại y ∈ D sao cho y + λs ∈ D với mọi λ ∈ R, nghĩa
là A (y + λs) ≤ b với mọi λ ∈ R. Điều này kéo theo As = 0. Từ đó suy ra

x + λs ∈ D với mọi x ∈ D, λ ∈ R. Hơn nữa do
f (x + λs) = f (x) + λ(c + Qx)T s > θ
nên (c + Qx)T s = 0 với mọi x ∈ D và do đó f (x + λs) = f (x) với mọi

x ∈ D, λ ∈ R. Điều này cho thấy khi chiếu D lên siêu phẳng trực giao với s
giá trị hàm f không thay đổi. Do hình chiếu này là một tập lồi đa diện với

số chiều bằng n − 1 nên theo giả thiết qui nạp, f đạt cực tiểu tại một điểm
thuộc hình chiếu, chẳng hạn tại điểm x. Khi đó có λ ∈ R sao cho x + λs ∈ D
với f (x + λs) = f (x), nghĩa là x + λs là nghiệm cực tiểu cần tìm.
Tiếp đó, giả sử rằng với mỗi x ∈ D tồn tại λ ∈ R sao cho x + λs ∈
/ D. Đặt

λx = min {λ ∈ R : x + λs ∈ D} .
Khi đó với mọi x ∈ D ta có λx ∈ (−∞, 0] và x + λx s ∈ ∂D, trong đó ∂D là
ký hiệu biên của D. Vì thế

f (x + λx s¯) = f (x) + λx (c + Qx)T s¯ ≤ f (x)
(bất đẳng thức cuối là do λx ≤ 0 và (c + Qx)T s¯ ≥ 0 với mọi x ∈ D).
Bất đẳng thức cho thấy ta có thể tìm cực tiểu của f trên các diện thuộc
biên ∂D, các diện này có số chiều thấp hơn số chiều của D. Theo giả thiết
17


qui nạp, cực tiểu của f trên D đạt được trên biên ∂D. Định lý được chứng
minh xong.
Sau đây chúng tôi trình bày định lý Frank - Wolfe cho trường hợp bài toán
qui hoạch toàn phương với ràng buộc đẳng thức.

Ký hiệu tập ràng buộc và giá trị tối ưu của bài toán lần lượt là:

∆ (A, b) = {x ∈ Rn : Ax = b, x ≥ 0}
θ¯ = inf {f (x) : x ∈ ∆ (A, b)}
Chứng minh. Chúng tôi sẽ đưa ra cách chứng minh định lý cho bài toán toàn
phương với ràng buộc đẳng thức, dựa theo chứng minh của Blum và Oettli
(xem [4], 1972) cho bài toán với ràng buộc bất đẳng thức Ax ≥ b.
Giả thiết θ ∈ R (tức θ hữu hạn) cho thấy ∆ (A, b) = ∅. Lấy một điểm bất

kỳ x0 ∈ ∆ (A, b). Cho số ρ > 0 tùy ý. Đặt

¯ x0 , ρ
∆ρ = ∆ (A, b) ∩ B
với B x0 , ρ là hình cầu đóng tâm x0 bán kính ρ. Có thể thấy ∆ρ là một tập
lồi compact khác rỗng. Xét bài toán tìm cực tiểu sau đây:

min {f (x) : x ∈ ∆ρ }.

(2.1)

Theo định lý Weierstrass, tồn tại y ∈ ∆ρ sao cho

f (y) = qρ := min {f (x) : x ∈ ∆ρ } .
Vì tập nghiệm của (2.1) là compact và khác rỗng, nên tồn tại yρ ∈ ∆ρ sao
cho

yρ − x0 = min

yρ − x0 : y ∈ ∆ρ , f (y) = qρ .

18


Đầu tiên, ta chứng minh rằng tồn tại số ρˆ > 0 sao cho

yρ − x0 < ρ, ∀ρ ≥ ρˆ.

(2.2)

Thật vậy, nếu (2.2) không xảy ra, ta sẽ tìm được một dãy tăng ρk → +∞
sao cho với mọi k tồn tại yρk ∈ ∆ρk thỏa mãn

f (yρk ) = qρk , yρk − x0 = ρk .

(2.3)

Để đơn giản ký hiệu, ta viết y k thay cho yρk . Vì y k ∈ ∆ (A, b) nên Ay k = b
và yjk ≥ 0 với j = 1, ..., n, trong đó yjk là thành phần thứ j của véctơ y k . Với

j = 1, vì dãy y1k bị chặn dưới (bởi 0), nên ta có thể chọn được một dãy
con {k } ⊂ {k} sao cho lim y1k tồn tại (giới hạn đó có thể là +∞). Không
k →∞

giảm tổng quát ta có thể giả thiết {k } ≡ {k}, ta có dãy y1k hội tụ. Tương
tự, với j = 2 ta có dãy y2k hội tụ. Tiếp tục làm như trên tới khi j = n ta
tìm được một dãy con {k } ⊂ {k} sao cho tất cả các giới hạn

lim yjk , j = 1, ..., n
k→∞

đều tồn tại. Để đơn giản ký hiệu, ta giả thiết {k } ≡ {k}. Đặt I = {1, ..., m}
và J = {1, ..., n} , J0 =

j ∈ J : lim yjk = 0 và J1 = J\J0 =
k→∞

j ∈ J : lim yjk > 0 .
k→∞

Hiển nhiên, tồn tại số ε > 0 sao cho

lim yjk > ε với mọi j ∈ J1 .

k

k→∞
0

y −x
= 1 với mọi k . Vì hình cầu đơn vị trong Rn là
ρk
một tập compact, nên không giảm tổng quát ta có thể giả sử rằng dãy
Theo (2.3),

y k − x0
ρk

19