Một số phương pháp số giải bài toán quy hoạch phi tuyến có ràng buộc

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

ĐỖ HUY BÌNH

MỘT SỐ PHƯƠNG PHÁP SỐ GIẢI BÀI TOÁN
QUY HOẠCH PHI TUYẾN CÓ RÀNG BUỘC

LUẬN VĂN THẠC SĨ TOÁN HỌC

HÀ NỘI – 2016


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

ĐỖ HUY BÌNH

MỘT SỐ PHƯƠNG PHÁP SỐ GIẢI BÀI TOÁN
QUY HOẠCH PHI TUYẾN CÓ RÀNG BUỘC

Chuyên ngành: Toán giải tích
Mã số: 60 46 01 02

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC
PGS. TS. NGUYỄN HỮU ĐIỂN

HÀ NỘI – 2016

LỜI CẢM ƠN
Luận văn được hoàn thành tại trường Đại học Sư phạm Hà Nội 2
dưới sự hướng dẫn của thầy giáo PGS TS Nguyễn Hữu Điển. Sự giúp
đỡ và hướng dẫn tận tình, nghiêm túc của thầy trong suốt quá trình
thực hiện luận văn này đã giúp tác giả trưởng thành hơn rất nhiều
trong cách tiếp cận một vấn đề mới. Tác giả xin bày tỏ lòng biết ơn,
lòng kính trọng sâu sắc nhất đối với thầy.
Tác giả xin trân trọng cảm ơn Ban giám hiệu trường Đại học Sư
phạm Hà Nội 2, phòng sau Đại học, các thầy cô giáo trong nhà trường,
gia đình cùng các bạn học viên đã giúp đỡ, động viên và tạo điều kiện
thuận lợi để tác giả hoàn thành khóa học Thạc sĩ và hoàn thành luận
văn này!
Hà Nội, tháng 12 năm 2016
Tác giả luận văn

Đỗ Huy Bình


LỜI CAM ĐOAN
Tôi xin cam đoan luận văn này là kết quả nghiên cứu của riêng
tôi dưới sự hướng dẫn của PGS TS Nguyễn Hữu Điển.
Trong quá trình nghiên cứu và hoàn thành luận văn tôi đã kế
thừa những thành quả khoa học của các nhà khoa học và đồng nghiệp
với sự trân trọng và biết ơn.
Tôi xin cam đoan rằng các thông tin trích dẫn trong luận văn đã
được chỉ rõ nguồn gốc.
Hà Nội, tháng 12 năm 2016
Tác giả luận văn

Đỗ Huy Bình


Mục lục

MỞ ĐẦU

6

1

Kiến thức chuẩn bị

9

1.1. Không gian Euclid Rn . . . . . . . . . . . . . . . . . . .

9

1.2. Hàm nhiều biến . . . . . . . . . . . . . . . . . . . . . . .

10

1.3. Ma trận . . . . . . . . . . . . . . . . . . . . . . . . . . . .

14

1.4. Tập lồi, tập affine . . . . . . . . . . . . . . . . . . . . . .

15

1.5. Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . .

17

1.6. Bài toán tối ưu . . . . . . . . . . . . . . . . . . . . . . . .

20

1.7. Bài toán tối ưu với ràng buộc tập . . . . . . . . . . . . .

21

1.8. Điều kiện cần tối ưu cấp 1 và cấp 2 . . . . . . . . . . . .

22

1.9. Điều kiện đủ tối ưu cấp 1 và cấp 2 . . . . . . . . . . . .

24

1.10. Bài toán tối ưu với ràng buộc hiển . . . . . . . . . . . . .

25

1.11. Điều kiện chính qui . . . . . . . . . . . . . . . . . . . . .

26

1.12. Điều kiện tối ưu cấp 1 . . . . . . . . . . . . . . . . . . .

28

1.13. Điều kiện tối ưu cấp 2 . . . . . . . . . . . . . . . . . . .

30

3


2

3

Một số phương pháp số giải bài toán quy hoạch phi tuyến có
ràng buộc

36

2.1. Hàm Lagrange và phương pháp nhân tử Lagrange . . .

36

2.2. Các bài toán quy hoạch phi tuyến (NLP) lồi . . . . . . .

41

2.3. Tiêu chuẩn điểm yên ngựa . . . . . . . . . . . . . . . . .

45

2.4. Quy hoạch toàn phương . . . . . . . . . . . . . . . . . .

49

2.5. Quy hoạch toàn phương theo chuỗi . . . . . . . . . . .

64

Một số ví dụ

82

KẾT LUẬN

88

TÀI LIỆU THAM KHẢO

89

4


DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT
Rn

không gian Euclid n chiều.

∅

Tập rỗng

∇ f (x)

véc tơ gradient của f tại điểm x

∇2 f ( x )

ma trận Hesse của f tại điểm x

x

chuẩn Euclid của x

x, y

tích vô hướng của x và y

AT

ma trận chuyển vị của ma trận A

A −1

ma trận nghịch đảo của ma trận khả nghịch A

dom f

miền xác định hữu hiệu của f

NLP

Quy hoạch phi tuyến

SQPT

Quy hoạch toàn phương theo chuỗi

KKT

Karush - Kuhn - Tucker

5


Mở đầu
1. Lý do chọn đề tài
Trong xã hội ngày nay, từ cuộc sống đời thường đến các hoạt
động kinh tế, kỹ thuật, công nghệ và quản lý hiện đại... Chúng ta
phải quan tâm tới bài toán tìm ra cách giải tốt nhất để đạt được mục
tiêu mong muốn trong những điều kiện ràng buộc nhất định. Đó là
các bài toán tối ưu. Chính những cố gắng nhằm giải các bài toán tối
ưu đã giúp cho sự phát triển của Giải tích Toán học thế kỷ XVII XVIII với sự đóng góp to lớn của các nhà toán học: Fermat, Leibniz,
Euler,... Nhưng phải đến những năm 30, 40 của thế kỷ XX, Quy hoạch
toán học (Mathematical Programming), hay còn gọi là Toán Tối Ưu
(Optimization) mới hình thành với tư cách là một lý thuyết độc lập với
nhiều hướng nghiên cứu khác nhau.
Ta xét bài toán tối ưu trong không gian Euclid-Rn :
min f ( x ) với điều kiện x ∈ D.

Trong đó D là tập đóng trong Rn được gọi là miền chấp nhận
được hay miền ràng buộc của bài toán. Một điểm thuộc D gọi là điểm
chấp nhận được. f là hàm số xác định trên một tập nào đó chứa D và
được gọi là hàm mục tiêu.
Trong trường hợp hoặc là hàm mục tiêu hoặc một trong số các
6


ràng buộc là phi tuyến thì chúng ta có bài toán quy hoạch phi tuyến.
Khi tập ràng buộc D chính là Rn thì ta có bài toán quy hoạch phi tuyến
không ràng buộc, ngược lại ta có bài toán quy hoạch phi tuyến có ràng
buộc.
Ngày nay, với sự trợ giúp của máy tính, quy hoạch toán học ngày
càng phát triển mạnh mẽ. Các phương pháp tối ưu đã được ứng dụng
rộng rãi trong mọi lĩnh vực khoa học, kỹ thuật, công nghệ, quản lý,
kinh tế, khai thác dữ liệu (data mining), viễn thông, v.v..
Đó chính là lí do để tôi chọn đề tài "Một số phương pháp số giải
bài toán quy hoạch phi tuyến có ràng buộc" làm đề tài luận văn cao
học.

2. Mục đích nghiên cứu
Vì những lý do trên, để thực hiện luận văn này tôi đã tham khảo
các cuốn sách [1], [2], [3] [4],[7], đã sử đụng phương pháp số để giải
quyết bài một vài bài toán Quy hoạch phi tuyến có ràng buộc, có sử
dụng phần mềm Maple để hỗ trợ tìm ra kết quả.

3. Nhiệm vụ nghiên cứu
Nghiên cứu và tìm hiểu một số phương pháp số giải bài toán
quy hoạch phi tuyến có ràng buộc.

7


4. Đối tượng và phạm vi nghiên nghiên cứu
• Đối tượng nghiên cứu:
Bài toán quy hoạch phi tuyến có ràng buộc.

• Phạm vi nghiên cứu:
Tập trung vào giải các bài toán quy hoạch phi tuyến lồi.

5. Phương pháp nghiên cứu
Tổng hợp, phân tích, hệ thống các kiến thức trong các tài liệu về
bài toán quy hoạch phi tuyến có ràng buộc.

8


Chương 1
Kiến thức chuẩn bị
Trong chương này tôi xin trình bày tóm tắt một số kiến thức cơ
bản về không gian Euclid Rn , tập lồi, hàm lồi, ... để làm cơ sở để nghiên
cứu bài toán quy hoạch phi tuyến ở chương sau.
Nội dung chương này chủ yếu được trích dẫn từ các tài liệu
[3],[4].

1.1.

Không gian Euclid Rn

1.1.1. Điểm hay véc tơ trong Rn

Mỗi điểm x ∈ Rn là một bộ n số thực được sắp có thứ tự và được
viết dưới dạng cột số




x := 



x1



x2
..
.




.



xn
Mỗi số xi , i = 1, n, được gọi là tọa độ thứ i của điểm x. Để thuận
tiện khi viết, ta qui ước
9





T
x := ( x1 , x2 , ..., xn ) := 



x1



x2
..
.




.



xn
1.1.2. Tích vô hướng
T

Tích vô hướng của hai véc tơ x := ( x1 , x2 , ..., xn ) và y := (y1 , y2 , ..., yn )

là một số thực, ký hiệu là x, y , được xác định như sau
x, y := x1 y1 + x2 y2 + ... + xn yn .
1.1.3. Chuẩn Euclid của véc tơ
Chuẩn Euclid (hay độ dài) của véc tơ x ∈ Rn , ký hiệu là x , là
một số thực xác định bởi
x :=

x, x =

n

∑ | xi |

2

1
2

.

i =1

Chuẩn của một véc tơ có những tính chất cơ bản sau:
x ≥ 0 và x = 0 khi và chỉ khi x = 0,
λx = |λ| x với mọi λ ∈ R,
x + y ≤ x + y với mọi x, y ∈ Rn .

1.2.

Hàm nhiều biến

1.2.1. Định nghĩa
Hàm số f từ Rn vào R là một quy tắc ứng với mỗi điểm x ∈ Rn
với một số thực nào đó và kí hiệu số thực đó là f ( x ). Cách viết f :
X → R, với X ⊆ Rn , nói rằng f ( x ) chỉ xác định với các điểm x ∈ X.
Khi đó ta gọi X là miền xác định của hàm f . Vì biến số ở đây là các phần

10

T


tử thuộc Rn nên nó có n thành phần và mỗi thành phần có thể được
xem như một biến độc lập. Do đó người ta thường gọi hàm xác định
trên Rn , với n ≥ 2, là hàm nhiều biến.
1.2.2. Tính liên tục
Cho hàm số f xác định trên tập mở X ⊆ Rn . Hàm f được gọi
là liên tục tại x0 ∈ X nếu với mọi ε > 0, tồn tại δ > 0 sao cho
f ( x ) − f x0

< ε với mọi x0 ∈ X thỏa mãn x − x0 < δ. Nói cách

khác, hàm f là liên tục tại x0 ∈ X nếu với mọi dãy { x n } ⊂ X hội tụ
đến x0 , ta có { f ( x n )} → f x0 .
Hàm f được gọi là nửa liên tục dưới (tương ứng, nửa liên tục trên)
tại điểm x0 ∈ X nếu với mọi ε > 0, tồn tại δ > 0 sao cho
f ( x ) ≥ f x0 − ε, (tương ứng, f ( x ) ≤ f x0 − ε),
với mọi x ∈ X thỏa mãn x − x0

< δ. Nói cách khác, hàm f là nửa

liên tục dưới (tương ứng, nửa liên tục trên) tại x0 ∈ X nếu với mọi dãy

{ xn } ⊂ X hội tụ đến x0 và dãy { f ( xn )} ⊂ R hội tụ, ta có
lim f ( x n ) ≥ f x0 ( tương ứng, lim f ( x n ) ≤ f x0 ).

n→∞

n→∞

1.2.2. Đạo hàm riêng
Cho hàm số f xác định trên tập mở X ⊆ Rn và x0 = x10 , ..., xn0

T

là một điểm thuộc X. Khi đó với mỗi số h ∈ R đủ nhỏ, điểm
x10 , ..., xi0−1 , xi0 + h, xi0+1 , ..., xn0

T

∈ X.

Giới hạn
f ( x10 ,...,xi0−1 ,xi0 +h,xi0+1 ,...,x0n )− f ( x10 ,...,xi0−1 ,xi0 ,xi0+1 ,...,x0n )
lim
,
h
h →0

nếu tồn tại, được gọi là đạo hàm riêng của f theo biến xi tại điểm x0 , ký

hiệu là
∂ f ( x0 )
∂xi

hay f xi x0 .
11


Giả sử đạo hàm riêng
tương ứng x →

∂ f (x)
∂xi

∂ f (x)
∂xi

tồn tại với mọi x ∈ X. Khi đó, phép

xác định một hàm

đạo hàm riêng theo biến x j của hàm

∂f
∂xi

: X → R. Nếu tồn tại x0 ,

∂f
∂xi

tồn tại thì ta gọi đó là đạo hàm
∂2 f ( x 0 )
riêng cấp hai theo biến xi và x j của hàm f tại x0 và ký hiệu là ∂x ∂x hoặc
i

j

0

f xi x j x .
1.2.4. Gradient và ma trận Hesse
Cho hàm số f xác định trên tâm mở X ⊆ Rn . Giả sử tại x0 , các
đạo hàm riêng của hàm f theo mọi biến tồn tại. Khi đó, véc tơ
∂ f ( x0 )
∂ f ( x0 ) ∂ f ( x0 )
,
,
...,
∂x1
∂x2
∂xn
0

T

được gọi là gradient của f tại x và ký hiệu là ∇ f x0 .
Nếu các đạo hàm riêng cấp hai theo mọi biến của f tại x0 đều tòn tại
thì ma trận


∂2 f ( x 0 )
∂x1 ∂x1

···

∂2 f ( x 0 )
∂x1 ∂xn





..
..

.
···
.

∂2 f ( x 0 )
∂2 f ( x 0 )
· · · ∂xn ∂xn
∂xn ∂x1
được gọi là ma trận Hesse của f tại x0 và ký hiệu ∇2 f x0 .





1.2.5. Tính khả vi
Cho hàm số f xác định trên tập mở X ⊆ Rn . Hàm f là khả vi tại
x0 ∈ X nếu tồn tại các đạo hàm riêng của hàm f theo mọi biến và với
mọi d ∈ Rn , d đủ nhỏ và x0 + d ∈ X, ta có
f x0 + d = f x0 + ∇ f x0 , d + o ( d ) ,

(1.1)

trong đó o ( d ) là một vô cùng bé bậc cao hơn d khi d → 0.
Biểu thức (1.1) tương đương với
lim

d →0

f ( x0 +d )− f ( x0 )− ∇ f ( x0 ),d
d

= 0.

(1.2)

Hàm f được gọi là khả vi trên X nếu f khả vi tại mọi điểm x ∈ X. Nếu

12


f xác định trên tập mở X ⊆ Rn có các đạo hàm riêng tại mọi điểm
x ∈ X và các hàm

∂f

∂xi

: X → R liên tục trên X thì ta nói hàm f khả vi

liên tục trên X.
Cho hàm số f xác định trên tập mở X ⊆ Rn . ta nói hàm f là khả
vi hai lần tại x0 ∈ X nếu tồn tại các đạo hàm riêng cấp hai của hàm f
theo mọi biến và với mọi d ∈ Rn , d đủ nhỏ và x0 + d ∈ X, ta có
f x0 + d = f x0 + ∇ f x0 , d +
trong đó o

d

2

là vô cùng bé cấp cao hơn d

d T ∇2 f ( x 0 ) d
+
2
2
2

khi d

o

d

2

,

→ 0.

Hàm f được gọi là khả vi hai lần trên X nếu f khả vi hai lần tại mọi
điểm x ∈ X . Nếu hàm f xác định trên tập mở X ⊆ Rn có đạo hàm
riêng cấp một và cấp hai tại mọi điểm x ∈ X và các hàm
và

∂2 f
∂xi ∂x j

∂f
∂xi

:X→R

: X → R liên tục trên X thì ta nói hàm f khả vi liên tục hai lần

trên X
1.2.6. Đạo hàm theo hướng
Cho hàm f xác định trên Rn và một véc tơ d ∈ Rn \ {0}. Giới hạn
f ( x0 +td )− f ( x0 )
,
t
t →0+

lim

nếu tồn tại (hữu hạn hoặc vô cùng), được gọi là đạo hàm theo hướng d
của hàm f tại điểm x0 ∈ Rn và ký hiệu là f

x0 , d .

1.2.7. Khai triển Taylor
Khai triển Taylor cho ta xấp xỉ một hàm số khả vi tại một lân cận
của điểm x0 bởi một hàm đa thức. Xét hàm n biến f : Rn → R khả vi
liên tục tại lân cận nào đó của điểm x0 ∈ Rn . Khi đó, với p ∈ Rn và
p đủ nhỏ, ta có thể khai triển
f x0 + p = f x0 + ∇ f x0 , p + o ( p ) ,
trong đó o ( p ) là một vô cùng bé bậc cao hơn p khi p → 0. Khai

13


triển này được gọi là khai triển Taylor cấp một của hàm f tại x0 . Nếu f
khả vi hai lần tại lân cận này của x0 thì đại lượng o ( p ) có thể đánh
giá như sau
o( p ) =

1 T 2
2! p ∇ f

(ξ ) p,

với ξ = λx0 + (1 − λ) p và 0 < λ < 1. Tổng
f x0 + ∇ f x0 , p
được gọi là xấp xỉ Taylor cấp một của hàm f tại x0 và ta sẽ viết
f x0 + p ≈ f x0 + ∇ f x0 , p .

1.3.

Ma trận

1.3.1. Phép nhân ma trận
Định nghĩa 1.1. Cho hai ma trận A = ( aij )m×n và B = (bij )n× p . Tích
của hai ma trận được xác định như sau: AB = (cij )m× p với cij =
n

∑ air brj .

r =1

1.3.2. Ma trận đối xứng
Định nghĩa 1.2. Ma trận vuông A = ( aij )n×n bằng với ma trận chuyển
vị của nó thì ma trận A được gọi là ma trận đối xứng, tức là: A = A T
(với A = ( aij )m×n thì ma trận chuyển vị của A là A T = ( a ji )n×m ).
1.3.3. Ma trận xác định dương
Định nghĩa 1.3. Cho A là một ma trận vuông, đối xứng cấp n × n.
(a) Ma trận A được gọi là xác định dương nếu
x, Ax > 0 với mọi x ∈ Rn , x = 0.
14


(b) Ma trận A được gọi là nửa xác định dương nếu
x, Ax ≥ 0 với mọi x ∈ Rn .
Ma trận A được gọi là xác định âm (hay nửa xác định âm) nếu

− A là xác định dương (hay nửa xác định dương).

1.4.

Tập lồi, tập affine

1.4.1. Tập lồi
Định nghĩa 1.4 ([4]) Một tập C ⊂ Rn được gọi là một tập lồi, nếu C
chứa mọi đoạn thẳng đi qua hai điểm bất kỳ của nó. Tức là C lồi khi
và chỉ khi
λx + (1 − λ) x ∈ C, ∀ x, y ∈, ∀λ ∈ [0, 1]
Một số tính chất cơ bản của tập lồi:

• Giao của một họ bất kỳ các tập lồi cũng là một tập lồi.
• Nếu C ⊂ Rn và D ⊂ Rn là tập lồi thì
C + D = { x + y : x ∈ C, y ∈ D } ,
αC = {αx : x ∈ C } ,
C − D = C + (−1) D
cũng là tập lồi.

• Nếu C ⊂ Rn và D ⊂ Rn là các tập lồi thì tích Đề-các
C × D = {( x, y) : x ∈ C, y ∈ D } ⊂ Rn × Rm cũng là tập lồi.

• Tập hợp tất cả các tổ hợp lồi của một số hữu hạn điểm trong Rn là
một tập lồi. Nếu x1 , x2 , ..., x k thuộc một tập lồi C thì mọi tổ hợp lồi của
các điểm này cũng thuộc C, nghĩa là:
k

k

i =1

i =1

xi ∈ C, λi ≥ 0 i = 1, k , ∑ λi = 1 ⇒ ∑ λi xi ∈ C.

• Một tập hợp lồi có thể giới nội hoặc không giới nội. Nếu tập lồi
15


C ⊂ Rn không giới nội thì có véc tơ t ∈ Rn (t = 0) sao cho với mọi
x ∈ C tia x + λt, λ ≥ 0 nằm trọn trong C. Một véc tơ t như thế gọi là
một phương vô hạn của tập lồi C.
Cho một tập bất kỳ E ⊂ Rn . Giao của tất cả các tập lồi chứa E được
gọi là bao lồi của E, ký hiệu conv(E). Đó là tập lồi nhỏ nhất chứa E. Có
thể thấy:

• conv(E)trùng với tập tất cả các tổ hợp lồi của các phần tử thuộc E.
• Bao đóng của một tập lồi cũng là tập lồi.
Cho C ⊂ Rn là một tập lồi. Điểm x ∈ C được gọi là điểm cực biên của
C nếu x không thể biểu diễn dưới dạng tổ hợp lồi của hai điểm phân
biệt bất kỳ khác của C, nghĩa là không tồn tại hai điểm y, z ∈ C, y = z
sao cho x = λy = (1 − λ) z với 0 < λ < 1.
Tập hợp các điểm cực biên của tập lồi được ký hiệu Ext(C).
1.4.2. Tập affine
Định nghĩa 1.5 ([4]) Một tập A được gọi là tập affine nếu nó chứa
đường thẳng đi qua hai điểm bất kỳ của nó, tức là
λx + (1 − λ) y ∈ A, ∀ x, y ∈ A, ∀λ ∈ R
Dễ thấy mội tập affine đều là tập lồi.
Định nghĩa 1.6 ([4]) Đường thẳng đi qua hai điểm a, b ∈ R là tập hợp
tất cả các điểm x trong Rn có dạng x = λa + (1 − λ) b, ∀λ ∈ R.

Đoạn thẳng đi qua hai điểm a, b ∈ Rn ký hiệu là [ a, b] là tập

{ x ∈ Rn : x = λa + (1 − λ) b, 0 ≤ λ ≤ 1} .
Định lý 1.1 ([4]) Nếu N là tập affine khác rỗng trong Rn thì tồn tại không
gian véc tơ con W của Rn sao cho M = a + W, trong đó a ∈ M.
Định nghĩa 1.7 ([4]) Nếu M là tập affine khác rỗng trong Rn và W là
không gian con của Rn sao cho M = a + W, trong đó a ∈ M thì W
16


được gọi là không gian con song song với M, số chiều của W được gọi
là số chiều của tập affine M.
Định nghĩa 1.8 ([4]) Cho một tập S bất kỳ của Rn . Giao của tất cả các
tập affine trong Rn chứa S là một tập affine. Ta gọi giao đó là bao
affine của S, ký hiệu là aff S. Dễ thấy aff S là tập affine nhỏ nhất chứa
S.
Định nghĩa 1.9 ([4]) Cho a ∈ Rn a = 0 và α ∈ R. Ta gọi tập H =

{ x ∈ Rn : a, x = α} là một siêu phẳng (xác định bởi a và α).
siêu phẳng là một tập affine có số chiều (n − 1) và có thể chứng minh
một tập affine có số chiều (n − 1) đều là siêu phẩm a với α nào đó.
Định nghĩa 1.10 ([4]) Cho a ∈ Rn \ {0} , α ∈ R.
Tập X = {( x1 , x2 , ..., xn ) ∈ Rn : a, x ≤ α} được gọi là nửa không gian
đóng. Tập X = {( x1 , x2 , ..., xn ) ∈ Rn : a, x < α} được gọi là nửa không
gian mở.

1.5.

Hàm lồi

1.5.1. Hàm lồi
Định nghĩa 1.11 ([4]) Một hàm f xác định trên tập lồi D được gọi là
hàm lồi trên D nếu ∀ x, y ∈ D, 0 ≤ λ ≤ 1 ta có
f (λx + (1 − λ) y) ≤ λ f ( x ) + (1 − λ) f (y) .
Định nghĩa 1.12 ([4]) Cho D là một tập lồi khác rỗng trong Rn .

• Hàm f được gọi là lồi chặt trên D nếu
f (λx + (1 − λ) y) < λ f ( x ) + (1 − λ) f (y) .
với mọi x, y ∈ D và với mọi λ ∈ (0, 1) .

17

(1.3)


• Hàm f : Rn → R ∪ {+∞} được gọi là lồi mạnh trên D với hệ số
η > 0, nếu ∀ x, y ∈ D, ∀ ∈ (0, 1) ta có
2

f (λx + (1 − λ) y) ≤ λ f ( x ) + (1 − λ) f (y) − 21 ηλ (1 − λ) x − y .

• Hàm f được gọi là hàm lõm trên D nếu − f là hàm lồi trên D.
• Hàm f được gọi là tựa lồi trên D nếu ∀λ ∈ R tập mức dưới
Lλ f := { x ∈ D : f ( x ) ≤ λ}
là tập lồi.

• Hàm f được gọi là tựa lõm trên D nếu − f là hàm tựa lồi trên D.
Định nghĩa 1.13 ([4]) Cho D ⊂ Rn khác rỗng và hàm số f : D → R.

• Điểm x∗ ∈ D được gọi là cực tiểu địa phương của f trên D nếu tồn

tại một lân cận U của x ∗ sao cho
f ( x ∗ ) ≤ f ( x ) , ∀ x ∈ U ∩ D.

• Điểm x∗ ∈ D được gọi là cực đại địa phương của f trên D nếu tồn
tại một lân cận U của x ∗ sao cho
f ( x ) ≤ f ( x ∗ ) , ∀ x ∈ U ∩ D.

• Điểm x∗ ∈ D được gọi là cực tiểu toàn cục trên D nếu
f ( x ) ≤ f ( x ∗ ) , ∀ x ∈ D.
1.5.2. Đạo hàm theo hướng của hàm lồi
Định lí 1.2 ([4]) Nếu f : X → R là một hàm lồi xác định trên tập lồi
X ⊆ Rn thì nó có đạo hàm theo mọi hướng d ∈ Rn \ {0} tại mọi điểm
x0 ∈ dom f và
f

x0 , d ≤ f x0 + d − f x0 .

Chứng minh: Cho véc tơ d ∈ Rn . Do f là hàm lồi nên hàm một biến
ϕ (t) = f x0 + td là hàm lồi trên t| x0 + td ∈ X . Theo định nghĩa
của đạo hàm theo hướng,

18


f ( x0 +td )− f ( x0 )
t
t →0+
ϕ t ϕ 0
lim ( )−t ( )
+

t →0

x0 , d = lim

f

=

= ϕ + (0) .
Nếu với mọi t > 0 mà x0 + td ∈
/ dom f thì ta có
f x0 + td = ϕ (t) = +∞ và ϕ+ (0) = +∞.
Do đó, kết luận của Định lý là đúng.
Nếu tồn tại t > 0 để x0 + td ∈ dom f thì với mọi t1 mà 0 < t1 < t
ta có
t1
t

< 1 và t1 = tt1 t + 1 − tt1 0.

Vì ϕ là hàm lồi nên
ϕ ( t1 ) ≤

t1
t ϕ (t)

ϕ(t1 )− ϕ(0)
t1

≤

+ 1 − tt1 ϕ (0) .

Suy ra

tức dãy

ϕ(t)− ϕ(0)
t

ϕ(t)− ϕ(0)
,
t
+

không tăng khi t → 0 . Do đó tồn tại giới hạn
ϕ(t)− ϕ(0)
t
t →0+

lim

= ϕ + (0) .

Điều đó có nghĩa là với t > 0 ta luôn có
ϕ(t)− ϕ(0)
t

≥ ϕ + (0) = f

x0 , d .

Lấy t = 1 ta có ϕ (1) − ϕ (0) = f x0 + d − f x0 ≥ f

x0 , d .

Hệ quả 1.1 ([4])
Nếu f là hàm lồi khả vi xác định trên tập lồi mở X thì f có đạo hàm
theo mọi hướng d ∈ Rn \ {0} tại mọi điểm x0 ∈dom f và

∇ f x0 , d = f

x0 , d ≤ f x0 + d − f x0 .

19


1.6.

Bài toán tối ưu

1.6.1. Bài toán tối ưu và các khái niệm cơ bản
Bài toán tối ưu tổng quát được phát biểu như sau:
min f ( x ) với điều kiện x ∈ D,

(1.3)

max f ( x ) với điều kiện x ∈ D.

(1.4)

hoặc

Trong đó D ⊆ Rn được gọi là tập nghiệm chấp nhận được hay tập
ràng buộc và f : X → R là hàm mục tiêu.
Mỗi điểm x ∈ D được gọi là một nghiệm chấp nhận được (có thể
gọi tắt là một phương án).
Điểm x ∗ ∈ D mà f ( x ∗ ) ≤ f ( x ) , ∀ x ∈ D.
được gọi là nghiệm tối ưu, hoặc đơn giản là nghiệm của bài toán (1.3).
Người ta còn gọi một nghiệm tối ưu là một phương án tối ưu hay lời giải
của bài toán đã cho.
x ∗ ∈ D được gọi là nghiệm cực tiểu toàn cục chặt nếu
f ( x ∗ ) ≤ f ( x ) , ∀ x ∈ D, x = x ∗ .
Không phải bài toán (1.3) nào cũng có nghiệm cực tiểu toàn cục và nếu
bài toán có nghiệm cực tiểu toàn cục thì cũng chưa chắc có nghiệm cực
tiểu toàn cục chặt.
1.6.2. Các loại bài toán tối ưu
Người ta thường chia các bài toán tối ưu thành một lớp dựa trên
tính chất của hàm mục tiêu và tập chấp nhận được.
-Quy hoạch tuyến tính: hàm mục tiêu f ( x ) là hàm tuyến tính và tập
20


chấp nhận được D ⊂ Rn là tập lồi đa diện ( tức là các hàm ràng buộc
gi ( x ) , i = 1, ..., m, là các hàm afin).
-Quy hoạch phi tuyến: hàm mục tiêu f ( x ) hoặc một trong các hàm ràng
buộc gi ( x ) , i = 1, ..., m, không phải hàm afin.
Trong các bài toán tối ưu phi tuyến có hai lớp đặc biệt quan trọng, đó
là Quy hoạch lồi và Quy hoạch lõm.
-Quy hoạch lồi: là bài toán cực tiểu một hàm mục tiêu f ( x ) là hàm lồi

trên tập chấp nhận được D ⊆ Rn là tập lồi.
Ngoài ra còn có: Quy hoạch nguyên, Quy hoạch đa mục tiêu, Quy
hoạch ngẫu nhiên, Quy hoạch tham số,...

1.7.

Bài toán tối ưu với ràng buộc tập
Xét bài toán tối ưu có dạng
min { f ( x ) : x ∈ D } ,

(1.5)

trong đó D ⊆ Rn là một tập tùy ý và f : D → R là một hàm thực tùy
ý. Nếu D ≡ Rn thì (1.5) là bài toán tối ưu không ràng buộc; còn nếu D là
tập con thực sự của Rn thì (1.5) là bài toán tối ưu có ràng buộc tập.
Định nghĩa 1.14 ([6]) Cho tập D ⊆ Rn và một điểm x0 ∈ D. Một véc tơ
d ∈ Rn , d = 0 gọi là một hướng chấp nhận được của D tại x0 nếu có một
số t0 > 0 sao cho x0 + td ∈ D, ∀t ∈ [0, t0 ]. Về mặt hình học, điều này
có nghĩa là xuất phát từ x0 đi dọc theo hướng d có ít nhất một đoạn ở
trong D.
Dễ thấy nếu d là một hướng chấp nhận được của D tại x0 thì
λd (λ > 0) cũng là một hướng chấp nhận được của D tại x0 ∈ D cùng
với véc tơ 0 tạo thành một nón được gọi là nón chấp nhận được của D

21


tại x0 , ký hiệu là FD x0 .
Định nghĩa 1.15 ([6]) Cho một tập D ⊆ Rn và một điểm x0 ∈ D. ta nói
véc tơ 0 = d ∈ Rn là một phương tiếp xúc của D tại x0 nếu có một dãy

điểm x k ⊂ D với x k = x0 , x k → x0 và dãy số dương tk

0 sao cho

dk = x k − x0 /tk → d khi k → +∞.
Do x k = x0 + tk dk ∈ D nên có thể diễn giải định nghĩa này như
sau: sát tùy ý x0 và theo phương sát tùy ý d đều có những điểm thuộc
D.
Định nghĩa 1.16 ([6]) Tập tất cả các phương tiếp xúc của D tại x0 cùng
với véc tơ 0 gọi là nón tiếp xúc của D tại x0 , ký hiệu là TD x0 .
Nhận xét 1.1 ([6]) Có thể thấy FD x0 ⊆ TD x0 .. Thật vậy, chọn tùy
ý một d ∈ FD x0 . Theo định nghĩa của hướng chấp nhận được, có
số t0 > 0 sao cho x0 + td ∈ D, ∀t ∈ [0, t0 ]. Đặt dk = d và tk = t0 /2k
với k = 1, 2, ... thì x k = x0 + tk dk ∈ D với mọi k và dk → d, tk

0 khi

k → +∞. Vì thế d ∈ TD x0 theo định nghĩa của nón tiếp xúc, vì d
được chọn tùy ý nên FD x0 ⊆ TD x0 .

1.8.

Điều kiện cần tối ưu cấp 1 và cấp 2

Định nghĩa 1.17 ([6])
Với x¯ ∈ D ta gọi D ( x¯ ) = {d ∈ R : d, ∇ f ( x¯ ) < 0} là tập hướng giảm
tại x¯ ( f ( x ) giảm khi x di chuyển đủ nhỏ từ x¯ theo hướng d).
Định lí 1.3 ([6]) (Điều kiện cần cấp 1). Giả sử x ∗ ∈ D là một điểm cực tiểu
địa phương của f trên D. Nếu f ( x ) khả vi tại x ∗ thì

∇ f ( x∗ ) , d ≥ 0 với mọi d ∈ TD ( x∗ ) .
nghĩa là TD ( x ∗ ) ∩ D ( x ∗ ) = ∅.
22

(1.6)


Chứng minh. Giả sử d ∈ TD ( x ∗ ). Theo định nghĩa của nón tiếp xúc,
có một dãy số dương tk và dãy véc tơ dk (k = 1, 2, ...) sao cho x k =
x ∗ + tk dk ∈ D với mọi k với tk

0 và dk → d khi k → ∞.

Do x k = x ∗ + tk dk → x ∗ và x ∗ là cực tiểu địa phương nên với k đủ lớn
ta có
f ( x ∗ ) ≤ f x ∗ + tk dk = f ( x ∗ ) + tk ∇ f ( x ∗ , d) + o (tk )
với o (tk ) /tk → 0 khi k → ∞. Từ đó tk ∇ f ( x ∗ ) , dk + o (λk ) ≥ 0 với
mọi k đủ lớn. Chia hai vế cho tk > 0 và qua giới hạn khi k → ∞ được

∇ f ( x∗ ) , d ≥ 0. Vì d ∈ TD ( x∗ ) được chọn tùy ý nên ta có (1.6). Hơn
/ D ( x ∗ ). Do đó TD ( x ∗ ) ∩ D ( x ∗ ) = ∅.
nữa, vì ∇ f ( x ∗ ) , d ≥ 0 nên d ∈
Hệ quả 1.2 ([6]) Giả sử hàm f khả vi liên tục trên tập D ⊆ Rn . Nếu x ∗ là
một điểm cực tiểu địa phương của f trên D và x ∗ là một điểm trong của D
thì ∇ f ( x ∗ ) = 0.
Định lí 1.4 ([6])(Điều kiện cần cấp 2). Giả sử f là một hàm hai lần khả vi
liên tục trên một tập D ⊆ Rn . Nếu x ∗ ∈ D là một điểm cực tiểu địa phương
của f trên D thì với mỗi hướng d ∈ Rn chấp nhận được tại x ∗ ta có:
a) ∇ f ( x ∗ ) , d ≥ 0;
b)Nếu ∇ f ( x ∗ ) , d = 0 thì d, ∇2 f ( x ∗ ) d ≥ 0.

Điều kiện a) suy ra từ Định lí 1.3 và nhận xét FD x0 ⊆ TD x0 .
T

Điều kiên b)chỉ đòi hỏi khi ∇ f ( x ∗ ) d = 0. Do f ( x ∗ + td) , 0 ≤ t ≤ t0 ,
có cực tiểu địa phương tại x ∗ nên với mọi t > 0 đủ nhỏ ta có (chú ý

∇ f ( x ∗ ) T d = 0);
0 ≤ f ( x ∗ + td) − f ( x ∗ ) = t2 /2

d, ∇2 f ( x ∗ ) d + o t2

với o t2 /t2 → 0 khi t → 0. Nếu ∇2 f ( x ∗ ) d, d < 0 thì vế phải của
bất đẳng thức trên sẽ âm với t > 0 đủ nhỏ và ta sẽ gặp mâu thuẫn. Vậy
d, ∇2 f ( x ∗ ) d ≥ 0.

23