BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HCM
KHOA TOÁN - TIN
TIỂU LUẬN TỐI ƯU PHI TUYẾN
ĐỀ TÀI: TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH
PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI
GIẢNG VIÊN
:
TS. TRỊNH CÔNG DIỆU
THỰC HIỆN
:
NHÓM 21 – VB2 TOÁN – KHÓA 2
01
:
HUỲNH VĂN AN
02
:
ĐINH HÙNG KỲ
03
:
ĐOÀN NHẬT MINH
THÀNH PHỐ HỒ CHÍ MINH
THÁNG 01 NĂM 2015
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 i
MỤC LỤC
MỤC LỤC i
TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI 2
1. Kiến thức chuẩn bị 2
1.1. Các định lý loại trừ 2
1.2. Hàm lồi và các định lý liên quan 2
1.3. Các điều kiện định tính và mỗi liên hệ giữa chúng 4
1.3.1. Bổ đề 1 5
1.3.2. Bổ đề 2 5
2. Các bài toán cực tiểu và các bài toán điểm dừng Fritz John và Kuhn-Tucker 7
3. Các tiêu chuẩn tối ưu đủ 8
3.1. Định lý 1 8
3.2. Hệ quả 1 9
3.3. Định lý 2 9
4. Các tiêu chuẩn tối ưu cần 11
4.1. Bổ đề tuyến tính hoá 11
4.2. Định lý tối ưu cần cho điểm dừng Fritz John 12
4.3. Định lý tối ưu cần cho điểm dừng Kuhn-Tucker 14
4.4. Định lý 16
4.5. Hệ quả 1 16
4.6. Hệ quả 2 17
5. Minh họa sơ lược mối liên hệ giữa nghiệm của các bài toán 18
6. Thuật toán và các ví dụ minh họa 19
6.1. Thuật toán giải bài toán MP bằng cách giải bài toán KTP tương ứng 19
6.2. Các ví dụ minh họa 20
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 2
TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI
1. Kiến thức chuẩn bị
1.1. Các định lý loại trừ
1.1.1. Định lý Farkas
Cho
A
là ma trận
pn
,
n
b
. Khi đó một và chỉ một trong hai hệ sau có nghiệm
0
0
Ax
bx
với ẩn là
n
x
0
A y b
y
với ẩn là
p
y
1.1.2. Định lý Gordan
Cho ma trận
A
tùy ý. Khi đó, một và chỉ một trong hai hệ sau có nghiệm:
0Ax
với ẩn là
x
0
0
Ay
y
với ẩn là
y
,
A
là ma trận chuyển vị của
A
1.1.3. Định lý Motzkin
Cho
( 0)A
,
B
,
C
là các ma trận tùy ý. Khi đó, một và chỉ một trong hai hệ sau có nghiệm:
0
0
0
Ax
Bx
Cx
với ẩn là
x
1 2 3
1
3
0
0
0
A y B y C y
y
y
với ẩn là
1
y
,
2
y
,
3
y
1.2. Hàm lồi và các định lý liên quan
1.2.1. Định nghĩa
Cho
là hàm số xác định trên tập
n
:
(i)
là hàm lồi tại
x
nếu
0 1 1 1
1
x
x x x x
xx
(ii) Nếu
là tập lồi thì (i) không cần điều kiện
1 xx
(iii)
là hàm lồi trên
nếu
lồi tại mọi
x
.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 3
1.2.2. Định lý 1
Cho
là hàm số xác định trên tập mở
n
và
khả vi tại
x
, nếu
là hàm lồi tại
x
thì
x x x x x
với mọi
x
.
1.2.3. Định lý 2
Cho
là hàm số xác định trên tập mở
n
và
khả vi tại
x
, nếu
là hàm lồi nghiêm
ngặt tại
x
thì
x x x x x
với mọi
x
,
xx
.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 4
1.3. Các điều kiện định tính và mỗi liên hệ giữa chúng
Giả thiết chung:
0
X
là tập lồi trong
n
g
là một hàm vectơ lồi
m
chiều xác định trên
0
X
0
0: | ,X x x X g x
- Điều kiện Slater
Hàm
g
được gọi là thỏa mãn điều kiện Slater trên
0
X
nếu tồn tại
0
xX
sao cho
0gx
.
- Điều kiện Karlin
Hàm
g
được gọi là thỏa mãn điều kiện Karlin trên
0
X
nếu không tồn tại
m
p
,
0p
sao
cho
0pg x
với mọi
0
xX
.
- Điều kiện nghiêm ngặt
Hàm
g
được gọi là thỏa mãn điều kiện nghiêm ngặt trên
0
X
nếu
X
chứa ít nhất hai điểm
phân biệt
1
x
,
2
x
sao cho
g
lồi nghiêm ngặt tại
1
x
.
Giả thiết chung:
0
X
là một tập mở trong
n
g
là một hàm vectơ m chiều xác định trên
0
X
0
: , 0X x x X g x
.
- Điều kiện Kuhn-Tucker
Hàm
g
được gọi là thoả mãn điều kiện Kuhn -Tucker tại
xX
nếu
g
khả vi tại
x
và nếu:
01,
Trong đó:
0
i
I i g x
- Điều kiện Arrow-Hurwicz-Uzawa
Hàm
g
được gọi là thoả điều kiện Arrow-Hurwicz-Uzawa tại
xX
nếu
g
khả vi tại
x
và
nếu
0
0
W
V
g x z
g x z
có một nghiệm
n
z
Trong đó:
0
i
V i g x ,
i
g
lõm tại
x
} và
0
i
W i g x ,
i
g
không lõm tại
x
}
- Điều kiện lồi đảo
Hàm
g
được gọi là thoả điều kiện lồi đảo tại
xX
nếu
g
khả vi tại
x
và nếu với mỗi
iI
thì hoặc là
i
g
lõm tại
x
hoặc là
i
g
tuyến tính trên
n
, trong đó
0
i
I i g x
.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 5
Ghi chú:
Sở dĩ nói lồi đảo là vì nếu
0
X
là một tập lồi và
iI
g
lõm trên
0
X
, thì tập
0
0
iI
x x X , g x
không lồi, nhưng phần bù của nó trong
0
X
,
0
0
iI
x x X , g x
, là một tập lồi.
Ví dụ: Nếu
0 n
X
và
1g x xx
thì
g
thoả điều kiện lồi đảo tại mỗi
1
n
x x x , xx
1.3.1. Bổ đề 1
Điều kiện Slater và điều kiện Karlin là tương đương. Điều kiện nghiêm ngặt thỏa thì cả hai
điều kiện Slater và điều kiện Karlin cũng thỏa.
1.3.2. Bổ đề 2
Cho
0
X
là tập mở trong
n
, g là hàm vectơ m chiều xác định trên
0
X
và đặt :
0
, ( ) 0X x x X g x
(i) Nếu g thỏa mãn điều kiện lồi đảo tại
x
, thì g thỏa điều kiện Arrow-Hurwicz-Uzawa tại
x
(ii) Nếu g thỏa mãn điều kiện lồi đảo tại
x
thì g thỏa điều kiện Kuhn-Tucker tại
x
.
(iii) Cho
0
X
lồi, g lồi trên
0
X
và g khả vi tại
x
. Nếu g thỏa mãn điều kiện Slater trên
0
X
,
điều kiện Karlin trên
0
X
hoặc điều kiện nghiêm ngặt trên
0
X
thì g thỏa điều kiện Arrow-
Hurwicz-Uzawa tại
x
.
Chứng minh:
(i) Cho g thỏa mãn điều kiện lồi đảo tại
x
.
Khi đó với mỗi
0
i
i I i g x
thì hoặc là
i
g
lõm tại
x
hoặc là
i
g
tuyến tính trên
n
,
điều này dẫn đến
0
i
W i g x ,
i
g
không lõm tại
x
} là tập rỗng và có
0z
thỏa
( ) ( ) 0
VI
g x z g x z
, trong đó
0
i
V i g x ,
i
g
lõm tại
x
}
Do đó g thỏa điều kiện Arrow-Hurwicz-Uzawa tại
x
.
(ii) Cho g thỏa mãn điều kiện lồi đảo tại
x
.
Đặt
( ) 0
i
I i g x
và
( ) 0
i
J i g x
Lấy y là một vectơ bất kỳ trong
n
thỏa
) 0(
I
g x y
.
Đặt
()e x y
với
0
được xác định cụ thể ở dưới.
Rõ ràng điều kiện (a) và (c) của điều kiện Kuhn-Tucker được thỏa. Bây giờ ta sẽ chứng minh
rằng điều kiện (b) cũng được thỏa. Vì
0
X
là tập mở, và do
I
g
là lõm và khả vi tại
x
nên ta có
0
x y X
và
() 0
I I I I I
g e g x y g x g x y g x y
với
01
và
0
.
Do đó với
0
và
01
, ta có
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 6
0()
I
ge
và với
iJ
, ta có
,
i i i i
g x y g x g x y x y y
0
lim , 0
i
xy
,
i i i
g x g x x y y
(theo 1.3.8)
0
với một số
nào đó thoả
0
(do
0
J
gx
và
0
lim , 0
i
xy
)
Vậy
( ) 0
J
ge
với
01
. Vì
0()
I
ge
với
01
, ta có
()eX
với
01
và điều kiện (b) của điều kiện Kuhn-Tucker được thỏa.
(iii) Theo bổ đề 1, ta có điều kiện Slater và điều kiện Karlin là tương đương và điều kiện
nghiêm ngặt bao hàm cả hai điều kiện Slater và Karlin. Vì thế ta chỉ cần thiết lập bổ đề này với điều
kiện Slater. Nếu g thỏa điều kiện Slater trên
0
X
thì tồn tại
0
ˆ
xX
sao cho
ˆ
0gx
. Vì g khả vi tại
x
, theo định lý 1.2.2, ta có:
ˆ ˆ ˆ
0 ( )
I I I I
g x g x g x g x x x
trong đó
( ) 0
i
I i g x
Do đó bằng cách đặt
ˆ
z x x
, ta có
( ) 0
I
gx
và điều kiện Arrow-Hurwicz-Uzawa được
thỏa tại
x
.▐
Các kết quả của hai bổ đề trên được tóm tắt trong Hình 1.3
0
X
lồi, g lồi
0
X
mở,
g
khả vi tại
x
0
X
mở
g
khả vi tại
x
Điều kiện
Karlin
Điều kiện
Slater
Điều kiện
nghiêm ngặt
Điều kiện
lồi đảo
Điều kiện Arrow-
Hurwicz-Uzawa
Điều kiện
Kuhn-Tucker
Hình 1.3. Mối liên hệ giữa các điều kiện định tính
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 7
2. Các bài toán cực tiểu và các bài toán điểm dừng Fritz John và Kuhn-Tucker
Giả thiết chung:
là một tập mở trong
là hàm số xác định trên
là hàm vectơ m chiều xác định trên
2.1. Bài toán cực tiểu toàn cục (MP)
Tìm (nếu có) thỏa mãn:
0
min
,0
xX
xx
x X x x X g x
2.1. Bài toán cực tiểu địa phương (LMP)
Tìm
xX
(nếu có) sao cho tồn tại quả cầu tâm , bán kính thỏa mãn:
min
x B x X
xx
2.3. Bài toán điểm dừng Fritz John (FJP)
Tìm
0
0
m
x X ,r ,r
nếu tồn tại, thỏa mãn:
0
0
0
0
0
0
r x r g x
gx
rg x
r ,r
(Ta ngầm hiểu rằng
và
g
khả vi tại
x
)
2.4. Bài toán điểm dừng Kuhn-Tucker (KTP)
Tìm
0 m
x X , u
(nếu có) thỏa mãn:
0
0
0
0
x u g x
gx
ug x
u
(Ta ngầm hiểu rằng
và
g
khả vi tại
x
)
Nhận xét:
- Nếu
0
x,r ,r
là một nghiệm của FJP, và
0
0r
, thì
0
x,r r
là một nghiệm của KTP.
Ngược lại, nếu
x,u
là một nghiệm của KTP, thì
1x, ,u
là một nghiệm của FJP.
- Trong KTP ta có
u
0
,
gx
0
và
0ug x
nên suy ra
0
ii
u g x
với
1, ,im
như vậy bài toán có thể viết lại như sau:
0
X
n
0
X
g
0
X
x
Bx
x
0
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 8
Tìm
0 m
x X , u
(nếu có) thỏa mãn:
(KTP)
0
0 1 2
0
0
ii
x u g x
gx
u g x ,i , , ,m
u
3. Các tiêu chuẩn tối ưu đủ
3.1. Định lý 1
Cho
0
xX
,
0
X
mở,
và
g
khả vi và lồi tại
x
.
- Nếu
,xu
là một nghiệm của KTP thì
x
là một nghiệm của MP.
- Nếu
0
,,x r r
là một nghiệm của FJP, và
0
0r
thì
x
là một nghiệm của MP.
Chứng minh:
Ý thứ hai của định lý được suy ra từ ý thứ nhất do nhận xét ở mục 2.
Giả sử
,xu
là một nghiệm của KTP. Với mọi
xX
ta có
xx
x x x
(do
lồi, khả vi tại
x
và Định lý 1.2.2)
u g x x x
(vì
x u g x
)
u g x g x
(do
g
lồi và khả vi tại
x
, Định lý 1.2.2 và do
u
0
)
ug x
(vì
0ug x
)
0
(vì
u
0
và
gx
0
)
Do đó
x
x
với mọi
xX
, mà
xX
do 0gx
nên suy ra:
min
xX
xx
và
xX
.▐
Nhận xét:
- Đối với các bài toán có các ràng buộc đẳng thức phi tuyến dạng
0hx
, để chuyển về
dạng KTP hoặc FJP ta thường thay ràng buộc này bằng hai ràng buộc bất đẳng thức
0hx
và
0hx
. Tuy nhiên do
hx
là hàm phi tuyến nên
hx
và
hx
không
đồng thời là hàm lồi, vì vậy không thể áp dụng định lý trên trong trường hợp này. Ngược lại
đối với các ràng buộc đẳng thức tuyến tính thì có thể áp dụng định lý trên vì hàm tuyến tính
vừa là hàm lồi vừa là hàm lõm.
- Nếu ta đặt
| 0 , | 0
ii
I i g x J i g x
thì do
0
ii
u g x
với
1, ,im
ta suy
ra
0
i
u
với
iJ
và từ cách chứng minh trên ta nhận thấy có thể làm định lý chặt hơn
bằng cách thay giả thiết
g
lồi tại
x
bởi giả thiết
I
g
lồi tại
x
.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 9
- Nếu ta đặt
| 0 , | 0
ii
M i u N i u
thì ta cũng có thể thay giả thiết
g
lồi tại
x
bởi
giả thiết
N
g
lồi tại
x
.
3.2. Hệ quả 1
Cho
0
xX
,
0
X
mở,
và
g
khả vi và lồi tại
x
,
B
là ma trận
kn
cho trước và
d
là
vectơ
k
chiều cho trước. Khi đó nếu
,,x u v
với
0
, ,v
mk
x X u
là một nghiệm của bài
toán Kuhn – Tucker sau
(I)
0
0
0
0
x u g x vB
gx
Bx d
ug x
u
thì
min
xX
xx
với
0
| ,g 0,x X x x X x Bx d
Chứng minh:
Giả sử
,,x u v
với
0
, ,v
mk
x X u
là một nghiệm của (I), với mọi
xX
ta có
xx
x x x
(do
lồi và khả vi tại
x
và Định lý 1.2.2)
u g x vB x x
(do
0x u g x vB
trong (I))
u g x x x vBx vBx
u g x g x vd vd
(vì
lồi và khả vi tại
x
,
do Bx d x X
,
và
Bx d
(do(I))
ug x
(vì
0ug x
)
0
(vì
u
0
và
gx
0
)
Do đó
x
x
với mọi
xX
, mà
gx
0
và
Bx d
nên
xX
Vậy:
min
xX
xx
và
xX
.▐
Ghi chú:
Trong ý thứ hai của định lý 1 có điều kiện
0
0r
. Nhưng điều kiện này có thể được thay bởi
điều kiện
g
lồi nghiêm ngặt tại
x
. Xét định lý sau:
3.3. Định lý 2
Cho
0
xX
,
0
X
mở,
khả vi và lồi tại
x
,
g
khả vi và lồi nghiêm ngặt tại
x
. Nếu
0
,,x r r
là một nghiệm của FJP thì
x
là một nghiệm của MP.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 10
Chứng minh:
Giả sử
0
,,x r r
là một nghiệm của FJP.
Đặt
| 0 , | 0
ii
I i g x J i g x
suy ra
1,2, ,I J m
Vì
r
0
,
gx
0
, và
0rg x
nên
0
i
r
với mọi
iJ
.
Mặt khác
0
0r x r g x
và
0
,0rr
nên ta có:
0
0
0
,0
ii
iI
I
r x r g x
rr
(I)
Đặt
1
1
n
II
n
xx
xx
A
g x g x
xx
và
0
I
r
y
r
Trong đó
A
là ma trận có
1 I
hàng và n cột, còn
1 I
y
(với
I
là số phần tử của tập I)
Khi đó hệ (I) được viết lại như sau:
0
0
Ay
y
Hệ này có nghiệm do đó theo Định lý Gordan ta suy ra hệ
0Az
không có nghiệm
n
z
Đặt
tz
thì ta có hệ
0At
không có nghiệm
n
t
Hay hệ
0
0
I
xt
g x t
không có nghiệm
n
t
(II)
Dẫn đến hệ
0
0
II
xx
g x g x
cũng không có nghiệm
0
xX
(III)
Bởi vì nếu hệ trên có một nghiệm
0
ˆ
xX
, khi đó
ˆ
xx
và
ˆ
0 xx
ˆ
x x x
(do
lồi tại
x
và Định lý 1.2.2 )
0
ˆ ˆ ˆ
I I I
g x g x g x x x
(do
lồi nghiêm ngặt tại
x
và Định lý 1.2.3)
Điều này mâu thuẫn với hệ (II) nếu như ta đặt
ˆ
t x x
.
Do
0
I
gx
nên kết hợp cùng hệ (III) ta có
0
0
I
J
xx
gx
gx
không có nghiệm
0
xX
Suy ra
xx
không có nghiệm
xX
hay
xx
với mọi
xX
Mà
gx
0
,
xX
, do vậy
x
là nghiệm của MP.▐
Nhận xét:
Ta cũng có thể làm định lý này chặt hơn như đối với định lý 1.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 11
4. Các tiêu chuẩn tối ưu cần
Trong các tiêu chuẩn tối ưu cần được đưa ra dưới đây, tính lồi không đóng vai trò quyết
định. Tính khả vi của các hàm được dùng để tuyến tính hóa bài toán quy hoạch phi tuyến, rồi sau đó
bằng cách sử dụng các định lý loại trừ ta thu được các điều kiện tối ưu cần. Tiếp theo đó, để có
được các điều kiện tối ưu cần quan trọng hơn ta xét thêm các điều kiện định tính ở mục 1.1.
Ta sẽ bắt đầu với bổ đề tuyến tính hoá dưới đây, nhằm thiết lập sự không tồn tại nghiệm của
một hệ các bất đẳng thức tuyến tính với giả thiết rằng bài toán cực tiểu địa phương (LMP) có
nghiệm.
4.1. Bổ đề tuyến tính hoá
Cho
x
là một nghiệm của LMP,
0
X
là tập mở,
và
g
khả vi tại
x
Đặt
{ 0,
ii
V i g x g
lõm tại
x
} và
{ 0,
ii
W i g x g
không lõm tại
x
}
Khi đó hệ
W
0
0
0
V
xz
g x z
g x z
không có nghiệm
z
trong
n
.
Chứng minh:
Đặt
0
i
I V W i g x
,
0
i
J i g x
ta có
1,2, ,I J V W J m
Giả sử
x
là một nghiệm của LMP với
. Ta sẽ chỉ ra điều mâu thuẫn nếu có
z
thoả:
W
0
0
0
V
xz
g x z
g x z
Giả sử có
z
thoả mãn các bất đẳng thức trên. Khi đó do
0
X
là tập mở nên
ˆ
0
sao cho
0
x z X B x
với
ˆ
0
.
Vì
và
g
khả vi tại
x
nên khi
ˆ
0
ta có:
0
0
,
.,
,
. , 1, ,
i i i i
i i i
x z x x z x z z
x x z x z z
g x z g x g x z x z z
g x g x z x z z i m
Trong đó
0
lim , 0
i
xz
với
0, ,im
. Do vậy ta suy ra các điều sau:
(i) Tồn tại
0
0:
thoả
0
0
ta đều có
0
. , 0x z x z z
(vì
0xz
)
Do đó:
0x z x
với
0
0
(ii) Tương tự, với
iW
luôn tồn tại
i
sao cho:
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 12
0
ii
g x z g x
với
0,
i
iW
(iii) Với
iV
, vì
i
g
lõm tại
x
và
0
V
g x z
nên
0
ii
i
g x z g gx xz
với
ˆ
0
và
iV
(iv) Với
,0
i
i J g x
, tương tự (i) và (ii) luôn tồn tại
i
sao cho
. , 0
i i i
g x g x z x z z
với
0,
i
iJ
Do đó:
0
i
g x z
với
0,
i
iJ
Bây giờ gọi
là giá trị nhỏ nhất của
0
ˆ
, , , 1, ,m
i
i
được định nghĩa ở trên. Khi
đó với mọi
thoả
0
ta có:
0
0,
0,
ii
i
x z X
x z B x
x z x
g x z g x i I
g x z i J
Do đó với
0
, ta có
x z B x X
và
x z x
, mâu thuẫn với giả
thiết
x
là nghiệm của LMP với
.
Vậy không tồn tại
z
trong
n
sao cho:
W
0
0
0
V
xz
g x z
g x z
▐
Dựa vào bổ đề tuyến tính hóa ở trên ta đưa ra một loạt các tiêu chuẩn tối ưu cần dưới đây:
4.2. Định lý tối ưu cần cho điểm dừng Fritz John
Cho
x
là một nghiệm của LMP hoặc của MP,
0
X
là tập mở,
và
g
khả vi tại
x
. Khi đó
tồn tại
0
r
và
m
r
sao cho
0
,,x r r
là nghiệm của FJP, và
W0
,0rr
.
Trong đó
{ 0,
i
W i g x
và
i
g
không lõm tại
x
}.
Chứng minh:
Nếu
x
là nghiệm của MP, thì
x
cũng là nghiệm của LMP. Do đó ta chỉ cần xét khi
x
là
nghiệm của LMP.
Đặt
{ 0,
i
V i g x
và
i
g
lõm tại
x
} và
0
i
J i g x
Theo bổ đề tuyến tính hóa ta có
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 13
Hệ
0
0
0
W
V
xz
g x z
g x z
không có nghiệm
z
trong
n
.
Do đó theo Định lý Motzkin, tồn tại
0
,,
WV
r r r
sao cho
0
0
g0
,0
0
W W V V
V
W
r x r x r g x
rr
r
Do
0
W
gx
và
0
V
gx
, nên nếu ta đặt
0
J
r
và
,,
W V J
r r r r
thì ta có:
0
0
0
0
,0
W W V V J J
rg x r g x r g x r g x
r x r g x
rr
Hơn nữa
xX
(do
x
là nghiệm của LMP) nên
0gx
Vậy
0
,,x r r
là nghiệm của FJP, và
W0
,0rr
.▐
Nhận xét:
- Nếu
0
X
lồi và
V
g
lõm trên
0
X
thì định lý trên vẫn đúng. Tuy nhiên tính lõm của
V
g
không
làm cho tập
0
0
V
x x X , g x
lồi (trừ khi
V
g
tuyến tính).
- Không có gì đảm bảo rằng
0
0r
trong định lý trên. Nhưng điều này vẫn có thể xảy ra, ví
dụ khi nghiệm
x
của LMP hoặc của MP nằm ở đỉnh, Hình 4.1 a, hoặc khi miền khả thi
X
bị suy biến thành 1 điểm duy nhất, Hình 4.1 b. Trong trường hợp mà
0
0r
, hàm
sẽ
không có mặt trong FJP, và ta có một trường hợp suy biến. Nhưng ta có thể loại trừ các
trường hợp như vậy bằng các đặt thêm điều kiện định tính cho các ràng buộc
0gx
.
Hình 4.1. Ví dụ về các bài toán cực tiểu mà
0r
0
(trong FJP)
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 14
4.3. Định lý tối ưu cần cho điểm dừng Kuhn-Tucker
Cho
0
X
là tập mở trong
n
,
là hàm số xác định trên
0
X
, và g là hàm vectơ m chiều xác
định trên
0
X
,
x
là một nghiệm của LMP hoặc MP,
và g khả vi tại
x
và g thỏa mãn:
(i) Điều kiện Kuhn-Tucker tại
x
, hoặc
(ii) Điều kiện Arrow-Hurwicz-Uzawa tại
x
, hoặc
(iii) Điều kiện lồi đảo tại
x
Khi đó tồn tại
m
u
sao cho
( , )xu
là nghiệm của KTP.
Chứng minh:
Theo bổ đề 2 mục 1.3, nếu g thỏa mãn điều kiện lồi đảo tại
x
thì g thỏa điều kiện Kuhn-
Tucker tại
x
vì vậy ta chỉ cần thiết lập định lý với giả thiết (i) hoặc (ii).
(i) Cho
x
là một nghiệm của LMP với
.
| ( ) 0 | ( ) 0
ii
I i g x J i g x
Ta phải xem xét hai trường hợp:
I
rỗng và
I
khác rỗng.
- Trường hợp
I
Lấy y là một vectơ bất kỳ trong
n
sao cho
1yy
. Khi đó
( ) ( ) ( ) ( , )
i i i i
g x y g x g x y x y y
, với
1, ,im
Vì
( ) 0
i
gx
và
lim ( , ) 0
i
xy
, do đó có
ˆ
0
sao cho với mọi
thoả
ˆ
0
ta
đều có
( ) 0
i
g x y
và
0
x y X
. Nhưng do
x
là nghiệm của LMP nên ta có
0 ( ) ( ) ( ) ( , )x y x x y x y y
với
ˆ
0
.
Do đó
( ) ( ) 0,x y x y
Vì
0
lim ( , ) 0xy
, nên khi cho
0
trong biểu thức trên ta được:
0()xy
.
Vì
y
là một vectơ tùy ý trong
n
thỏa
1yy
, bằng cách cho
i
ye
, trong đó
in
e
là
một vectơ mà vị trí thứ
i
là 1 còn vị trí khác là 0, từ bất đẳng thức cuối này ta kết luận rằng:
( ) 0x
Vậy
x
và
0u
thỏa KTP.
- Trường hợp
I
:
Cho g thỏa điều kiện Kuhn-Tucker tại
x
và
n
y
thỏa
) 0(
I
g x y
. Khi đó tồn tại một
hàm vec tơ n chiều e xác định trên [0,1] sao cho
(0)ex
,
()eX
với
0 1
, e khả vi tại
0
và
(0) /de d y
với
0
nào đó. Do đó với
0 1
(0)
( ) (0) (0, )
i
i i i
de
ee
d
với
1, ,in
Trong đó
0
lim (0, ) 0
i
. Do vậy tồn tại
ˆ
01
sao cho với mọi
thoả
ˆ
0
, ta đều có
ˆ
( ) ( )e B x
. Do
()eX
với
01
và
x
là nghiệm của LMP, ta có
( ) (0)ee
với
ˆ
0
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 15
Do đó theo quy tắc tính đạo hàm hàm hợp và sự khả vi của
tại
x
và của e tại 0, ta có
(0)
0 ( ) (0) (0) (0, )
de
e e e
d
với
ˆ
0
Trong đó
0
lim (0, ) 0
. Do vậy
(0)
(0) (0, ) 0
de
e
d
với
ˆ
0
.
Cho
0
, ta được
(0)
(0) 0
de
e
d
.
Vì
(0)ex
và
(0) /de d y
với
0
nên ta có
0()xy
.
Vậy ta đã chứng tỏ rằng
00( ) ( )
I
g x y x y
Hay hệ
0
0
()
()
I
xy
g x y
không có nghiệm
n
y
.
Do đó theo Định lý Motzkin, tồn tại
0
r
và
I
r
sao cho
0
( ) ( ) 0
0
0
II
I
r x r g x
r
r
Vì
0
r
là một số thực nên
0
0r
cũng có nghĩa là
0
0r
. Theo định nghĩa
0
0
( , )
I
I
J
IJ
rru
u
u u u
Ta có
( ) ( ) 0
( ) 0
0
x u g x
ug x
u
và do
xX
, nên ta có
() 0gx
Vậy
( , )xu
là nghiệm của KTP.
(ii) Cho
x
là nghiệm của MP hoặc của LMP.
Khi đó theo Định lý Fritz John 4.2, tồn tại
0
r
và
m
r
sao cho
0
( , , )x r r
là nghiệm của
FJP và
0
( , ) 0
w
rr
trong đó
{ | ( ) 0
i
W i g x
, và
i
g
không lõm tại
}x
Đặt
{ | ( ) 0
i
V i g x
, và
i
g
lõm tại
}x
và
{ | ( ) 0}
i
J i g x
Theo nhận xét ở mục 2, ta chỉ phải chứng tỏ rằng
0
0r
. Vì
0
( , ) 0
w
rr
, ta sẽ có
0
0r
nếu
W rỗng. Bây giờ giả sử rằng W khác rỗng, ta sẽ dùng phản chứng để chứng tỏ rằng
0
0r
.
Thật vậy giả sử
0
0r
, khi đó vì
0
J
r
, ta có
( ) ( ) 0
0
0
W W V V
W
V
r g x r g x
r
r
Vì g thỏa điều kiện Arrow-Hurwicz-Uzawa tại
x
nên tồn tại
n
z
sao cho
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 16
( ) 0
() 0
W
V
g x z
g x z
Nhân bất đẳng thức đầu với
W
r
và bất đẳng thức thứ hai với
V
r
rồi cộng vế với vế ta được:
( ) ( ) 0
W W V V
r g x z r g x z
Điều này mâu thuẫn với
( ) ( ) 0
W W V V
r g x r g x
Vậy
0
0r
.▐
4.4. Định lý
Cho
0
X
là tập lồi, mở trong
n
,
là hàm số xác định trên
0
X
, và g là hàm vectơ lồi m
chiều xác định trên
0
X
,
x
là một nghiệm của LMP hoặc MP,
và g khả vi tại
x
và g thỏa mãn:
(i) Điều kiện Slater trên
0
X
, hoặc
(ii) Điều kiện Karlin trên
0
X
, hoặc
(iii) Điều kiện nghiêm ngặt trên
0
X
Khi đó tồn tại
m
u
sao cho
( , )xu
là nghiệm của KTP.
Chứng minh:
Theo bổ đề 2 mục 1.3, nếu g thỏa mãn điều kiện Slater trên
0
X
, điều kiện Karlin trên
0
X
hoặc điều kiện nghiêm ngặt trên
0
X
thì g thỏa điều kiện Arrow-Hurwicz-Uzawa tại
x
. Áp dụng
định lý trên ta suy ra điều phải chứng minh.▐
Nhận xét:
Từ các định lý trên ta có thể suy ra các hệ quả dưới đây, các hệ quả này cũng đóng một vai trò đáng
kể trong việc kết luận nghiệm của thuật toán ở mục 6.
4.5. Hệ quả 1
Cho
0
X
là tập mở trong
n
,
là hàm số xác định trên
0
X
, và g là hàm vectơ m chiều xác định
trên
0
X
. Đặt
. Giả sử không tồn tại
,xu
thỏa bài toán KTP
trong đó và
m
u
khi đó :
(i) g thỏa cả hai điều kiện Kuhn-Tucker và Arrow-Hurwicz-Uzawa tại mọi
xA
MP
không có nghiệm trong A.
(ii) g không thỏa điều kiện lồi đảo tại mọi
xA
chưa thể kết luận gì về nghiệm của MP
Chứng minh:
Hệ quả này là một mệnh đề phản đảo của định lý 4.3
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 17
4.6. Hệ quả 2
Cho
0
X
là tập lồi, mở trong
n
,
là hàm số xác định trên
0
X
, và g là hàm vectơ lồi m
chiều xác định trên
0
X
. Đặt
. Giả sử không tồn tại
,xu
thỏa bài
toán KTP trong đó và
m
u
khi đó :
(i) g thỏa điều kiện Slater hoặc điều kiện Karlin trên
0
X
bài toán MP không có nghiệm
trong A.
(ii) g không thỏa điều kiện nghiêm ngặt trên
0
X
chưa thể kết luận gì về nghiệm của MP
Chứng minh:
Hệ quả này là một mệnh đề phản đảo của định lý 4.4.
Nhận xét:
Ý nghĩa hình học của các điều kiện trong bài toán Kuhn-Tucker (KTP) có thể được giải thích như
sau: Tại điểm
,x
tồn tại một tổ hợp tuyến tính không âm của vectơ
()x
(với trọng số dương) và
các vectơ
( ), 0
ii
g x i I i g x
. Xem Hình 4.2 ở dưới. Tuy nhiên, nếu không có một điều
kiện định tính nào được thỏa, có thể sẽ không tồn tại một tổ hợp tuyến tính không âm của
()x
và
()
I
gx
nào như vậy. Trong những trường hợp như thế,
()x
có thể có trọng số bằng 0, như ví dụ
trong Hình 4.1.
Hình 4.2. Một mô tả hình học của các điều kiện trong bài toán Kuhn-Tucker (KTP)
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 18
5. Minh họa sơ lược mối liên hệ giữa nghiệm của các bài toán
Hình 5.1. Mối liên hệ giữa các nghiệm của LMP, MP, FJP và KTP.
Hình 5.2. Mối liên hệ giữa các nghiệm của LMP, MP, FJP, KTP và các bài toán điểm yên ngựa
Fritz John (FJSP) và Kuhn - Tucker (KTSP) ở chương 5.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 19
6. Thuật toán và các ví dụ minh họa
6.1. Thuật toán giải bài toán MP bằng cách giải bài toán KTP tương ứng
Cho là một tập mở trong , là hàm số xác định trên ,
12
, , ,
m
g g g g
là hàm vectơ
m chiều xác định trên (Trong nhiều bài toán quy hoạch phi tuyến
0
X
là
n
)
Xét bài toán cực tiểu toàn cục (MP):
Tìm (nếu có) thỏa mãn:
0
min
, 0, 1,2, ,
xX
i
xx
x X x x X g x i m
Bước 1: Kiểm tra tính khả vi của
,g
.
Đặt
- Nếu
A
, bài toán có thể giải thông qua các bài toán điểm yên ngựa (ta không đề cập ở
đây)
- Nếu
A
, ta thực hiện tiếp bước 2
Bước 2: Tính
,x g x
với
xA
rồi viết bài toán KTP
Tìm
12
, , , ,
m
m
x A u u u u
thỏa:
0
0 1,2, ,
0 1,2, ,
0 1,2, ,
ii
i
i
x u g x
u g x i m
g x i m
u i m
Bước 3: Xét các trường hợp sau:
- Nếu bài toán KTP ở trên vô nghiệm, ta sử dụng Hệ quả 1 ở mục 4.5 hoặc Hệ quả 2 ở mục
4.6 để kết luận nghiệm của MP.
- Nếu
,xu
là một nghiệm của bài toán KTP, ta tiếp tục bước 4.
Bước 4: Kiểm tra tính lồi của
,
i
g
tại
x
. (trong đó
|0
j
i N j u
)
- Nếu
không lồi tại
x
hoặc tồn tại
iN
sao cho
i
g
không lồi tại
x
ta vẫn chưa kết luận
được gì về nghiệm bài toán MP.
- Nếu
,
i
g
lồi tại
x
với mọi
iN
, theo phần nhận xét ở định lý 1 mục 3.1 ta kết luận
x
là
nghiệm của bài toán MP.
0
X
n
0
X
0
X
x
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 20
6.2. Các ví dụ minh họa
Ví dụ 1:
Giải bài toán MP:
22
2
1 2 3
22
1 2 1 2 3
0
2 1 min
, 1,
x x x x
g x g x g x x x x
Bước 1:
Kiểm tra tính khả vi của
, g
Ta có :
03
X
là các hàm sơ cấp nên khả vi trên
3
.
12
,gg
là các hàm sơ cấp nên khả vi trên
3
, do đó g khả vi trên
3
Vậy
=
3
Bước 2:
Kí hiệu:
3
1 2 3
,x ,x x x
- Tính
1 2 3
x x x x
x x x
Ta có:
1
1
2xx
x
,
2
2
22xx
x
,
3
3
21xx
x
Suy ra:
3
1 2 3 1 2 3
2 2 2 2 1 , , ,x x x x x x x x
- Tính
111
1 2 3
222
1 2 3
ggg
xxx
x x x
gx
ggg
xxx
x x x
Ta có:
1
1
1
2
g
xx
x
,
1
2
2
2
g
xx
x
,
1
3
0
g
x
x
2
1
0
g
x
x
,
2
2
0
g
x
x
,
2
3
1
g
x
x
Suy ra:
12
3
1 2 3
2 2 0
, , ,
0 0 1
xx
g x x x x x
- Viết bài toán KTP tương ứng: Tìm
3
1 2 3
,,x x x x
,
2
12
,u u u
thỏa:
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 21
12
1 2 3 1 2
22
1 1 2
23
22
12
3
12
0
2 2 0
2 2 2 2 1 0
0 0 1
0
10
0 , 1,2
0
10
0
0
,0
ii
xx
x x x u u
x u g x
u x x
u g x i
ux
gx
xx
u
x
uu
1 1 1
2 2 1
32
22
1 1 2
23
22
12
3
1
2
2 2 0 (1)
2 2 4 0 (2)
2 2 0 (3)
1 0 (4)
0 (5) (I)
1 0 (6)
0 (7)
0 (8)
09
x x u
x x u
xu
u x x
ux
xx
x
u
u
Bước 3: Giải hệ (I)
Từ (1) và (8), suy ra:
1
0x
. Thay
1
0x
vào (4) suy ra:
1
0u
hoặc
2
1x
- Trường hợp
1
0u
thay vào (2) suy ra
2
2x
Thay
1
0x
,
1
0u
,
2
2x
vào (I) ta có:
32
23
3
2
2 2 0 (3)
0 (5)
0 (7)
09
xu
ux
x
u
Từ (3) suy ra
23
22ux
, thay vào (5) ta được:
33
2 2 0xx
, suy ra:
3
0x
hoặc
3
1x
. Ta thấy
3
1x
không thỏa (7).
Với
3
0x
thay vào (3) suy ra
2
2u
. Nghiệm
2
2u
thỏa (9).
Vậy
0, 2,0x
,
0,2u
thỏa hệ (I).
Bước 4:
Do
| 0 2
j
N j u
nên ta chỉ cần kiểm tra tính lồi của
và
2
g
tại
x
.
Để thực hiện điều này ta dùng định nghĩa 1.2.1 về hàm số lồi trên tập lồi
3
.
Với
01
,
0, 2,0x
, kí hiệu
3
1 2 3
,,x x x x
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 22
- Ta có:
11x x x x
2 2 2 2
2 2 2 2
1 2 3 1 2 3
22
2 2 2 2 2 2 2
1 2 3 3 1 2 3 3
2
22
1 2 3
1 2 1 2 1
1 2 2 2 2 1
1 2 0
x x x x x x
x x x x x x x x
x x x
Bất đẳng thức trên luôn đúng với mọi
3
1 2 3
, , ,0 1x x x x
nên từ định nghĩa ta suy
ra
lồi tại
0, 2,0x
.
- Ta có:
2 2 2
11g x g x g x x
33
00
xx
Bất đẳng thức trên luôn đúng với mọi
3
1 2 3
, , ,0 1x x x x
nên từ định nghĩa ta suy
ra
2
g
lồi tại
0, 2,0x
.
Theo định lý 1 mục 3.1 ta kết luận
0, 2,0x
là một nghiệm của bài toán MP và
min 1xx
.
Ví dụ 2:
Giải bài toán:
22
1 2 1 2 1 2
1 1 2
21
12
8 10 12 50 80 min
10
1
0
2
,0
f x x x x x x x
g x x x
g x x
xx
Đặt
1 2 3 4 1 2 1 1 2
1
, , , 1, , ,
2
g x g x g x g x g x x x x x x
2
| , 0X x x g x
Viết bài toán MP
22
1 2 1 2 1 2
1 1 2
21
31
42
8 10 12 50 80 min
10
1
0
2
0
0
f x x x x x x x
g x x x
g x x
g x x
g x x
Bước 1:
Kiểm tra tính khả vi của hàm
,fg
Ta có:
02
X
f
là hàm sơ cấp nên khả vi trên
2
.
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 23
1 2 3 4
, , ,g g g g
là hàm các sơ cấp nên khả vi trên
2
, suy ra
g
khả vi trên
2
Vậy
=
2
Bước 2:
- Ta tính được
1 2 1 2
12
16 12 50 12 20 80
ff
f x x x x x x x
xx
và
11
12
22
12
2
12
33
12
44
12
11
10
,,
10
01
gg
xx
xx
gg
xx
xx
g x x x x
gg
xx
xx
gg
xx
xx
- Viết bài toán KTP tương ứng: Tìm
2
12
,x x x
,
4
1 2 3 4
, , ,u u u u u
thỏa:
1 2 1 2 1 2 3 4
1 1 2
21
31
42
12
1
0
11
10
16 12 50 12 20 80 0
10
01
10
1
0
2
0
0
0 , 1, ,4
0
10
0
1
0
2
0 , 1,2
0 , 1, ,4
ii
j
i
x x x x u u u u
u x x
ux
f x u g x
ux
u g x i
ux
gx
xx
u
x
xj
ui
MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU
SVTH: NHÓM 20 – LỚP VB2 TOÁN – KHÓA 2 24
1 2 1 2 3
1 2 1 4
1 1 2
21
31
42
12
16 12 50 0 1
12 20 80 0 2
1 0 3
1
04
2
(I)
05
06
1 0 7
0 , 1,2 8
0 , 1, ,4 9
j
i
x x u u u
x x u u
u x x
ux
ux
ux
xx
xj
ui
Bước 3: Tìm nghiệm
,xu
thỏa hệ (I)
Vì
0 , 1,2
j
xj
và
0 , 1, ,4
i
ui
nên từ (1) suy ra
3
0u
. Với
3
0u
, từ (5) suy ra
1
0x
. Thay
1
0x
vào (4) suy ra
2
0u
.
Thay
1
0x
,
2
0u
vào (I) ta có hệ:
2 1 3
2 1 4
12
42
12
0
12 50 0 1'
20 80 0 2'
1 0 3'
06
17
0 , 1,2 8
0 1, ,4 9
j
i
x u u
x u u
ux
ux
xx
xj
ui
Từ
(3 )
suy ra
1
0u
hoặc
2
1x
. Giả sử
2
1x
, từ (6) suy ra
4
0u
.
Thay
2
1x
,
4
0u
vào
1
và
2
, suy ra
1
60u
và
3
112u
.
Như vậy
0,1x
,
60,0,112,0u
thỏa (I).
Bước 4:
Do
| 0 1,3
j
N j u
nên ta chỉ cần kiểm tra tính lồi của
13
,,f g g
tại
0,1x
Để thực hiện điều này ta dùng định nghĩa 1.2.1 về hàm số lồi trên tập lồi
2
Với
01
,
0,1x
, kí hiệu
2
12
,x x x
- Đối với
f
ta có:
2
2 2 2 2
1 2 1 2 1 2 1 2
1 2 1 2
2 2 2 2 2
1 2 1 2
11
70 1 8 10 12 50 80 8 10 1
12 1 50 80 1
10 8 10 12 0
f x f x f x x
x x x x x x x x
x x x x
x x x x