1
TRƢỜNG ĐẠI HỌC SƢ PHẠM TP.HCM
KHOA TOÁN
TIỂU LUẬN MÔN TỐI ƢU PHI TUYẾN
ĐỀ TÀI:TÍNH KHẢ VI CỦA HÀM LỒI
VÀ HÀM LÕM (PHẦN I)
Thành viên nhóm 11:
1. Trần Việt Hùng
2. Ngô Thị Thƣơng
3. Phạm Ngọc Thu Trang
2
MỤC LỤC
PHẦN I: MỘT SỐ KHÁI NIỆM CƠ BẢN
I. LÝ THUYẾT QUI HOẠCH TỐI ƢU
1) Bài toán tối ưu tổng quát
2) Phân loại bài toán quy hoạch
3) Một số phương pháp chung để giải bài toán quy hoạch
II. HÀM KHẢ VI VÀ MỘT SỐ ĐỊNH LÝ LIÊN QUAN
1) Hàm khả vi
2) Đạo hàm riêng và độ dốc của hàm số
3) Hàm vectơ khả vi
4) Đạo hàm riêng và Jacobian của một hàm vectơ
5) Định lý quy tắc dây chuyền
6) Hàm số khả vi cấp 2 và Hessian của nó
7) Định lý giá trị trung bình – Định lý Taylor – Định lý hàm ẩn
III. TẬP LỒI – HÀM LỒI – MỘT SỐ TÍNH CHẤT CỦA HÀM LỒI
1) Tập lồi
2) Hàm lồi - Hàm lồi nghiêm ngặt
3) Hàm lõm - Hàm lõm nghiêm ngặt
4) Một số tính chất của hàm lồi
4.1)Tính chất cơ bản của hàm lồi
4.1) Tính chất liên tục của hàm lồi
4.2) Đạo hàm theo hướng của hàm lồi
PHẦN II: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM
1) Tính khả vi của hàm lồi và hàm lõm
2) Tính khả vi ngặt của hàm lồi và hàm lõm
3) Tính khả vi cấp 2 của hàm lồi và hàm lõm
4) Tính khả vi cấp 2 ngặt của hàm lồi và hàm lõm
PHẦN III:
CÁC ĐIỀU KIỆN TỐI ƢU FRITZ – JOHN VÀ KUHN – TUCKER
1) Nhắc lại một số bài toán tối ưu tổng quát
2) Các bài toán cực tiểu và bài toán điểm dừng Fritz John và Kuhn – Tucker
3
PHẦN I: CÁC KHÁI NIỆM CƠ BẢN
I. Lý thuyết quy hoạch tối ƣu:
1) Bài toán tối ƣu tổng quát:
Bài toán tối ưu tổng quát có dạng: Max (/Min) f(x), với
:
n
fD
(1)
Tìm
12
, , ,
n
n
x x x x D
sao cho f(x) đạt giá trị lớn nhất (/giá trị bé nhất).
Hàm f(x) gọi là hàm mục tiêu
Điểm
12
, , ,
n
n
x x x x D
gọi là phương án chấp nhận được (hay
phương án khả thi hay phương án)
Miền
n
D
gọi là tập các phương án chấp nhận được (hay miền ràng
buộc)
Khi đó, bài toán (1)được viết :
Hàm số
:
n
fD
x/
n
f x Ma Min
xD
Bài toán cực đại: Max f(x), với
:
n
fD
(2)
Tìm
*
12
, , ,
n
n
u u u u D
sao cho :
*
,
n
f x f u x D
Điểm
*
12
, , ,
n
n
u u u u D
gọi là phương án tối ưu toàn cục
Khi đó, bài toán (2) được viết:
Hàm số
:
n
fD
*
12
*
, , ,
,
n
n
n
u u u u D
f x f u x D
Điểm
12
, , ,
n
n
u u u u D
được gọi là phương án tối ưu địa phương nếu
tồn tại một lân cận
N
đủ nhỏ của
u
sao cho :
,f x f u x N D
Tương tự, bài toán cực tiểu: Min f(x), với
:
n
fD
(2)
Tìm
*
12
, , ,
n
n
u u u u D
sao cho :
*
,
n
f x f u x D
Điểm
*
12
, , ,
n
n
u u u u D
gọi là phương án tối ưu toàn cục
Khi đó, bài toán (2) được viết:
Hàm số
:
n
fD
*
12
*
, , ,
,
n
n
n
u u u u D
f x f u x D
Điểm
12
, , ,
n
n
u u u u D
được gọi là phương án tối ưu địa phương nếu
tồn tại một lân cận
N
đủ nhỏ của
u
sao cho :
,f x f u x N D
4
2) Phân loại bài toán quy hoạch:
Các bài toán tối ưu còn gọi là các bài toán quy hoạch toán học, được chia ra
thành các lớp sau:
Bài toán quy hoạch tuyến tính (BTQHTT)
Bài toán tối ưu phi tuyến hay còn gọi là bài toán quy hoạch phi tuyến
(BTQHPT) bao gồm: bài toán quy hoạch lồi (BTQHL) và bài toán quy
hoạch toàn phương (BTQHTP)
Bài toán tối ưu rời rạc, bài toán tối ưu nguyên và hỗn hợp nguyên
Bài toán quy hoạch động
Bài toán quy hoạch đa mục tiêu
Bài toán quy hoạch ngẫu nhiên
3) Một số phƣơng pháp chung để giải bài toán quy hoạch:
a) Phương pháp giải bài toán QHPT không ràng buộc:
Phương pháp Đường dốc nhất
Phương pháp Newton
Phương pháp Hướng liên hợp
b) Phương pháp giải bài toán QHPT có ràng buộc:
Hàm Lagrange
Thiết lập điều kiện Kuhn- Tucker
Các phương pháp toán học giải các lớp bài toán tối ưu tổng quát trên được
gọi là các phương pháp tối ưu toán học (hay các phương pháp quy hoạch
toán học).
Trong phạm vi Tiểu luận này, ta chỉ tìm hiểu một số cơ sở lý thuyết của giải
tích lồi, quy hoạch phi tuyến và các phương pháp giải một số dạng đặc biệt
của BTQHPT.
II. Hàm khả vi và một số Định lý liên quan:
1) Hàm khả vi:
Cho
là một hàm số được xác định trên một tập mở
n
R
.
là hàm khả vi tại
x
nếu
n
xR
,
xx
, ta có:
,x x x t x x x x x
Trong đó,
tx
là một vectơ n-chiều,
là một hàm số theo
x
và
0
lim , 0
x
xx
là hàm khả vi trên
n
R
nếu
khả vi tại mọi
x
.
Nếu
là hàm khả vi trên tập mở
n
R
thì
cũng khả vi trên bất kỳ tập con
A
(mở hoặc không) của
. Do vậy, khi
là hàm khả vi trên tập
A
(mở hoặc
không) thì
là hàm khả vi trên một số tập mở chứa
A
2) Đạo hàm riêng và độ dốc của hàm số:
Cho
là một hàm số được xác định trên một tập mở
n
R
và
x
.
5
được gọi là có đạo hàm riêng tại
x
theo biến thứ i (hay biến
i
x
) ,
1, ,in
nếu
1 1 1 1
, , , , , , , ,
i i i n n
x x x x x x x
hướng tới giới hạn, khi
tiến tới 0.
Giới hạn này được gọi là đạo hàm riêng từng phần của
tại
x
theo biến thứ i
và kí hiệu là:
i
x
x
.
Các vectơ n-chiều là đạo hàm riêng của
đối với
1
,
n
xx
tại
x
được gọi là
độ dốc của hàm
tại
x
và kí hiệu là:
x
. Nghĩa là:
1
, ,
n
x x x
xx
Định lý: Cho
là một hàm số xác định trên một tập mở
n
R
và
x
Nếu
là hàm khả vi tại
x
thì
liên tục tại
x
, tồn tại
x
và
0
,
lim , 0
x
x x x x x x x x
xx
,
xx
Nếu
có đạo hàm riêng liên tục tại
x
đối với
1
,
n
xx
, nghĩa là tồn tại
x
và
liên tục tại
x
thì
là hàm khả vi tại
x
Tóm tắt:
khả vi tại
x
liên tục tại
x
,
x
tồn tại >
khả vi tại
x
<
x
tồn tại,
liên tục tại
x
>
3) Hàm vectơ khả vi:
Cho
là một hàm vectơ m-chiều xác định trên một tập mở
n
R
và
x
,
là khả vi tại
x
theo các biến
1
,
n
xx
nếu mỗi thành phần
1
, ,
m
của nó khả vi
tại
x
theo các biến
1
,
n
xx
(tương ứng)
4) Đạo hàm riêng và Jacobian của một hàm vectơ:
Cho
là một hàm vectơ m-chiều xác định trên một tập mở
n
R
và
x
có đạo hàm riêng tại
x
theo các biến
1
,
n
xx
nếu mỗi thành phần
1
, ,
m
của
có đạo hàm riêng tại
x
theo các biến
1
,
n
xx
(tương ứng)
1
1
1
1
n
mm
n
x
x
x
x
x
xx
xx
Ma trận
x
được gọi là Jacobian của
tại
x
5) Định lý qui tắc dây chuyền:
6
Cho
f
là một hàm vectơ m-chiều xác định trên một tập mở
n
R
và
là một
hàm số xác định trên
m
R
. Hàm số
xác định trên
bởi
x f x
là hàm
khả vi tại
x
. Nếu
f
khả vi tại
x
và
khả vi tại
y f x
thì
x y f x
6) Hàm số khả vi cấp 2 và Hessian của nó:
Định nghĩa:
Cho
là một hàm số xác định trên một tập mở
n
R
và
x
khả vi cấp 2 tại
x
nếu
n
xR
,
xx
ta có:
2
2
,
2
x x x
x x x x x x x x
Trong đó,
2
x
là một ma trận
nn
của các phần tử bị chặn,
là một hàm
số theo
x
,
0
lim , 0
x
xx
Ma trận
2
x
cấp
nn
được gọi là Hessian của
tại
x
và phần tử thứ
ij
của nó được viết:
2
2
ij
ij
xx
xx
,
, 1, ,i j n
Nếu
khả vi cấp 2 tại
x
thì
khả vi hầu khắp nơi tại
x
Định lý hàm số khả vi:
Cho
là một hàm số được xác định trên tập mở
n
R
và
x
. Khi đó:
i.
khả vi tại
x
khả vi cấp 2 tại
x
ii.
có đạo hàm riêng liên tục tại
x
khả vi cấp 2 tại
x
iii. <
2
liên tục tại
x
>
2
i j i j
xx
x x x x
và
2
x
là đối
xứng, nghĩa là:
22
ij ji
xx
,
, 1, ,i j n
Chú ý:
/
i
xx
,
i=1, ,n
gọi là các đạo hàm riêng cấp một của
tại
x
2
/
ij
x x x
,
i,j=1, ,n
gọi là đạo hàm riêng cấp 2 của
tại
x
Tương tự ta định nghĩa đạo hàm riêng cấp
k
của
tại
x
Cho
là một hàm số được xác định trên tập mở
nn
RR
và
khả vi tại
,xy
. Ta định nghĩa:
1
1
,
,
,
, ,
n
x
k
xy
xy
x
x
xy
x y x y
yy
7
, , , ,
xy
x y x y x y
Cho
là một hàm m-chiều được xác định trên một tập mở
nk
RR
và
khả vi tại
,xy
. Ta định nghĩa:
1
1
1
1
,
,
,
, ,
n
x
mm
n
xy
xy
x
x
xy
x y x y
xx
1
1
1
1
,
,
,
,,
k
y
mm
k
xy
xy
y
y
xy
x y x y
yy
, , ,
xy
x y x y x y
7) Định lý giá trị trung bình - Định lý Taylor - Định lý hàm ẩn:
Định lý giá trị trung bình:
Cho
là một hàm số khả vi trên tập lồi mở
n
R
và
12
,xx
, khi đó:
2 1 1 2 1 2 1
x x x x x x x
, với số thực
,
0< <1
Định lý Taylor (bậc hai)
Cho
là một hàm số khả vi cấp 2 trên một tập mở
n
R
và
12
,xx
, khi đó:
2 1 2 1 2 1 2 1
2 1 1 2 1
2
x x x x x x x
x x x x x
với số thực
,
0< <1
Định lý hàm ẩn:
Cho
là một hàm vectơ m-chiều được xác định trên một tập mở
nn
A R R
,
có đạo hàm riêng cấp 1 liên tục tại
,x y A
,
,0xy
và
,
y
xy
là
nonsingular
Tồn tại một quả cầu
,
nn
B x y R R
với bán kính
0
, một tập mở
n
R
chứa
x
v à một hàm vectơ m-chiều
e
có đạo hàm riêng cấp 1 liên tục trên
.
Khi đó:
y e x
và
,0x e x
với
x
III. Tập lồi – Hàm lồi - Một số tính chất cơ bản của hàm lồi:
1) Tập lồi:
Định nghĩa 1: (Định nghĩa Tập lồi)
n
S
là tập lồi
12
, , 0;1x x S
,
12
. 1 .x x x S
8
Nói cách khác tập
n
S
là tập lồi nếu mọi đoạn thẳng nối
12
,x x S
đều nằm
trong S.
Các tính chất của tập lồi:
Cho các tập lồi
12
,
n
SS
, khi đó:
i.
12
SS
là tập lồi
ii.
12
SS
là tập lồi
iii.
12
SS
là tập lồi
2) Hàm lồi:
Định nghĩa 2.1:(Định nghĩaHàm lồi)
Hàm
xác định trên tập
n
được gọi là hàm lồi tại
*
x
nếu:
**
*
0 1 (1 ) ( ) ( ) (1 )
(1 )
x
x x x x
xx
Hàm
được gọi là hàm lồi trên
n
nếu nó lồi với mọi
x
Định nghĩa 2.2: (Định nghĩa hàm lồi nghiêm ngặt)
Hàm
là hàm lồi nghiêm ngặt trên
nếu
2
x
xác định dương trên
, tức
với
x
,
2
0 , y R \ 0
Tn
y x y
Ví dụ: Chứng tỏ
22
1 2 1 1 2 2
, 3 2 4x x x x x x
là hàm lồi nghiêm ngặt trên
2
R
Ta có:
1
2
'
12
'
12
62
28
x
x
xx
x
xx
1 1 1 2
2 1 2 2
'' ''
2
'' ''
62
28
x x x x
x x x x
x
Vì ma trận Hessian
2
x
xác định dương nên hàm
đã cho là hàm lồi
nghiêm ngặt trên
2
R
Mệnh đề 1:Nếu
n
S
là tập lồi thì:
là hàm lồi trên
S
1 2 1 2 1 2
, , 0;1 1 . . 1x x S x x x x
Mệnh đề 2:
là hàm lồi trên tập lồi
n
S
khi và chỉ khi epig
là tập lồi
trong
1n
3) Hàm lõm:
Định nghĩa 3.1: (Định nghĩa Hàm lõm)
Hàm
xác định trên tập
n
được gọi là hàm lõm tại
*
x
nếu:
9
**
*
0 1 (1 ) ( ) ( ) (1 )
(1 )
x
x x x x
xx
Hàm
được gọi là hàm lõm trên
nếu nó lõm với mọi
x
Định nghĩa 3.2: (Định nghĩa hàm lõm nghiêm ngặt)
Hàm
là hàm lõm nghiêm ngặt trên
nếu
2
x
xác định âm trên
, tức
với
x
,
2
0 , y R \ 0
Tn
y x y
4) Một số tính chất của hàm lồi :
2.1. Tính chất cơ bản của hàm lồi:
Nếu f và g là hàm lồi (/hàm lồi nghiêm ngặt) trên
n
thì f+g cũnglà
hàm lồi (/hàm lồi nghiêm ngặt) trên
n
Nếu f là hàm lồi (/hàm lồi nghiêm ngặt) trên
n
và
,0
thì
.
.
f
cũng là hàm lồi (/hàm lồi nghiêm ngặt) trên
n
Lưu ý: Nếu f là hàm lồi (/hàm lồi nghiêm ngặt) trên
n
và
,0
thì
không có kết luận về hàm
.
f
2.2. Tính chất liên tục của hàm lồi:
Định lí 1: Nếu Hàm số
:
n
f
là hàm lồi thì f là hàm liên tục
trong
int
2.3. Đạo hàm theo hƣớng của hàm lồi:
Định nghĩa 4: Cho tập khác rỗng
n
S
và hàm số
:fS
, khi đó đạo
hàm của f tại
xS
theo hướng
n
d
được định nghĩa và kí hiệu bởi:
''
'
0
; lim
f x d f x
f x d
Định lí 2: Cho tập lồi khác rỗng
n
S
và hàm số lồi
:fS
, khi đó
xS
vàhướng bất kì
n
d
sao cho:
.x d S
với
đủ nhỏ, luôn tồn tại
đạo hàm theo hướng:
''
'
0
; lim
f x d f x
f x d
Các khái niệm, định nghĩa, định lý trên liên quan đến nội dung chính của Tiểu
luận. Phần chứng minh các định lý đã được trình bày bởi các nhóm bạn
10
PHẦN II: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM
1) Tính khả vi của hàm lồi và hàm lõm:
Cho
là một hàm số được xác định trên một tập mở
n
(xem phụ lục D)
Nếu
khả vi tại
x
thì :
0
,
lim , 0
n
x
x x x x x x x x
x
xx
xx
Trong đó:
x
là một bộ vec tơ n-chiều của
tại
x
(được gọi là độ dốc của hàm
tại
x
), n
thành phần của
x
là các đạo hàm riêng của
tại
x
,
lấy vi phân theo các biến
1
, ,
n
xx
;
là một hàm số theo
x
Định lý 1.1:
Cho
là một hàm số xác định trên một tập mở
n
và
khả vi tại
x
Nếu
là hàm lồi tại
x
thì
x x x x x
,
x
Nếu
là hàm lõm tại
x
thì
x x x x x
,
x
Chứng minh:
Cho
là hàm lồi tại
x
.
Nếu
là tập mở thì tồn tại một quả cầu mở
Bx
tâm
x
chứa trong
.
Lấy
x
và
xx
, khi đó với một số
thỏa:
0< <1
và
/ xx
Đặt
1x x x x x x B x
Từ giả thiết
là hàm lồi tại
x B x
,
s
x B x
, với
01
, ta có:
11x x x x
x x x x
xx
,x x x x x x x x
,x x x x x x x x
Từ
0
lim , 0x x x
Lấy giới hạn của biểu thức trên khi
tiến về 0 ta được:
x x x x x
(1)
11
Măt khác:
x x x x
,
0
(2)
Từ (1) và (2) suy ra:
x x x x x
Do
là hàm lồi tại
x
;
x
và
1x x x
, nên :
x x x x
Vậy:
x x x x x
.
Các chứng minh cho trường hợp hàm lõm làm tương tự
Định lý 1.2:
Cho
là một hàm số khả vi trên tập lồi mở
n
,
là hàm lồi trên
nếu và chỉ nếu
2 1 1 2 1
x x x x x
,
12
,xx
là hàm lõm trên
nếu và chỉ nếu
2 1 1 2 1
x x x x x
,
12
,xx
Chứng minh:
(Điều kiện cần) Tương tự phần chứng minh định lý 1.1 ở trên
(Điều kiện đủ) Ta chứng minh cho trường hợp hàm lồi. Trường hợp hàm lõm
làm tương tự.
Lấy
12
,xx
và
01
Do
là hàm lồi nên
12
1 xx
, ta có:
1 1 2 1 2 1 2
11x x x x x x x
2 1 2 1 2 1 2
1 1 1x x x x x x x
Nhân bất đẳng thức đầu tiên bởi
1
, nhân bất đẳng thức thứ hai bởi
và cộng
lại ta được:
1 2 1 2
11x x x x
(*)
Biểu diễn hình học của các kết quả trên như sau:
Với sự khả vi của một hàm lồi
trên
, các tuyến tính
x x x x
tại
x
không bao giờ vượt qua ước lượng
x
, với bất kì
x
trong
(xem hình 6.1.1)
Với sự khả vi của một hàm lõm
trên
, các tuyến tính
x x x x
tại
x
không bao giờ dưới ước lượng
x
, với bất kì
x
trong
(xem hình 6.1.2)
12
Hình 6.1.1
Hình 6.1.2
Ví dụ: Khảo sát tính lồi của hàm số:
22
( , , ) ,x y z x y z
với
3
( ,y,z)xR
Giải:
Ta có:
3
¡
là tập lồi mở,
q
là hàm sơ cấp nên
q
khả vi trên
3
¡
Kí hiệu:
1 1 1
( , ,z );x x y=
2 2 2
( , ,z ),y x y=
3
,xyÎ ¡
Ta có:
( ,y,z) ( ,y,z), ( ,y,z), ( ,y,z) (2 ,2 ,1)x x x x x y
x y z
qqq
q
æö
¶¶¶
÷
ç
Ñ = =
÷
ç
÷
ç
÷
¶ ¶ ¶
èø
2 2 2 1 1 1 1 1 1 2 1 2 1 2 1
2 2 2 2
2 2 2 1 1 1 1 1 2 1 2 1 2 1
2 2 2 2 2 2
2 2 2 1 1 1 1 2 1 1 2 1 2 1
2 2 2 2
2 1 2 1 2 1 2 1
( , , ) ( , , ) ( ,y ,z )( ,y y ,z z )
( ) ( ) (2 ,2y ,1)( ,y y ,z z )
( ) ( ) 2 2 2 2 z z
2 2 0
x y z x y z x x x
x y z x y z x x x
x y z x y z x x x y y y
x x x x y y y y
22
2 1 2 1
( ) (y ) 0x x y
R
R
x
13
Ta nhận thấy rằng
22
2 1 2 1
( ) (y ) 0x x y
3
,x y R
Vậy:
2 2 2 1 1 1 1 1 1 2 1 2 1 2 1
( , , ) ( , , ) ( ,y ,z )( ,y y ,z z )x y z x y z x x x
,
3
,x y R
Theo định lí 1.2, ta suy ra được
q
là hàm lồi.
Đinh lý 1.3:
Cho
là một hàm số khả vi trên tập lồi mở
n
.
Điều kiện cần và đủ để
là hàm lồi (/hàm lõm) trên
là:
12
,xx
,
2 1 2 1
0x x x x
0
Chứng minh:
Chúng ta chứng minh định lý cho trường hợp hàm lồi, trường hợp lõm làm
tương tự.
(Điều kiện cần): Cho
là hàm lồi trên
và
12
,xx
.
Theo định lý 1.2 ta có:
2 1 1 2 1
0x x x x x
1 2 2 1 2
0x x x x x
Cộng hai bất đẳng thức trên ta được:
2 1 2 1
0x x x x
(Điều kiện đủ):
Lấy
12
,xx
, với
01
,
12
1 xx
Theo định lý giá trị trung bình, tồn tại một số
sao cho:
01
2 1 1 2 1 2 1
x x x x x x x
Nhưng theo giả thiết:
1 2 1 1 2 1
0x x x x x x
1 2 1 2 1 1 2 1
x x x x x x x x
Do đó:
2 1 1 2 1
x x x x x
Theo Định lý 1.2 ở trên,
là hàm lồi trên
.
Nếu
là một hàm n biến trên
n
và
2 1 2 1
0x x x x
,
12
,xx
thì
là một hàm đơn điệu trên
Hàm số
trong các định lý trên là một hàm khả vi trên tập lồi mở
n
Hàm số
là hàm lồi nếu và chỉ nếu
là đơn điệu trên
.
2) Tính khả vi ngặt của hàm lồi và hàm lõm:
Tất cả các kết quả của các phần trước mở rộng trực tiếp tính nghiêm ngặt của
hàm lồi và tính nghiêm ngặt của hàm lõm bằng cách thay đổi nghiệm của bất
đẳng thức
và
thành nghiệm nghiêm ngặt > và <
Đặc biệt chúng ta có các kết quả sau:
14
Định lý 2.1
Cho
làm một hàm số xác định trên một tập mở
n
và
là khả vi tại
x
Nếu
là hàm lồi nghiêm ngặt tại
x
thì
x x x x x
,
,x x x
Nếu
là hàm lõm nghiêm ngặt tại
x
thì
x x x x x
,
,x x x
Định lý 2.2:
Cho
là một hàm số khả vi trên một tập lồi mở
n
.
là tập lồi nghiêm ngặt trên
nếu và chỉ nếu:
2 1 1 2 1
x x x x x
,
1 2 1 2
,,x x x x
là tập lõm nghiêm ngặt trên
nếu và chỉ nếu
2 1 1 2 1
x x x x x
1 2 1 2
,,x x x x
Định lý 2.3:
Cho
là một hàm số khả vi trên một hàm lồi mở
n
.
Điều kiện cần và đủ để
là hàm lồi nghiêm ngặt (/lõm nghiêm ngặt) trên
là:
2 1 2 1
0x x x x
0
,
1 2 1 2
,,x x x x
Các chứng minh định lý 2.2 và 2.3 về cơ bản tương tự các chứng minh của định
lý 1.2 và định lí 1.3.
Chứng minh Định lí 2.1.
Cho
là hàm lồi nghiêm ngặt tại
x
. Theo (*) ở chứng minh định lí 1.2, ta có:
11x x x x
,
, ,0 1x x x
(2.4)
và
1 xx
Do
là hàm hồi tại
x
nên theo định lý 1.1 ta có:
x x x x x
,
x
(2.5)
Bây giờ, chúng ta chứng minh: nếu dấu bằng xảy ra trong (2.5) với một số
x
trong
và
x
khác
x
thì mâu thuẩn xảy ra.
Dấu bằng trong (2.5) xảy ra khi
,x x x
và
xx
. Khi đó :
x x x x x
(2.6)
Từ (2.4) và (2.6), ta có :
11x x x x x x x
với
01
và
1 xx
1 x x x x x x
, với
01
và
1 xx
(2.7)
15
Bằng cách áp dụng định lý 1.1 một lần nữa để có
1 xx
thuộc
và khác
x
, ta có:
1 x x x x x x
với
01
và
1 xx
Điều này mâu thuẫn với (2.7)
Với một số
nhỏ sao cho:
1 xx
, vì
là tập mở nên dấu bằng
không thể xảy ra trong (2.5) cho bất kì
x
thuộc
và
x
khác
x
Vậy các định lý đã được thiết lập cho các hàm lồi.
Trường hợp hàm lõm chứng minh tương tự.
3) Tính khả vi cấp 2 hàm lỗi và hàm lõm:
Cho
là một hàm số được xác định trên một tập mở
n
(xem phụ lục D)
Nếu
khả vi cấp 2 tại
x
thì
2
2
0
,
2
lim , 0
n
x
x x x
x x x x x x x x
x
xx
xx
Trong đó:
x
là vec tơ n-chiều của
tại
x
;
2
x
là ma trận Hessian
nn
của
tại
x
và vị trí
ij
là phần tử
2
/
ij
x x x
với
, 1, ,i j n
Định lý 3.1:
Cho
là một hàm số được xác định trên một tập mở
n
và
là hàm vi
phân cấp 2 tại
x
.
Nếu
là hàm lồi tại
x
thì
2
x
là nửa xác định dương, nghĩa là:
2
0
T
y x y
,
n
y
Nếu
là hàm lõm tại
x
thì
2
x
là nửa xác định âm, nghĩa là:
2
0
T
y x y
,
n
y
(có thể viết:
2
0,y x y
n
y
với ngầm hiểu vế trái là phép nhân ma trận)
Chứng minh:
Lấy
n
y
, vì
là tập mở nên tồn tại một số
0
sao cho:
xy
với
0
Theo định lý 1.1, ta có:
0x y x x y
với
0
(1)
Từ
là vi phân cấp 2 tại
x
, ta có:
16
2
2
2
2
,
2
T
y x y
x y x x y x y y
(2)
Từ (1) và (2) suy ra:
2
2
,0
2
T
y x y
x y y
, với
0
Lấy giới hạn của biểu thức trên khi
tiến về 0 và lưu ý rằng
0
lim , 0xy
ta
được:
2
0
T
y x y
Các trường hợp hàm lõm được chứng minh một cách tương tự.
Định lý 3.2:
Cho
là một hàm số khả vi cấp 2 trên một hàm lồi mở
n
,
là hàm lồi trên
nếu và chỉ nếu
2
x
là nửa xác định dương trên
, nghĩa
là: với
x
,
2
0
T
y x y
,
n
y
là hàm lõm trên
nếu và chỉ nếu
2
x
là nửa xác định âm trên
, nghĩa
là: với
x
,
2
0
T
y x y
,
n
y
Chứng minh:
(Điều kiện cần): Từ giả thiết
là hàm lồi (/lõm) tại
x
, ta có kết quả từ
phần chứng minh định lí 3.1
(Điều kiện đủ): Theo định lý Taylor bậc 2 , ta có :
2 1 2 1 2 1 2 1
1 2 2 1 1 2 1
,,
2
x x x x x x x
x x x x x x x
với số
sao cho:
01
.
Vế phải của phương trình trên là không âm (/không dương) vì
2
x
là nửa
xác định dương (/âm) trên
và
1 2 1
x x x
.
Do đó vế trái là không âm (/không dương)
Vậy theo định lý 1.2,
là hàm lồi (/lõm) trên
Ví dụ: Khảo sát tính lồi của hàm số sau:
2 2 2
( , ) 6 4 , ( , )f x y x y x y x y R= + + - " Î
Giải:
Ta có:
2
¡
là tập lồi, mở
Do f là hàm sơ cấp nên f khả vi cấp 2 trên
2
¡
Dùng định lí 3.2 để kiểm tra tính lồi của hàm số f, nghĩa là ta kiểm tra xem có
hay không bất đẳng thức:
22
0, ( , )
T
y x y x y R
Ta có:
[ ]
( , ) ( , ); ( , ) 2 6;2 4
ff
f x y x y x y x y
xy
éù
¶¶
êú
Ñ = = - -
êú
¶¶
ëû
17
22
2
2
22
2
( , ) ( , )
20
( , )
02
( , ) ( , )
ff
x y x y
x x y
f x y
ff
x y x y
y x y
ổử
ảả
ữ
ỗ
ữ
ỗ
ữ
ỗ
ổử
ả ả ả
ữ
ỗ
ữ
ữ
ỗ
ỗ
ẹ = =
ữ
ữ
ỗ
ỗ
ữ
ữ
ỗ
ữ
ỗ
ữ
ốứ
ảả
ữ
ỗ
ữ
ỗ
ữ
ữ
ỗ
ả ả ả
ốứ
Kớ hiu:
2
12
( ; ) Ry y y=ẻ
11
2 2 2
1 2 1 2 1 2
22
20
. ( , ). [ , ]. [2 ,2 ]. 2 2
02
T
yy
y f x y y y y y y y y
yy
ộ ự ộ ự
ổử
ữ
ỗ
ờ ỳ ờ ỳ
ẹ = = = +
ữ
ỗ
ữ
ỗ
ữ
ờ ỳ ờ ỳ
ốứ
ở ỷ ở ỷ
Do
2 2 2
1 2 1 2
2 2 0, ( , ) Ry y y y+ " ẻ
nờn theo nh lớ 3.2, f l hm li trờn
2
R
4) Tớnh kh vi cp 2 ngt ca hm li v hm lừm:
Khụng phi tt c cỏc phn núi trờn u cp n cỏc hm li v lừm ngt
bng cỏch thay th cỏc bt ng thc bng cỏc bt ng thc ngt. Thc t,
chỳng ta bt u bng cỏch xem xột cỏc kt qu cú phn trỏi ngc.
nh lý 4.1:
Cho
l hm s xỏc nh trờn tp m
n
TR
v
l hm kh vi cp 2 ti
xT
Nu
l hm li ngt ti
x
thỡ
2
x
l na xỏc nh dng, nhng cha hn
l xỏc nh dng, ngha l iu sau õy khụng nht thit ỳng:
2
0y x y
,
,0
n
y R y
Nu
l hm lừm ngt ti
x
, thỡ
2
x
l na xỏc nh õm, nhng cha hn l
xỏc nh õm, ngha l iu sau õy khụng nht thit ỳng:
2
0y x y
,
,0
n
y R y
Chng minh:
Nu
l hm li ngt ti
x
thỡ
l hm li ti
x
v theo lý thuyt 6.3.1:
2
x
l na xỏc nh dng, iu ny cú ngha l
2
x
khụng nht thit l
xỏc nh dng.
Cú th nhn thy iu trờn t phn vớ d sau:
4
,x x x R
;
l hm li ngt trờn R
nhng
2
2
12xx
khụng l xỏc nh dng vỡ
2
00
.
Trng hp hm lừm c chng minh tng t.
nh lý 4.2:
Cho
l hm s kh vi cp 2 trờn tp li
n
TR
.
iu kin nhng khụng cn
l hm li ngt trờn T l
2
x
l xỏc
nh dng trờn T, ngha l: vi
xT
,
2
0y x y
,
,0
n
y R y
18
iu kin nhng khụng cn
l hm lừm ngt trờn T l
2
x
l xỏc
nh õm trờn T, ngha l : vi
xT
,
2
0y x y
,
,0
n
y R y
Vớ d: Kho sỏt tớnh li cht ca hm s sau:
2 2 2
( , ) 3 2 4 , ( , ) \{0}f x y x xy y x y R= + + " ẻ
Gii:
Ta cú:
2
R \{0}
l tp li m
f l hm s cp nờn kh vi cp 2 trờn
2
R \{0}
Dựng nh lớ 4.2 kim tra tớnh li ca hm s f, ngha l ta kim tra xem cú
hay khụng bt ng thc
22
0, ( , ) ;( ,y) 0
T
y x y x y R x
Ta cú:
[ ]
( , ) ( , ); ( , ) 6 2 ;2 8
ff
f x y x y x y x y x y
xy
ộự
ảả
ờỳ
ẹ = = + +
ờỳ
ảả
ởỷ
22
2
2
22
2
( , ) ( , )
62
( , )
28
( , ) ( , )
ff
x y x y
x x y
f x y
ff
x y x y
y x y
ổử
ảả
ữ
ỗ
ữ
ỗ
ữ
ỗ
ổử
ả ả ả
ữ
ỗ
ữ
ữ
ỗ
ỗ
ẹ = =
ữ
ữ
ỗ
ỗ
ữ
ữ
ỗ
ữ
ỗ
ữ
ốứ
ảả
ữ
ỗ
ữ
ỗ
ữ
ữ
ỗ
ả ả ả
ốứ
Kớ hiu:
2
12
( ; ) R , 0y y y y= ẻ ạ
1
2 2 2 2
1 2 1 2 1 2
2
62
. ( , ). [ , ]. 5 4 ( 2 )
28
T
y
y f x y y y y y y y y
y
ộự
ổử
ữ
ỗ
ờỳ
ẹ = = + + +
ữ
ỗ
ữ
ỗ
ữ
ờỳ
ốứ
ởỷ
Do
2 2 2 2
1 2 1 2 1 2
5 4 ( 2 ) 0, ( , ) R \{0}y y y y y y+ + + > " ẻ
nờn theo nh lớ 4.2, f l
hm li trờn
2
R \{0}
19
PHẦN III:
CÁC ĐIỀU KIỆN TỐI ƢU FRITZ - JOHN VÀ KUHN - TUCKER
1) Nhắc lại một số bài toán tối ƣu tổng quát:
Bài toán 1.1 (Bài toán cực tiểu - MP):
Cho hàm số
0
:
n
X
. Tìm
*
u
sao cho:
*0
12
*0
, , ,
,
n
n
n
u u u u X
x u x X
Miền
0 n
X
được gọi là tập các phương án chấp nhận được (hay miền
ràng buộc)
Điểm
0
12
, , ,
n
n
x x x x X
gọi là phương án chấp nhận được (hay
phương án khả thi hay phương án)
Điểm
*0
12
, , ,
n
n
u u u u X
được gọi là phương án tối ưu toàn cục.
Khi
0 n
X
là một tập lồi và là hàm lồi trên
0
X
thì Bài toán cực tiểu
MP được gọi là Bài toán quy hoạch lồi (BTQHL)
Bài toán 1.2: (Bài toán cực tiểu địa phƣơng - LMP)
Cho hàm số
0
:
n
X
. Tìm
u
sao cho:
tồn tại quả cầu mở
Bu
tâm
u
, bán kính
0
đủ nhỏ và
0
12
0
, , ,
,
n
n
u u u u X
x u x B u X
Điểm
0
12
, , ,
n
n
u u u u X
được gọi là phương án tối ưu địa phương.
Bài toán 1.3: (Bài toán điểm yên ngựa Fritz John - FJSP)
Tìm
x
X
0
,
0
r
R,
r
R
m
, (
0
r
,
r
) 0 (nếu có) sao cho:
000
0
00
, , , , , ,
0, ,
,,
m
x r r x r r x r r
r r R x X
x r r r x rg x
20
Bài toán 1.4: (Bài toán điểm yên ngựa Kuhn -Tucker - KTSP)
Tìm
x
X
0
,
u
R
m
,
u
0 (nếu có) sao cho:
0
,,,
0, ,
,
m
x u x u x u
u u R x X
x u x ug x
2) Các bài toán cực tiểu và bài toán điểm dừng Fritz John và Kuhn – Tucker:
Bài toán cực tiểu và cực tiểu địa phương được xét ở đây giống như các bài
toán 1.1 và 1.2, chỉ thêm giả thiết khả vi.
Các bài toán Fritz John và Kuhn – Tucker (bài 2.3 bài 2.4 bên dưới) được
suy từ bài toán điểm yên ngựa của Fritz John và Kuhn – Tucker (bài 1.3 và 1.4)
nếu thêm vào giả thiết khả vi. Và ngược lại, các bài toán điểm yên ngựa (bài
1.3 và 1.4) của Fritz John và Kuhn – Tucker được suy ra từ các bài toán Fritz
John và Kuhn – Tucker (bài 2.3 bài 2.4 bên dưới) nếu tính lồi được thêm vào
giả thiết.
Cho
0
X
là tập mở trong
n
R
,
là một hàm số và g là một hàm vectơ m chiều,
và g đều xác định và khả vi trên
0
X
Lƣu ý: Trong đa số bài toán quy hoạch phi tuyến thì
0
X
chính là
n
R
Bài toán 5.2.3: (Bài toán điểm dừng Fritz John - FJP)
Tìm
0
0
,,
m
x X r R r R
(nếu có) thỏa
0
0
0
0
00
( , , ) 0
( , , ) 0
( , , ) 0
( , ) 0
( , , ) ( ) ( )
x
r
r
x r r
x r r
r x r r
rr
x r r r x rg x
hoặc:
21
0
0
( ) ( ) 0
( ) 0
( ) 0
( , ) 0
r x r g x
gx
rg x
rr
Bài toán 5.2.4: (Bài toán điểm dừng Kuhn – Tucker - KTP)
Tìm
0
,
m
x X u R
(nếu có) thỏa:
( , ) 0
( , ) 0
( , ) 0
0
( , ) ( ) ( )
x
u
u
xu
xu
u x u
u
x u x ug x
hoặc:
( ) ( ) 0
( ) 0
( ) 0
0
x u g x
gx
ug x
u
Ví dụ 1: Xét bài toán
22
12
in ( )M x x x
với các ràng buộc:
xx
xx
xx
22
12
12
12
5
,0
24
hay
g x x x
g x x
g x x
h x x x
22
1 1 2
21
32
1 1 2
( ) 5 0
( ) 0
( ) 0
( ) 2 4 0
Ta có:
x
x
x
1
2
2
()
2
,
x
gx
x
1
1
2
2
()
2
,
gx
2
1
()
0
,
gx
3
0
()
1
,
hx
1
1
()
2
Khi đó, ta có bài toán (KTP):
22
i
xx
u u u v
xx
u g x u x x
u g x u x
u g x u x
ui
11
1 2 3 1
22
22
1 1 1 1 2
2 2 2 1
3 3 3 2
22
1 0 1
0
2 2 0 1 2
( ) .( 5) 0
( ) .( ) 0
( ) .( ) 0
0; 1, 3
i
x u x u v
x u x u v
u x x
ux
ux
ui
1 1 1 2 1
2 1 2 3 1
22
1 1 2
21
32
2 2 0
2 2 2 0
( 5) 0
( ) 0
( ) 0
0; 1,3
Ví dụ 2: Xét bài toán:
22
1 2 1 2 1 2
n ( ) 2 3 4 6 3Mi x x x x x x x
=
xx
xx
xx
11
12
22
44
1
63
2
46
với các ràng buộc:
12
12
1
2
1
2 3 4
0
0
xx
xx
x
x
hay
1 1 2
2 1 2
31
42
( ) 1 0
( ) 2 3 4 0
( ) 0
( ) 0
g x x x
g x x x
g x x
g x x
Ta có:
xx
x
xx
12
21
4 4 6
()
6 4 3
,
gx
1
1
()
1
,
gx
2
2
()
3
,
gx
3
1
()
0
,
gx
4
0
()
1
Khi đó, ta có bài toán (KTP):
23
12
1 2 3 4
21
1 1 1 1 2
2 2 1 1 2
3 3 3 1
4 4 4 2
4 4 6
1 2 1 0
0
6 4 3
1 3 0 1
( ) ( 1) 0
( ) (2 3 4) 0
( ) ( ) 0
( ) ( ) 0
0, 1,4
i
xx
u u u u
xx
u g x u x x
u g x u x x
u g x u x
u g x u x
ui
Nhận xét:
1) Nếu
0
( , , )x r r
là một nghiệm của FJP và
0
0r
thì
0
( , )
r
x
r
là một nghiệm của KTP.
Ngược lại, nếu
xu( , )
là một nghiệm của KTP thì
xu( ,1, )
là một nghiệm của
FJP.
2) Các hàm Lagrange
0
( , , );x r r
( , )xu
được định nghĩa trên giống các hàm
Lagrange được định nghĩa ở các bài toán 5.1.3 và 5.1.4.