bài giảng tối ưu chương 4 bài toán quy hoạch phi tuyến có ràng buộc- ths. trần thị thùy nương

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

1


NỘI DUNG
− Bài tốn QHPT có ràng buộc
− Điều kiện tối ưu
− Một số phương pháp giải bài toán QHPT có

ràng buộc.

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

2


Bài tốn Quy hoạch phi tuyến có ràng buộc có
dạng:
rb
(P )
min{ f ( x) : x ∈ X },

X ⊂ ℝ n và hàm f xác định trên X .
trong đó

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

3


− Bài tốn QHPT có ràng buộc
− Điều kiện tối ưu
− Một số phương pháp giải bài tốn QHPT có

ràng buộc.

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

4


I. Điều kiện tối ưu
1. Nón tiếp xúc
Định nghĩa 1. Cho dãy {x } ⊂ ℝ hội tụ đến

q

n

x ∈ℝ . Ta nói dãy {x } hội tụ đến x0 theo
0

q

n

→
hướng v ∈ℝ , ký hiệu { x }  x , nếu tồn
q

n

v

tại dãy số dương {t q }, lim t q = 0
q→∞

0

sao cho

x = x + t q v + o (t q )
q

10/6/2010

0

MaMH C02012

Chương 4: QHPT có ràng buộc

5


v
{ x q }  x 0 , nếu tồn tại dãy số
→
Nói cách khác,

dương {t q }, lim t q = 0 sao cho
q→∞

x −x
lim
= v.
q→∞
tq
q

10/6/2010

MaMH C02012

0

Chương 4: QHPT có ràng buộc

6


x ∈ X , X ⊂ ℝn.
Định nghĩa 2. Cho
0

Nón tiếp xúc với X tại x ∈ X , được kí hiệu là
0

0

T ( X , x ), với

T ( X , x ) = {v ∈ ℝ : ∃{x } ⊂ X : {x }  x }
→
0

10/6/2010

n

MaMH C02012

q

Chương 4: QHPT có ràng buộc

q

v

0

7


{x } là một dãy thuộc X ⊂ ℝn
Bổ đề 1. Giả sử
q

hội tụ đến x ∈ X theo hướng v và hàm f khả
0

vi liên tục cấp một trên X . Khi đó

x −x
∇ f ( x ), v = lim+
.
tq → 0
tq
q

0

0

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

8


2. Điều kiện tối ưu
Định lý 1. i) Giả sử f khả vi trên một tập
*
mở chứa X. Nếu x ∈ X là nghiệm cực tiểu
địa phương của bài toán (Prb ) thì
∇f ( x* ), v ≥ 0 ∀v ∈T ( X , x* );

ii) Ngược lại, nếu x ∈ X thỏa mãn điều kiện
*

∇f ( x* ), v > 0 ∀v ∈T ( X , x* );
*

thì x là một nghiệm cực tiểu địa phương
rb
chặt của bài toán ( P ) .
10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

9


Hệ quả 1. Giả sử x ∈ int X và x là điểm cực
( Prb ) .
tiểu địa phương của bài tốn
*
Khi đó ∇f (x ) = 0.
*

*

Định lý 2. Cho f là hàm lồi khả vi trên một tập
n
mở chứa tập lồi X ⊂ ℝ . Điều kiện cần và đủ
*
để x ∈ X là điểm cực tiểu toàn cục của bài
toán quy hoạch lồi min{ f ( x) : x ∈ X } là

∇f (x ), v ≥ 0 ∀v ∈T( X , x ).
*

10/6/2010

MaMH C02012

*

Chương 4: QHPT có ràng buộc

10


Hệ quả 2. Cho f là hàm lồi khả vi trên tập một
tập mở chứa tập lồi X ⊂ ℝ . Điểm x ∈ X là
n

*

điểm cực tiểu toàn cục của bài toán quy hoạch
lồi min{ f ( x): x ∈ X} khi và chỉ khi

∇f ( x* ), x − x* ≥ 0 ∀x ∈ X .

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

11


3. Định lý Karush – Kuhn – Tucker
Xét bài toán QH phi tuyến

min{ f (x): x ∈ X},

( Prb )

1

X ⊂ ℝn là tập nghiệm của hệ
trong đó
 gi ( x) ≤ 0, i = 1,..., m,


h j ( x) = 0, j = 1,..., k ,


f , gi , i = 1,..., m và h j , j = 1,..., k là các hàm
n
số khả vi bất kỳ xác định trên ℝ , có thể ko lồi.
10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

12


Cho x ∈ X. Đặt
0

I ( x ) = {i ∈ {1,..., m} gi ( x ) = 0}
0

0

là tập các chỉ số của các ràng buộc
0
gi ( x) ≤ 0, i = 1,..., m, thỏa mãn chặt tại x .
0

Ký hiệu S ( x ) là tập hợp các véctơ v thỏa mãn
hệ tuyến tính sau:

 ∇h j ( x 0 ), v = 0, j = 1,..., k


0
0
 ∇gi ( x ), v ≤ 0, i ∈ I ( x ).

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

13


Bổ đề 2. Với mọi x ∈ X ta có T ( X , x ) ⊆ S ( x ).
0

0

0

Định nghĩa 3. Ta nói điều kiện chính quy được
0
thỏa mãn tại x nếu
0
0
T ( X , x ) = S ( x ).

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

14


0

Định lý 3. Điều kiện chính quy được thỏa mãn tại x
nếu có một trong các điều kiện sau:
i) Các hàm h j , j = 1,..., k và g i , i = 1,..., m đều
là các hàm afin.
ii) Các hàm h j , j = 1,..., k là afin; các hàm
gi , i = 1,..., m là lồi và đk Slater sau đây t/m:

∃ x ∈ ℝ : gi ( x ) < 0, i = 1,..., m; h j ( x ) = 0, j = 1,..., k ;
n

iii) Các véctơ ∇g i ( x 0 ), i ∈ I ( x 0 ) và

∇h j ( x ), i = 1,..., k là độc lập tuyến tính.
0

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

15


Định lý 4.(Định lý Karush – Kuhn – Tucker KKT)
Cho các hàm f , g i , i = 1,..., m và h j , j = 1,..., k
là các hàm khả vi liên tục trên một tập mở chứa X .
*
Giả sử x là nghiệm cực tiểu địa phương của bài
rb
*
tốn ( P ) và đk chính quy được t/m tại x . Khi đó
1
đk KKT (đk (6.1) – (6.3)) sau đúng:
i) gi ( x* ) ≤ 0, i = 1,..., m và h j ( x* ) = 0, j = 1,..., k ; (6.1)
ii) ∃ λi ≥ 0, i = 1,..., m và µ j ≥ 0, j = 1,..., k sao cho
m

k

∇f ( x* ) + ∑ λi ∇gi ( x* ) + ∑ µ j ∇h j ( x* ) = 0

(6.2)

iii) λi gi ( x* ) = 0, ∀i = 1,..., m. (Điều kiện bù)

(6.3)

i =1

10/6/2010

j =1

MaMH C02012

Chương 4: QHPT có ràng buộc

16


Định lý KKT cho quy hoạch lồi
Xét bài toán quy hoạch lồi

min{ f (x): x ∈ X},

( Pconv )
1

trong đó

X = {x : gi ( x) ≤ 0, i = 1,..., m},
và f và gi , i = 1,..., m, là các hàm lồi, khả vi
liên tục trên một tập mở chứa X.

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

17


Định lý 5. (Định lý KKT cho quy hoạch lồi)
Giả sử các hàm f , gi , i = 1,..., m, là các hàm lồi
khả vi trên một tập mở chứa X và đk Slater được
*
n
thỏa mãn. Khi đó x ∈ ℝ là nghiệm cực tiểu của
conv
*
bài toán ( P ) khi và chỉ khi x thỏa mãn đk
1
KKT ( đk (6.4) – (6.6)) sau:
*
(6.4)
i) gi ( x ) ≤ 0, i = 1,..., m;
ii) Tồn tại các số λi ≥ 0, i = 1,..., m sao cho
m

∇f ( x* ) + ∑ λi ∇gi ( x* ) = 0

(6.5)

i =1

iii) λi gi ( x ) = 0, ∀i = 1,..., m.
*

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

(6.6)
18


II. Các phương pháp giải bài
tốn QHPT có RB
1. PP nhân tử Lagrange
Hàm số

m

n

i =1

j =1

L( x, λ1 ,..., λm , µ1 ,..., µ k ) := f ( x) + ∑ λi gi ( x) + ∑ µi h j ( x),

với các số thực λ1 ≥ 0,..., λm ≥ 0, µ1 ,..., µ k , đgl hàm
( Prb ).
Lagrange tương ứng với bài toán 1
Các số λ1 ≥ 0,..., λm ≥ 0, µ1 ,..., µ k , đgl các nhân tử L.
10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

19


Ký hiệu ∇ x L là gradient của hàm L theo x.

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

20


Thuật toán 1
Bước 1. Lập hàm Lagrange

m

n

i =1

j =1

L( x, λ1 ,..., λm , µ1 ,..., µ k ) := f ( x) + ∑ λi gi ( x) + ∑ µi h j ( x).

Bước 2. Giải hệ KKT :
∇ x L( x, λ1 ,..., λm , µ1 ,..., µ k ) = 0

λ1 ≥ 0,..., λm ≥ 0


λi gi ( x) = 0, i = 1,...., m


gi ( x) ≤ 0, i = 1,..., m


hC02012) Chương 4:jQHPT 1,..., k
= có ràng buộc
j ( x = 0,

MaMH
10/6/2010

21

Mỗi một nghiệm x của hệ trên tương ứng với một
bộ tham số λ1 ,..., λm , µ1 ,..., µ k là một điểm KKT
của bài tốn đang xét.

Ví dụ 1 Giải bài toán sau bằng pp nhân tử Lagrange

min{ f ( x) = x + x x1 + x2 = 10}
2
1

10/6/2010

MaMH C02012

2
2

Chương 4: QHPT có ràng buộc

22


Ví dụ 2 Giải bài tốn sau bằng pp nhân tử Lagrange
2
2
min{ f ( x) = x12 − 2 x1 + x2 − x3 + 4 x3 x1 − x2 + 2 x3 = 2}

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

23


2. Phương pháp Frank – Wolfe giải bài toán quy
hoạch lồi với ràng buộc tuyến tính.
Xét bài tốn QH lồi
conv
min{ f (x): x ∈ X}, ( P2 )
trong đó f là hàm lồi trên
lồi đa diện xác định bởi

ℝ và X ⊂ ℝ là tập
n

n

X = {x ∈ ℝ : Ax ≤ b},
n

m × n và véctơ b ∈ ℝ m .
với A là ma trận cấp
10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

24


Định nghĩa 4 Cho điểm x ∈ X . Véctơ d ∈ ℝ
0
đgl một hướng chấp nhận được của tập X tại x
nếu tồn tại một số t* > 0 sao cho
0
x + td ∈ X với mọi t thỏa mãn 0 < t ≤ t* .
0

10/6/2010

MaMH C02012

Chương 4: QHPT có ràng buộc

n

25