Về các điều kiện chuẩn hóa ràng buộc cho bài toán tối ưu phi tuyến

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
KHOA TOÁN

======

NGUYỄN THỊ MINH ANH

VỀ CÁC ĐIỀU KIỆN CHUẨN HÓA RÀNG BUỘC
CHO BÀI TOÁN TỐI ƯU PHI TUYẾN

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC
Chuyên ngành : Toán Giải tích

HÀ NỘI, 2019


TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
KHOA TOÁN

======

NGUYỄN THỊ MINH ANH

VỀ CÁC ĐIỀU KIỆN CHUẨN HÓA RÀNG BUỘC
CHO BÀI TOÁN TỐI ƯU PHI TUYẾN

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC
Chuyên ngành: Toán Giải tích
Người hướng dẫn Khoa học

TS. NGUYỄN VĂN TUYÊN

HÀ NỘI, 2019


LỜI CẢM ƠN
Em xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sư
phạm Hà Nội 2, các thầy cô gióa khoa Toán đã giúp đỡ em trong quá trình
học tập tại trường và tạo điều kiện cho em hoàn thành đề tài khóa luận tốt
nghiệp.
Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới thầy Nguyễn Văn
Tuyên, người thầy đã truyền thụ kiến thức, tận tình giúp đỡ, hướng dẫn em
trong suốt quá trình học tập, nghiên cứu và hoàn thiện khóa luận này.
Trong quá trình nghiên cứu, không tránh khỏi nhưng sai sót và hạn chế.
Em kính mong nhận được sự đóng góp ý kiến của các thầy giáo, cô giáo và
toàn thể bạn đọc để khóa luận được hoàn thiện hơn.
Em xin chân thành cảm ơn !
Hà Nội, tháng 5 năm 2019

Nguyễn Thị Minh Anh


LỜI CAM ĐOAN
Em xin cam đoan dưới sự hướng dẫn của thầy giáo Nguyễn Văn
Tuyên khóa luận của em được hoàn thành không trùng với bất kì đề tài nào
khác.
Trong khi làm khóa luận này, em đã kế thừa thành quả khoa học của
các nhà khoa học với sự trân trọng và biết ơn.
Hà Nội, tháng 5 năm 2019
Sinh viên

Nguyễn Thị Minh Anh


Mục lục

Mở đầu

2

1

4

Kiến thức chuẩn bị
1.1. Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4

1.2. Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

7

1.3. Phép chiếu . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

8

1.4. Nón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

11

1.5. Nón tiếp tuyến . . . . . . . . . . . . . . . . . . . . . . . . . .

14

2 Các điều kiện chuẩn hóa ràng buộc cho bài toán tối ưu phi
tuyến tính.

17

2.1. Điều kiện Guignard . . . . . . . . . . . . . . . . . . . . . . . .

18

2.2. Các điều kiện chuẩn hóa ràng buộc khác . . . . . . . . . . . .

24

2.2.1. Điều kiện chuẩn hóa ràng buộc tựa chính quy . . . . .

24

2.2.2. Điều kiện Slater . . . . . . . . . . . . . . . . . . . . . .

25

2.2.3. Điều kiện độc lập tuyến tính - LICQ . . . . . . . . . .

26

2.2.4. Điều kiện chuẩn hóa ràng buộc Mangasarian–Fromovitz 26

Kết luận

32

Tài liệu tham khảo

32
1


Mở đầu
Xét bài toán tối ưu phi tuyến có dạng
min f (x)
với ràng buộc h(x) = 0

(P)

g(x) ≤ 0,
ở đó các hàm số f : Rn → R, g : Rn → Rp và h : Rn → Rm là khả vi liên tục.
Tập hợp các điểm chấp nhận được của (P) được kí hiệu là:
Ω = {x ∈ Rn : h(x) = 0, g(x) ≤ 0} .
Cho x∗ ∈ Ω, điều kiện tối ưu kiểu Karush–Kuhn-Tucker (KKT) nói rằng tồn
tại nhân tử Lagrange λ∗ ∈ Rm và µ∗ ∈ Rp sao cho:
p

m
∗

λ∗i ∇hi (x∗ )

− ∇f (x ) =
i=1

µj ≥ 0,

µ∗j ∇gj (x∗ ),

+
j=1

j = 1, . . . , p,

µ∗j gj (x∗ ) = 0,

j = 1, . . . , p.

Các điều kiện tối ưu kiểu KKT đóng vai trò quan trọng trong lý thuyết tối
ưu. Các điều kiện này là cần để một điểm chấp nhận được là nghiệm tối ưu
của bài toán. Với bài toán không bị ràng buộc, tức là (Ω = Rn ), điều kiện
KKT trở thành điều kiện Fermat quen thuộc ∇f (x∗ ) = 0. Tuy nhiên, các


điều kiện tối ưu KKT không phải lúc nào cũng đạt được. Chẳng hạn, xét
bài toán (P ) với f : R2 → R và g : R2 → R2 xác định bởi f (x) = x1 và
g(x) = (x2 − (1 − x1 )3 , −x2 )T . Chú ý rằng x∗ = (1, 0)T là một nghiệm cực tiểu
địa phương của bài toán nhưng điều kiện KKT không thỏa mãn.
Mục đích của khóa luận này trình bày các điều kiện để đảm bảo rằng
điều kiện KKT. Các điều kiện đó được gọi là các điều kiện chuẩn hóa ràng
buộc. Cụ thể, ta nói rằng hệ ràng buộc h(x) = 0 và g(x) ≤ 0 thỏa mãn điều
kiện chuẩn hóa ràng buộc tại x∗ ∈ Ω nếu với bất kì hàm khả vi f đạt cực tiểu

địa phương tại x∗ trên Ω, thì điều kiện KKT đúng tại điểm này.
Trong các tài liệu có nhiều kiểu chuẩn hóa ràng buộc khác nhau. Trong
khóa luận này, chúng tôi sẽ trình bày một điều kiện chuẩn hóa ràng buộc yếu
nhất (điều kiện Guignard) và một số điều kiện đủ cho điều kiện chuẩn hóa
ràng buộc này.
Ngoài phần mở đầu, tài liệu tham khảo, khóa luận gồm hai chương.
Chương 1 trình bày một số kiến thức chuẩn bị. Nội dung chính của
chương này là trình bày một số kiến thức cơ bản của giải tích lồi và giải tích
biến phân.
Chương 2 trình bày về các điều kiện chuẩn hóa ràng buộc cho bài toán
tối ưu phi tuyến.

3


Chương 1
Kiến thức chuẩn bị
1.1.

Tập lồi

Khái niệm tập lồi là khái niệm quan trọng trong lý thuyết tối ưu. Tập lồi là
tập mà khi lấy hai điểm bất kỳ của tâp thì đoạn thẳng nối hai điểm đó cũng
nằm trong tập.
Định nghĩa 1.1. Một tập X ⊂ Rn được gọi là lồi nếu với mọi x1 ∈ X và
x2 ∈ X nó chứa mọi điểm
αx1 + (1 − α)x2 ,

0 < α < 1.

Tính lồi được bảo toàn qua phép toán giao.
Bổ đề 1.1. Cho I là một tập chỉ số tùy ý. Nếu các tập Xi ∈ Rn , i ∈ I, là các
tập lồi, thì tập X =

Xi là tập lồi.
i∈I

= ∅, thì X lồi. Giả sử, X =

Chứng minh. Rõ ràng rằng, nếu X =
i∈I

∅. Khi đó, ∀x, y ∈

Xi =
i∈I

Xi , ∀t ∈ (0; 1), ta suy ra x, y ∈ Xi , ∀i ∈ I. Vì vậy,
i∈I

(1 − t)x + ty ∈ Xi , ∀i ∈ I và (1 − t)x + ty ∈

Xi , ∀i ∈ I. Vây X là tập lồi
i∈I

Tính lồi còn được bảo toàn qua phép toán co giãn và phép tổng hai tập


hợp.
Phép nhân một tập X ⊂ Rn với một vô hướng c được định nghĩa bởi:

cX := {y ∈ Rn : y = cx, x ∈ X} .
Tổng Minkowski của hai tập được định nghĩa như sau:
X + Y := {z ∈ Rn : z = x + y, x ∈ X, y ∈ Y } .
Bổ đề 1.2. Cho X và Y là tập lồi trong Rn và cho c và d là các số thực. Khi
đó tập Z = cX + dY là lồi.
Chứng minh. Nếu z 1 ∈ Z thì z 1 = cx1 + dy 1 với x1 ∈ X và y 1 ∈ Y . Tương
tự, z 2 ∈ Z có dạng z 2 = cx2 + dy 2 với x2 ∈ X và d2 ∈ Y . Khi đó, với mỗi
α ∈ [0, 1],
αz 1 + (1 − α)z 2 = c(αx1 + (1 − α)x2 ) + d(αy 1 + (1 − α)y 2 ) ∈ Z,
thỏa mãn yêu cầu.
Định nghĩa 1.2. Một điểm x được gọi là tổ hợp lồi của các điểm x1 , . . . , xm
nếu tồn tại α1 ≥ 0, . . . , αm ≥ 0 sao cho
x = α1 x1 + α2 x2 + · · · + αm xm
và
α1 + α2 + · · · + αm = 1.
Định nghĩa 1.3. Bao lồi của tập X kí hiệu là conv X là giao của tất cả các
tập lồi chứa X
Mối quan hệ của hai khái niệm này là nội dung của bổ đề tiếp theo.
5


Bổ đề 1.3. Tập conv X là tập hợp tất cả các tổ hợp lồi của các điểm thuộc
X.
Chứng minh. Xét tập Y của tất cả các tổ hợp lồi của các phần tử thuộc X
Nếu y 1 ∈ Y và y 2 ∈ Y , thì
y 1 =α1 x1 + α2 x2 + · · · + αm xm ,
y 2 =β1 z 1 + β2 z 2 + · · · + βl z l ,
trong đó x1 , . . . , xm , z 1 , . . . , z l ∈ X, mọi thành phần của α và β đều không
âm, và
l

m

βi = 1.

αi = 1,
i=1

i=1

Vì vậy, với mỗi λ ∈ (0; 1), điểm
m
1

2

l
i

λy + (1 − λ)y =

(1 − λ)βi z i

λαi x +
i=1

i=1

là tổ hợp lồi của các điểm x1 , , . . . , xm , z 1 , . . . , z l . Vậy tập Y lồi. Hiển nhiên,
Y ⊃ X. Vì vậy

conv X ⊂ Y.
Mặt khác, nếu y ∈ Y , thì y là tổ hợp lồi của tất cả các điểm thuộc X, phải
được chứa trong mỗi tập lồi chứa X. Do đó, conv X ⊃ Y , điều phải chứng
minh.
Bổ đề 1.4 (Định lý Caratheodory). Nếu X ⊂ Rn , thì mọi phần tử của của
conv X là tổ hợp lồi của không quá n + 1 điểm thuộc X.
Chứng minh. Cho x là một tổ hợp lồi của m > n + 1 điểm thuộc X. Ta chỉ
6


ra rằng m có thể bị giảm đi một đơn vị. Nếu αj = 0 với một vài j, thì ta có
thể xóa đi điểm thứ j đó và hoàn thành. Vì vậy giả sử tất cả αi dương. Vì
m > n + 1, tồn tại các số γ1 , γ2 , . . . , γm , không đồng thời bằng 0, do đó
 
 
 
1
2
x
x
xm





 = 0.
γ1
+ γ2
+ · · · + γm

(1.1)
1
1
1
αi
: γi > 0 . Chú ý rằng τ được định nghĩa tốt, vì tồn tại
γi
γj > 0 do tổng của chúng bằng không. Đặt α¯i = αi − τ γj , i = 1, 2, . . . , m.
Đặt τ = min

Theo (1.1), ta có

m
¯i
i=1 α

= 1 và

m
¯i xi
i=1 α

= x. Do định nghĩa của τ , có ít

nhất một α¯j = 0 và ta có thể xóa bỏ điểm thứ j. Tiếp tục theo cách này ta
có thể giảm giá trị của m cho đến khi bằng n + 1.

1.2.

Hàm lồi

Kí hiệu R := R ∪ {±∞} và gọi là tập số thực mở rộng.
Cho f : Rn → R là một hàm số. Miền hữu hiệu và tập trên đồ thị của f
tương ứng được kí hiệu bởi:
domf = {x ∈ Rn : f (x) < +∞} ,
epif = {(x, v) ∈ Rn × R : v ≥ f (x)} .
Định nghĩa 1.4. Một hàm số f được gọi là lồi nếu epif là một tập lồi.
Định nghĩa 1.5. Một hàm f được gọi là lõm nếu −f lồi.
Định nghĩa 1.6. Một hàm f được gọi là chính thường nếu f (x) > −∞ với
mọi x và f (x) < +∞ với ít nhất một x.
Bổ đề 1.5. Một hàm f là lồi khi và chỉ khi với mọi x1 , x2 và 0 ≤ α ≤ 1 ta
7


có
f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 ).

(1.2)

Định nghĩa 1.7. Một hàm f được gọi là lồi chặt nếu bất đẳng thức (1.2) là
chặt với mọi x1 = x2 và 0 < α < 1.
Cho f : Rn → R là một hàm số khả vi. Kí hiệu ∇f (x) cho gradient của
hàm f tại x,




∂f (x)
 ∂x1 
 ∂f (x) 

 ∂x 
 2 

∇f (x) =  .  .
 .. 


∂f (x)
∂xn

ở đây x1 , x2 , . . . , xn biểu thị tọa độ của vectơ x.
Định lý sau cho ta một đặc trưng của hàm lồi khả vi.
Định lý 1.1. Giả sử rằng hàm f khả vi liên tục. Khi đó
(i) f lồi nếu và chỉ nếu với mọi x và y
f (y) ≥ f (x) + ∇f (x), y − x ;

(1.3)

(ii) f lồi chặt nếu và chỉ nếu với mọi x = y
f (y) > f (x) + ∇f (x), y − x .

1.3.

(1.4)

Phép chiếu

Cho một tập lồi đóng V ⊂ Rn và một điểm x ∈ Rn . Ta gọi một điểm thuộc
V gần điểm x nhất là hình chiếu của x trên V và kí hiệu là ΠV (x).
Định lý 1.2. Nếu V ⊂ Rn là một tập lồi, đóng và khác rỗng, thì với mỗi

x ∈ Rn tồn tại duy nhất một điểm z ∈ V gần x nhất.
8


Chứng minh. Đặt µ = inf { z − x : z ∈ V }. Vì V khác rỗng, µ hữu hạn. Xét
một dãy các điểm z k ∈ V sao cho z k − x → µ, khi k → ∞. Nó bị chặn, vì
vậy nó chứa một dãy con hội tụ z k . Không giảm tính tổng quát ta giả sử
dãy này hội tụ và có giới hạn bằng z. Ta có
z − x = lim z k − x = µ.
k→∞

Vì V đóng, z ∈ V . Điều này chứng tỏ sự tồn tại..
Giả sử có hai điểm phân biệt z 1 ∈ V và z 2 ∈ V có khoảng cách µ từ x.
Chọn z = (z 1 + z 2 )/2. Do tính lồi của V nên z ∈ V . Theo Định lý Pythagore,
ta có:
z−x

2

= µ2 −

1 1
z − z2
4

2

< µ2 ,

mâu thuẫn. Do đó hình chiếu là duy nhất.

Bổ đề 1.6. Giả sử rằng V ∈ Rn là tập lồi đóng và cho x ∈ Rn . Khi đó
z = ΠV (x) nếu và chỉ nếu z ∈ V và
v − z, x − z ≤ 0 với mọi v ∈ V.

(1.5)

Chứng minh. Đặt z = ΠV (x) và v ∈ V . Xét các điểm có dạng
w(α) = αv + (1 − α)z,

0 ≤ α ≤ 1.

Do V lồi, nên w(α) chứa trong V và khoảng cách đến x không thể nhỏ hơn
z − x . Ta có
w(α) − x

2

= z + α(v − z) − x, z + α(v − z) − x
= z−x

2

+ 2α z − x, v − z + α2 v − z

9

2

.

Xét biểu thức trên như là một hàm số của α ∈ [0, 1]. Nó bị chặn dưới bởi
z−x

2

nếu và chỉ nếu hạng tuyến tính có hệ số không âm. Điều đó chứng

tỏ (1.5).
Giả sử (1.5) đúng z ∈ V nào đó. Cho v = ΠV (x) trong (1.5), ta được
ΠV (x) − z, x − z ≤ 0.
Theo phần đầu tiên của chứng minh, vì z ∈ V , bất đẳng thức (1.5) được thỏa
mãn
z − ΠV (x), x − ΠV (X) ≤ 0.
Cộng hai bất phương trình cuối ta được
ΠV (x) − z, ΠV (x) − z ≤ 0,
Điều đó kéo theo rằng ΠV (x) = z.
Mệnh đề sau chỉ ra rằng toán tử chiếu là một ánh xạ không giãn.
Mệnh đề 1.1. Cho V ∈ Rn là tập lồi đóng. Khi đó, với mọi x, y ∈ Rn , ta có
ΠV (x) − ΠV (y) ≤ x − y .
Định lý sau chỉ ra rằng ta có thể tách một tập lồi đóng và một điểm
bởi một siêu phẳng.
Định lý 1.3. Cho X ⊂ Rn là một tập lồi đóng và cho x ∈
/ X. Khi đó tồn tại
y ∈ Rn khác không và ε > 0 sao cho
y, v ≤ y, x − ε với mọi v ∈ X.

10

Chứng minh. Gọi z hình chiếu của x trên X. Nó luôn tồn tại vì X đóng. Theo
Bổ đề 1.6,
x − z, v − z ≤ 0 với mọi v ∈ X.
Đặt y = x − z. Chú ý rằng y khác không, vì x ∈
/ X. Với mỗi v ∈ X bất đẳng
thức cuối cùng kéo theo rằng
y, v ≤ y, z = y, x + y, z − x = y, x − y
Đặt ε = y

1.4.

2

2

.

ta được điều phải chứng minh.

Nón

Các nón lồi là một lớp riêng của các tập lồi và đóng một vai trò quan trọng
trong lí thuyết tối ưu.
Định nghĩa 1.8. Tập K ⊂ Rn được gọi là nón nếu với mỗi x ∈ K và mọi
α > 0 ta có αx ∈ K. Một nón lồi là một nón đồng thời là một tập lồi.
Một ví dụ đơn giản của nón lồi trong Rn là nón orthant không âm:
Rn+ = {x ∈ Rn : xj ≥ 0, j = 1, . . . , n} .
Đối với nón lồi, các tổ hợp dương vẫn nằm trong tập. tương tự như tổ hợp
lồi cho tập lồi.
Bổ đề 1.7. Cho K là một nón lồi. Nếu x1 ∈ K, x2 ∈ K, . . . , xm ∈ K và

α1 > 0, α2 > 0, . . . , αm > 0, thì α1 x1 + α2 x2 + · · · + αm xm ∈ K.

11


Chứng minh. Do tính lồi
α1 x1 + α2 x2 + · · · + αm xm
∈ K.
α1 + α2 + · · · + αm
Vì K là một nón, ta có thể nhân vế trái với α1 + α2 + · · · + αm và chúng thuộc
K.
Bổ đề 1.8. Giả sử rằng X là một tập lồi. Khi đó tập
cone(X) := {γx : x ∈ X, γ ≥ 0}
là một nón lồi.
Chứng minh. Tập cone(X) là một nón, vì với mọi phần tử d = γx và mọi
β ≥ 0, ta luôn có βd = (βγ)x ∈ cone(X). Để chứng minh nó là lồi, ta xét
d1 = γ1 x1 , x1 ∈ X,
d2 = γ2 x2 , x2 ∈ X,
d = αd1 + (1 − α)d2 ,
với α ∈ [0, 1]. Nếu γ1 = 0 hoặc γ2 = 0 thì d là một phần tử của cone(X). Do
đó, ta chỉ cần xét trường hợp với γ1 > 0 và γ2 > 0. Ta có
αγ1 x1 + (1 − α)γ2 x2
d = αγ1 x + (1 − α)γ2 x = (αγ1 + (1 − α)γ2 )
.
αγ1 + (1 − α)γ2
1

2

Biểu thức bên vế phải, được kí hiệu bởi x, là một tổ hợp lồi của x1 và x2 , vì

thế nó là phần tử của X. Vì vậy, d = γx với γ = αγ1 + (1 − α)γ2 , và do đó
d ∈ cone(X).
Tập cone(X) được gọi là nón được sinh bởi tập X. Cho một tập lồi X

12


và một điểm x ∈ X tập
KX (x) := cone(X − x)
được gọi là nón các hướng chấp nhận được của X tại x. Từ định nghĩa ta
thấy rằng KX (x) là một nón lồi.
Định nghĩa 1.9. Cho K là một nón trong Rn . Tập
K ◦ := y ∈ Rn : y, x ≤ 0 với mọi x ∈ K
được gọi là nón cực của K.
Bổ đề 1.9. Với mỗi nón lồi K ∈ Rn , ta có:
(i) Nón cực K ◦ là lồi và đóng;
(ii) K ◦ = (K)◦ .
Bổ đề 1.10. Cho K là một nón trong Rn và y ∈ Rn sao cho tích vô hướng
y, x bị chặn trên với mọi x ∈ K. Khi đó y ∈ K ◦ .
Chứng minh. Giả sử y ∈
/ K o . Khi đó ta có thể tìm x ∈ K sao cho y, x > 0.
Từ K là một nón, αx ∈ K với mọi α > 0. Nhưng khi đó y, αx không bị
chặn trên, mâu thuẫn với giả thiết.
Kí hiệu K ◦◦ là nón cực của nón cực của K. Kết quả tiếp theo được biết
như là định lí song đối cực.
Định lý 1.4. Nếu K ⊂ Rn là một nón lồi đóng, thì
K ◦◦ = K.
Chứng minh. Nếu x ∈ K, thì y, x ≤ 0 với mọi y ∈ K ◦ . Vì vậy x ∈ K ◦◦ . Do
đó K ⊂ K ◦◦ . Ta sẽ chứng minh dấu đẳng thức xảy ra. Giả sử phản chứng
13

rằng tồn tại z ∈ K ◦◦ \ K. Vì K đóng, ta có thể sử dụng Định lý 1.3 để tách
z và K. Vì vậy, tồn tại y = 0 và ε > 0 sao cho
y, x ≤ y, z − ε với mọi x ∈ K.
Vì vậy, vế trái bị chặn trên và theo Bổ đề 1.10 ta có y ∈ K ◦ . Mặt khác, cho
x = 0 ta được y, z ≥ ε, mâu thuẫn với giả thiết z ∈ K ◦◦ .

1.5.

Nón tiếp tuyến

Định nghĩa 1.10. Một hướng d được gọi là hướng tiếp tuyến của tập X ⊂ Rn
tại điểm x ∈ X nếu tồn tại dãy các điểm xk ∈ X và các vô hướng τk > 0,
k = 1, 2, . . . , sao cho τk ↓ 0 và
xk − x
d = lim
.
k→∞
τk
Từ định nghĩa này ta suy ra rằng xk → x vì nếu trái lại thì giới hạn ở
trên không tồn tại.
Bổ đề 1.11. Cho X ⊂ Rn và x ∈ X. Tập TX (x) của tất cả các hướng tiếp
tuyến của X tại x là một nón đóng.
Chứng minh. Giả sử d ∈ TX (x). Với mọi β > 0 ta có
xk − x
βd = lim
,
k→0 (τk /β)
vì vậy dãy xk và τk /β thỏa mãn Định nghĩa 1.10 với hướng βd. Do đó TX (x)

là một nón.
Lấy dj là một hướng tiếp tuyến của X tại x và các dãy xj,k và τj,k ,
k = 1, 2, . . . , thỏa mãn Định nghĩa 1.10, và limj→∞ dj = d. Vì dj là hướng
14


tiếp tuyến, với mọi j, tồn tại k(j) sao cho
xj,k(j) − x
− dj ≤ dj − d .
τj,k(j)
Do đó
xj,k(j) − x
− d ≤ 2 dj − d .
τj,k(j)
Điều đó kéo theo rằng dãy xj,k(j) và τj,k(j) , j = 1, 2, . . ., thỏa mãn Định nghĩa
1.10 với hướng d. Vì vậy, nón TX (x) là đóng.
Các nón tiếp tuyến đóng vai trò quan trọng trong các điều kiện tối ưu
cho các bài toán tối ưu phi tuyến. Nói chung, các nón tiếp tuyến có thể không
lồi. Điều này làm cho việc phân tích các điều kiện tối ưu khó khăn. Tuy nhiên,
trong một số trường hợp đặc biệt và có ý nghĩa trong ứng dụng các nón này
là lồi.
Bổ đề 1.12. Cho X ⊂ Rn là tập lồi và x ∈ X. Khi đó
TX (x) = KX (x).
Chứng minh. Theo định nghĩa, mỗi d ∈ KX (x) là một hướng tiếp tuyến. Hơn
nữa, KX (x) là một nón lồi. Vì nón tiếp tuyến là đóng,
KX (x) ⊂ TX (x).
Nếu các tập này không bằng nhau, ta có thể tìm một hướng h ∈ TX (x)\KX (x).
Khi đó, tồn tại y = 0 sao cho y, h > 0 và y, d ≤ 0 với mọi d ∈ KX (x).
Hướng h là tiếp tuyến cho X tại x. Nếu dãy xk các điểm thuộc X và dãy
τk ↓ 0 thỏa mãn Định nghĩa 1.10 cho hướng h, ta thu được

y, h =

1 k
(x − x)
k→∞ τk

y, lim

15

1
y, xk − x .
k→∞ τk

= lim


Mỗi vectơ xk − x là một phần tử của KX (x) và do đó y, xk − x ≤ 0. Phương
trình cuối cùng biểu thị y, h ≤ 0, mâu thuẫn với giả thiết về tính chất tách
của y.

16


Chương 2
Các điều kiện chuẩn hóa ràng buộc
cho bài toán tối ưu phi tuyến tính.
Trong chương này chúng tôi sẽ chứng minh tính đúng đắn của điều kiện
Karush–Kuhn–Tucker (KKT) dưới điều kiện chuẩn hóa ràng buộc yếu nhất
(điều kiện Guignard) cho các bài toán tối ưu phi tuyến có dạng:

min f (x)
với ràng buộc g(x) ≤ 0,

(P)

h(x) = 0,
ở đó f : Rn → R, g = (gi ) : Rn → Rm và h = (hj ) : Rn → Rp là các hàm khả
vi liên tục.
Ngoài ra, chúng tôi cũng sẽ trình bày các điều kiện chuẩn hóa ràng buộc
khác đảm bảo điều kiện KKT. Mặc dù các điều kiện này mạnh hơn điều kiện
Guignard, trong thực hành chúng dễ dàng kiểm tra hơn.

17


2.1.

Điều kiện Guignard

Kí hiệu tập các điểm chấp nhận được của bài toán (P) là Ω. Cho x¯ ∈ Ω, tập
A(¯
x) được kí hiệu là tập các ràng buộc bất đẳng thức hoạt:
A(¯
x) = {i : gi (¯
x) = 0} .

(2.1)

Để đơn giản, từ nay về sau ta kí hiệu T (x) là nón tiếp tuyến của tập Ω tại
một điểm x ∈ Ω. Tập tuyến tính hóa của Ω tại điểm x¯ ∈ Ω được kí hiệu bởi

D(¯
x) = {d ∈ Rn : ∇hi (¯
x)T d = 0, i = 1, . . . , m, ∇gj (¯
x)T d ≤ 0, j ∈ A(¯
x)}.
(2.2)
Dễ dàng thấy rằng D(¯
x) là nón lồi đóng khác rỗng.
Cho x¯ ∈ Ω, ta định nghĩa tập G(¯
x) bởi



 m
µj ∇gj (¯
x) : µj ≥ 0, ∀j ∈ A(¯
x) .
λi ∇hi (¯
x) +
G(¯
x) =


i=1

(2.3)

j∈A(¯
x)

Dễ thấy rằng G(¯
x) là một nón trong Rn . Bổ đề sau chỉ ra rằng G(¯
x) là một
nón lồi đóng.
Bổ đề 2.1. Với bất kì x¯ ∈ Ω, G(¯
x) là một nón lồi đóng.
Chứng minh. Không mất tính tổng quát giả sử A(¯
x) = {1, . . . , q}. Trước hết
ta chứng minh rằng G(¯
x) là lồi. Xét s1 , s2 ∈ G(¯
x) và t ∈ [0, 1]. Khi đó tồn tại
λ, α ∈ Rm , µ, β ∈ Rq+ , sao cho
q

m

λi ∇hi (¯
x) +

s1 =
i=1

µj ∇gj (¯
x)
j=1

18


và

q

m

αi ∇hi (¯
x) +

s2 =
i=1

βj ∇gj (¯
x).
j=1

Vì vậy,
q

m

ts1 + (1 − t)s2 =

(tλi + (1 − t)αi )∇hi (¯
x) +
i=1

(tµj + (1 − t)βj )∇gj (¯
x)
j=1

Từ tµj + (1 − t)βj ≥ 0, ta kết luận rằng ts1 + (1 − t)s2 ∈ G(¯

x).
Bây giờ ta thấy rằng G(¯
x) là đóng. Xét một dãy (sk ) ⊂ G(¯
x) thỏa mãn
sk → s∗ ∈ Rn . Ta cần chứng minh rằng s∗ ∈ g(¯
x). Với ma trận B và C thích
hợp, ta có
G(¯
x) = {Bλ + Cζ : ζ ≥ 0} .
Theo Bổ đề 1.4, ta có thể giả thiết rằng D = B C có các cột độc lập tuyến
 
λk
T
k
k
 với

tính. Vì vậy, D D không suy biến. Từ (s ) ⊂ G(¯
x), tồn tại γ =
k
ζ
ζ k ≥ 0 sao cho
sk = Dγ k .

(2.4)

Từ DT D không suy biến, γ k = (DT D)−1 DT sk với ζ ∗ ≥ 0. Lấy giới hạn, ta
thu được
 
λ∗

  = γ ∗ = lim γ k = (DT D)−1 DT s∗
k→∞
ζ∗

19


với ζ ∗ ≥ 0. Lấy giới hạn trong (2.4), ta có
s∗ = Dγ ∗ ∈ G(¯
x),
điều phải chứng minh.
Bổ đề 2.2. Với mỗi x¯ ∈ Ω, ta có G(¯
x) = (D(¯
x))◦ .
Chứng minh. Từ Định lý 1.4 và Bổ đề 2.1, ta cần chỉ ra rằng D(¯
x) = (G(¯
x))◦ .
Xét d ∈ D(¯
x). Lấy s ∈ G(¯
x), ta có
m
T

λi dT ∇hi (¯
x) +

d s=
i=1

µj dT ∇gj (¯

x).

(2.5)

j∈A(¯
x)

Từ định nghĩa của D(¯
x) và từ µj ≥ 0, ta được dT s ≤ 0. Vì vậy d ∈ (G(¯
x))◦ .
Ngược lại, xét d ∈ (G(¯
x))◦ , tức là,
dT s ≤ 0,

∀s ∈ G(¯
x).

Nói riêng, từ ∇hi (¯
x) và −∇hi (¯
x) đều thuộc G(¯
x), với mọi j = 1, . . . , m,
ta có dT ∇hi (¯
x) = 0. Hơn nữa, từ ∇gj (¯
x ∈ G(¯
x), với mọi j ∈ A(¯
x), ta có
dT ∇gj (¯
x) ≤ 0. Vì vậy, d ∈ D(¯
x), điều phải chứng minh.
Bổ đề sau chỉ ra rằng T (¯

x) là một tập con của D(¯
x).
Bổ đề 2.3. Với mỗi x¯ ∈ Ω, ta có T (¯
x) ⊂ D(¯
x).
Chứng minh. Xét d ∈ T (¯
x), d = 0. Khi dó tồn tại một chuỗi (sk ) ⊂ Ω, sao
xk − x¯
d
cho xk → x¯ và k
→
. Từ tính trơn của g và h, ta có
x − x¯
d
h(xk ) = h(¯
x) + ∇h(¯
x)T (xk − x¯) + o

20

xk − x¯


và
g(xk ) = g(¯
x) + ∇g(¯
x)T (xk − x¯) + o

xk − x¯

.

Từ xk , x¯ ∈ Ω, ta có với i ∈ A(¯
x),
(xk − x¯) o xk − x¯
∇h(¯
x)
+
xk − x¯
xk − x¯

=0

(xk − x¯) o xk − x¯
∇gi (¯
x)
+
xk − x¯
xk − x¯

≤ 0.

T

và
T

Lấy các giới hạn khi k → ∞, ta thu được
∇h(¯
x)T

d
d
= 0 và ∇gi (¯
x)T
≤ 0,
d
d

với mọi i ∈ A(¯
x). Vì vậy, d ∈ D(¯
x) và ta có điều phải chứng minh.
Điều ngược lại của bổ đề trên là không đúng, ta có thể thấy trong ví
dụ sau đây.
Ví dụ 2.1. Xét hàm số h : Rn → R và g : R2 → R xác định bởi
h(x) = x1 x2

và g(x) = −x1 − x2

T

và điểm x¯ = 0 0

. Bằng các tính toán trực tiếp, ta có

T (¯
x) = d ∈ R2 : d1 ≥ 0, d2 ≥ 0, d1 d2 = 0 ,

D(¯
x) = {d ∈ Rn : −d1 − d2 ≤ 0}

và T (¯
x) = D(¯
x).
21