tính tựa chuẩn tắc, tính giả chuẩn tắc và quy tắc nhân tử lagrange

ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KHOA HỌC
DƯƠNG THỊ YẾN
TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC
VÀ QUY TẮC NHÂN TỬ LAGRANGE
CHUYÊN NGÀNH: TOÁN ỨNG DỤNG
MÃ SỐ: 60.46.36
LUẬN VĂN THẠC SĨ TOÁN HỌC
Người hướng dẫn khoa học: PGS. TS. ĐỖ VĂN LƯU
THÁI NGUYÊN - 2011
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
i
Mục lục
Mục lục . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ii
Mở đầu 1
1 ĐIỀU KIỆN CẦN FRITZ JOHN 4
1.1 KẾT QUẢ BỔ TRỢ . . . . . . . . . . . . . . . . . . . . . 4
1.2 ĐIỀU KIỆN CẦN FRITZ JOHN . . . . . . . . . . . . . . 10
1.3 NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ NHÂN TỬ
LAGRANGE MẠNH . . . . . . . . . . . . . . . . . . . . . 17
2 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ
CÁC ĐIỀU KIỆN CHÍNH QUY 29
2.1 TÍNH TỰA CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC . 29
2.2 ĐIỀU KIỆN ĐỦ CHO TÍNH GIẢ CHUẨN TẮC . . . . . 35
2.3 ĐIỀU KIỆN CẦN VÀ ĐỦ CHO TÍNH TỰA CHUẨN TẮC 38
3 HÀM PHẠT CHÍNH XÁC 43
3.1 TÍNH GIẢ CHUẨN TẮC VÀ HÀM PHẠT CHÍNH XÁC 43
3.2 BIỂU DIỄN MỞ RỘNG CỦA TẬP RÀNG BUỘC . . . 49
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
ii
3.3 CÁC VÍ DỤ . . . . . . . . . . . . . . . . . . . . . . . . . 50

Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . 57
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
1
Mở đầu
Lí thuyết các điều kiện tối ưu là một bộ phận quan trọng của lí thuyết
các bài toán cực trị. Các quy tắc nhân tử Lagrange đã và đang thu hút
được sự quan tâm nghiên cứu của nhiều tác giả.
Thông thường người ta thiết lập các điều kiện cần tối ưu kiểu Fritz
John và từ đó dẫn các điều kiện cần tối ưu kiểu Kuhn-Tucker với các điều
kiện chính quy khác nhau. Các điều kiện cần tối ưu có thể dẫn bằng cách
thiết lập các định lí luân phiên làm công cụ trên cơ sở sử dụng các định lí
tách các tập lồi hoặc bằng phương pháp hàm phạt chính xác. Các nhân tử
Lagrange với một vài tính chất phụ sẽ hữu ích trong nghiên cứu tính chất
của nghiệm tối ưu.
Năm 2002, D. P. Bertsekas và A. E. Ozdaglar [3] đã thiết lập quy tắc
nhân tử Lagrange kiểu Fritz John, trong đó các nhân tử Lagrange có thêm
một tính chất phụ (tính chất (CV)). Ba loại nhân tử Lagrange được nghiên
cứu bao gồm các vectơ nhân tử Lagrange có thông tin, mạnh và tối thiểu.
Các điều kiện chính quy tổng quát về tính tựa chuẩn tắc và tính giả chuẩn
tắc của điểm chấp nhận được được đưa vào để đảm bảo sự khác 0 của nhân
tử Lagrange ứng với hàm mục tiêu. Việc tiếp cận bằng phương pháp hàm
phạt chính xác tỏ ra hiệu quả dưới các điều kiện về tính tựa chuẩn tắc và
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
2
tính giả chuẩn tắc.
Luận văn trình bày các kết quả của Bertsekas và Ozdaglar [3] về lí thuyết
các nhân tử Lagrange của bài toán tối ưu có các ràng buộc đẳng thức, bất
đẳng thức và ràng buộc tập với các điều kiện chính quy tổng quát về tính
tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm tối ưu.

Luận văn bao gồm phần mở đầu, ba chương, kết luận và danh mục các
tài liệu tham khảo.
Chương 1 trình bày điều kiện cần kiểu Fritz John với các nhân tử La-
grange có thêm tính chất (CV). Ba loại vectơ nhân tử Lagrange được
nghiên cứu bao gồm các vectơ nhân tử Lagrange có thông tin, mạnh và tối
thiểu. Mối quan hệ giữa các loại vectơ nhân tử Lagrange này được trình
bày cho trường hợp nón tiếp tuyến lồi.
Chương 2 trình bày các điều kiện chính quy tổng quát đảm bảo nhân
tử Lagrange ứng với hàm mục tiêu khác 0. Đó là các điều kiện chính quy
về tính tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm. Chú ý rằng điều
kiện giả chuẩn tắc mạnh hơn điều kiện tựa chuẩn tắc. Một trong các điều
kiện chính quy (CQ1) -(CQ6) đúng thì điều kiện giả chuẩn tắc đúng.
Chương 3 trình bày cách tiếp cận bằng phương pháp hàm phạt chính
xác. Kết quả chỉ ra rằng điều kiện giả chuẩn tắc kéo theo sự thừa nhận
một hàm phạt chính xác. Trong trường hợp nón pháp tuyến lồi thì điều
kiện tựa chuẩn tắc cũng kéo theo sự thừa nhận một hàm phạt chính xác.
Nếu tập ràng buộc là chính quy thì việc thừa nhận một hàm phạt chính
xác kéo theo sự thừa nhận các nhân tử Lagrange.
Nhân dịp này tôi xin bày tỏ lòng biết ơn sâu sắc tới thầy giáo PGS.TS
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
3
Đỗ Văn Lưu, người đã tận tình hướng dẫn, giúp đỡ tôi hoàn thành bản
luận văn này.
Tôi xin chân thành cảm ơn Ban chủ nhiệm khoa toán, Phòng đào tạo
sau đại học trường Đại học Khoa học - Đại học Thái Nguyên cùng các
thầy cô giáo đã tham gia giảng dạy khoá học.
Xin chân thành cảm ơn gia đình, bạn bè đồng nghiệp và các thành viên
trong lớp cao học toán K3 đã luôn quan tâm, động viên, giúp đỡ tôi trong
suốt thời gian học tập và quá trình làm luận văn.
Thái Nguyên, tháng 5 năm 2011

Dương thị Yến
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
4
Chương 1
ĐIỀU KIỆN CẦN FRITZ JOHN
Chương 1 trình bày điều kiện cần Fritz John với các nhân tử Lagrange
có thêm tính chất (CV). Các vectơ nhân tử Lagrange có thông tin, mạnh
và tối thiểu được trình bày cùng với mối quan hệ của chúng. Các kết quả
trong chương này là của Bertsekas-Ozdaglar [3].
1.1 KẾT QUẢ BỔ TRỢ
Xét bài toán tối ưu có dạng
Min
x∈C
f(x), (1.1)
trong đó, tập ràng buộc C bao gồm các ràng buộc đẳng thức, ràng buộc
bất đẳng thức và ràng buộc tập trừu tượng.
C = X ∩ {x|h
1
(x) = 0, . . . , h
m
(x) = 0} ∩ {x|g
1
(x) ≤ 0, . . . , g
r
(x) ≤ 0}
(1.2)
Giả sử f, h
i
, g
j

là các hàm trơn (khả vi liên tục) từ R
n
vào R; X là tập
đóng, khác rỗng trong R
n
. Tất cả các vectơ được xem như các vectơ cột,
dấu " ’ " kí hiệu phép chuyển vị, x

y là kí hiệu tích vô hướng của hai vectơ
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
5
x và y. Ta dùng chuẩn Euclide
||x|| = (x

x)
1
2
.
Nhắc lại: Vectơ y là tiếp tuyến của tập S ⊂ R
n
tại x ∈ S nếu y = 0 hoặc
tồn tại một dãy con {x
k
} ⊂ S sao cho x
k
= x với mọi k và
x
k
→ x,
(x

k
− x)
||x
k
− x||
→
y
||y||
.
Một cách tương đương là: Tồn tại dãy con {x
k
} ⊂ S, với x
k
→ x và dãy
số dương {α
k
} sao cho α
k
→ 0 và
x
k
− x
α
k
→ y.
Tập hợp tất cả các tiếp tuyến của S tại x được kí hiệu là T
S
(x) và được
gọi là nón tiếp tuyến của S tại x.
Nón cực của nón T được xác định bởi

T
∗
= {z|z

y ≤ 0, y ∈ T }.
Với nón T = ∅, ta luôn có T ⊂ (T
∗
)
∗
. Dấu "=" xảy ra nếu T là tập lồi
đóng.
Với tập X đóng và điểm x ∈ X, ta kí hiệu nón pháp tuyến của X
tại x là N
X
(x), N
X
(x) nhận được từ T
X
(x)
∗
qua một phép lấy bao đóng:
z ∈ N
X
(x) nếu tồn tại dãy con {x
k
} ⊂ X và {z
k
} sao cho x
k
→ x, z

k
→ z
và z
k
∈ T
X
(x
k
)
∗
với mọi k. Một cách tương đương, đồ thị của N
X
(.), mà
ta xem như một ánh xạ đa trị {(x, z)|z ∈ N
X
(x)}, là bao đóng của đồ thị
của T
X
(.)
∗
. Nói chung, ta có T
X
(x)
∗
⊂ N
X
(x), với bất kỳ x ∈ X.
Tuy nhiên, N
X
(x) có thể không bằng T

X
(x)
∗
, và có thể không lồi.
Khi T
X
(x)
∗
= N
X
(x), ta nói X là chính quy tại x. Hai tính chất quan trọng
của tính chính quy là (xem [10]):
(i) Nếu X là lồi thì chính quy tại mỗi x ∈ X;
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
6
(ii) Nếu X là chính quy tại x nào đó ∈ X thì T
X
(x) là lồi.
Một điều kiện cần cổ điển để vectơ x
∗
∈ C là cực tiểu địa phương của f
trên C là:
f(x
∗
)

y ≥ 0, ∀y ∈ T
C
(x
∗

), (1.3)
trong đó T
C
(x
∗
) là nón tiếp tuyến của C tại x
∗
.
Trong trường hợp C được biểu diễn bởi các ràng buộc đẳng thức và bất
đẳng thức ta nhận được các nhân tử Lagrange.
Ta nói rằng tập ràng buộc C (1.2) nhận các nhân tử Lagrange tại điểm
x
∗
∈ C nếu với mọi hàm mục tiêu trơn f mà x
∗
là cực tiểu địa phương
của bài toán (1.1), tồn tại các vectơ λ
∗
= (λ
∗
1
, . . . , λ
∗
m
) và µ
∗
= (µ
∗
1
, . . . , µ

∗
r
)
thỏa mãn các điều kiện sau:
[∇f(x
∗
) +
m

i=1
λ
∗
i
∇h
i
(x
∗
) +
r

j=1
µ
∗
j
∇g
j
(x
∗
)]


y ≥ 0, ∀y ∈ T
X
(x
∗
), (1.4)
µ
∗
j
≥ 0, ∀j = 1, . . . , r. (1.5)
µ
∗
j
= 0, ∀j /∈ A(x
∗
), (1.6)
trong đó
A(x
∗
) = {j|g
j
(x
∗
) = 0}
là tập các chỉ số ràng buộc bất đẳng thức tích cực tại x
∗
.
Điều kiện (1.6) gọi là điều kiện bù (gọi tắt là (CS)). Cặp (λ
∗
, µ
∗

) thoả
mãn (1.4) - (1.6) gọi là vectơ nhân tử Lagrange tương ứng với f và x
∗
. Tập
hợp các vectơ nhân tử Lagrange tương ứng với f và x
∗
là tập đóng và lồi
(có thể là tập rỗng). Điều kiện (1.4) tương thích với tính chất đặc trưng
cổ điển của nhân tử Lagrange: biểu hiện ở tính dừng của hàm Lagrange
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
7
tại x
∗
. Khi X là tập lồi, (1.4) tương đương với
[∇f(x
∗
) +
m

i=1
λ
∗
i
∇h
i
(x
∗
) +
r


j=1
µ
∗
j
∇g
j
(x
∗
)]

(x − x
∗
) ≥ 0, ∀x ∈ X. (1.7)
Bởi vì khi X là lồi, T
X
(x
∗
) là bao đóng của tập các phương chấp nhận được
F
X
(x
∗
), các vectơ đó có dạng α(x − x
∗
) với α > 0 và x ∈ X.
Nếu X = R
n
thì (1.7) có dạng
[f(x
∗

) +
m

i=1
λ
∗
i
 h
i
(x
∗
) +
r

j=1
µ
∗
j
 g
j
(x
∗
)] = 0,
với điều kiện (1.5) và (1.6).
Khi X = R
n
, với hàm trơn f mà x
∗
là cực tiểu địa phương của nó, tồn
tại nhân tử Lagrange khi và chỉ khi

f(x
∗
)

y ≥ 0, ∀y ∈ V (x
∗
),
trong đó V (x
∗
) là nón các biến phân chấp nhận được cấp một tại x
∗
, được
cho bởi
V (x
∗
) = {y|  h
i
(x
∗
)

y = 0, i = 1, . . . , m, g
j
(x
∗
)

y ≤ 0, j ∈ A(x
∗
)}.

Từ đó suy ra tập ràng buộc thừa nhận nhân tử Lagrange tại x
∗
nếu
T
C
(x
∗
) = V (x
∗
). Trong trường hợp này ta nói rằng x
∗
là tựa chính quy hay
tính tựa chính quy đúng tại x
∗
. Bởi vì tính tựa chính quy là trừu tượng,
cho nên ta cho các điều kiện thừa nhận các nhân tử Lagrange dễ kiểm
chứng hơn. Các điều kiện như vậy được gọi là các điều kiện chính quy.
Một số điều kiện chính quy thường dùng:
(CQ1) X = R
n
và x
∗
là điểm chính quy theo nghĩa là gradients của ràng
buộc bất đẳng thức h
i
(x
∗
), i = 1, . . . , m và gradients của ràng buộc
bất đẳng thức tích cực g
j

(x
∗
), j ∈ A(x
∗
), là độc lập tuyến tính.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
8
(CQ2) X = R
n
, các gradients của ràng buộc đẳng thức h
i
(x
∗
), i =
1, . . . , m là độc lập tuyến tính, và tồn tại y ∈ R
n
sao cho
h
i
(x
∗
)

y = 0, i = 1, . . . , m,
g
j
(x
∗
)


y ≤ 0, ∀j ∈ A(x
∗
).
Đây là điều kiện chính quy Mangasarian-Fromovitz.
(CQ3) X = R
n
, hàm h
i
là tuyến tính và g
j
là lõm.
Tất cả điều kiện chính quy ở trên đều kéo theo điều kiện tựa chính quy
T
C
(x
∗
) = V (x
∗
) và do đó kéo theo: tập ràng buộc thừa nhận các nhân tử
Lagrange (xem [4]). Đó là cách tiếp cận cổ điển cho trường hợp X = R
n
.
Tuy nhiên, có cách tiếp cận khác để nhận được các nhân tử Lagrange
dựa vào hàm phạt chính xác. Cụ thể, ta nói rằng tập ràng buộc C thừa
nhận hàm phạt chính xác tại điểm chấp nhận được x
∗
nếu với mọi hàm
trơn f mà x
∗
là cực tiểu địa phương chặt của f trên C, tồn tại số c > 0

sao cho x
∗
cũng là cực tiểu địa phương của hàm F
C
(x) trên X, trong đó
F
C
(x) = f(x) + c[
m

i=1
|h
i
(x)| +
r

j=1
g
+
j
(x)],
với
g
+
j
(x) = max{0, g
j
(x)}.
Lưu ý, việc thừa nhận nhân tử Lagrange, thừa nhận hàm phạt chính xác
là tính chất của tập ràng buộc C không phụ thuộc vào hàm mục tiêu f

của bài toán (1.1).
Không mất tính chất tổng quát ta có thể giả sử x
∗
là cực tiểu địa phương
chặt bởi vì khi thay hàm mục tiêu f(x) bằng hàm f(x) + ||x − x
∗
||
2
không
làm ảnh hưởng đến nhân tử Lagrange của bài toán.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
9
Hai điểm quan trọng minh họa ý nghĩa của hàm phạt chính xác như là
phương tiện thống nhất đảm bảo việc thừa nhận các nhân tử Lagrange là
a) Nếu X là lồi và tập ràng buộc thừa nhận hàm phạt chính xác tại x
∗
thì nó cũng thừa nhận các nhân tử Lagrange tại x
∗
(xem [5]).
b) Tất cả các điều kiện chính quy (CQ1) - (CQ3) ở trên kéo theo C
thừa nhận hàm phạt chính xác ( xem [9], [11], [2]).
Hình 1.1 tóm tắt mối quan hệ trên cho trường hợp X = R
n
.
Hai khái niệm tựa chính quy và thừa nhận hàm phạt chính xác có vẻ
như không liên quan trực tiếp với nhau, nhưng thực ra chúng liên quan với
nhau qua khái niệm tính giả chuẩn tắc của ràng buộc và tính tựa chuẩn
tắc của ràng buộc.
Khi X là tập con thực sự của R
n

, Guignard [7] chỉ ra rằng tập ràng
buộc thừa nhận nhân tử Lagrange tại x
∗
nêú
V (x
∗
) ∩ conv(T
X
(x
∗
)) = conv(T
C
(x
∗
)), (1.8)
và nếu tổng vectơ V (x
∗
)
∗
+ T
X
(x
∗
)
∗
là một tập đóng, trong đó conv(S) là
bao đóng của bao lồi của tập S. Điều kiện Guignard tương đương với
V (x
∗
)

∗
+ T
X
(x
∗
)
∗
= T
C
(x
∗
)
∗
.
Đặc biệt, khi X = R
n
ta có
T
X
(x
∗
) = R
n
, T
X
(x
∗
)
∗
= {0},

và điều kiện (1.8) trở thành
V (x
∗
) = conv(T
C
(x
∗
)) [hoặc V (x
∗
)
∗
= T
C
(x
∗
)
∗
].
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
10
Hình 1.1: Các đặc trưng của tập ràng buộc C kéo theo sự thừa nhận các nhân tử Lagrange
trong trường hợp X = R
n
1.2 ĐIỀU KIỆN CẦN FRITZ JOHN
Các điều kiện cần tối ưu Fritz John thường là điểm xuất phát trong việc
phân tích các nhân tử Lagrange. Nhưng những điều kiện này không đủ để
suy ra sự thừa nhận các nhân tử Lagrange dưới một điều kiện chính quy
nào đó, chẳng hạn khi X = R
n
và hàm ràng buộc h

i
và g
j
là tuyến tính.
Định lí dưới đây xét trường hợp tập X không lồi.
Định lí 1.1
Giả sử x
∗
là cực tiểu địa phương của bài toán (1.1)-(1.2). Khi đó, tồn
tại các số µ
∗
0
, λ
∗
1
, . . . , λ
∗
m
và µ
∗
1
, . . . , µ
∗
r
thoả mãn các điều kiện sau:
(i) −[µ
∗
0
∇f(x
∗

) +
m

i=1
λ
∗
i
∇h
i
(x
∗
) +
r

j=1
µ
∗
j
∇g
j
(x
∗
)] ∈ N
X
(x
∗
),
(ii) µ
∗
j

≥ 0 với mọi j = 0, 1, . . . , r,
(iii) µ
∗
0
, λ
∗
1
, . . . , λ
∗
m
, µ
∗
1
, . . . , µ
∗
r
không đồng thời bằng 0,
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
11
(iv) Nếu tập chỉ số I ∪J = ∅ trong đó I = {i|λ
∗
i
= 0}, J = {j = 0|µ
∗
j
> 0},
thì tồn tại dãy {x
k
} ⊂ X hội tụ tới x
∗

sao cho với mọi k,
f(x
k
) < f(x
∗
), λ
∗
i
h
i
(x
k
) > 0, ∀i ∈ I, µ
∗
j
g
j
(x
k
) > 0, ∀j ∈ J,
(1.9)
|h
i
(x
k
)| = o(w(x
k
)), ∀i ∈ I, g
+
j

(x
k
) = o(w(x
k
)), ∀j ∈ J, (1.10)
trong đó
w(x
k
) = min{min
i∈I
|h
i
(x)|, min
j∈J
g
+
j
(x)}. (1.11)
Chứng minh
Dùng hàm phạt bậc hai:
Với mỗi k = 1, 2, . . . xét bài toán sau:
min F
k
(x) ≡ f(x) +
k
2
m

i=1
(h

i
(x))
2
+
k
2
m

j=1
(g
+
j
(x))
2
+
1
2
||x − x
∗
||
2
,
x ∈ X ∩ S,
trong đó S = {x|||x − x
∗
|| ≤ ε}, và số ε > 0 sao cho f(x
∗
) ≤ f(x) với mọi
x chấp nhận được và x ∈ S.
Vì X ∩S là compact, theo định lí Weierstrass, ta có thể chọn một nghiệm

tối ưu x
k
của bài toán trên. Với mọi k, ta có
f(x
k
) +
k
2
m

i=1
(h
i
(x
k
))
2
+
k
2
r

j=1
(g
+
j
(x
k
))
2

+
1
2
||x
k
− x
∗
||
2
= F
k
(x
k
) ≤ F
k
(x
∗
) = f(x
∗
), (1.12)
và do f(x
k
) bị chặn trên X ∩ S, ta nhận được
lim
k→∞
|h
i
(x
k
)| = 0, i = 1, . . . , m,

lim
k→∞
|g
+
j
(x
k
)| = 0, j = 1, . . . , r,
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
12
bởi vì nếu không, vế trái của (1.12) không bị chặn trên khi k → ∞. Vì thế,
mọi điểm giới hạn x của {x
k
} là chấp nhận được, tức là x ∈ C. Hơn nữa,
từ (1.12) ta có
f(x
k
) +
1
2
||x
k
− x
∗
||
2
≤ f(x
∗
), ∀k.
Lấy giới hạn khi k → ∞ ta nhận được

f(x) +
1
2
||x − x
∗
||
2
≤ f(x
∗
).
Bởi vì x ∈ S và x chấp nhận được ta có f(x
∗
) ≤ f(x). Kết hợp với bất
đẳng thức trên ta có ||x − x
∗
|| = 0 nên x = x
∗
. Như vậy, dãy {x
k
} hội tụ
tới x
∗
và do đó x
k
là điểm trong của hình cầu đóng S với mọi k lớn hơn k.
Với k ≥ k, theo điều kiện cần (1.3) ta có
∇F
k
(x
k

)

y ≥ 0, ∀y ∈ T
X
(x
k
).
Một cách tương đương,
−∇F
k
(x
k
) ∈ T
X
(x
k
)
∗
.
Từ đó ta có
−[∇f(x
k
) +
m

i=1
ξ
k
i
∇h

i
(x
k
) +
r

j=1
ζ
k
j
∇g
j
(x
k
) + (x
k
− x
∗
)] ∈ T
X
(x
k
)
∗
, (1.13)
trong đó
ξ
k
i
= kh

i
(x
k
), ζ
k
j
= kg
+
j
(x
k
). (1.14)
Kí hiệu
σ
k
=




1 +
m

i=1
(ξ
k
i
)
2
+

r

j=1
(ζ
k
j
)
2
, (1.15)
µ
k
0
=
1
σ
k
, λ
k
i
=
ξ
k
i
σ
k
, i = 1, . . . , m, µ
k
j
=
ζ

k
j
σ
k
, j = 1, . . . , r. (1.16)
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
13
Chia (1.13) cho σ
k
ta được
−[µ
k
0
∇f(x
k
) +
m

i=1
λ
k
i
∇h
i
(x
k
) +
r

j=1

µ
k
j
∇g
j
(x
k
) +
1
σ
k
(x
k
− x
∗
)] ∈ T
X
(x
k
)
∗
.
(1.17)
Ta có
(µ
k
0
)
2
+

m

i=1
(λ
k
i
)
2
+
r

j=1
(µ
k
j
)
2
= 1, (1.18)
dãy con {µ
k
0
, λ
k
1
, . . . , λ
k
m
, µ
k
1

, . . . , µ
k
r
} là bị chặn và chứa một dãy con hội
tụ tới {µ
∗
0
, λ
∗
1
, . . . , λ
∗
m
, µ
∗
1
, . . . , µ
∗
r
}. Từ (1.17) và tính chất của nón pháp
tuyến N
X
(x
∗
)[x
k
→ x
∗
, {x
k

} ⊂ X, z
k
→ z
∗
và z
k
∈ T
X
(x
k
)
∗
(với mọi k) thì
z
∗
∈ N
X
(x
∗
)], ta có µ
∗
0
, λ
∗
i
, µ
∗
j
phải thoả mãn điều kiện (i).
Từ (1.14) và (1.16) ta suy ra µ

∗
0
, µ
∗
j
thoả mãn (ii).
Từ (1.18) ta thấy µ
∗
0
, λ
∗
i
, µ
∗
j
phải thoả mãn (iii).
Cuối cùng, ta chỉ ra điều kiện (iv) thoả mãn: Giả sử I ∪ J = ∅. Chú ý
rằng với mọi k đủ lớn trong tập chỉ số K của dãy con hội tụ, ta có
λ
∗
i
λ
k
i
> 0 với mọi i ∈ I và µ
∗
j
µ
k
j

> 0 với mọi j ∈ J.
Vì thế, với mỗi k như vậy từ (1.14) và (1.16) ta có
λ
∗
i
h
i
(x
k
) > 0 với mọi i ∈ I, và µ
∗
j
g
j
(x
k
) > 0 với mọi j ∈ J.
Từ (1.12) ta có f(x
k
) < f(x
∗
), với k đủ lớn.
Hơn nữa, các điều kiện
|h
i
(x
k
)| = o(ω(x
k
)), ∀i /∈ I,

g
+
j
(x
k
) = o(ω(x
k
)), ∀j /∈ J
tương ứng với
|λ
k
i
| = o(min{min
i∈I
|λ
k
i
|, min
j∈J
µ
k
j
}), ∀i ∈ I,
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
14
và
µ
k
j
= o(min{min

i∈I
|λ
k
i
|, min
j∈J
µ
k
j
}), ∀j ∈ J.
Vì vậy điều kiện này đúng với mọi k ∈ K. Vậy điều kiện (iv) được chứng
minh. 
Nhận xét 1.1
Nếu X chính quy tại x
∗
, tức là N
X
(x
∗
) = T
X
(x
∗
)
∗
, thì điều kiện (i) của
Định lí 1.1 có dạng
−[µ
∗
0

∇f(x
∗
) +
m

i=1
λ
∗
i
∇h
i
(x
∗
) +
r

j=1
µ
∗
j
∇g
j
(x
∗
)] ∈ T
X
(x
∗
)
∗

,
hoặc
[µ
∗
0
∇f(x
∗
) +
m

i=1
λ
∗
i
∇h
i
(x
∗
) +
r

j=1
µ
∗
j
∇g
j
(x
∗
)]


y ≥ 0, ∀y ∈ T
X
(x
∗
).
Hơn nữa, nếu µ
∗
o
> 0 thì bằng cách chuẩn hoá ta có thể chọn µ
∗
o
= 1, và
khi đó điều kiện (i) của Định lí 1.1 tương đương với điều kiện (1.4).
Vậy nếu X chính quy tại x
∗
và µ
∗
o
= 1 thì vectơ
(λ
∗
, µ
∗
) = {λ
∗
1
, . . . , λ
∗
m

, µ
∗
1
, . . . , µ
∗
r
}
là vectơ nhân tử Lagrange, thoả mãn điều kiện (iv) của Định lí 1.1.
Ta thấy điều kiện này mạnh hơn điều kiện (CS)(1.6). Ta gọi điều kiện
(iv) là điều kiện (CV).
Để minh họa cách sử dụng các điều kiện Fritz John tổng quát của Định
lí 1.1 và điều kiện (CV), ta xét ví dụ sau
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
15
Ví dụ 1.1
Giả sử ta chuyển bài toán với ràng buộc đẳng thức
min
h(x)=0
f(x),
thành bài toán với ràng buộc bất đẳng thức:














min f(x),
h(x) ≤ 0,
−h(x) ≤ 0.
Điều kiện Fritz John khẳng định tồn tại các nhân tử không âm µ
∗
0
, λ
+
, λ
−
không đồng thời bằng 0 sao cho
µ
∗
0
∇f(x
∗
) + λ
+
∇h(x
∗
) − λ
−
∇h(x
∗
) = 0. (1.19)
Điều kiện (CS) có dạng:
λ

+
h(x
∗
) = λ
−
h(x
∗
) = 0
µ
∗
0
= 0 và λ
+
= λ
−
> 0.
Tuy nhiên, các nhân tử này không thoả mãn điều kiện (CV) của Định lí
1.1. Nếu µ
∗
0
= 0 thì λ
+
= 0 và λ
−
= 0 hoặc λ
+
= 0 và λ
−
= 0.
Giả sử ∇h(x

∗
) = 0, (1.19) sẽ không đúng. Vì vậy, µ
∗
0
> 0. Chia (1.19) cho
µ
∗
0
ta nhận được
∇f(x
∗
) + λ
∗
∇h(x
∗
) = 0, với λ
∗
=
λ
+
− λ
−
µ
∗
0
,
với giả thiết ∇h(x
∗
) = 0.
Nếu ta có thể lấy µ

∗
0
= 1 trong Định lí 1.1 cho các hàm trơn mà x
∗
là
cực tiểu địa phương, và X là chính quy tại x
∗
thì tập ràng buộc C thừa
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
16
nhận các nhân tử Lagrange thoả mãn điều kiện (CV) mạnh hơn thay thế
cho điều kiện (CS).Vectơ nhân tử Lagrange(λ
∗
, µ
∗
) thỏa mãn (1.4) - (1.6)
và điều kiện (CV) (Điều kiện (iv) của Định lí 1.1) được gọi là vectơ nhân
tử Lagrange có thông tin.
Vectơ nhân tử Lagrange được gọi là mạnh nếu thỏa mãn (1.4) - (1.6) và
điều kiện sau
(iv’) Nếu tập I ∪ J = ∅, trong đó
I = {i|λ
∗
i
= 0} và J = {j = 0|µ
∗
i
> 0},
thì với mọi lân cận B của x
∗

, tồn tại dãy {x
k
} ⊂ X hội tụ tới x
∗
sao cho
với mọi k,
f(x
k
) < f(x
∗
), λ
∗
i
h
i
(x
k
) > 0, ∀i ∈ I, g
j
(x
k
) > 0, ∀j ∈ J. (1.20)
Điều kiện này tương tự điều kiện (CV) nhưng yếu hơn. Các nhân tử
Lagrange có thông tin là nhân tử Lagrange mạnh. Chiều ngược lại không
đúng.
Ta quan tâm đến việc loại bỏ các ràng buộc mà nhân tử Lagrange bằng
0, và các vectơ nhân tử Lagrange mà có số thành phần khác 0 tối thiểu
(giá tối thiểu).Các vectơ nhân tử Lagrange đó được gọi là tối thiểu. Nó
có giá I ∪ J không bao hàm thực sự trong giá của bất kì vectơ nhân tử
Lagrange nào khác. Các nhân tử Lagrange tối thiểu không nhất thiết là

nhân tử Lagrange thông tin.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
17
Hình 1.2: Mối quan hệ giữa các dạng khác nhau của nhân tử Lagrange khi giả thiết T
X
(x
∗
)
lồi (chẳng hạn khi X chính quy tại x
∗
)
1.3 NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ
NHÂN TỬ LAGRANGE MẠNH
Định lí sau chỉ ra mối quan hệ giữa các dạng khác nhau của nhân tử
Lagrange (xem hình 1.2).
Định lí 1.2
Giả sử x
∗
là cực tiểu địa phương của bài toán (1.1)-(1.2). Giả sử nón
tiếp tuyến T
X
(x
∗
) là lồi và tập các nhân tử Lagrange là khác rỗng. Khi đó,
(a) Tập hợp các vectơ nhân tử Lagrange có thông tin là khác rỗng và vectơ
nhân tử Lagrange có chuẩn nhỏ nhất là có thông tin.
(b) Mọi vectơ nhân tử Lagrange tối thiểu là mạnh.
Chứng minh
(a) Ta tóm tắt bản chất của việc chứng minh trong bổ đề sau
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

18
Bổ đề 1.1
Giả sử N là nón lồi, đóng trong R
n
, và a
0
, a
1
, . . . , a
r
là các vectơ trong
R
n
. Giả sử tập lồi đóng M ⊂ R
r
được cho bởi
M = {µ ≥ 0| − (a
0
+
r

j=1
µ
j
a
j
) ∈ N} = ∅.
Khi đó, tồn tại dãy con {d
k
} ⊂ N

∗
sao cho
a

0
d
k
→ −||µ
∗
||
2
, (1.21)
(a

j
d
k
)
+
→ µ
∗
j
, j = 1, . . . , r, (1.22)
trong đó µ
∗
là vectơ có chuẩn nhỏ nhất trong M.
Chứng minh
Với mỗi γ ≥ 0, xét hàm
L
γ

(d, µ) = (a
0
+
r

j=1
µ
j
a
j
)

d + γ||d|| −
1
2
||µ||
2
.
Chứng minh sẽ xoay quanh các tính chất điểm yên ngựa của hàm lồi - lõm
L
0
. Nhưng để dẫn các tính chất này, ta làm việc với dạng γ - nhiễu và bức
L
γ
của nó (γ > 0). Sau đó ta lấy giới hạn khi γ → 0. Trước hết ta chứng
minh: với γ > 0, L
γ
(d, µ) có điểm yên ngựa trên d ∈ N
∗
và µ ≥ 0.

Với µ ≥ 0 cố định L
γ
(., µ) là lồi với d ∈ N
∗
và nếu µ ∈ M, ta có
(a
0
+
r

j=1
µ
j
a
j
)

d ≥ 0, ∀d ∈ N
∗
.
Do đó,
L
γ
(d, µ) ≥ γ||d|| −
1
2
||µ||
2
, ∀d ∈ N
∗

.
Vì vậy L
γ
(., µ) là bức trên N
∗
. Với d ∈ N
∗
, ta cũng có L
γ
(d, .) là lõm
và −L
γ
(d, .) là bức với µ ∈ R
r
. Từ một kết quả của Hiriart-Urruty và
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
19
Lemarechal [8], với mỗi γ > 0, tồn tại điểm yên ngựa (d
γ
, µ
γ
) của L
γ
trên
d ∈ N
∗
và µ ≥ 0 thoả mãn
L
γ
(d

γ
, µ
γ
) = max
µ≥0
L
γ
(d
γ
, µ)
= min
d∈N
∗
L
γ
(d, µ
γ
)
= max
µ≥0
min
d∈N
∗
L
γ
(d, µ). (1.23)
Từ (1.23) ta có
L
γ
(d

γ
, µ
γ
) = max
µ≥0
L
γ
(d
γ
, µ)
= a

0
d
γ
+ γ||d
γ
|| + max
µ≥0
{(
r

j=1
µ
j
a
j
)

d

γ
−
1
2
||µ||
2
}.
Giá trị max trong vế phải đạt được khi µ
j
= (a

j
d
γ
)
+
với mọi j. Ta có
L
γ
(d
γ
, µ
γ
) = a

0
d
γ
+ γ||d
γ

|| +
1
2
r

j=1
((a

j
d
γ
)
+
)
2
, (1.24)
µ
γ
= [(a

1
d
γ
)
+
, . . . , (a

r
d
γ

)
+
]

. (1.25)
Từ (1.23) ta cũng có
L
γ
(d
γ
, µ
γ
) = q
γ
(µ
γ
) −
1
2
||µ
γ
||
2
= max
µ≥0
{q
γ
(µ) −
1
2

||µ||
2
}, (1.26)
trong đó q
γ
(µ) = inf
d∈N
∗
{(a
0
+
r

j=1
µ
j
a
j
)

d + γ||d||}.
Để tính q
γ
(µ), ta đặt: b = −(a
0
+
r

j=1
µ

j
a
j
) và ta sử dụng phép biến đổi:
d = α.ξ trong đó α ≥ 0 và ||ξ|| = 1.
Ta có
q
γ
(µ) = inf
α≥0,||ξ||≤1,ξ∈N
∗
{α(γ − b

.ξ)} (1.27)
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
20
=







0, nếu max
||ξ||≤1,ξ∈N
∗
b

.ξ ≤ γ,

−∞, nếu ngược lại.
Ta sẽ chỉ ra rằng: max
||ξ||≤1,ξ∈N
∗
b

ξ ≤ γ nếu và chỉ nếu
b ∈ N + S(0, γ), (1.28)
trong đó S(0, γ) là hình cầu đóng bán kính γ và tâm tại gốc.
Thật vậy, nếu
b ∈ N + S(0, γ),
thì
b =
ˆ
b +
¯
b
với
ˆ
b ∈ N và ||
¯
b|| ≤ γ.
Từ đó, với mọi ξ ∈ N
∗
và ||ξ|| ≤ 1, ta có
ˆ
b

ξ ≤ 0
và

¯
b

ξ ≤ γ.
Do đó,
b

ξ =
ˆ
b

ξ +
¯
b

ξ ≤ γ.
Từ đó ta nhận được
max
||ξ||≤1,ξ∈N
∗
b

ξ ≤ γ.
Ngược lại, giả sử b

ξ ≤ γ, với mọi ξ ∈ N
∗
và ||ξ|| ≤ 1.
Nếu b ∈ N thì b ∈ N + S(0, γ).
Nếu b ∈ N thì gọi

¯
b là hình chiếu của b trên N và đặt
¯
b = b −
ˆ
b.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
21
Vì N là nón lồi, nên vectơ
¯
b khác không thuộc N
∗
là trực giao với
ˆ
b. Bởi
vì vectơ ξ =
¯
b
||
¯
b||
thuộc N
∗
và thoả mãn ||ξ|| ≤ 1, ta có
γ ≥ b

ξ,
hoặc tương đương với
γ ≥ (
ˆ

b +
¯
b)

(
b
||b||
) = ||b||.
Vì vậy,
b =
ˆ
b +
¯
b,
với
ˆ
b ∈ N và ||
¯
b|| ≤ γ. Từ đó b ∈ N +S(0, γ). Vậy (1.28) được chứng minh.
Như vậy, ta đã chỉ ra rằng
q
γ
(µ) =








0, nếu − (a
0
+
r

j=1
µ
j
a
j
) ∈ N + S(0, γ),
−∞, nếu ngược lại.
(1.29)
Kết hợp với (1.26) ta nhận được µ
γ
là vectơ có chuẩn nhỏ nhất trên tập
M
γ
= {µ ≥ 0| − (a
0
+
r

j=1
µ
j
a
j
) ∈ N + S(0, γ)}.
Hơn nữa, từ (1.26) và (1.29) ta có

L
γ
(d
γ
, µ
γ
) = q
γ
(µ
γ
) −
1
2
||µ
γ
||
2
.
Do đó, từ (1.24) và (1.25) ta nhận được
a

0
d
γ
+ γ||d
γ
|| = −||µ
γ
||
2

. (1.30)
Lấy giới hạn khi γ → 0 ta có µ
γ
→ µ
∗
.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
22
Thật vậy, do µ
∗
∈ M
γ
ta có ||µ
γ
|| ≤ ||µ
∗
||, cho nên {µ
γ
|γ > 0} bị chặn.
Gọi ¯µ là điểm giới hạn của µ
γ
, và chú ý rằng ¯µ ≥ 0 và ||µ
γ
|| ≤ ||µ
∗
||, ta có
−
r

j=1

µ
γ
j
a
j
= a
0
+ v
γ
+ s
γ
,
với v
γ
nào đó ∈ N và s
γ
nào đó ∈ S(0, γ). Lấy giới hạn khi γ → 0 theo
dãy con ta có v
γ
hội tụ tới ¯v ∈ N khi γ → 0, và
−
r

j=1
¯µ
j
a
j
= a
0

+ ¯v.
Ta có ¯µ ∈ M, và bởi vì ||¯µ|| ≤ ||µ
∗
||, ta nhận được ¯µ = µ
∗
. Lí luận trên chỉ
ra rằng mọi điểm giới hạn của µ
γ
bằng µ
∗
, cho nên µ
γ
hội tụ đến µ
∗
khi
γ → 0. Do đó, từ (1.30) ta có
lim
γ→0
sup a

0
d
γ
≤ −||µ
∗
||
2
. (1.31)
Xét hàm
L

0
(d, µ) = (a
0
+
r

j=1
µ
j
a
j
)

d −
1
2
||µ||
2
.
Ta có
a

0
d
γ
+
1
2
r


j=1
((a

j
d
γ
)
+
)
2
= sup
µ≥0
L
0
(d
γ
, µ)
≥ sup inf
µ≥0,d∈N
∗
L
0
(d, µ) ≥ inf
d∈N
∗
L
0
(d, µ
∗
).

Lại có
inf
d∈N
∗
L
o
(d, µ) =







−
1
2
||µ||
2
, nếu − (a
0
+
r

j=1
µ
j
a
j
) ∈ N,

−∞, nếu ngược lại.
Từ đó ta có
a

0
d
γ
+
1
2
r

j=1
((a

j
d
γ
)
+
)
2
≥ −
1
2
||µ
∗
||
2
.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên