Bài toán đối ngẫu lagrange

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
KHOA TOÁN
*************

NGUYỄN THỊ HẢI YẾN

BÀI TOÁN ĐỐI NGẪU LAGRANGE

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC
Chuyên ngành: Toán Giải tích

HÀ NỘI – 2018


TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2
KHOA TOÁN
*************

NGUYỄN THỊ HẢI YẾN

BÀI TOÁN ĐỐI NGẪU LAGRANGE

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC
Chuyên ngành: Toán Giải tích

Người hướng dẫn khoa học
TS. NGUYỄN VĂN TUYÊN

HÀ NỘI – 2018

LỜI CẢM ƠN

Em xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sư
phạm Hà Nội 2, các thầy cô giáo khoa Toán đã giúp đỡ em trong quá
trình học tập tại trường và tạo điều kiện cho em hoàn thành đề tài khóa
luận tốt nghiệp.
Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới thầy Nguyễn Văn
Tuyên đã tận tình giúp đỡ em trong suốt quá trình học tập, nghiên cứu
và hoàn thành khóa luận này.
Trong quá trình nghiên cứu, không tránh khỏi những thiếu sót và
hạn chế. Kính mong nhận được sự đóng góp ý kiến của các thầy giáo,
cô giáo và toàn thể bạn đọc để đề tài được hoàn thiện hơn.
Em xin chân thành cảm ơn !

Hà Nội, ngày 04 tháng 05 năm 2018.
Sinh viên

Nguyễn Thị Hải Yến


LỜI CAM ĐOAN

Em xin cam đoan dưới sự hướng dẫn của thầy Nguyễn Văn Tuyên
khóa luận của em được hoàn thành không trùng với bất kì đề tài nào
khác.
Trong khi thực hiện đề tài em đã sử dụng và tham khảo các thành
tựu của các nhà khoa học với lòng biết ơn trân trọng.

Hà Nội, ngày 04 tháng 05 năm 2018.
Sinh Viên

Nguyễn Thị Hải Yến

ii


Mục lục

Lời mở đầu

1

1 Một số kiến thức cơ sở

2

1.1

Các khái niệm cơ bản . . . . . . . . . . . . . . . . . . . .

2

1.2

Dưới vi phân của hàm lồi . . . . . . . . . . . . . . . . . .

5

2 Bài toán đối ngẫu Lagrange

8

2.1

Bài toán đối ngẫu . . . . . . . . . . . . . . . . . . . . . .

8

2.2

Quan hệ đối ngẫu . . . . . . . . . . . . . . . . . . . . . .

12

2.3

Quy hoạch nón . . . . . . . . . . . . . . . . . . . . . . .

17

2.4

Các bài toán không lồi . . . . . . . . . . . . . . . . . . .

20

2.5

Hàm giá trị tối ưu . . . . . . . . . . . . . . . . . . . . . .

23

Kết luận

28

Tài liệu tham khảo

29

i


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Lời mở đầu
Việc nghiên cứu mối quan hệ giữa bài toán đối ngẫu và bài toán gốc
là một vấn đề quan trọng của lí thuyết tối ưu. Nghiệm tối ưu của bài
toán gốc và bài toán đối ngẫu thường có mối quan hệ chặt chẽ với nhau.
Trong nhiều trường hợp quan trọng và có nhiều ứng dụng việc giải bài
toán đối ngẫu có thể giúp ta dễ dàng tìm được nghiệm của bài toán gốc.
Với mong muốn được tìm hiểu sâu hơn về bài toán đối ngẫu, em đã
chọn nghiên cứu đề tài: “Bài toán đối ngẫu Lagrange”.
Mục đích của khóa luận là trình bày một cách có hệ thống, các kiến
thức cơ bản và quan trọng của bài toán đối ngẫu.
Các kết quả chính trong khóa luận được trình bày dựa vào quyển
chuyên khảo [3].
Khóa luận bao gồm phần mở đầu, hai chương, phần kết luận và các

tài liệu tham khảo.
Chương 1 trình bày một số khái niệm, tính chất cơ bản của tập lồi,
hàm lồi, và một số quy tắc tính toán dưới vi phân của hàm lồi.
Chương 2 trình bày về bài toán đối ngẫu Lagrange, các quan hệ đối
ngẫu, bài toán quy hoạch nón, các bài toán không lồi, hàm giá trị tối
ưu.

1


Chương 1
Một số kiến thức cơ sở
1.1

Các khái niệm cơ bản
Kí hiệu R = R ∪ {±∞} và gọi là tập số thực mở rộng.
Cho f : Rn → R là một hàm số. Miền hữu hiệu và tập trên đồ thị

của f tương ứng được kí hiệu bởi:
domf = {x : f (x) < +∞} ,
epif = {(x, v) ∈ Rn × R : v ≥ f (x)} .
Định nghĩa 1.1. Cho K là một nón. Tập hợp
K ◦ = {y ∈ Rn : y, x ≤ 0, ∀x ∈ K}
được gọi là nón cực của K.
Bổ đề 1.1. Cho K là một nón trong Rn và y ∈ Rn sao cho tích vô hướng
y, x bị chặn trên với mọi x ∈ K. Khi đó y ∈ K ◦ .
Định nghĩa 1.2. Một tập A ∈ Rn được gọi là lồi nếu với mọi x1 , x2 ∈ A
2

Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

và α ∈ [0, 1], ta có (1 − α)x1 + αx2 ∈ A.
Định nghĩa 1.3. Một hàm số f được gọi là lồi nếu epif là một tập lồi.
Định nghĩa 1.4. Một hàm f được gọi là lõm nếu −f lồi.
Định nghĩa 1.5. Một hàm f được gọi là chính thường nếu f (x) > −∞
với mọi x và f (x) < +∞ với ít nhất một x.
Bổ đề 1.2. Một hàm f là lồi khi và chỉ khi với mọi x1 , x2 và 0 ≤ α ≤ 1
ta có
f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 ).

(1.1)

Bổ đề 1.3. Nếu f lồi thì domf là một tập lồi.
Chứng minh. Nếu x1 ∈ domf và x2 ∈ domf , thì theo Bổ đề 1.2, ta có
f (αx1 + (1 − α)x2 ) < +∞.
Khi đó αx1 + (1 − α)x2 ∈ domf , nên domf là một tập lồi.
Bổ đề 1.4. Nếu f là một hàm lồi, thì với mọi x1 , x2 , . . . , xn và α1 ≥
0, α2 ≥ 0, . . . , αm ≥ 0 sao cho α1 + α2 + . . . + αm = 1, ta có
f (α1 x1 + α2 x2 + . . . + αm xm ) ≤ α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ).
Bổ đề 1.5. Nếu các hàm fi , i = 1, 2, . . . , m, là lồi, thì với mọi c1 ≥ 0,
c2 ≥ 0, . . . , cm ≥ 0 hàm f (x) = c1 f1 (x) + c2 f2 (x) + . . . + cm fm (x) lồi.
Chứng minh. Vì (1.1) đúng với mỗi fi , ta có thể nhân các bất đẳng thức
của chúng với ci và cộng lại ta được kết quả cần chứng minh.
3


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Bổ đề 1.6. Nếu fi , i ∈ I, là một họ các hàm lồi, thì
f (x) = sup fi (x)
i∈I

là một hàm lồi.
Ta xét bài toán sau:
min f (x)

(1.2)

với ràng buộc gi (x) ≤ 0, i = 1, . . . , m,
hi (x) = 0, i = 1, . . . , p,
x ∈ X0 ,
chúng ta giả sử rằng hàm f : Rn → R, gi : Rn → R, i = 1, . . . , m và
hi : Rn → R, i = 1, . . . , p khả vi liên tục, và tập X0 ⊂ Rn là lồi và đóng.
Xét tập hợp
X = {x ∈ Rn : g(x) ≤ 0}
¯ là một hàm lồi. Điều kiện quan trọng được dùng ở
trong đó g : Rn → R
đây là điều kiện Slater: tồn tại xs sao cho g(xs ) < 0.
Định lý 1.1. Giả sử xˆ là cực tiểu của bài toán (1.2), hàm số f (·) liên
tục tại một vài điểm khả thi x0 , và điều kiện Slater được thỏa mãn. Khi
ˆ ∈ Rm và µ
đó tồn tại λ
ˆ ∈ Rp sao cho:
+
p

m

ˆ i ∂gi )ˆ
λ
x+

0 ∈ ∂f (ˆ
x) +
i=1

µ
ˆi hi (ˆ
x) + NX0 (ˆ
x)
i=1

4

(1.3)


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

và
ˆ i gi (ˆ
λ
x) = 0, i = 1, . . . , m.

(1.4)

ˆ ∈ Rm
Ngược lại, nếu có một số điểm khả thi xˆ của (1.1) và một vài λ
+
và µ
ˆ ∈ Rp các điều kiện (1.3)-(1.4) được thỏa mãn, khi đó xˆ là cực tiểu
địa phương của bài toán (1.1).

1.2

Dưới vi phân của hàm lồi

Định nghĩa 1.6. Cho f : Rn → R là một hàm lồi chính thường và
x ∈ domf . Một vector g ∈ Rn sao cho:
f (y) ≥ f (x) + g, y − x với mọi y ∈ Rn

(1.5)

được gọi là một dưới-gradient (subgradient) của f tại x.
Tập của tất cả dưới-gradient của f tại x được gọi là dưới vi phân
của f tại x và được kí hiệu là ∂f (x).
Sau đây chúng tổng kết một số quy tắc tính toán dưới vi phân của
các hàm lồi.
Bổ đề 1.7. Một hàm lồi f : Rn → R là khả vi tại x nếu và chỉ nếu dưới
vi phân ∂f (x) chỉ có một phần tử là gradient của f tại x.
Ví dụ 1.1. Cho C là tập lồi đóng của Rn và ta xét hàm chỉ của C

δC (x) =



0

nếu x ∈ C


+∞ nếu x ∈
/ C.
5


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Khi đó ta có:
∂δC (x) = NC (x),
ở đó NC (x) = {υ ∈ Rn : υ, y − x ≤ 0, ∀y ∈ C} .
Bổ đề 1.8. Giả sử f : Rn → R là một hàm lồi, α > 0, và h(x) = αf (x).
Khi đó h lồi và ∂h(x) = α∂f (x), với mọi x.
Bổ đề 1.9. Giả sử f : Rn → R là một hàm lồi. A là ma trận có kích
thước m × n và h(x) = f (Ax). Khi đó ∂h(x) = AT ∂f (Ax), với mọi x.
Định lý 1.2. Giả sử f = f1 + f2 trong đó f1 : Rn → R và f2 : Rn → R
là các hàm lồi chính thường. Nếu tồn tại một điểm x0 ∈ domf sao cho
fi liên tục tại x0 , thì
∂f (x) = ∂f1 (x) + ∂f2 (x), với mọi x ∈ domf.
Chúng ta xét hàm
F (x) = sup f (x, y).

y∈Y

Giả sử f : Rn × Y → R thỏa mãn các điều kiện sau:
(i) f (·, y) lồi với mọi y ∈ Y ;
(ii) f (x, ·) là nửa liên tục trên với mọi x trong một lân cận xác định
của một điểm x0 ;
(iii) Tập Y ⊂ Rm compact.

6


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Định lý 1.3. Giả sử có điều kiện (i) − (iii). Khi đó
∂F (x0 ) ⊃ conv(

∂x f (x0 , y)).
y∈Y (x0 )

Ngoài ra nếu hàm f (·, y) liên tục tại x0 với mọi y ∈ Y , thì
∂F (x0 ) = conv(

∂x f (x0 , y)).

y∈Y (x0 )

7

(1.6)


Chương 2
Bài toán đối ngẫu Lagrange
2.1

Bài toán đối ngẫu
Chúng ta bắt đầu với dạng tổng quát của bài toán tối ưu.
min f (x)

(2.1)

với ràng buộc gi (x) ≤ 0, i = 1, . . . , m,
hi (x) = 0, i = 1, . . . , p,
x ∈ X0 ,
ở đó f : Rn −→ R, gi : Rn −→ R, i = 1, . . . , m, hi : Rn −→ R,
i = 1, . . . , p, và với một tập X0 ⊂ Rn . Ở đây, chúng ta không giả sử về
tính chất lồi của những hàm số trong bài toán này và của tập X0 .
Hàm Lagrange có dạng:
p

m

L(x, λ, µ) = f (x) +

λi gi (x) +
i=1

8

µi hi (x).
i=1

(2.2)


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Hàm L là một hàm số của các biến x ∈ X0 và (Λ, µ) ∈ Λ0 , với
Λ0 = Rn+ × Rp .
Ta định nghĩa hàm gốc tương ứng với bài toán (2.1) là
LP (x) = sup L(x, λ, µ)

(2.3)

(λ,µ)∈Λ0

và hàm đối ngẫu là
LD (x) = inf L(x, λ, µ).
x∈X0

(2.4)

Nếu giá trị của sup trong (2.3) là +∞ ta đặt LP (x) = +∞. Tương tự
nếu inf của (2.4) là −∞ ta đặt LD (x) = −∞.
Do đó ta xét hàm gốc của LP (·) và hàm đối ngẫu LD (·) là những
hàm số có giá trị của biến nằm trên đường thẳng thực mở rộng R. Bài

toán gốc là đi tìm
min LP (x),

(2.5)

max LD (λ, µ).

(2.6)

x∈X0

và bài toán đối ngẫu là tìm

(λ,µ)∈Λ0

Định lí đối ngẫu xét mối quan hệ giữa bài toán gốc và bài toán đối ngẫu.
Ta có thể dễ dàng tính toán hàm gốc tại mỗi điểm x ∈ X0 . Nếu x
thỏa mãn tất cả ràng buộc của bài toán (2.1), khi đó các số hạng trong
(2.2) phụ thuộc vào λ đều không dương và số hạng µ đều bằng 0. Điều
9


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

đó kéo theo, LP (x) = f (x). Giả sử ít nhất một ràng buộc bị vi phạm,
chẳng hạn, gj (x) > 0. Vì vậy, bằng cách tăng λj trong (2.2) ta có thể
nhận được giá trị lớn tùy ý của λj gj (x).
Do đó, trong trường hợp này LP (x) = +∞. Tương tự, ta có

LP (x) =



f (x)

nếu x thỏa mãn (2.1)


+∞

trong trường hợp khác.

(2.7)

Ta kết luận rằng bài toán gốc trong (2.5) là tương đương với bài
toán ban đầu (2.1).
Tuy nhiên, trong một số dạng tường minh, việc tính toán hàm số
đối ngẫu thường là khó. Trong một vài trường hợp, chẳng hạn, các bài
toán quy hoạch tuyến tính hoặc quy hoạch toàn phương, một dạng đóng
của bài toán đối ngẫu có thể được đưa ra.
Tiếp theo chúng ta trình bày một số tính chất của bài toán đối
ngẫu.
Bổ đề 2.1. Hàm đối ngẫu LD (λ, µ) là hàm lồi.
Chứng minh. Từ hàm Lagrange LD (x, λ, µ) là affine trong (λ, µ) với mọi
x ∈ X0 , hàm đối ngẫu là một inf của họ các hàm số affine. Do đó −LD (·)
là một sup của họ các hàm số affine và là lồi theo Bổ đề 1.6.
Bổ đề 2.2. Giả sử rằng với (λ0 , µ0 ) ta có thể tìm được x0 ∈ X0 sao cho
LD (λ0 , µ0 ) = L(x0 , λ0 , µ0 ).

10


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Khi đó với mọi (λ, µ) ta có:
LD (λ, µ) ≤ LD (λ0 , µ0 ) + g(x0 ), λ − λ0 + h(x0 ), µ − µ0 ,

(2.8)

ở đây g(x) và h(x) là những vector có tọa độ gi (x), i = 1, . . . , m, và
hi (x), i = 1, . . . , m, tương ứng.
Chứng minh. Theo định nghĩa của hàm đối ngẫu,
LD (λ, µ) ≤ L(x0 , λ, µ) = L(x0 , λ0 , µ0 ) + g(x0 ), λ − λ0 + h(x0 ), µ − µ0 ,
đó là điều phải chứng minh.
Ta có thể xác định dưới vi phân của hàm đối ngẫu tại (λ0 , µ0 ) như
là một tập của các vector (sλ , sµ ) ∈ Rm+p sao cho:
LD (λ, µ) ≤ LD (λ0 , µ0 ) + sλ , λ − λ0 + sµ , µ − µ0 ,
với mọi (λ, µ) ∈ Rm+p .
Chú ý rằng LD (·) là hàm lõm, do đó chúng ta thay đổi thích hợp
định nghĩa dưới vi phân của hàm lồi. Dưới vi phân của hàm lõm LD (·)
được định nghĩa tương ứng bởi tập hợp −∂[−LD (λ0 , µ0 )] và do đó tất
cả các tính chất dưới vi phân của hàm lồi có thể dễ dàng chuyển sang
tính chất dưới vi phân của hàm lõm. Vì vậy, ta vẫn sử dụng kí hiệu
∂LD (λ0 , µ0 ) cho hàm dưới vi phân và điều này cũng không gây ra sự
nhầm lẫn nào.
Nếu tập X0 là tập compact, Định lí 1.3 cho ta biểu diễn của hàm

11


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

dưới vi phân:




∂LD (λ0 , µ0 ) = conv 


ˆ 0 ,µ0 )
x0 ∈X(λ

0

g(x )
0

h(x )


 ,

(2.9)

ở đây X(λ0 , µ0 ) là tập các giá trị cực tiểu của hàm Lagrange:
ˆ 0 , µ0 ) = {x ∈ X0 : L(x0 , λ0 , µ0 ) = LD (λ0 , µ0 )}.
X(λ
Nếu tập X0 không là tập compact, ta vẫn có thể mô tả toàn bộ dưới
vi phân của hàm đối ngẫu bằng cách là nó được định nghĩa như là một
giá trị cực tiểu của hàm affine chứ không chỉ là hàm lõm. Ta trình bày
những tính toán này trong Mục 2.5. Công thức (2.8) cung cấp cho chúng
ta công cụ để áp dụng phương pháp tối ưu không trơn để giải bài toán
đối ngẫu; xem [3, Chapter 7].
Nhưng câu hỏi chính là: Tại sao chúng ta nên giải các bài toán đối
ngẫu? Trong mục tiếp theo chúng tôi sẽ cho thấy rằng các nghiệm của
bài toán gốc và các nghiệm của bài toán đối ngẫu có liên quan chặt chẽ
với nhau.

2.2

Quan hệ đối ngẫu
Ta trở lại Hàm nhân tử Lagrange của bài toán (2.1):
p

m

L(x, λ, µ) = f (x) +

λi gi (x) +
i=1

12

µi hi (x).
i=1


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Ta coi nó là một hàm của cả x ∈ X0 và (λ, µ) ∈ Λ0 , ở đây Λ0 = Rn+ × Rp .
Khái niệm sau về điểm yên ngựa là trung tâm của lí thuyết đối ngẫu.
Định nghĩa 2.1. Một điểm (x, (λ, µ)) ∈ X0 × Λ0 được gọi là điểm yên
ngựa của hàm Lagrange nếu với mọi x ∈ X0 và mọi (λ, µ) ∈ Λ0 , bất
đẳng thức sau thỏa mãn :
L(x, λ, µ) ≤ L(x, λ, µ) ≤ L(x, λ, µ).

(2.10)

Nói cách khác, một điểm yên ngựa là một điểm mà tại đó giá trị
lớn nhất của hàm Lagrange đạt được (λ, µ) ∈ Λ0 và giá trị nhỏ nhất đối
với x ∈ X0 đạt được:
max L(x, λ, µ) = L(x, λ, µ) = min L(x, λ, µ).
x∈X0

(λ,µ)∈Λ0

Đối với các bài toán tối ưu lồi, nghiệm tối ưu và các nhân tử Lagrange
(nếu có) tạo thành một điểm yên ngựa. Định lí dưới đây sử dụng điều
kiện tối ưu bậc nhất qua các phép lấy vi phân theo Định lí 1.1.
Định lý 2.1. Giả sử rằng hàm số f (·) và gi (·), i = 1, . . . m, trong bài
toán (2.1) là lồi, hàm hi , i = 1, . . . p, là affine, và tập X0 là tập lồi. Khi

đó một điểm x thỏa mãn điều kiện tối ưu bậc nhất của Định lí 1.1 với
số nhận Lagrange (λ, µ) khi và chỉ khi (x, (λ, µ)) là điểm yên ngựa của
hàm Lagrange.
Chứng minh. Chúng ta đưa ra cách chứng minh cho trường hợp lồi không
trơn.
Giả sử rằng x là một nghiệm tối ưu thỏa mãn điều kiện tối ưu với
13


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

số nhân (λ, µ). Với giá trị cố định (λ, µ) ∈ Λ0 , hàm Lagrange là hàm lồi
của x. Theo Định lí 1.2 hàm dưới vi phân tại x có thể tính như sau:
p

m

µi ∇hi (x).

λi ∂gi (x) +

∂x L(x, (λ, µ)) = ∂f (x) +

i=1

i=1

Điều kiện tối ưu bậc nhất của [3, Theorem 3.33] có dạng:

0 ∈ ∂x L(x, (λ, µ) + NX0 (x).

(2.11)

Từ Định lí 3.46 (hoặc Định lí 3. 4 trong trường hợp trơn)
L(x, λ, µ) = min L(x, λ, µ).
x∈X0

Do đó vế phải của bất đẳng thức (2.10) đúng với mọi x ∈ X0 . Ta sẽ
ˆ i gi (ˆ
chứng minh vế trái của bất đẳng thức.Theo điều kiện bổ sung λ
x) =
0, i = 1, . . . , m., ta có:
L(x, λ, µ) = f (x).
Từ gi (x) ≤ 0, i = 1, . . . , m, và hi (x) = 0, i = 1, . . . , p, với mọi (λ, µ) ∈ Λ0
ta có bất đẳng thức:
p

m

L(x, λ, µ) = f (x) +

µi hi (x) ≤ f (x).

λi gi (x) +
i=1

i=1

Kết hợp hai điều kiện cuối cùng ta thu được vế trái của bất đẳng thức

trong (2.10) với mọi (λ, µ) ∈ Λ0 . Do đó, điểm (x, (λ, µ)) là điểm yên
ngựa của Hàm nhân tử Lagrange.
Giờ ta đi chứng minh điều ngược lại. Giả sử (x, (λ, µ)) là một điểm

14


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

yên ngựa của Hàm nhân tử Lagrange. Theo hệ quả của [3, Theorem 3.46]
vế phải của bất đẳng thức (2.10) là tương đương với (2.11).
m

λi gi (x)

Điều kiện bên trái của điểm yên ngựa (2.10) nói rằng
i=1

bị chặn trên với mọi λ ≥ 0. Do đó gi (x) ≤ 0, i = 1, . . . , m. Tương tự,
hi (x) = 0, i = 1, . . . , p . Tương ứng, điểm x có thể thực hiện được.
m

λi gi (x) tại λ, ta có λi gi (x) = 0 với mọi

Như giá trị lớn nhất của
i=1

ˆ i gi (ˆ

i = 1, . . . , m. Do đó λ
x) = 0, i = 1, . . . , m cũng đúng.
Mối quan hệ giữa điểm yên ngưa, bài toán gốc và bài toán đối ngẫu
là dễ thấy.
Định lý 2.2. Nếu hàm nhân tử Lagrange có một điểm yên ngựa (x, λ, µ)
khi đó x là một nghiệm của bài toán gốc, (λ, µ) là một nghiệm của bài
toán đối ngẫu, và mối quan hệ đối ngẫu cũng đúng:
min LP (x) = max LD (λ, µ).

x∈X0

(2.12)

(λ,µ)∈Λ0

Chứng minh. Theo mối quan hệ của điểm yên ngựa, với mỗi x ∈ X0 và
với mỗi (λ, µ) ∈ Λ0 , ta có:
L(x, λ, µ) ≤ L(x, λ, µ) ≤ L(x, λ, µ).

(2.13)

Có nghĩa rằng LP (x) = LD (λ, µ).
Giá trị bên vế trái của (2.13) tại x và giá trị bên vế phải của (2.13)
tại (λ, µ) có thể tăng bất đẳng thức, vì thế:
LD (λ, µ) ≤ L(x, λ, µ) ≤ LD (λ, µ) = LP (x) ≤ L(x, λ, µ) ≤ LP (x).
15


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Mối quan hệ của định lí đối ngẫu được chứng minh.
Chú ý rằng các giả thiết về tính lồi là ẩn trong định lí này.
Định lý 2.3. Giả sử rằng mối quan hệ đối ngẫu (2.12) thỏa mãn với hữu
hạn biến của bài toán gốc và bài toán đối ngẫu. Khi đó với mỗi nghiệm
x của bài toán gốc và mỗi nghiệm (λ, µ) của bài toán đối ngẫu, điểm
(x, λ, µ) là điểm yên ngựa của hàm Lagrange.
Chứng minh. Từ định nghĩa của hàm gốc ta có
ˆ µ
LP (ˆ
x) = max L(ˆ
x, λ, µ) ≥ L(ˆ
x, λ,
ˆ).
(λ,µ)∈Λ0

Tương tự, từ định nghĩa của hàm đối ngẫu, ta thu được:
ˆ µ
ˆ µ
LP (ˆ
x) = min L(x, λ,
ˆ) ≥ L(ˆ
x, λ,
ˆ).
x∈X

vì bởi (2.12)
ˆ µ
LD (ˆ

x) = LD (λ,
ˆ),
ta phải có
ˆ µ
ˆ µ
ˆ µ
L(ˆ
x, λ, µ) ≤ LP (ˆ
x) = L(ˆ
x, λ,
ˆ) = LD (λ,
ˆ) ≤ L(x, λ,
ˆ)

(2.14)

ˆ µ
với mọi x ∈ X0 và với mọi (λ, µ) ∈ Λ0 . Do đó (ˆ
x, λ,
ˆ) là một điểm yên
ngựa.
Định lý 2.4. Giả sử rằng mối quan hệ đối ngẫu (2.12) vẫn đúng. Nếu
(λ, µ) ∈ Λ0 là điểm chấp nhận được của bài toán đối ngẫu, khi đó mỗi
điểm x ∈ X0 sao cho:
16


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

¯ µ
(i) L(x, λ, µ) = min L(x, λ,
¯);
x∈X0

(ii) Tất cả các ràng buộc của (2.1) đều thỏa mãn tại x;
(iii) λi gi (x) = 0, i = 1, ...m, là nghiệm của bài toán (2.1).
¯ µ
Chứng minh. Điều kiện (i), (ii), (iii) nói rằng (x, λ,
¯) là một điểm yên
ngựa của Hàm nhân tử Lagrange, và kết quả nhận được từ Định lí 2.2.
¯ µ
Thực tế là, điểm (λ,
¯) là nghiệm tối ưu từ định lí đối ngẫu.

2.3

Quy hoạch nón
Trong mục này, chúng ta quan tâm tới bài toán có cấu trúc như

sau:
min c, x
giả thiết là Ax = b,

(2.15)

x ∈ K,
ở đây x ∈ Rn , c ∈ Rn , b ∈ Rn và A là ma trận cấp m × n. Tập K là nón
lồi đóng trong Rn .

Chúng ta xét hàm nhân tử Lagrange:
L(x, µ) = c, x + µ, b − Ax ,
và hàm đối ngẫu:
LD (µ) = inf (L(x, µ)) = inf c − A∗ µ, x + µ, b .
x∈K

x∈K

17

(2.16)


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

Ở đây A∗ kí hiệu toán tử liên hợp của A và xác định bởi phương trình
µ, Ax = A∗ µ, x . Dạng đại số cụ thể của A∗ phụ thuộc vào tích vô
hướng mà nó làm việc. Ví dụ trong bài toán quy hoạch tuyến tính ta có
A∗ = AT và quy hoạch nửa xác định A∗ µ =

m

µi Ai .
i=1

Theo Bổ đề 1.1 giá trị inf trong (2.16) là hữu hạn nếu và chỉ nếu
c − A∗ µ ∈ K ◦ , và khi đó LD (µ) = µ, b . Điều này dẫn đến việc xây dựng
bài toán đối ngẫu sau:

min b, µ
với giả thiết A∗ µ − c ∈ K ◦ .

(2.17)

Bây giờ ta sẽ đi xác định định lí đối ngẫu cho bài toán quy hoạch nón
tối ưu hóa.
Định lý 2.5. Giả sử rằng tồn tại điểm xs ∈ int K sao cho Axs = b. Nếu
bài toán tối ưu (2.15) có nghiệm tối ưu khi đó bài toán đối ngẫu (2.17)
có nghiệm tối ưu và giá trị tối ưu của cả hai bài toán là bằng nhau.
Chứng minh. Theo điều kiện ràng buộc Slater cho bài toán (2.15). Dưới
điều kiện này Định lí 1.1 nói rằng nghiệm tối ưu thỏa mãn điều kiện tối
ưu bậc nhất. Khi đó theo Định lí 2.1 thì Hàm nhân tử Lagrange có một
điểm yên ngựa, và từ Định lí 2.2 bài toán đối ngẫu (2.17) có một nghiệm
tối ưu, và giá trị tối ưu của cả hai bài toán là bằng nhau.
Ta cũng có thể kết luận rằng điều kiện dưới Slater cho mọi nghiệm
x của bài toán gốc và với mọi nghiệm µ của bài toán đối ngẫu và điều

18


Khóa luận tốt nghiệp Đại học

Nguyễn Thị Hải Yến

kiện bù
xˆ, A∗ µ
ˆ−c =0

(2.18)

cũng đúng. Trong đó ràng buộc của bài toán đối ngẫu A∗ µ − c, x ≤ 0.
Do đó
b, µ
ˆ ≤ b, µ
ˆ − A∗µ
ˆ − c, x
= c, xˆ + b − Aˆ
x,ˆ
µ = c, xˆ ,
dấu bằng xảy ra khi và chỉ khi (2.18) cũng thỏa mãn.
Trong bài toán quy hoạch tuyến tính nón K là một nón lồi đa diện,
và ta không cần sử dụng điều kiện Slater cho Định lí 2.5 cũng đúng.
Nếu ta phát triển bài toán đối ngẫu trên thành bài toán đối ngẫu
(2.17) khi đó ta thu được bài toán ban đầu. Trong bài toán tuyến tính
sự tồn tại nghiệm tối ưu của bài toán đối ngẫu dẫn đến mối quan hệ
đối ngẫu và sự tồn tại nghiệm tối ưu của bài toán ban đầu vì theo Định
lí 2.5 (với điều kiện Slater). Trong bài toán quy hoạch nửa xác định
và quy hoạch nón, nhìn chung muốn áp dụng Định lí 2.5 cho bài toán
đối ngẫu, cần phải có điều kiện Slater: Tồn tại số µs ∈ Rm , sao cho
A∗ µs − c ∈ int(K ◦ ). Do đó ta thu được định lí mạnh hơn Định lí 2.5.
Định lý 2.6. Giả sử rằng cả bài toán gốc và đối ngẫu thỏa mãn điều
kiện Slater. Khi đó bài toán gốc (2.15) có một nghiệm tối ưu khi và chỉ
khi bài toán đối ngẫu (2.17) có một nghiệm tối ưu, trong trường hợp này
giá trị tối ưu của cả hai trường hợp là như nhau.

19


Khóa luận tốt nghiệp Đại học

2.4

Nguyễn Thị Hải Yến

Các bài toán không lồi
Nếu một điểm yên ngựa của hàm Lagrange không tồn tại, nó là

trường hợp điển hình cho các bài toán không lồi thì quan hệ đối ngẫu
(2.12) không đúng. Tuy vậy, ta vẫn có thể dùng bài toán đối ngẫu để
chặn dưới giá trị tối ưu của bài toán gốc.
Bổ đề 2.3. Với mọi (λ, µ) ∈ Λ0 và với mọi x ∈ X0
LD (λ, µ) ≤ LP (x).
Chứng minh. Kết quả theo sau đây từ dãy của bất đẳng thức:
LD (λ, µ) ≤ L(x, λ, µ) ≤ LP (x).

Cách khác
δ = min LP (x) − max LD (λ, µ) ≥ 0.
x∈X0

(λ,µ)∈Λ0

được gọi là độ lệch.
Trong nhiều ứng dụng, chặn dưới của Bổ đề 2.3 là hữu ích.
Xét bài toán tối ưu với ràng buộc tuyến tính:
min f (x)
với giả thiết là

Ax ≥ b,
x ∈ X0 .

20

(2.19)