slide thuyết trình luận văn thạc sĩ phương pháp hàm phạt cho bài toán cực trị có điều kiện

PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN CỰC TRỊ CÓ
ĐIỀU KIỆN

Luận văn thạc sĩ khoa học
Chuyên ngành: Toán giải tích
Mã số: 60 46 01 02
Học viên: Đinh Thị H
Người hướng dẫn khoa học: TS. Phan A

Đà Nẵng, ngày 17 tháng 6 năm 2018

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

1/


Nội dung
1

Một số khái niệm
1.1 Bài toán tối ưu có điều kiện (CP)
1.2 Bài toán tối ưu có điều kiện cho bởi phương trình
1.3 Bài toán tối ưu có điều kiện cho bởi phương trình và bất phương
trình

2

Phương pháp hàm phạt
2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho bởi
phương trình
2.2 Hàm phạt không khả vi cho bài toán phi tuyến tính (ICP)

3

Tài liệu tham khảo

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

2/


1.1 Bài toán tối ưu có điều kiện (CP)
Bài toán CP
Bài toán tối ưu có điều kiện (CP)
min f (x)
với điều kiện x ∈ X , trong đó f : Rn → R là một hàm số cho trước và X
là một tập con của Rn .

Cực tiểu địa phương
Vector x ∗ ∈ X được gọi là cực tiểu địa phương của (CP) nếu tồn tại một
số > 0 sao cho
f (x ∗ ) ≤ f (x), ∀x ∈ S(x ∗ ; ), x ∈ X .

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

3/


1.1 Bài toán tối ưu có điều kiện (CP)
Bài toán CP
Bài toán tối ưu có điều kiện (CP)
min f (x)
với điều kiện x ∈ X , trong đó f : Rn → R là một hàm số cho trước và X
là một tập con của Rn .

Cực tiểu địa phương
Vector x ∗ ∈ X được gọi là cực tiểu địa phương của (CP) nếu tồn tại một
số > 0 sao cho
f (x ∗ ) ≤ f (x), ∀x ∈ S(x ∗ ; ), x ∈ X .

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

3/

1.1 Bài toán tối ưu có điều kiện (CP)
Bài toán CP
Bài toán tối ưu có điều kiện (CP)
min f (x)
với điều kiện x ∈ X , trong đó f : Rn → R là một hàm số cho trước và X
là một tập con của Rn .

Cực tiểu địa phương
Vector x ∗ ∈ X được gọi là cực tiểu địa phương của (CP) nếu tồn tại một
số > 0 sao cho
f (x ∗ ) ≤ f (x), ∀x ∈ S(x ∗ ; ), x ∈ X .

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

3/


1.2 Bài toán tối ưu có điều kiện cho bởi phương trình
Bài toán ECP
Xét bài toán cực trị có điều kiện cho bởi phương trình (bài toán (ECP)):
min f (x)
h(x) = 0.
trong đó f : Rn → R và h : Rn → Rm , với m ≤ n. Các thành phần của h
được kí hiệu là h1 , ..., hm .

Điểm chính quy

Giả sử x ∗ là một vector sao cho h(x ∗ ) = 0 và h ∈ C 1 trên S(x ∗ ; ) với một
số thực > 0 nào đó. Khi đó, x ∗ được gọi là một điểm chính quy nếu các
gradient ∇h1 (x ∗ ), ..., ∇hm (x ∗ ) độc lập tuyến tính.
∗

∗

1 (x )
1 (x )
trong đó ∇h1 (x ∗ ) = [ ∂h∂x
, ..., ∂h∂x
]
∗
∗
Đinh Thị H

n
1
Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

4/


1.2 Bài toán tối ưu có điều kiện cho bởi phương trình
Bài toán ECP
Xét bài toán cực trị có điều kiện cho bởi phương trình (bài toán (ECP)):
min f (x)
h(x) = 0.

trong đó f : Rn → R và h : Rn → Rm , với m ≤ n. Các thành phần của h
được kí hiệu là h1 , ..., hm .

Điểm chính quy
Giả sử x ∗ là một vector sao cho h(x ∗ ) = 0 và h ∈ C 1 trên S(x ∗ ; ) với một
số thực > 0 nào đó. Khi đó, x ∗ được gọi là một điểm chính quy nếu các
gradient ∇h1 (x ∗ ), ..., ∇hm (x ∗ ) độc lập tuyến tính.
∗

∗

1 (x )
1 (x )
trong đó ∇h1 (x ∗ ) = [ ∂h∂x
, ..., ∂h∂x
]
∗
∗
Đinh Thị H

n
1
Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

4/


1.2 Bài toán tối ưu có điều kiện cho bởi phương trình

Bài toán ECP
Xét bài toán cực trị có điều kiện cho bởi phương trình (bài toán (ECP)):
min f (x)
h(x) = 0.
trong đó f : Rn → R và h : Rn → Rm , với m ≤ n. Các thành phần của h
được kí hiệu là h1 , ..., hm .

Điểm chính quy
Giả sử x ∗ là một vector sao cho h(x ∗ ) = 0 và h ∈ C 1 trên S(x ∗ ; ) với một
số thực > 0 nào đó. Khi đó, x ∗ được gọi là một điểm chính quy nếu các
gradient ∇h1 (x ∗ ), ..., ∇hm (x ∗ ) độc lập tuyến tính.
∗

∗

1 (x )
1 (x )
trong đó ∇h1 (x ∗ ) = [ ∂h∂x
, ..., ∂h∂x
]
∗
∗
Đinh Thị H

n
1
Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

4/


1.3 Bài toán tối ưu có điều kiện cho bởi phương trình và
bất phương trình

Bài toán quy hoạch phi tuyến (NLP)

 min f (x)
h(x) = 0

g (x) ≤ 0,

trong đó các hàm số f : Rn → R, h : Rn → Rm , g : Rn → Rr là các
hàm số đã cho với m ≤ n.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

5/


1.3 Bài toán tối ưu có điều kiện cho bởi phương trình và
bất phương trình

Bài toán quy hoạch phi tuyến (NLP)


 min f (x)
h(x) = 0

g (x) ≤ 0,

trong đó các hàm số f : Rn → R, h : Rn → Rm , g : Rn → Rr là các
hàm số đã cho với m ≤ n.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

5/


1.3 Bài toán tối ưu có điều kiện cho bởi phương trình và
bất phương trình

Bài toán quy hoạch phi tuyến (NLP)

 min f (x)
h(x) = 0

g (x) ≤ 0,

trong đó các hàm số f : Rn → R, h : Rn → Rm , g : Rn → Rr là các
hàm số đã cho với m ≤ n.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

5/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Bài toán ECP
min f (x)
h(x) = 0,

trong đó ta giả sử f , h ∈ C 2 trong Rn .
Xét hàm Lagrnage:
L(x, λ) = f (x) + λ h(x),

(1)

ta có điều kiện cần thiết cho sự tối ưu là
∇x L(x, λ) = 0
∇λ L(x, λ) = h(x) = 0,
Đinh Thị H

Luận văn Thạc sĩ khoa học

(2)

Đà Nẵng, ngày 17 tháng 6 năm 2018

6/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Bài toán ECP
min f (x)
h(x) = 0,

trong đó ta giả sử f , h ∈ C 2 trong Rn .
Xét hàm Lagrnage:
L(x, λ) = f (x) + λ h(x),

(1)

ta có điều kiện cần thiết cho sự tối ưu là
∇x L(x, λ) = 0
∇λ L(x, λ) = h(x) = 0,
Đinh Thị H

Luận văn Thạc sĩ khoa học

(2)

Đà Nẵng, ngày 17 tháng 6 năm 2018

6/

2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Bài toán ECP
min f (x)
h(x) = 0,

trong đó ta giả sử f , h ∈ C 2 trong Rn .
Xét hàm Lagrnage:
L(x, λ) = f (x) + λ h(x),

(1)

ta có điều kiện cần thiết cho sự tối ưu là
∇x L(x, λ) = 0
∇λ L(x, λ) = h(x) = 0,
Đinh Thị H

Luận văn Thạc sĩ khoa học

(2)

Đà Nẵng, ngày 17 tháng 6 năm 2018

6/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Bài toán ECP

min f (x)
h(x) = 0,

trong đó ta giả sử f , h ∈ C 2 trong Rn .
Xét hàm Lagrnage:
L(x, λ) = f (x) + λ h(x),

(1)

ta có điều kiện cần thiết cho sự tối ưu là
∇x L(x, λ) = 0
∇λ L(x, λ) = h(x) = 0,
Đinh Thị H

Luận văn Thạc sĩ khoa học

(2)

Đà Nẵng, ngày 17 tháng 6 năm 2018

6/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình

và xét bài toán tối ưu tự do:
min

1

1
|h(x)|2 + |∇x L(x, λ)|2 ,
2
2

(3)

với điều kiện (x, λ) ∈ Rn × Rm .
Ta thấy (x ∗ , λ∗ ) là một cặp điều kiện K-T của (ECP) nếu và chỉ nếu
(x ∗ , λ∗ ) là một cực tiểu toàn cục của phương trình (3).

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

7/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình

và xét bài toán tối ưu tự do:
min

1
1
|h(x)|2 + |∇x L(x, λ)|2 ,
2

2

(3)

với điều kiện (x, λ) ∈ Rn × Rm .
Ta thấy (x ∗ , λ∗ ) là một cặp điều kiện K-T của (ECP) nếu và chỉ nếu
(x ∗ , λ∗ ) là một cực tiểu toàn cục của phương trình (3).

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

7/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình

và xét bài toán tối ưu tự do:
min

1
1
|h(x)|2 + |∇x L(x, λ)|2 ,
2
2

(3)

với điều kiện (x, λ) ∈ Rn × Rm .
Ta thấy (x ∗ , λ∗ ) là một cặp điều kiện K-T của (ECP) nếu và chỉ nếu
(x ∗ , λ∗ ) là một cực tiểu toàn cục của phương trình (3).

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

7/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Mệnh đề sau nêu lên mối liện hệ giữa cực tiểu của bài toán tối ưu tự
do và bài toán (ECP).

Mệnh đề 3.1.1
Cho X × Λ là một tập con compact của Rn × Rm . Giả sử ∇h(x) hạng
bằng m với mọi x ∈ X . Khi đó, tồn tại một số thực α
¯ > 0 và với mọi
α ∈ (0, α
¯ ], có một số thực c¯(α) > 0 sao cho với mọi c và α thỏa mãn
α ∈ (0, α
¯ ], c ≥ c¯(α),
mọi điểm tới hạn của P(·, ·; c, α) thuộc vào X × Λ là một cặp K-T của
(ECP). Nếu ∇2xx L(x, λ) là nửa xác định dương với mọi (x, λ) ∈ X × Λ, thì
α

¯ có thể lấy số dương bất kỳ.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

8/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Mệnh đề sau nêu lên mối liện hệ giữa cực tiểu của bài toán tối ưu tự
do và bài toán (ECP).

Mệnh đề 3.1.1
Cho X × Λ là một tập con compact của Rn × Rm . Giả sử ∇h(x) hạng
bằng m với mọi x ∈ X . Khi đó, tồn tại một số thực α
¯ > 0 và với mọi
α ∈ (0, α
¯ ], có một số thực c¯(α) > 0 sao cho với mọi c và α thỏa mãn
α ∈ (0, α
¯ ], c ≥ c¯(α),
mọi điểm tới hạn của P(·, ·; c, α) thuộc vào X × Λ là một cặp K-T của
(ECP). Nếu ∇2xx L(x, λ) là nửa xác định dương với mọi (x, λ) ∈ X × Λ, thì
α
¯ có thể lấy số dương bất kỳ.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

8/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Mệnh đề sau nêu lên mối liện hệ giữa cực tiểu của bài toán tối ưu tự
do và bài toán (ECP).

Mệnh đề 3.1.1
Cho X × Λ là một tập con compact của Rn × Rm . Giả sử ∇h(x) hạng
bằng m với mọi x ∈ X . Khi đó, tồn tại một số thực α
¯ > 0 và với mọi
α ∈ (0, α
¯ ], có một số thực c¯(α) > 0 sao cho với mọi c và α thỏa mãn
α ∈ (0, α
¯ ], c ≥ c¯(α),
mọi điểm tới hạn của P(·, ·; c, α) thuộc vào X × Λ là một cặp K-T của
(ECP). Nếu ∇2xx L(x, λ) là nửa xác định dương với mọi (x, λ) ∈ X × Λ, thì
α
¯ có thể lấy số dương bất kỳ.

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

8/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Ví dụ
Xét bài toán trên trường số thực

 f (x) = 16 x 3
h(x) = x

P(x, λ; c, α) = 61 x 3 + λx + 12 cx 2 + 12 α| 12 x 2 + λ|2 .

Trong đó {x ∗ = 0, λ∗ = 0} là cặp K-T duy nhất. Các điểm tới hạn
của hàm số P có được bằng cách giải hệ phương trình:
1
1
∇x P = x 2 + λ + cx + αx( x 2 + λ) = 0,
(4)
2
2
1
∇x P = x + α( x 2 + λ) = 0.
(5)
2
Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

9/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Ví dụ
Xét bài toán trên trường số thực

 f (x) = 16 x 3
h(x) = x

P(x, λ; c, α) = 61 x 3 + λx + 12 cx 2 + 12 α| 12 x 2 + λ|2 .

Trong đó {x ∗ = 0, λ∗ = 0} là cặp K-T duy nhất. Các điểm tới hạn
của hàm số P có được bằng cách giải hệ phương trình:
1
1
∇x P = x 2 + λ + cx + αx( x 2 + λ) = 0,
(4)
2
2
1
∇x P = x + α( x 2 + λ) = 0.
(5)
2
Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

9/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình
Ví dụ
Xét bài toán trên trường số thực

 f (x) = 16 x 3
h(x) = x

P(x, λ; c, α) = 61 x 3 + λx + 12 cx 2 + 12 α| 12 x 2 + λ|2 .

Trong đó {x ∗ = 0, λ∗ = 0} là cặp K-T duy nhất. Các điểm tới hạn
của hàm số P có được bằng cách giải hệ phương trình:
1
1
∇x P = x 2 + λ + cx + αx( x 2 + λ) = 0,
(4)
2
2
1
∇x P = x + α( x 2 + λ) = 0.
(5)
2
Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

9/


2.1 Hàm phạt khả vi cho bài toán cực trị có điều kiện cho
bởi phương trình

Từ phương trình 5, ta có λ = −x/α − 21 x 2 ,
và thay vào vào phương trình 4, ta được x[x − c + (1/α)] = 0.
Các điểm tới hạn của P là {x ∗ = 0, λ∗ = 0} và
{x(c, α) = c − 1/α, λ(c, α) = (1 − c 2 α2 )/2α2 }.
Với mọi c > 0 và α > 0 với cα = 1, điểm tới hạn [x(c, α), λ(c, α)]
không là cặp K-T của (ECP).
Mặt khác, cố định α > 0, ta có lim x(c, α) = ∞ và
c→∞

lim λ(c, α) = −∞.

c→∞

Đinh Thị H

Luận văn Thạc sĩ khoa học

Đà Nẵng, ngày 17 tháng 6 năm 2018

10 /