Phương pháp điểm gần kề để giải bài toán tối ưu

ĐẠI HỌC ĐÀ NẴNG
TRƯỜNG ĐẠI HỌC SƯ PHẠM
——————————–

HUỲNH THỊ THANH HUYỀN

PHƯƠNG PHÁP ĐIỂM GẦN KỀ
ĐỂ GIẢI BÀI TOÁN TỐI ƯU

LUẬN VĂN THẠC SĨ KHOA HỌC

Đà Nẵng - Năm 2019


ĐẠI HỌC ĐÀ NẴNG
TRƯỜNG ĐẠI HỌC SƯ PHẠM
——————————–

HUỲNH THỊ THANH HUYỀN

PHƯƠNG PHÁP ĐIỂM GẦN KỀ
ĐỂ GIẢI BÀI TOÁN TỐI ƯU

Chuyên ngành: Tốn Giải Tích
Mã số: 8.46.01.02

LUẬN VĂN THẠC SĨ KHOA HỌC

Người hướng dẫn khoa học:
TS. PHẠM QUÝ MƯỜI

Đà Nẵng - Năm 2019



TRANG THONG TIN LUAN VAN THAC Si
T6N iIO tdi: PHIJONG PHAP

DIEM CAN KE DE GIAI BAI TOAN T6I IIU

Ngdnh: To6n giAi tich
H9 vd tdn hsc vi6n: HU1NH THI THANH HUYEN
Ngucri hu6ng d6n khoa ho..c: TS. PHAM QUY MUOI
Co sd ddo t4o: Trudng Dai hqc Su Ph4m

- Eai hgc Dd NEng

T6m tit: Lufln vdn "Phuong ph6p tliOm gAn tC AC gi6i bdi to5n t6i uu" dd dBt dugc c6c
k6t qui chinh sau: Trinh pdy t6m tat mQt s5 ts6 vd vi phdn cria hdm s6, t6p 16i vd hdm l6i, tli6u kiQn cAn vd dri cria bdi to6n t6i uu
khdng rdng bu6c vd mQt sO tQntr co bdn trong Matlab. TrCn co sd d6, lufln vin tflp trung
nghiCn cr?u mQt sO tinh ch6t co bin cria hdm diAu chinh, trinh bdy vd chimg minh sp hQi
Qr cria phucrng ph5p ili0m gAn kA dC giai bdi toiln t6i uu kh6ng rdng buQc viL ap dr;ng giii
thuflt cho mQt s6 vi dg cu th6. Ngodi ra, lufln vdn cdn trinh bdy c6c chucrng trinh m6y
tinh vi6t bing ngdn ngfr Matlab cho phucrng ph6p diOm gAn k6 giai cic vi dU cU the.
Y nghia khoa hgc vir thgc ti6n: C6c k;5t qud cria lufln v5n duoc trinh bdy 16 rdng, mach
lac, dim b6o tinh chinh x6c vd khoa hoc. C6c k6t qud dugc trich d6n ngu6n 16 rdng ho{c
dugc chimg -i4 chi tir5t. Phuong ph6p tli0m gAn kC duoc rip dpng vdo gi6i mQt sd bdi
toSn tdi uu cu th0. Vi thO 1u4n v5n vira c6 y nghia khoa hgc vira c6 tfnh thgc ti6n cao.
Lufln v6n c6 th6 dugc sri dpng nhu ld mQt tdi liQu tham khio bing titing ViQt cho sinh
viOn ngdnh to6n vd c6c giito vi€n, nhd khoa hoc quan t6m d6n lf thuytit cta bdi to6n t6i

uu, d5c biQt la phucmg phSp di6m gAn kC.

'

Hurfng nghiOn crfru ti6p: Tr0n co sd c6c ktit qu6 nghidn criu cria ludn vdn, phuong
ph6p di6m gan kC c6 th€ dugc tiiSp fiJc nghiCn cuu tlO gihi cdc bdi to6n kh6c nhau nhu
bdi torin c6n bing EP(f,C) vd bdi todn tim rli0m b6t dg,rg,... MQt hudng nghiOn cr?u kh6c
ld cii ti6n phucrng phrlp di6m g6n kC t10 nhfln dugc tdc dQ hQi tU nhanh hcrn.

Tir kh6a: Phucrng ph6p rli6m gdn ke; Bdi to6n tdi uu kh6ng rdng buQc; Hdm hi€u chinh
Moreau-Yosida; Thuflt to6n ditim gAn k6; CUc ti6u ctra bdi to6n t6i uu.

Xic nhfn

cria gi6o vi6n hufng

ft,

JS. Pham Quf Mucri

din

Ngucri thgc hiQn

OO

tei

Hulnh Thi Thanh Huydn

1i


.

INFORMATION PAGE OF MASTER THESIS

Thesis Title: PROXIMAL POINT METHOD TO SOLVE

AN OPTIMIZATION

PROBLEM.
Maj or: Mathematical Analysis.

Full name of Master student: HUYNH THI THANH HUYEN.
Supervisors: Ph. D PHAM QUY MUOI.

Training Institution: University of Pedagogy - Danang University.

Abstract: The master thesis " Proximal Point Method To Solve An Optimization
Problem " has achieved the following significant results. First, the thesis has presented
summarily some knowledge of normed vector space, functions and differentiation of
function, convex sets and convex functions, necessary and sufficient conditions of
unconstraint optimal optimization problems, and some basic commands in Matlab.
Then, the thesis has presented focusely on elemental properties of the adjustment
function; presented and proven the convergence of the proximal point method for
solving the unconstraint optimal optimization problems; applied the algorithm to several
specific examples. Finaly, the thesis has introduced some computer programs written in
Matlab language for proximal point method to solve the specific examples.

Scientific significancity and practical applications: the results are presented
coherently and objectively to ensure the accuracy. The outcomes are provided with the
explicit citations or detailed proofs. Besides that, the proximal point method is applied
to solve some specific optimization problems. As a result, the thesis has both scientific
and practical significance. Also, the thesis can be used as a reference written in
Vietnamese for students, teachers, and scientists who are interested in the theory of
optimal problems, especially the proximal point method.

Future development in research of the thesis: based on the research results of the
thesis, the proximal point method can be fuither studied to solve various problems such
as equilibrium problems and fixed-point finding problem, ... Another research direction
is to improve the proximal point method to get faster convergence rate.

Key words: Proximal point method;

unconstraint optimization problem;

Moreau-Yosida Regularization; proximal point algorithm; minimization of the problem.

1&

Supervisor's Confi rmation

Ph.D Pham Quy Muoi

Student

Huynh Thi Thanh Huyen

'.q

LỜI CẢM ƠN

Để có thể hồn thành đề tài luận văn thạc sĩ một cách hoàn chỉnh, bên
cạnh sự nỗ lực cố gắng của bản thân cịn có sự chỉ bảo nhiệt tình của q
thầy cơ, cũng như sự động viên ủng hộ của gia đình và bạn bè trong suốt
thời gian học tập, nghiên cứu và thực hiện luận văn.
Trước hết, tôi xin gửi lời cảm ơn chân thành nhất tới thầy giáo –TS.
Phạm Quý Mười đã hết lòng quan tâm giúp đỡ, hướng dẫn tơi hồn thành
tốt luận văn này trong thời gian qua.
Tôi cũng xin bày tỏ lịng biết ơn sâu sắc đến các q Thầy, Cơ giáo và
Ban chủ nhiệm Khoa Toán, Trường Đại Học Sư Phạm - Đại Học Đà Nẵng
đã tận tình truyền đạt những kiến thức quý báu và tạo điều kiện thuận lợi
nhất cho tơi trong suốt q trình học tập nghiên cứu cho đến khi thực hiện
đề tài luận văn.
Cảm ơn các anh, chị và các bạn trong lớp Cao Học Tốn Giải Tích Khóa
34 đã hỗ trợ tơi rất nhiều trong quá trình học tập và nghiên cứu.
Do điều kiện thời gian cũng như kinh nghiệm còn hạn chế nên luận văn
khơng thể tránh khỏi những thiếu sót. Tơi rất mong nhận được sự chỉ bảo,
đóng góp ý kiến của các thầy cơ để tơi có thể bổ sung và hồn thiện luận
văn một cách tốt hơn.
Tơi xin chân thành cảm ơn!

Đà Nẵng, ngày 10 tháng 10 năm 2019
Tác giả

Huỳnh Thị Thanh Huyền

MỤC LỤC
MỞ ĐẦU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
CHƯƠNG 1. MỘT SỐ KIẾN THỨC CƠ SỞ . . . . . . . . . . . . . . . . . . 3
1.1. CHUẨN

............................................................ 3

1.2. HÀM SỐ VÀ VI PHÂN

..................................................5

1.3. TẬP LỒI

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7

1.4. HÀM LỒI

...........................................................9

1.5. MỘT SỐ LỆNH CƠ BẢN TRONG MATLAB

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13

1.5.1. Các toán tử cơ bản của Matlab . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.5.2. m-file . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.5.3. Định nghĩa một hàm trong Matlab . . . . . . . . . . . . . . . . . . . . . 17
CHƯƠNG 2. BÀI TỐN TỐI ƯU KHƠNG RÀNG BUỘC VÀ
PHƯƠNG PHÁP ĐIỂM GẦN KỀ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.1. BÀI TỐN TỐI ƯU KHƠNG RÀNG BUỘC
2.2. PHƯƠNG PHÁP ĐIỂM GẦN KỀ

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

2.2.1. Định nghĩa hàm điều chỉnh Moreau - Yosida . . . . . . . . . . . . 24
2.2.2. Một vài tính chất cơ bản của hàm điều chỉnh . . . . . . . . . . . 25
2.2.3. Thuật toán điểm gần kề cho bài toán tối ưu . . . . . . . . . . . . 31
CHƯƠNG 3. CÁC VÍ DỤ VÀ CHƯƠNG TRÌNH MÁY TÍNH
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.1. CÁC VÍ DỤ

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

3.2. CHƯƠNG TRÌNH MÁY TÍNH

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40


KẾT LUẬN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
TÀI LIỆU THAM KHẢO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49


DANH MỤC

1. Danh mục các ký hiệu:
N

: Tập hợp các số nguyên dương

R

: Tập hợp các số thực

Rn

: Không gian Euclide n-chiều

x := y

: x được gán bằng y

∀x

: với mọi x

∃x

: tồn tại x

x

: Chuẩn của vecto x

x, y

: Tích vơ hướng của hai vecto x, y

A⊂B

: Tập A là tập con thực sự của tập B

A⊆B

: Tập A là tập con của B

A∪B

: A hợp B

A∩B

: A giao B

B

: Tích Đề-các của hai tập A và B

argmin{f (x) : x ∈ C} : Tập các điểm cực tiểu của hàm f trên C

xk → x

: Dãy {xk } hội tụ đến x

∂f (x)

:Dưới vi phân của f tại x

2. Danh mục các bảng:
Số hiệu bảng

Tên bảng

Trang

3.2.1

Kết quả tính tốn thực hiện trên Ví dụ 3.1.1

41

3.2.2

Kết quả tính tốn thực hiện trên Ví dụ 3.1.2

43

3.2.3

Kết quả tính tốn thực hiện trên Ví dụ 3.1.3

45

3.2.4

Kết quả tính tốn thực hiện trên Ví dụ 3.1.4

47

1

MỞ ĐẦU

1. Lý do chọn đề tài
Phương pháp điểm gần kề là một phương pháp thông dụng trong việc
giải bài tốn quy hoạch lồi trơn hoặc khơng trơn. Phương pháp này lần đầu
tiên được đề xuất bởi Martinet để giải bài tốn quy hoạch lồi và sau đó được
phát triển bởi Rockafellar vào năm 1976. Hiện nay phương pháp điểm gần
kề được ứng dụng rộng rãi để giải các bài toán tối ưu lồi, bài toán cân bằng,
quy hoạch phân thức,. . .
Bài tốn tối ưu là bài tốn tìm phương án tối ưu trong cực trị của hàm
số. Đây là bài tốn có nhiều ứng dụng trong thực tế. Khó khăn chính trong
việc nghiên cứu và giải quyết bài tốn này là phải tìm được một phương án
tối ưu trong miền chấp nhận được. Để giải quyết khó khăn này, phương pháp
điểm gần kề là cách tiếp cận cơ bản để giải bài toán tối ưu.
Với mong muốn nâng cao, mở rộng kiến thức và nghiên cứu kĩ về
phương pháp điểm gần kề cụ thể là để giải bài tốn tối ưu. Vì vậy, được
sự đồng ý hướng dẫn của TS. Phạm Quý Mười, chúng tôi quyết định chọn
đề tài:“PHƯƠNG PHÁP ĐIỂM GẦN KỀ ĐỂ GIẢI BÀI TOÁN TỐI ƯU”
cho luận văn thạc sĩ của mình.
2. Mục tiêu của đề tài
Trên cơ sở hệ thống lại các kiến thức, lý thuyết tổng qt cho bài tốn
tối ưu. Sau đó, luận văn tập trung vào nghiên cứu phương pháp điểm gần
kề để giải bài tốn tối ưu, cách tìm cực tiểu của một hàm và cách sử dụng
thuật toán.


2

3. Phương pháp nghiên cứu
Luận văn được nghiên cứu dựa trên các phương pháp:
- Nghiên cứu các tài liệu liên quan đến đề tài, bao gồm các tài liệu kinh
điển và các bài báo mới, tổng hợp và trình bày báo cáo tổng quan.
- Tham khảo, trao đổi với cán bộ hướng dẫn.
- Tham khảo một số bài báo đã đăng trên các tạp chí khoa học.
- Phương pháp giải đã có cho các dạng bài tốn chứng minh đẳng thức,
bất đẳng thức, giải hệ phương trình.
4. Đóng góp của đề tài
- Tổng hợp tài liệu để có một báo cáo tổng quan khá đầy đủ về Phương
Pháp Điểm Gần Kề Để Giải Bài Toán Tối Ưu cùng các ứng dụng và thuật
tốn.
- Bổ sung các ví dụ, hình ảnh và các chứng minh chi tiết.
5. Cấu trúc luận văn
Ngoài phần mở đầu và kết luận, tài liệu tham khảo, luận văn gồm ba
chương:
- Chương 1: Một số kiến thức cơ sở. Chương này nhắc lại một số khái
niệm, tính chất cơ bản trong không gian Rn , hàm nhiều biến, khả vi, tập lồi
và hàm lồi. Đồng thời nhắc lại một số lệnh cơ bản trong Matlab.
- Chương 2: Phương pháp điểm gần kề để giải bài toán tối ưu. Chương
này là nội dung chính của luận văn, ta sẽ phát biểu bài tốn tối ưu khơng
ràng buộc và nêu các điều kiện cần và đủ cho nghiệm của bài tốn tối ưu.
Đồng thời cũng trình bày định nghĩa, một số tính chất của hàm điều chỉnh
và thuật tốn điểm gần kề để giải bài toán cực tiểu hàm lồi.
- Chương 3: Các ví dụ và chương trình máy tính. Chương này trình bày
một số ví dụ sử dụng thuật tốn điểm gần kề và chương trình máy tính để
giải bài toán cực tiểu hàm lồi.


3

CHƯƠNG 1

MỘT SỐ KIẾN THỨC CƠ SỞ

Trong luận văn này, chúng ta sẽ làm việc với không gian Euclide n-chiều
trên trường số thực R. Không gian này sẽ được ký hiệu là Rn . Như vậy mỗi
vectơ x ∈ Rn sẽ gồm n tọa độ là các số thực. Thông thường khi viết một
vectơ x, nếu khơng có quy ước gì thêm, ta ln hiểu đó là vectơ cột. Chương
này nhắc lại một số khái niệm, tính chất cơ bản trong không gian Rn , hàm
nhiều biến, khả vi,tập lồi và hàm lồi. Đồng thời nhắc lại một số lệnh cơ bản
trong Matlab. Do chương này chỉ mang tính chất bổ trợ nên ta không chứng
minh các kết quả nêu ở đây. Nội dung của chương được trích dẫn chủ yếu từ
tài liệu tham khảo [2],[3],[4],[5],[6].
1.1. CHUẨN

: Rn → R được gọi là chuẩn khi nó thỏa

·

Định nghĩa 1.1.1. Ánh xạ
mãn các tính chất sau:

(i) x ≥ 0, ∀x ∈ Rn ; x = 0 khi và chỉ khi x = 0;
(ii) αx = |α| x , ∀α ∈ R, ∀x ∈ Rn ;
(iii) x + y ≤ x + y , ∀x, y ∈ Rn .
Các ví dụ thường gặp về chuẩn vectơ :

x

∞

x

= max |xi |,

1

(chuẩn l∞ ).

1≤i≤n
n

|xi |,

=

(chuẩn l1 ).

i=1
1
2

n

x

2

|xi |2

=
i=1

T

n

với x = (x1 , ..., xn ) ∈ R .

,

(chuẩn l2 ).


4

Các ví dụ trên là trường hợp cụ thể của chuẩn lp được định nghĩa như sau:
1
p

n

x

p

|xi |p

=

(chuẩn lp ).

i=1

với p là một số không nhỏ hơn 1 bất kỳ.

·

Định nghĩa 1.1.2. Cho

α

·

và

β

là các chuẩn trên Rn . Nếu tồn tại

µ1 , µ2 > 0,
µ1 x
thì ta nói rằng

·

α

và

α

≤ x

·

β

β

≤ µ2 x α , ∀x ∈ Rn

là hai chuẩn tương đương.

Đặc biệt, ta có

x
x

2

∞

x

≤ x

≤ x

√
≤ n x 2,
√
≤ n x ∞,

1
2

∞

≤ x

x

∞

1

≤ x

≤n x
2

∞,

≤ x 1.

Ta sử dụng các chuẩn để giới thiệu khoảng cách.
Cho x, y ∈ Rn và một hàm chuẩn. Khi đó, khoảng cách giữa 2 điểm x và y
được xác định bởi x − y .

Cụ thể, nếu x = (x1 , ..., xn )T , y = (y1 , ..., yn )T , thì

x−y

2

=

(x1 − y1 )2 + ... + (xn − yn )2

Rõ ràng, theo Định nghĩa 1.1.1, khoảng cách cũng có các tính chất sau:
1. x − y ≥ 0, x − y = 0 khi và chỉ khi x = y.
2. x − z ≤ x − y + y − z .
3. x − y = y − x .
Một dãy {xk } được gọi là hội tụ đến x∗ nếu

lim xk − x∗ = 0.

k→∞


5

1.2. HÀM SỐ VÀ VI PHÂN
Cho điểm x ∈ Rn và δ > 0. Lân cận δ của x được định nghĩa

Bδ (x) = {y ∈ Rn | y − x < δ}.
Cho D ⊂ Rn và x ∈ D. Điểm x được gọi là điểm trong của D nếu
tồn tại δ > 0 sao cho Bδ (x) ⊂ D. Tập hợp tất cả các điểm như vậy được
◦

gọi là phần trong của D và được ký hiệu là int(D) hoặc D. Chắc chắn là
int(D) ⊂ D. Hơn nữa, nếu int(D) = D,tức là mọi điểm của D là điểm trong
của D thì D là một tập mở.
Tập D ⊂ Rn đóng khi và chỉ khi phần bù của nó mở.x ∈ Rn được gọi
là điểm tụ nếu với mỗi δ > 0, D ∩ Nδ (x) = ∅. Có nghĩa là tồn tại một dãy

{xn } ⊂ D sao cho xn → x.Tập hợp tất cả cá điểm như vậy được gọi là bao
đóng của D và được ký hiệu là D. Rõ ràng, D ⊂ D. Hơn nữa, nếu D = D,
tức là mỗi điểm tụ của D đều thuộc D thì D là tập đóng.
Tập D ⊂ Rn được gọi là compact nếu nó bị chặn và đóng. Với mỗi dãy

{xk } trong tập compact D, tồn tại một dãy con hội tụ tới một điểm trong
D.
Hàm f : Rn → R được gọi là liên tục tại x ∈ Rn nếu với bất kỳ

> 0,

tồn tại δ > 0 sao cho ∀x ∈ Rn , x − x < δ ,ta có |f (x) − f (x)| < . Ta
cũng có thể viết lại như sau: ∀ > 0, ∃δ > 0 sao cho ∀x ∈ Nδ (x), ta có

f (x) ∈ N (f (x)) . Nếu f liên tục tại mọi điểm trong tập mở D ⊂ Rn thì f
liên tục trên D.
Hàm liên tục f : Rn → R được gọi là khả vi liên tục tại x ∈ Rn nếu

∂f
(x) tồn tại và liên tục,i = 1, ..., n. Gradient của f tại x được định
∂xi
nghĩa như sau
T

∂f
∂f
∇f (x) =
(x), ...,
(x) .
∂x1
∂xn

Nếu f khả vi liên tục tại mỗi điểm trong tập mở D ⊂ Rn thì f khả vi
liên tục trên D và được ký hiệu là f ∈ C 1 (D).
Hàm f : Rn → R khả vi liên tục được gọi là khả vi liên tục hai lần tại


6

∂ 2f
x ∈ R nếu
(x) tồn tại và liên tục,i, j = 1, ..., n. Ma trận Hessian của
∂xi ∂xj
f được định nghĩa là ma trận đối xứng n × n với các phần tử
∂ 2f
2
(x), 1 ≤ i, j ≤ n.
∇ f (x) ij =
∂xi ∂xj
n

Nếu f là hàm khả vi liên tục hai lần tại mỗi điểm trong tập mở D ⊂ Rn
thì f khả vi liên tục hai lần trên D và được ký hiệu là f ∈ C (2) (D).
Cho hàm f : Rn → R. Khi đó, x ∈ D và d ∈ Rn , đạo hàm theo hướng

của f tại x theo hướng d được định nghĩa như sau
f (x + θd) − f (x)
f (x; d) = lim
= ∇f (x)T d.
θ→0
θ
trong đó ∇f (x) là gradient của f tại x.
Với bất kỳ x, x + d ∈ D, nếu f ∈ C 1 (D) thì
1

∇f (x + td)T ddt

f (x + d) = f (x) +
0

x+d

∇f (ξ)dξ.

= f (x) +
x

Do đó,

f (x + d) = f (x) + ∇f (ξ)T d,

ξ ∈ (x, x + d).

Tương tự, với mọi x, y ∈ D, ta có

f (y) = f (x) + ∇f (x + t(y − x))T (y − x), t ∈ (0, 1).

(1.1)

hay

f (y) = f (x) + ∇f (x)T (y − x) + o( y − x ).
Theo (1.1) thì

|f (y) − f (x)| ≤ y − x

sup

f (ξ) .

ξ∈L(x,y)

trong đó L(x, y) là ký hiệu đoạn thẳng với điểm cuối x và y .
Cho f ∈ C (2) (D). Với bất kỳ x ∈ D, d ∈ Rn , đạo hàm theo hướng lần
hai của f tại x theo hướng d được định nghĩa như sau
f (x + θd; d) − f (x; d)
f (x; d) = lim
= dT ∇2 f (x)d.
θ→0
θ
2
trong đó ∇ f (x) là ma trận Hessian của f tại x.


7

Với bất kỳ x, x + d ∈ D, tồn tại ξ ∈ (x, x + d) sao cho
1
f (x + d) = f (x) + ∇f (x)T d + dT ∇2 f (ξ)d,
2
hay

1
f (x + d) = f (x) + ∇f (x)T d + dT ∇2 f (x)d + o( d 2 ).
2
1.3. TẬP LỒI
Định nghĩa 1.3.1. (i) Đường thẳng đi qua hai điểm (hai vectơ)a, b trong
Rn là tập hợp tất cả các vectơ x ∈ Rn có dạng

{x ∈ Rn |x = αa + βb; α, β ∈ R, α + β = 1}.
(ii) Đoạn thẳng nối hai điểm a và b trong Rn là tập hợp tất cả các vectơ x
có dạng

{x ∈ Rn |x = αa + βb; α ≥ 0, β ≥ 0, α + β = 1}.
Định nghĩa 1.3.2. Một tập C ⊆ Rn được gọi là một tập lồi nếu C chứa
mọi đoạn thẳng đi qua hai điểm bất kỳ của nó. Tức là C lồi khi và chỉ khi

∀x, y ∈ C; ∀λ ∈ [0, 1] thì λx + (1 − λ) y ∈ C.
Định nghĩa 1.3.3. (i) Ta nói x là tổ hợp lồi của các điểm (vectơ) x1 , x2 , ..., xk
nếu
k

k
j

x=

λj x

với λj > 0; ∀j = 1, 2, ..., k

λj = 1.

và

j=1

j=1

(ii) Ta nói x là tổ hợp affine của các điểm (vectơ) x1 , x2 , ..., xk nếu
k

k
j

x=

λj x ,
j=1

λj = 1.
j=1

(iii) Tập hợp các tổ hợp affine của x1 , x2 , ..., xk thường được gọi là bao affine
của các điểm này.

Mệnh đề 1.3.1. Tập hợp C là lồi khi và chỉ khi nó chứa mọi tổ hợp lồi của
các điểm của nó. Tức là, C lồi khi và chỉ khi
k

k
1

∀k ∈ N; ∀λ1 , ..., λk > 0 :

2

k

λj = 1, ∀x , x , ..., x ∈ C
j=1

λj xj ∈ C.

thì
j=1


8

Ví dụ 1.3.4. Siêu phẳng H = {x ∈ Rn |pT x = α} là một tập lồi, trong đó

p ∈ Rn là một vectơ khác vectơ khơng, cịn gọi là vectơ pháp tuyến và α là
một vô hướng.
Thật vậy,

∀x1 , x2 ∈ H và θ ∈ [0, 1], pT [θx1 + (1 − θ)x2 ] = α,
thì θx1 + (1 − θ)x2 ∈ H.
Trong siêu phẳng H = {x ∈ Rn |pT x = α} , nếu α = 0, nó trở thành
một khơng gian con gồm các vectơ trực giao với p.
Tương tự, nửa khơng gian đóng H − = {x ∈ Rn |pT x ≤ β} và H + =
◦

{x ∈ Rn |pT x ≥ β} là các tập lồi đóng. Nửa khơng gian mở (H )− = {x ∈
◦

Rn |pT x < β} và (H )+ = {x ∈ Rn |pT x > β} là các tập lồi mở.
Ví dụ 1.3.5. Tia C = {x ∈ Rn |x = x0 + λd, λ ≥ 0} là một tập lồi, trong
đó d ∈ Rn là một vectơ khác không, x0 ∈ Rn là điểm cố định.
Thật vậy, ∀x1 , x2 ∈ C và λ ∈ [0, 1], ta có

x1 = x0 + λ1 d, x2 = x0 + λ2 d,
trong đó λ1 , λ2 ∈ [0, 1]. Do đó,

λx1 + (1 − λ)x2 = λ(x0 + λ1 d) + (1 − λ)(x0 + λ2 d)
= x0 + [λλ1 + (1 − λ)λ2 ]d.
Vì λλ1 + (1 − λ)λ2 ≥ 0, nên λx1 + (1 − λ)x2 ∈ C.
Định nghĩa 1.3.6. Giao hữu hạn các nửa không gian đóng

C = {x ∈ Rn |pTi x ≤ βi ,

i = 1, ..., m}.

được gọi là một tập đa diện, trong đó mỗi pi là một vectơ khác khơng, mỗi

βi là một số vô hướng (1 ≤ i ≤ m).

Chú ý rằng, các tập đa diện là các tập lồi. Vì một đẳng thức có thể đươc
biểu diễn bằng hai bất đẳng thức, nên dưới đây là các ví dụ của tập đa diện:

C = {x ∈ Rn |Ax = b, x ≥ 0},
C = {x ∈ Rn |Ax ≥ 0, x ≥ 0}.


9

Định lý 1.3.2. Cho C1 và C2 là các tập lồi trên Rn . Khi đó
(i) C1 ∩ C2 lồi.
(ii) C1 ± C2 = {x1 ± x2 |x1 ∈ C1, x2 ∈ C2 } lồi.
Định nghĩa 1.3.7. Một tập C được gọi là nón nếu:

∀λ > 0, ∀x ∈ C ⇒ λx ∈ C.
(i) Một nón được gọi là nón lồi nếu nó đồng thời là một tập lồi.
(ii) Một nón lồi được gọi là nón nhọn nếu nó khơng chứa đường thẳng, khi
đó ta nói O là đỉnh của nón. Nếu nón lồi này là một tập lồi đa diện thì
ta nói nó là nón lồi đa diện.
Định nghĩa 1.3.8. Cho C ⊆ Rn là một tập lồi và x ∈ C .
(i) Tập NC (x) := {w| w, y − x ≤ 0, ∀y ∈ C} .
được gọi là nón pháp tuyến ngồi của C tại x.
(ii) Tập −NC (x) := {w| w, y − x ≥ 0, ∀y ∈ C} .
được gọi là nón pháp tuyến trong của C tại x.
1.4. HÀM LỒI
Định nghĩa 1.4.1. Cho C là một tập con, lồi và khác rỗng trong không
gian Rn .
(i) Hàm f : C ⊂ Rn → R được gọi là hàm lồi trên C nếu

f [αx1 + (1 − α)x2 ] ≤ αf (x1 ) + (1 − α)f (x2 ); ∀x1 , x2 ∈ C; ∀α ∈ (0, 1).

(ii) Hàm f : C ⊂ Rn → R được gọi là hàm lồi chặt trên C nếu

f [αx1 + (1 − α)x2 ] < αf (x1 )+(1−α)f (x2 ); ∀x1 , x2 ∈ C; ∀x1 = x2 ; ∀α ∈ (0, 1).
(iii) Hàm f : C ⊂ Rn → R được gọi là hàm lồi mạnh trên C nếu tồn tại

c > 0 sao cho ∀x1 , x2 ∈ C; ∀α ∈ [0, 1] ta có
1
f [αx1 + (1 − α)x2 ] ≤ αf (x1 ) + (1 − α)f (x2 ) − cα(1 − α) x1 − x2 2 .
2
(1.2)


10

Nếu −f là một hàm lồi (lồi chặt, lồi mạnh) trên C thì f được gọi là hàm
lõm ( lõm chặt, lõm mạnh) trên C .
Định lý 1.4.1. Cho C ⊂ Rn là một tập lồi mở, khác rỗng và f : C ⊂ Rn → R
là hàm khả vi. Khi đó,
(i) f lồi khi và chỉ khi

f (y) ≥ f (x) + ∇f (x)T (y − x), ∀x, y ∈ C.
(ii) f lồi chặt trên C khi và chỉ khi

f (y) > f (x) + ∇f (x)T (y − x), ∀x, y ∈ C, y = x.
(iii) f lồi mạnh khi và chỉ khi

1
f (y) ≥ f (x) + ∇f (x)T (y − x) + c y − x 2 , ∀x, y ∈ C.
2
trong đó, c > 0 là một hằng số.

Định lý 1.4.2. Cho C ⊂ Rn là một tập lồi mở, khác rỗng và hàm f : C ⊂
Rn → R khả vi liên tục hai lần. Khi đó,
(i) f lồi khi và chỉ khi ma trận Hessian của nó nửa xác định dương tại mỗi
điểm trên C .
(ii) f lồi chặt khi và chỉ khi ma trận Hessian của nó xác định dương tại mỗi
điểm trên C .
(iii) f lồi mạnh khi và chỉ khi ma trận Hessian của nó xác định dương mạnh
tại mỗi điểm trên C , tức là tồn tại một hằng số m > 0 sao cho

m u

2

≤ uT ∇2 f (x)u, ∀x ∈ C, u ∈ Rn .

Định nghĩa 1.4.2. Cho ánh xạ F : D ⊂ Rn → Rn
(i) F là đơn điệu trên D0 ⊂ D nếu

F (x) − F (y), x − y ≥ 0, ∀x, y ∈ D0 .
(ii) F là đơn điệu hoàn toàn trên D0 nếu

F (x) − F (y), x − y > 0, ∀x, y ∈ D0 , x = y.


11

(iii) F là đơn điệu mạnh trên D0 nếu tồn tại một hằng số c > 0 sao cho

F (x) − F (y), x − y ≥ c x − y 2 , ∀x, y ∈ D0 .
Nếu ta cho F = ∇f theo định nghĩa trên, ta có thể nhận được định lý

nói rằng, với hàm lồi f , gradient ∇f là một ánh xạ đơn điệu.
Định lý 1.4.3. Giả sử hàm f : D ⊂ Rn → Rn khả vi trên tập mở D, và

C ⊂ D là một tập con lồi. Khi đó,
(i) f lồi trên C khi và chỉ khi gradient ∇f là đơn điệu, tức là

∇f (x) − ∇f (y), x − y ≥ 0,

∀x, y ∈ C.

(ii) f lồi chặt trên C khi và chỉ khi gradient ∇f là đơn điệu chặt, tức là

∇f (x) − ∇f (y), x − y > 0,

∀x, y ∈ C, x = y.

(iii) f lồi mạnh trên C khi và chỉ khi gradient ∇f là đơn điệu mạnh, tức là

∇f (x) − ∇f (y), x − y ≥ c x − y 2 .
trong đó c > 0 là một hằng số của (1.2)
Định nghĩa 1.4.3. (i) Cho C là một tập con, lồi, khác rỗng của Rn và hàm

f : C → R ∪ {+∞, −∞}. Khi đó, các tập hợp:
domf := {x ∈ C : f (x) < +∞} ,
epif := {(x, α) ∈ C × R : f (x) ≤ α} .
lần lượt được gọi là miền hữu hiệu và tập trên đồ thị của f .
(ii) Hàm f được gọi là chính thường trên C , nếu:

domf = ∅, f (x) > −∞∀x ∈ C.
(iii) Hàm f được gọi là đóng trên C nếu epif là một tập đóng trong C × R.

Định lý 1.4.4. Cho C ⊂ Rn là một tập lồi,khác rỗng và hàm f : C ⊂ Rn →
R.Khi đó, f là lồi khi và chỉ khi epif là một tập lồi.
Nhận xét 1.4.4. Ta thấy rằng
(1) Nếu f là một hàm lồi trên tập lồi C thì có thể mở rộng f lên tồn khơng
gian bằng cách đặt fe (x) := f (x) nếu x ∈ C và fe (x) := +∞ nếu x ∈
/ C.


12

Dễ thấy fe (x) = f (x) với mọi x ∈ C và fe lồi trên Rn . Hơn nữa fe là
chính thường (tương ứng, đóng) khi và chỉ khi f là chính thường (tương
ứng, đóng).
(2) Nếu f là hàm lồi thì domf là một tập lồi bởi domf là hình chiếu của

epif lên Rn
(3) Hàm f lồi mạnh trên C với hệ số c khi và chỉ khi hàm h(x) := f (x) −
c
2

x

2

lồi trên C .

(4) Nếu các hàm fi : C → R(i ∈ I) là lồi thì

i∈I

αi fi (∀αi ≥ 0) (với I hữu

hạn) và supi∈I fi (với I tùy ý) là các hàm lồi trên C .
Định nghĩa 1.4.5. Cho C là một tập con, lồi và khác rỗng của Rn và hàm
lồi chính thường f : C → R ∪ {+∞}.
Một vectơ p ∈ C được gọi là dưới đạo hàm của f tại x0 ∈ C , nếu:

p, x − x0 + f (x0 ) ≤ f (x), ∀x ∈ C.
Tập tất cả các dưới đạo hàm của f tại x0 được gọi là dưới vi phân của

f tại x0 và được ký hiệu là ∂f (x0 ) hay:
∂f (x0 ) = {p ∈ C : p, x − x0 + f (x0 ) ≤ f (x), ∀x ∈ C}.
Hàm f được gọi là khả dưới vi phân tại x0 nếu ∂f (x0 ) = ∅.
Hàm lồi f được gọi là khả dưới vi phân trên miền C , nếu f khả dưới vi
phân tại mọi điểm x ∈ C .
Định lý 1.4.5. Giả sử f : C → (−∞, +∞] là hàm lồi và α ∈ (−∞, +∞] .
Khi đó, các tập mức dưới

L0α (f ) := {x ∈ C : f (x) < α}
Lα (f ) := {x ∈ C : f (x) ≤ α}
là các tập lồi.
Định nghĩa 1.4.6. Cho f : Rn → R.
(i) Hàm f được gọi là nửa liên tục dưới tại x0 ∈ Rn nếu

∀{xk } ⊂ Rn : xk → x0 ⇒ limk→∞ f (xk ) ≥ f (x0 ).


13

(ii) Hàm f được gọi là nửa liên tục dưới (nửa liên tục dưới yếu, tương ứng)

ở trên C ⊆ Rn nếu nó nửa liên tục dưới (nửa liên tục dưới yếu, tương
ứng) tại mọi x ∈ Rn . Hàm f được gọi là nửa liên tục trên (nửa liên tục
trên yếu, tương ứng) nếu −f là nửa liên tục dưới (nửa liên tục dưới yếu,
tương ứng). Hàm f được gọi là liên tục (liên tục yếu, tương ứng) nếu nó
vừa nửa liên tục dưới (nửa liên tục dưới yếu, tương ứng) vừa nửa liên
tục trên (nửa liên tục trên yếu, tương ứng).
Định lý 1.4.6. Cho f : Rn → R ∪ {+∞}, các khẳng định dưới đây là tương
đương nhau:
(i) f là nửa liên tục dưới trên Rn .
(ii) epif là tập đóng trong Rn × R.
(iii) Tập mức dưới Lα (f ) là một tập đóng, với mọi số thực α
Định lý 1.4.7. Giả sử f là hàm lồi chính thường trên Rn và x0 ∈ Rn . Khi
đó, các khẳng định sau là tương đương nhau:
(i) f liên tục tại điểm x0 .
(ii) f bị chặn trên trong một lân cận của x0 .
(iii) int(epif ) = ∅.
(iv) int(domf ) = ∅ và f liên tục trong int(domf ).
(trong đó intD là ký hiệu phần trong của tập D).
1.5. MỘT SỐ LỆNH CƠ BẢN TRONG MATLAB
Matlab là một phần mềm tương tác được sử dụng gần đây trong nhiều
lĩnh vực khác nhau của khoa học và kỹ thuật. Phần mềm khơng phải là một
ngơn ngữ máy tính theo nghĩa thông thường nhưng thực thi các công việc
như một ngơn ngữ máy tính.


14

1.5.1. Các toán tử cơ bản của Matlab
a. Các toán tử cơ bản
1.Các phép toán cơ bản của Matlab gồm:

+

cộng

−

trừ

∗

nhân

/

chia phải

\

chia trái

∧

lũy thừa

2.Các toán tử quan hệ:

<

nhỏ hơn

<=

nhỏ hơn hoặc bằng

>

lớn hơn

>=

lớn hơn hoặc bằng

=

bằng

∼=

khơng bằng

3.Các tốn tử logic:

&

và

|

or

∼

not

4.Các hằng:
pi

3.14159265

i

số ảo

realmin

số thực nhỏ nhất 2−1022

realmax

số thực lớn nhất 21023

inf

vô cùng lớn

NaN

Not a number

15

b. Các hàm toán học
1.Các hàm toán học cơ bản:

exp(x)

hàm ex

sqrt(x)

căn bậc hai của x

log(x)

logarit tự nhiên

log10(x)

logarit cơ số 10

abs(x)

modun của số phức x

angle(x)

argument của số phức x

conj(x)

số phức liên hợp của x

imag(x)

phần ảo của x

real(x)

phần thực của x

sign(x)

dấu của x

cos(x)
sin(x)
tan(x)
acos(x)
asin(x)
atan(x)
cosh(x)
coth(x)
sinh(x)
tanh(x)
acosh(x)
acoth(x)
asinh(x)
atanh(x)

2.Các hàm toán học tự tạo:
Matlab cho phép tạo hàm tốn học và lưu nó vào một file để dùng như
là hàm có sẵn của Matlab.


16

Ví dụ 1.5.1. Ta cần tạo hàm: f1 (x) =

1
1 + 8x2

Muốn thế ta tạo ra file f1.m như sau:

f unction y = f 1(x)
y = 1/(1 + 8 ∗ x2 );
Khi nhập lệnh f1(2) ta có giá trị của hàm f1 tại x = 2.
c. Các cấu trúc điều khiển
for:
Vòng lặp "for" dùng khi biết trước số lần lặp. Cú pháp như sau:
for<chỉ số> = <giá trị đầu> : <mức tăng> : <giá trị cuối>
while:
Vòng lặp "while" dùng khi không biết trước số lần lặp. Cú pháp như
sau:
while <điều kiện>
<các câu lệnh>
end
if:
Lệnh điều khiển "if" cú pháp như sau:
if <điều kiện 1>

<nhóm câu lệnh 1>
elseif <điều kiện 2>
<nhóm câu lệnh 2>
else
<nhóm câu lệnh 3>
end