XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON NHÂN TẠO

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI
KHOA CÔNG NGHỆ THÔNG TIN
---------------------

BÁO CÁO NGHIÊN CỨU KHOA HỌC
Tên đề tài:
XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON
NHÂN TẠO
Hà Nội 4/2008
Xác định quan hệ mờ bằng mạng nơron nhân tạo
B¸o c¸o nghiªn cøu khoa häc
MỤC LỤC
Phần mở đầu
1. Tên đề tài
2. Lý do chọn đề tài
I. Tổng quan lý thuyết tập mờ và quan hệ mờ
1.1 Khái niệm tập mờ
1.2 Các phép toán về tập mờ
1.2.1 Phép hợp
1.2.2 Phép giao
1.2.3 Phép bù
1.3. Quan hệ mờ
II. Giới thiệu về mạng nơron nhân tạo
2.1. Mạng nơron sinh học
2.2. Mạng nơron nhân tạo
2.2.1 Mô hình nơron nhân tạo
2.2.2 Định nghĩa và phân loại mạng nơron nhân tạo
2.3. Thủ tục học của mạng nơron nhân tạo
2.3.1 Học tham số
2.3.2 Học cấu trúc
2.4 Thuật toán lan truyền ngược

2.5 Mạng nơron mờ
III. Bài toán xác định quan hệ mờ bằng mạng nơron nhân tạo
3.1 Bài toán
3.2 Tôpô mạng
3.3 Thủ tục học và thuật toán huấn luyện mạng
3.4 Ví dụ
3.5 Xây dựng chương trình ứng dụng
Kết luận
Tài liệu tham khảo
PHẦN MỞ ĐẦU
1. Tên đề tài
Xác định quan hệ mờ bằng mạng nơron nhân tạo.
2. Lý do chọn đề tài
Từ 20 năm nay, lý thuyết tập mờ và mạng nơron nhân tạo đã phát triển rất nhanh và đa
dạng. Công nghệ mờ và công nghệ mạng nơron đã cung cấp những công nghệ mới cho các
ngành công nghiệp làm ra nhiều sản phẩm thông minh, đáp ứng nhu cầu thị trường cần có
những bộ điều khiển linh hoạt hơn. Hệ mờ và mạng nơron được kết hợp với nhau để cùng
phát huy những ưu điểm của chúng. Một trong những dạng kết hợp đó là mạng nơron mờ,
nhờ có nó mà chúng ta đã giải quyết được rất nhiều bài toán khó mà với thuật giải thông thì
không thực hiện được hoặc nếu có thì cũng rất phức tạp và mất nhiều thời gian.
2
Báo cáo nghiên cứu khoa học
Vi bi toỏn xỏc nh quan h gia khụng gian vo v khụng gian ra da trờn cỏc cp
phn t vo ra ó bit. C th cho khụng gian vo
X
, khụng gian ra
Y
v cỏc cp phn t
vo ra
( )

,x y
ó bit , tc l cho mt phn t
x Xẻ
thỡ cú mt phn t ra tng ng
y Yẻ
.
Yờu cu bi toỏn t ra l xỏc nh quan h
R
gia
X
v
Y
. Mt trong nhng phng
phỏp thng c s dng gii quyt bi toỏn trờn ú l phng phỏp bỡnh phng bộ
nht. gim phc tp v thi gian tớnh toỏn trong bỏo co ny tụi s dng mt phng
phỏp mi ú l dựng mng nron nhõn to. V quan h gia khụng gian vo v ra xỏc nh
c khụng phi l quan h bỡnh thng m l quan h m.
Bi nghiờn cu gm nhng phn sau:
I. Tng quan lý thuyt tp m v quan h m
Gii thiu v khỏi nim tp m, cỏc phộp toỏn trờn tp m, quan h m.
II. Gii thiu v mng nron nhõn to.
Gii thiu cu trỳc ca mt nron, nh ngha v phõn loi mng nron, cỏc th hc
mng nron, thut toỏn lan truyn ngc.
III. Bi toỏn xỏc nh quan h m bng mng nron nhõn to
nh x bi toỏn xỏc nh quan h m lờn mng nron nhõn to, a ra cỏch hun luyn
mng. Cui cựng l demo thut toỏn xỏc nh quan h m bng mng nron nhõn to.
I. Tng quan lý thuyt tp m v quan h m
1.1 Khỏi nim tp m
Tp m c xem l s m rng trc tip ca tp kinh in. Bõy gi ta xột khỏi nim
hm thuc ca tp kinh in.

nh ngha 1.1
Cho mt tp hp
A
. nh x
{ }
: 0,1U
m
đ
c nh ngha nh sau:
( )
1 nếu
0 nếu
A
x A
x
x A
m
ỡ
ẻ
ù
ù
=
ớ
ù
ẽ
ù
ợ
(1.1)
c gi l hm thuc ca tp
A

. Tp
A
l tp kinh in,
U
l khụng gian nn. Nh vy
hm thuc ca tp c in ch nhn hai giỏ tr l 0 hoc 1. Giỏ tr 1 ca hm thuc
( )
A
x
m

cũn c gi l giỏ tr ỳng, ngc li 0 l giỏ tr sai ca
( )
A
x
m
. Mt tp
U
luụn cú

( )
1
U
x
m
=
, vi mi
x
3
Báo cáo nghiên cứu khoa học

c gi l khụng gian nn (tp nn).
Mt tp
A
cú dng

{ }
thoả mãn một số tính chất nào đóA x U x= ẻ
thỡ c gi l cú tp nn
U
, hay c nh ngha trờn tp nn
U
. Vớ d tp
{ }
9 12A x x= < <ẻ Ơ
cú tp nn l tp cỏc s t nhiờn
Ơ
.
Hm thuc
( )
A
x
m
nh ngha trờn tp
A
, trong khỏi nim kinh in ch cú hai giỏ
tr l 1 nu
x Aẻ
hoc 0 nu
x Aẽ
. Hỡnh 1.1 mụ t hm thuc ca hm

( )
A
x
m
, trong ú
tp
A
c nh ngha nh sau:
{ }
2 6A x x= < <ẻ Ă
. (1.2)
Hỡnh 1.1. Hm thuc
( )
A
x
m
ca tp kinh in
A
.
Cỏch biu din hm ph thuc nh vy khụng phự hp vi nhng tp c mụ t
m nh tp
B
gm cỏc s thc dng nh hn nhiu so vi 6
{ }
6B x x= ẻ Ă =
, (1.3)
cú tp nn l
Ă
, hoc tp
C

gm cỏc s thc gn bng 3 cng cú tp nn
Ă

{ }
3C x x= ằẻ Ă
(1.4)
Tp
B
,
C
nh vy c gi l cỏc tp m.
Lý do l vi nhng nh ngha m nh vy cha xỏc nh c mt s chng
hn nh
4,5x =
cú thuc
B
hoc
2,5x =
cú thuc
C
hay khụng. Nờn chỳng ta khụng
th dựng hm thuc ca tp c in ch cú hai giỏ tr 1 v 0 nh ngha tp
B
v
C
trong
trng hp ny.
4
2
x

6
0
)(x
A
à
1
B¸o c¸o nghiªn cøu khoa häc
Vì vậy người ta nghĩ rằng: tại sao lại không mở rộng miền giá trị cho hàm thuộc của
tập cổ điển, tức là hàm thuộc sẽ có nhiều hơn hai giá trị. Khi đó thay vì việc trả lời câu hỏi
4,5x =
có thuộc
B
hay không, ngưòi ta sẽ trả lời câu hỏi là: vậy thì
4,5x =
thuộc
B

bao nhiêu phần trăm? Giả sử rằng có câu trả lời thì lúc này hàm thuộc
( )
B
x
m
tại điểm
4,5x =
phải có một giá trị trong đoạn
[ ]
0,1
, tức là

( )

0 1
B
x
m
£ £
(1.5)
Nói cách khác hàm
( )
B
x
m
không còn là hàm hai giá trị như đối với tập kinh điển
nữa mà là một ánh xạ (hình 1.2)

[ ]
: 0,1
B
U
m
®
, (1.6)
trong đó
U
là tập nền của tập “mờ”.
Hình 1.2 a, Hàm phụ thuộc của tập “mờ”
B
b, Hàm phụ thuộc của tập “mờ”
C
Định nghĩa 1.2
Tập mờ

F
xác định trên tập kinh điển
U
là một tập mà mỗi phần tử của nó là một cặp
các giá trị
( )
( )
,
F
x x
m
trong đó
x UÎ
và
F
m
là một ánh xạ
[ ]
: 0,1
F
U
m
®
. (1.7)
Ánh xạ
F
m
được gọi là hàm thuộc (hàm phụ thuộc hay hàm thành viên ) của tập mờ
F
. Tập kinh điển

U
được gọi là tập nền (hay tập vũ trụ) của tập mờ
F
.
Ví dụ một tập mờ
F
của các số tự nhiên nhỏ hơn 6 với hàm phụ thuộc
( )
F
x
m
có dạng
như hình 1.2a định nghĩa trên nền
U
sẽ chứa các phần tử sau
5
Báo cáo nghiên cứu khoa học
( ) ( ) ( ) ( )
{ }
1, 1 , 2, 1 , 3, 0,8 , 4, 0,07F =
.
S t nhiờn 1 v 2 cú ph thuc
( ) ( )
1 2 1
F F
m m
= =
,
cỏc s t nhiờn 3 v 4 cú ph thuc nh hn 1
( )

3 0,8
F
m
=
v
( )
4 0,07
F
m
=
,
Nhng s t nhiờn khụng c lit kờ u cú ph thuc bng 0.
1.2 Cỏc phộp toỏn v tp m
Ging nh nh ngha v tp m cỏc phộp toỏn trờn tp m cng s c nh ngha
thụng qua cỏc hm thuc. Núi cỏch khỏc, khỏi nim xõy dng nhng phộp toỏn trờn tp m l
vic xỏc nh cỏc hm thuc cho phộp hp, giao , bự t nhng tp m. Mt nguyờn tc c
bn trong vic xõy dng cỏc phộp toỏn trờn tp m l khụng c mõu thun vi nhng phộp
toỏn ó cú trong lý thuyt tp hp kinh in.
1.2.1 Phộp hp
Cho hai tp hp m
A
v
B
cú cựng khụng gian nn
U
vi hai hm thuc tng ng
l
( )
A
x

m
v
( )
B
x
m
. Hp ca
A
v
B
l mt tp m cng xỏc nh trờn
U
, kớ hiu l
A Bẩ
cú hm thuc
( )
A B
x
m
ẩ
tho món:
i.
( )
A B
x
m
ẩ
ch ph thuc vo
( )
A

x
m
v
( )
B
x
m
.
ii.
( )
0
B
x
m
=
vi
x"

ị

( )
A B
x
m
ẩ
=
( )
A
x
m

.
iii. Tớnh giao hoỏn, tc l
( ) ( )
A B B A
x x
m m
ẩ ẩ
=
.
iv. Tớnh kt hp, tc l
( ) ( )
( ) ( )A B C A B C
x x
m m
ẩ ẩ ẩ ẩ
=
.
v. L hm khụng gim:
( ) ( )
1 2
A A
x x
m m
Ê

ị

( ) ( )
1 2
A B A B

x x
m m
ẩ ẩ
Ê
.
tớnh hm thuc
( )
A B
x
m
ẩ
cú nhiu cỏch khỏc nhau, sau õy l mt cụng thc
c dựng trong bỏo cỏo ny:
( ) ( ) ( )
{ }
max ,
A B A B
x x x
m m m
ẩ
=
(Lut ly max) (1.8)
6
x
à
( )
A
x
à
x

a)
à
( )
B
x
à
x
b)
à
( )
A
x
à
( )
B
x
à
B¸o c¸o nghiªn cøu khoa häc
Hình 1.3. Hàm thuộc của hai tập mờ có cùng không gian nền
a) Hàm thuộc của hai tập mờ
A
và
B
b) Hợp của hai tập mờ
A
và
B
theo luật max.
Một cách tổng quát thì bất cứ một ánh xạ dạng
( ) [ ]

: 0,1
A B
x U
m
È
®
nếu
thoả mãn 5 tiêu chuẩn đã nêu trong định nghĩa hợp hai tập mờ đều được xem như là hợp của
hai tập mờ
A
và
B
có chung một không gian nền
U
.
Công thức trên cũng được mở rộng để áp dụng cho việc xác định hợp của hai tập mờ
không cùng không gian nền, bằng cách đưa cả hai tập mờ về chung một không gian nền là
tích của hai tập nền đã cho.
Ví dụ cho tập mờ
A
xác định trên không gian nền
M
và tập mờ
B
xác định trên
không gian nền
N
. Do hai tập nền
M
và

N
độc lập với nhau nên hàm thuộc
( )
A
x
m
,
x MÎ
của tập mờ
A
sẽ không phụ thuộc vào
N
và ngược lại
( )
B
x
m
,
y NÎ
của tập
B

cũng sẽ không phụ thuộc vào
M
. Điều đó thể hiện ở chỗ trên không gian nền mới là tập tích
M N´
hàm
( )
A
x

m
phải là một mặt “cong” dọc theo trục
y
và
( )
B
x
m
là một mặt “cong”
dọc theo trục
x
(hình 1.4). Tập mờ
A
như vậy được định nghĩa trên hai không gian nền
M

và
M N´
. Để phân biệt được chúng, sau đây kí hiệu
A
sẽ được dùng để chỉ tập mờ
A

trên không gian nền
M N´
. Đối với các tập mờ khác cũng được kí hiệu tương tự. Với kí
hiệu đó thì
( ) ( )
,
A A

x y x
m m
=
với mọi
y NÎ
và
( ) ( )
,
B B
x y x
m m
=
với mọi
x MÎ
.
7
B¸o c¸o nghiªn cøu khoa häc
a.
Hình 1.4. Phép hợp hai tập mờ không cùng nền
a. Hàm thuộc của hai tập mờ
A
và
B
b. Đưa hai tập mờ về chung một nền
M N´
c. Hợp hai tập mờ trên nền
M N´
Sau khi đã đưa được hai tập mờ
A
và

B
về chung một không gian nền là
M N´

thành
A
và
B
thì hàm thuộc
( )
,
A B
x y
m
È
của tập mờ
A BÈ
được xác định theo công thức
(1.8).
Hợp hai tập mờ theo luật max
Cho tập mờ
A
xác định trên không gian nền
M
và tập mờ
B
xác định trên không
gian nền
N
, có hàm thuộc lần lượt là

( )
A
x
m
,
( )
B
x
m
. Hợp của hai tập mờ
A
và
B
theo
luật max là một tập mờ xác định trên không gian nền
M N´
với hàm thuộc
( ) ( ) ( )
{ }
, max , , ,
A B A B
x y x y x y
m m m
È
=
. (1.9)
trong đó
8
( )
A

x
µ
∧
x
( )
B
x
µ
∧
y
x
( , )
A
x y
µ
∧
y
M×N
b.
( , )
B
x y
µ
∧
M×N
x
y
M×N
x
( , )

A B
x y
µ
∧ ∧
∪
y
c.
Báo cáo nghiên cứu khoa học
( ) ( )
,
A A
x y x
m m
=
vi mi
y Nẻ
v
( ) ( )
,
B B
x y x
m m
=
vi mi
x Mẻ
.
Mt cỏch tng quỏt, do hm thuc
( )
,
A B

x y
m
ẩ
ca hp hai tp m
A
,
B
khụng cựng
khụng gian nn ch ph thuc vo
( ) [ ]
0,1
A
x
m
ẻ
v
( ) [ ]
0,1
B
x
m
ẻ
nờn ta cú th xem
( )
,
A B
x y
m
ẩ
l hm ca hai bin

A
m
,
B
m
c nh ngha nh sau
( ) ( ) [ ] [ ]
2
, , : 0,1 0,1
A B A B
x y
m mm m
ẩ
= đ
(1.10)
Ta i n nh ngha v hm thuc
( )
,
A B
mm m
ca hp hai tp m khụng cựng khụng
gian nn:
nh ngha 1.3
Hm thuc ca hp gia hai tp m
A
vi
( )
A
x
m

nh ngha trờn khụng gian nn
M

v
B
vi
( )
B
x
m
nh ngha trờn khụng gian nn
N
l mt hm hai bin
( ) [ ] [ ]
2
, : 0,1 0,1
A B
mm m
đ
xỏc nh trờn nn
M N
tho món:
a)
0
B
m
= ị
( )
,
A B A

mm m m
=
.
b)
( ) ( )
, ,
A B B A
mm m mm m
=
, tc l cú tớnh giao hoỏn.
c)
( )
( )
( )
( )
, , , ,
A B C A B C
mm mm m mmm m m
=
, tc l cú tớnh kt hp.
d)
( ) ( )
, , , ,
A B C D A C B D
mm m mm m m m m m
"Ê Ê Ê
, tc l cú tớnh khụng gim.
Mt hm hai bin
( ) [ ] [ ]
2

, : 0,1 0,1
A B
mm m
đ
tho món cỏc iu kin ca nh ngha
trờn cũn c gi l hm t-i chun (t-conorm).
1.2.2 Phộp giao
Cho hai tp hp m
A
v
B
cú cựng khụng gian nn
U
vi hai hm thuc tng
ng l
( )
A
x
m
v
( )
B
x
m
. Giao ca
A
v
B
l mt tp m cng xỏc nh trờn
U

, kớ hiu
l
A BI
cú hm thuc
( )
A B
x
m
I
tho món:
i.
( )
A B
x
m
I
ch ph thuc vo
( )
A
x
m
v
( )
B
x
m
.
9
Báo cáo nghiên cứu khoa học
ii.

( )
1
B
x
m
=
vi
x"

ị

( )
A B
x
m
I
=
( )
A
x
m
.
iii. Tớnh giao hoỏn, tc l
( ) ( )
A B B A
x x
m m
=
I I
.

iv. Tớnh kt hp, tc l
( ) ( )
( ) ( )A B C A B C
x x
m m
=
I I I I
.
v. Nu
1 2
A A
thỡ
1 2
A B A Bầ ầ
hay
( )
A B
x
m
ẩ
cú tớnh cht khụng gim, tc
l
( ) ( )
1 2
A A
x x
m m
Ê

ị

( ) ( )
1 2
A B A B
x x
m m
ầ ầ
Ê
.
Tng t nh ó trỡnh by v phộp hp hai tp m, cú nhiu cụng thc khỏc nhau
tớnh hm thuc
( )
A B
x
m
I
ca giao hai tp m v bt c mt ỏnh x
( ) [ ]
: 0,1
A B
x U
m
đ
I

no tho món 5 tiờu chun ó nờu trong nh ngha trờn u c xem nh l hm thuc ca
giao hai tp m
A
v
B

cú chung mt khụng gian nn
U
. Sau õy l mt trong nhng
cụng thc tớnh hm thuc
( )
A B
x
m
I
ca phộp giao gm:
( ) ( ) ( )
{ }
min ,
A B A B
x x x
m m m
=
I
(Lut min) (1.11)
Cụng thc trờn cng ỏp dng c cho hp hai tp m khụng cựng khụng gian nn
bng cỏch a c hai tp m v chung mt khụng gian nn l tớch ca hai khụng gian nn ó
cho.
Hỡnh 1.5. Phộp giao ca hai tp m
10
à
x
à
( )
B
x

à
x
a)
( )
A
x
à
à
( )
B
x
à
x
b)
( )
A
x
à
MìN
y
( , )
A B
x y
à

x
d)
c)
( )
B

x
à
( )
A
x
à
B¸o c¸o nghiªn cøu khoa häc
a) Hàm thuộc của hai tập mờ
A
và
B
.
b) Phép giao hai tập mờ cùng không gian nền theo luật min.
c) Phép giao hai tập mờ cùng không gian nền theo luật tích đại số.
d) Phép giao hai tập mờ không cùng khôn gian nền
Giao của hai tập mờ theo luật min
Giao của hai tập mờ
A
với hàm thuộc
( )
A
x
m
định nghĩa trên không gian nền
M
và
B
với hàm thuộc
( )
B

x
m
định nghĩa trên không gian nền
N
là một tập mờ xác định trên
không gian nền
M N´
có hàm thuộc
( ) ( ) ( )
{ }
( ) ( )
{ }
, min , min , , ,
A B A B A B
x y x y x y x y
m m m m m
Ç
= =
. (1.12)
Trong đó

( ) ( )
,
A A
x y x
m m
=
với mọi
y NÎ
và

( ) ( )
,
B B
x y x
m m
=
với mọi
x MÎ
.
Với ví dụ về tập mờ
A
,
B
có hàm đặc tính như trong hình 1.5a thì tập giao của chúng
trên tập nền chung
M N´
sẽ có hàm thuộc mô tả như trong hình 1.5d.
Trong ví dụ trên ta thấy hàm thuộc
( )
,
A B
x y
m
Ç
của giao hai tập mờ
A
,
B
không cùng
không gian nền chỉ phụ thuộc vào

( ) [ ]
0,1
A
x
m
Î
và
( ) [ ]
0,1
B
x
m
Î
. Do đó không mất tính
tổng quát nếu ta xem
( )
,
A B
x y
m
Ç
là hàm của hai biến
A
m
,
B
m
được định nghĩa như sau
( ) ( ) [ ] [ ]
2

, , : 0,1 0,1
A B A B
x y
m mm m
Ç
= ®
(1.13)
Ta đi đến định nghĩa về hàm thuộc
( )
,
A B
mm m
của hợp hai tập mờ không cùng không
gian nền như sau:
Định nghĩa 1.4
Hàm thuộc của hợp giữa hai tập mờ
A
với
( )
A
x
m
định nghĩa trên không gian nền
M

và
B
với
( )
B

x
m
định nghĩa trên không gian nền
N
là một hàm hai biến
( ) [ ] [ ]
2
, : 0,1 0,1
A B
mm m
®
xác định trên nền
M N´
thoả mãn:
11
Báo cáo nghiên cứu khoa học
e)
1
B
m
= ị
( )
,
A B A
mm m m
=
.
f)
( ) ( )
, ,

A B B A
mm m mm m
=
, tc l cú tớnh giao hoỏn.
g)
( )
( )
( )
( )
, , , ,
A B C A B C
mm mm m mmm m m
=
, tc l cú tớnh kt hp.
h)
( ) ( )
, , , ,
A B C D A C B D
mm m mm m m m m m
"Ê Ê Ê
, tc l cú tớnh khụng gim.
Mt hm hai bin
( ) [ ] [ ]
2
, : 0,1 0,1
A B
mm m
đ
tho món cỏc iu kin ca nh ngha
trờn cũn c gi l hm t- chun (t-norm).

1.2.3 Phộp bự
Cho tp m
A
trờn khụng gian nn
U
. Phộp bự ca
A
l mt tp m cng xỏc nh
trờn khụng gian nn
U
, kớ hiu l
c
A
, nú cú hm thuc tho món:
i.
( )
c
A
x
m
ch ph thuc vo
( )
A
x
m
.
ii. Nu
x Aẻ
thỡ
c

x Aẽ
, hay
( )
1
A
x
m
=

ị

( )
0
c
A
x
m
=
iii. Nu
x Aẽ
thỡ
c
x Aẻ
, hay
( )
0
A
x
m
=

ị

( )
1
c
A
x
m
=
iv.Nu
A B
thỡ
c c
A Bấ
, tc l
( ) ( )
1 2
A A
x x
m m
Ê


ị

( ) ( )
1 2
A B A B
x x

m m
ẩ ẩ

.
Do hm thuc
( )
c
A
x
m
ca
c
A
ch ph thuc vo
( )
A
x
m
nờn ta cú th xem
( )
c
A
x
m

nh l mt hm ca
( )
A
x
m

trong
[ ]
0,1
. T ú a ra nh ngha tng quỏt hn v phộp bự
m nh sau:
nh ngha 1.5
Tp bự ca tp m
A
xỏc nh trờn khụng gian nn
U
l mt tp m
c
A
cng xỏc
nh trờn khụng gian nn
U
vi hm thuc
[ ] [ ]
( ) : 0,1 0,1
A
mm
đ
tho món
i.
(1) 0
m
=
v
(0) 1
m

=
ii,
( ) ( )

A B A B
m m mm mm
Ê ị
, tc l hm khụng tng.
12