XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON NHÂN TẠO

THÖ VIEÄN ÑIEÄN TÖÛ TRÖÏC TUYEÁN

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI
KHOA CÔNG NGHỆ THÔNG TIN
----------

OBO
OK S
.CO
M

-----------

BÁO CÁO NGHIÊN CỨU KHOA HỌC
Tên đề tài:
XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON
NHÂN TẠO

KIL

Giáo viên hướng dẫn : T.S Nguyễn Tân Ân
Sinh viên thực hiện : Nguyễn Thị Thuý Chinh.
Lớp
: C-K54-CNTT.

Hà Nội 4/2008



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

PHN M U

KIL
OBO
OKS
.CO
M

1. Tờn ti
Xỏc nh quan h m bng mng nron nhõn to.
2. Lý do chn ti

T 20 nm nay, lý thuyt tp m v mng nron nhõn to ó phỏt trin rt
nhanh v a dng. Cụng ngh m v cụng ngh mng nron ó cung cp
nhng cụng ngh mi cho cỏc ngnh cụng nghip lm ra nhiu sn phm
thụng minh, ỏp ng nhu cu th trng cn cú nhng b iu khin linh hot
hn. H m v mng nron c kt hp vi nhau cựng phỏt huy nhng u
im ca chỳng. Mt trong nhng dng kt hp ú l mng nron m, nh cú
nú m chỳng ta ó gii quyt c rt nhiu bi toỏn khú m vi thut gii
thụng thỡ khụng thc hin c hoc nu cú thỡ cng rt phc tp v mt nhiu
thi gian.
Vi bi toỏn xỏc nh quan h gia khụng gian vo v khụng gian ra da
trờn cỏc cp phn t vo ra ó bit. C th cho khụng gian vo X , khụng gian
ra Y v cỏc cp phn t vo ra (x , y )ó bit , tc l cho mt phn t x ẻ X thỡ
cú mt phn t ra tng ng y ẻ Y . Yờu cu bi toỏn t ra l xỏc nh quan
h R gia X v Y . Mt trong nhng phng phỏp thng c s dng
gii quyt bi toỏn trờn ú l phng phỏp bỡnh phng bộ nht. gim

phc tp v thi gian tớnh toỏn trong bỏo co ny tụi s dng mt phng
phỏp mi ú l dựng mng nron nhõn to. V quan h gia khụng gian vo
v ra xỏc nh c khụng phi l quan h bỡnh thng m l quan h m.
Bi nghiờn cu gm nhng phn sau:

I. Tng quan lý thuyt tp m v quan h m

Gii thiu v khỏi nim tp m, cỏc phộp toỏn trờn tp m, quan h m.
II. Gii thiu v mng nron nhõn to.

Gii thiu cu trỳc ca mt nron, nh ngha v phõn loi mng nron,
cỏc th hc mng nron, thut toỏn lan truyn ngc.
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

2



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

III. Bi toỏn xỏc nh quan h m bng mng nron nhõn to

KIL
OBO
OKS
.CO
M

nh x bi toỏn xỏc nh quan h m lờn mng nron nhõn to, a ra
cỏch hun luyn mng. Cui cựng l demo thut toỏn xỏc nh quan h m
bng mng nron nhõn to.

I. Tng quan lý thuyt tp m v quan h m
1.1 Khỏi nim tp m

Tp m c xem l s m rng trc tip ca tp kinh in. Bõy gi ta
xột khỏi nim hm thuc ca tp kinh in.
nh ngha 1.1

Cho mt tp hp A . nh x m : U đ {0,1} c nh ngha nh sau:
ùỡ 1 nếu x ẻ A
mA (x )= ùớ
ùùợ 0 nếu x ẽ A

(1.1)

c gi l hm thuc ca tp A . Tp A l tp kinh in, U l khụng gian
nn. Nh vy hm thuc ca tp c in ch nhn hai giỏ tr l 0 hoc 1. Giỏ
tr 1 ca hm thuc mA (x ) cũn c gi l giỏ tr ỳng, ngc li 0 l giỏ tr
sai ca mA (x ). Mt tp U luụn cú

mU (x )= 1 , vi mi x

c gi l khụng gian nn (tp nn).
Mt tp

A cú dng

A = {x ẻ U x thoả mãn một số tính chất nào đó}

thỡ c gi l cú tp nn U , hay c nh ngha trờn tp nn U . Vớ d tp
A = {x ẻ Ơ 9 < x < 12}

cú tp nn l tp cỏc s t nhiờn Ơ .

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

3



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

Hm thuc mA (x ) nh ngha trờn tp A , trong khỏi nim kinh in ch
cú hai giỏ tr l 1 nu x ẻ A hoc 0 nu x ẽ A . Hỡnh 1.1 mụ t hm thuc ca

KIL
OBO
OKS
.CO
M

hm mA (x ), trong ú tp A c nh ngha nh sau:
A = {x ẻ Ă 2 < x < 6}.

(1.2)

à A (x)

1

0

2

6

x

Hỡnh 1.1. Hm thuc mA (x ) ca tp kinh in A .

Cỏch biu din hm ph thuc nh vy khụng phự hp vi nhng tp
c mụ t m nh tp B gm cỏc s thc dng nh hn nhiu so vi 6
B = {x ẻ Ă x = 6},

(1.3)

cú tp nn l Ă , hoc tp C gm cỏc s thc gn bng 3 cng cú tp nn Ă
C = {x ẻ Ă x ằ 3}

(1.4)

Tp B , C nh vy c gi l cỏc tp m.

Lý do l vi nhng nh ngha m nh vy cha xỏc nh c
mt s chng hn nh x = 4,5 cú thuc B hoc x = 2,5 cú thuc C hay

khụng. Nờn chỳng ta khụng th dựng hm thuc ca tp c in ch cú hai giỏ
tr 1 v 0 nh ngha tp B v C trong trng hp ny.
Vỡ vy ngi ta ngh rng: ti sao li khụng m rng min giỏ tr cho
hm thuc ca tp c in, tc l hm thuc s cú nhiu hn hai giỏ tr. Khi

ú thay vỡ vic tr li cõu hi x = 4,5 cú thuc B hay khụng, ngũi ta s tr
li cõu hi l: vy thỡ x = 4,5 thuc B bao nhiờu phn trm? Gi s rng cú

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

4



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

cõu tr li thỡ lỳc ny hm thuc mB (x ) ti im x = 4,5 phi cú mt giỏ tr
trong on [0,1], tc l

KIL
OBO
OKS
.CO
M

0 Ê mB (x )Ê 1

(1.5)

Núi cỏch khỏc hm mB (x ) khụng cũn l hm hai giỏ tr nh i vi tp
kinh in na m l mt ỏnh x (hỡnh 1.2)

mB : U đ [0,1],

(1.6)

trong ú U l tp nn ca tp m.

Hỡnh 1.2

a, Hm ph thuc ca tp m B

b, Hm ph thuc ca tp m C

nh ngha 1.2

Tp m F xỏc nh trờn tp kinh in U l mt tp m mi phn t ca
nú l mt cp cỏc giỏ tr (x, mF (x )) trong ú x ẻ U v mF l mt ỏnh x
mF : U đ [0,1].

(1.7)

nh x mF c gi l hm thuc (hm ph thuc hay hm thnh viờn )

ca tp m F . Tp kinh in U c gi l tp nn (hay tp v tr) ca tp
m F .
Vớ d mt tp m F ca cỏc s t nhiờn nh hn 6 vi hm ph thuc
mF (x ) cú dng nh hỡnh 1.2a nh ngha trờn nn U s cha cỏc phn t sau

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

5



B¸o c¸o nghiªn cøu khoa häc
F=

{(1, 1),(2, 1),(3,

THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN

0,8),(4, 0, 07)}.

Số tự nhiên 1 và 2 có độ phụ thuộc

KIL
OBO
OKS
.CO
M

mF (1)= mF (2)= 1 ,

các số tự nhiên 3 và 4 có độ phụ thuộc nhỏ hơn 1

mF (3)= 0,8 và mF (4)= 0,07 ,

Những số tự nhiên khơng được liệt kê đều có độ phụ thuộc bằng 0.

1.2 Các phép tốn về tập mờ

Giống như định nghĩa về tập mờ các phép tốn trên tập mờ cũng sẽ được
định nghĩa thơng qua các hàm thuộc. Nói cách khác, khái niệm xây dựng
những phép tốn trên tập mờ là việc xác định các hàm thuộc cho phép hợp,
giao , bù từ những tập mờ. Một ngun tắc cơ bản trong việc xây dựng các
phép tốn trên tập mờ là khơng được mâu thuẫn với những phép tốn đã có
trong lý thuyết tập hợp kinh điển.
1.2.1 Phép hợp

Cho hai tập hợp mờ A và B có cùng khơng gian nền U với hai hàm
thuộc tương ứng là mA (x ) và mB (x ). Hợp của A và B là một tập mờ cũng
xác định trên U , kí hiệu là A È B có hàm thuộc mẰ B (x ) thoả mãn:
i. mẰ B (x ) chỉ phụ thuộc vào mA (x ) và mB (x ).
ii. mB (x )= 0 với " x Þ mẰ B (x ) = mA (x ).

iii. Tính giao hốn, tức là mẰ B (x )= mB È A (x ).

iv. Tính kết hợp, tức là m( Ằ B )È C (x )= mẰ ( BÈ C ) (x ).

v. Là hàm khơng giảm: mA1 (x )£ mA2 (x ) Þ mA1 È B (x )£ mA2 È B (x ).

Để tính hàm thuộc mẰ B (x ) có nhiều cách khác nhau, sau đây là một
cơng thức được dùng trong báo cáo này:
mẰ B (x )= max {mA (x ), mB (x )}

(Luật lấy max)

Sinh viªn: Ngun ThÞ Th Chinh – K54C - CNTT

(1.8)
6



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

à

à

à B ( x)

a)

KIL
OBO
OKS
.CO
M

à A ( x)

x

x

à

à A ( x)

b)

à B ( x)

x

Hỡnh 1.3. Hm thuc ca hai tp m cú cựng khụng gian nn
a) Hm thuc ca hai tp m A v B

b) Hp ca hai tp m A v B theo lut max.

Mt cỏch tng quỏt thỡ bt c mt ỏnh x dng

mAẩ B (x ): U đ [0,1]

nu tho món 5 tiờu chun ó nờu trong nh ngha hp hai tp m u c
xem nh l hp ca hai tp m A v B cú chung mt khụng gian nn U .
Cụng thc trờn cng c m rng ỏp dng cho vic xỏc nh hp ca
hai tp m khụng cựng khụng gian nn, bng cỏch a c hai tp m v chung
mt khụng gian nn l tớch ca hai tp nn ó cho.
Vớ d cho tp m A xỏc nh trờn khụng gian nn M v tp m B xỏc
nh trờn khụng gian nn N . Do hai tp nn M v N c lp vi nhau nờn
hm thuc mA (x ), x ẻ M ca tp m A s khụng ph thuc vo N v ngc
li mB (x ), y ẻ N ca tp B cng s khụng ph thuc vo M . iu ú th
hin ch trờn khụng gian nn mi l tp tớch M N hm mA (x ) phi l mt

mt cong dc theo trc y v mB (x ) l mt mt cong dc theo trc x
(hỡnh 1.4). Tp m A nh vy c nh ngha trờn hai khụng gian nn M v

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

7



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

M N . phõn bit c chỳng, sau õy kớ hiu A s c dựng ch tp
m A trờn khụng gian nn M N . i vi cỏc tp m khỏc cng c kớ
hiu tng t. Vi kớ hiu ú thỡ

KIL
OBO
OKS
.CO
M

mA (x, y )= mA (x ) vi mi y ẻ N

mB (x, y)= mB (x ) vi mi x ẻ M .

v

a.

à ( x)

à ( x)





A

B

à ( x, y )

x

à ( x, y )
B



b.

A

x

MìN

y

c.

y



à



x

MìN



A B

y
( x, y )

MìN

x

y
Hỡnh 1.4. Phộp hp hai tp m khụng cựng nn
a. Hm thuc ca hai tp m A v B

b. a hai tp m v chung mt nn M N
c. Hp hai tp m trờn nn M N

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

8



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

Sau khi ó a c hai tp m A v B v chung mt khụng gian nn l

M N thnh A v B thỡ hm thuc mAẩ B (x , y ) ca tp m A ẩ B c xỏc

KIL
OBO
OKS
.CO
M

nh theo cụng thc (1.8).
Hp hai tp m theo lut max

Cho tp m A xỏc nh trờn khụng gian nn M v tp m B xỏc nh
trờn khụng gian nn N , cú hm thuc ln lt l mA (x ), mB (x ). Hp ca hai
tp m A v B theo lut max l mt tp m xỏc nh trờn khụng gian nn

M N vi hm thuc
mAẩ B (x, y)= max {mA (x, y), mB (x, y)}.

trong ú

(1.9)

mA (x, y )= mA (x ) vi mi y ẻ N

mB (x, y)= mB (x ) vi mi x ẻ M .

v

Mt cỏch tng quỏt, do hm thuc mAẩ B (x, y) ca hp hai tp m A , B
khụng cựng khụng gian nn ch ph thuc vo mA (x )ẻ [0,1] v mB (x )ẻ [0,1]
nờn ta cú th xem mAẩ B (x, y) l hm ca hai bin mA , mB c nh ngha nh
sau

mAẩ B (x, y)= m(mA , mB ): [0,1] đ [0,1]
2

(1.10)

Ta i n nh ngha v hm thuc m(mA , mB ) ca hp hai tp m khụng
cựng khụng gian nn:

nh ngha 1.3

Hm thuc ca hp gia hai tp m A vi mA (x ) nh ngha trờn khụng
gian nn M v B vi mB (x ) nh ngha trờn khụng gian nn N l mt hm

hai bin m(mA , mB ): [0,1] đ [0,1] xỏc nh trờn nn M N tho món:
2

a) mB = 0

ị m(mA , mB )= mA .

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

9



THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN

B¸o c¸o nghiªn cøu khoa häc

b) m(mA , mB )= m(mB , mA ), tức là có tính giao hốn.
c) m(mA , m(mB , mC ))= m(m(mA , mB ), mC ), tức là có tính kết hợp.

giảm.

KIL
OBO
OKS
.CO
M

d) m(mA , mB )£ m(mC , mD ), " mA £ mC , mB £ mD , tức là có tính khơng

Một hàm hai biến m(mA , mB ): [0,1] ® [0,1] thoả mãn các điều kiện của
2

định nghĩa trên còn được gọi là hàm t-đối chuẩn (t-conorm).
1.2.2

Phép giao

Cho hai tập hợp mờ A và B có cùng khơng gian nền U với hai hàm
thuộc tương ứng là mA (x ) và mB (x ). Giao của A và B là một tập mờ cũng
xác định trên U , kí hiệu là A I B có hàm thuộc mAI B (x ) thoả mãn:
i. mAI B (x ) chỉ phụ thuộc vào mA (x ) và mB (x ).
ii. mB (x )= 1 với " x Þ mAI B (x ) = mA (x ).

iii. Tính giao hốn, tức là mAI B (x )= mB I A (x ).

iv. Tính kết hợp, tức là m( AI B )I C (x )= mAI ( B I C ) (x ).

v. Nếu A1 Í A2 thì A1 Ç B Í A2 Ç B hay mẰ B (x ) có tính chất khơng
giảm, tức là mA1 (x )£ mA2 (x ) Þ mA1 ÇB (x )£ mA2 Ç B (x ).

Tương tự như đã trình bày về phép hợp hai tập mờ, có nhiều cơng thức
khác nhau để tính hàm thuộc mAI B (x ) của giao hai tập mờ và bất cứ một ánh
xạ

mAI B (x ): U ® [0,1]

nào thoả mãn 5 tiêu chuẩn đã nêu trong định nghĩa trên đều được xem như là
hàm thuộc của giao hai tập mờ A và B có chung một khơng gian nền U . Sau

đây là một trong những cơng thức để tính hàm thuộc mAI B (x ) của phép giao
gồm:

Sinh viªn: Ngun ThÞ Th Chinh – K54C - CNTT

10



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học
mAI B (x )= min {mA (x ), mB (x )}

(Lut min)

(1.11)

KIL
OBO
OKS
.CO
M

Cụng thc trờn cng ỏp dng c cho hp hai tp m khụng cựng khụng
gian nn bng cỏch a c hai tp m v chung mt khụng gian nn l tớch ca
hai khụng gian nn ó cho.
à

à

à A ( x) à B ( x)

à A ( x) à B ( x)

à A ( x) à B ( x )

x

x

a)

à

b)

x
c)

à A B ( x, y )

x

MìN

y

d)

Hỡnh 1.5. Phộp giao ca hai tp m

a) Hm thuc ca hai tp m A v B .

b) Phộp giao hai tp m cựng khụng gian nn theo lut min.
c) Phộp giao hai tp m cựng khụng gian nn theo lut tớch i s.
d) Phộp giao hai tp m khụng cựng khụn gian nn

Giao ca hai tp m theo lut min

Giao ca hai tp m A vi hm thuc mA (x ) nh ngha trờn khụng gian
nn M v B vi hm thuc mB (x ) nh ngha trờn khụng gian nn N l mt
tp m xỏc nh trờn khụng gian nn M N cú hm thuc
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

11



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

mAầ B (x, y )= min {mA (x ), mB (y )}= min {mA (x , y ), mB (x, y)}.

(1.12)

Trong ú

v

KIL
OBO
OKS
.CO
M

mA (x, y )= mA (x ) vi mi y ẻ N

mB (x, y)= mB (x ) vi mi x ẻ M .

Vi vớ d v tp m A , B cú hm c tớnh nh trong hỡnh 1.5a thỡ tp
giao ca chỳng trờn tp nn chung M N s cú hm thuc mụ t nh trong
hỡnh 1.5d.
Trong vớ d trờn ta thy hm thuc mAầB (x, y) ca giao hai tp m A , B
khụng cựng khụng gian nn ch ph thuc vo mA (x )ẻ [0,1] v mB (x )ẻ [0,1].
Do ú khụng mt tớnh tng quỏt nu ta xem mAầB (x , y ) l hm ca hai bin

mA , mB c nh ngha nh sau

mAầ B (x, y)= m(mA , mB ): [0,1] đ [0,1]
2

(1.13)

Ta i n nh ngha v hm thuc m(mA , mB ) ca hp hai tp m khụng
cựng khụng gian nn nh sau:

nh ngha 1.4

Hm thuc ca hp gia hai tp m A vi mA (x ) nh ngha trờn khụng
gian nn M v B vi mB (x ) nh ngha trờn khụng gian nn N l mt hm
hai bin m(mA , mB ): [0,1] đ [0,1] xỏc nh trờn nn M N tho món:
2

e) mB = 1

ị m(mA , mB )= mA .

f) m(mA , mB )= m(mB , mA ), tc l cú tớnh giao hoỏn.

g) m(mA , m(mB , mC ))= m(m(mA , mB ), mC ), tc l cú tớnh kt hp.
h) m(mA , mB )Ê m(mC , mD ), " mA Ê mC , mB Ê mD , tc l cú tớnh khụng gim.

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

12



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

Mt hm hai bin m(mA , mB ): [0,1] đ [0,1] tho món cỏc iu kin ca
2

nh ngha trờn cũn c gi l hm t- chun (t-norm).

KIL

OBO
OKS
.CO
M

1.2.3 Phộp bự

Cho tp m A trờn khụng gian nn U . Phộp bự ca A l mt tp m
cng xỏc nh trờn khụng gian nn U , kớ hiu l Ac , nú cú hm thuc tho
món:
i. mAc (x ) ch ph thuc vo mA (x ).

ii. Nu x ẻ A thỡ x ẽ Ac , hay mA (x )= 1

mAc (x )= 0

ị

iii. Nu x ẽ A thỡ x ẻ Ac , hay mA (x )= 0

ị

mAc (x )= 1

iv.Nu A B thỡ A c ấ B c , tc l mA1 (x )Ê mA2 (x )
ị mA1 ẩ B (x ) mA2 ẩ B (x ).

Do hm thuc mAc (x ) ca A c ch ph thuc vo mA (x ) nờn ta cú th xem

mAc (x ) nh l mt hm ca mA (x ) trong [0,1]. T ú a ra nh ngha tng

quỏt hn v phộp bự m nh sau:

nh ngha 1.5

Tp bự ca tp m A xỏc nh trờn khụng gian nn U l mt tp m
Ac cng xỏc nh trờn khụng gian nn U vi hm thuc

m(mA ) : [0,1]đ [0,1]
tho món

i. m(1) = 0 v m(0) = 1

ii, mA Ê mB ị m(mA ) m(mB ), tc l hm khụng tng.

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

13



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

à A ( x)

c

KIL
OBO

OKS
.CO
M

1

à A ( x)

x

a)

b)

Hỡnh 1.6: Tp bự mnh A c ca tp m A .
a. Hm thuc ca tp m A .

b. Hm thuc ca tp m A c .

1.3. Quan h m

nh ngha 1.6

Cho X , Y l hai khụng gian nn. R gi l mt quan h m trờn X Y

nu R l mt tp m trờn X Y , tc l cú mt hm thuc mR : X Y đ [0,1],
õy mR (x, y)= R (x, y) l thuc ca (x, y) vo quan h R .
- Tớnh bc cu

nh ngha: Quan h m R trờn X X gi l:

a) Min-chuyn tip nu min {R (x , y), R (y, z)}Ê R (x, z) " x, y, z ẻ X
b) Bc cu yu nu " x, y, z ẻ X cú

R (x, y)> R (y, x ) v R (y, z)> R (z, y) thỡ R (x, z)> R (z, x ).
c) bc cu tham s nu cú mt s 0 < q < 1 sao cho:
Nu R (x , y )> q > R (y, x ) v R (y, z)> q > R (z, y ) thỡ

R (x , z)> q > R (z, x )

* Phng trỡnh quan h m

Phng trỡnh quan h m ln u tiờn nghiờn cu bi GS.Sanchez nm
1976, úng vai trũ quan trng trong cỏc lnh vc phõn tớch cỏc h m, thit k
14
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

cỏc b iu khin m, quỏ trỡnh ly quyt nh v nhn dng m.Dng n
gin nht cú th din t nh sau:

KIL
OBO
OKS
.CO

M

Cho mt h m biu din di dng mt quan h m nh nguyờn R trờn
khụng gian tớch X Y . u vo (input) ca h l mt tp m A cho trờn
khụng gian nn input X . Tỏc ng ca u vo A vi h R s l phộp hp
thnh A o R s cho u ra (output) mt tp m trờn khụng gian nn Y , kớ
hiu l B . Khi y ta cú A o R = B .

II. Gii thiu v mng nron nhõn to

Mng nron hay mng nron nhõn to l s tỏi to bng k thut nhng
chc nng ca h thn kinh con ngi. Trong quỏ trỡnh tỏi to khụng phi tt
c cỏc chc nng ca b nóo con ngi cú u c tỏi to, m ch cú nhng
chc nng cn thit. Bờn cnh ú cũn cú nhng chc nng mi c to ra
nhm gii quyt mt bi toỏn iu khin ó nh hng trc. Trc khi tỡm
hiu v mng nron chỳng ta gii thiu s lc v mng nron sinh hc.
2.1. Mng nron sinh hc

Nóo ngi l t chc vt cht cp cao, cú cu to vụ cựng phc tp, dy
c cỏc mi liờn kt gia cỏc nron nhng x lý thụng tin rt linh hot trong
mụi trng bt nh.

Hỡnh 2.1. Mụ hỡnh mng nron sinh hc
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

15



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Trong b nóo ngi cú khong 1011 - 1012 t bo thn kinh c gi l

KIL
OBO
OKS
.CO
M

cỏc nron v mi nron cú th liờn kt vi 1014 nron khỏc thụng qua cỏc
khp ni thn kinh (synapse). Di con mt ca nhng ngi lm tin hc cu
to ca mi nron gm cỏc thnh phn c bn sau:
- Thõn nron c gii hn trong mt mng membran v trong cựng l
nhõn. T thõn nron cũn cú rt nhiu ng r nhỏnh tm gi l r.
- Bus liờn kt nron ny vi cỏc nron khỏc c gi l axon, trờn
axon cú cỏc ng r nhỏnh. Nron cũn cú th liờn kt vi cỏc nron khỏc qua
cỏc r. Chớnh vỡ cỏch liờn kt a dng nh vy nờn mng nron cú liờn kt
rt cao.
Cỏc r ca noron c chia lm hai loi: loi nhn thụng tin t cỏc
nron khỏc qua axon, m ta s gi l r u vo v loi a thụng tin qua
axon ti cỏc nron khỏc, gi l r u ra. Mt nron cú th cú nhiu r u
vo, nhng ch cú mt r u ra. Bi vy nu coi nron nh mt khõu iu
khin thỡ nú chớnh l khõu cú nhiu u vo, mt u ra. Mt nron s trng
thỏi kớch thớch khi ti u vo xut hin mt tớn hiu tỏc ng vt quỏ
ngng cõn bng ca nron.
Mt tớnh cht rt c bn ca mng nron sinh hc l cỏc ỏp ng theo
kớch thớch cú kh nng thay i theo thi gian. Cỏc ỏp ng cú th tng lờn,
gim i hoc hon ton bin mt. Qua cỏc nhỏnh axon liờn kt t bo nron

ny vi cỏc nron khỏc, s thay i trng thỏi ca mt nron cng dn theo s
thay i trng thỏi ca nhng nron khỏc v do ú l s thay i ca ton b
mng nron. Vic thay i trng thỏi ca mng nron cú th thc hin qua
mt quỏ trỡnh dy hoc do kh nng hc t nhiờn.
Cu trỳc ca mng nron luụn luụn phỏt trin v thay i thớch nghi
dn vi mụi trng, lm cho cu trỳc b nóo ngy cng tr nờn phc tp sau
mi ln hc. Mt s cu trỳc ca nron c xỏc nh trc, mt s sau ny
mi c hỡnh thnh v mt s thỡ b hu b qua quỏ trỡnh chn lc t nhiờn,
hc v thớch nghi.

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

16



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

Cỏc nh khoa hc ó v ang xõy dng v phỏt trin cỏc mụ hỡnh x lý
thụng tin mụ phng hot dng ca b nóo ngi. ú chớnh l mụ hỡnh mng
nron nhõn to.

KIL
OBO
OKS
.CO
M

2.2. Mng nron nhõn to

2.2.1 Mụ hỡnh nron nhõn to

Mt nron nhõn to phn ỏnh cỏc tớnh cht c bn ca nron sinh
hc. Mi nron nhõn to l mt n v x lớ thụng tin lm c s cho hot
ng ca mt mng nron. Nú cú chc nng nhn tớn hiu vo, tng hp v
x lý cỏc tớn hiu vo tớnh tớn hiu ra. Di õy l mt mụ hỡnh ca mt
nron nhõn to.

w1j

x1

x2

qj

w2j

j

ồ

net

yj

f (net)

M wnj

xn

Hỡnh 2.2. Mụ hỡnh mt nron nhõn to

Trong ú:

- xi vi i = 1,2,..., n : cỏc tớn hiu u vo.

- wij vi i = 1,2,..., n : cỏc trng s tng ng vi u vo.
- qj : ngng kớch hot ca nron j .
- net : tớn hiu tng hp u vo.
- f (net ) : Hm kớch hot.

- y j : tớn hiu ra ca nron j .

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

17



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

u vo ca nron nhõn to gm n tớn hiu xi vi i = 1,2,..., n . Mi tớn
hiu u vo tng ng vi mt trng s wij vi i = 1,2,..., n , nú th hin mc

KIL
OBO
OKS
.CO
M

nh hng ca tớn hiu xi n nron j .
Mt nron cú th cú nhiu u vo nhng ch cú mt tớn hiu u ra.
Tớn hiu u vo ca mt nron cú th l d liu t bờn ngoi mng, hoc u
ra ca mt nron khỏc, hoc l u ra ca chớnh nú.
Nhm tng kh nng thớch nghi ca mng nron trong quỏ trỡnh hc,
ngi ta s dng gỏn thờm mt tham s (Bias) cho mi nron nhõn to. Tham
s ú cũn gi l trng s ca nron, ta kớ hiu trng s ca nron th j l qj .
Mi mt nron trong mt mng kt hp cỏc giỏ tr a vo nú thụng qua
cỏc liờn kt vi nron khỏc, sinh ra mt giỏ tr gi l net . Hm thc hin
nhim v ny gi l hm kt hp (combination function), c nh ngha bi
mt lut lan truyn c th. Trong phn ln cỏc mng nron, chỳng ta gi s
rng mi mt nron cung cp mt b cng nh l u vo cho n v m nú
liờn kt. tớnh tng hp tớn hiu u vo net , ta gi nh net l hm ca cỏc
tớn hiu xi v cỏc trng s wij .

n

net = x1w1 j + x2 w2 j + ... + x n wnj =

ồ

xi wij .

(2.1)

i= 1

Cú nhiu cỏch tớnh tng tớn hiu vo ca nron, trờn dõy l cỏch khỏ
n gin v hu ớch khi chỳng ta xõy dng mt mng cú nhiu nron.
Trng hp wij > 0 , nron c coi l ang trng thỏi kớch thớch.

Tng t, nu nh wij < 0 , nron trng thỏi kim ch.

Sau khi tng hp c tớn hiu u vo net , s dng hm kớch hot f
bin i net thu c tớn hiu u ra out .

y j = out j = f (net )

(2.2)

Túm li cú th xem nron l mt hm phi tuyn nhiu u vo, mt u ra.
Hm kớch hot phi tho món cỏc iu kin sau:

- Tớn hiu u ra phi khụng õm vi mi giỏ tr ca net .
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

18



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

- Hm f phi liờn tc v b chn trong khong [0,1].

KIL
OBO
OKS
.CO
M

Hm kớch hot hay cũn c gi l hm nộn vỡ chỳng nộn tớn hiu u ra
vo mt khong nh. Hm kớch hot hay c s dng l:
1) Hm ng nht (Linear function, Identity function)
f (x )= x

(2.3)

Nu coi cỏc u vo l mt n v thỡ chỳng ta s s dng hm ny. ụi
khi mt hng s c nhõn vi net to ra mt hm ng nht.

f(x)

1
1
0

-1

1

x

1

Hỡnh 2.3. Hm ng nht

2) Hm bc nh phõn (Binary step function, Hard limit function)
Hm ny cũn c gi l hm ngng (Threshold function hay
Heaviside function). u ra ca hm ny ch gii hn trong hai giỏ tr:

ỡù 1, nếu x q
f (x )= ùớ
ùùợ 0, nếu x
(2.4)

Dng hm ny c s dng trong cỏc mng ch cú mt lp. Trong hỡnh
v sau, q c chn bng 1.
f(x)

-1

-1

0

1

2

3

4

x

Hỡnh 2.4. Hm bc nh phõn

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

19



Báo cáo nghiên cứu khoa học

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

3) Hm sigmoid (Sigmoid function (logsig))
1
1 + e-

x

KIL
OBO
OKS
.CO
M

f (x )=

(2.5)

Hm ny c bit thun li khi s dng cho cỏc mng c hun luyn
(trained) bi thut toỏn lan truyn ngc (back-propagation), bi vỡ nú d ly
o hm, do ú cú th gim ỏng k tớnh toỏn trong quỏ trỡnh hun luyn. Hm
ny c ng dng cho cỏc chng trỡnh ng dng m cỏc u ra mong mun
ri vo khong [0,1].
4) Hm sigmoid lng cc (Bipolar sigmoid function (tansig))

f (x )=

1 - e- x
1 + e- x

(2.6)

Hm ny cú cỏc thuc tớnh tng t ca hm sigmoid. Nú lm vic tt i
vi cỏc ng dng cú u ra yờu cu trong khong [-1,1].

2.2.2 nh ngha v phõn loi mng nron nhõn to.
2.2.2.1 nh ngha

Mng nron nhõn to l s mụ phng hot ng ca b nóo con ngi.
Nú l s liờn gia cỏc nron c lp vi nhau. Khụng cú mt nh ngha tng
quỏt v mng nron, song phn ln nhng ngi lm vic trong lnh vc
mng nron u cú th ng ý vi nh ngha sau: Mng nron l mt h
thng bao gm rt nhiu phn t x lý n gin hot ng song song. Tớnh
nng ca h thng ny ph thuc vo cu trỳc ca h thng, cng liờn kt
gia cỏc phn t v quỏ trỡnh x lý bờn trong cỏc phn t. H thng ny cú th
hc s liu v cú kh nng tng quỏt hoỏ t cỏc s liu c hc.

Trong nh ngha trờn, cỏc phn t x lý c nhc n chớnh l cỏc
nron.

2.2.2.2 Phõn loi
Liờn kt cỏc u vo v ra ca nhiu nron vi nhau ta c mt mng
nron. Nguyờn lý cu to ca mt mng nron bao gm mt hoc nhiu lp.
Mi lp bao gm nhiu nron cú cựng mt chc nng trong mng.

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

20



B¸o c¸o nghiªn cøu khoa häc

THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN

KIL
OBO
OKS
.CO
M

Mạng nơron nhân tạo có thể được chế tạo bằng nhiều cách khác nhau vì
vậy trong thực tế tồn tại rất nhiều kiểu mạng nơron nhân tạo. Dựa vào số lớp
hay sự liên kết giữa các lớp trong mạng mà người ta phân mạng nơron nhân
tạo thành các nhóm khác nhau.
* Phân loại theo số lớp

Phân loại theo số lớp thì mạng nơron nhân tạo gồm có hai nhóm: mạng
một lớp và mạng nhiều lớp.
- Mạng một lớp

Mạng một lớp cấu thành từ một lớp mạng, nó vừa là lớp vào vừa là lớp
trung gian và cũng là lớp ra. Một lớp mạng bao gồm một nhóm các nơron
được tổ chức theo một cách sao cho tất cả chúng đều nhận cùng một véc tơ
đầu vào để xử lý cùng thời điểm. Việc sản sinh ra net đầu vào, biến đổi thành
tín hiệu đầu ra out xuất hiện cùng một lúc trong tất cả các nơron.
y1

x1

y2

x2

M

ym

M

xn

Hình 2.5. Mơ hình mạng một lớp.

- Mạng nhiều lớp

Mạng nhiều lớp được cấu thành từ nhiều lớp liên kết với nhau, bao gồm

một lớp vào, lớp ẩn và một lớp ra. Trong đó, lớp nhận tín hiệu đầu vào được
gọi là lớp vào. Các tín hiệu đầu ra của mạng được sản sinh bởi lớp ra của
mạng. Các lớp nằm giữa lớp vào và lớp ra được gọi là lớp ẩn. Lớp ẩn là thành
phần nội tại của mạng, nó khơng có bất kỳ tiếp xúc nào với mơi trường bên
ngồi. Số lượng lớp ẩn có thể dao động từ 0 đến một vài lớp. Tuy nhiên thực
tế cho thấy chỉ cần một lớp ẩn là mạng đã đủ để giải quyết được một lớp các
bài tốn phức tạp nào.
Sinh viªn: Ngun ThÞ Th Chinh – K54C - CNTT

21



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

y1

x2

y2

KIL
OBO
OKS
.CO
M

x1

M

M

M

M

xn

lp
vo

lp
n

M
ym

lp
ra

Hỡnh 2.6. Mụ hỡnh mng 3 lp truyn thng.

* Phõn loi theo s liờn kt gia cỏc lp

S liờn kt trong mng nron tu thuc vo nguyờn lý tng tỏc gia
u ra ca tng nron riờng bit vi nron khỏc v to ra cu trỳc mng
nron. V nguyờn tc s cú rt nhiu kiu liờn kt gia cỏc nron, nhng ch

cú mt s cu trỳc hay gp trong ng dng sau:
- Mng truyn thng (Feedforward neural networks)

Dũng d liu u vo t cỏc nron u vo n cỏc nron u ra ch
c truyn thng. Vic x lý d liu cú th m rng ra nhiu lp, nhng
khụng cú cỏc liờn kt ngc. Tc l, khụng cú cỏc liờn kt t cỏc n v u ra
ti cỏc n v u vo trong cựng mt lp hay cỏc lp trc ú.
Nu mụ hỡnh hoỏ mng truyn thng bng mt th, thỡ nú l mt
th cú hng hu hn khụng chu trỡnh. Trong ú, mi nron l mt nỳt, cỏc
liờn liờn kt gia cỏc nron l cỏc cung ca th. Hỡnh 2.6 l mt minh ha
v mng truyn thng nhiu lp.

- Mng hi quy (mng ni ngc) (Recurrent neural network)
Khỏc vi mng truyn thng, mng hi quy cú cha cỏc liờn kt ngc.
Mụ hỡnh hoỏ mng hi quy bng mt th thỡ nú l mt th cú hng hu
hn cú chu trỡnh. Hỡnh 2.7 minh ha cho mt mng hi quy.

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

22



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học

x2

y1

KIL
OBO
OKS
.CO
M

x1

M

M

xn

M

M

y2

M

ym

Hỡnh 2.7. Mụ hỡnh mng nron nhiu lp hi quy

2.3. Th tc hc ca mng nron nhõn to

Mng nron khi mi hỡnh thnh cha cú tri thc, cú th gii quyt mt

bi toỏn c th no ú thỡ phi cho mng nron hc. Mng nron hc thụng
qua quỏ trỡnh hun luyn mng bng mt tp d liu (training data). Tin trỡnh
iu chnh cỏc trng s mng nhn bit c mi quan h gia u vo
v ớch mong mun c gi l hc (learning) hay hun luyn (training) . Rt
nhiu thut toỏn hc ó c phỏt minh tỡm ra tp trng s ti u lm gii
phỏp cho bi toỏn.
Cỏc nhõn t quyt nh ti kh nng ca mt mng nron gm: cu trỳc
ca mng (s lp, s nron trờn mt lp, v cỏch m cỏc lp c liờn kt vi
nhau) v cỏc trng s ca cỏc liờn kt bờn trong mng. Da vo iu ny,
ngi ta phõn cỏc thut toỏn hc ca mng nron thnh hai nhúm chớnh: hc
cu trỳc v hc tham s.
2.3.1 Hc tham s

Hc tham s quan tõm n chin lc hiu chnh cỏc trng s ca cỏc
nron trong mng.
Gi s cú n nron, mi nron cú m trng s. Chỳng ta cú th kt hp
c li to thnh ma trn dng sau:

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

23



Báo cáo nghiên cứu khoa học
K
K
K
K

w1n ự
ỳ
w2 n ỳ
ỳ
M ỳỳ
wmn ỳỷ

(2.7)

KIL
OBO
OKS
.CO
M

ộw11 w12
ờ
ờw
w22
W = ờ 21
ờM
M
ờ
ờw
ở m1 wm 2

THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Trong ú, wij l trng s liờn kt t nron i n nron j .
Cỏc th hc tham s nhm tỡm kim ma trn trng sú W sao cho mng

cú kh nng a ra cỏc d bỏo sỏt vi thc t. Cỏc th hc cú tham s cú th
c chia thnh ba lp nh hn: hc cú ch o (hc cú thy), hc tng cng,
hc khụng ch o (hc khụng cú thy hay hc t t chc).
- Hc cú ch o

Vộc t vo

Tớn hiu ra out

Mng nron

Sn sinh
sai s

Hỡnh 2.8. S hc cú ch o

Mi ln vộc t tớn hiu vo X c cp cho mng, ta cng cp luụn cho
mng vộc t u ra mong mun Y . Mng phi sn sinh ra tớn hiu u ra out
sao cho nú gn vi Y nht. C th, nu ta cp mt tp ngu nhiờn

M = (X i , Yi ). Khi vộc t X i i vo mng, vộc t u ra Yi cng c cung cp.
(Hỡnh 2.8) lch tớn hiu gia u ra outi v vộc t u ra Yi s c b sn
sinh sai s thu nhn v sn sinh ra tớn hiu sai s. Tớn hiu sai s ny s i vo
mng v mng s hiu chnh cỏc trng s ca mỡnh sao cho tớn hiu u ra
outi s gn vi vộc t u ra mong mun Yi .

Nu tớn hiu ra out = Y thỡ lỳc ú mng nron ó bóo ho, ta núi th tc
hc ca mng ó hi t.
- Hc tng cng
Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

24



THệ VIEN ẹIEN Tệ TRệẽC TUYEN

Báo cáo nghiên cứu khoa học
Vộc t vo

Tớn hiu ra out

KIL
OBO
OKS
.CO
M

Mng nron
Tớn hiu
tng cng

Sn sinh tớn hiu
tng cng

Hỡnh 2.9. S hc tng cng.

Hc tng cng cng l mt dng ca hc cú ch o vỡ mng nron vn
nhn tớn hiu ngoi mụi trng. Tuy nhiờn, tớn hiu ngoi mụi trng ch l
nhng tớn hiu mang tớnh phờ phỏn, ch khụng phi l cỏc ch dn c th nh

trong hc cú ch o. Ngha l, tớn hiu tng cng ch cú th núi cho mng
bit tớn hiu va sn sinh l ỳng hay sai, ch khụng ch cho mng bit tớn
hiu ỳng phi nh th no. Tớn hiu tng cng c x lý bi b x lý tớn
hiu tng cng (Hỡnh 2.9), nhm mc ớch giỳp mng hiu chnh cỏc trng
s vi hi vng nhn c tớn hiu tng cng tt hn trong tng lai. Cỏc th
tc hc tng cng thng c bit n nh cỏc th tc hc vi nh phờ bỡnh
ch khụng phi l hc vi thy nh cỏc th tc hc cú ch o.
- Hc khụng ch o

Vộc t vo

Tớn hiu ra out

Mng nron

Hỡnh 2.10. S hc khụng ch o.

Trong th tc ny, khụng cú thụng tin no t ngoi mụi trng ch ra tớn
hiu u ra out phi nh th no hoc ỳng hay sai. Mng nron phi t
khỏm phỏ cỏc c im, cỏc mi quan h ang quan tõm nh: dng ũng nột,
cú chun cú bỡnh thng hay khụng, cỏc h s tng quan, tớnh cõn xng,

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

25