MÔ PHỎNG QUÁ TRÌNH GHI NHỚ CỦA HỆ THỐNG NOWRRON SINH HỌC






Nông Th Hoa

MÔ PHNG QUÁ TRÌNH GHI NH
CA H THC

Chuyên ngành: Khoa hc máy tính
Mã s: 62.48.01.01

TÓM TT LUN ÁN TI THÔNG TIN






Hà Ni 2014

Công trình được hoàn thành tại: Trường Đại học Công nghệ - Đại học Quốc gia
Hà Nội.

Người hướng dẫn khoa học: PGS.TS. Bùi Thế Duy

Phản biện 1:

Phản biện 2:

Phản biện 3

Luận án tiến sĩ sẽ được bảo vệ trước hội đồng cấp Đại học Quốc gia chấm luận án
tiến sĩ họp tại…………………………………………………………
Vào hồi giờ ngày tháng năm

Có thể tìm hiểu luận án tại:
-Thư viện Quốc gia Việt Nam
-Trung tâm Thông tin – Thư viện, Đại học Quốc gia Hà Nội



1

MỞ ĐẦU

1. Tính cấp thiết của luận án
ng vt cao cp nht nh vào kh c bit ca
b i phát trin mnh m và hoàn thin cho các ch u khin,
lp k hoch, lp lung. Các mô hình mô phng hong ca não
c phát tri to ra các phn mm máy tính ngày càng thông minh và x lý thông

M-ron nhân to (ANN) là mô hình toán hc mô phng hiu qu hong ca các
-ron sinh h (BAM) (FAM), và
 (Fuzzy ART) -
  t
nhân: (i) vic gn trng s cho các mu trong tp hun luyp lý và (ii) lut hc
  các thông tin hc t d liu hun luyn. Ha, kt qu ca quá
trình hc có ng ln quá trình nh li các my, vic nâng cao cht
ng ca quá trình hc là ht sc cn thi c các yêu cu ngày càng phc tp
ca các ng dng thc.
2. Các đóng góp của luận án
1. BAM 



2. FAM 
V này 

3. Fuzzy ART  


u   
IEEE và Springer
3. Bố cục của luận án



2

Chương 1 trình bày v bài toán mô phng quá trình ghi nh thông tin ca h th-
ron sinh hu tiên, chúng tôi trình bày các hiu bin nht v -ron
sinh hkin thc quan trng v lut hc ca ANN c tng hp .
Chương 2 cung cp các kin th mô t u và ci
tia logic m và toán hc trình bày. Tip theo,
các mô hình thuc hai nhóm B nh liên kt (AM) và      
(ART) c th hin theo th t phát trin các mô hình.
Chương 3  xut mt thut toán hc mi  BAM h
th nghim vi các nhim v nhn dng mu cho thy BAM ci tin nh li t 
BAM khác.
Chương 4 th hin hai lut hc hiu qu mi mu hun luyn và mt th tc tìm giá tr
t t hc ca Fuzzy ART. Các thc nghim trên các b d liu chun
cho thy Fuzzy ART vi lut hc ci tin nh li các cm tkhác.
Chương 5 trình bày mt lut hc ci ti  hiu qu ng thi c ni
dung và s liên kt gia các cp mu. Các th nghim vi nhim v nhn dng các ch s và
các nh t  d liu nh ca hãng Corel cho thy FAM ci tin nh li t

khác.













3

CHƯƠNG 1. BÀI TOÁN MÔ PHỎNG QUÁ TRÌNH GHI NHỚ
THÔNG TIN CỦA HỆ THỐNG NƠ-RON SINH HỌC
1.1 Não người và nơ-ron sinh học
1.1.1 Não người
V não ci là mt tng dày cha các -ron mà bao ph hu ht b não. V não
c chia thành bn "thùy". Mi thùy có các vùng v não ln gn vi mt ch th
u khin chuyng, ngôn ng, Mt s vùng c m rng rt mc bit
là vùng cha ngôn ng.
1.1.2 Mạng nơ-ron sinh học
Mt m-ron sinh hc là mt chu-ron có kt ni bên trong mà s kích hot
c-ron to thành s truyn tín hiu gi-ron. Nu tng các tín hiu vào trên
m-t quá mng nh-ron gt ting  phn
gò si trc và truyn các tín hin t này theo các si tr-ron khác.
1.2 Nơ-ron nhân tạo và mạng nơ-ron nhân tạo

McCulloch và Pitts  xut mt mô hình tính toán cho mt -ron sinh hc. -ron
nhân to tính tng trng s ca các tín hiu vào và to ra mt tín hiu ra là 1 nu tng trng
s ng nhnhc li, tín hiu ra là 0. Theo toán hc,







 



(1.1)
vu ra, w
j
là trng s ca tín hiu vào th j,  ng, và n là s tín
hiu vào.
Các -ron nhân to c tng quát hóa theo các hàm kích hot. c
s dng xuyên nht có dng:








(1.2)

vi  là tham s lp
-ron nhân to kt ni vi nhau to thành các m-ron nhân to.
1.3 Mô phỏng quá trình ghi nhớ thông tin của các mạng nơ-ron nhân tạo
Mt ANN có hai quá trình gm quá trình hc và quá trình nh li.  hc ca
ANN là hc có giám sát, hc không giám sát, và lai gi hc giám sát và hc
không giám sát.


4

Có bn kiu lut hc gm: lut li- error-correction), lut ca Boltzmann,
lut ca Hebb, và lut hc cnh tranh. i vi lut li- mô hình hc có giám sát
theo nguyên tc sau: dùng li do s chênh lnh gia tín hiu ra thc và tín hii
 i trng s kt ni sao cho gim dn c li. Lut hc Boltman là mt quy tc hc
tp ngu nhiên mà u chnh trng s kt n trng thái ca -ron ng mt phân
phi xác sut i. Lut hc ca Hebb c phát biu: Nu t bào thn kinh  hai khp
thn kinh c kích hot ng thi và liên tc thì s liên kt ca hai khp thn kinh s c
t hc cnh tranh ch cho phép m-c kích hot cung cp tín hiu ra 
mt thi m.

CHƯƠNG 2. CƠ SỞ LÝ THUYẾT
2.1 Logic mờ
2.1.1 Định nghĩa
Cho X là tp khác rng. Mt tp m A trên X ng mt hàm thucviên



vi µ
A
(x) th hin m thành viên ca phn t x vào tp m A i vi mi x X.

2.1.2 Các phép toán với tập mờ
Cho A, B là hai tp m trên X. Vi mi x X,
Phép giao ca hai t















 (2.1)
Phép hp ca hai t
















 (2.2)
Phép bù mt tp m 







 (2.3)
Phép ni m ca A, B là mt ánh x:








 (2.4)
tha mãn C(0, 0) = C(0, 1) = C(1, 0) = 0 và C(1, 1) = 1.
Mt kt ni m









 (2.5)
tha mãn T(x, 1) = x vi x  c gi là triangular norm hay t-norm.


5

Mt phân tách m là mt ánh x








 (2.9)
tha mãn D(0, 0) = 0 và D(0, 1) = D(1, 0) = D(1, 1) = 1.
Mt phân tách m









 (2.10)
tha mãn S(1, x) = x vi x  c gi là triangular co-norm hay short s-norm.
Mt thao tác








 (2.14)
c gi là gi ý m nu I m rng suy ding [0, 1] x [0, 1] vi I(0, 0) = I(0, 1)
= I(1, 1) = 1 và I(1, 0) = 0.
2.2 Toán học hình thái
2.2.1 Lưới đầy đủ
 là mt tp có th t, tng phn L i tp con có mt chn trên và
chi trong L. Lp các tp m k tha c ca chu k [0, 1].
2.2.2 Các thao tác cơ bản của hình thái toán học
Phép co rút là mt ánh x  t m n m M tha mãn công
thc sau:













(2.18)
Phép giãn n : L M tha mãn công thc sau:









(2.19)
2.3 Mô hình AM
2.3.1 Khái niệm về AM
AM là mt cu trúc ni dung-a ch mà ánh x các mu d liu vào sang các mu d
liu ra. Mt cu trúc ni dung-a ch là mt dng b nh mà cho phép nh li d liu da
vào m  gia mu d liu vào và các m nh.
2.3.2 Hoạt động của AM
AM hong  hai dng gm t liên kt và liên kt khác loi. B nh  dng t liên
kt mng nht vi mu vào hin ti.  dng liên kt khác loi,


6

mu vào v ni dung, kinh dó liên quan vi
m

AM có hai quá trình là 
2.3.2 Một số đặc điểm của AM
- 
- 
- 
2.4 Mô hình BAM
2.4.1 Khái niệm về BAM
BAM là mt dng ANN n hình th hin cu trúc b nh liên kt vi kh  li
theo c ng. BAM là ANN . 


Hình 2.1: Cấu trúc tổng quát của mô hình BAM
2.4.2 Quá trình học của BAM
Quá trình này  
W
k
(A
k
,B
k
) 








(2.20)

A
k
m B
k
n 
Tp 







(2.21)
v là mt hng s.


7

2.4.3 Quá trình nhớ lại của BAM
Cho mt mu vào X, 
d liu vào ca m-ron theo công thc sau:












(2.22)
vi m là s chiu ca X, Input
j
là tng trng s ca các d liu vào c-ron j, X
i
là thành
phn th i ca mu d liu vào X.
nh d li-ron bu ra:




 



 






(2.23)
v
j
ng c-ron j.

Lp lc cp (X
f
,Y
f
ng
thái BAM hi t và Y
f
chính là mu ra ca BAM ng vi mu vào X.
2.4.4 Hàm năng lượng của BAM
H 







(2.24)
2.4.5 Chiến lược học nhiều lần dùng số lần lặp tối thiểu để học một cặp mẫu
Y.F.  dùng s ln
lp ti thi hc mt cp mu (MNTP). , W
k












(2.25)
vi q
k
là s  hin s ln ít nht dùng (A
k
, B
k
) cho vic hm bo nh li
c (A
k
, B
k
).
2.5 Bộ nhớ liên kết mờ
2.5.1 Giới thiệu chung
(A
k
, B
k
)G mà G(A
k
)=B
k

G 
G G 


       A
k
và B
k
    
k=1, ,p.


8

2.5.2 Các FAM của Kosko và sự tổng quát hóa
u tiên gm max-min FAM và max-product FAM nên
  tng quát hóa FAM thành FAM
tng quát.
p mu. Cho 











và 













Mô hình t-ron max-C nên có th dùng mt phép ni m  C
M
, C
P
, C
L
.
Quá trình hc thc hin  sau:











ọ
(2.33)

Cho mu vào x, mc nh li t mc tính bng:








 


(2.34)
2.6 Mô hình ART
2.6.1 Cấu trúc của ART
Cu trúc chung ca mc th hin trong Hình 2.4.

Hình 2.2: Cấu trúc của một ART đơn giản
Mt mn hình có hai tng: tng d liu vào (F1) và tng d liu ra (F2).
ng ca mu khin bi hai h thng con: h thng chú ý và h thnh
ng.
2.6.2 Một số mô hình cải tiến từ ART
H c phát trin t  gii quyt tc bao gm
ART 1, ART 2, ART 3, ARTMAP, Fuzzy ART, Fuzzy ARTMAP.


9

2.7 Mô hình Fuzzy ART
2.7. 1 So sánh với ART

c phát trin t  hc các lp nhn dng nh vi c mu vào
 và mu vào nh phân.
2.7.2 Thuật toán Fuzzy ART
Các tham s ca mô hình Fuzzy ART: chn > 0, t hc [0, 1], ng [0, 1].
Bước 1: Khởi tạo véc tơ trọng số.




 (2.35)
Bước 2: Lựa chọn một cụm chiến thắng.

j













(2.36)
S chn cc gn ch s bng j, vi





 (2.39)
Bước 3: Kiểm tra trạng thái của mạng là cộng hưởng hay thiết lập lại.
Cộng hưởng 




 (2.40)

Thiết lập lại 




 (2.41)

j
-
 
(2.39(2. 40




Bước 4: Học dữ liệu huấn luyện.
j :

















(2.42)


10

2.7.3 Fuzzy ART với mã hóa đầy đủ
Moore trình bày   vào
có co rút. Fuzzy ART tránh  .

CHƯƠNG 3. THUẬT TOÁN HỌC MỚI CHO BỘ NHỚ LIÊN KẾT
HAI CHIỀU
3.1 Giới thiệu chung
BAM là mt ANN c m rng t các mng n-ron Hopfiled. BAM có th thc
hin tìm kim s liên kt theo c hai chiu. BAM có các m gm nh li mt m
lu t mt d liu vào có cha nhiu ho và hi t u kin trong ch
 ng b.

3.2 Quá trình học của một số BAM với chiến lược học nhiều lần
Mô hình của Y.F Wang, Cruz, và Mulligan
Lut hc th hin bi công thc sau:












(3.1)
vi q
i
th hin s ln hun luyn cp (A
i
, B
i
).
 BAM nh lp mq
i
cn thu kin sau:
















(3.2)
vi 


là s chênh lng ln nht gia cp mu th i và các cp mu khác trong
vùng A vi 


là s chênh lng ln nht gia cp mu th i và các cp
mu khác trong vùng B.
Mô hình của T. Wang và Zhuang
Lut hc cc th hin bi công thc sau:














(3.3)
vi s gia trng s ∆W
ij
c tính bi công thc sau:


























(3.4)


11

vi S(x)=0 nu x>0 và S(x)=1 nu x0.
Quá trình này lp ln khi các giá tr ca ma trn trng s W nh

Mô hình của Zhuang, Huang, và Chen
u, 


là bt k. Khi t>0 thì lut hc c-ron i  c th hin bi
công thc sau:













 

































 


(3.7)
v
Lut hc ca c-ron j  c th hin bi công thc sau:












 

































 


(3.8)
v

Quá trình này lp ln khi các giá tr ca ma trn trng s W nh
3.3 Lý do đề xuất thuật toán học mới
T vic tng hp các nghiên cu v BAM, tác gi nhn thy mô hình BAM hc nhiu
ln s phát huy tm v phc hi t mu vào nhiu. Tuy nhiên, cn phi gim thi gian
hc các mu mà vn gi c kh  li t ng cho các ng dng thc i
thi gian phn hi ngc bit khi s ng mc ca các m
ra, BAM cc ci tin kh  và nh li các cp mu không trc giao.
3.4 Thuật toán học mới
3.4.1 Phân tích mối quan hệ giữa MNTP và hàm năng lượng
Gi s   p     
i
, B
i
     










và 








. Mi quan h gic thit lp
t công thc (2.24) và (2.25).
Sau dãy các bic W :


12
















































  




































(3.11)
và E
i
c tính bng:






























(3.13)
Công thc (3.13) th hin giá tr tuyi ca E
i
t l thun vi mi q
k
ca

p cp mu
(v giá tr tuyi ca E
i
s gim nhanh khi mt s hay mi q
k
cùng
ging thi.
3.4.3 Nội dung thuật toán học mới
Mt s ký hiu c dùng trong thut toán:
- q
i
i
- W 
- E
i
(A
i
, B
i

)
Quá trình hc thc hic sau:
Bước 1: Khi to giá tr MNTP ca mi cp mu bng 1  c ma trn trng
s gc ca BAM.
Bước 2: Thc hin ln khi |E
i
| 0 vi m
tr tuyi ca x.
Bước 2.1: Tính W theo công thc (2.25)
Bước 2.2: Tính E
i
theo công thc (2.24) v
Bước 2.3: Da vào giá tr ca E
i
 cp nht q
i
theo hai lut sau:
Luật 1: Nu |E
i
| 0 i q
i

Luật 2: Nu |E
i
| 0 chưa thỏa mãn thì gim q
i
xung h l  |E
i
| gim
xung sao cho |E

i
| 0
Ưu điểm của thuật toán học mới

                


13

MNTP  
 0
 (i) quá trình hc các cp mu thc hin nhanh và linh ho và (ii) có  

3.5 Kết quả thực nghiệm
Các         
BAM   (WBAM), Zhuang (ZBAM), Tao Wang (TBAM) và   
(FFBAM) 
              .   
 


Bảng 3.1: Tỷ lệ phần trăm nhận dạng đúng các điểm ảnh trong nhận
dạng vân tay
WBAM
ZBAM
TBAM
FFBAM
83.370
85.906
85.906

88.007

Bảng 3.2: Tỷ lệ phần trăm nhận dạng đúng các điểm ảnh trong nhận
dạng chữ viết tay
WBAM
ZBAM
TBAM
FFBAM
75.463
72.964
75.681
75.89

Bảng 3.3: Tỷ lệ phần trăm nhận dạng đúng các điểm ảnh trong nhận
dạng biển hiệu giao thông
WBAM
ZBAM
TBAM
FFBAM
77.98
28.303
78.303
78.348

Bảng 3.4: Tỷ lệ phần trăm nhận dạng đúng các điểm ảnh trong nhận
dạng tiền xu của Mỹ
WBAM
ZBAM
TBAM
FFBAM

85.066
45.992
84.896
85.109





14

Bảng 3.5: Tỷ lệ phần trăm nhận dạng đúng các điểm ảnh trong nhận
dạng phương tiện giao thông
WBAM
ZBAM
TBAM
FFBAM
88.11
18.96
90.076
90.076


CHƯƠNG 4. HAI LUẬT HỌC HIỆU QUẢ CHO LÝ THUYẾT
CỘNG HƯỞNG THÍCH NGHI MỜ
4.1 Giới thiệu chung

ã   
các 
 

4.2 Một số luật học điển hình của ART và Fuzzy ART
Các bic s dng: I là d liu vào hin ti, W là trng s ca các cm, và  là
tham s hc nm trong khong [0, 1].
có :










(4.1)
 
(4.1). Ngoài ra, các
.











(4.2)

X
jk
k j và L 
Yousuf và 












(4.3)
vi 












15

4.3 Lý do đề xuất luật học cải tiến
 
 sau: Lut hc ca ART và Fuzzy ART là 

, Fuzzy ART 
.
4.4 Hai Luật học hiệu quả cho Fuzzy ART
4.4.1 Nội dung của hai luật học
Sau khi Fuzzy ART chc mt cm chin thng, vic hc mu hun luyn hin ti
din ra. Gi s, cm chin thng là cm j.
Luật học cải tiến thứ nhất
Thc hin cp nht trng s cho cm j theo công th
















(4.4)
vi  là tham s hc t hc và |y| là giá tr tuyi ca y.
Sau khi cp nht có th u chnh W
ij
theo lut sau: Do W
ij
luôn gim nên khi W
ij
<0
t W
ij
=0.
Luật học cải tiến thứ hai
c tiên, tính s  bé nht (MDI) và s gim giá tr bé nht (MDD) ca mu
hun luyn hin ti so vi trng s ca cm chin thng theo hai công thc sau:
 












(4.5)

 












(4.6)
, lut hc ci tin th 








 








 







 






(4.7)
4.4.2 Thuật toán tìm giá trị tối ưu cho tham số tốc độ học
Mt tp con ngu nhiên c chn t tp d liu sao cho s mu  mi cm
chênh nhau ít nht. T kim tra kh m ng vi mi giá
tr ca tham s t hc.



16

Ni dung thut toán gc sau:
Bước 1: Khi to tham s t hc dc ca tp d li gim thi
gian tìm giá tr ca tham st qu phân cm ca tp mu con.
Bước 2: c sau:

Bước 2.1: c gim giá tr ca tham t s hc nhy nh
 ca tham t s hc hin ti.
Bước 2.2: Tính kt qu phân cm ca tp mu con.
Bước 2.3: Kim tra kt qu phân cm ca tp mu con:
 Nu kt qu phân cc gic 2.
 Nu kt qu phân cm là cao nht, c 3.
Bước 3: giá tr ta tham s t hc.
4.4.3 Ưu điểm của hai luật học đề xuất
Mi mu hun luyu có mt m ng gin trng s ca cm
c chn do tham s hc l c nh trong sut quá trình hi d liu
trong tp hun luyc hc hiu qu.
Khi hc các tp d liu có các mu d ng, do s ng mu d ng ít trong khi s
ng mu chun nhiu và mi mu li có m ng ging nhau nên m nh
ng ca các mu d n trng s ca các c.
4.5 Kết quả thực nghiệm
Các tp d liu chun t  d liu UCI và Shape c dùng trong các th nghim.
Các mô hình c thc thi gm: Fuzzy ART vi lut hc ci tin, Fuzzy ART gc, K-mean,
và Euclidean ART. 
, 

4.5.1 Thử nghiệm 1: Dùng luật học cải tiến thứ nhất
Chín tp d liu chun c chn gm Iris m ca hoa lan), Wine (chng
cu vang), Jain (s co cm ci dùng mng), Glass (các dng mnh kính v dùng
u tra), Blance-Scale (s liu dùng trong th nghim tâm lý hc), Spiral (ph ca các
nh màu), và các tm to thành các hình dc bit (Aggregation, Flame, R15). Bng
4.11 tng hp kt qu t các kim tra con ca các th nghim.

17

Bảng 4.1: Sự cải thiện khả năng phân cụm của Fuzzy ART với luật học
thứ nhất so với mô hình tốt nhất thứ hai
Kiểu
tập dữ
liệu
Sự phân bố số mẫu trong các cụm
Số mẫu
Số cụm
Số thuộc
tính
Mức độ cải
thiện (%)
1
Không đều với độ lêch cao
200-400
2 & 3
2
21-32.6
2
Không đều với độ lêch trung bình
150
3
9
15.3
3
Không đều với độ lêch trung bình
200-214
7

9
12.6-13.5
4
Không đều với độ lêch cao
500
3
2
9.8
5
Không đều với độ lêch cao
788
7
7
4.8
6
Không đều với độ lêch thấp
120-200
2 & 3
2 & 4
2.5-5.3
7
Đều với mọi phân cụm
90-201
2
3 & 4
1.5-5
8
Không đều với độ lêch trung bình
250
3

2
0.8

D liu ca Bng 4.11 th hin rng Fuzzy ART ci tin thích hp cho các tp d liu
nh, phc tp.
4.5.2 Thử nghiệm 2: Dùng luật học cải tiến thứ hai
Chúng tôi chn 7 tp d liu chun t  d liu UCI bao gm MONKS (các bài
toán ca Monk), BALANCE-SCALE (s liu dùng trong th nghim tâm lý hc), WDBC
(d liu chu), WINE-RED (ch), WINE-WHITE
(ch u vang trng), và và các t m to thành các hình d c bit (D31,
R15). Bng 4.20 tng hp kt qu t các kim tra con ca các th nghim.

Bảng 4.2: Sự cải thiện khả năng phân cụm của Fuzzy ART với luật học
thứ hai so với mô hình tốt nhất thứ hai trong thử nghiệm 2
Kiểu tập
dữ liệu
Sự phân bố số mẫu trong các
cụm
Số mẫu
Số cụm
Số thuộc
tính
Mức độ cải
thiện (%)
1
Không đều với độ lệch cao
600-1200
3,4
11
15.2-30.2

2
Không đều với độ lệch cao
1000-3000
3,4
11
11.1-30.1
3
Không đều với độ lệch cao
300-625
2,3
4
18-20.8
4
Không đều với độ lệch cao
400-569
2
30
15.6-16.3
5
Không đều với độ lệch cao
4000-4898
5,6
11
2.5-5.7
6
Không đều với độ lệch trung bình
400-459
2
7
2.5-2.6

18

7
Đều với mọi phân cụm
500-1500
5,10,15
2
2.3-3.8
8
Đều với mọi phân cụm
2000-3100
20,25,31
2
1.5-2.4

Kt qu ca các kim tra con ca by th nghim cho thy kh a phân cm ca
Fuzzy ART vi lut hc th hai ci thi i vi các tp d liu nh  phc tp
cao. c bit, kt qu phân cm là cao khi tpd liu có cha nhiu mu.

CHƯƠNG 5. LUẬT HỌC CẢI TIẾN CHO BỘ NHỚ LIÊN KẾT
MỜ
5.1 Giới thiệu chung
FAM là AM mà hc và nh li vi các mu c biu din  dng tp m. FAM có 
m là nh li các m các mu vào nhi.
5.2 Một số mô hình FAM chuẩn

k
, B

k

k

k

Mô hình của Kosko và Kong
Các ma trn trng s kt ni W
k
ca cp mu (A
k
, B
k
c tính:










(5.1)
Ma trn trng s kt nt c các cp mc tính:











(5.2)
Mô hình của Junbo, Fan, và Yan
Các ma trn trng s kt ni W
k
ca cp mu (A
k
, B
k
c tính:












(5.4)
Ma trn trng s kt nt c các cp mc tính:











(5.5)
Mô hình của Chung và Lee
Các ma trn trng s kt ni W
k
ca cp mu (A
k
, B
k
c tính:


19














(5.7)
Ma trn trng s kt nt c các cp mc tính:










(5.8)
Mô hình của Xiao, Yang, và Yu
Các ma trn trng s kt ni W
k
ca cp mu (A
k
, B
k
c tính:











(5.10)
vi  
























(5.11)
Ma trn trng s kt nt c các cp mc tính:










(5.12)
Tập các mô hình của S.T. Wang và Lu
Các ma trn trng s kt ni W
k
ca cp mu (A
k
, B
k
c tính:











(5.14)
Ma trn trng s kt nt c các cp mc tính:










(5.15)











(5.16)
Họ các FAM gợi ý của Sussner và Valle
Các ma trn trng s kt ni W
k

ca cp mu (A
k
, B
k
c tính:










(5.19)
vi  là thao tác I
M
, I
P
, I
L



20

Ma trn trng s kt nt c các cp mc tính:











(5.20)
hoc










(5.21)
5.3 Lý do đề xuất luật học cải tiến
T các phân tích trên, tác gi thy rng mt s thông tin có ích s b mt mát trong quá
trình hc do các FAM chun ch  tt ni dung các mu hoc ch  tt liên kt
gia các mu. Thông tin b mt mát trong quá trình hc có th dn ti kh  li b hn
ch.
5.4 Luật học cải tiến của FAM
5.4.1 Mô hình FAM với luật học cải tiến
Thit k ca mô hình FAM vi lut hc ci ti
Quá trình học các cặp mẫu

p 
Bước 1: (A
k
, B
k
) W
k
theo cách sau:



























(5.24)
 

Bước 2: 
chung th





















(5.25)
Quá trình nhớ lại
Y X W 
sau:












(5.26)


21

Điều chỉnh ACAM cho chế độ tự liên kết
 m bo kh  không gii hn các cp mu  ch  t liên kt, chúng tôi
tính Wii giB nh liên kt hình thái (MAM).






























 


(5.27)
c dùng cho vic nh lu ch
















(5.28)
5.4.2 Hai định lý về khả năng nhớ lại hoàn hảo của ACAM
Định lý 5.1: (Khả năng nhớ lại các cặp mẫu trong chế độ liên kết khác loại)
W trong công thức (5.27) nhớ lại hoàn hảo mọi cặp mẫu (A
k
, B
k
) nếu và chỉ nếu với
mỗi k=1, ,p, mỗi cột của ma trận W
k

W có chứa một số 0.
Định lý 5.2: (Khả năng nhớ lại các cặp mẫu trong chế độ tự liên kết)
W trong công thức (5.27) nhớ lại hoàn hảo mọi cặp mẫu (A
k
, A
k

).
5.5 Kết quả thực nghiệm
FAM ci tic so sánh vi các FAM ca Junbo, Kosko, Xiao, Susners và
Valle (IFAMs).  t qu, chúng tôi dùng cách tính li chun.
5.5.1 Thử nghiệm với tập dữ liệu về các số
5 -4 5 × 5.  
các  méo 

Bảng 5.1: Kết quả thử nghiệm của bộ nhớ tự liên kết với tập dữ liệu
về con số

Junbo
Kosko
Xiao
IFAM
ACAM

0.434
0.914
0.418
0.434
0.346



22

5.1  vào 
bóp méo . Lý do các mô hình khác  
 do  trong

.

Bảng 5.2: Kết quả thử nghiệm của bộ nhớ liên kết khác loại với tập
dữ liệu về con số

Junbo
Kosko
Xiao
IFAM
ACAM

0.675
0.893
0.793
0.675
0.652

 ít 
5.5.2 Thử nghiệm với tập dữ liệu của Corel
B d liu này bao gm các hình c la chn t  d liu Corel. Các mu
nhiu c to ra t các mu chun bng cách to ra nhiu mui tiêu  mc 25% s ng
m nh.
Trong ch  t liên kt, 10 c s dng. Kt qu trong ch  t liên kc
trình bày trong bng 5.3 cho thy ACAM làm vic hiu qu trong vic x lý vi nhiu mui
tiêu.

Bảng 5.3: Kết quả thử nghiệm của bộ nhớ tự liên kết với tập dữ liệu
của Corel

Junbo

Kosko
Xiao
IFAM
ACAM

0.742
0.867
0.694
0.664
0.531

Ch  liên kt khác loi c th nghim vi 10 cp các nh vào khác
vi nh ra. Bng 5.4 y ACAM thc hin tso vi các mô hình khác trong
s hin din ca c hai loi nhiu co rút và giãn n.

Bảng 5.4: Kết quả thử nghiệm của bộ nhớ liên kết khác loại với tập
dữ liệu của Corel

Junbo
Kosko
Xiao
IFAM
ACAM

0.795
1.018
0.702
0.624
0.548

23

KẾT LUẬN

Vi mong muc hiu bi quá trình hc c ci thin cht
ng thông tin ra ca các ANN, lun án và c các kt qu sau:
cho BAM  .

 
làm  
các BAM
 
 lut hc hiu qu ca Fuzzy ART mà hc t mi mu hun luyn, ng
thi gim s ng ca các mu hun luyn d i vi kt qu ca quá trình hc.
Các tp d liu chuc chn t  d li 
 li các cm ca Fuzzy ART ci tin. Vi lut hc ci tin th nht, 9 tp d liu v
các loài hoa lan, chu vang, các dng v ca kính trong các v án hình s và các
m nh to thánh các hình dc ch  phân
cm. Thc nghim th nht này cho thy Fuzzy ART ci tin phân cm t  so
vi các mô hình khác vi các tp d liu nh, phc tp. Vi lut hc ci tin th hai, 7 tp d
liu v triu chng ca bu vang, các bài toán ca Monk, các d
li th nghim tâm lý hc và các hình dc to thành t tm trong tp d
liu c ch th nghim. Kt qu ca thc nghim th hai cho thy kh m
ca Fuzzy ART ci tin cao i các tp d liu nh, phc tc bit, Fuzzy ART ci
tin phân cm hiu qu vi các tp d liu có nhiu mu.
Trình bày lut hc ci tin cho  hiu qu c ni dung và s liên kt gia
các cp mu. a, FAM gn vi lut hc ci tin 
 
 Các th nghim c làm trên các b nh v các con s và các c ly ra t 

d liu nh ca hãng Corel trong các ng dng nhn dc th nghim  c
hai ch  t liên kt và liên kt khác loi. Kt qu th nghim cho thy FAM ci tin có kh
 li t hai ch .
Trong thi gian ti, tác gi mong muc tip tc phát trin các nghiên cu v ANN
 m rng kh ng dng ca các ANN cho các bài toán ngày càng phc tp hin nay.