Ứng dụng thuật toán tối ưu tiến hóa lai trong phân tích nhu cầu khách hàng

I H C QU C GIA HÀ N I
TR

NGă

I H CăCÔNGăNGH

NGUY N V NăNGÀ

NGăD NGăTHU TăTOỄNăT Iă UăTI NăHÓAăLAIă
TRONGăPHỂNăTệCHăNHUăC UăKHỄCH HÀNG

LU NăV NăTH CăS ăCÔNGăNGH THÔNGăTIN

HÀăN I - 2016


I H C QU C GIA HÀ N I
TR

NGă

I H CăCÔNGăNGH

NGUY N V NăNGÀ

NGăD NGăTHU TăTOỄNăT Iă UăTI NăHÓAăLAIă
TRONGăPHỂNăTệCHăNHUăC UăKHỄCH HÀNG

LU NăV NăTH CăS ăCÔNGăNGH THÔNGăTIN
NgƠnh: Công ngh thông tin

Chuyên ngƠnh: Truy n d li u vƠ m ng máy tính
Mƣ s : Chuyên ngƠnh thí đi m
NG

IăH

NG D N KHOA H C:ăTS.ăLêăHoƠngăS n

HÀăN I - 2016


M CL C

M C L C ............................................................................................................... 1
DANH SÁCH CÁC Kụ HI U VÀ CH

VI T T T ........................................... 2

DANH M C HÌNH V ........................................ Error! Bookmark not defined.
L I CAM OAN.................................................. Error! Bookmark not defined.
L I C M N ......................................................................................................... 3
M

U ................................................................................................................ 4

CH

NGăI.ăăT NG QUAN T Iă UăTI NăHÓAăVÀăBÀIăTOỄN PHỂNă

C M M ................................................................................................................ 7

1.1T i uăti năhóa .................................................................................................. 7
1.1.1. Thu t toán l p trình ti n hóa ..................................................................... 9
1.1.2. Chi n l

c ti n hóa ................................. Error! Bookmark not defined.

1.1.3. Thu t toán di truy n ................................ Error! Bookmark not defined.
1.1.4. L p trình di truy n ................................... Error! Bookmark not defined.
1.1.5. Ti n hóa vi phơn ...................................... Error! Bookmark not defined.
1.1.6. Thu t toán v n hóa. ................................. Error! Bookmark not defined.
1.2. BƠiătoánăphơnăc m m ................................. Error! Bookmark not defined.
1.2.1. Khái quát phơn c m ................................ Error! Bookmark not defined.
1.2.2.

đo ....................................................... Error! Bookmark not defined.

1.2.3. Các thu t toán phơn c m tiêu bi u .......... Error! Bookmark not defined.
1.2.4. Thu t toán phơn c m m ......................... Error! Bookmark not defined.
1.3. K t lu năch
CH

ng ........................................... Error! Bookmark not defined.

NGă 2.ă THI T K

THU Tă TOỄNă T Iă

Uă TI Nă HÓAă LAIăă

CHOăPHỂNăC M M ....................................... Error! Bookmark not defined.

2.1. Thu tătoánăBlackăHole ................................. Error! Bookmark not defined.
2.1.1. Khái quát ................................................. Error! Bookmark not defined.
2.1.2. Mô t thu t toán....................................... Error! Bookmark not defined.
2.1.3. CƠi đ t thu t toán .................................... Error! Bookmark not defined.
2.1.4.

u đi m ................................................... Error! Bookmark not defined.
1


2.2. Thu tătoánăHarmonyăSearch....................... Error! Bookmark not defined.
2.2.1. Khái quát ................................................. Error! Bookmark not defined.
2.2.2. Mô t thu t toán....................................... Error! Bookmark not defined.
2.2.3. CƠi đ t thu t toán .................................... Error! Bookmark not defined.
2.2.4. Nh

c đi m ............................................. Error! Bookmark not defined.

2.3. Thu tătoánăt iă uăti năhóaălaiăBHHS.......... Error! Bookmark not defined.
2.3.1. ụ t

ng.................................................... Error! Bookmark not defined.

2.3.2. Mô t thu t toán....................................... Error! Bookmark not defined.
2.3.3. CƠi đ t thu t toán .................................... Error! Bookmark not defined.
2.4.ă ánhăgiáă u,ănh
2.4.1.

u đi m ................................................... Error! Bookmark not defined.

2.4.2. Nh

c đi m ............................................. Error! Bookmark not defined.

2.5. K t lu năch
CH

căđi m c a thu tătoánălaiăghépăBHHSError! Bookmark not def

ng ........................................... Error! Bookmark not defined.

NGă 3.ă ă XỂYă D NG

NG D NGă PHỂNă TệCHă NHUă C U

KHỄCHăHÀNG ................................................... Error! Bookmark not defined.
3.1. Môăt yêuăc u ................................................ Error! Bookmark not defined.
3.2. D li u th c nghi m ..................................... Error! Bookmark not defined.
3.3. Thi t k h th ng. ......................................... Error! Bookmark not defined.
3.4. CƠiăđ t thu tătoánăBHHS ............................ Error! Bookmark not defined.
3.5. K t qu th c nghi m thu tătoánăvƠădemoăch
3.6. K t lu năch

ngătrìnhError! Bookmark not defin

ng ........................................... Error! Bookmark not defined.

K T LU N .......................................................... Error! Bookmark not defined.
H

NGăPHỄTăTRI N ...................................... Error! Bookmark not defined.

PH L C ............................................................. Error! Bookmark not defined.
TÀIăLI U THAM KH O .................................................................................. 10

2


L IăC Mă N
Em xin bƠy t lòng bi t n chơn thƠnh vƠ sơu s c đ n Ti n s Lê HoƠng S n,
Trung tơm Tính toán Hi u n ng cao - Tr

ng

dƠnh nhi u th i gian t n tình ch b o, h

i h c Khoa h c t nhiên, th y đƣ

ng d n em trong su t quá trình tìm hi u,

tri n khai vƠ nghiên c u đ tƠi. Th y lƠ ng

i đƣ đ nh h

ng vƠ đ a ra nhi u góp

ý quý báu trong quá trình em th c hi n lu n v n nƠy.
Em xin chơn thƠnh c m n chơn thƠnh t i toƠn th các th y cô giáo trong
khoa Công ngh thông tin, Tr

ng

i h c Công ngh HƠ N i,

i h c Qu c gia

HƠ N i đƣ d y b o t n tình, trang b cho em nh ng ki n th c quý báu, b ích vƠ
t o đi u ki n thu n l i trong su t quá trình em h c t p vƠ nghiên c u t i tr
Em c ng xin đ

ng.

c g i l i c m n t i các th y cô, các anh ch vƠ các b n

trong Trung tơm Tính toán Hi u n ng cao - Tr

ng

i h c Khoa h c t nhiên đƣ

giúp đ em trong su t th i gian lƠm lu n v n nƠy.
Em c ng xin chơn thƠnh c m n t i gia đình, b n bè, đ ng nghi p đƣ luôn
bên em c v , đ ng viên, giúp đ em trong su t quá trình h c t p vƠ th c hi n
lu n v n.
Do có nhi u h n ch v th i gian vƠ ki n th c nên lu n v n không tránh kh i
nh ng thi u sót, r t mong nh n đ

c nh ng ý ki n đóng góp quý báu c a quý

th y cô vƠ các b n cùng quan tơm.

Lu n v n đ

c th c hi n d

102.05-2014.01 c a Qu

i s tƠi tr c a đ tƠi nghiên c u c b n mƣ s :

phát tri n khoa h c vƠ công ngh

qu c gia

(NAFOSTED).
Cu i cùng em xin g i l i chúc s c kh e vƠ thƠnh đ t t i t t c quý th y
cô, quý đ ng nghi p cùng toƠn th gia đình vƠ b n bè.
Xin chơn thƠnh c m n!

3


M
1.

U

t v năđ

NgƠy nay, công ngh thông tin có nhi u chuy n bi n m nh m , c v s
l

ng vƠ ch t l

ng trên c hai l nh v c ph n c ng vƠ ph n m m, đi u đó đƣ tác

đ ng l n đ n s phát tri n c a xƣ h i. S bùng n thông tin đƣ đem đ n l
li u kh ng l cho nhơn lo i, do đó đòi h i con ng

ng d

i ph i bi t khai thác d li u vƠ

x lý thông tin ph c v cho m c đích c a mình.
M t trong nh ng k thu t quan tr ng trong quá trình khai phá d li u vƠ x
lý d li u l n lƠ k thu t phơn c m d li u. Phơn c m đ c bi t hi u qu khi ta
không bi t v thông tin c a các c m, ho c khi ta quan tơm t i nh ng thu c tính
c a c m mƠ ch a bi t ho c bi t r t ít v nh ng thông tin đó. Phơn c m đ
nh m t công c đ c l p đ xem xét phơn b d li u, lƠm b

c coi

c ti n x lý cho các

thu t toán khác. Vi c phơn c m d li u có r t nhi u ng d ng nh trong l p quy
ho ch đô th , nghiên c u trái đ t, đ a lý, khai phá Web v.v.
Trong kinh doanh, y u t khách hƠng quy t đ nh đ n s thƠnh b i c a
doanh nghi p. Khi thông tin đang tr thƠnh y u t quy t đ nh trong kinh doanh thì
v n đ tìm ra các thông tin h u ích trong các c s d li u kh ng l ngƠy cƠng tr
thƠnh m c tiêu quan tr ng c a các doanh nghi p. Khai phá d li u lƠ m t nh ng
h

ng nghiên c u ph bi n v vi c t ch c các kho d li u vƠ kho thông tin.

có nhi u nghiên c u trong vƠ ngoƠi n

ƣ

c quan tơm t i vi c hình thƠnh lu t t d

li u không ch đ

c th c hi n trong các ph

ng pháp c a khai phá d li u nói

chung mƠ còn đ

c xơy d ng trên lý thuy t c m m . Phơn c m m lƠ công c

h u hi u trong các bƠi toán khai phá d li u, phơn tích khách hƠng. Thu t toán
phơn c m m lƠ m t ph

ng pháp th

ng đ

cho k t qu mô hình t t trong nhi u tr

c s d ng trong nh n d ng m u vƠ

ng h p. Tuy nhiên, đi m y u c a phơn

c m m lƠ nghi m t i u lƠ c c tr đ a ph

4

ng. Do v y, xu h

ng lƠ s d ng các


thu t toán t i thi u t i u ti n hóa cho phơn c m m đ tìm ra nghi m t i u toƠn
c c, nơng cao ch t l
T i u hóa, đ

ng phơn c m.
c kh i ngu n nh m t ngƠnh c a Toán h c, có r t nhi u

ng d ng r ng rƣi trong quy ho ch tƠi nguyên, thi t k ch t o máy, đi u khi n t
đ ng, qu n tr kinh doanh, ki n trúc đô th , công ngh thông tin, trong vi c t o
nên các h h tr ra quy t đ nh trong qu n lý vƠ phát tri n các h th ng l n.
Chính vì v y, các l nh v c c a t i u hóa ngƠy cƠng tr nên đa d ng. Trong th c
t , vi c tìm gi i pháp t i u cho m t v n đ nƠo đó chi m m t vai trò h t s c
quan tr ng. Ph

ng án t i u lƠ ph

ng án h p lý nh t, t t nh t, ti t ki m chi phí,

tƠi nguyên, ngu n l c mƠ l i đem l i hi u qu . Có r t nhi u thu t toán đƣ vƠ đang
đ

c s d ng đ t i u hóa. M t trong nh ng b

c phát tri n trong l nh v c nƠy

đ c bi t ph i k đ n lƠ thu t toán t i u ti n hóa.
2. M căđíchăc a lu năv n
Lu n v n s trình bƠy v m t ph

ng pháp t i u cho phơn c m m , c th

lƠ thu t toán lai ghép gi a Black Hole vƠ Harmony Search. Thu t toán nƠy s
đ

c áp d ng cho bƠi toán phơn tích nhu c u khách hƠng ậ lƠ m c tiêu quan tr ng

c a b t k doanh nghi p nƠo trong vi c xác đ nh các khách hƠng ti m n ng, nhu
c u c a nhóm khách hƠng, m c đ hƠi lòng v s n ph m vƠ d ch v . T đó h tr
doanh nghi p đ a ra quy t đ nh trong chi n l

c kinh doanh trong t

ng lai d a

vƠo k t qu c a quá trình phơn tích khách hƠng ti m n ng, nhu c u c a nhóm
khách hƠng vƠ m c đ hƠi lòng v s n ph m vƠ d ch v c a doanh nghi p.
M t c s d li u m u v th ng kê doanh s bán hƠng c a m t công ty
kinh doanh thi t b y t cho kho ng 500 b nh vi n [6] đ

c s d ng đ lƠm đ u

vƠo cho h th ng phơn tích nhu c u khách hƠng có cƠi đ t các thu t toán

trên.

Qua đơy, tính hi u qu c a các thu t toán t i u ti n hóa cho bƠi toán phơn c m
m theo các tiêu chí v ch t l

ng vƠ th i gian tính toán đ

c lƠm rõ đ ng th i

phác h a chi ti t v các ch c n ng chính c a bƠi toán phơn tích nhu c u khách
hƠng.

5


3. B c c c a lu năv n
Lu n v n g m 3 ch

ng, có ph n m đ u, ph n k t lu n, ph n m c l c,

ph n tƠi li u tham kh o. Các n i dung c b n c a lu n v n đ

c trình bƠy theo

c u trúc nh sau:
Ch

ngă1.ăT ng quan t iă uăti năhóaăvƠăbƠiătoánăphơnăc m m

Trong ch

ng nƠy, lu n v n s trình bƠy t ng quan v t i u ti n hóa, thu t

toán l p trình ti n hóa (EP), chi n l

c ti n hóa, thu t toán di truy n v i thu t gi i

GA, l p trình di truy n, ti n hóa vi phơn v i thu t toán DE vƠ thu t toán v n hóa.
T các thu t toán t i u ti n hóa, lu n v n s trình bƠy trình bƠy v khái ni m t p
m , phơn c m m , thu t toán phơn c m m vƠ thu t toán kinh đi n FCM. T c
s đó k th a, d n ch ng, phơn tích hai thu t toán Black Hole vƠ Hamorny Search
đ thi t k m t thu t toán lai khác t i u cho phơn c m m .
Ch

ngă2. Thi t k thu tătoánăt iă uăti năhóaălaiăchoăphơnăc m m

Trong ch

ng nƠy, tác gi gi i thi u hai thu t toán t i u tìm ki m đó lƠ

thu t toán Back Hole (BH) c a John Wheeler, đ mô t hi n t
s pđ v iýt

ng l c hút t

Search (HS) v i ý t

ng c a m t kh i

ng tác trong v tr c a các v t th vƠ Hamorny

ng t i u thu t gi i nh ng

i nh c công ch i m t b n nh c

tuy t v i. T đó k t h p 2 thu t toán l i thƠnh thu t toán khác đ t i u ti n hóa
trong không gian tìm ki m đó lƠ thu t toán lai ghép BHHS. Các nh n xét, đánh
giá u, nh
Ch

c đi m c a 3 thu t toán trên c ng đ

c nh c đ n trong ch

ng nƠy.

ngă3. Xơyăd ng ng d ngăphơnătíchănhuăc uăkháchăhƠng

Trong ch

ng nƠy, tác gi cƠi đ t thu t toán lai ghép BHHS vƠ xơy d ng

ph n m m phơn tích nhu c u c a khách hƠng đ giúp công ty s n xu t kinh doanh
có nh ng quy t đ nh s n xu t, l a ch n s n ph m t t nh t phù h p v i các quy t
sách c a đ n v mình.
6

CH

NGăI. T NG QUAN T Iă UăTI NăHÓAăVÀăBÀIăTOỄNă
PHỂNăC M M

1.1 T iă uăti năhóa
T i u hóa đ

c kh i ngu n nh m t ngƠnh c a Toán h c, có r t nhi u

ng d ng r ng rƣi trong quy ho ch tƠi nguyên, thi t k ch t o máy, đi u khi n t
đ ng, qu n tr kinh doanh, ki n trúc đô th , công ngh thông tin, trong vi c t o
nên các h h tr ra quy t đ nh trong qu n lý vƠ phát tri n các h th ng l n.
Chính vì v y, các l nh v c c a t i u hóa ngƠy cƠng tr nên đa d ng. Trong th c
t , vi c tìm gi i pháp t i u cho m t v n đ nƠo đó chi m m t vai trò h t s c
quan tr ng. Ph

ng án t i u lƠ ph

ng án h p lý nh t, t t nh t, ti t ki m chi phí,

tƠi nguyên, ngu n l c mƠ l i đem l i hi u qu . Có r t nhi u thu t toán đƣ vƠ đang
đ

c s d ng đ t i u hóa. M t trong nh ng b

c phát tri n trong l nh v c nƠy

đ c bi t ph i k đ n lƠ thu t toán t i u ti n hóa [1]

T khi trái đ t đ

c hình thƠnh, m i s s ng trên trái đ t tr i qua hƠng tri u

tri u n m đ u đƣ vƠ đang ti p t c ti n hóa vƠ phát tri n đ thích nghi v i đi u
ki n, môi tr

ng s ng. Chúng phát tri n, thay đ i liên t c đ sinh t n. Nh ng cá

th nƠo y u vƠ không thích nghi đ
cá th thích nghi v i môi tr

c thì s b ch t ho c không phát tri n, nh ng

ng s ng s phát tri n m nh m đ ti p t c sinh t n,

duy trì vƠ phát tri n gi ng nòi [2].
Trong sinh h c, ti n hóa lƠ quá trình mƠ qua đó các sinh v t nh n đ

c vƠ

truy n l i các đ c tính t th h nƠy sang th h khác (lai t o). Vi c di n ra trong
m t th i gian r t dƠi c a nó gi i thích ngu n g c c a các loƠi m i vƠ s đa d ng
c a sinh v t. Các loƠi cùng nhau liên quan đ n nhau b i cùng g c, s n ph m c a
s ti n hóa vƠ s hình thƠnh loƠi qua hƠng t n m.

7


VƠ t quy lu t s s ng các loƠi

trên, ng

i ta có nh ng ý t

ng v tính

toán ti n hóa (EC). Tính toán ti n hóa lƠ mô ph ng c a quá trình ch n l c t
nhiên trong quá trình (th t c) tìm ki m. Trong t nhiên, các sinh v t có đ c tr ng
nh t đ nh tác đ ng đ n s s ng vƠ sinh s n c a chúng. Nh ng đ c tr ng nƠy đ

c

mƣ hóa thƠnh nh ng thông tin trên các nhi m s c th . Nhi m s c th con m i,
đ

c t o ra b ng cách ghép đôi vƠ sinh s n. K t qu cu i cùng có đ

c nhi m s c

th con có ch a đ c tính t t nh t t nhi m s c th c a b m cho phép chúng s ng
sót trong môi tr

ng không thu n l i. V i quá trình ch n l c t nhiên ch c ch n

nh ng cá th t t s có c h i đ

c k t h p v i nhau, cho ra nh ng con t

ng ng

ho c có th t t h n.
Trong t nhiên s ti n hóa lƠ m t quá trình không đi u khi n, các sinh v t
t t h n s thích nghi nhi u h n v i môi tr

ng, sinh v t s ng sót s sinh s n, phát

tri n… ó lƠ quá trình ch n l c vƠ ti n hóa t nhiên.
Các phép s d ng trong EC bao g m: Phép lai ghép, phép đ t bi n vƠ phép
ch n l c. Các phép nƠy có th k t h p v i nhau trong m t mô hình ti n hóa
Tính toán ti n hóa lƠ k thu t tính toán d a trên nguyên lý ti n hóa c a quá
trình ch n l c t nhiên trong thuy t ti n hóa c a Darwin. Các k thu t ti n hóa
bao g m: Chi n l

c ti n hóa, l p trình ti n hóa, thu t gi i di truy n vƠ l p trình

di truy n.
nh ngh a tính toán ti n hóa:
Thu t toán mô ph ng [4] m t hƠm f : V  R , trong đó V lƠ không gian tìm
ki m, f đ

c g i lƠ hƠm thích nghi ch a đ ng các thông tin đ c tr ng cho bƠi

toán. M i vòng l p c a tính toán ti n hóa có th đ nh ngh a b i công th c:
vi 1    vi , f  vi  

(1.1)

Trong đó:  :V  R  V lƠ m t hƠm t o ra m t vector m i, ngh a lƠ m t qu n
th m i vi 1 t qu n th c vi ,  th

ng đ

c xác đ nh b i d ng tính toán đang

s d ng, cách ch n qu n th m i t qu n th c vƠ các con m i sinh ra cùng.

8


Tính toán ti n hóa nh lƠ m t khái ni m chung cho gi i quy t bƠi toán, đ c
bi t đ i v i bƠi toán t i u hóa vƠ áp d ng các thu t toán ti n hóa đƣ gi i quy t
đ

c các bƠi toán t i u khó. NgƠy nay thu t toán trên thu hút r t nhi u nhƠ

nghiên c u tham gia nghiên c u.
Các khái ni m liên quan:
- Bi u di n cá th : M i cá th bi u di n trong thu t gi i di truy n t

ng ng

v i m t gi i pháp c a bƠi toán.
-

ánh giá đ thích nghi:

thích nghi lƠ kh n ng phù h p c a m i cá th

hay m i gi i pháp đ i v i môi tr

ng, môi tr

ng t

c n gi i quy t. Xơy d ng đ thích nghi c ng lƠ m t b
toán di truy n.

đánh giá đ

ng ng v i bai toán đang
c quan tr ng trong thu t

c đ thích nghi c a các cá th gi i thu t di truy n

s d ng m t hƠm đo d thích nghi.
- Lai ghép: LƠ quá trình t o ra các cá th m i d a trên nhi u cá th đƣ có, g i
lƠ cá th cha - m . Hai cá th con đ
-

c

t bi n: LƠ quá trình t o ra cá th m i t m t cá th ban đ u b ng cách

thay đ i m t s gen c a nó.
- Ch n l c vƠ thay th : Ch n l c vƠ thay th lƠ quá trình ch n nh ng cá th
t qu n th hi n t i đ t o ra th h sau c a nó. Trong quá trình nƠy di n ra s đƠo
th i nh ng cá th y u, ch gi l i nh ng cá th t t. Nh ng cá th có đ thích nghi
l n h n ho c b ng v i đ thích nghi tiêu chu n s đ

c gi l i vƠ đ thích nghi

c a cá cá th trong qu n th s t t h n sau nhi u th h .
-

i u ki n d ng: Thu t toán di truy n lƠ m t quá trình ng u nhiên, nên

không th đ m b o ch c ch n thu t toán s d ng sau h u h n b
đ m b o thu t toán di truy n k t thúc, ng

i dùng th

ki n d ng cho thu t toán di truy n.
1.1.1. Thu tătoánăl pătrìnhăti năhóa (EP)

9

c. Vì v y, đ

ng ph i đ nh ngh a đi u


TÀIăLI U THAM KH O
[1] />[2] Siddique, N., & Adeli, H. (2013). Computational intelligence: synergies
of fuzzy logic, neural networks and evolutionary computing. John Wiley & Sons.
[3] Pedrycz, W., Rai, P. (2008), Collaborative clustering with the use of
Fuzzy C-Means and its quantification, Fuzzy Sets and Systems, 159(18), 23992427.
[4] Angeline, P. J. (1995). Adaptive and self-adaptive evolutionary
computations. In Computational intelligence: a dynamic systems perspective.
[5] Davis, L. D., De Jong, K., Vose, M. D., & Whitley, L. D. (Eds.).

(2012). Evolutionary algorithms (Vol. 111). Springer Science & Business Media.
[6] />[7] Differential Evolution ậ A Simple and Efficient Heuristic for Global
Optimization over Continuous Spaces.
[8] />[9] Al-Sultan, K. S., & Selim, S. Z. (1993). A global algorithm for the
fuzzy clustering problem. Pattern Recognition, 26(9), 1357-1361.
[10] Bezdek, J. C., et al. (1984). FCM: the fuzzy c-means clustering
algorithm. Computers & Geosciences, 10, 191-203.
[11] Ming-Yang Su, Kun-Lin Chiang, Wei-Cheng Liao ắ Mitigation of
Black-Hole Nodes in Mobile Ad Hoc Networks” in International Symposium on
Parallel and Distributed Processing with Applications 2010 IEEE
[12] X.-S. Yang, ắHarmony Search as a Metaheuristic Algorithm”, in:
Music-Inspired Harmony Search Algorithm: Theory and Applications (Editor Z.
W. Geem), Studies in Computational Intelligence, Springer Berlin, vol. 191, pp.
1-14 (2009)
[14] />
10


[15]

Attea, B. A. A. (2010). A fuzzy multi-objective particle swarm

optimization for effective data clustering. Memetic Computing, 2(4), 305-312.
[16] Belacel, N., Hansen, P., & Mladenovic, N. (2002). Fuzzy J-means: a
new heuristic for fuzzy clustering. Pattern Recognition, 35(10), 2193-2200.
[17] Benati, S. (2008). Categorical data fuzzy clustering: an analysis of
local search heuristics. Computers & Operations Research, 35(3), 766-775.
[18] Cuong, B.C., Son, L.H., Chau, H.T.M. (2010). Some Context Fuzzy
Clustering Methods for Classification Problems. Proceedings of the 2010
[19] Hansen, P., & Mladenović, N. (2001). Variable neighborhood search:

Principles and applications. European journal of operational research, 130(3),
449-467.
[20] Dunn, J. C. (1973). A fuzzy relative of the ISODATA process and its
use in detecting compact well-separated clusters. Journal of Cybernetics, 3(3), 3257.
[21] Geem, Z. W. (2009). Music-inspired harmony search algorithm:
theory and applications. Springer Science & Business Media.
[22] Geem, Z. W., Kim, J. H., & Loganathan, G.V. (2001). A new heuristic
optimization algorithm: harmony search. Simulation, 76(2), 60-68.
[23] Gholami, A. A., Ayanzadeh, R., & Raisi, E. (2014). Fuzzy Honey
Bees

Foraging

Optimization:

Swarm

Intelligence

Approach

for

Clustering. Journal of Artificial Intelligence, 7(1).
[24] Hall, L. O., Ozyurt, I. B., & Bezdek, J. C. (1999). Clustering with a
genetically

optimized

approach. IEEE

Transactions

on

Evolutionary

Computation, 3(2), 103-112.
[25] Hatamlou, A. (2013). Black hole: A new heuristic optimization
approach for data clustering. Information Sciences, 222, 175-184.
[26] Izakian, H., & Abraham, A. (2011). Fuzzy C-means and fuzzy swarm
for fuzzy clustering problem. Expert Systems with Applications, 38(3), 18351838.
11


[27] Izakian, H., Abraham, A., & Snasel, V. (2009). Fuzzy clustering using
hybrid fuzzy c-means and fuzzy particle swarm optimization. IEEE World
Congress on Nature & Biologically Inspired Computing, 1690-1694.
[28] Khan, K., Sahai, A., & Campus, A. (2012). A fuzzy c-means bi-sonarbased metaheuristic optomization algorithm. IJIMAI, 1(7), 26-32.
[29] Le, T., Altman, T., & Gardiner, K. J. (2012). A fuzzy clustering
method using Genetic Algorithm and Fuzzy Subtractive Clustering. Intl'Conf. on
Information and Knowledge Engineering, 426-432.
[30] Li, C., Zhou, J., Kou, P., & Xiao, J. (2012). A novel chaotic particle
swarm optimization based fuzzy clustering algorithm. Neurocomputing, 83, 98109.
[31] Liu, W., & Jiang, L. (2010). A clustering algorithm FCM-ACO for
supplier base management. In: Advanced Data Mining and Applications, Springer
Berlin Heidelberg, pp. 106-113.
[32] Liu, Y., Yi, Z., Wu, H., Ye, M., & Chen, K. (2008). A tabu search
approach for the minimum sum-of-squares clustering problem. Information
Sciences, 178(12), 2680-2704.

[33] Omran, M. G., Salman, A., & Engelbrecht, A. P. (2006). Dynamic
clustering using particle swarm optimization with application in image
segmentation. Pattern Analysis and Applications, 8(4), 332-344.
[34] Ozturk, C., Hancer, E., & Karaboga, D. (2014). Improved clustering
criterion for image clustering with artificial bee colony algorithm. Pattern
Analysis and Applications, 1-13.
[35] Pang, L., Xiao, K., Liang, A., & Guan, H. (2012). A improved
clustering analysis method based on fuzzy c-means algorithm by adding PSO
algorithm. In: Hybrid Artificial Intelligent Systems, Springer Berlin Heidelberg,
pp. 231-242.
[36] Pang, W., Wang, K. P., Zhou, C. G., & Dong, L. J. (2004). Fuzzy
discrete particle swarm optimization for solving traveling salesman problem. 4th
12


IEEE International Conference on Computer and Information Technology, 796800.
[37] Parvin, H., & Minaei-Bidgoli, B. (2015). A clustering ensemble
framework based on selection of fuzzy weighted clusters in a locally adaptive
clustering algorithm. Pattern Analysis and Applications, 18(1), 87-112.
[39] Son, L. H., Cuong, B. C., Lanzi, P. L., Thong, N. T. (2012). A novel
intuitionistic fuzzy clustering method for geo-demographic analysis. Expert
Systems with Applications, 39(10), 9848 ậ 9859.
[40] Davis, L. D., De Jong, K., Vose, M. D., & Whitley, L. D. (Eds.).
(2012). Evolutionary algorithms (Vol. 111). Springer Science & Business Media.
[41] Son, L. H., Cuong, B. C., Long, H. V. (2013). Spatial interaction ậ
modification model and applications to geo-demographic analysis. KnowledgeBased Systems, 49, 152-170.
[42] Son, L. H., Lanzi, P. L., Cuong, B. C., Hung, H. A. (2012). Data
Mining in GIS: A Novel Context-Based Fuzzy Geographically Weighted
Clustering Algorithm. International Journal of Machine Learning and Computing,
2(3), 235 ậ 238.

[43] Son, L.H. (2014). Enhancing Clustering Quality of Geo-Demographic
Analysis Using Context Fuzzy Clustering Type-2 and Particle Swarm
Optimization. Applied Soft Computing, 22, 566 ậ 584.
[44] Son, L.H. (2014). HU-FCF: A Hybrid User-Based Fuzzy Collaborative
Filtering Method in Recommender Systems. Expert Systems With Applications,
41(15), 6861ậ 6870.
[45] Son, L.H. (2014). Optimizing Municipal Solid Waste Collection Using
Chaotic Particle Swarm Optimization in GIS Based Environments: A Case Study
at Danang City, Vietnam. Expert Systems With Applications, 41(18), 8062 ậ
8074.
[46] Son, L.H. (2015). A Novel Kernel Fuzzy Clustering Algorithm for
Geo-Demographic Analysis. Information Sciences, 317, 202ậ223.
13


[47] Son, L.H. (2015). Dealing with the New User Cold-Start Problem in
Recommender Systems: A Comparative Review. Information Systems. Doi:
10.1016/j.is.2014.10.001.
[48] Son, L.H. (2015). DPFCM: A Novel Distributed Picture Fuzzy
Clustering Method on Picture Fuzzy Sets. Expert Systems With Applications,
42(1), 51-66.
[49] Son, L.H. (2015). HU-FCF++: A Novel Hybrid Method for the New
User Cold-Start Problem in Recommender Systems. Engineering Applications of
Artificial Intelligence, 41, 207-222.
[50] Son, L.H., Linh, N.D., Long, H.V. (2014). A Lossless DEM
Compression for Fast Retrieval Method Using Fuzzy Clustering and MANFIS
Neural Network. Engineering Applications of Artificial Intelligence, 29, 33ậ42.
[51] Son, L.H., Thong, N.T. (2015). Intuitionistic Fuzzy Recommender
Systems: An

]Effective Tool for Medical Diagnosis. Knowledge-Based

Systems, 74, 133ậ150.
[52] Thong, N.T., Son, L.H. (2015). HIFCF: An Effective Hybrid Model
between Picture Fuzzy Clustering and Intuitionistic Fuzzy Recommender
Systems for Medical Diagnosis. Expert Systems With Applications, 42(7), 3682ậ
3701.
[53] Thong, P.H., Son, L.H. (2014). A new approach to multi-variables
fuzzy forecasting using picture fuzzy clustering and picture fuzzy rules
interpolation method. Proceeding of 6th International Conference on Knowledge
and Systems Engineering, 679-690.
[54] Thong, P.H., Son, L.H. (2015). Picture Fuzzy Clustering: A New
Computational Intelligence Method. Soft Computing. Doi: 10.1007/s00500-0151712-7.
[55] Wang, J., Chung, F. L., Wang, S., & Deng, Z. (2014). Double indicesinduced

FCM

clustering

and

its

integration

with

clustering. Pattern Analysis and Applications, 17(3), 549-566.
14

fuzzy

subspace


[56] Antariksha Bhaduri. ắA Clonal Selection Based Shuffled Frog Leaping
Algorithm”. IEEE International Advance Computing Conference (IACC), Patiala,
India. 2009.
[57] SN Sivanandam, SN Deepa. ắIntroduction to Genetic Algorithms”.
Springer- Verlag, Berlin, Heidelberg. 2008.
[58] H Omranpour, et al. ắDynamic Particle Swarm Optimization for
Multimodal Function”. International Journal of Artificial Intelligence (IJ-AI),
ISSN: 2252-8938. 2012; 1(1).
[59] Zhicheng Dong, Wei Xiao & Xiping Zhang. ắArtificial Fish Swarm
Algorithm-Assisted and Receive-Diversity Aided Multi-user Detection for MCCDMA Systems”. Jurnal Computer and Information Science. 2009.
[60] Huadong Chen, Shuzong Wang, Jingxi Li, Yunfan Li. ắA Hybrid of
Artificial Fish Swarm Algorithm and Particle Swarm Optimization for
Feedforward Neural Network Training”. IEEE. 2009.
[61] L Kaper, E Heuvel, P Woudt, R Giacconi. ắBlack hole research past
and future”. in: Black Holes in Binaries and Galactic Nuclei: Diagnostics,
Demography and Formation, Springer, Berlin/Heidelberg, 2001: 3-15.
[62] Schutz, Bernard F. Gravity from the ground up. Cambridge University
Press, ISBN 0-521-45506-5. 2003.
[63] Davies PCW. ắThermodynamics of Black Holes”. Reports on Progress
in Physics , Rep. Prog. Phys., Printed in Great Britain. 1978; 41.
[64] Heusler M. ắStationary Black Holes: Uniqueness and Beyond”. Living
Reviews in Relativity Retrieved. 2011.
[65] Isaac Newton. ắIn [experimental] philosophy particular propositions
are inferred from the phenomena and afterwards rendered general by induction”.
General Scholium, Andrew Motte's English translation published. 2010.

[66] Isaac Newton. ắThe Principia: Mathematical Principles of Natural
Philosophy”. Cambridge University Press. 2010.

15


[67]

Robert

S

Elliott.

ắElectromagnetics,

History,

Theory,

and

Applications”. ISBN 978-0-7803-5384-8. 1999. [13] Hawking SW. ắBlack hole
explosions?”. Nature Bibcode, Natur. 1974.
[68] Junqi Zhang, Kun Liu, Ying Tan, and Xingui He. ắRandom Black
Hole Particle Swarm Optimization And Its Application”. IEEE Int. Conference
Neural Networks & Signal Processing Zhenjiang, China. 2008.
[69] Abdolreza Hatamlou. ắBlack hole: A new heuristic optimization
approach for data clustering”. Information Sciences, Elsevier. 2013; 222: 175ậ
184.

16