Ứng dụng thuật toán tối ưu tiến hóa lai trong phân tích nhu cầu khách hàng (Tóm tắt trích đoạn)

ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ

NGUYỄN VĂN NGÀ

ỨNG DỤNG THUẬT TOÁN TỐI ƢU TIẾN HÓA LAI
TRONG PHÂN TÍCH NHU CẦU KHÁCH HÀNG

LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN

HÀ NỘI - 2016


ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ

NGUYỄN VĂN NGÀ

ỨNG DỤNG THUẬT TOÁN TỐI ƢU TIẾN HÓA LAI
TRONG PHÂN TÍCH NHU CẦU KHÁCH HÀNG

LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN
Ngành: Công nghệ thông tin
Chuyên ngành: Truyền dữ liệu và mạng máy tính
Mã số: Chuyên ngành thí điểm
NGƢỜI HƢỚNG DẪN KHOA HỌC: TS. Lê Hoàng Sơn

HÀ NỘI - 2016


MỤC LỤC

MỤC LỤC ............................................................................................................... 1
DANH SÁCH CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT ........................................... 2
DANH MỤC HÌNH VẼ ........................................ Error! Bookmark not defined.
LỜI CAM ĐOAN.................................................. Error! Bookmark not defined.
LỜI CẢM ƠN ......................................................................................................... 3
MỞ ĐẦU ................................................................................................................ 4
CHƢƠNG I. TỔNG QUAN TỐI ƢU TIẾN HÓA VÀ BÀI TOÁN PHÂN
CỤM MỜ................................................................................................................ 7
1.1Tối ƣu tiến hóa .................................................................................................. 7
1.1.1. Thuật toán lập trình tiến hóa ..................................................................... 9
1.1.2. Chiến lƣợc tiến hóa ................................. Error! Bookmark not defined.
1.1.3. Thuật toán di truyền ................................ Error! Bookmark not defined.
1.1.4. Lập trình di truyền ................................... Error! Bookmark not defined.
1.1.5. Tiến hóa vi phân ...................................... Error! Bookmark not defined.
1.1.6. Thuật toán văn hóa. ................................. Error! Bookmark not defined.
1.2. Bài toán phân cụm mờ ................................. Error! Bookmark not defined.
1.2.1. Khái quát phân cụm ................................ Error! Bookmark not defined.
1.2.2. Độ đo ....................................................... Error! Bookmark not defined.
1.2.3. Các thuật toán phân cụm tiêu biểu .......... Error! Bookmark not defined.
1.2.4. Thuật toán phân cụm mờ ......................... Error! Bookmark not defined.
1.3. Kết luận chƣơng ........................................... Error! Bookmark not defined.
CHƢƠNG 2. THIẾT KẾ THUẬT TOÁN TỐI ƢU TIẾN HÓA LAI
CHO PHÂN CỤM MỜ ....................................... Error! Bookmark not defined.
2.1. Thuật toán Black Hole ................................. Error! Bookmark not defined.
2.1.1. Khái quát ................................................. Error! Bookmark not defined.
2.1.2. Mô tả thuật toán....................................... Error! Bookmark not defined.
2.1.3. Cài đặt thuật toán .................................... Error! Bookmark not defined.
2.1.4. Ƣu điểm ................................................... Error! Bookmark not defined.
1

2.2. Thuật toán Harmony Search....................... Error! Bookmark not defined.
2.2.1. Khái quát ................................................. Error! Bookmark not defined.
2.2.2. Mô tả thuật toán....................................... Error! Bookmark not defined.
2.2.3. Cài đặt thuật toán .................................... Error! Bookmark not defined.
2.2.4. Nhƣợc điểm ............................................. Error! Bookmark not defined.
2.3. Thuật toán tối ƣu tiến hóa lai BHHS.......... Error! Bookmark not defined.
2.3.1. Ý tƣởng.................................................... Error! Bookmark not defined.
2.3.2. Mô tả thuật toán....................................... Error! Bookmark not defined.
2.3.3. Cài đặt thuật toán .................................... Error! Bookmark not defined.

2.4. Đánh giá ƣu, nhƣợc điểm của thuật toán lai ghép BHHSError! Bookmark not def
2.4.1. Ƣu điểm ................................................... Error! Bookmark not defined.
2.4.2. Nhƣợc điểm ............................................. Error! Bookmark not defined.
2.5. Kết luận chƣơng ........................................... Error! Bookmark not defined.
CHƢƠNG 3.

XÂY DỰNG ỨNG DỤNG PHÂN TÍCH NHU CẦU

KHÁCH HÀNG ................................................... Error! Bookmark not defined.
3.1. Mô tả yêu cầu ................................................ Error! Bookmark not defined.
3.2. Dữ liệu thực nghiệm ..................................... Error! Bookmark not defined.
3.3. Thiết kế hệ thống. ......................................... Error! Bookmark not defined.
3.4. Cài đặt thuật toán BHHS ............................ Error! Bookmark not defined.

3.5. Kết quả thực nghiệm thuật toán và demo chƣơng trìnhError! Bookmark not defin
3.6. Kết luận chƣơng ........................................... Error! Bookmark not defined.
KẾT LUẬN .......................................................... Error! Bookmark not defined.
HƢỚNG PHÁT TRIỂN ...................................... Error! Bookmark not defined.

PHỤ LỤC ............................................................. Error! Bookmark not defined.
TÀI LIỆU THAM KHẢO .................................................................................. 10

2


LỜI CẢM ƠN
Em xin bày tỏ lòng biết ơn chân thành và sâu sắc đến Tiến sĩ Lê Hoàng Sơn,
Trung tâm Tính toán Hiệu năng cao - Trƣờng Đại học Khoa học tự nhiên, thầy đã
dành nhiều thời gian tận tình chỉ bảo, hƣớng dẫn em trong suốt quá trình tìm hiểu,
triển khai và nghiên cứu đề tài. Thầy là ngƣời đã định hƣớng và đƣa ra nhiều góp
ý quý báu trong quá trình em thực hiện luận văn này.
Em xin chân thành cảm ơn chân thành tới toàn thể các thầy cô giáo trong
khoa Công nghệ thông tin, Trƣờng Đại học Công nghệ Hà Nội, Đại học Quốc gia
Hà Nội đã dạy bảo tận tình, trang bị cho em những kiến thức quý báu, bổ ích và
tạo điều kiện thuận lợi trong suốt quá trình em học tập và nghiên cứu tại trƣờng.
Em cũng xin đƣợc gửi lời cảm ơn tới các thầy cô, các anh chị và các bạn
trong Trung tâm Tính toán Hiệu năng cao - Trƣờng Đại học Khoa học tự nhiên đã
giúp đỡ em trong suốt thời gian làm luận văn này.
Em cũng xin chân thành cảm ơn tới gia đình, bạn bè, đồng nghiệp đã luôn
bên em cổ vũ, động viên, giúp đỡ em trong suốt quá trình học tập và thực hiện
luận văn.
Do có nhiều hạn chế về thời gian và kiến thức nên luận văn không tránh khỏi
những thiếu sót, rất mong nhận đƣợc những ý kiến đóng góp quý báu của quý
thầy cô và các bạn cùng quan tâm.
Luận văn đƣợc thực hiện dƣới sự tài trợ của đề tài nghiên cứu cơ bản mã số:
102.05-2014.01 của Quỹ phát triển khoa học và công nghệ quốc gia
(NAFOSTED).
Cuối cùng em xin gửi lời chúc sức khỏe và thành đạt tới tất cả quý thầy
cô, quý đồng nghiệp cùng toàn thể gia đình và bạn bè.

Xin chân thành cảm ơn!

3


MỞ ĐẦU
1. Đặt vấn đề
Ngày nay, công nghệ thông tin có nhiều chuyển biến mạnh mẽ, cả về số
lƣợng và chất lƣợng trên cả hai lĩnh vực phần cứng và phần mềm, điều đó đã tác
động lớn đến sự phát triển của xã hội. Sự bùng nổ thông tin đã đem đến lƣợng dữ
liệu khổng lồ cho nhân loại, do đó đòi hỏi con ngƣời phải biết khai thác dữ liệu và
xử lý thông tin phục vụ cho mục đích của mình.
Một trong những kỹ thuật quan trọng trong quá trình khai phá dữ liệu và xử
lý dữ liệu lớn là kỹ thuật phân cụm dữ liệu. Phân cụm đặc biệt hiệu quả khi ta
không biết về thông tin của các cụm, hoặc khi ta quan tâm tới những thuộc tính
của cụm mà chƣa biết hoặc biết rất ít về những thông tin đó. Phân cụm đƣợc coi
nhƣ một công cụ độc lập để xem xét phân bố dữ liệu, làm bƣớc tiền xử lý cho các
thuật toán khác. Việc phân cụm dữ liệu có rất nhiều ứng dụng nhƣ trong lập quy
hoạch đô thị, nghiên cứu trái đất, địa lý, khai phá Web v.v.
Trong kinh doanh, yếu tố khách hàng quyết định đến sự thành bại của
doanh nghiệp. Khi thông tin đang trở thành yếu tố quyết định trong kinh doanh thì
vấn đề tìm ra các thông tin hữu ích trong các cơ sở dữ liệu khổng lồ ngày càng trở
thành mục tiêu quan trọng của các doanh nghiệp. Khai phá dữ liệu là một những
hƣớng nghiên cứu phổ biến về việc tổ chức các kho dữ liệu và kho thông tin. Đã
có nhiều nghiên cứu trong và ngoài nƣớc quan tâm tới việc hình thành luật từ dữ
liệu không chỉ đƣợc thực hiện trong các phƣơng pháp của khai phá dữ liệu nói
chung mà còn đƣợc xây dựng trên lý thuyết cụm mờ. Phân cụm mờ là công cụ
hữu hiệu trong các bài toán khai phá dữ liệu, phân tích khách hàng. Thuật toán
phân cụm mờ là một phƣơng pháp thƣờng đƣợc sử dụng trong nhận dạng mẫu và
cho kết quả mô hình tốt trong nhiều trƣờng hợp. Tuy nhiên, điểm yếu của phân

cụm mờ là nghiệm tối ƣu là cực trị địa phƣơng. Do vậy, xu hƣớng là sử dụng các

4


thuật toán tối thiểu tối ƣu tiến hóa cho phân cụm mờ để tìm ra nghiệm tối ƣu toàn
cục, nâng cao chất lƣợng phân cụm.
Tối ƣu hóa, đƣợc khởi nguồn nhƣ một ngành của Toán học, có rất nhiều
ứng dụng rộng rãi trong quy hoạch tài nguyên, thiết kế chế tạo máy, điều khiển tự
động, quản trị kinh doanh, kiến trúc đô thị, công nghệ thông tin, trong việc tạo
nên các hệ hỗ trợ ra quyết định trong quản lý và phát triển các hệ thống lớn.
Chính vì vậy, các lĩnh vực của tối ƣu hóa ngày càng trở nên đa dạng. Trong thực
tế, việc tìm giải pháp tối ƣu cho một vấn đề nào đó chiếm một vai trò hết sức
quan trọng. Phƣơng án tối ƣu là phƣơng án hợp lý nhất, tốt nhất, tiết kiệm chi phí,
tài nguyên, nguồn lực mà lại đem lại hiệu quả. Có rất nhiều thuật toán đã và đang
đƣợc sử dụng để tối ƣu hóa. Một trong những bƣớc phát triển trong lĩnh vực này
đặc biệt phải kể đến là thuật toán tối ƣu tiến hóa.
2. Mục đích của luận văn
Luận văn sẽ trình bày về một phƣơng pháp tối ƣu cho phân cụm mờ, cụ thể
là thuật toán lai ghép giữa Black Hole và Harmony Search. Thuật toán này sẽ
đƣợc áp dụng cho bài toán phân tích nhu cầu khách hàng – là mục tiêu quan trọng
của bất kỳ doanh nghiệp nào trong việc xác định các khách hàng tiềm năng, nhu
cầu của nhóm khách hàng, mức độ hài lòng về sản phẩm và dịch vụ. Từ đó hỗ trợ
doanh nghiệp đƣa ra quyết định trong chiến lƣợc kinh doanh trong tƣơng lai dựa
vào kết quả của quá trình phân tích khách hàng tiềm năng, nhu cầu của nhóm
khách hàng và mức độ hài lòng về sản phẩm và dịch vụ của doanh nghiệp.
Một cơ sở dữ liệu mẫu về thống kê doanh số bán hàng của một công ty
kinh doanh thiết bị y tế cho khoảng 500 bệnh viện [6] đƣợc sử dụng để làm đầu
vào cho hệ thống phân tích nhu cầu khách hàng có cài đặt các thuật toán ở trên.
Qua đây, tính hiệu quả của các thuật toán tối ƣu tiến hóa cho bài toán phân cụm

mờ theo các tiêu chí về chất lƣợng và thời gian tính toán đƣợc làm rõ đồng thời
phác họa chi tiết về các chức năng chính của bài toán phân tích nhu cầu khách
hàng.

5


3. Bố cục của luận văn
Luận văn gồm 3 chƣơng, có phần mở đầu, phần kết luận, phần mục lục,
phần tài liệu tham khảo. Các nội dung cơ bản của luận văn đƣợc trình bày theo
cấu trúc nhƣ sau:
Chƣơng 1. Tổng quan tối ƣu tiến hóa và bài toán phân cụm mờ
Trong chƣơng này, luận văn sẽ trình bày tổng quan về tối ƣu tiến hóa, thuật
toán lập trình tiến hóa (EP), chiến lƣợc tiến hóa, thuật toán di truyền với thuật giải
GA, lập trình di truyền, tiến hóa vi phân với thuật toán DE và thuật toán văn hóa.
Từ các thuật toán tối ƣu tiến hóa, luận văn sẽ trình bày trình bày về khái niệm tập
mờ, phân cụm mờ, thuật toán phân cụm mờ và thuật toán kinh điển FCM. Từ cơ
sở đó kế thừa, dẫn chứng, phân tích hai thuật toán Black Hole và Hamorny Search
để thiết kế một thuật toán lai khác tối ƣu cho phân cụm mờ.
Chƣơng 2. Thiết kế thuật toán tối ƣu tiến hóa lai cho phân cụm mờ
Trong chƣơng này, tác giả giới thiệu hai thuật toán tối ƣu tìm kiếm đó là
thuật toán Back Hole (BH) của John Wheeler, để mô tả hiện tƣợng của một khối
sụp đổ với ý tƣởng lực hút tƣơng tác trong vũ trụ của các vật thể và Hamorny
Search (HS) với ý tƣởng tối ƣu thuật giải nhƣ ngƣời nhạc công chơi một bản nhạc
tuyệt vời. Từ đó kết hợp 2 thuật toán lại thành thuật toán khác để tối ƣu tiến hóa
trong không gian tìm kiếm đó là thuật toán lai ghép BHHS. Các nhận xét, đánh
giá ƣu, nhƣợc điểm của 3 thuật toán trên cũng đƣợc nhắc đến trong chƣơng này.
Chƣơng 3. Xây dựng ứng dụng phân tích nhu cầu khách hàng
Trong chƣơng này, tác giả cài đặt thuật toán lai ghép BHHS và xây dựng
phần mềm phân tích nhu cầu của khách hàng để giúp công ty sản xuất kinh doanh

có những quyết định sản xuất, lựa chọn sản phẩm tốt nhất phù hợp với các quyết
sách của đơn vị mình.
6


CHƢƠNG I. TỔNG QUAN TỐI ƢU TIẾN HÓA VÀ BÀI TOÁN
PHÂN CỤM MỜ

1.1 Tối ƣu tiến hóa
Tối ƣu hóa đƣợc khởi nguồn nhƣ một ngành của Toán học, có rất nhiều
ứng dụng rộng rãi trong quy hoạch tài nguyên, thiết kế chế tạo máy, điều khiển tự
động, quản trị kinh doanh, kiến trúc đô thị, công nghệ thông tin, trong việc tạo
nên các hệ hỗ trợ ra quyết định trong quản lý và phát triển các hệ thống lớn.
Chính vì vậy, các lĩnh vực của tối ƣu hóa ngày càng trở nên đa dạng. Trong thực
tế, việc tìm giải pháp tối ƣu cho một vấn đề nào đó chiếm một vai trò hết sức
quan trọng. Phƣơng án tối ƣu là phƣơng án hợp lý nhất, tốt nhất, tiết kiệm chi phí,
tài nguyên, nguồn lực mà lại đem lại hiệu quả. Có rất nhiều thuật toán đã và đang
đƣợc sử dụng để tối ƣu hóa. Một trong những bƣớc phát triển trong lĩnh vực này
đặc biệt phải kể đến là thuật toán tối ƣu tiến hóa [1]
Từ khi trái đất đƣợc hình thành, mọi sự sống trên trái đất trải qua hàng triệu
triệu năm đều đã và đang tiếp tục tiến hóa và phát triển để thích nghi với điều
kiện, môi trƣờng sống. Chúng phát triển, thay đổi liên tục để sinh tồn. Những cá
thể nào yếu và không thích nghi đƣợc thì sẽ bị chết hoặc không phát triển, những
cá thể thích nghi với môi trƣờng sống sẽ phát triển mạnh mẽ để tiếp tục sinh tồn,
duy trì và phát triển giống nòi [2].
Trong sinh học, tiến hóa là quá trình mà qua đó các sinh vật nhận đƣợc và
truyền lại các đặc tính từ thế hệ này sang thế hệ khác (lai tạo). Việc diễn ra trong
một thời gian rất dài của nó giải thích nguồn gốc của các loài mới và sự đa dạng
của sinh vật. Các loài cùng nhau liên quan đến nhau bởi cùng gốc, sản phẩm của
sự tiến hóa và sự hình thành loài qua hàng tỉ năm.

7


Và từ quy luật sự sống các loài ở trên, ngƣời ta có những ý tƣởng về tính
toán tiến hóa (EC). Tính toán tiến hóa là mô phỏng của quá trình chọn lọc tự
nhiên trong quá trình (thủ tục) tìm kiếm. Trong tự nhiên, các sinh vật có đặc trƣng
nhất định tác động đến sự sống và sinh sản của chúng. Những đặc trƣng này đƣợc
mã hóa thành những thông tin trên các nhiễm sắc thể. Nhiễm sắc thể con mới,
đƣợc tạo ra bằng cách ghép đôi và sinh sản. Kết quả cuối cùng có đƣợc nhiễm sắc
thể con có chứa đặc tính tốt nhất từ nhiễm sắc thể của bố mẹ cho phép chúng sống
sót trong môi trƣờng không thuận lợi. Với quá trình chọn lọc tự nhiên chắc chắn
những cá thể tốt sẽ có cơ hội đƣợc kết hợp với nhau, cho ra những con tƣơng ứng
hoặc có thể tốt hơn.
Trong tự nhiên sự tiến hóa là một quá trình không điều khiển, các sinh vật
tốt hơn sẽ thích nghi nhiều hơn với môi trƣờng, sinh vật sống sót sẽ sinh sản, phát
triển… Đó là quá trình chọn lọc và tiến hóa tự nhiên.
Các phép sử dụng trong EC bao gồm: Phép lai ghép, phép đột biến và phép
chọn lọc. Các phép này có thể kết hợp với nhau trong một mô hình tiến hóa
Tính toán tiến hóa là kỹ thuật tính toán dựa trên nguyên lý tiến hóa của quá
trình chọn lọc tự nhiên trong thuyết tiến hóa của Darwin. Các kỹ thuật tiến hóa
bao gồm: Chiến lƣợc tiến hóa, lập trình tiến hóa, thuật giải di truyền và lập trình
di truyền.
Định nghĩa tính toán tiến hóa:
Thuật toán mô phỏng [4] một hàm f : V  R , trong đó V là không gian tìm
kiếm, f đƣợc gọi là hàm thích nghi chứa đựng các thông tin đặc trƣng cho bài
toán. Mỗi vòng lặp của tính toán tiến hóa có thể định nghĩa bởi công thức:
vi 1    vi , f  vi  

(1.1)

Trong đó:  :V  R  V là một hàm tạo ra một vector mới, nghĩa là một quần
thể mới vi 1 từ quần thể cũ vi ,  thƣờng đƣợc xác định bởi dạng tính toán đang
sử dụng, cách chọn quần thể mới từ quần thể cũ và các con mới sinh ra cùng.

8


Tính toán tiến hóa nhƣ là một khái niệm chung cho giải quyết bài toán, đặc
biệt đối với bài toán tối ƣu hóa và áp dụng các thuật toán tiến hóa đã giải quyết
đƣợc các bài toán tối ƣu khó. Ngày nay thuật toán trên thu hút rất nhiều nhà
nghiên cứu tham gia nghiên cứu.
Các khái niệm liên quan:
- Biểu diễn cá thể: Mỗi cá thể biểu diễn trong thuật giải di truyền tƣơng ứng
với một giải pháp của bài toán.
- Đánh giá độ thích nghi: Độ thích nghi là khả năng phù hợp của mỗi cá thể
hay mỗi giải pháp đối với môi trƣờng, môi trƣờng tƣơng ứng với bai toán đang
cần giải quyết. Xây dựng độ thích nghi cũng là một bƣớc quan trọng trong thuật
toán di truyền. Để đánh giá đƣợc độ thích nghi của các cá thể giải thuật di truyền
sử dụng một hàm đo dộ thích nghi.
- Lai ghép: Là quá trình tạo ra các cá thể mới dựa trên nhiều cá thể đã có, gọi
là cá thể cha - mẹ. Hai cá thể con đƣợc
- Đột biến: Là quá trình tạo ra cá thể mới từ một cá thể ban đầu bằng cách
thay đổi một số gen của nó.
- Chọn lọc và thay thế: Chọn lọc và thay thế là quá trình chọn những cá thể
từ quần thể hiện tại để tạo ra thế hệ sau của nó. Trong quá trình này diễn ra sự đào
thải những cá thể yếu, chỉ giữ lại những cá thể tốt. Những cá thể có độ thích nghi
lớn hơn hoặc bằng với độ thích nghi tiêu chuẩn sẽ đƣợc giữ lại và độ thích nghi
của cá cá thể trong quần thể sẽ tốt hơn sau nhiều thế hệ.
- Điều kiện dừng: Thuật toán di truyền là một quá trình ngẫu nhiên, nên

không thể đảm bảo chắc chắn thuật toán sẽ dừng sau hữu hạn bƣớc. Vì vậy, để
đảm bảo thuật toán di truyền kết thúc, ngƣời dùng thƣờng phải định nghĩa điều
kiện dừng cho thuật toán di truyền.
1.1.1. Thuật toán lập trình tiến hóa (EP)

9


TÀI LIỆU THAM KHẢO
[1] />[2] Siddique, N., & Adeli, H. (2013). Computational intelligence: synergies
of fuzzy logic, neural networks and evolutionary computing. John Wiley & Sons.
[3] Pedrycz, W., Rai, P. (2008), Collaborative clustering with the use of
Fuzzy C-Means and its quantification, Fuzzy Sets and Systems, 159(18), 23992427.
[4] Angeline, P. J. (1995). Adaptive and self-adaptive evolutionary
computations. In Computational intelligence: a dynamic systems perspective.
[5] Davis, L. D., De Jong, K., Vose, M. D., & Whitley, L. D. (Eds.).
(2012). Evolutionary algorithms (Vol. 111). Springer Science & Business Media.
[6] />[7] Differential Evolution – A Simple and Efficient Heuristic for Global
Optimization over Continuous Spaces.
[8] />[9] Al-Sultan, K. S., & Selim, S. Z. (1993). A global algorithm for the
fuzzy clustering problem. Pattern Recognition, 26(9), 1357-1361.
[10] Bezdek, J. C., et al. (1984). FCM: the fuzzy c-means clustering
algorithm. Computers & Geosciences, 10, 191-203.
[11] Ming-Yang Su, Kun-Lin Chiang, Wei-Cheng Liao “ Mitigation of
Black-Hole Nodes in Mobile Ad Hoc Networks” in International Symposium on
Parallel and Distributed Processing with Applications 2010 IEEE
[12] X.-S. Yang, “Harmony Search as a Metaheuristic Algorithm”, in:
Music-Inspired Harmony Search Algorithm: Theory and Applications (Editor Z.
W. Geem), Studies in Computational Intelligence, Springer Berlin, vol. 191, pp.
1-14 (2009)

[14] />
10


[15]

Attea, B. A. A. (2010). A fuzzy multi-objective particle swarm

optimization for effective data clustering. Memetic Computing, 2(4), 305-312.
[16] Belacel, N., Hansen, P., & Mladenovic, N. (2002). Fuzzy J-means: a
new heuristic for fuzzy clustering. Pattern Recognition, 35(10), 2193-2200.
[17] Benati, S. (2008). Categorical data fuzzy clustering: an analysis of
local search heuristics. Computers & Operations Research, 35(3), 766-775.
[18] Cuong, B.C., Son, L.H., Chau, H.T.M. (2010). Some Context Fuzzy
Clustering Methods for Classification Problems. Proceedings of the 2010
[19] Hansen, P., & Mladenović, N. (2001). Variable neighborhood search:
Principles and applications. European journal of operational research, 130(3),
449-467.
[20] Dunn, J. C. (1973). A fuzzy relative of the ISODATA process and its
use in detecting compact well-separated clusters. Journal of Cybernetics, 3(3), 3257.
[21] Geem, Z. W. (2009). Music-inspired harmony search algorithm:
theory and applications. Springer Science & Business Media.
[22] Geem, Z. W., Kim, J. H., & Loganathan, G.V. (2001). A new heuristic
optimization algorithm: harmony search. Simulation, 76(2), 60-68.
[23] Gholami, A. A., Ayanzadeh, R., & Raisi, E. (2014). Fuzzy Honey
Bees

Foraging

Optimization:

Swarm

Intelligence

Approach

for

Clustering. Journal of Artificial Intelligence, 7(1).
[24] Hall, L. O., Ozyurt, I. B., & Bezdek, J. C. (1999). Clustering with a
genetically

optimized

approach. IEEE

Transactions

on

Evolutionary

Computation, 3(2), 103-112.
[25] Hatamlou, A. (2013). Black hole: A new heuristic optimization
approach for data clustering. Information Sciences, 222, 175-184.
[26] Izakian, H., & Abraham, A. (2011). Fuzzy C-means and fuzzy swarm
for fuzzy clustering problem. Expert Systems with Applications, 38(3), 18351838.
11

[27] Izakian, H., Abraham, A., & Snasel, V. (2009). Fuzzy clustering using
hybrid fuzzy c-means and fuzzy particle swarm optimization. IEEE World
Congress on Nature & Biologically Inspired Computing, 1690-1694.
[28] Khan, K., Sahai, A., & Campus, A. (2012). A fuzzy c-means bi-sonarbased metaheuristic optomization algorithm. IJIMAI, 1(7), 26-32.
[29] Le, T., Altman, T., & Gardiner, K. J. (2012). A fuzzy clustering
method using Genetic Algorithm and Fuzzy Subtractive Clustering. Intl'Conf. on
Information and Knowledge Engineering, 426-432.
[30] Li, C., Zhou, J., Kou, P., & Xiao, J. (2012). A novel chaotic particle
swarm optimization based fuzzy clustering algorithm. Neurocomputing, 83, 98109.
[31] Liu, W., & Jiang, L. (2010). A clustering algorithm FCM-ACO for
supplier base management. In: Advanced Data Mining and Applications, Springer
Berlin Heidelberg, pp. 106-113.
[32] Liu, Y., Yi, Z., Wu, H., Ye, M., & Chen, K. (2008). A tabu search
approach for the minimum sum-of-squares clustering problem. Information
Sciences, 178(12), 2680-2704.
[33] Omran, M. G., Salman, A., & Engelbrecht, A. P. (2006). Dynamic
clustering using particle swarm optimization with application in image
segmentation. Pattern Analysis and Applications, 8(4), 332-344.
[34] Ozturk, C., Hancer, E., & Karaboga, D. (2014). Improved clustering
criterion for image clustering with artificial bee colony algorithm. Pattern
Analysis and Applications, 1-13.
[35] Pang, L., Xiao, K., Liang, A., & Guan, H. (2012). A improved
clustering analysis method based on fuzzy c-means algorithm by adding PSO
algorithm. In: Hybrid Artificial Intelligent Systems, Springer Berlin Heidelberg,
pp. 231-242.
[36] Pang, W., Wang, K. P., Zhou, C. G., & Dong, L. J. (2004). Fuzzy
discrete particle swarm optimization for solving traveling salesman problem. 4th
12

IEEE International Conference on Computer and Information Technology, 796800.
[37] Parvin, H., & Minaei-Bidgoli, B. (2015). A clustering ensemble
framework based on selection of fuzzy weighted clusters in a locally adaptive
clustering algorithm. Pattern Analysis and Applications, 18(1), 87-112.
[39] Son, L. H., Cuong, B. C., Lanzi, P. L., Thong, N. T. (2012). A novel
intuitionistic fuzzy clustering method for geo-demographic analysis. Expert
Systems with Applications, 39(10), 9848 – 9859.
[40] Davis, L. D., De Jong, K., Vose, M. D., & Whitley, L. D. (Eds.).
(2012). Evolutionary algorithms (Vol. 111). Springer Science & Business Media.
[41] Son, L. H., Cuong, B. C., Long, H. V. (2013). Spatial interaction –
modification model and applications to geo-demographic analysis. KnowledgeBased Systems, 49, 152-170.
[42] Son, L. H., Lanzi, P. L., Cuong, B. C., Hung, H. A. (2012). Data
Mining in GIS: A Novel Context-Based Fuzzy Geographically Weighted
Clustering Algorithm. International Journal of Machine Learning and Computing,
2(3), 235 – 238.
[43] Son, L.H. (2014). Enhancing Clustering Quality of Geo-Demographic
Analysis Using Context Fuzzy Clustering Type-2 and Particle Swarm
Optimization. Applied Soft Computing, 22, 566 – 584.
[44] Son, L.H. (2014). HU-FCF: A Hybrid User-Based Fuzzy Collaborative
Filtering Method in Recommender Systems. Expert Systems With Applications,
41(15), 6861– 6870.
[45] Son, L.H. (2014). Optimizing Municipal Solid Waste Collection Using
Chaotic Particle Swarm Optimization in GIS Based Environments: A Case Study
at Danang City, Vietnam. Expert Systems With Applications, 41(18), 8062 –
8074.
[46] Son, L.H. (2015). A Novel Kernel Fuzzy Clustering Algorithm for
Geo-Demographic Analysis. Information Sciences, 317, 202–223.
13

[47] Son, L.H. (2015). Dealing with the New User Cold-Start Problem in
Recommender Systems: A Comparative Review. Information Systems. Doi:
10.1016/j.is.2014.10.001.
[48] Son, L.H. (2015). DPFCM: A Novel Distributed Picture Fuzzy
Clustering Method on Picture Fuzzy Sets. Expert Systems With Applications,
42(1), 51-66.
[49] Son, L.H. (2015). HU-FCF++: A Novel Hybrid Method for the New
User Cold-Start Problem in Recommender Systems. Engineering Applications of
Artificial Intelligence, 41, 207-222.
[50] Son, L.H., Linh, N.D., Long, H.V. (2014). A Lossless DEM
Compression for Fast Retrieval Method Using Fuzzy Clustering and MANFIS
Neural Network. Engineering Applications of Artificial Intelligence, 29, 33–42.
[51] Son, L.H., Thong, N.T. (2015). Intuitionistic Fuzzy Recommender
Systems: An ƣ]Effective Tool for Medical Diagnosis. Knowledge-Based
Systems, 74, 133–150.
[52] Thong, N.T., Son, L.H. (2015). HIFCF: An Effective Hybrid Model
between Picture Fuzzy Clustering and Intuitionistic Fuzzy Recommender
Systems for Medical Diagnosis. Expert Systems With Applications, 42(7), 3682–
3701.
[53] Thong, P.H., Son, L.H. (2014). A new approach to multi-variables
fuzzy forecasting using picture fuzzy clustering and picture fuzzy rules
interpolation method. Proceeding of 6th International Conference on Knowledge
and Systems Engineering, 679-690.
[54] Thong, P.H., Son, L.H. (2015). Picture Fuzzy Clustering: A New
Computational Intelligence Method. Soft Computing. Doi: 10.1007/s00500-0151712-7.
[55] Wang, J., Chung, F. L., Wang, S., & Deng, Z. (2014). Double indicesinduced

FCM

clustering

and

its

integration

with

clustering. Pattern Analysis and Applications, 17(3), 549-566.
14

fuzzy

subspace


[56] Antariksha Bhaduri. “A Clonal Selection Based Shuffled Frog Leaping
Algorithm”. IEEE International Advance Computing Conference (IACC), Patiala,
India. 2009.
[57] SN Sivanandam, SN Deepa. “Introduction to Genetic Algorithms”.
Springer- Verlag, Berlin, Heidelberg. 2008.
[58] H Omranpour, et al. “Dynamic Particle Swarm Optimization for
Multimodal Function”. International Journal of Artificial Intelligence (IJ-AI),
ISSN: 2252-8938. 2012; 1(1).
[59] Zhicheng Dong, Wei Xiao & Xiping Zhang. “Artificial Fish Swarm
Algorithm-Assisted and Receive-Diversity Aided Multi-user Detection for MCCDMA Systems”. Jurnal Computer and Information Science. 2009.
[60] Huadong Chen, Shuzong Wang, Jingxi Li, Yunfan Li. “A Hybrid of
Artificial Fish Swarm Algorithm and Particle Swarm Optimization for

Feedforward Neural Network Training”. IEEE. 2009.
[61] L Kaper, E Heuvel, P Woudt, R Giacconi. “Black hole research past
and future”. in: Black Holes in Binaries and Galactic Nuclei: Diagnostics,
Demography and Formation, Springer, Berlin/Heidelberg, 2001: 3-15.
[62] Schutz, Bernard F. Gravity from the ground up. Cambridge University
Press, ISBN 0-521-45506-5. 2003.
[63] Davies PCW. “Thermodynamics of Black Holes”. Reports on Progress
in Physics , Rep. Prog. Phys., Printed in Great Britain. 1978; 41.
[64] Heusler M. “Stationary Black Holes: Uniqueness and Beyond”. Living
Reviews in Relativity Retrieved. 2011.
[65] Isaac Newton. “In [experimental] philosophy particular propositions
are inferred from the phenomena and afterwards rendered general by induction”.
General Scholium, Andrew Motte's English translation published. 2010.
[66] Isaac Newton. “The Principia: Mathematical Principles of Natural
Philosophy”. Cambridge University Press. 2010.

15


[67]

Robert

S

Elliott.

“Electromagnetics,

History,

Theory,

and

Applications”. ISBN 978-0-7803-5384-8. 1999. [13] Hawking SW. “Black hole
explosions?”. Nature Bibcode, Natur. 1974.
[68] Junqi Zhang, Kun Liu, Ying Tan, and Xingui He. “Random Black
Hole Particle Swarm Optimization And Its Application”. IEEE Int. Conference
Neural Networks & Signal Processing Zhenjiang, China. 2008.
[69] Abdolreza Hatamlou. “Black hole: A new heuristic optimization
approach for data clustering”. Information Sciences, Elsevier. 2013; 222: 175–
184.

16