Nghiên cứu kỹ thuật cân bằng tải trong điện toán đám mây

1-i

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC QUỐC TẾ HỒNG BÀNG
---------------------------------------

VÕ VĂN KHANG
Tên đề tài luận văn:

NGHIÊN CỨU KỸ THUẬT CÂN BẰNG TẢI
TRONG ĐIỆN TOÁN ĐÁM MÂY
Chuyên ngành :

Khoa học máy tính

Mã số chuyên ngành :

60 48 01

LUẬN VĂN THẠC SỸ KHOA HỌC MÁY TÍNH
NGƯỜI HƯỚNG DẪN KHOA HỌC
TS. NGUYỄN HỒNG SƠN

TP.HỒ CHÍ MINH – NĂM 2014


1-ii

CHUẨN Y CỦA HỘI ĐỒNG BẢO VỆ LUẬN VĂN
Luận văn tựa đề: Nghiên Cứu Kỹ Thuật Cân Bằng Tải Trong Điện Toán
Đám Mây được Võ Văn Khang thực hiện và nộp nhằm thoả một trong các yêu cầu

tốt nghiệp Thạc sĩ ngành Khoa Học Máy Tính.

Chủ tịch Hội đồng

Giảng viên hướng dẫn

GS.TSKH HOÀNG VĂN KIẾM

TS. NGUYỄN HỒNG SƠN

Cố Vấn Hiệu Trưởng Trường Đại Học

Trưởng Khoa Công Nghệ Thông Tin

Quốc Tế Hồng Bàng

Học Viện Bưu Chính Viễn Thông
Cơ Sở TP.HCM

Ngày 22 tháng 09 năm 2014

Ngày 22 tháng 09 năm 2014

Ngày bảo vệ luận văn, Tp.HCM, Ngày 24 tháng 08 năm 2014
Viện Đào Tạo Sau Đại Học

……………………..


i

LÝ LỊCH CÁ NHÂN
Tôi tên là: Võ Văn Khang

Sinh ngày: 1982

Nơi Sinh: Long An

Tốt nghiệp THPT tại Trường THPT Vĩnh Hưng – Long An, năm 2000.
Quá trình công tác:
 Từ năm 2004 đến 2006 làm việc tại Trường dạy nghề ITEE – Tp.HCM.
 Từ năm 2006 đến nay làm việc tại Trường Trung Cấp Âu Việt – Tp.HCM.
Địa chỉ liên lạc : 331/38/37F Phan Huy Ích, P14, Q.Gò Vấp, Tp.HCM
Điện thoại : 0907.306.863 – 0963.038.079
Email :


ii

LỜI CAM ĐOAN
Tôi cam đoan rằng luận văn này : “Nghiên Cứu Kỹ Thuật Cân Bằng Tải Trong
Điện Toán Đám Mây“ là bài nghiên cứu của chính tôi.
Ngoại trừ những tài liệu tham khảo được trích dẫn trong luận văn này, tôi cam
đoan rằng toàn phần hay những phần nhỏ của luận văn này chưa từng được công bố
hay được sử dụng để nhận bằng cấp ở những nơi khác.
Không có sản phẩm nghiên cứu nào của người khác được sử dụng trong luận văn
này mà không được trích dẫn theo đúng quy định.
Luận văn này chưa bao giờ được nộp để nhận bất kỳ bằng cấp nào tại các trường
đại học hoặc cơ sở đào tạo khác.
Tp.HCM, ngày 08 tháng 07 năm 2014

Tác giả luận văn

Võ Văn Khang


iii

LỜI CẢM ƠN
Trong suốt quá trình học tập, nghiên cứu và thực hiện đề tài luận văn thạc
sĩ, ngoài những cố gắng và nỗ lực của bản thân, tôi đã nhận được sự hướng dẫn,
giúp đỡ quý báu của quý thầy cô, cùng với sự động viên, khích lệ và ủng hộ của các
đồng nghiệp, bạn bè và gia đình. Với lòng kính trọng và biết ơn sâu sắc tôi xin được
bày tỏ lời cảm ơn chân thành tới:
Ban giám hiệu, Viện đào tạo sau đại học, đã tạo mọi điều kiện thuận lợi giúp
đỡ tôi trong quá trình học tập và hoàn thành luận văn.
Tôi xin chân thành cảm ơn tiến sĩ Nguyễn Hồng Sơn, người thầy kính mến
đã hết lòng giúp đỡ, dạy bảo, động viên và tạo mọi điều kiện thuận lợi cho tôi trong
suốt quá trình học tập và hoàn thành luận văn tốt nghiệp. Tôi xin gửi lời tri ân đến
thầy, đối với những điều mà thầy đã dành cho tôi trong suốt thời gian qua.
Tôi xin chân thành biết ơn toàn thể quý thầy cô Khoa công nghệ thông tin,
Viện đào tạo sau đại học, Trường đại học quốc tế Hồng Bàng đ ã tận tình
truyền đạt những bài học cũng như những kiến thức quý báu trong quá trình học tập
và thực hiện đề tài này.
Xin chân thành cảm ơn quý thầy cô trong hội đồng chấm luận văn đã cho tôi
những đóng góp quý báu để hoàn chỉnh luận văn này.
Tôi xin bày tỏ lòng biết ơn đến lãnh đạo Trường Trung Cấp Âu Việt, đặc
biệt là anh em trong khoa CNTT và tất cả các đồng nghiệp đã hỗ trợ và tạo điều
kiện tốt nhất để tôi học tập và nghiên cứu đề tài một cách tốt nhất.
Tôi xin chân thành cảm ơn mọi người trong gia đình tôi, đã tạo điều kiện,
động viên khích lệ tôi trong những lúc khó khăn để tôi học tập và thực hiện đề tài.

Mặc dù đã cố gắng hết sức, song do thời gian và kinh nghiệm nghiên cứu
khoa học còn hạn chế nên không thể tránh khỏi những thiếu sót. Tôi rất mong nhận
được sự góp ý của quý thầy cô cùng bạn bè đồng nghiệp để kiến thức của mình
ngày một hoàn thiện hơn.
Tp.Hồ Chí Minh, tháng 7 năm 2014
Người thực hiện luận văn

Võ Văn Khang


iv

TÓM TẮT
Điện toán đám mây là xu hướng hội tụ của nhiều thành tựu về nghiên cứu
phát triển và ứng dụng công nghệ mới; các quan điểm về ứng dụng công nghệ thông
tin hiện nay trên thế giới. Tầm quan trọng của nó đã được nhấn mạnh trong một
báo cáo gần đây từ trường đại học Berkeley: “Điện toán đám mây, giấc mơ lâu
nay của máy tính như là một tiện ích có khả năng chuyển đổi một phần lớn ngành
công nghiệp công nghệ thông tin, làm mềm thậm chí còn hấp dẫn hơn như một
dịch vụ” [16].
Một kỹ thuật góp phần quan trọng giúp điện toán đám mây được triển khai
thành công đó là cân bằng tải. Nó giải quyết được các vấn đề về chiến lược phân
bổ, sự tận dụng tài nguyên tính toán một cách có hiệu quả. Khi nói đến cân bằng
tải người ta thường nghĩ đến làm thế nào phân phối khối lượng công việc giữa các
nút tính toán sau cho công bằng, ít gây ra sự lãng phí và tận dụng tài nguyên hiệu
quả nhất. Trong mô hình điện toán đám mây, thành phần Broker chịu trách nhiệm
trung gian đàm phán giữa nhà cung cấp SaaS và nhà cung cấp dịch vụ đám mây.
Nó đại diện cho nhà cung cấp SaaS tìm kiếm nhà cung cấp dịch vụ đám mây phù
hợp và đảm nhiệm đàm phán trực tuyến để cấp phát nguồn tài nguyên hay dịch vụ
có thể đáp ứng yêu cầu QoS của ứng dụng. Với vai trò điều phối, Broker thực hiện

các chiến lược cân bằng tải để phân phối yêu cầu xử lý của người dùng đến nguồn
tài nguyên tính toán sau cho có hiệu quả nhất. Nhằm nghiên cứu các kỹ thuật cân
bằng tải đang được áp dụng hiện nay trong điện toán đám mây, luận văn sẽ thực
hiện các thuật toán cân bằng tải tại thành phần Broker. Muốn làm được điều
này cần một môi trường có thể mô hình và mô phỏng đầy đủ các thành phần của
điện toán đám mây như là Datacenter, máy ảo, Broker và các chính sách cung cấp
nguồn tài nguyên. Để vượt qua thách thức đó tác giả nghiên cứu môi trường mô
hình và mô phỏng điện toán đám mây CloudSim để thực nghiệm. Dựa trên kết quả
đạt được tác giả sẽ phân tích, đánh giá hiệu quả của các thuật toán cân bằng tải
hiện nay; đồng thời phát hiện hạn chế từ đó có những đề xuất thuật toán cân bằng
tải cải tiến.


v

ABSTRACT
Cloud computing is the convergence of several trends achievements in
research, development and application of new technologies; views on the application
of information technology in the world today. Its importance was highlighted in a
recent report from the University of Berkeley: "Cloud computing, long-held dream
of the computer as a utility capable of converting a large part industry information
technology, soften even more attractive as a service "[16].
An important contribution to the technical help of cloud computing is that
success is implementing load balancing. It solves the problem of allocation
strategies, the advantage of the computing resources efficiently. When thinking
about load balancing people often think how to distribute the workload among the
compute nodes after the fair, cause less waste and make the most efficient use of
resources. In the cloud model, Broker component responsible mediated negotiations
between SaaS vendors and cloud service providers. It represents SaaS providers
looking for cloud service providers and undertake appropriate online negotiation to

allocate resources or services can meet the QoS requirements of the application.
With a coordinating role, Broker perform load balancing strategy for distributed
processing requirements of users to calculate the following resources for the most
effective. In order to study the load-balancing techniques are being applied today in
cloud computing, this Thesis will perform load balancing algorithms in Broker
components. To achieve this requires an environment that can model and simulate
the full range of components of cloud computing as Datacenter, VM, Broker and
provide policy resources. To overcome that challenge study author and
environmental simulation model cloud CloudSim to experiment. Based on the
results the author will analyze and evaluate the effectiveness of the load balancing
algorithm present; simultaneous detection thereby limiting the proposed load
balancing algorithm improvements.


vi

MỤC LỤC
TRANG PHỤ BÌA
LÝ LỊCH CÁ NHÂN ....................................................................................................... i
LỜI CAM ĐOAN ........................................................................................................... ii
LỜI CẢM ƠN............................................................................................................... iii
TÓM TẮT ...................................................................................................................... iv
ABSTRACT .................................................................................................................... v
MỤC LỤC ..................................................................................................................... vi
DANH SÁCH HÌNH VẼ ............................................................................................. ix
DANH SÁCH BẢNG ................................................................................................... xi
DANH MỤC CÁC THUẬT NGỮ, CHỮ VIẾT TẮT ............................................. xiii
CHƯƠNG 1: GIỚI THIỆU ......................................................................................... 1
1.1 Lý do chọn đề tài ........................................................................................................ 1
1.2 Công trình nghiên cứu gần đây về cân bằng tải điện toán đám mây ................. 3

1.2.1 Cải thiện thời gian đáp ứng: ............................................................................. 3
1.2.2 Vấn đề tiêu thụ năng lượng .............................................................................. 3
1.2.3 Vấn đề di trú máy ảo ......................................................................................... 4
1.3 Mục tiêu luận văn .................................................................................................... 4
1.4 Tổ chức luận văn ..................................................................................................... 4
CHƯƠNG 2: CÂN BẰNG TẢI TRONG ĐIỆN TOÁN ĐÁM MÂY................... 6
2.1 Tổng quan về điện toán đám mây ............................................................................. 6
2.2 Tổng quan về cân bằng tải trong điện toán đám mây ......................................... 7
2.2.1 Giới thiệu kỹ thuật cân bằng tải ....................................................................... 7
2.2.2 Mục đích cân bằng tải ....................................................................................... 8
2.2.3 Cân bằng tải trong điện toán đám mây ............................................................ 9
2.2.4 Đo lường cân bằng tải trong điện toán đám mây .......................................... 10
2.3 Các thuật toán cân bằng tải đang được ứng dụng hiện nay ............................. 11
2.3.1 Cân bằng tải tĩnh ............................................................................................. 13
2.3.2 Cân bằng tải động ........................................................................................... 14


vii
2.3.3 Vấn đề trong cân bằng tải động ...................................................................... 15
2.4 So sánh giữa kỹ thuật cân bằng tĩnh và cân bằng tải động[11] ........................ 16
2.4.1 Bản chất ........................................................................................................... 16
2.4.2 Liên quan phí tổn ............................................................................................ 16
2.4.3 Tận dụng tài nguyên ....................................................................................... 17
2.4.4 “Thrashing” hay tiến trình “Dumping” ........................................................ 17
2.4.5 Trạng thái “Woggling” ................................................................................... 17
2.4.6 Khả năng tiên đoán ......................................................................................... 18
2.4.7 Khả năng thích ứng ........................................................................................ 18
2.4.8 Độ tin cậy ......................................................................................................... 18
2.4.9 Thời gian đáp ứng ........................................................................................... 18
2.4.10 Khả năng ổn định .......................................................................................... 18

2.4.11 Liên quan sự phức tạp .................................................................................. 19
2.4.12 Chi phí phát triển........................................................................................... 19
2.5 Kết luận ................................................................................................................... 20
CHƯƠNG 3: CÁC THUẬT TOÁN CÂN BẰNG TẢI TIÊU BIỂU ..................... 21
3.1 Cân bằng tải trong điện toán đám mây ................................................................. 21
3.2 Thuật toán Round-Robin ....................................................................................... 22
3.3 Thuật toán Weighted Round-Robin....................................................................... 22
3.4 Thuật toán Active Monitoring Load Balancer ...................................................... 23
3.4.1 Mô tả thuật toán [7],[24] .................................................................................. 23
3.4.2 Thuật toán ......................................................................................................... 23
3.4.3 Đánh giá .......................................................................................................... 24
CHƯƠNG 4: DỀ XUẤT THUẬT TOÁN CÂN BẰNG TẢI CẢI TIẾN ............ 25
4.1 Giới thiệu ................................................................................................................. 25
4.2 Mô hình cân bằng tải trong điện toán đám mây ................................................ 29
4.3 Đề xuất thuật toán cải tiến ....................................................................................... 30
4.3.1 Ý tưởng cải tiến ................................................................................................ 30
4.3.2 Phân tích hệ thống .......................................................................................... 30
4.3.3 Cơ sở tính toán cho giải thuật cải tiến .............................................................. 35
4.3.4 Thiết kế thuật toán........................................................................................... 38


viii
4.3.5 Mô phỏng và đánh giá thuật toán cải tiến ........................................................ 40
4.4 Kết luận: ................................................................................................................. 68
CHƯƠNG 5: KẾT LUẬN VÀ KIẾN NGHỊ ......................................................... 69
DANH MỤC TÀI LIỆU THAM KHẢO ............................................................... 70
PHỤ LỤC .................................................................................................................... 73
GIỚI THIỆU VỀ THƯ VIỆN MÔ PHỎNG CLOUDSIM ..................................... 73
1. Giới thiệu ................................................................................................................. 73
2. Môi trường mô hình mô phỏng CloudSim............................................................ 73

2.1.

Những thuận lợi trong việc nghiên cứu CloudSim.......................................... 73

2.2.Mô hình hóa đám mây ....................................................................................... 74
2.3.Thiết kế và thực hiện của CloudSim ................................................................. 75
2.4.Framework lõi CloudSim ................................................................................... 78
2.5.Giao tiếp giữa các thực thể ................................................................................ 80


ix

DANH SÁCH HÌNH VẼ
Hình 2.1 Mô hình điện toán đám mây

7

Hình 2.2 Môi trường điện toán đám mây và cân bằng tải

9

Hình 2.3 Phân loại thuật toán cân bằng tải

11

Hình 2.4 Mô hình cân bằng tải ở một nút xử lý

13

Hình 2.5 Chiến lược di trú tải trong cân bằng tải động

14

Hình 2.6 Tương tác giữa các thành phần của thuật toán cân bằng tải động

15

Hình 4.1 Ảnh hưởng các chính sách cung cấp khác nhau đối với sự thực thi
đơn vị tác vụ
Hình 4.2 Mô hình IaaS điện toán đám mây thông qua thành phần

28

29

DatacenterBroker
Hình 4.3 Sơ đồ luồng giao tiếp giữa Datacenter với các đối tượng

31

Hình 4.4 Sơ đồ các thành phần trong DatacenterBroker

34

Hình 4.5 Lược đồ thuật toán cân bằng tải

39

Hình 4.6 Biểu đồ so sánh thời gian đáp ứng trung bình của hai thuật toán
theo chính sách lập lịch Spaceshare-Spaceshare

Hình 4.7 Biểu đồ so sánh thời gian xử lý dữ liệu trung bình của hai thuật
toán theo chính sách lập lịch Spaceshare-Spaceshare
Hình 4.8 Biểu đồ so sánh thời gian đáp ứng trung bình của hai thuật toán
theo chính sách lập lịch Timeshare-Spaceshare
Hình 4.9 Biểu đồ so sánh thời gian xử lý dữ liệu trung bình của hai thuật
toán theo chính sách lập lịch Timeshare-Spaceshare

46

46

51

52


x
Hình 4.10 Biểu đồ so sánh thời gian đáp ứng trung bình của hai thuật toán
theo chính sách lập lịch Spaceshare-Timeshare
Hình 4.11 Biểu đồ so sánh thời gian xử lý dữ liệu trung bình của hai thuật

57

57

toán theo chính sách lập lịch Spaceshare-Timeshare
Hình 4.12 Biểu đồ so sánh thời gian đáp ứng trung bình của hai thuật toán
theo chính sách lập lịch Timeshare -Timeshare
Hình 4.13 Biểu đồ so sánh thời gian xử lý dữ liệu trung bình của hai thuật
toán theo chính sách lập lịch Timeshare -Timeshare

Hình 4.14 Biểu đồ so sánh thời gian đáp ứng trung bình giữa bốn chính
sách lập lịch.
Hình 4.15 Biểu đồ so sánh thời gian xử lý trung bình giữa bốn chính sách
lập lịch.

63

64

66

67

Hình PL1: Sơ đồ thiết kế lớp CloudSim

77

Hình PL2: Sơ đồ lớp Framework lõi CloudSim

79

Hình PL3: Luồng giao tiếp giữa các thực thể Cloudsim

81


xi

DANH SÁCH BẢNG
Bảng 2.1 So sánh giữa cân bằng tải tĩnh và cân bằng tải động

18

Bảng 4.1 Giá trị tham số thiết lập mô phỏng

41

Bảng 4.2 Tham số thiết lập cấu hình các máy ảo

41

Bảng 4.3 Kết quả thực nghiệm trên thuật toán Active Monitoring Load Balancer –
30 theo chính sách lập lịch SpaceShare-SpaceShare

42

Bảng 4.4. Kết quả thực nghiệm của thuật toán cải tiến-30, theo chính sách lập lịch
SpaceShare-SpaceShare

44
Bảng 4.5 Bảng so sánh kết quả thực nghiệm giữa hai thuật toán( Thời gian đáp ứng
trung bình và thời gian xử lý trung bình của hai thuật toán) theo chính sách lập lịch
Spaceshare-Spaceshare.

45

Bảng 4.6 Kết quả thực nghiệm trên thuật toán Active Monitoring Load Balancer –
30 theo chính sách lập lịch TimeShare-SpaceShare

48

Bảng 4.7. Kết quả thực nghiệm của thuật toán cải tiến-30, theo chính sách lập lịch
TimeShare-SpaceShare

49

Bảng 4.8 Bảng so sánh kết quả thực nghiệm giữa hai thuật toán( Thời gian đáp ứng
trung bình và thời gian xử lý trung bình của hai thuật toán) theo chính sách lập lịch
Timeshare-Spaceshare.

49

Bảng 4.9 Kết quả thực nghiệm trên thuật toán Active Monitoring Load Balancer –
30 theo chính sách lập lịch SpaceShareTimeShare

50
Bảng 4.10 Kết quả thực nghiệm của thuật toán cải tiến-30, theo chính sách lập lịch
SpaceShare-TimeShare

53

Bảng 4.11 Bảng so sánh kết quả thực nghiệm giữa hai thuật toán( Thời gian đáp ứng


xii
trung bình và thời gian xử lý trung bình của hai thuật toán) theo chính sách lập lịch
Spaceshare-Timeshare.

54

Bảng 4.12 Kết quả thực nghiệm trên thuật toán Active Monitoring Load Balancer –
30 theo chính sách lập lịch TimeShare -TimeShare

59

Bảng 4.13 Kết quả thực nghiệm của thuật toán cải tiến-30, theo chính sách lập lịch
TimeShare –TimeShare

60

Bảng 4.14 Bảng so sánh kết quả thực nghiệm giữa hai thuật toán( Thời gian đáp ứng
trung bình và thời gian xử lý trung bình của hai thuật toán) theo chính sách lập lịch
Timeshare-Timeshare.

62

Bảng 4.15 Bảng so sánh kết quả thực nghiệm về thời gian đáp ứng trung bình giữa
bốn chính sách lập lịch

66

Bảng 4.16 Bảng so sánh kết quả thực nghiệm về thời gian xử lý trung bình giữa bốn
chính sách lập lịch

67


xiii

DANH MỤC CÁC THUẬT NGỮ, CHỮ VIẾT TẮT

Viết tắt
CIS

Tiếng Anh
Cloud Information Service

Tiếng Việt
Dịch vụ thông tin đám mây
Bộ thư viện mô phỏng CloudSim

CloudSim
QoS

Quality of Service

Chất lượng dịch vụ

IaaS

Infrastructure as a Service

Cơ sở hạ tầng như là dịch vụ

PaaS

Platform as a Service

Nền tảng như là dịch vụ

SaaS

Software as a Service

Phần mềm như là dịch vụ

MIPS

Millions Instructions Per Second

Triệu chỉ thị trên giây

MI

Millions Instructions

Triệu chỉ thị

PE

Processing Element

Phần tử xử lý

VM

Virtual Machine

Máy ảo

CC

Cloud Computing

Điện toán đám mây

FIFO

First In First Out

Vào trước ra trước

IT Green

Information Technologies Green

Công nghệ thông tin thân thiện
với môi trường
Lõi xử lý của CPU

Core
Amazon EC2 Amazon Elastic Compute Cloud

Nền tảng điện toán đám mây của
Amazon
Nền tảng điện toán đám mây của

Microsoft
Azure

Mircrosoft

est

estimated start time

Thời gian bắt đầu dự kiến

eft(p)

Estimated finish time of a task p

Thời gian hoàn thành tác vụ p
Sức mạnh xử lý của các phần tử

cap(i)

xử lý
Số lượng phần tử xử lý được yêu

cores(p)

cầu bởi tác vụ p


1

CHƯƠNG 1: GIỚI THIỆU
1.1 Lý do chọn đề tài
Hiện nay, khi nhu cầu sử dụng nguồn tài nguyên chung, sử dụng các dịch
vụ thông qua hệ thống mạng nội bộ hoặc trên internet ngày càng lớn, thì việc làm

sao đáp ứng được nhu cầu thực tế đó một cách hiệu quả về thời gian, chất lượng
dịch vụ và hiệu quả kinh tế. Để đáp ứng nhu cầu đó thì tháng 6/2007 mô hình “điện
toán đám mây”(Cloud Computing) được đưa ra và được công ty Amazon đẩy mạnh
nghiên cứu và triển khai. Ngay sau đó, với sự tham gia của các công ty lớn:
Microsoft, Google, IBM… thúc đẩy Cloud Computing phát triển mạnh mẽ.
“Điện toán đám mây” (ĐTĐM - Cloud Computing) luôn được Gartner xếp
trong nhóm đầu tiên các công nghệ chiến lược từ năm 2010 đến nay. “Điện toán
đám mây là mô hình điện toán cho phép truy cập qua mạng để lựa chọn và sử dụng
tài nguyên tính toán (ví dụ: mạng, máy chủ, lưu trữ, ứng dụng và dịch vụ) theo nhu
cầu một cách thuận tiện và nhanh chóng; đồng thời cho phép kết thúc sử dụng dịch
vụ, giải phóng tài nguyên dễ dàng, giảm thiểu các giao tiếp với nhà cung cấp”, đồng
thời người dùng chỉ phải trả chi phí cho phần tài nguyên thực sự sử dụng (pay-byuse).
Để đáp ứng được yêu cầu trên thì việc thiết lập một thuật toán cân bằng tải
hiệu quả và làm thế nào sử dụng nguồn tài nguyên điện toán đám mây một cách có
hiệu quả nhất là mục đích cuối cùng của điện toán đám mây muốn đạt đến.
Nên tác giả chọn đề tài: “nghiên cứu kỹ thuật cân bằng tải trong điện
toán đám mây” đi sâu nghiên cứu các kỹ thuật cân bằng tải đang được áp dụng
hiện nay, đồng thời đề xuất cải tiến kỹ thuật cân bằng tải và thực hiện cho khung
IaaS trong môi trường mô hình và mô phỏng điện toán đám mây CloudSim, chẳng
hạn cho trung tâm dữ liệu để cân bằng tải các yêu cầu giữa các máy ảo có sẵn một
cách có hiệu quả và đạt được các thông số hiệu năng tốt nhất của hệ thống như thời
gian đáp ứng và thời gian xử lý dữ liệu.
Cân bằng tải trong điện toán đám mây là một tiến trình gán lại tổng tải
tới một nút tính toán riêng biệt trong hệ thống để tận dụng hiệu quả nguồn tài


2
nguyên tính toán và cải thiện thời gian đáp ứng công việc. Đồng thời, loại bỏ tình
trạng tải nặng ở một số nút tính toán trong khi những nút tính toán khác trong tình
trạng tải nhẹ, bằng cách di chuyển tải từ nút có tải nặng sang nút có tải nhẹ hơn.

Mục tiêu của kỹ thuật cân bằng tải hướng đến là cải thiện các tham số hiệu năng hệ
thống như là: (1) tối thiểu thời gian đáp ứng, (2) tận dụng tài nguyên tính toán, (3)
nâng cao thông lượng, (4) khả năng chịu lỗi tốt, (5) cải thiện khả năng mở rộng hệ
thống, (6) tối thiểu thời gian di trú công việc, (7) tối thiểu chi phí có liên quan do
di chuyển công việc và (8) giảm tiêu thụ năng lượng cùng với khí thải Carbon
Dioxide. Do đó mà không có một kỹ thuật cân bằng tải nào có khả năng đáp ứng
tốt được tất cả các tham số hiệu năng đám mây.
Ngày nay cân bằng tải trong điện toán đám mây là một thách thức lớn
đối với các nhà nghiên cứu và nhà cung cấp dịch vụ đám mây dựa trên công nghiệp
trên thế giới. Việc thiết lập một thuật toán cân bằng tải hiệu quả đáp ứng được hiệu
năng hệ thống và làm thế nào sử dụng nguồn tài nguyên điện toán đám mây một
cách có hiệu quả nhất là mục đích cuối cùng của điện toán đám mây muốn đạt đến
[7]. Ở nước ta hiện nay các công trình nghiên cứu về cân bằng tải trong điện toán
đám mây cũng còn hạn chế. Vì vậy, luận văn “nghiên cứu kỹ thuật cân bằng
tải trong điện toán đám mây” sẽ đi sâu nghiên cứu các kỹ thuật cân bằng tải
đang được áp dụng hiện nay; đồng thời đề xuất cải tiến một kỹ thuật cân bằng tải
động và thực hiện cho khung IaaS trong môi trường mô hình và mô phỏng điện
toán đám mây CloudSim. Chẳng hạn cho trung tâm dữ liệu để cân bằng tải các
yêu cầu giữa các máy ảo có sẵn một cách có hiệu quả và đạt được thông số thời
gian đáp ứng tốt nhất có thể.
CloudSim là bộ toolkit mô hình và mô phỏng các kịch bản điện toán đám
mây. Nó cho phép người dùng đánh giá các chiến lược mới trong việc sử dụng
đám mây như là các chính sách, thuật toán lập lịch, chính sách sắp xếp và cân bằng
tải,... CloudSim cung cấp các đặc điểm mới sau đây: (1) hỗ trợ mô hình và mô
phỏng môi trường điện toán đám mây qui mô lớn, bao gồm trung tâm dữ liệu, trên
một nút tính toán đơn nhất; (2) một nền tảng mô hình đám mây, môi giới dịch
vụ, chính sách phân bổ và cung cấp; (3) hỗ trợ mô phỏng các kết nối mạng giữa
các phần tử mô phỏng hệ thống; (4) mô phỏng môi trường liên kết đám mây, nguồn

3
tài nguyên liên mạng của cả hai đám mây private cloud và đám mây public cloud.
Môi trường mô phỏng điện toán đám mây CloudSim, đã được một nhóm
thuộc khoa khoa học máy tính và công nghệ phần mềm, trường đại học Melbourne,
Australia nghiên cứu và phát triển. Từ đó đến nay trên thế giới đã có nhiều đề tài
nghiên cứu khoa học sử dụng CloudSim mô phỏng thực nghiệm, giúp các nhà khoa
học nghiên cứu về điện toán đám mây xây dựng, chứng minh các cơ sở lý thuyết.
Đồng thời triển khai các kết quả nghiên cứu vào trong môi trường thực tế và đã
mang lại nhiều thành công. Ở nước ta hiện nay, nghiên cứu về CloudSim còn là
vấn đề mới mẽ trong các đề tài khoa học. Vì vậy, việc nghiên cứu CloudSim sẽ
mở ra hướng tiếp cận mới trong nghiên cứu và phát triển điện toán đám mây.

1.2 Công trình nghiên cứu gần đây về cân bằng tải điện toán đám
mây
1.2.1 Cải thiện thời gian đáp ứng:
Các nhà nghiên cứu hiện nay tập trung cải thiện thời gian đáp ứng để cân
bằng tải trong điện toán đám mây. Những công trình nghiên cứu hầu hết thực hiện
trong môi trường CloudSim. Trong [18], Warstein nhấn mạnh rằng một mô hình
để tìm ra máy ảo phù hợp trong một chu kỳ thời gian rất ngắn khi có bất kỳ yêu
cầu nào đến. Ông cho rằng máy ảo có tải ít nhất sẽ được chọn xử lý yêu cầu và Id
của máy đó sẽ được gởi tới bộ điều khiển datacenter để phân bổ yêu cầu xử lý.
Trong [13], giáo sư Meenakshi đã thực nghiệm trong môi trường CloudSim,
phân tích sự khác nhau của các thuật toán cân bằng tải máy ảo, đánh giá hiệu
quả các thuật toán dựa trên thời gian đáp ứng. Một thuật toán cân bằng tải mới đã
được đề xuất để đạt được thời gian đáp ứng tốt nhất của mỗi nguồn tài nguyên.
Theo thực nghiệm này giáo sư Meenakshi và các cộng sự kết luận rằng nếu chọn
một máy ảo hiệu quả khi đó nó ảnh hưởng hiệu suất tổng thể đám mây và cũng
làm giảm thời gian đáp ứng trung bình.

1.2.2 Vấn đề tiêu thụ năng lượng

Trong [12], Nidhi đã đưa hai yếu tố đó là tiêu thụ năng lượng và khí thải
carbon để đạt được vấn đề tính toán xanh trong điện toán đám mây. Cân bằng tải
trong việc tiết kiệm năng lượng, các số liệu như tiêu thụ năng lượng của tất cả các


4
nguồn tài nguyên cũng đã được xem xét. Cân bằng tải giúp tránh tình trạng
quá nóng bằng cách cân bằng khối lượng công việc trên tất cả các nút của đám
mây, do đó làm giảm tiêu thụ năng lượng. Lượng khí thải carbon cũng được tính
toán trên tất cả các nguồn tài nguyên của hệ thống. Tiêu thụ năng lượng và khí thải
carbon đi song hành, càng có nhiều năng lượng được tiêu thụ, lượng khí thải carbon
sẽ càng cao.

1.2.3 Vấn đề di trú máy ảo
Trong [9], Jinhua trình bày một chiến lược cân bằng tải nguồn tài nguyên
máy ảo dựa trên thuật toán di truyền. Dựa trên lịch sử dữ liệu và trạng thái hiện tại
của hệ thống, thuật toán di truyền này tính trước các ảnh hưởng mà nó sẽ có
trên toàn bộ hệ thống, khi triển khai các nguồn tài nguyên dịch vụ máy ảo cần thiết
tại mỗi nút vật lý. Sau đó chọn một giải pháp ít ảnh hưởng nhất, thông qua giải
pháp này nó đạt được cân bằng tải tốt nhất và giảm hoặc tránh di trú động. Chiến
lược này giải quyết vấn đề mất cân bằng tải, chi phí di trú cao bởi các thuật toán
truyền thống sau khi lập lịch. Kết quả thực nghiệm chứng minh phương pháp này
có thể hiện thực cân bằng tải và sử dụng nguồn tài nguyên hợp lý cả khi tải hệ
thống ổn định và biến đổi.

1.3 Mục tiêu luận văn
Luận văn xác định mục tiêu chính là (1) nghiên cứu kỹ thuật cân bằng
tải hiện nay trong điện toán đám mây trên cơ sở đó đề xuất cải tiến thuật toán cân
bằng tải động Active Monitoring Load Balancer [7],[13] để đạt được thời gian
đáp ứng yêu cầu xử lý tốt hơn. Đánh giá hiệu quả của đề xuất cải tiến này trong

môi trường mô hình và mô phỏng điện toán đám mây CloudSim; Đồng thời (2)
nghiên cứu hướng tiếp cận mới về điện toán đám mây thông qua môi trường
CloudSim.

1.4 Tổ chức luận văn
Luận văn này được xây dựng với nội dung gồm 5 chương như sau đây:
MỞ ĐẦU
CHƯƠNG 1: GIỚI THIỆU
CHƯƠNG 2: CÂN BẰNG TẢI TRONG ĐIỆN TOÁN ĐÁM MÂY
CHƯƠNG 3: CÁC THUẬT TOÁN CÂN BẰNG TẢI TIÊU BIỂU


5
CHƯƠNG 4: DỀ XUẤT THUẬT TOÁN CÂN BẰNG TẢI CẢI TIẾN
CHƯƠNG 5: KẾT LUẬN VÀ KIẾN NGHỊ
CHƯƠNG 2: Trình bày cơ sở lý thuyết tổng quan về cân bằng tải, mục tiêu
của cân bằng tải trong điện toán đám mây; đo lường để đánh giá hiệu quả của kỹ
thuật cân bằng tải; các thuật toán cân bằng tải và các chiến lược cân bằng tải hiện
nay.
CHƯƠNG 3: Trình bày mô hình cân bằng tải trong điện toán đám mây,
những hạn chế của các kỹ thuật cân bằng tải hiện nay. Tập trung phân tích, đánh
giá thuật toán cân bằng tải động Active Monitoring Load Balancer. Trên cơ sở đó
phát hiện hạn chế và có đề xuất thuật toán cải tiến để cải thiện thời gian đáp ứng
tốt hơn. Mô phỏng thực nghiệm đề xuất cải tiến được thực hiện trên môi trường
CloudSim, từ đó đánh giá, kết luận.
CHƯƠNG 4: Trình bày ý tưởng, phân tích, thiết kế giải thuật và tiến
hành thực hiện mô phỏng thuật toán cân bằng tải cải tiến. Dựa vào kết quả mô
phỏng đi đến đánh giá kết quả của thuật toán cân bằng tải cải tiến so với thuật
toán cân bằng tải động Active Monitoring Load Balancer về hiệu năng điện toán
đám mây như là thời gian đáp ứng, thời gian xử lý dữ liệu.

CHƯƠNG 5: Phần kết luận và kiến nghị trình bày kết luận của luận văn và
các kiến nghị định hướng nghiên cứu tiếp theo.


6

CHƯƠNG 2: CÂN BẰNG TẢI TRONG ĐIỆN TOÁN ĐÁM
MÂY
2.1 Tổng quan về điện toán đám mây
Khái niệm điện toán đám mây(Cloud Computing)
Tác giả thấy rằng định nghĩa của NIST là rõ ràng với cách nhìn bao quát:
“Cloud Computing”(CC) là mô hình điện toán cho phép truy cập qua mạng để lựa
chọn và sử dụng tài nguyên tính toán (ví dụ: mạng, máy chủ, lưu trữ, ứng dụng và
dịch vụ) theo nhu cầu một cách thuận tiện và nhanh chóng, đồng thời cho phép kết
thúc sử dụng dịch vụ, giải phóng tài nguyên dễ dàng, giảm thiểu các giao tiếp với
nhà cung cấp”.
Theo đó, mô hình chính là cho phép sử dụng dịch vụ theo yêu cầu (ondemam service); cung cấp khả năng truy cập dịch vụ qua mạng rộng rãi từ máy tính
để bàn, máy tính xách tay tới thiết bị di động (broad net-work access); với tài
nguyên tính toán động, phục vụ nhiều người (resource pooling for multi-tenanci),
năng lực tính toán phần mềm dẻo, đáp ứng nhanh với nhu cầu thấp tới cao (rapid
elasticity). Mô hình CC cũng đảm bảo việc sử dụng các tài nguyên được “đo” để
nâng cấp dịch vụ quản trị và tối ưu được tài nguyên, đồng thời người dùng chỉ phải
trả chi phí cho phần tài nguyên đã sử dụng (pay-by-use).


7

Hình 2.1 Mô hình điện toán đám mây

2.2 Tổng quan về cân bằng tải trong điện toán đám mây

2.2.1 Giới thiệu kỹ thuật cân bằng tải
Cân bằng tải là kỹ thuật phân phối khối lượng công việc đồng đều giữa hai
hoặc nhiều máy tính, kết nối mạng, CPU, ổ cứng, hoặc các nguồn lực phân tán
to lớn trên mạng, để có thể tận dụng có hiệu quả các nguồn lực, tối đa hóa
thông lượng, cải thiện thời gian đáp ứng và thời gian xử lý dữ liệu; Đồng thời tránh
tình trạng quá tải một số nút tính toán trong khi những nút khác được nạp tải nhẹ
khi có nhiều yêu cầu xử lý cần được đáp ứng. Kỹ thuật cân bằng tải hiện nay chủ
yếu tập trung vào hai kỹ thuật là cân bằng tải tĩnh và cân bằng tải động.
Kỹ thuật cân bằng tải tĩnh không thu thập thông tin trạng thái hiện tại hệ
thống. Những yếu tố được đo lường trước khi gán công việc cho một nút tính toán
như thời gian đến, qui mô nguồn tài nguyên, thời gian thực thi và giao tiếp các tiến
trình.
Kỹ thuật cân bằng tải động trong tự nhiên không xem xét trạng thái trước đó
hoặc hành vi của hệ thống, nó chỉ phụ thuộc vào hành vi hiện tại của hệ thống.


8
Những yếu tố quan trọng khi xem xét phát triển kỹ thuật cân bằng tải động là ước
lượng tải, so sánh tải, khả năng ổn định của hệ thống khác nhau, hiệu suất của hệ
thống, tương tác giữa các nút, tính chất của công việc được chuyển giao. Tải này
có thể được xem xét trong các thuật ngữ của tải CPU, số lượng bộ nhớ sử dụng,
độ trễ hoặc tải trên mạng. Khi một khối lượng tải cho trước được đệ trình cho bất
kỳ cụm nút. Tải cho trước này có thể được thực thi hiệu quả nếu nguồn tài nguyên
sẵn có được sử dụng hiệu quả. Do đó phải có một cơ chế để lựa chọn các nút có
các nguồn tài nguyên. Lập lịch là một thành phần hay cơ chế chịu trách nhiệm
chọn một nút hay cụm nút. Cơ chế này sẽ xem xét trạng thái cân bằng tải. Vì vậy,
lập lịch cần các thuật toán cân bằng tải để giải quyết vấn đề như vậy. Trong thực
tế, cân bằng tải ảnh hưởng bởi ba yếu tố chính [20]: (1) Môi trường muốn cân bằng
tải, (2) Bản chất của tải của nó, (3) Công cụ cân bằng tải sẵn có.

2.2.2 Mục đích cân bằng tải
Mục đích của kỹ thuật cân bằng tải là cải thiện hiệu năng của toàn bộ
hệ thống một cách cơ bản; giảm thiểu thời gian chờ của công việc; có một kế hoạch
dự phòng trong trường hợp hệ thống bị lỗi thậm chí một phần; duy trì sự ổn định
và thích ứng sự biến đổi trong tương lai của hệ thống; đảm bảo những công việc
nhỏ không bị đói trong thời gian dài; đồng thời cũng phải đảm bảo hạn chế tình
trạng một nút có tải nặng trong khi những nút khác chỉ chịu tải nhẹ [15],[20]. Vì
vậy, nhiều kỹ thuật cân bằng tải đã được phát triển trong nhiều năm qua nhưng
không có một kỹ thuật nào là thích hợp cho tất cả các ứng dụng, các hệ thống tính
toán phân tán. Việc lựa chọn một kỹ thuật cân bằng tải tương ứng phụ thuộc thông
số các ứng dụng cũng như các thông số phần cứng. Hình 2.2 trình bày mô hình
cân bằng tải trong điện toán đám mây.


9

Hình 2.2 Môi trường điện toán đám mây và cân bằng tải [20]

2.2.3 Cân bằng tải trong điện toán đám mây
Ngày nay, với sự phát triển rộng khắp của Internet và các ứng dụng trực
tuyến đang được rất nhiều người truy cập. Do đó, lưu lượng quá lớn làm cho hệ
thống máy chủ của một tổ chức không thể đáp ứng nổi yêu cầu truy cập bùng nổ
và các yêu cầu tính toán lớn. Bên cạnh đó, sự phát triển mạnh mẽ của cơ sở hạ tầng
mạng tốc độ cao, năng lực xử lý của các máy chủ ngày càng mạnh mẽ đã dẫn đến
sự ra đời của các hệ thống phân tán. Nên cần thiết tập hợp cơ sở hạ tầng mạng,
khả năng xử lý của hệ thống máy chủ, các hệ thống phân tán dựa trên nền tảng
công nghệ ảo hóa thông qua môi trường Internet thành một hệ thống điện toán
đám mây có thể cung cấp cơ sở hạ tầng như một dịch vụ IaaS, nền tảng như là một
dịch vụ PaaS, phần mềm như một dịch vụ SaaS.
Cân bằng tải trong điện toán đám mây là một phương pháp để phân phối

10
khối lượng công việc khắp một hoặc cụm nút tính toán, hay giữa các nguồn lực
tính toán đồ sộ trên mạng được phân tán khắp mọi nơi trên Internet. Ngày nay, việc
triển khai trung tâm dữ liệu qui mô lớn dựa trên cơ sở hạ tầng mạng và phần cứng
tính toán lớn với khả năng xử lý mạnh mẽ. Cân bằng tải và kiến trúc cân bằng tải
truyền thống sử dụng các máy chủ để thực hiện. Nhưng cân bằng tải trong điện
toán đám mây khác với suy nghĩ trước đây về sự thực hiện và kiến trúc. Nó
được mở rộng hơn về quy mô, có thể là cân bằng giữa các Datacenter, nút tính
toán lớn, cụm nút tính toán hay giữa các đám mây với nhau.

2.2.4 Đo lường cân bằng tải trong điện toán đám mây
Các kỹ thuật cân bằng tải trong điện toán đám mây hiện nay xem xét các
tham số khác nhau như hiệu suất, thời gian đáp ứng, khả năng mở rộng, thông
lượng, sử dụng tài nguyên, khả năng chịu lỗi, thời gian di trú và chi phí liên quan.
Nhưng đối với cân bằng tải nhằm mục đích tiết kiệm năng lượng khi đó lượng khí
thải carbon cũng được xem xét đến [20].
Liên quan đến phí tổn: xác định phí tổn liên quan trong khi thực hiện thuật
toán cân bằng tải. Nó bao gồm các chi phí do di chuyển các tác vụ, liên bộ xử
lý, liên tiến trình. Điều này nên giảm thiểu để kỹ thuật cân bằng tải có thể làm việc
hiệu quả.
Thông lượng: được sử dụng để tính toán số lượng các tác vụ mà sự thực thi
các tác vụ này đã được hoàn thành. Nó nên tăng lên để cải thiện hiệu năng hệ thống.
Hiệu năng: được dùng để kiểm tra hiệu quả của hệ thống. Nó phải được cải
thiện với chi phí hợp lý, tức là giảm thời gian đáp ứng trong khi vẫn giữ được độ
trễ có thể chấp nhận được.
Sự tận dụng nguồn tài nguyên: được dùng để kiểm tra mức độ sử dụng nguồn
tài nguyên sẵn có. Nó nên được tối ưu để cân bằng tải hiệu quả.
Khả năng mở rộng: là khả năng của một thuật toán để thực hiện cân bằng tải

cho một hệ thống với bất kỳ hữu hạn các nút. Đo lường này nên được cải thiện.
Thời gian đáp ứng: là lượng thời gian thực hiện để đáp ứng bởi một thuật
toán cân bằng tải cụ thể trong một hệ thống phân tán. Tham số này nên được