HỌC VIỆN CÔNG NGHỆ BƯU CHÍNH VIỄN THÔNG
DOÃN THỊ HƯƠNG
ĐÁNH GIÁ HIỆU NĂNG SIÊU MÁY TÍNH
BẰNG MÔ HÌNH MẠNG HÀNG ĐỢI
Chuyên ngành: KHOA HỌC MÁY TÍNH
Mã số : 60.48.01.01
TÓM TẮT LUẬN VĂN THẠC SĨ
Hà Nội - 2013
S
Luận văn được hoàn thành tại:
HỌC VIỆN CÔNG NGHỆ BƯU CHÍNH VIỄN THÔNG
Người hướng dẫn khoa học: TS Hồ Khánh Lâm
Phản biện 1: ……………………………………………
Phản biện 2: ……………………………………………
Luận văn sẽ được bảo vệ trước Hội đồng chấm luận văn
thạc sĩ tại Học viện Công nghệ Bưu chính Viễn thông
Vào lúc: giờ ngày tháng năm
Có thể tìm hiểu luận văn tại:
- Thư viện của Học viện Công nghệ Bưu chính Viễn
thông
-1-
MỞ ĐẦU
Đánh giá hiệu năng thông qua mô phỏng hệ thống là
một phương pháp hiệu quả và đặc biệt hữu ích đối với các
nhà thiết kế, xây dựng hệ thống. Nền tảng của phương
pháp là:
− Mô phỏng hệ thống: mô hình hoá cấu trúc
(structure) và mô tả hành vi (behaviour) của hệ thống.
− Phân tích, đánh giá hiệu năng trên mô hình mô
phỏng hệ thống.
Hiện nay, có ba phương pháp đánh giá hiệu năng
thông qua mô phỏng hệ thống, đó là: phương pháp sử
dụng Mạng hàng đợi (Queue Network - QN), phương
pháp sử dụng Mạng Petri (Petri Net - PN) và phương pháp
sử dụng chương trình máy tính được thiết kế đặc thù chỉ
để mô phỏng cho một hệ thống.
Trong đó, phương pháp cuối cùng tuy cho kết quả
với độ tin cậy và chính xác cao nhưng phải trả giá về sự
đòi hỏi và chiếm dụng tài nguyên rất lớn, vì vậy, phương
pháp này thường ít được sử dụng trong đánh giá hiệu
năng. Phương pháp sử dụng mạng hàng đợi, với nền tảng
là lý thuyết xếp hàng và luật Little, do chi phí thấp, việc
-2-
mô phỏng đơn giản, trở nên rất hữu dụng đối với các hệ
thống không phức tạp, đòi hỏi độ chính xác của kết quả
phân tích không cao.
Việc phân tích đánh giá hiệu năng của siêu máy tính
là một việc tương đối phức tạp. Một trong những phương
pháp đánh giá được sử dụng rộng rãi và có hiệu quả trên
thực tế là phương pháp mô hình hóa và các mô hình được
sử dụng hiện nay là mô hình mạng hàng đợi, mạng Petri,
đồ thị và các mô hình lai ghép. Trong đó mô hình mạng
hàng đợi là một mô hình đơn giản và tỏ ra có hiệu quả
trong thực tế. Lý thuyết xếp hàng đã được nghiên cứu
rộng rãi trên thế giới đầu thế kỉ 20. Có nhiều ứng dụng
được cài đặt sử dụng lý thuyết này, có các thư viện mở
được xây dựng để giải quyết các bài toán trên mô hình
mạng hàng đợi.
Do sự phổ biến và có hiệu quả của lý thuyết xếp
hàng trong việc đánh giá hiệu năng của siêu máy tính mà
luận văn của em đi sâu vào nghiên cứu lý thuyết xếp hàng
từ đó xây dựng thư việc giải bài toán hàng đợi và áp dụng
vào để đánh giá hiệu năng siêu máy tính bằng mô hình
mạng hàng đợi.
-3-
Do đó, học viên chọn đề tài “Đánh giá hiệu năng
siêu máy tính bằng mô hình mạng hàng đợi” cho luận văn
tốt nghiệp thạc sĩ.
1. Mục tiêu và nhiệm vụ nghiên cứu
Để hoàn thành mục đích ý tưởng đề ra cần nghiên
cứu các nội dung như sau:
- Nghiên cứu mô hình mạng hàng đợi.
- Tìm hiểu một số các kỹ thuật phân tích hiệu năng,
bao gồm: mô hình phân tích (analytic modeling), mô hình
mô phỏng (simulation modeling), đo hiệu năng
(benchmarking).
- Tìm hiểu quá trình đánh giá hiệu năng siêu máy
tính bằng mô hình mạng hàng đợi.
- Đánh giá kết quả theo yêu cầu của đề tài.
2. Đối tượng và phạm vi nghiên cứu
Đối tượng nghiên cứu
Trong khuôn khổ luận văn thuộc loại nghiên cứu và
ứng dụng, tôi chỉ giới hạn nghiên cứu các vấn đề sau:
- Mô hình mạng hàng đợi.
- Tìm hiểu một số các kỹ thuật phân tích hiệu
năng.
-4-
- Ứng dụng của mô hình mạng hàng đợi để dánh
giá hiệu năng siêu máy tính.
Phạm vi nghiên cứu
- Mô hình mạng hàng đợi.
- Tìm hiểu một số các kỹ thuật phân tích hiệu
năng.
- Công cụ phần mềm JMT, kết quả mô phỏng hiệu
năng của kiến trúc siêu máy tính bằng công cụ JMT.
- Ứng dụng của mô hình mạng hàng đợi để đánh
giá hiệu năng siêu máy tính.
3. Phương pháp nghiên cứu
Nghiên cứu các tài liệu, bài báo trong và ngoài
nước có liên quan đến mô hình mạng hàng đợi và sử dụng
các thuật toán để đánh giá hiệu năng siêu máy tính.
4. Bố cục luận văn
Chương 1: Tổng quan về các kiến trúc máy tính
Chương 2: Các phương pháp kiểm thử hiệu năng
Chương 3: Mô hình mạng hàng đợi
Chương 4: Đánh giá hiệu năng siêu máy tính.
-5-
Chương 1: TỔNG QUAN VỀ CÁC KIẾN
TRÚC SIÊU MÁY TÍNH
1.1. Tổng quan về siêu máy tính
1.1.1. Sự phát triển của công nghệ siêu máy
tính
Hình 1.1. tỷ lệ phần trăm số lượng siêu máy tính của
một số nước (Nguồn: Wikipedia)
Hình 1.2. Siêu máy tính của các nước trên thế
giới (Nguồn: top500.org)
-6-
1.1.2. Phần cứng và kiến trúc siêu máy tính.
1.1.3. Sử dụng năng lượng và quản lý nhiệt
1.2. Kiến trúc của siêu máy tính cỡ nhỏ (PC
Desktop) CPU+GPU.
1.2.1. Công nghệ xử lý đồ họa GPU (Graphics
processing unit)
Hình 1.3. Mô hình phần cứng GPU
Hình 1.4. Cấu trúc GPU
-7-
Hình 1.5. Mô hình bộ nhớ.
Hình 1.6. cho thấy số phần tử toán học GPU nhiều
hơn hẳn CPU, điều này mang đến cho GPU một khả năng
xử lý song song cực kỳ hiệu quả.
Hình 1.6. So sánh kiến trúc CPU và GPU
Sau đây là đồ thị so sánh khả năng xử lý floating-
point giữa GPU và CPU được mô tả qua Hình 1.7.
-8-
Hình 1.7. So sánh floating-point của GPU và CPU
1.2.2. Sự kết hợp CPU với GPU tạo thành siêu
máy tính cỡ nhỏ.
Hình 1.8. Mô hình tổ chức theo cluster CPU+GPU của
siêu máy tính
-9-
1.3. Phần mềm và các công cụ phần mềm của siêu
máy tính
1.3.1. Hệ điều hành và quản lý hệ thống
Hình 1.9. Tỷ lệ sử dụng các hệ điều hành cho các
siêu máy tính
(Nguồn: Wikipedia)
1.3.2. Các công cụ phần mềm
1.3.3. Tính toán phân tán
1.4. Hiệu năng của siêu máy tính
1.4.1. Năng lực và khả năng tính toán
1.4.2. Các số đo hiệu năng
1.5. Các ứng dụng của các siêu máy tính
-10-
1.6. Kết luận chương
Trong chương này đã giới thiệu đ
ược sự phát triển của công nghệ siêu máy tính và
kiến trúc của nó. Giới thiệu về phần mềm và các công cụ
phần mềm của siêu máy tính. Tìm hiểu về kiến trúc của
siêu máy tính cỡ nhỏ (PC Desktop) CPU+GPU. Ngoài ra,
trong chương một còn trình bày về hiệu năng của siêu máy
tính trong đó giới thiệu năng lực và khả năng tính toán của
một siêu máy tính và các ứng dụng của siêu máy tính.
-11-
CHƯƠNG 2: CÁC PHƯƠNG PHÁP KIỂM
THỬ HIỆU NĂNG
Để có một tiến trình kiểm thử hiệu năng của các hệ
thống đa xử lý như: chip đa lõi, các hệ thống toán song
song, các siêu máy tính hiệu quả, có một số các kỹ thuật
phân tích hiệu năng, bao gồm: mô hình phân tích (analytic
modeling), mô hình mô phỏng (simulation modeling), đo
hiệu năng (benchmarking).
Tất cả các kỹ thuật phân tích: Mô hình phân tích và
mô hình mô phỏng đều yêu cầu phải xây dựng mô hình.
Mô hình là biểu diễn trừu tượng của hệ thống thực.
Phương pháp đo đạc hiệu năng (gồm cả benchmarks) của
hệ thống đa xử lý không sử dụng các mô hình mà thay vào
đó, sử dụng quan sát trực tiếp hệ thống, hoặc hệ thống
tương tự.
2.1. Mô hình phân tích
2.1.1. Các tính toán giới hạn (bounding
calculations)
2.1.2. Các mô hình mạng hàng đợi
-12-
2.1.3. Petri nets
2.2. Mô hình mô phỏng
Các mô hình mô phỏng hệ đa xử lý thực là các
chương trình máy tính chuyên dụng. Sự mô phỏng cho
phép một hệ thống được mô hình hóa ở bất kỳ cấp độ nào
của chi tiết: từ chuyển đổi trực tiếp mô hình mạng xếp
hàng để có được các đặc tính chủ yếu của hành vi của hệ
đa xử lý. Mô phỏng cũng hỗ trợ thu thập bất kỳ số đo hiệu
năng nào có thể xác định được và lập trình được.
2.2.1 Kiến trúc các mô phỏng
2.2.2. Mô phỏng các tải làm việc
2.3. Đo hiệu năng đối với các hệ thống tính toán
hiệu năng cao
Bảng 2.1 so sánh 3 kỹ thuật phân tích hiệu năng
trên, nó cho thấy không có phương pháp nào là hoàn hảo
trong tất cả các trường hợp, hầu hết các thiết kế hệ thống
đều sử dụng nhiều kỹ thuật phân tích khác nhau. Khả năng
ứng dụng các kỹ thuật phân tích hiệu năng của hệ thống
phụ thuộc vào bản thân tính chất của hệ thống và các đặc
điểm mà các kỹ thuật phân tích đáp ứng được như thế nào.
-13-
Các kết quả quá trình phân tích với sự sử dụng kết hợp các
kỹ thuật phân tích là một tập hợp các loại dữ liệu về hệ
thống thực tế làm căn cứ để thực hiện các biện pháp nâng
cao hiệu năng của hệ thống thực tế nhằm đáp ứng yêu cầu
của người sử dụng.
2.3. Kết luận chương
Tìm hiểu một số các kỹ thuật phân tích hiệu năng,
bao gồm: mô hình phân tích (analytic modeling), mô hình
mô phỏng (simulation modeling), đo hiệu năng
(benchmarking). Giới thiệu các mô hình mạng hàng đợi
(Trong đó có mô hình mạng hàng đợi mở, đóng, hỗn hợp),
các loại mô hình này sẽ được giới thiệu ở chương 3. Ngoài
ra trong chương này còn giới thiệu một số phương pháp
đo đạc hiệu năng (gồm cả benchmarks) của hệ thống đa
xử lý không sử dụng các mô hình mà thay vào đó, sử dụng
quan sát trực tiếp hệ thống, hoặc hệ thống tương tự.
-14-
Chương 3: MÔ HÌNH MẠNG HÀNG ĐỢI
3.1. Giới thiệu chung
Trong thực tế, nhiều hệ thống thực phức tạp không
thể mô hình được bởi một hệ thống chỉ gồm một hàng đợi
hoặc một số hàng đợi cùng một loại mà phải được mô
hình bằng các mạng gồm nhiều hàng đợi (nút) cùng loại
hoặc thuộc một số loại khác.
Mạng các mạng các hàng đợi là các hệ thống mà
chúng gồm một số tùy tiện nhưng hữu hạn các hàng đợi.
Các khách hàng (các công việc, các bản tin, gói tin), đôi
khi thuộc các lớp khác nhau di chuyển qua mạng và được
phục vụ ở các nút (các sever). Các khách hàng sau khi
được phục vụ xong có thể ra khỏi mạng tùy thuộc vào loại
mạng: Mạng đóng, mạng mở, mạng kết hợp cả đóng và
mở, mạng có ràng buộc số lượng khách hàng.
Mỗi một nút trong mạng có thể là một trong những
loại hàng đợi sau đây:
- M/M/m – FCFS
- M/G/l – PSRR (Preemptive Round – Robine) –
nguyên tắc phục vụ quay vòng được ưu tiên trược, biểu
-15-
hiện như sự chia sẻ thực hiện của CPU trong hệ thống
máy tính đa nhiệm (round – robin processor sharing).
- M/G/∞ (Infinite Server).
M/G/l – LCFS PR (Last Come – First Served with
Preemptive Resume): Khi một khách hàng mới đến một hệ
thống đang bận, thì khách hàng đang trong phục vụ được
loại ra khỏi phương tiện phục vụ và được đẩy vào hàng
đợi LIFO và phục vụ bắt đầu cho khách hàng mới.
3.2. Phân loại mô hình mạng hàng đợi.
3.2.1. Mạng hàng đợi mở
Hình 3.1: Mạng mở các hàng đợi
́
́
́
́
́
́
µ
2
Hình 3.2: Mạng mở các hàng đợi
µ
3
µ
4
µ
1
01
03
0,4
0,6
0,2
1,0
0,8
-16-
3.2.2. Mạng hàng đợi đóng
3.2.3. Mạng hàng đợi kết hợp.
3.2.4. Mạng có các ràng buộc số lượng khách
hàng
3.3. Các xác định của mạng hàng đợi
Chúng ta xét các mạng đơn lớp và đa lớp
µ
2
Hình 3.3: Mạng đóng các hàng đợi
µ
3
µ
1
0,4
0,6
1,0
1,0
µ
2
µ
3
µ
1
Hình 3.4: Mạng kết hợp
µ
4
Nguồn
1
m
Buffer size = B
i
Hình 3.5: Mạng với ràng buộc:
Bnnn
m
21
µ
-17-
3.3.1.Các mạng một lớp công việc
3.3.2. Các mạng nhiều lớp công việc
3.4. Các số đo hiệu năng của mạng hàng đợi
3.4.1. Các mạng một lớp công việc
3.4.2. Các mạng nhiều lớp công việc
3.5. Kết luận chương
Trong chương giới thiệu về mạng hàng đợi mở,
cách phân loại mô hình mạng hàng đợi, mạng hàng đợi
đóng, mở, kết hợp. Các xác định các mạng hàng đợi, mạng
một lớp công việc hay nhiều lớp công việc. Cuối cùng các
số đo hiệu năng của mạng hàng đợi.
Trên cơ sở các nội dung nghiên cứu trong chương
3, chương 4 sẽ nghiên cứu mô hình mạng hàng đợi để
đánh giá hiệu năng siêu máy tính dựa trên công cụ mô
phòng JMT.
-18-
Chương 4: ĐÁNH GIÁ HIỆU NĂNG SIÊU
MÁY TÍNH
4.1. Công cụ phần mềm JMT.
4.1.1 Sơ lược lịch sử của JMT
4.1.2 Cách cài đặt JMT
4.1.3 Bắt đầu với bộ JMT
Cửa sổ của Hình 4.1 sẽ xuất hiện.
Hình 4.1: Bộ màn hình bắt đầu JMT
-19-
4.2. Đánh giá ảnh hưởng của mạng liên kết các nút
xử lý CPU + GPU
4.3. Ứng dụng của mạng hàng đợi để đánh giá hiệu
năng của kiến trúc siêu máy tính
Hình 4.3. MCPFQN của hệ thống song song gồm
CLGPUCPUCL
NclusterN
/
,
, với
CLGPUCPU
N
/
số nút xử lý
CPU+GPU.
C0
kC
G0
jG
star
star
Int
Intra-cluster Star
Interconnect 0
Intra-cluster Star
Interconnect N
CL
-1
Inter-cluster
Interconnect
Node CPU+GPU 0
C0
kC
G0
jG
Node
N
CPU+GPU/CL
-1
CPU
GPU
CPU
GPU
C0
kC
G0
jG
C0
kC
CPU
GPU
GPU
CPU
Node
CPU+GPU 0
Node
N
CPU+GPU/CL
-1
G0
jG
-20-
Hình 4.4. MCPFQN của hệ thống song song gồm
)81(8)0(2 PPGPUvàPCPU
, 16 clusters (N
CL
=16).
Hình 4.5. Thông lượng của hệ thống gồm nhiều nút
CPU+GPU theo sự tăng của N
W,
khi sử dụng 2D-mesh
Inter-cluster interconnect và Star intra-cluster
interconnect.
-21-
Hình 4.6. Mức độ sử dụng của nút P0 (CPU+GPU0) của
hệ thống gồm nhiều nút CPU+GPU theo sự tăng của N
W,
khi sử dụng 2D-mesh Inter-cluster interconnect và Star
Intra-cluster interconnect.
Hình 4.7. Thông lượng của hệ thống gồm nhiều nút
CPU+GPU theo sự tăng của N
W,
khi sử dụng 2D-torus
Inter-cluster interconnect và Star intra-cluster
interconnect.
-22-
Hình 4.8. Mức độ sử dụng của nút P0 (CPU+GPU0) của
hệ thống gồm nhiều nút CPU+GPU theo sự tăng của N
W,
khi sử dụng 2D-Torus Inter-cluster interconnect và Star
Intra-cluster interconnect.
Hình 4.9. Thông lượng của hệ thống gồm nhiều nút
CPU+GPU theo sự tăng của N
W,
khi sử dụng 3D-torus
Inter-cluster interconnect và Star intra-cluster
interconnect.
-23-
Hình 4.10. Mức độ sử dụng của nút P0 (CPU+GPU0) của
hệ thống gồm nhiều nút CPU+GPU theo sự tăng của N
W,
khi sử dụng 3D-Torus Inter-cluster interconnect và Star
Intra-cluster interconnect.
4.4. Kết luận.
Trong chương này giới thiệu về công cụ JMT như
cách cài đặt, lịch sử hình thành của công cụ. Sử dụng công
cụ JMT để đánh giá hiệu năng của SMT bằng công cụ
mạng hạng đợi. Áp dụng mô hình mạng hàng đợi để đánh
giá hiệu năng siêu máy tính. Ở đây, sử dụng mạng hàng
đợi đóng dạng tích nhiều lớp công việc MCPFQN với các
thông số hiệu năng: thông lượng của hệ thống, thời gian
đáp ứng trung bình, thời gian chờ đợi, mức độ sử dụng,