Một số thuật toán giải bài toán phân công nhiệm vụ trong hệ thống tính toán không đồng nhất

..

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN & TRUYỀN THƠNG

NGUYỄN THỊ HỒNG NHUNG

MỘT SỐ THUẬT TỐN
GIẢI BÀI TỐN PHÂN CƠNG NHIỆM VỤ
TRONG HỆ THỐNG TÍNH TỐN
KHƠNG ĐỒNG NHẤT

LUẬN VĂN THẠC SĨ: KHOA HỌC MÁY TÍNH

THÁI NGUYÊN 2012

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




LỜI CAM ĐOAN

Tơi xin cam đoan tồn bộ luận văn: "Một số thuật tốn giải bài tốn phân

cơng nhiệm vụ trong hệ thống tính tốn khơng đồng nhất" do chính bản thân tôi
thực hiện dưới sự hướng dẫn của PGS.TS. Đặng Quang Á.
Nếu sai tơi xin chịu mọi hình thức kỷ luật theo quy định.
Thái Nguyên, tháng 06 năm 2012
Người thực hiện

Nguyễn Thị Hồng Nhung

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




i

MỤC LỤC
TRANG PHỤ BÌA
LỜI CAM ĐOAN
MỤC LỤC .......................................................................................................... i
DANH MỤC CÁC BẢNG.............................................................................. iii
DANH MỤC CÁC HÌNH ................................................................................ iv
LỜI NĨI ĐẦU .................................................................................................. 1
CHƢƠNG I: GIỚI THIỆU SƠ LƢỢC VỀ HỆ THỐNG TÍNH TỐN
KHƠNG ĐỒNG NHẤT MỘT SỐ BÀI TỐN PHÂN CƠNG NHIỆM VỤ .. 3
1.1. GIỚI THIỆU SƠ LƢỢC VỀ HỆ THỐNG TÍNH TỐN KHƠNG ĐỒNG
NHẤT. ............................................................................................................... 3
1.1.1. Giới thiệu......................................................................................... 3
1.1.2. Mơ hình khái niệm HC.................................................................... 6
1.2. GIỚI THIỆU MỘT SỐ BÀI TỐN PHÂN CƠNG NHIỆM VỤ ............. 9
1.2.1. Bài tốn phân cơng nhiệm vụ trong hệ thơng tính tốn khơng đồng
nhất…………………………………………………………………………… 9
1.2.2. Bài toán lập lịch thực hành ........................................................... 13
1.2.3. Bài tốn lập lịch gia cơng.............................................................. 14
1.3. KẾT LUẬN .............................................................................................. 15
CHƢƠNG II: MẠNG NƠ RON VÀ GIẢI THUẬT DI TRUYỀN GIẢI BÀI

TỐN KHƠNG ĐỒNG NHẤT ..................................................................... 16
2.1. GIỚI THIỆU VỀ MẠNG NƠ -RON ....................................................... 16
2.1.1. Lịch sử phát triển .......................................................................... 16
2.1.2. Mơ hình mạng nơ-ron nhân tạo..................................................... 17
2.2. PHẠM VI ỨNG DỤNG CỦA MẠNG NƠ -RON .................................. 21
2.2.1. Những bài tốn thích hợp .............................................................. 21
2.2.2. Các lĩnh vực ứng dụng mạng nơ-ron ............................................ 22
2.2.3. Ƣu và nhƣợc điểm của mạng nơ-ron ............................................ 22

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




ii

2.3. MẠNG HOPFIELD ................................................................................. 23
2.3.1. Mạng Hopfield rời rạc ................................................................... 24
2.3.2 Mạng Hopfield liên tục: ................................................................. 25
2.3.3. Mạng Hopfield với bài toán tối ƣu ................................................ 27
2.4. GIỚI THIỆU GIẢI THUẬT DI TRUYỀN .............................................. 30
2.4.2. Các bƣớc quan trọng trong việc áp dụng thuật giải di truyền ....... 31
2.4.3. Các phƣơng thức biến hóa của giải thuật di truyền ...................... 32
2.4.4. Các giải thuật di truyền lai ............................................................ 36
2.5. GIẢI THUẬT DI TRUYỀN VỚI BÀI TOÁN TỐI ƢU ......................... 37
2.5.1. Ánh xạ hàm mục tiêu sang hàm phù hợp ...................................... 37
2.5.2. Tỷ lệ hoá giá trị phù hợp ............................................................... 38
2.5.3. Mã hoá tham biến nhờ véctơ nhị phân .......................................... 39
2.5.4. Bài toán tối ƣu ràng buộc .............................................................. 39
2.6. KẾT LUẬN .............................................................................................. 40

CHƢƠNG III: MỘT SỐ THUẬT TOÁN GIẢI BÀI TOÁN PHÂN CƠNG
NHIỆM VỤ TRONG HỆ THỐNG TÍNH TỐN KHƠNG ĐỒNG NHẤT ..41
3.1. MỘT SỐ THUẬT TOÁN GIẢI QUYẾT BÀI TOÁN ............................ 41
3.1.1. Mạng Nơron Hopfield với bài toán TSAP .................................... 42
3.1.2. Thuật toán lai Mạng Noron Hopfield-Giải thuật di truyền .. ........ 45
3.1.3. Thuật tốn lai Mạng Noron Hopfield và mơ phỏng luyện kim ... 47
3.2. THỬ NGHIỆM VÀ KẾT QUẢ TÍNH TỐN ........................................ 49
3.2.1. Các trƣờng hợp thử nghiệm và các thông số metaheuristic .......... 49
3.2.2. GA cho các mục đích so sánh ....................................................... 51
3.2.3. Kết quả và phân tích..................................................................... 52
3.3. KẾT LUẬN ............................................................................................. 53
KẾT LUẬN ..................................................................................................... 55
TÀI LIỆU THAM KHẢO ............................................................................... 57

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




iii

DANH MỤC CÁC BẢNG
Bảng 3.1: Trƣờng hợp thử nghiệm với 15 công việc và 5 bộ xử lý

50

Bảng 3.2: So sánh các kết quả thu đƣợc của HNNGA và HNNSA

53

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




iv

DANH MỤC CÁC HÌNH
Hình 1.1: Mơ hình trên trạm làm việc cơ bản.

4

Hình 1.2: Mơ hình khái niệm hệ thống HC.

7

Hình 2.1: Mơ hình nơ ron sinh học.

17

Hình 2.2 : Mơ hình một Nơ-ron .

20

Hình 2.3: Mơ hình mạng Hopfield.

23

Hình 2.4: Ví dụ về lời giải bái tốn sánh cặp với n = 6

28

Hình 2.5: Lƣu đồ mơ tả cấu trúc của giải thuật di truyền.

32

Hình 2.6: Lƣu đồ thuật tốn của q trình chọn lọc.

33

Hình 2.7: Lƣu đồ thuật tốn q trình lai ghép.

35

Hình 2.8: Lƣu đồ thuật tốn của q trình đột biến .

36

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-1-

LỜI NĨI ĐẦU
Hiện nay, các máy tính có tốc độ xử lý rất cao, đôi khi thực hiện một số
công việc thì chỉ dùng đến một phần nhỏ khả năng của tốc độ đó.
Điều này là bởi vì các cơng việc khác nhau cần đến các u cầu tính tốn rất
khác nhau vì vậy phải có các máy tính có khả năng khác nhau để đáp ứng

yêu cầu. Một máy tính có cấu trúc đơn lẻ, có thể khơng đáp ứng đƣợc tất cả
các u cầu tính tốn cơng việc mà có kết quả tốt nhƣ nhau. Vì vậy, việc sử
dụng một mơi trƣờng tính tốn khơng đồng nhất là rất thích hợp.
Trong hệ thống khơng đồng nhất, gồm có xử lý song song, phân phối,
cụm, lƣới và đƣợc ứng dụng trong các lĩnh vực nhƣ: cơng nghiệp, phịng thí
nghiệm, các cơ quan, trƣờng học, phân tích thiết kế hoặc môi trƣờng thời gian
thực... Một vấn đề nghiên cứu quan trọng đối với hệ thống tính tốn khơng
đồng nhất là làm thế nào để xắp xếp có thứ tự các công việc cần thực hiện để
tối ƣu hiệu xuất trong q trình thực hiện bài tốn phân cơng nhiệm vụ.
Bài tốn phân cơng nhiệm vụ trong hệ thống tính tốn khơng đồng nhất
là một bài tốn khá phức tạp, do trong q trình phân cơng nhiệm vụ cần phải
linh hoạt sử lý các tình huống khác nhau, trong từng hồn cảnh khác nhau.
Tuy nhiên các tính tốn trong mạng nơron Hopfield lại cho phép giải quyết tốt
các bài tốn có nhiều tính phức tạp. Vì vậy, ứng dụng mạng nơron Hopfield,
giải thuật di truyền trong bài tốn phân cơng nhiệm vụ trong hệ thống tính
tốn khơng đồng nhất sẽ hứa hẹn là một giải pháp khả thi.
Nhận thức đƣợc vấn đề đó và có sự gợi ý, định hƣớng của PGS .TS
Đặng Quang Á em đã mạnh dạn nghiên cứu đề tài " Một số thuật toán giải
bài toán phân cơng nhiệm vụ trong hệ thống tính tốn khơng đồng nhất".
Nội dung cơ bản của luận văn gồm có ba chƣơng:

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-2-

Chƣơng I: Giới thiệu sơ lƣợc về hệ thống tính tốn khơng đồng nhất,
mơ hình khái niệm hệ thống khơng đồng nhất, bài tốn phân cơng nhiệm vụ.

Chƣơng II: Giới thiệu sơ lƣợc về mạng nơ ron, mạng nơ ron Hopfield,
giải thuật di truyền, giải thuật di truyền với bài toán tối ƣu.
Chƣơng III: Giới thiệu một số thuật toán giải bài tốn phân cơng nhiệm
vụ trong hệ thống tính tốn khơng đồng nhất. Trong chƣơng này tập trung
giới thiệu phƣơng pháp tiếp cận lai meta-heuristic cho bài toán phân cơng
nhiệm vụ trong hệ thống tính tốn khơng đồng nhất. Phƣơng pháp tiếp cận
bao gồm mạng Noron- Hopfield (HNN) để quản lý các ràng buộc của vấn
đề, và sử dụng hai thuật tốn tìm kiếm tồn cục khác để nâng cao chất lƣợng
của giải pháp đƣợc tìm thấy, đó là: Thuật toán lai ghép mạng Nơron Hopfield
- giải thuật di truyền và thuật tốn lại mạng Nơron Hopfield- mơ phỏng luyện
kim.
Qua luận văn này em xin chân thành cảm ơn: PGS .TS Đặng Quang Á Viện Công nghệ thông tin đã tận tình giúp đỡ, động viên, định hƣớng, hƣớng
dẫn em nghiên cứu và hoàn thành luận văn. Em xin cảm ơn các thầy cô giáo
trong viện Công nghệ thông tin, các thầy cô giáo Trƣờng Đại học Công nghệ
thông tin và truyền thông ĐH Thái nguyên, đã giảng dạy và giúp đỡ em
trong hai năm học vừa qua, cảm ơn sự giúp đỡ nhiệt tình của các bạn đồng
nghiệp.
Xin chân thành cảm ơn!
Thái Nguyên, tháng 06 năm 2012
Ngƣời viết luận văn

Nguyễn Thị Hồng Nhung

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-3-

CHƢƠNG I
GIỚI THIỆU SƠ LƢỢC
VỀ HỆ THỐNG TÍNH TỐN KHƠNG ĐỒNG NHẤT
MỘT SỐ BÀI TỐN PHÂN CƠNG NHIỆM VỤ
1.1. GIỚI THIỆU SƠ LƢỢC VỀ HỆ THỐNG TÍNH TỐN KHƠNG
ĐỒNG NHẤT.
Hệ thống tính tốn khơng đồng nhất hiệu suất cao (sau đây gọi là HC),
trong môi trƣờng này bao gồm các máy với khả năng tính tốn khác nhau kết
nối với nhau bằng các liên kết tốc độ cao. Môi trƣờng này rất thích hợp để
đáp ứng các nhu cầu tính tốn của các nhóm bài tốn lớn, áp dụng đa dạng
cho các ứng dụng. Một yếu tố quan trọng trong việc đạt đƣợc hiệu suất tốt
nhất có thể có từ mơi trƣờng HC là khả năng phân cơng có hiệu quả các ứng
dụng máy móc và lịch trình thực hiện của họ.
1.1.1. Giới thiệu
Máy tính hiệu suất cao hiện nay đơi khi thực hiện một số nhiệm vụ thì
chỉ dùng đến một phần nhỏ khả năng hiệu suất của tốc độ đó. Điều này là bởi
vì các nhiệm vụ khác nhau sẽ có các u cầu tính tốn khác nhau mà kết quả
trong sự cần thiết cho khả năng máy tính khác nhau. Một kiến trúc máy tính
đơn lẻ khơng thể đáp ứng tất cả các u cầu tính tốn các nhiệm vụ khác nhau
tốt nhƣ nhau. Vì vậy, việc sử dụng của một mơi trƣờng tính tốn khơng đồng
nhất là thích hợp hơn.
Hệ thống tính tốn khơng đồng nhất (HC), bao gồm một bộ các loại
máy khác nhau đƣợc kết nối với nhau bằng các liên kết tốc độ cao. Một hệ
thống cung cấp một loạt các khả năng, cấu trúc, phối hợp để thực hiện nhiệm
vụ với yêu cầu thực hiện khác nhau bằng cách khai thác tính khơng đồng

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

-4-

nhất của hệ thống. Một hệ thống HC có thể bao gồm một tập hợp các máy
tính hiệu suất cao. Một nhóm bao gồm các loại máy khác nhau cũng tạo
thành một hệ thống HC. Ngồi ra, một nhóm có thể đƣợc xử lý nhƣ một máy
tính đơn trong một bộ HC. Một hệ thống HC cũng có thể là một phần của một
mạng lƣới lớn hơn.
Một ứng dụng giả định bao gồm một hoặc nhiều nhiệm vụ độc lập (tức
là khơng giao tiếp). Nó cũng đƣợc giả định rằng một số nhiệm vụ có thể đƣợc
tiếp tục phân tách thành hai hoặc nhiều công việc phụ giao tiếp với nhau.
Các cơng việc phụ có dữ liệu phụ thuộc trong số đó, nhƣng có thể đƣợc giao
cho các máy khác nhau thực hiện.

Hình 1.1: Mơ hình trên trạm làm việc cơ bản
Xét hình 1.1: Trong đó cho thấy một ví dụ giả thuyết của một chƣơng
trình ứng dụng với các thành phần khác nhau là tốt nhất phù hợp để thực
hiện một kiến trúc máy tính khác nhau. Các ứng dụng trong ví dụ bao
gồm một nhiệm vụ đƣợc phân tách thành bốn công việc phụ liên tiếp. Ứng
dụng này thực hiện cho 100 đơn vị thời gian trên một máy trạm cơ bản, nơi
mà mỗi công việc phụ là phù hợp nhất với kiến trúc máy tính và có số lƣợng
thời gian chỉ ra bên dƣới trong hình [5].

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-5-

Bằng cách thực hiện toàn bộ ứng dụng trên một nhóm các máy trạm, thời
gian thực hiện của một cụm lớn các cơng việc phụ theo định hƣớng có thể
giảm từ 35 đến 0,3 đơn vị thời gian.Thực hiện việc cải thiện thời gian tổng thể
cho toàn bộ ứng dụng chỉ khoảng gần 2 lần bởi vì các cơng việc phụ khác có
thể khơng đƣợc thích hợp cho một kiến trúc nhóm.
Ngồi ra, việc sử dụng của 4 kiến trúc máy tính khác nhau, để phù hợp
với các yêu cầu tính tốn mà các cơng việc phụ đƣợc giao, có thể dẫn đến
một thực hiện 50 lần nhanh nhƣ máy trạm cơ bản. Điều này là bởi vì mỗi
cơng việc phụ đƣợc thực hiện trên kiến trúc hiệu suất cao mà nó thích hợp
nhất. Thời gian thực hiện đƣợc hiển thị bên dƣới cho các bộ HC trong
hình.1.1 bao gồm chi phí thơng tin liên lạc giữa các máy tính cho mỗi công
việc phụ để truyền dữ liệu đến công việc phụ tiếp theo. Giữa các máy đơn thì
chi phí thông tin liên lạc là không cần thiết trong việc triển khai các nhiệm vụ.
Việc xây dựng một bộ HC với tất cả bốn loại máy, tất nhiên là tốn kém
hơn so với chỉ duy nhất một máy trạm hoặc một nhóm các máy trạm đơn lẻ.
Nhƣ vậy, trạng thái cơng việc ổn định của các ứng dụng phải có đủ để biện
minh cho chi phí của hệ thống.
Một yếu tố quan trọng trong việc đạt đƣợc hiệu suất tốt nhất có thể có
từ mơi trƣờng HC là khả năng chỉ định các nhiệm vụ và công việc phụ để máy
sắp xếp có thứ tự các nhiệm vụ và cơng việc phụ trên mỗi máy một cách hiệu
quả. Việc kết hợp lập kế hoạch cho các nhiệm vụ và công việc phụ đƣợc định
nghĩa là một ánh xạ.
Hai loại khác nhau của ánh xạ là tĩnh và động. Lập ánh xạ tĩnh đƣợc
thực hiện khi các nhiệm vụ đƣợc ánh xạ trong một giai đoạn lập kế hoạch
(hoặc off-line, ví dụ nhƣ, lập kế hoạch lịch trình cho ngày mai). Lập ánh xạ
động để thực hiện các nhiệm vụ đƣợc ánh xạ trong thời gian trực tuyến (Ví

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

-6-

dụ: khi nhiệm vụ đến trong khoảng thời gian ngẫu nhiên và đƣợc ánh xạ khi
chúng đến). Trong cả hai trƣờng hợp, vấn đề lập ánh xạ đã đƣợc chứng minh
là NP - đầy đủ. Nhƣ vậy, sự phát triển các kỹ thuật heuristic để tìm thấy ánh
xạ gần tối ƣu là một lĩnh vực nghiên cứu sơi động.
Hình 1.1. giả thiết về một ví dụ các lợi thế của việc sử dụng một bộ
không đồng nhất các máy, nơi mà thời gian thực hiện các bộ không đồng
nhất bao gồm chi phí truyền thơng giữa các máy.
1.1.2. Mơ hình khái niệm HC
Một trong những mục tiêu nghiên cứu dài hạn của HC là phát triển một
môi trƣờng phần mềm sẽ tự động lập ánh xạ và thực thi các ứng dụng đƣợc
thể hiện trong một ngôn ngữ máy độc lập bâc cao. Phát triển môi trƣờng nhƣ
vậy sẽ tạo điều kiện thuận lợi cho việc sử dụng các bộ HC do tính năng động
của phần mềm ngày càng tăng, bởi vì các lập trình viên khơng cần phải quan
tâm tới các điều khoản của bộ HC, và tăng khả năng thu đƣợc các ánh xạ tốt
hơn so với ngƣời dùng nhận đƣợc bằng các phƣơng pháp học. Do đó, nó sẽ
cải thiện hiệu suất và khuyến khích việc sử dụng của HC nói chung.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-7-

stage
1

Danh mục khả năng của
máy

Danh mục các nhu cầu
cần tính tốn

Phân tích mẫu của
các máy

Mơ tả nhiệm vụ của
các ứng dụng

2

Các máy
trong bộ

Tạo ra các thông số liên quan
đến ứng dụng và máy

Các ứng dụng

Phân tách thành nhiệm
vụ, nhiệm vụ phụ và
các đặc điểm của
chúng

Trạng thái ban đầu,
biện pháp hoạt động

của máy, mạng.

Các đặc điểm thông
tin liên lạc giữa các
máy

Ánh xạ các ứng dụng vào
các máy trong bộ

3

Hiện trạng của các máy
và mạng giá trị của các
biện pháp thực hiện

Kết hợp nhiệm vụ và
nhiệm vụ phụ để máy
thực hiện theo tiến độ

Thực hiện các ứng dụng
trên các máy trong bộ

4

Màm hình hiệu suất
của hệ thống

Hình 1.2: Mơ hình khái niệm hệ thống HC
Hình1.2: Mơ hình hỗ trợ cần thiết để tự động hoá việc sử dụng các hệ
thống HC [10]. Hình Elip đại diện cho các thơng tin và hình chữ nhật đại diện

cho các hành động. Các đƣờng nét đứt đại diện cho các thành phần cần thiết
để thực hiện lập ánh xạ động.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-8-

Một mơ hình khái niệm cho mơi trƣờng HC bằng cách sử dụng một bộ
các máy chuyên dụng đƣợc mô tả trong hình1.2. Mơ hình khái niệm bao
gồm bốn giai đoạn:
Giai đoạn 1: Đƣa ra các loại dự kiến về việc sử dụng thông tin trong các
nhiệm vụ ứng dụng và các máy trong bộ HC, một tập hợp các tham số đƣợc
tạo ra có liên quan đến các yêu cầu tính tốn của các ứng dụng và khả
năng máy của hệ thống HC. Ví dụ, nếu khơng có các ứng dụng, dự kiến sẽ
bao gồm các hoạt động điểm nổi, không cần thiết để mô tả việc thực hiện
điểm nổi của mỗi máy trong bộ phần mềm. Đối với mỗi thông số liên
quan đến các ứng dụng dự kiến và phù hợp với yêu cầu của máy, danh mục
cho các đặc điểm tính tốn và danh mục cho các tính năng kiến trúc của máy
đƣợc rút ra.
Giai đoạn 2: Bao gồm hai phần, mô tả nhiệm vụ và phân tích mẫu. Cơng
tác mơ tả nhiệm vụ là phân tách các ứng dụng thành các nhiệm vụ (và nhiệm
vụ phụ), mỗi nhiệm vụ đó là tính tốn đồng nhất. Các nhiệm vụ khác nhau
có thể có những nhu cầu tính tốn khác nhau. Các u cầu tính tốn cho từng
nhiệm vụ là xác định số lƣợng mã định hình và dữ liệu. Phân tích mẫu đƣợc
sử dụng để xác định số lƣợng hiệu quả của các máy có sẵn trong bộ, thủ tục
thực hiện trên mỗi loại tính tốn đƣợc xem xét.
Một trong các chức năng của giai đoạn 3: Là có thể sử dụng thơng tin

từ giai đoạn 2 để ƣớc tính đƣợc thời gian thực hiện của từng nhiệm vụ và
nhiệm vụ phụ trên mỗi máy trong các bộ HC và các chi phí thơng tin liên
lạc giữa các máy có liên quan. Sau đó, những kết quả này cùng với máy
và mạng liên máy bắt đầu tải các "trạng thái đƣợc sử dụng để tạo ra một ánh
xạ nhiệm vụ và nhiệm vụ phụ cho các máy tính dựa trên các biện pháp hiệu
suất nhất định (ví dụ: giảm thiểu thời gian thực hiện nhiệm vụ tổng thể).

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-9-

Giai đoạn 4: Là việc thực hiện của các ứng dụng nhất định.
Trong các hệ thống việc lập ánh xạ tĩnh đƣợc thực hiện trong giai đoạn
3, ƣớc tính thơng tin về tất cả các nhiệm vụ và công việc phụ để thực hiện
đƣợc biết trƣớc. Việc lập ánh xạ động, thông tin chung về các ứng dụng để
thực hiện có thể đƣợc biết đến nhƣ một ƣu tiên (ví dụ, phân tích mẫu trong
giai đoạn 2), nhƣng cũng có thể là thông tin đặc biệt không đƣợc biết
đến trƣớc. Nhƣ vậy, trong các hệ thống ánh xạ động, thời gian hồn thành
nhiệm vụ và tải / tình trạng của máy tính / mạng máy tính đƣợc theo dõi (thể
hiện bởi đƣờng nét đứt trong hình 1.2). Thơng tin này có thể đƣợc sử dụng để
lập ánh xạ của giai đoạn 3 và cải thiện việc phân công máy và tiến độ thực
hiện, hoặc thay đổi việc lập ánh xạ dựa trên nhu cầu thay đổi ngƣời sử dụng.
HC tự động là một lĩnh vực tƣơng đối mới. Các mô tả nhiệm vụ, phân
tích mẫu và lập ánh xạ đã đƣợc đề xuất nhƣ trên. Để mơ hình khái niệm này
có tính ứng dụng thực tế cao thì có thể đƣa mơ hình vào việc giải quyết các
bài tốn phân công nhiệm vụ cụ thể trong hệ thống.
1.2. GIỚI THIỆU MỘT SỐ BÀI TỐN PHÂN CƠNG NHIỆM VỤ

1.2.1. Bài tốn phân cơng nhiệm vụ trong hệ thống tính tốn khơng
đồng nhất.
a. Giới thiệu
Phân công nhiệm vụ (sau đây gọi là TSAP) là một vấn đề quan trọng
trong hệ thống máy tính phân tán, có khả năng cung cấp, khai thác và cải
thiện hiệu quả tốt hơn các hệ thống xử lý song song [7,9]. Vấn đề phân
công nhiệm vụ nhƣ vậy hay cịn gọi là sự tối ƣu hóa kết hợp, trong đó bao
gồm việc phân cơng một chƣơng trình máy tính với một số nhiệm vụ cho các
bộ vi xử lý thực hiện, với một tập các ràng buộc sao cho tối thiểu hóa một
hàm chi phí. Các ràng buộc của TSAP thƣờng liên quan đến các tài nguyên

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-10-

sẵn có, ứng dụng cho từng bộ vi xử lý trong hệ thống (số lƣợng nhiệm vụ mà
một bộ xử lý đƣợc cho là có thể xử lý, đƣợc giới hạn bởi chính các đặc tính
của nó, ví dụ nhƣ hạn chế về bộ nhớ để tránh quá tải hệ thống). Các hàm chi
phí cho TSAP có thể khác nhau tùy thuộc vào nhu cầu thiết kế, nhƣng nó
thƣờng liên quan đến việc tối thiểu hóa thời gian hồn thành tồn bộ chƣơng
trình, giảm thiểu thời gian liên kết giữa các nhiệm vụ hoặc giảm tải cho bộ vi
xử lý.
TSAP có thể đƣợc định nghĩa nhƣ là 2 đồ thị liên kết một vấn đề và đã
đƣợc chứng minh là bài tốn NP-đầy đủ. Có một số phƣơng pháp tiếp cận
vấn đề phân công nhiệm vụ trong các hệ thống máy tính phân tán nhƣng đặc
biệt quan trọng là các phƣơng pháp thử nghiệm và đánh giá dựa trên phân
tích toán học và lý thuyết đồ thị. Phần lớn các phƣơng pháp tiếp cận này đều

xem xét hai đồ thị trong định nghĩa TSAP. Đầu tiên là một đồ thị đơn mà mỗi
nút đại diện cho một nhiệm vụ, và mỗi cạnh giữa hai nút đại diện cho số
lƣợng thông tin kết nối của hai nhiệm vụ. Thứ hai là một đồ thị mạng trong đó
mỗi nút đại diện cho một máy tính và mỗi cạnh kết nối hai nút đại diện cho
chi phí liên kết giữa hai máy tính. Sử dụng hai đồ thị này, TSAP có thể đƣợc
xem nhƣ là một bài đồ thị kết hợp hay là bài toán NP-đầy đủ.
Phƣơng pháp tiếp cận thử nghiệm và đánh giá đƣợc coi nhƣ là một cách
tiếp cận chính để giải quyết vấn đề TSAP và lập kế hoạch phân cơng nhiệm
vụ. Các thuật tốn di truyền (GA), thuật tốn tiến hóa (EA), mơ phỏng luyện
kim (SA), kỹ thuật meta-heuristics là những kỹ thuật đƣợc sử dụng nhiều
nhất. Trong số các phƣơng pháp tiếp cận meta-heuristics thì phƣơng pháp lai
đƣợc tạo thành bởi sự pha trộn của hai thuật tốn cho kết quả tốt đối với vấn
đề TSAP.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-11-

b. Định nghĩa bài tốn
Một hệ thống tính tốn khơng đồng nhất, đƣợc hình thành bởi một tập
hợp các bộ vi xử lý/máy móc: P = {P1,…PM}, có tốc độ khác nhau nhƣng có
cấu hình giống nhau. Một tập hợp các nhiệm vụ khác nhau T = {T1,…TN}
của một ứng dụng phân tán có thể đƣợc thực hiện trên hệ thống tính tốn
khơng đồng nhất này. Vậy mơ hình TSAP đƣợc xem là việc phân công nhiệm
vụ cho các bộ vi xử lý, theo cách nhƣ vậy cần một hàm tính tốn chi phí nhất
định (nhƣ là thời gian thực hiện và chi phí thơng tin liên lạc của hệ thống) để
đạt đƣợc giá trị nhỏ nhất. Ký hiệu: W = {w1,…wN}: Là số lƣợng tài nguyên

yêu cầu của nhiệm vụ Ti . R = {r1,…rM}: Là nguồn tài nguyên tối đa có sẵn
cho một bộ xử lý Pi nhất định. Sau đó nhiệm vụ Ti có thể đƣợc giao cho vi xử
lý Pj nếu và chỉ nếu tổng chi phí của tất cả các nhiệm vụ trƣớc đây đƣợc
giao cho Pj xử lý cộng với Wi mà ít hơn hoặc bằng so với khả năng tối đa
nguồn tài nguyên tƣơng ứng của các bộ vi xử lý Pj, RJ. Các tài nguyên cần cho
mỗi nhiệm vụ, cũng nhƣ các nguồn tài nguyên tối đa có sẵn cho một bộ xử
lý nhất định, phải đƣợc dự tính trƣớc để hạn chế sự quá tải của bộ vi xử lý.
Nếu sử dụng phƣơng pháp tiếp cận này thì bất kỳ giải pháp nào cũng khả
thi và đảm bảo rằng khơng có bộ xử lý nào trong hệ thống bị quá tải sau khi
giao nhiệm vụ.
Về mặt tốn học, TSAP có thể đƣợc định nghĩa nhƣ sau:
Cho X là một ma trận nhị phân trong đó:
+ Phần tử xij = 1: nếu nhiệm vụ i đã đƣợc giao cho vi xử lý j
+ Phần tử xij = 0 nếu ngƣợc lại.
Tìm X để hàm chi phí f (X) đạt giá trị nhỏ nhất. Với các ràng buộc:
𝑀
𝑗 =1 𝑥𝑖𝑗

= 1 𝑖 = 1,2, … , 𝑁

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

(1.1)




-12-

và

𝑁
𝑖=1 𝑤𝑖 𝑥𝑖𝑗

≤ 𝑟𝑗

(1.2)

𝑗 =1,2,…,𝑀

Lƣu ý rằng, ràng buộc đầu tiên từ công thức (1.1) cần đảm bảo rằng
mỗi công việc phải đƣợc kết hợp với một và chỉ một bộ xử lý, và ràng buộc
thứ hai từ công thức (1.2) cho thấy rằng các ràng buộc nguồn tài nguyên trên
mỗi bộ vi xử lý không thể bị vi phạm.
* Hàm chi phí
Hàm chi phí của TSAP dùng để tính việc giảm thiểu tối đa tổng thời gian
thực hiện và giảm thiểu thời gian kết nối giữa các nhiệm vụ khác nhau trong
bộ vi xử lý và gồm các nội dung sau:
(1) Tất cả các nhiệm vụ có thể đƣợc thực hiện trong tất cả các bộ vi xử
lý. Hai nhiệm vụ đang đƣợc thực hiện trong các bộ vi xử lý khác nhau sẽ phát
sinh một chi phí kết nối. Cơng việc này khơng tính đến chi phí kết nối giữa
các nhiệm vụ đang thực hiện trong cùng một bộ xử lý (xử lý giao tiếp nội bộ).
(2) Xác định một ma trận các chi phí kết nối K, với mỗi phần tử kijpq đại
diện cho chi phí kết nối giữa một nhiệm vụ i đang thực hiện trong bộ vi xử
lý j và một nhiệm vụ p thực hiện trong một bộ xử lý q khác.
(3) Gọi vj gọi là tốc độ trung bình của bộ vi xử lý j tới bộ vi xử lý chậm
nhất trong hệ thống, gọi là tốc độ của bộ xử lý chậm nhất 1. Gọi ti là thời gian
thực hiện một nhiệm vụ i trên bộ xử lý chạy chậm nhất trong hệ thống.
Xác định 𝑡𝑗𝑒 =

𝑖:𝑥 𝑖𝑗 =1 𝑡𝑖 /𝑣𝑗 :

Là tổng số thời gian cần thiết để bộ vi xử

lý j hoàn thành nhiệm vụ đƣợc giao.
Sử dụng các định nghĩa trên, ta có hàm tính tốn chi phí f (X) cho
các TSAP nhƣ sau:

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-13-

𝑀

𝑓 𝑋 =∝1

t ej +∝ 2

𝑗 =1

N
i=1

M
j=1

N
p=1

M
q=1 k ijpq xij
q≠j

xpq

(1.3)

Trong đó ∝1 , ∝2 là hai tham số điều khiển tầm quan trọng cho từng
thành phần của hàm tính tốn chi phí và ∝1 + ∝2 = 1
1.2.2. Bài tốn lập lịch thực hành
Phân lị ch lý thuyết và thƣ̣c hành tại các trƣờng đại học là vấn đề mà các
trƣờng phải đối mặt hàng năm. Vấn đề này bao gồm việc phân công xen kẽ
giữa các môn học bắt buộc và các kì thi để sinh viên có thể tham gia đầy đủ.
Trƣớc tiên nghiên cƣ́u vấn đề cơ bản là sƣ̣ lƣ̣a chọn của sinh viên:
Xét G = {g1, g2, …, gN} trong đó N là tập các nhóm thƣ̣c hành trong một
môn học. Mỗi nhóm gk sẽ đƣợc phân công theo thời khóa biểu (cả ngày và giờ
trong tuần khi phòng thực hành hoạt động) và khả năng tối đa của phòng thực
hành là Cg. Gọi S = {s1, s2,….,sM} trong đó M là tập các sinh viên đƣợc thƣ̣c
hành trong phịng thí nghiêm. Mỡi sinh viên lại có mong muốn vào một nhóm
khác nhau phụ thuộc vào môn học và quan điểm của sinh viên . Giá trị của sở
thích là P sg cho mỡi sinh viên s và nhóm g , sao cho

𝑁
𝑔=1 𝑃𝑠𝑔

= 100 có nghĩa

là mỗi sinh viên phải đạt độ thích thú tối đa P vào một nhóm hoặc vài nhóm

mà họ đƣợc phân cơng, giá trị nhỏ cho các nhóm mà họ khơng thích.
Với các định nghĩa nhƣ trên , việc phân cơng sinh viên vào nhóm đƣợc
phát biểu nhƣ sau (P1):
Tìm X sao cho:
max⁡
(

𝑠

𝑔 𝑥𝑠𝑔. 𝑝𝑠𝑔 )

với ràng buộc
𝑠 𝑥𝑠𝑔

≤ 𝐶𝑔, ∀𝑔.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-14-

Một bổ sung nhỏ nƣ̃a là sự lƣ̣a chọn của giáo viên bên cạnh sở thí ch của
sinh viên. Xem xét biến thể này trong trƣờng hợp số lƣợng sinh viên trong các
nhóm là nhƣ nhau chứ khơng phải nhóm ít nhóm nhiều hoặc nhóm khơng có
sinh viên. Trong trƣờng hợp này, đị nh nghĩ a bài toán nhƣ sau (P2):
max⁡
(

𝑠

𝑔 𝑥𝑠𝑔.

𝑝𝑠𝑔 + 𝐾2 . (1 −

𝛿
𝑡𝑜𝑙

)),

với

𝛿=

𝑁
𝑖=1 (

𝑠 𝑥𝑠𝑔

𝑀 2
𝑠 𝑥𝑠𝑖 − 𝑁 )
𝑁
≤ 𝐶𝑔, ∀𝑔.

Chú ý rằng P1 chỉ dành cho sở thích của sinh viên , nên mợt nhóm có thể
nhiều sinh viên trong khi nhóm khác chỉ có 1 sinh viên. P1 khơng có sự can
thiệp của giáo viên, do vậy trong P 2 vấn đề này đƣợc điều chỉ nh theo hàm s ố
thích nghi làm cân bằng sớ sinh viên trong mỡi nhóm.
1.2.3. Bài tốn lập lịch gia công

Mỗi một chi tiết trong số n chi tiết D1, D2,…,Dn cần phải đƣợc lần lƣợt
gia công trên m máy M1, M2,…,Mm. Thời gian gia công chi tiết Di trên máy
Mj là tij. Hãy tìm lịch (trình tự gia công) các chi tiết trên các máy sao cho việc
hồn thành gia cơng tất cả các chi tiết là sớm nhất có thể đƣợc.
Xét bài tốn trên với thêm giả thiết là các chi tiết phải đƣợc gia cơng một
cách liên tục, nghĩa là q trình gia cơng của mỗi một chi tiết cần phải đƣợc
tiến hành một cách liên tục hết máy này sang máy khác không cho phép có
khoảng thời gian dừng khi chuyển từ máy này sang máy khác. Tình huống
nhƣ vậy rất hay gặp trong các ngành sản xuất cơng nghiệp .

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-15-

Rõ ràng mỗi một lịch gia công các chi tiết trên các máy trong tình huống
nhƣ vậy sẽ tƣơng ứng với một hoán vị của 𝜋 = (𝜋(1), 𝜋(2),…, 𝜋(n)) của n số
tự nhiên 1,2,…,n. Thời gian hoàn thành theo lịch trên đƣợc tính bởi hàm số:
𝑛−1

𝑓 𝜋 =

𝑚

𝑐𝜋

𝑗 ,𝜋(𝑗 +1)

𝑗 =1

+

𝑡𝑘,𝜋(𝑛)
𝑘=1

Trong đó: cij = Sj - Si ; Sj là thời điểm bắt đầu thực hiện việc gia công chi
tiết j (i,j = 1,2,…,n). Ý nghĩa của hệ số cij có thể giải thích nhƣ sau: nó là tổng
thời gian gián đoạn(đƣợc tính từ khi bắt đầu gia cơng chi tiết i) gây ra bởi chi
tiết j khi nó đƣợc gia công sau chi tiết i trong lịch gia cơng. Vì vậy cij có thể
đƣợc tính theo cơng thức:
cij = max [

𝑘
𝑙=1 𝑡𝑙𝑗

-

𝑘−1
𝑙=1 𝑡𝑙𝑖

] I,j =1,2,…,n

Vì vậy bài tốn đặt ra dẫn về bài toán tối ƣu tổ hợp sau:
min{ f(𝜋): 𝜋 ∈ Π}
Trong thực tế lịch gia công thƣờng cịn phải thỏa mãm thêm nhiều điều
kiện khác. Vì những ứng dụng của vấn đề này mà trong tối ƣu hóa tổ hợp đã
hình thành một lĩnh vực gọi là lý thuyết lập lịch( hay quy hoạch lịch).
1.3. KẾT LUẬN

Nội dung của chƣơng tập trung vào giới thiệu sơ lƣợc về hệ thống tính
tốn khơng đồng nhất, cách tiếp cận mơ hình hệ thống tính tốn khơng đồng
nhất vào việc giải quyết bài toán cụ thể.
Giới thiệu một số bài tốn phân cơng nhiệm vụ: Bài tốn phân cơng
nhiệm vụ trong hệ thống tính tốn khơng đồng nhất, bài tốn phân cơng lịch
thực hành ứng dụng trong các trƣờng Đại học, bài tốn lập lịch gia cơng chi
tiết.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-16-

CHƢƠNG II
MẠNG NƠ RON VÀ GIẢI THUẬT DI TRUYỀN GIẢI
BÀI TỐN TRONG HỆ THỐNG TÍNH TỐN
KHƠNG ĐỒNG NHẤT
2.1. GIỚI THIỆU VỀ MẠNG NƠ -RON
2.1.1. Lịch sử phát triển
Quá trình nghiên cứu và phát triển mạng nơ-ron nhân tạo có thể chia
thành bốn giai đoạn nhƣ sau:
+ Giai đoạn một: Có thể tính từ nghiên cứu của William (1890) về tâm lý
học với sự liên kết các nơ-ron thần kinh. Năm 1940, MeCulloch và Pitts đã
cho biết: nơ-ron có thể đƣợc mơ hình hố nhƣ thiết bị ngƣỡng (giới hạn) để
thực hiện các phép tính logic và mơ hình mạng nơ-ron của Mc Culloch-Pitts
cùng với giải thuật huấn luyện mạng của Hebb ra đời năm 1943.
+ Giai đoạn hai: Vào khoảng gần những năm 1960, một số mơ hình nơron hồn thiện hơn đã đƣợc đƣa ra nhƣ: mơ hình Perceptron của Rosenblatt
(1958), Adaline của Widrow (1962).

+ Giai đoạn ba: Có thể tính vào khoảng đầu thập niên 80. Những đóng
góp lớn cho mạng nơ-ron trong giai đoạn này phải kể đến Grossberg,
Kohonen, Rumelhart và Hopfield. Trong đó đóng góp lớn của Hopfield gồm
hai mạng phản hồi: mạng rời rạc năm 1982 và mạng liên tục năm 1984. Đặc
biệt, ông đã dự kiến nhiều khả năng tính tốn lớn của mạng mà một nơ-ron
khơng có khả năng đó.
+ Giai đoạn bốn: Tính từ năm 1987 đến nay, hàng năm thế giới đều mở
hội nghị toàn cầu chuyên ngành nơ-ron IJCNN (International Joint
Conference on Neural Networks). Rất nhiều cơng trình đƣợc nghiên cứu để ứng

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-17-

dụng mạng nơ-ron vào các lĩnh vực, ví dụ nhƣ: kỹ thuật tính, tối ƣu, sinh học, y
học, thống kê, giao thơng, hố học… Cho đến nay, mạng nơ-ron đã tìm đƣợc và
khẳng định đƣợc vị trí của mình trong rất nhiều ứng dụng khác nhau [2].
2.1.2. Mơ hình mạng nơ-ron nhân tạo
2.1.2.1. Nơ-ron sinh học
Hệ thần kinh ở ngƣời có khoảng 1010 tế bào thần kinh đƣợc gọi là các
nơ-ron. Mỗi nơ-ron gồm có ba phần: Thân nơ-ron với nhân ở bên trong
(soma), một đầu thần kinh ra (axon) và một hệ thống hình cây thần kinh
(dendrite). Có nhiều loại nơ-ron khác nhau về kích thƣớc và khả năng thu
phát tín hiệu. Tuy nhiên, chúng có cấu trúc và nguyên lý hoạt động chung.
Hình 2.1 là một hình ảnh đơn giản hoá của một loại nơ-ron nhƣ vậy. Trong
thực tế có rất nhiều dây thần kinh vào và chúng bao phủ một diện tích rất lớn
(0.25 mm2) để nhận các tín hiệu từ các nơ-ron khác. Đầu thần kinh ra đƣợc rẽ

nhánh nhằm chuyển giao tín hiệu từ thân nơ-ron tới nơ-ron khác. Các nhánh
của đầu thần kinh đƣợc nối với các khớp thần kinh (synapse). Các khớp thần
kinh này đƣợc nối với thần kinh vào của các nơ-ron khác. Thêm vào đó, các
nơ-ron có thể sửa đổi tín hiệu tại các khớp, trong các nơ-ron nhân tạo đƣợc
gọi là trọng số.
Hoạt động của nơ-ron sinh học có thể mơ tả tóm tắt nhƣ sau:
Khớp nối dây thần
kinh ( Đầu Vào)

Trục

Nhân

Đầu ra

Tế bào

Hình 2.1. Mơ hình nơ ron sinh học

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên




-18-

Mỗi nơ-ron nhận tín hiệu vào từ các tế bào thần kinh khác. Chúng tích
hợp các tín hiệu vào, khi tổng tín hiệu vƣợt q một ngƣỡng nào đó chúng tạo
tín hiệu ra và gửi tín hiệu này tới các nơ-ron khác thông qua dây thần kinh.
Các nơ-ron liên kết với nhau thành mạng. Mức độ bền vững của các liên kết

này xác định một hệ số gọi là trọng số liên kết.
2.1.2.2. Nơ-ron nhân tạo
+ Trọng số và tổng tín hiệu đầu vào:
Mơ phỏng nơ-ron sinh học, ta có nơ-ron nhân tạo. Mỗi nơ-ron có rất
nhiều dây thần kinh vào, nghĩa là mỗi nơ-ron có thể tiếp nhận đồng thời nhiều
tín hiệu. Giả sử tại nơ-ron i có N tín hiệu vào, mỗi tín hiệu vào S j đƣợc gán
một trọng số Wij tƣơng ứng. Ta có thể ƣớc lƣợng tổng tín hiệu đi vào nơ-ron
neti theo một số dạng sau:

(i)

Dạng tuyến tính:
N

neti   wij s j ,

(2.1)

j 1

(ii)

Dạng toàn phƣơng:
N

neti   wij s 2j ,

(2.2)

j 1

(iii)

Dạng mặt cầu:

neti  

2

 s

2

N

j 1

j

 wij  ,

(2.3)

trong đó  và wij  j  1, N  lần lƣợt là bán kính và tâm cầu.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

-19-

+ Hàm kích hoạt
Hàm biến đổi tín hiệu đầu vào net cho tín hiệu đầu ra out đƣợc gọi là
hàm kích hoạt. Hàm này có đặc điểm là khơng âm và bị chặn. Có nhiều dạng
hàm kích hoạt, ngƣời ta thƣờng sử dụng một hàm kích hoạt chung cho tồn
mạng.
Một số hàm kích hoạt thƣờng đƣợc sử dụng:
(i)

Hàm McCuloch-Pitts:
1 nÕu net  
out  f net  
0 nÕu net  

(2.4)

ở đây  là ngƣỡng.
(ii)

Hàm McCuloch-Pitts trễ:
1 nÕu net  UTP

out  f net  0 nÕu net  LTP
 f net  nÕu kh¸c


(2.5)

ở đây UTP>LTP. Trong đó:

UTP là ngƣỡng trên (Upper Trip Point).
LTP là ngƣỡng dƣới (Lower Trip Point).
(iii)

Hàm Sigmoid:
out  f net 

1

1 e

  net  

,

(2.6)

trong đó 𝛼 > 0 là hằng số xác định độ nghiêng của hàm.
 Nút bias:
Là một nút thêm vào nhằm tăng khả năng thích nghi của mạng nơ-ron
trong q trình học. Trong các mạng nơ-ron có sử dụng bias, mỗi nơ-ron có
thể có một trọng số tƣơng ứng với bias. Trong số này ln có giá trị là 1.

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên