Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp nhận dạng vị trí rôbốt hai khâu

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
5

LỜI CAM ĐOAN



Tôi xin cam đoan luận văn này là công trình do tôi tổng hợp và nghiên cứu.
Trong luận văn có sử dụng một số tài liệu tham khảo như đã nêu trong phần tài liệu
tham khảo.

Tác giả Luận văn




Nguyễn Đắc Nam




Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
6

LỜI NÓI ĐẦU

Trong hệ thống điều khiển hiện đại, có rất nhiều phương pháp điều khiển
đảm bảo được tốt chất lượng điều khiển. Trong điều khiển tự động, để điều khiển
chính xác đối tượng khi chưa biết rõ được thông số, trước tiên ta phải hiểu rõ đối
tượng đó. Đặc biệt đối với các đối tượng phi tuyến ta cần dạng được đặc tính vào-ra
của nó để đảm bảo tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác
hơn. Những bộ điều khiển hiện đại thường được sử dụng như lôgic mờ, mạng
nơron, mạng nơron mờ để nhận dạng và điều khiển thích nghi hệ thống phi tuyến.
Trong thời gian của khoá học cao học, chuyên ngành Tự động hoá tại trường
Đại Học Kỹ Thuật Công Nghiệp Thái Nguyên, được sự tạo điều kiện giúp đỡ của
nhà trường và Tiến Sĩ Phạm Hữu Đức Dục em đã lựa chọn đề tài của mình là:
“Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp nhận dạng vị trí
rôbốt hai khâu”.
Trong khoảng 6 tháng thực hiện đề tài, được sự hướng dẫn nhiệt tình của
Tiến Sĩ Phạm Hữu Đức Dục, sự giúp đỡ của bạn bè cùng với sự nỗ lực, cố gắng của
mình bản luận văn đến nay đã hoàn thành.
Dù đã có nhiều cố gắng, xong bản luận văn vẫn không tránh khỏi những
thiếu sót và hạn chế, em rất mong nhận được sự góp ý của các thầy để bản luận văn
được tốt hơn.
Em xin trân trọng cảm ơn!
Học viên


Nguyễn Đắc Nam


Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
7
MỤC LỤC

Trang
Lời cam đoan.

Danh mục các ký hiệu, bảng, các chữ viết tắt.

Danh mục các hình vẽ.

PHẦN MỞ ĐÀU.
1
Chƣơng I- TÔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO.
5
1.1. Lịch sử phát triển của mạng nơ ron nhân tạo.
5
1.2. Các tính chất của mạng nơ ron nhân tạo.
5
1.3. Mô hình nơ ron.
6
1.3.1.Mô hình nơ ron sinh học. 6
1.3.1.1. chức năng, tổ chức và hoạt động của bộ não con người. 6
1.3.1.2. Mạng nơ ron sinh học. 9
1.3.2. Mạng nơ ron nhân tạo. 10
1.3.2.1. Khái niệm. 10
1.3.2.2. Phân loại mạng nơ ron. 13
1.3.2.3. Các luật học. 15
1.3.3. Mô hình toán học mạng nơ ron truyền thẳng và mạng nơ ron hồi quy. 19
1.3.3.1. Mạng nơ ron truyền thẳng. 19
1.3.3.2. Mạng nơ ron hồi quy. 22
1.4. Quá trình huấn luyện mạng nơ ron nhiều lớp.
24

1.4.1. Quá trình thực hiện. 24
1.4.2. Quy tắc chuỗi. 25
1.4.3. Độ chính xác của lan truyền ngược. 27
1.4.4. Biến thể của lan tryền ngược. 27
1.4.5. Tổng quát.(phép nội suy và phép ngoại suy). 28
1.5. Công nghệ phân cứng sử dụng mạng nơ ron.
31
1.6. So sánh khả năng của mạng nơ ron với mạch logic
32

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
8
KẾT LUẬN CHƢƠNG 1.
33
Chƣơng II- Các phƣơng pháp ứng dụng mạng nơ ron trong nhận dạng và
điều khiển.

34
2.1. Các vấn đề chung.
34
2.2. Các phƣơng pháp ứng dụng mạng nơ ron trong nhận dạng.
34
2.2.1. Cơ sở lý luận. 34
2.2.2. Mô tả toán học của đối tượng ở miền rời rạc. 36
2.2.3. Mô hình dùng mạng nơ ron. 39
2.2.3.1. Mô hình song song. 39
2.2.3.2. Mô hình nối tiếp song song. 39
2.2.3.3. Mô hình ngược trực tiếp. 40

2.2.3.4. Mô hình tổ hợp. 41
2.3. Các phƣơng pháp ứng dụng mạng nơ ron trong điều khiển. 42
2.3.1. Bộ điều khiển đảm bảo tính ổn định vững chắc. 42
2.3.2. Bộ điều khiển thích nghi ngược trực tiếp. 42
2.3.3. Điều khiển phi tuyến mô hình trong. 44
2.3.4. Điều khiển dự báo. 44
2.3.5. Điều khiển thích nghi theo mô hình mẫu (MRAC) 45
2.3.6. Điều khiển thích nghi tự chỉnh. 46
2.3.7. Điều khiển thích nghi bằng mạng nơ ron hồi quy tuyến tính. 46
2.3.8. Điều khiển thích nghi ổn định trực tiếp. 48
2.3.9. Điều khiển tối ưu. 49
2.3.10. Phương pháp bảng tra. 50
2.3.11. Điều khiển lọc. 50
2.4. Những hạn chế và chú ý.
51
KẾT LUẬN CHƢƠNG 2
52
Chƣơng III - Ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng
vị trí rô bốt hai khâu.

53
3.1. Mạng nơ ron truyền thẳng nhiều lớp
53

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
9
3.1.1. Sơ đồ khối mạng nơ ron truyền thẳng nhiều lớp. 53
3.1.2. Thuật toán học lan truyền ngược của sai lệch. 53

3.2. Ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô
bốt hai khâu.

57
3.2.1. Phân tích sơ đồ ứng dụng. 57
3.2.2. Mô tả động học của rô bốt hai khâu. 59
3.2.3. Thiết lập mạng nơ ron nhận dạng. 60
3.2.3.1. Thiết lập sơ đồ nhận dạng 60
3.2.4.2. Quá trình nhận dạng. 63
3.2.4.3. Kết quả mô phỏng và nhận dạng. 65
3.2.4.4. Kết luận chương III 74
KẾT LUẬN CHUNG
75

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
10
DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ.

STT Ký hiệu Diễn giải tên hình vẽ.
1 Hình 1 Sơ đồ khối điều khiển thích nghi rô bốt hai khâu.
2 Hình 2 Sơ đồ ứng dụng mạng nơ ron nhận dạng vị trí rô bốt hai khâu.
3 Hình 1.1 Mô hình hai nơ ron sinh học.
4 Hình 1.2 Mô hình nơ ron nhân tạo.
5 Hình 1.3a Biểu diễn hình học của hàm Rump
6 Hình 1.3b Biểu diễn hình học của hàm bước nhảy.
7 Hình 1.3c Biểu diễn hình học của hàm giới hạn cứng.
8 Hình 1.3d Biểu diễn hình học của hàm Sigmoid hai cực.
9 Hình 1.4a Mạng một lớp truyền thẳng.
10 Hình 1.4b Mạng nhiều lớp truyền thẳng.
11 Hình 1.4c Mạng nơ ron có phản hồi.
12 Hình 1.4d Mạng nơ ron hồi quy.
13 Hình 1.5 Cấu trúc huấn luyện mạng nơ ron.
14 Hình 1.6 Mô hình học có giám sát và học củng cố.
15 Hình 1.7 Mô hình học không có giám sát.
16 Hình 1.8 Sơ đồ cấu trúc chung của quá trình học.
17 Hình 1.9 Cấu trúc mạng nơ ron một lớp.
18 Hình 1.10 Ký hiệu mạng R đầu vào và S nơ ron.
19 Hình 1.11 Ký hiệu mạng một lớp.
20 Hình 1.12 Cấu trúc mạng nơ ron 3 lớp.
21 Hình 1.13 Ký hiệu mạng nơ ron 3 lớp.
22 Hình 1.14 Ký hiệu mạng một l lớp hồi quy.

23 Hình 1.15 Ký hiệu mạng nơ ron 3 lớp hồi quy.
24 Hình 1.16a
Mạng được huấn luyện theo phương pháp bình phương sai
lệch cực tiểu.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
11
PHẦN MỞ ĐẦU
1.Lý do lựa chọn đề tài.
Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên
ta phải hiểu rõ đối tượng đó. Đối với đối tượng là phi tuyến như rô bốt, ta cần thực
hiện nhận dạng đặc tính vào ra của nó để đảm bảo tạo ra tín hiệu điều khiển thích
nghi được lựa chọn chính xác hơn. Hiện nay thường sử dụng logic mờ (Fuzzy
Logic), mạng nơ ron ( Neural Networks), và mạng no ron mờ (Fuzzy Neural
Networks) để nhận dạng và điều khiển thích nghi hệ thống phi tuyến.Trong khuôn
khổ của khoá học Cao học, chuyên ngành Tự động hoá tại trường Đại học Kỹ thuật
Công nghiệp Thái Nguyên, được sự tạo điều kiện giúp đỡ của nhà trường và Tiến sĩ
Phạm Hữu Đức Dục, em đã lựa chọn đề tài của mình là “Nghiên cứu ứng dụng
mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô bốt hai khâu”.
2.Mục đích của đề tài.
Nghiên cứu việc ứng dụng mạng nơ ron trong quá trình nhận dạng và điều
khiển hệ thống phi tuyến nói chung. Đặc biệt đi sâu nghiên cứu mạng nơ ron truyền
thẳng nhiều lớp nhận dạng đặc tính vào – ra của rô bốt hai khâu, làm cơ sở cho việc
tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác hơn.
3. Đối tƣợng và phạm vi nghiên cứu.
a/ Đối tượng nghiên cứu.
Đối tượng nghiên cứu của đề tài là sử dụng mạng nơ ron truyền thẳng nhiều
lớp nhận dạng vị trí hai khâu rô bốt.

Sơ đồ hình 1 mô tả một mô hình điều chỉnh thích nghi rô bốt hai khâu theo mô hình
mẫu.







Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
12












Sơ đồ điều khiển được thực hiện theo hai giai đoạn sau đây:
Giai đoạn 1: Sử dụng mạng nơ ron nhận dạng vị trí của rô bốt hai khâu, khi
đó các khoá K mở. Căn cứ vào sai lệch e
1
giữa tín hiệu ra của rô bốt (y) và tín hiệu

ra của mạng nơ ron nhận dạng(y
mh
), mạng nơ ron tiến hành học để nhận dạng đặc
tính vào ra y của rô bốt hai khâu, sao cho tín hiệu mạng nơ ron nhận dạng y
mh
bám
theo được tín hiệu ra y của rô bốt hai khâu. Với e
1
= y- y
mh

Giai đoạn 2: Căn cứ vào kết quả nhận dạng ta có được mạng nơ ron có thể
thay thế gần đúng cho rô bốt hai khâu từ đó tiến hành điều khiển thích nghi rô bôt
hai khâu theo mô hình mẫu. Các khoá K đóng, dựa vào bộ thông số sai lệch (e
2
,
2

e

) giữa tín hiệu đầu ra của mô hình mẫu y
m
và tín hiệu đầu ra của mạng nơ ron nhận
dạng y
mh
, bộ điều khiển thực hiện các luật học thích nghi tạo ra tín hiệu điều khiển u
với mục đích tạo ra được tín hiệu đầu ra của mạng nhận dạng bám theo được tín
hiệu đầu ra của mô hình. Với e
2
=

y
m
– y
mh
và ė
2
là đạo hàm cấp một của sai lệch e
2
Với thời gian nghiên cứu có hạn, luận văn này chỉ đi sâu nghiên cứu ứng dụng
mạng nơ ron nhiều lớp truyền thẳng nhận dạng vị trí rô bốt hai khâu.

b/ Phạm vi nghiên cứu của đề tài.
-
y
mh
-
e
2
e
1
y
y
mh
y
m
u
K

Bộ điều
khiển
Mô hình mẫu
Rôbốt hai khâu
Mạng nơron nhận
dạng
K
x
d
e
2
ė
2
Hình 1. Sơ đồ khối điều khiển thích nghi rô bốt hai khâu

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
13
Chương I. Tổng quan về mạng nơ ron nhân tạo:
Phân tích tổng quan nề mạng nơ ron bao gồm : Lịch sử phát triển, kết cấu
của các mạng nơ ron, vai trò của các mạng nơ ron trong điều khiển.
Chương II. Các phương pháp ứng dụng mạng nơ ron trong nhận dạng và điều
khiển:
Trình bày các phương pháp ứng dụng mô hình mạng nơ ron trong nhận dạng
và điều khiển.
Chương III. Ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô bốt
hai khâu.
Đưa ra mô hình nhận dạng vị trí rô bốt hai khâu, từ đó phân tích, lựa chọn
mạng nơ ron truyền thẳng nhiều lớp với luật học lan truyền ngược tiến hành nhận

dạng đặc tính vào ra của rô bốt hai khâu với sơ đồ tổng quát như hình 2:












4. Ý nghĩa khoa học và thực tiễn của đề tài.
Với ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng quỹ đạo
chuyển động trong miền thời gian thực của rô bốt hai khâu. Sau khi nhận dạng được
vị trí của rô bốt hai khâu, ta có thể thay thế gần đúng mô hình vị trí rô bốt hai khâu
bằng một mạng nơ ron truyền thẳng, từ đó căn cứ vào các thông số mô phỏng của
y
mh
y
e
1
x
d


Robot hai khâu
(Mô hình tính toán vị trí)

Mạng nơ ron nhận dạng
Hình2. Sơ đồ ứng dụng mạng nơ ron nhận dạng vị trí rô bốt hai khâu

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
14
mạng nơ ron ta tính toán được tín hiệu điều chỉnh nhằm điều khiển thích nghi vị trí
của rô bốt hai khâu phù hợp với những yêu cầu cần thiết của điều chỉnh thích nghi
vị trí rô bốt hai khâu.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
15
CHƢƠNG I
TỔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO
Mạng nơ ron nhân tạo (Artificial Neural Networks) là hệ thống được xây
dựng dựa trên nguyên tắc cấu tạo của bộ não người. Nó cho chúng ta một hướng
mới trong nghiên cứu hệ thống thông tin. Mạng nơ ron nhân tạo có thể thực hiện
các bài toán: Tính toán gần đúng các hàm số, thực hiện các bài toán tối ưu, nhận
mẫu, nhận dạng và điều khiển đối tượng hiệu quả hơn so với các phương pháp
truyền thống.
Mạng nơ ron nhân tạo có một số lượng lớn mối liên kết của các phần tử biến

đổi có liên kết song song. Nó có hành vi tương tự như bộ não người với khả năng
học ( Learning ), gọi lại (Recall) và tổng hợp thông tin từ sự luyện tập của các tập
mẫu dữ liệu. Các phần tử biến đổi của mạng nơ ron nhân tạo được gọi là các nơ ron
nhân tạo hoặc gọi tắt là nơ ron
1.1 LỊCH SỬ PHÁT TRIỂN CỦA MẠNG NƠ RON NHÂN TẠO.
Mạng nơ ron nhân tạo đã có một lịch sử phát triển lâu dài. Năm 1943,
McCulloch và Pitts đã đưa ra khả năng liên kết và một số liên kết cơ bản của mạng
nơ ron. Năm1949, Hebb đã đưa ra các luật thích nghi trong mạng nơ ron. Năm
1958, Rosenbatt đưa ra cấu trúc Perception. Năm 1969, Minsky và Papert phân tích
sự đúng đắn của Perception, họ đã chứng minh các tính chất và chỉ rõ các giới hạn
của một số mô hình. Năm 1976, Grossberg dựa vào tính chất sinh học đã đưa ra một
số cấu trúc của hệ động học phi tuyến với các tính chất mới. Năm 1982, Rumelhart
đưa ra mô hình song song một số thuật toán và kết quả. Thuật toán học lan truyền
ngược được Rumelhart, Hinton, Williams (1986) đề xuất luyện mạng nơ ron nhiều
lớp. Những năm gần đây, nhiều tác giả đã đề xuất nhiều loại cấu trúc mạng nơ ron
mới. Mạng nơ ron được ứng dụng trong nhiều lĩnh vực kinh tế kỹ thuật khoa học vũ
trụ (Hecht – Nielsen, 1988)
1.2 CÁC TÍNH CHẤT CỦA MẠNG NƠ RON NHÂN TẠO.
Là hệ phi tuyến: Mạng nơ ron có khả năng to lớn trong lĩnh vực nhận dạng
và điều khiển các đối tượng phi tuyến.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
16
Là hệ xử lý song song: Mạng nơ ron có cấu trúc song song, do đó có độ tính
toán rất cao rất phù hợp với lĩnh vực nhận dạng và điều khiển.
Là hệ học và thích nghi: Mạng được luyện từ các số liệu quá khứ và có khả
năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on- line.
Là hệ nhiều biến, nhiều đầu vào, nhiều đầu ra (MIMO), rất tiện dùng khi đối

tượng điều khiển có nhiều biến số.
1.3 MÔ HÌNH NƠ RON
1.3.1.Mô hình nơ ron sinh học.
1.3.1.1 Chức năng, tổ chức và hoạt động của bộ não con người.
Bộ não người có chức năng hết sức quan trọng trong đời sống của con người.
Nó gần như kiểm soát hầu hết mọi hành vi của con người từ các hoạt động cơ bắp
đơn giản đến những hoạt động phức tạp như học tập, nhớ, suy luận, tư duy, sáng
tạo, ...
Bộ não người được hình thành từ sự liên kết của khoảng 10
11
phần tử (tế
bào), trong đó có khoảng 10
10
phần tử là nơ ron, số còn lại khoảng 9*10
10
phần tử là
các tế bào thần kinh đệm và chúng có nhiệm vụ phục vụ cũng như hỗ trợ cho các nơ
ron. Thông thường một bộ não trung bình cân nặng khoảng 1,5 kg và có thể tích là
235 cm
3
. Cho đến nay người ta vẫn chưa thực sự biết rõ cấu tạo chi tiết của bộ não.
Tuy vậy về đại thể thì cấu tạo não bộ được phân chia ra thành nhiều vùng khác
nhau. Mỗi vùng có thể kiểm soát một hay nhiều hoạt động của con người.
Các đặc tính của não người:
- Tính phân lớp: Các vùng trong bộ não được phân thành các lớp, thông tin
được xử lý theo các tầng.
- Tính môđun: Các vùng của bộ nhớ được phân thành các môđun được mã
hoá bằng các định nghĩa mối quan hệ tích hợp giữa các tín hiệu vào qua các giác
quan và các tín hiệu ra.
- Mối liên kết: Liên kết giữa các lớp dẫn đến các dữ liệu dùng chung xem

như các liên hệ phản hồi khi truyền tín hiệu.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
17
- Sử lý phân tán các tín hiệu vào: Các tín hiệu vào được truyền qua nhiều
kênh thông tin khác nhau, được xử lý bằng các phương pháp đặc biệt.
Bộ não có cấu trúc nhiều lớp. Lớp bên ngoài thường thấy như là các nếp
nhăn, là lớp có cấu tạo phức tạp nhất. Đây là nơi kiểm soát và phát sinh các hành
động phức tạp như nghe, nhìn, tư duy, ...
Tín hiệu thu, nhận ở các dạng xung điện – Màng (Membrane): Mỗi tế bào
thần kinh có một màng, có nhiệm vụ giữ cho các chất nuôi tế bào không tràn ra
ngoài. Do đó, các phần tử nội bào và ngoại bào không bằng nhau, giữa chúng có
dung dịch muối lỏng làm cho chúng bị phân rã thành các nguyên tử âm và dương.
Các nguyên tử dương trong màng tạo ra điện thế màng, nó tồn tại trong trạng thái
cân bằng lực: lực đẩy các nguyên tử dương ra khỏi tế bào bằng với lực hút chúng
vào trong tế bào.
Điện thế màng là phần tử quan trọng trong quá trình truyền tin của hệ thần
kinh. Khi thay đổi khả năng thẩm thấu ion của màng thì điện thế màng của tế bào bị
thay đổi và tiến tới một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này
gây ra phản ứng kích thích làm thay đổi khả năng thẩm thấu ion của tế bào tiếp
theo.
Xử lý thông tin trong bộ não:
Thông tin được tiếp nhận từ các giác quanvà chuyển vào các tế bào thần kinh
vận động vào các tế bào cơ. Mỗi tế bào thần kinh tiếp nhận thông tin, điện thế sẽ
tăng trong thần kinh cảm giác, nếu điện thế này vượt ngưỡng nó tạo ra dòng điện
trong tế bào thần kinh cảm giác, ý nghĩa dòng điện đó được giải mã và lưu ở thần
kinh trung ương, kết quả xử lý thông tin được gửi đến các tế bào cơ.
Các tế bào thần kinh đưa các tín hiệu giống nhau, do đó không thể phân biệt

được đó là của loài động vật nguyên thuỷ hay của một giáo sư. Các khớp thần kinh
chỉ cho các tín hiệu phù hợp qua chúng, còn lại các tín hiệu khác bị cản lại. Lượng
tín hiệu được biến đổi được gọi là cường độ khớp thần kinh đó chính là trọng số của
nơ ron trong mạng nơ ron nhân tạo.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
18
Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng lớn lao. Có
thể trả lời ngắn gọn là sư giống nhau của các tín hiệu của các tế bào thần kinh đơn
lẻ, do đó chức năng thực sự của bộ não không phụ thuộc vào vai trò của một tế bào
thần kinh đơn, mà phụ thuộc vào toàn bộ các tế bào thần kinh hay các tế bào thần
kinh liên kết với nhau thành một mạng thần kinh hay một mạng nơ ron (Neural
Networks)
Hoạt động của bộ não nói riêng và của hệ thần kinh nói chung đã được con
người quan tâm nghiên cứu từ lâu nhưng cho đến nay người ta vẫn chưa hiểu rõ
thực sự về hoạt động của bộ não và hệ thần kinh. Đặc biệt là trong các hoạt động
liên quan đến trí óc như suy nghĩ, nhớ, sáng tạo, ... Tuy thế cho đến nay, người ta
cũng có những hiểu biết căn bản về hoạt động cấp thấp của não.
Mỗi nơ ron liên kết với khoảng 10
4
nơ ron khác, cho nên khi hoạt động thì bộ
não hoạt động một cách tổng lực và đạt hiệu quả cao. Nói một cách khác là các
phần tử của não hoạt động một cách song song và tương tác hết sức tinh vi phức
tạp, hiệu quả hoạt động thường rất cao, nhất là trong các vấn đề phức tạp. Về tốc độ
xử lý của bộ não người rất nhanh mặc dù tốc độ xử lý của mỗi nơ ron (có thể xem
như phần tử xử lý hay phần tử tính) là rất chậm so với xử lý của các cổng logic
silicon trong các chip vi xử lý (10
-3

giây so với 10
-10
giây).
Hoạt động của cả hệ thống thần kinh bao gồm não bộ và các giác quan như
sau:
Trước hết con người bị kích thích bởi giác quan từ bên ngoài hoặc trong cơ
thể. Sự kích thích đó được biến thành các xung điện bởi chính các giác quan tiếp
nhận kích thích. Những tín hiệu này được chuyển về trung ương thần kinh là não bộ
để xử lý. Trong thực tế não bộ liên tục nhận thông tin xử lý, đánh giá và so sánh với
thông tin lưu trữ để đưa ra các quyết định thích đáng.
Những mệnh lệnh cần thiết được phát sinh và gửi đến những bộ phận thi
hành thích hợp như các cơ tay, chân, ... Những bộ phận thi hành biến những xung
điện thành dữ liệu xuất của hệ thống.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
19
Tóm lại: Bộ não người có chức năng hết sức quan trọng đối với đời sống của
con người. Cấu tạo của nó rất phức tạp, tinh vi bởi được tạo thành từ mạng nơ ron
có hàng chục tỉ tế bào với mức độ liên kết giữa các nơ ron là rất cao. Hơn nữa, nó
còn được chia thành các vùng và các lớp khác nhau. Bộ não hoạt động dựa trên cơ
chế hoạt động song song của các nơ ron tạo nên nó.
1.3.1.2. Mạng nơron sinh học.
a/ Cấu tạo.
Nơ ron là phần tử cơ bản tạo nên bộ não con người. Sơ đồ cấu tạo của một
nơ ron sinh học được chỉ ra như trong hình 1.1. Một nơ ron điển hình có 3 phần
chính:

- Thân nơ ron (soma): Nhân của nơ ron được đặt ở đây.

- Các nhánh (dendrite): Đây chính là các mạng dạng cây của các dây thần
kinh để nối các soma với nhau.
- Sợi trục (Axon): Đây là một nối kết, hình trụ dài và mang các tín hiệu từ đó
ra ngoài. Phần cuối của axon được chia thành nhiều nhánh nhỏ. Mỗi nhánh nhỏ (cả
của dendrite và axon) kết thúc trong một cơ quan nhỏ hình củ hành được gọi là
synapte mà tại đây các nơ ron đưa các tín hiệu của nó vào các nơr on khác. Những
điểm tiếp nhận với các synapte trên các nơ ron khác có thể ở các dendrite hay chính
soma.

Nhánh
Khớp nối
Sợi trục
Hình1.1. Mô hình 2 nơ ron sinh học
Thân

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
20
b/ Hoạt động.
Các tín hiệu đưa ra bởi một synapte và được nhận bởi các dendrite là các
kích thích điện tử. Việc truyền tín hiệu như trên liên quan đến một quá trình hóa học
phức tạp mà trong đó các chất truyền đặc trưng được giải phóng từ phía gửi của nơi
tiếp nối. Điều này làm tăng hay giảm điện thế bên trong thân của nơ ron nhận. Nơ
ron nhận tín hiệu sẽ kích hoạt (fire) nếu điện thế vượt khỏi một ngưỡng nào đó và
một xung (hoặc điện thế hoạt động) với độ mạnh (cường độ) và thời gian tồn tại cố
định được gửi ra ngoài thông qua axon tới phần nhánh của nó rồi tới các chỗ nối
synapte với các nơ ron khác. Sau khi kích hoạt, nơ ron sẽ chờ trong một khoảng thời
gian được gọi là chu kỳ, trước khi nó có thể được kích hoạt lại. Synapses là hưng
phấn (excitatory) nếu chúng cho phép các kích thích truyền qua gây ra tình trạng

kích hoạt (fire) đối với nơ ron nhận. Ngược lại, chúng là ức chế (inhibitory) nếu các
kích thích truyền qua làm ngăn trở trạng thái kích hoạt (fire) của nơ ron nhận.
1.3.2. Mạng nơ ron nhân tạo.
1.3.2.1. Khái niệm.
Nơ ron nhân tạo là sự sao chép nơ ron sinh học của não người, nó có những
đặc tính sau:
- Mỗi nơ ron có một số đầu vào, những kết nối (Synaptic) và một đầu ra
(axon)
- Một nơ ron có thể hoạt động (+35mV) hoặc không hoạt động (-0,75mV)
- Chỉ có một đầu ra duy nhất của một nơ ron được nối với các đầu vào khác
nhau của nơ ron khác. Điều kiện để nơ ron được kích hoạt hay không kích hoạt chỉ
phụ thuộc những đầu vào hiện thời của chính nó.Thông thường một nơ ron có 3
phần như hình 1.2:



Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
21









Trên mỗi đầu vào của nơ ron có gắn một trọng số để liên kết giữa nơ ron thứ i và nơ

ron thứ j. Các trọng số này tương tự như các tế bào cảm giác của mạng nơ ron sinh
học.
Tổng trọng: V
i
(t) = net
i
(t) =
ik
N
j
M
k
j
tuty


 
 
)(.W)(.W
1 1
ik
*
ij
(1.1)
Với V
i
(t) là tổng trọng của nơ ron thứ i; y
j
(t) là các đầu ra của nơ ron thứ jvà
u

k
(t) là các đầu vào từ bên ngoài tương ứng với các trọng số W
ij
và W
*
ik
;  là hằng
số gọi là ngưỡng của nơ ron thứ i.
Hệ động học tuyến tính SISO: Đầu vào là v
i
đầu ra là x
i
. Ở dạng toán tử Laplace ta
có:
X
i
(s)= H(s).V
i
(s) (1.2)
Dạng thời gian của (1.2) có dạng (1.3)




t
ii
dvthtx

)()()(
(1.3)

v
i
x
i
y
i




W
ij
W
i1
W
iN

W
*
i1
W
*
ik
W
*
i
M



Hệ
động
học
tuyến
tính

Hàm
động học
phi tuyến

a(.)
y
1
y
j
y
m
u
1
u
k
u
M
1

Hình 1.2. Mô hình nơ ron nhân tạo

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

22
Quan hệ của H(s) và h(t) và quan hệ vào – ra tương ứng của nơ ron được cho trong
bảng 1.1
H(s) 1
s
1

1
1
sT

sT
e


h(t)
)(t


1(t)
T
t
e
T

1

)( Tt 


x
i
(t) = w
i
(t)
x
i
(t) = v
i
(t)
Tx
i
(t) +x
i
(t) = v
i
(t) x
i
(t) = v
i
(t-T)
Bảng 1.1
Hàm động học phi tuyến: Mô tả mối quan hệ của đầu ra y
i
với đầu vào x
i
:
y
i
=a(x

i
) với a(.) là hàm chuyển đổi.
Hàm chuyển đổi: Để tìm được đầu ra của nơ ron ta phải tiến hành qua hai bước như
sau:
- Tìm các giá trị tổng trọng lượng đầu vào net
i
(t)
- Căn cứ vào net
i
(t) để tìm ra y
i
bằng các hàm chuyển đổi vào ra.
Hàm chuyển đổi a(.) thực hiện coi nơ ron như một hộp đen, chuyển đổi một
tín hiệu vào thành tín hiệu ra.Các dạng hàm chuyển đổi thường được sử dụng có
dạng như sau:
+ Hàm Rump (Rump Function) là hàm có biểu diễn toán học như (1.4):

(1.4)
Biểu diễn hình học của hàm Rump như hình vẽ 1.3.a
+ Hàm bước nhảy (Step Function) là hàm có biểu diễn toán học như (1.5):

(1.5)

1 nếu f > 1
a(f) = f nếu 0 f  1
0 nếu f < 0

1 nếu f  0
a(f) =
0 nếu f < 0

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
23
Biểu diễn hình học của hàm như hình vẽ 1.3.b
+ Hàm giới hạn cứng (Threshold Function) là hàm có biểu diễn toán học như (1.6):

(1.6)
Biểu diễn hình học của hàm như hình vẽ 1.3.c
+ Hàm sigmoid hai cực (Bipolar Sigmoid Function) là hàm có biểu diễn toán học
như (1.7): a(f) =
1
1
2


 f
e

(1.7)
Biểu diễn hình học của hàm như hình vẽ 1.3d

1.3.2.2. Phân loại mạng nơ ron.
Nelson và IIlingworth (1991) đã đưa ra mộy số loại cấu trúc của mạng nơ
ron như hình 1.4. Nơron được vẽ là các vòng tròn xem như một tế bào thần kinh,
chúng có các mối liên hệ đến các nơ ron khác nhờ các trọng số, lập thành các ma
trận trọng số tương ứng.

1 nếu f  0
a(f) =
-1 nếu f < 0

Hình 1.3.d Hàm Sigmoid hai cực
0
a
f 1
1
0
a
f
1
0
a
f
-1
1
Hình 1.3a. Hàm Rump Hình 1.3b. Hàm bước nhảy Hình 1.3b. Hàm giới hạn cứng

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
24
Mỗi một nơ ron có thể phối hợp với các nơ ron khác tạo thành một lớp các
trọng số. Mạng một lớp truyền thẳng (Single- Layer Feedforward Network) như
hình 1.4 a
Có thể nối vài lớp nơ ron với nhau tạo thành mạng nhiều lớp truyền thẳng
(Multi- Layer Feedforward Network) như hình 1.4.b
Hai loại mạng nơ ron một lớp và nhiều lớp được gọi là truyền thẳng nếu đầu
ra của mỗi nơ ron được nối với các đầu vào của các nơ ron của lớp trước đó.
Mạng nơ ron phản hồi là mạng mà đầu ra của mỗi nơ ron được quay trở lại
nối với đầu vào của các nơ ron cùng lớp được gọi là mạng Laeral như hình 1.4.c
Mạng nơ ron phản hồi có thể thực hiện đóng vòng được gọi là mạng nơ ron
hồi quy (Recurrent Network) như hình 1.4.d









Các nơ ron lớp vào trực tiếp nhận tín hiệu ở đầu vào, ở đó mỗi nơ ron chỉ có
một tín hiệu vào. Mỗi nơ ron ở lớp ẩn được nối với tất cả các nơ ron lớp vào và lớp
ra. Các nơ ron ở lớp ra có đầu vào được nối với tất cả các nơ ron ở lớp ẩn, chúng là
đầu ra của mạng. Cần chú ý rằng một mạng nơ ron cũng có thể có nhiều lớp ẩn. Các
mạng nơ ron trong mỗi nơ ron chỉ được liên hệ với tất cả các nơ ron ở lớp kế tiếp và
w
11
w

mm
y
1

y
2

y
m

x
1

x
2

x
m
Hình 1.4.a
y
1

y
2

y
m

x
1

x
2

x
m
Hình 1.4.b
Hình 1.4.c
y
1

y
2

y
m

x
1

x
2

x
m
w
11
w
mm
y

1

y
2

y
m

x
1

x
2

x
m
Hình 1.4.d

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
25
tất cả các mối liên kết chỉ được xây dựng từ trái sang phải được gọi là mạng nhiều
lớp truyền thẳng (perceptrons).
1.3.2.3. Các luật học.
Thông thường mạng nơ ron được điều chỉnh hoặc được huấn luyện để hướng
các đầu vào riêng biệt đến đích ở đầu ra. Cấu trúc huấn luyện mạng được chỉ ra trên
hình 1.5 Ở đây, hàm trọng của mạng được điều chỉnh trên cơ sở so sánh đầu ra với
đích mong muốn (taget) cho tới khi đầu ra mạng phù hợp với đích. Những cặp
vào/đích (input/taget) được dùng để giám sát cho sự huấn luyện mạng.

Để có được một số cặp vào/ra, ở đó mỗi giá trị vào được gửi đến mạng và giá
trị ra tương ứng được thực hiện bằng mạng là sự xem xét và so sánh với giá trị
mong muốn. Bình thường tồn tại một sai số bởi lẽ giá trị mong muốn không hoàn
toàn phù hợp với giá trị thực. Sau mỗi lần chạy, ta có tổng bình phương của tất cả
các sai số. Sai số này được sử dụng để xác định các hàm trọng mới.

Sau mỗi lần chạy, hàm trọng của mạng được sửa đổi với đặc tính tốt hơn
tương ứng với đặc tính mong muốn. Từng cặp giá trị vào/ra phải được kiểm tra và
trọng lượng được điều chỉnh một vài lần. Sự thay đổi các hàm trọng của mạng được
dừng lại nếu tổng các bình phương sai số nhỏ hơn một giá trị đặt trước hoặc đã chạy
đủ một số lần chạy xác định (trong trường hợp này mạng có thể không thoả mãn
yêu cầu đặt ra do sai lệch còn cao). Có hai kiểu học:
- Học thông số (Paramater Learning): Tìm ra biểu thức cập nhật các thông số
về trọng số, cập nhật kết nối giữa các nơ ron.
Đích
So sánh
Hàm trọng (weights)
giữa các nơ ron
Vào
Điều chỉnh
Hình 1.5. Cấu trúc huấn luyện mạng nơ ron

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

26
- Học cấu trúc (Structure Learning): Trọng tâm là sự biến đổi cấu trúc của
mạng nơ ron gồm số lượng nút (node) và các mẫu liên kết
Nhiệm vụ của việc học thông số là bằng cách nào đó, tìm được ma trận chính
xác mong muốn từ ma trận giả thiết ban đầu với cấu trúc của mạng nơ ron có sẵn.
Để làm được việc đó, mạng nơ ron sử dụng các trọng số điều chỉnh, với
nhiều phương pháp học khác nhau có thể tính toán gần đúng ma trận W cần tìm đặc
trưng cho mạng.Có ba phương pháp học:
- Học có giám sát ( Supervised Learning).
Là quá trình học ở mỗi thời điểm thứ i khi đưa tín hiệu x
i
vào mạng nơ ron,
tương ứng sẽ có các đáp ứng mong muốn d
i
của đầu ra cho trước ở thời điểm đó.
Hay nói cách khác, trong quá trình học có giám sát, mạng nơ ron được cung cấp
liên tục các cặp số liệu mong muốn vào –ra ở từng thời điểm (x
1
,d
1
), (x
2
,

d
2
),… (x
k
,

d
k
),…khi cho tín hiệu vào thực là x
k
sẽ tương ứng có tín hiệu đầu ra cũng được lặp
lại là d
k
giống như mong muốn. Kết quả của quá trình học có giám sát là tạo được
một hộp đen có đầu vào là véc tơ tín hiệu vào X sẽ đưa ra được câu trả lời đúng d.
Để đạt được kết quả mong muốn trên, khi đưa vào tín hiệu x
k
, thông thường
sẽ có sai lệch e
k
giữa tín hiệu đầu
ra thực y
k
với tín hiệu đầu ra
mong muốn d
k
. Sai lệch đó sẽ
được truyền ngược tới đầu vào
để điều chỉnh thông số mạng nơ
ron là ma trận trọng số W…Quá
trình cứ thế tiếp diễn sao cho sai
lệch giữa tín hiệu ra mong muốn và tín hiệu ra thực tế nằm trong phạm vi cho
phép, kết quả nhận được ma trận trọng số với các phần tử wij đã được điều chỉnh
phù hợp với đặc điểm của đối tượng hay hàm số mạng nơ ron cần học. Mô hình
học có giám sát được minh hoạ như hình 1.6

Mạng
nơron
Máy tính
phát hiện
sai
x
y
d
e
Hình 1.6.Mô hình học có giám sát và học củng cố

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
27
- Học củng cố:(Reinforcement Learning).
Là phương pháp học trong đó tín hiệu d được đưa từ bên ngoài nhưng không
được đầy đủ mà có thể chỉ đưa đại diện 1 bít để có tính chất kiểm tra quá trình
đúng hay sai. Tín hiệu đó được gọi là tín hiệu củng cố (Reinforcement Signal).
Phương pháp học củng cố chỉ là một phương pháp học riêng của phương pháp học
có giám sát, bởi vì nó cũng nhận tín hiệu chỉ đạo từ bên ngoài. Chỉ khác là tín hiệu
củng cố có tính ước lượng hơn là để dạy. Tín hiệu giám sát bên ngoài d thường
được tiến hành bởi các tín hiệu ước lượng để tạo thông tin ước lượng cho mạng nơ
ron điều chỉnh trọng số với hy vọng sự ước lượng đó mang lại sự chính xác trong
quá trình tính toán. Mô hình học củng cố được minh hoạ như hình 1.6
- Học không có giám sát (Unsupervied Learning).
Trong trường hợp này, hoàn toàn không có tín hiệu ở bên ngoài. Giá trị mục
tiêu điều khiển không được cung cấp và không được tăng cường. Mạng phải khám
phá các mẫu, các nét đặc trưng, tính cân đối, tính tương quan… Trong khi khám phá

các đặc trưng khác, mạng nơ ron đã chải
qua việc tự thay đổi thông số, vấn đề đó
được gọi tự tổ chức (Self- Organizing).
Mô hình học không có giám sát được
minh hoạ như hình 1.17
Cấu trúc chung của quá trình học được mô tả như hình 1.20.














w
ij
w
im-1= 
w
i1
x(t)

r

y

Máy phát tín
hiệu học
Nơ ron thứ i
x
1
x
1
x
j
x
m-1
x
m
= -1
d



w
i
Hình 1.8. Sơ đồ cấu trúc chung của quá trình học
x
y
Hình1.7.Mô hình học không có giám sát
Mạng
nơron

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
28
Trong đó tín hiệu vào x
j
, j=1,2,3…,m, có thể được lấy từ đầu ra của các nơ ron khác
hoặc có thể được lấy từ bên ngoài. Tín hiệu mong muốn d
i
có sẵn chỉ có trong
phương pháp học có giám sát hoặc củng cố. Từ hai phương pháp học trên, trọng số
của nơ ron thứ i được thay đổi tuỳ theo tín hiệu ở đầu vào mà nó thu nhận và giá trị
đầu ra của nó. Trong phương pháp học không có giám sát sự thay đổi của trọng số
chỉ dựa trên cơ sở các giá trị đầu vào và đầu ra. Dạng tổng quát của luật học trọng
số của mạng nơ ron là cho biết gia số của véc tơ w
i
là w
i
tỷ lệ với tín hiệu học r và
tín hiệu đầu vào x(t):
w
i
(t) = .r.x(t) (1.8)
: Là hằng số học, xác định tốc độ học và là một số dương
r: Là tín hiệu học r = f
r
(w
i
,x,d
i
) (1.9)

Biểu thức (1.8) là biểu thức chung để tính số gia của trọng số, ta thấy trọng số
w
i
= (w
i1
, w
i2
, …, w
im
)
T
có gia số tỷ lệ với tín hiệu vào x và tín hiệu học r. Từ các
biểu thức trên ta có véc tơ trọng số ở thời điểm (t+1) được tính là:
w
i
(t+1) = w
i
(t) + .f
r
{w
i
(t), x(t), d
i
(t)}.x(t) (1.10)
Vấn đề quan trọng trong việc phân biệt luật học cập nhật trọng số có giám
sát hay không có giám sát là tín hiệu học r như thế nào để thay đổi hoặc cập nhật
trọng số có trong mạng nơ ron.
Có 2 phương pháp cơ bản để huấn luyện mạng nơ ron: Huấn luyện gia tăng
(tiến dần) và huấn luyện theo gói. Sự huấn luyện theo gói của mạng nhận được bằng
việc thay đổi hàm trọng và độ dốc trong một tập (batch) của véc tơ đầu vào. Huấn

luyện tiến dần là thay đổi hàm trọng và độ dốc của mạng sau mỗi lần xuất hiện của
một phần tử véc tơ đầu vào. Huấn luyện tiến dần đôi khi được xem như huấn luyện
trực tuyến hay huấn luyện thích nghi.
Mạng nơ ron đã được huấn luyện để thực hiện những hàm phức tạp trong
nhiều lĩnh vực ứng dụng khác nhau như trong nhận dạng, phân loại sản phẩm, xử lý
tiếng nói, chữ viết và điều khiển hệ thống.

Chương I.Tổng quan về mạng nơ ron nhân tạo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
29
Thông thường để huấn luyện mạng nơron, người ta sử dụng phương pháp
huấn luyện có giám sát, nhưng cũng có mạng thu được từ sự huấn luyện không có
giám sát. Mạng huấn luỵện không giám sát có thể được sử dụng trong trường hợp
riêng để xác định nhóm dữ liệu.
1.3.3. Mô hình toán học mạng nơ ron truyền thẳng và mạng nơ ron hồi quy.
1.3.3.1.Mạng nơ ron truyền thẳng.
a/ Mạng nơ ron một lớp.
Một cấu trúc toán học mạng 1 lớp với
R đầu vào và S nơ ron được chỉ ra trên hình
1.9.
Trong đó:
-Véc tơ vào P có R phần tử P
T
= [p
1
p
2
… p
R

]
-Véc tơ vào n có S phần tử n
T
= [n
1
n
2
… n
S
]
-Véc tơ ra a có S phần tử a
T
= [a
1
a
2
… a
S
]


Trong mạng này mỗi phần tử của véc tơ vào P liên hệ với đầu vào mỗi nơ ron thông
qua ma trận trọng lượng liên kết W. Bộ cộng của nơ ron thứ i thu thập các trọng
liên kết đầu vào và độ dốc để tạo thành một đầu ra vô hướng n
i
. Các n
i
tập hợp với
nhau tạo thành s phần tử của véc tơ vào n. Cuối cùng ở lớp ra nơ ron ta thu được
véc tơ a gồm s phần tử.

Ta có thể thiết lập lớp đơn của các nơ ron có các hàm chuyển khác nhau một
cách dễ dàng bởi lẽ hai mạng được đặt song song. Tất cả các mạng có thể có chung
đầu vào và mỗi mạng có thể thiết lập một vài đầu ra.
Các phần tử của véc tơ đầu vào được đưa vào mạng thông qua ma trận trọng
W, với:
.
.
.
a = f(WP+b) (1.11)

Hình1.9.Cấu trúc mạng nơ ron 1 lớp
p
1
w
1,1
1
f
n
1
a
1

b
1
p
2
p
3
p
R

w
S,R
1
f
n
2
a
2

b
2
1
f
n
S
a
S

b
S
Vào Các nơron
.
.
.
.
.
.