Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều khiển thích nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên


ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP




VŨ MẠNH THỦY




NGHIÊN CỨU ỨNG DỤNG
MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP TRONG
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT
CHIỀU KHI CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI




LUẬN VĂN THẠC SĨ TỰ ĐỘNG HÓA

THÁI NGUYÊN - 2009
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên


ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐHKT CÔNG NGHIỆP
***
CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập - Tự do - Hạnh phúc
---------o0o---------


THUYẾT MINH
LUẬN VĂN THẠC SĨ TỰ ĐỘNG HÓA



ĐỀ TÀI:
NGHIÊN CỨU ỨNG DỤNG
MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP TRONG
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT
CHIỀU KHI CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI

Học viên: Vũ Mạnh Thủy
Lớp: CHK10
Chuyên ngành: Tự động hóa
Người HD khoa học: TS. Phạm Hữu Đức Dục
Ngày giao đề tài: 01/02/2009
Ngày hoàn thành: 30/07/2009

KHOA ĐT SAU ĐẠI HỌC



NGƯỜI HƯỚNG DẪN
KHOA HỌC



T.S Phạm Hữu Đức Dục
HỌC VIÊN




Vũ Mạnh Thủy



THÁI NGUYÊN – Năm 2009

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
MỤC LỤC
Lời cam đoan Trang
Danh mục các ký hiệu, bảng, các chữ viết tắt
Danh mục các hình vẽ, đồ thị
Phần mở đầu 1
Chƣơng 1: TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO 4
1.1 Lịch sử phát triển của mạng nơron nhân tạo 4
1.2 Các tính chất của mạng nơron nhân tạo 5

1.3 Mô hình nơron 5
1.3.1 Mô hình nơron sinh học 5
1.3.2 Nơron nhân tạo 7
1.4 Cấu tạo mạng nơron 10
1.5 Cấu trúc mạng nơron 11
1.6 Phƣơng thức làm việc của mạng nơron 13
1.7 Các luật học 14
1.8 Mạng nơron truyền thẳng và mạng nơron hồi quy 18
1.8.1 Mạng nơron truyền thẳng 18
1.8.1.1 Mạng nơron truyền thẳng một lớp nơron 18
1.8.1.2 Mạng nơron truyền thẳng nhiều lớp nơron 18
1.8.2 Mạng nơron hồi quy 19
1.8.2.1 Mạng hồi quy không hoàn toàn 19
1.8.2.2 Mạng các dãy của Jordan 20
1.8.2.3 Mạng hồi quy đơn giản 21
1.8.2.4 Mạng hồi quy hoàn toàn 21
1.9 Ứng dụng mạng nơron trong điều khiển tự động 22
1.10 Công nghệ phần cứng sử dụng mạng nơron 24
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
1.11 So sánh khả năng của mạng nơron với mạch logic 25
1.12 Kết luận chƣơng 1 25
Chƣơng 2: CÁC PHƢƠNG PHÁP ỨNG DỤNG MẠNG NƠRON
TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN 26
2.1 Các phƣơng pháp ứng dụng mạng nơron trong nhận dạng 26
2.1.1 Khái quát chung 26
2.1.1.1 Đặt vấn đề 26
2.1.1.2 Định nghĩa 27
2.1.1.3 Sơ lược về sự phát triển của các phương pháp nhận dạng 27
2.1.1.4 Các bước cơ bản để nhận dạng hệ thống 28
2.1.2 Các phương pháp nhận dạng 29

2.1.2.1 Nhận dạng On-line 30
2.1.2.1.1 Phương pháp lặp bình phương cực tiểu 30
2.1.2.1.2 Phương pháp xấp xỉ ngẫu nhiên 31
2.1.2.1.3 Phương pháp lọc Kalman mở rộng 31
2.1.2.2 Nhận dạng Off-line 33
2.1.2.2.1 Phương pháp xấp xỉ vi phân 34
2.1.2.2.2 Phương pháp gradient 34
2.1.2.2.3 Phương pháp tìm kiếm trực tiếp 36
2.1.2.2.4 Phương pháp tựa tuyến tính 36
2.1.2.2.5 Phương pháp sử dụng hàm nhạy 37
2.1.2.3 Nhận dạng theo thời gian thực 37
2.1.3 Mô tả toán học của đối tượng ở rời rạc 38
2.1.4 Mô hình dùng mạng nơron 41
2.1.4.1 Mô hình nhận dạng kiểu truyền thẳng 41
2.1.4.2 Mô hình ngược trực tiếp 45
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
2.1.5 Tính gần đúng hàm số dung mạng nơron 45
2.1.6 Mô hình mạng nơron trong nhận dạng và điều khiển 46
2.2 Các phƣơng pháp ứng dụng mạng nơron trong điều khiển 47
2.2.1 Các phương pháp ứng dụng mạng nơron trong điều khiển 47
2.2.1.1 Điều khiển thích nghi sử dụng nguyên tắc chung 47
2.2.1.2 Điều khiển có tín hiệu chỉ đạo 47
2.2.1.3 Điều khiển theo mô hình 47
2.2.1.4 Điều khiển ngược trực tiếp 49
2.2.1.5 Điều khiển mô hình trong 49
2.2.1.6 Điều khiển tối ưu 49
2.2.1.7 Điều khiển tuyến tính thích nghi 50
2.2.1.8 Phương pháp bảng tra 50
2.2.1.9 Điều khiển lọc 50
2.2.1.10 Điều khiển dự báo 50

2.2.2 Điều khiển thích nghi 51
2.2.2.1 Điều khiển thích nghi 51
2.2.2.2 Phương pháp điều khiển thích nghi theo mô hình mẫu (MRAC) 52
2.3 Kết luận chƣơng 2 54
Chƣơng 3: ỨNG DỤNG MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT CHIỀU KHI
CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI 55
3.1 Mô tả động lực học của động cơ một chiều 55
3.1.1. Tổng hợp mạch vòng dòng điện khi bỏ qua sức điện động
của động cơ 55
3.1.2. Tổng hợp hệ thống truyền động điều khiển tốc độ 57
3.1.3. Hệ thống điều chỉnh tốc độ dùng bộ điều chỉnh tốc độ tỷ lệ 57
3.1.4. Cấu trúc hệ điều chỉnh vị trí 59
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
3.1.5. Tìm hàm truyền của hệ thống 60
3.2 Ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều khiển thích nghi
vị trị động cơ điện một chiều khi có thông số thay đổi 62
3.2.1. Bộ điều khiển phản hồi tuyến tính (NARMA-L2) 62
3.2.2. Nhận dạng của mô hình NARMA-L2 62
3.2.3. Bộ điều khiển NARMA-L2 64
3.2.4. Bài toán ví dụ sử dụng khối điều khiển NARMA-L2 66
3.2.5. Kết quả thực nghiệm trên MATLAB 68
3.2.5.1. Số liệu 68
3.2.5.2. Kết quả mô phỏng khi có tải thay đổi 68
3.2.5.3. Kết quả mô phỏng khi có thông số và tải thay đổi 74
3.3. Kết luận chƣơng 3 80
Chƣơng4: KẾT LUẬN CHUNG VÀ KIẾN NGHỊ 81
Tài liệu tham khảo

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
DANH MỤC CÁC CHỮ VIẾT TẮT, TIẾNG NƯỚC NGOÀI
STT Ký hiệu Diễn giải
1 Artificial Neural Nơron nhân tạo
2 Artificial Neural Networks Mạng nơron nhân tạo
3 Back Propagation Learaning Rule Luật học lan truyền ngược
4 Bipolar Sigmoid Function Hàm sigmoid 2 cực
5 Fuzzy Loogic mờ
6 Fuzzy Neural Networks Mạng nơron mờ
7 Learing Học
8 Linear Graded Unit-LGU Phần tử graded tuyến tính
9 Linear Threshold Unit-LTU Phần tử ngưỡng tuyến tính
10 Myltilayer Layer Feedforward NetWord Mạng nhiều lớp truyền thẳng
11 Neural Nơron
12 Neural Networks Mạng nơron
13 Output Layer Lớp ra
14 Paramater Learning Học thông số
15 Recall Gọi lại
16 Recurrent Neural Networks Mạng nơron hồi quy
17 Reinforcement Signal Tín hiệu củng cố
18 Reinforcement Learning Học củng cố
19 Rump Function Hàm Rump
20 Self Organizing Tự tổ chức
21 Single Layer Feedforward NetWord Mạng một lớp truyền thẳng
22 Step Function Hàm bước nhảy
23 Structure Learning Học cấu trúc
24 Supervised Learning Học giám sát
25 Threshold Function Hàm giới hạn cứng

26 Unipolar Sigmoid Function Hàm sigmoid 1 cực
27 Unsupervised Learning Học không có giám sát


Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ
STT Ký hiệu Diễn giải tên hình vẽ
1 Hình 1.1 Mô hình nơron sinh học
2 Hình 1.2 Mô hình nơron nhân tạo
3 Hình 1.3 Đồ thị các loại hàm chuyển đổi
4 Hình 1.4 Mạng nơron 3 lớp
5 Hình 1.5 Sơ đồ cấu trúc các loại mạng nơron
6 Hình 1.6 Mô hình học có giám sát và học củng cố
7 Hình 1.7 Mô hình học không có giám sát
8 Hình 1.8 Sơ đồ cấu trúc chung của quá trình học
9 Hình 1.9 Mạng nơron truyền thẳng một lớp
10 Hình 1.10 Mạng nơron truyền thẳng nhiều lớp
11 Hình 1.11 Sơ đồ cấu trúc của mạng Jordan
12 Hình 1.12 Sơ đồ cấu trúc mạng nơron hồi quy đơn giản
13 Hình 2.1 Điều khiển theo nguyên tắc phản hồi đầu ra
14 Hình 2.2 Quy trình nhận dạng hệ thống
15 Hình 2.3 Sơ đồ tổng quát nhận dạng thong số mô hình
16 Hình 2.4 Nhận dạng theo phương pháp gradient
17 Hình 2.5 Mô hình dạng 1
18 Hình 2.6 Mô hình dạng 2
19 Hình 2.7 Mô hình dạng 3
20 Hình 2.8 Mô hình dạng 4
21 Hình 2.9 Mô hình nhận dạng kiểu truyền thẳng
22 Hình 2.10 Mô hình nhận dạng kiểu song song

23 Hình 2.11 Mô hình nhận dạng kiểu nối tiếp-song song
24 Hình 2.12 Mô hình nhận dạng ngược trực tiếp
25 Hình 2.13 Mô hình 1
26 Hình 2.14 Mô hình 2
27 Hình 2.15 Mô hình 3
28 Hình 2.16 Mô hình 4
29 Hình 2.17 Mô hình điều khiển trực tiếp
STT Ký hiệu Diễn giải tên hình vẽ

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
30 Hình 2.18 Mô hình điều khiển gián tiếp
31 Hình 2.19 Sơ đồ điều khiển mô hình trong
32 Hình 2.20 Sơ đồ điều khiển theo phương pháp dự báo
33 Hình 2.21 Sơ đồ nguyên lý của phương pháp điểu khiển thích nghi theo
phương pháp mô hình mẫu
34 Hình 2.22 Sơ đồ điều khiển trực tiếp
35 Hình 2.23 Sơ đồ điều khiển gián tiếp
36 Hình 3.1 Sơ đồ khối của mạch vòng dòng điện
37 Hình 3.2 Sơ đồ khối
38 Hình 3.3 Sơ đồ khối của hệ điều chỉnh tốc độ
39 Hình 3.4 Cấu trúc bộ điều chỉnh
40 Hình 3.5 Cấu trúc hệ điều chỉnh vị trí tuyến tính
41 Hình 3.6 Sơ đồ khối của hệ điều chỉnh tốc độ
42 Hình 3.7 Sơ đồ khối tương đương 1 của hệ điều chỉnh tốc độ
43 Hình 3.8 Sơ đồ khối tương đương 2 của hệ điều chỉnh tốc độ
44 Hình 3.9 Sơ đồ khối của hệ điều chỉnh vị trí 1
45 Hình 3.10 Sơ đồ khối tương đương của hệ điều chỉnh vị trí
46 Hình 3.11 Cấu trúc một mạng nơron
47 Hình 3.12 Sơ đồ khối của bộ điều khiển NARMA-L2
48 Hình 3.13 Bộ điều khiển thực hiện với mô hình nhận dạng NARMA-L2

49 Hình 3.14 Sơ đồ điều khiển vị trí nam châm vĩnh cửu
50 Hình 3.15 Đồ thị vị trí mẫu và vị trí sau khi đã điều khiển
51 Hình 3.16 Sơ đồ khối mô tả động cơ một chiều
52 Hình 3.17 Sơ đồ mạng nơron truyền thẳng nhiều lớp điều khiển thích
nghi vị trí động cơ điện một chiều khi có tải thay đổi
53 Hình 3.18 Bảng điều khiển nhận dạng tín hiệu vị trí động cơ một chiều
NARMA-L2
54 Hình 3.19 Dữ liệu vào ra của tín hiệu vị trí động cơ một chiều
55 Hình 3.20 Xuất dữ liệu làm việc
56 Hình 3.21 Nhập dữ liệu vào bộ điều khiển
57 Hình 3.22 Huấn luyện đối tượng với dư liệu đã nhập vào
58 Hình 3.23 Dữ liệu huấn luyện cho bộ điều khiển NN NARMA-L2
STT Ký hiệu Diễn giải tên hình vẽ

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
59 Hình 3.24 Dữ liệu xác nhận cho bộ điều khiển NN NARMA-L2
60 Hình 3.25 Dữ liệu kiểm tra cho bộ điều khiển NN NARMA-L2
61 Hình 3.26 Đồ thị vị trí mẫu q
d
(nét mảnh) và vị trí sau khi đã điều khiển
q (nét đậm)
62 Hình 3.27 Đồ thị điện áp điều khiển
63 Hình 3.28 Đồ thị mômen tải M
C
(Nm)
64 Hình 3.29 Sơ đồ khối mô tả động cơ điện một chiều khi có R, M
C
thay
đổi
65 Hình 3.30 Dữ liệu vào ra của tín hiệu vị trí động cơ một chiều

66 Hình 3.31 Bảng điều khiển nhận dạng tín hiệu vị trí động cơ một chiều
NARMA-L2
67 Hình 3.32 Huấn luyện đối tượng với dư liệu đã nhập vào
68 Hình 3.33 Dữ liệu huấn luyện cho bộ điều khiển NN NARMA-L2
69 Hình 3.34 Dữ liệu xác nhận cho bộ điều khiển NN NARMA-L2
70 Hình 3.35 Dữ liệu kiểm tra cho bộ điều khiển NN NARMA-L2
71 Hình 3.36 Đồ thị điện áp điều chỉnh u
72 Hình 3.37
Đồ thị điện trở R ()
73 Hình 3.38 Đồ thị mômen tải M
C
(Nm)
74 Hình 3.39 Đồ thị vị trí mẫu q
d
(nét mảnh) và vị trí sau khi đã điều khiển
q (nét đậm)


Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
LỜI CAM ĐOAN

Tôi xin cam đoan Luận văn này là công trình do tôi tổng hợp và nghiên cứu.
Trong luận văn có sử dụng một số tài liệu tham khảo như đã nêu trong phần tài liệu
tham khảo.


Tác giả luận văn


VŨ MẠNH THỦY

1

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
PHẦN MỞ ĐẦU

1. Lý do chọn đề tài:
Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên
ta phải hiểu rõ đối tượng đó. Đối với đối tượng có thông số thay đổi như động cơ
một chiều và có tải thay đổi, ta cần thực hiện nhận dạng đặc tính vào ra của nó để
đảm bảo tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác hơn. Hiện
nay thường dùng lôgíc mờ (Fuzzy Logic), mạng nơron (Neural Networks), và mạng
nơron mờ (Fuzzy Neural Networks) để nhận dạng và điều khiển thích nghi hệ thống
có thông số thay đổi. Trong khuôn khổ của khóa học Cao học, chuyên ngành Tự
động hóa tại trường Đại học Kỹ thuật Công nghiệp, được sự tạo điều kiện giúp đỡ
của nhà trường và Tiến sĩ Phạm Hữu Đức Dục, em đã lựa chọn đề tài tốt nghiệp của
mình là “Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều
khiển thích nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi”.
Trong quá trình thực hiện đề tài, tác giả đã cố gắng hạn chế tối đa các khiếm
khuyết, xong không thể tránh được tất cả, kính mong Hội đồng Khoa học và độc giả
bổ xung đóng góp ý kiến để đề tài được hoàn thiện hơn.
2. Cơ sở khoa học và thực tiễn của đề tài
Ngày nay do tiến bộ của khoa học kỹ thuật trong điện tử và tin học các hệ
thống điều khiển tự động được phát triển và có sự thay đổi lớn. Công nghệ vi mạch
phát triển khiến cho việc sản xuất các thiết bị điện tử ngày càng hoàn thiện. Các bộ
biến đổi điện tử trong các hệ thống không những đáp ứng được khả năng tác động
nhanh, độ chính xác cao mà còn góp phần giảm kích thước và hạ giá thành của hệ
thống. Đặc biệt trong những thập kỷ gần đây trước sự phát triển mạnh mẽ và ngày
càng hoàn thiện của lý thuyết mạng nơron truyền thẳng nhiều lớp, hàng loạt các ứng
dụng của lý thuyết mạng nơron truyền thẳng nhiều lớp đã và đang mở ra một kỷ

nguyên mới ngành điều khiển. Tuy là ngành kỹ thuật điều khiển non trẻ nhưng
những ứng dụng trong công nghiệp của điều khiển mạng nơron thật rộng rãi như
trong nhận dạng, phân loại sản phẩm, xử lý tiếng nói, chữ viết và điều khiển hệ
thống, điều khiển robot. Tới nay đã có rất nhiều sản phẩm công nghiệp được tạo ra
và nhờ kỹ thuật điều khiển mạng nơron, rất nhiều nước trên thế giới đã thành công.
Chính vì thế mà việc đi sâu nghiên cứu và áp dụng lý thuyết điều khiển
nơron truyền thẳng nhiều lớp trong điều khiển thích nghi vị trí động cơ một chiều
khi có thông số và tải thay đổi có ý nghĩa khoa học.
2

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
Khác hẳn với kỹ thuật điều khiển kinh điển là hoàn toàn dựa vào sự chính
xác tuyệt đối của thông tin mà trong nhiều ứng dụng không cần thiết hoặc không thể
có được, điều khiển nơron truyền thẳng nhiều lớp chỉ cần sử lý những thông tin
(không chính xác) hay không đầy đủ, những thông tin mà sự chính xác của nó chỉ
nhận thấy được giữa các quan hệ của chúng với nhau và chỉ có thể mô tả được bằng
ngôn ngữ, đã có thể cho ra những quyết định chính xác. Chính khả năng này đã làm
cho điều khiển nơron truyền thẳng sao chụp được phương thức xử lý thông tin và
điều khiển của con người. Do đó việc áp dụng điều khiển nơron truyền thẳng nhiều
lớp vào hệ thống điều khiển thích nghi vị trí động cơ một chiều khi có tải và thông
số thay đổi là việc cần phải làm.
3. Mục đích của đề tài
Đối với đối tượng có thông số thay đổi như động cơ một chiều khi có phụ tải
thay đổi, ta cần nhận dạng đặc tính vào ra của nó để bảo đảm tạo ra tín hiệu điều
khiển thích nghi được chính xác hơn. Hiện nay thường sử dụng logic mờ (Fuzzy
Logic), mạng nơron mờ (Fuzzy Neural Networks), mạng nơron (Neural Networks)
để nhận dạng và điều khiển thích nghi vị trí động cơ điện một chiều.
Đề tài này nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp (bộ điều
khiển NARMA-L2) trong điều khiển thích nghi vị trí động cơ điện một chiều khi có
thông số và tải thay đổi.

4. Đối tƣợng và phạm vi nghiên cứu của đề tài:
Phần mở đầu
Chương 1. Tổng quan về mạng nơron nhân tạo
Phân tích tổng quan về mạng nơron bao gồm: phần lịch sử phát triển, kết cấu
của mạng các nơron, ứng dụng của chúng…
Chương 2. Các phương pháp ứng dụng mạng nơron trong nhận dạng và
điều khiển.
Phần này tập trung trình bày các phương pháp ứng dụng mô hình mạng
nơron trong nhận dạng và điều khiển.
Chương 3. Ứng dụng mạng nơron truyền thẳng nhiều lớp điều khiển thích
nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi.
3.1. Mô tả động lực học của động cơ một chiều.
3.2. Ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều khiển thích
nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi.
Chương 4. Kết luận chung và kiến nghị.
3

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
5. Ý nghĩa khoa học và thực tiễn của đề tài
Với ứng dụng của mạng nơron truyền thẳng nhiều lớp điều khiển vị trí động
cơ điện một chiều khi có thông sô và phụ tải thay đổi, sau khi đã nhận dạng được vị
trí động cơ một chiều, ta có thể thay thế gần đúng mô hình động cơ một chiều bằng
mạng nơron truyền thẳng nhiều lớp, từ đó căn cứ trên các thông số mô phỏng của
mạng nơron, tính toán được tín hiệu điều khiển nhằm điều khiển thích nghi vị trí
động cơ điện một chiều khi có thông số và phụ tải thay đổi phù hợp với yêu cầu cần
thiết của điều khiển thích nghi vị trí động cơ điện một chiều.

4

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

CHƢƠNG 1
TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO

Nghiên cứu và mô phỏng não người, cụ thể là mô phỏng nơron thần kinh là
một ước muốn từ lâu của nhân loại. Từ mơ ước đó, nhiều nhà khoa học đã không
ngừng nghiên cứu tìm hiểu về mạng nơron. Trong đó mạng nơron nhân tạo đã được
nói đến ở cuốn sách “Điều khiển học, hay điều chỉnh và sự truyền sinh trong cơ thể
sống, trong máy móc” của tác giả Nobert Wieners xuất bản năm 1948. Điều khiển
học đã đặt ra mục đích nghiên cứu áp dụng nguyên lý làm việc của hệ thống thần
kinh động vật vào điều khiển. Công cụ giúp điều khiển học thực hiện được mục
đích này là trí tuệ nhân tạo và mạng nơron. Trí tuệ nhân tạo được xây dựng dựa trên
mạng nơron. Mạng nơron nhân tạo (Artificial Neural Networks) là hệ thống được
xây dựng dựa trên nguyên tắc cấu tạo của bộ não con người. Mạng nơron nhân tạo
có một số lượng lớn mối liên kết của các phần tử biến đổi (Processing Elements) có
liên kết song song. Nó có hành vi tương tự như bộ não con người với các khả năng
học (Learning), gọi lại (Recall) và tổng hợp thông tin từ sự luyện tập của các mẫu
và dữ liệu. Các phần tử biến đổi của mạng nơron nhân tạo được gọi là các nơron
nhân tạo (Artificial Neural) hoặc gọi tắt là nơron (Neural). Trong thiết kế hệ thống
tự động hóa sử dụng mạng nơron là một khuynh hướng hoàn toàn mới, phương
hướng thiết kế hệ thống điều khiển thông minh, một hệ thống mà bộ điều khiển có
khả năng tư duy như bộ não con người.
1.1 Lịch sử phát triển của mạng nơron nhân tạo
Mạng nơron nhân tạo đã có một lịch sử lâu dài. Năm 1943, McCulloch và
Pitts đã đưa ra khả năng liên kết và một số liên kết cơ bản, của mạng nơron. Năm
1949, Hebb đã đưa ra các luật thích nghi trong mạng nơron. Năm 1958, Rosenblatt
đưa ra cấu trúc Perception. Năm 1969, Minsky và Papert phân tích sự đúng đắn của
Perception, họ đã chứng minh các tính chất và chỉ rõ các giới hạn của một số mô
hình. Năm 1976, Grossberg dựa vào tích chất sinh học đã đưa ra một số cấu trúc của
hệ động học phi tuyến với các tính chất mới. Năm 1982, Hoppfield đã đưa ra mạng
học phi tuyến với các tính chất mới. Năm 1982, Rumelhart đưa ra mô hình song

song (Parallel Distributer Processing-PDS) và một số kết quả và thuật toán. Thuật
toán học lan truyền ngược (Back Propagation learning rule) được Rumelhart,
Hinton, Williams (1986) đề xuất luyện mạng nơron nhiều lớp. Những năm gần đây,
nhiều tác giả đã đề xuất nhiều loại cấu trúc mạng nơron mới. Mang nơron được ứng
5

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
dụng trong nhiều lĩnh vực kinh tế, kỹ thuật, khoa học vũ trụ (Hecht - Nielsen,
1988).
1.2 Các tính chất của mạng nơron nhân tạo
- Là hệ phi tuyến: Mạng nơron có khả năng to lớn trong lĩnh vực nhận dạng
và điều khiển các đối tượng phi tuyến.
- Là hệ xử lý song song: Mạng nơron có cấu trúc song song, do đó có tốc độ
tính toán rất cao, rất phù hợp với lĩnh vực nhận dạng và điều khiển.
- Là hệ học và thích nghi: Mạng được luyện từ các số liệu quá khứ, có khả
năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on-line.
- Là hệ nhiều biến, là hệ nhiều đầu vào, nhiều đầu ra (Many Input Many
Output - MIMO), rất tiện dụng khi điều khiển đối tượng có nhiều biến số.
1.3 Mô hình mạng nơron
1.3.1 Mô hình nơron sinh học
Mô hình của một dạng nơron sinh học được thể hiện ở hình 1.1.

Gồm có ba phần chính: Thân (Cell body), bên trong có nhân (Nucleus), cây
(Dendrites) và trục (Axon). Cây gồm các dây thần kinh có liên kết với thân. Trục có
cấu trúc đơn, dài liên kết với thân có nhiệm vụ truyền tải thông tin từ nơron. Phần
cuối của trục có dạng phân nhánh. Trong mỗi nhánh có một cơ cấu nhỏ là khớp thần
kinh (Synapse), từ đây nơron liên kết bằng tín hiệu tới các nơron khác. Sự thu nhận
thông tin của nơron từ các nơron khác có thể từ cây hoặc cũng có thể từ thân của nó.
Tín hiệu thu, nhận ở dạng các xung điện - Màng (Membrane): Mỗi tế bào
thần kinh có một màng, có nhiệm vụ giữ các chất nuôi tế bào không tràn ra ngoài.

Do đó, các phần tử nội bào và ngoại bào không bằng nhau, giữa chúng có dung dịch


Nhân
Trục
Thân nơron
Hình 1.1 Mô hình nơron sinh học
Cây
6

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
muối lỏng làm cho chúng bị phân ra thành các nguyên tử âm (ion) và dương
(cation). Các nguyên tử dương trong màng tạo ra điện thế màng (Membrane
potential), nó tồn tại trong trạng thái cân bằng lực: lực đẩy các nguyên tử dương ra
khỏi tế bào bằng với lực hút của chúng vào trong tế bào.
Điện thế màng là phần tử quan trọng trong quá trình truyền tin trong hệ thần
kinh. Khi thay đổi khả năng thẩm thấu ion của màng thì điện thế màng của tế bào bị
thay đổi và tiến tới một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này
gây ra phản ứng kích thích làm thay đổi khả năng thẩm thấu ion của tế bào thần
kinh tiếp theo.
Bộ não con người gồm có gần 10
11
nơron của nhiều loại khác nhau. Mạng
nơron là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con người.
Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con người có
đều được tái tạo, mà chỉ có những chức năng cần thiết. Bên cạnh đó còn có những
chức năng mới được tạo ra nhằm giải quyết một bài toán điều khiển đã định trước.
* Xử lý thông tin trong bộ não:
Thông tin được tiếp nhận từ các giác quan và chuyển vào các tế bào thần
kinh vận động và các tế bào cơ. Mỗi tế bào thần kinh tiếp nhận thông tin, điện thế sẽ

tăng trong thần kinh cảm giác, nếu điện thế này vượt ngưỡng nó tạo dòng điện trong
tế bào thần kinh cảm giác, ý nghĩa dòng điện đó được giải mã và lưu ở thần kinh
trung ương, kết quả sử lý thông tin được gửi đến các tế bào cơ.
Các khớp tế bào thần kinh đưa ra các tín hiệu giống nhau, do đó không thể
phân biệt được đó là của loại động vật nguyên thủy hay của một giáo sư. Các khớp
thần kinh chỉ cho các tín hiệu phù hợp qua chúng, còn lại các tín hiệu khác bị cản
lại. Lượng tín hiệu được biến đổi được gọi là cường độ khớp thần kinh đó chính là
trọng số của nơron trong mạng nơron nhân tạo.
Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng lớn lao? Có
thể trả lời ngắn gọn là sự giống nhau của các tín hiệu của các tế bào thần kinh đơn
lẻ, do đó chức năng thực sự của bộ não không phụ thuộc vào vai trò của một tế bào
thần kinh đơn, mà phụ thuộc vào toàn bộ các tế bào thần kinh hay cách các tế bào
thần kinh liên kết với nhau thành một mạng thần kinh hay một mạng nơron (Neural
Networks).
* Các đặc tính cơ bản của não người:
- Tính phân lớp: Các vùng trong bộ não được phân thành các lớp, thông tin
được sử lý theo các tầng.
7

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
- Tính môđun: Các vùng của bộ nhớ được phân thành môđun được mã hóa
bằng các định nghĩa mối quan hệ tích hợp giữa các tín hiệu vào qua các giác quan
và các tín hiệu ra.
- Mối liên kết: Liên kết giữa các lớp dẫn đến các dữ liệu dùng chung xem
như các liên hệ phản hồi khi truyền tín hiệu.
- Sử lý phân tán các tín hiệu vào: Các tín hiệu vào được truyền qua nhiều
kênh thông tin khác nhau, được xử lý bởi các phương pháp đặc biệt.
1.3.2 Mô hình nơron nhân tạo
Sự thay thế những tính chất của mạng nơron sinh học bằng một mô hình toán
học tương đương được gọi là mạng nơron nhân tạo. Mạng nơron nhân tạo có thể

được chế tạo bằng nhiều cách khác nhau vì vậy trong thực tế tồn tại rất nhiều kiểu
mạng nơron nhân tạo. Dựa vào cấu trúc của nơron sinh học có nhiều mô hình được
đưa ra như perceptron (Roenblatt, 1958); adaline (Windrow và Hoff, 1960). Nhưng
thông thường một nơron có 3 phần như (Hình 1.2)
Mỗi nơron gồm có nhiều đầu vào và một đầu ra. Trên mỗi đầu vào có gắn
một trọng số để liên hệ giữa nơron thứ i với nơron thứ j. Các trọng số này tương tự
như các tế bào cảm giác của nơron sinh học.


- Tổng trọng:





=




=

.





 =1
+



.





=1
+



1.1



Hệ động
học tuyến
tính


Hàm động
học phi
tuyến a(.)


W
i1

W
ij

W
iN
W
ij


W
ik


W
iM



1

y
1
v
i
u
1
u
k
u
M

1

:
.

:
.

:
.

x
i
y
i
Hình 1.2 Mô hình nơron nhân tạo
8

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
Với v
i
(t) là tổng trọng của nơron thứ i; y
i
các đầu ra của các nơron thứ j; u
i
(t)
các đầu vào từ bên ngoài tương ứng với trọng số W
ij
và 



; 

là hằng số gọi là
ngưỡng của nơron thứ i.
Có thể viết (1.1) ở dạng:





=




=.



+

.



+

1.2


Với các ma trận w và w
*
có cỡ tương ứng là: n x n và n x m.
- Hệ động học tuyến tính SISO: đầu vào là v
i
, đầu ra là x
i
. Ở dạng toán tử
Laplace:





=










1.3


Dạng thời gian (1.3) trở thành:






=












1.4




Quan hệ của H(s), h(t) và quan hệ vào - ra tương ứng của nơron được cho
trong bảng 1.1.
Bảng 1.1:
H(s) 1
1


1
1 +

1

0
 +
1




h(t)
()

0  < 0
1  0


1






1

0


(

1

0
)/

()
x
i
(t)=v
i
(t) x
i
(t)=v
i
(t) Tx
i
(t)+x
i
(t)=v
i
(t) α
0
x
i
(t)+α
1
x
i

(t)=v
i
(t) x
i
(t)=v
i
(t-T)
- Hàm động học phi tuyến.
Mô tả quan hệ của đầu ra y
i
với đầu vào x
i
: y
i
= a(x
i
) (1.5)
a(.) là hàm chuyển đổi
+ Hàm chuyển đổi:
Để tìm được đầu ra của nơron ta phải tiến hành qua hai bước như sau:
- Tìm các giá trị tổng trọng lượng đầu vào net
i
(t)
- Căn cứu vào net
i
(t) để tìm đầu ra y
i
bằng các hàm chuyển đổi vào ra.
Xét các hàm chuyển đổi vào ra:
Nếu quan niệm đầu ra của một nơron nhân tạo như là một tổng của tích các

trọng số với các tín hiệu vào là không phù hợp, vì khi đó giá trị của chúng rất rộng,
thậm chí có thể làm âm, đây là các tín hiệu vào không thực. Vì vậy, cần thực hiện
một phép biến đổi phi tuyến giữa đầu vào và đầu ra, đây là nhiệm vụ của phần tử
chuyển đổi PE (Processing Elements) của nơron như sau:
9

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
out = y = a(Net) (1.6)
out (hoặc y) là tín hiệu ra; a(.) là hàm chuyển đổi.
Hàm chuyển đổi a(.) thực hiện coi nơron như một hộp đen, chuyển đổi m tín
hiệu vào thành tín hiệu ra. Các biến đầu vào và đầu ra có thể là:
- Số thực: Tốt nhất là trong khoảng (0,1) hoặc (-1,1)
- Số nhị phân (0,1)
Có nhiều hàm số thỏa mãn các điều kiện trên, chúng ta thường dùng các
dạng sau đây (Hình 1.3):
+ Hàm Rump (Rump Function): (Hình 1.3a)




=
1 ế  > 1
 ế 0 1
0 ế  < 0

(1.7)
+ Hàm bước nhảy (Step Function): (hình 1.3b): Không khả vi, dạng bước
nhảy, dương:





=
1 ế  0
0 ế  < 0


1.8



+ Hàm giới hạn cứng (Threshold Function): (Hình 1.3c):
Không khả vi, dạng bước nhảy, giá trị trung bình bằng 0. Sgn(.) là hàm
signum.




=



=
1 ế  0
1 ế  < 0



1.9


+ Hàm sigmoid một cực (Unipolar Sigmoid Function): (Hình 1.3d)
Khả vi, dạng bước nhảy, dương:




=
1
1 +



1.10


+ Hàm sigmoid hai cực (Bipolar Sigmoid Function): (Hình 1.3e):
Khả vi, dạng bước nhảy, giá trị trung bình bằng 0:




=
2
1 +

 1

1.11


10

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên

Một phần tử PE với hàm tích phân tuyến tính ở đầu vào và hàm chuyển đổi
Threshold ở đầu ra được gọi là phần tử ngưỡng tuyến tính (Linear Threshold Unit -
LTU) và một phần tử PE với hàm tích phân tuyến tính ở đầu vào và hàm chuyển đổi
ở dạng hàm sigmoid 1 và 2 cực ở đầu ra được gọi là phần tử graded tuyến tính
(Linear Graded Unit - LGU).
1.4 Cấu tạo mạng nơron
Dựa trên những phương pháp xây dựng mạng nơron ta có thể coi nơron như
một hệ MISO truyền đạt và xử lý tín hiệu. Đặc tính truyền đạt của nơron phần lớn là
đặc tính truyền đạt tĩnh, chỉ khi có khâu đáp ứng chức năng kiểu BSB thì lúc đó
nơron có đặc tính động. Trong mọi trường hợp do đặc tính phi tuyến của khâu tạo
chức năng ra kết hợp và/hoặc với đặc tính phi tuyến của khâu tạo chức năng đáp
ứng mà nơron là một hệ có tính phi tuyến mạnh.
Liên kết đầu vào và đầu ra của nhiều nơron với nhau ta được một mạng
nơron. Việc ghép nối các nơron có thể theo một nguyên tắc bất kỳ nào đó, vì về
nguyên tắc một nơron là một hệ MISO. Từ đó có thể phân biệt các loại nơron khác
nhau như các loại nơron mà các đầu vào nhận thông tin từ môi trường bên ngoài với
các loại nơron mà đầu vào được nối với nơron khác trong mạng. Các nơron mà đầu
vào giữ chức năng nhận thông tin từ môi trường bên ngoài đóng chức năng “đầu
vào” của mạng. Cũng tương tự như vậy một nơron có một đầu ra, đầu ra của nơron
a
1
1 0
f
a, Hàm Rump
a

1
1 0
f
b, Hàm bước nhảy
f
a
1
-1
0
c, Hàm giới hạn cứng
d, Hàm sigmoid một cực
c, Hàm sigmoid hai cực
Hình 1.3 Đồ thị các loại hàm chuyển đổi
11

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
này có thể là đầu vào của nhiều nơron khác hoặc có thể đưa ra môi trường bên
ngoài. Những nơron có đầu ra đưa tín hiệu vào môi trường bên ngoài được gọi là
“đầu ra” của mạng. Như vậy một nơron cũng có chức năng của một hệ truyền đạt và
xử lý tín hiệu từ đầu vào đến đầu ra của mạng. Các nơron trong một mạng thường
được chọn cùng một loại, chúng được phân biệt với nhau qua các véc tơ hàm trọng
lượng ở đầu vào w
ij
.
Nguyên lý cấu tạo của một mạng nơron bao gồm nhiều lớp, mỗi lớp bao gồm
nhiều nơron có cùng một chức năng trong mạng. Trên hình 1.4 là hình của một
mạng nơron ba lớp với 9 nơron. Mạng có 3 đầu vào x
1
, x
2

, x
3
và 2 đầu ra y
1
, y
2
. Các
tín hiệu đầu vào được đưa đến 3 nơron đầu vào, 3 nơron này làm thành lớp đầu vào
của mạng (input layer). Các nơron trong lớp này gọi là nơron đầu vào. Đầu ra của
các nơron này được đưa đến đầu vào của bốn nơron tiếp theo, bốn nơron này không
trực tiếp tiếp xúc với môi trường xung quanh và làm thành lớp trung gian trong
mạng (hidden layer). Các nơron trong lớp này có tên là nơron nội hay nơron bị tre.
Đầu ra của các nơron này được đưa đến hai nơron đưa tín hiệu ra môi trường bên
ngoài. Các nơron trong lớp đầu ra này có tên là nơron đầu ra (output layer).

1.5 Cấu trúc mạng nơron
Nelson và Illingworth (1991) đã đưa ra một số loại cấu trúc của mạng nơron
như hình 1.5. Nơron được vẽ là các vòng tròn xem như môt tế bào thần kinh, chúng
có các mối liên hệ đến các nơron khác nhờ các trọng số, lập thành các ma trận trọng
số tương ứng.
Mỗi một nơron có thể phối hợp với các nơron khác tạo thành một lớp qua các
trọng sô. Mạng một lớp truyền thẳng (Single – Layer Feedforward network) như
hình 1.5a.
y
1
y
2
x
1
x

2
x
3
Hình 1.4 Mạng nơron 3 lớp

12

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
Có thể nối vài lớp nơron với nhau tạo thành mạng nhiều lớp truyền thẳng
(Multi layer – Layer Feedforward Network) như hình 1.5.d.
Lớp nơron thực hiện tiếp nhận các tín hiệu vào gọi là lớp vào (Input Layer).

Lớp nơron thực hiện đưa tín hiệu ra gọi là lớp ra (Output Layer).
Giữa hai lớp nơron vào và ra có một hoặc nhiều lớp nơron không liên hệ trực
tiếp với môi trường bên ngoài được gọi là các lớp ẩn (Hidden Layer). Mạng nơron
truyền thẳng nhiều lớp có thể có 1 hoặc nhiều lớp nơron ẩn.
Mạng nơron được gọi là liên kết đầy đủ nếu từng đầu ra của mỗi lớp được
liên kết với đủ các nơron ở các lớp tiếp theo.
Hai loại mạng nơron một lớp và nhiều lớp được gọi là truyền thẳng
(Feedforward Network) nếu đầu ra của mỗi nơron được nối với các đầu vào của các
nơron cùng lớp đó hoặc đầu vào của các nơron của các lớp trước đó. Trong mạng
không tồn tại bất kỳ một mạch hồi tiếp nào kể cả hồi tiếp nội lẫn hồi tiếp từ đầu ra
trở về đầu vào.
Mạng nơron bao gồm một hay nhiều lớp trung gian gọi là mạng MLP
(Multilayer perceptrons Networks).
x
1
x
2
x

m
y
1
y
2
y
m
W
11
W
m,m
a,

x
1
x
2
x
m
y
1
y
2
y
m
b,

c,

x

1
x
2
x
m
y
1
y
2
y
m
W
m,m
W
m,m
y
1
x
1
x
2
x
m
y
2
y
m
…
..

d,

x
1
x
2
x
m
y
2
y
m
…
..

e,

y
1
x
1
x
2
x
m
y
2
y
m
f,

y
1
Hình 1.5 Sơ đồ cấu trúc các loại mạng nơron

13

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
Mạng nơron phản hồi mà đầu ra của mỗi nơron được quay trở lại nối với đầu
vào của các nơron cùng lớp đó được gọi là mạng Lateral (hình 1.5f).
Mạng nơron phản hồi có thể thực hiện đóng vòng được gọi là mạng nơron
hồi quy (Recurrent Networks).
Hình 1.5b chỉ ra một mạng nơron hồi quy đơn giản nhất chỉ có một nơron
liên hệ phản hồi với chính nó.
Hình 1.5c mạng nơron một lớp hồi quy với chính nó và các nơron khác.
Hình 1.5e là mạng nơron nhiều lớp hồi quy.
1.6 Phƣơng thức làm việc của mạng nơron
Phương thức làm việc của một mạng nơron nhân tạo có thể chia làm 2 giai
đoạn:
- Tự tái tạo (reproduction)
- Và giai đoạn học (learning phase)
Ở một mạng nơron có cấu trúc bền vững có nghĩa là véc tơ hàm trọng lượng
đầu vào, khâu tạo đáp ứng và khâu tạo tín hiệu đầu ra đều cố định không bị thay đổi
về mặt cấu trúc cũng như tham số thì mạng có một quá trình truyền đạt xác định
chắc chắn, tĩnh hoặc động phụ thuộc vào cấu tạo của các nơron trong mạng. Ở đầu
vào của mạng xuất hiện thông tin thì đầu ra cũng xuất hiện một đáp ứng tương ứng.
Đối với mạng nơron có quá trình truyền đạt tĩnh, đáp ứng đầu ra xuất hiện ngay sau
khi đầu vào nhận được thông tin, còn đối với mạng nơron có quá trình truyền đạt
động thì phải sau một thời gian quá độ ở đầu ra của mạng nơron mới xuất hiện đáp
ứng. Xuất phát từ quan điểm mọi đáp ứng của mạng nơron đều tiền định tự nhiên,

có nghĩa là khi xuất hiện các kích thích ở đầu ra ở thời điểm tương ứng cũng hoàn
toàn giống nhau. Quá trình làm việc như vậy của một mạng nơron được gọi là quá
trình tái diễn (reproduction phase). Khi đó thông tin ở đầu vào mạng lưu giữ thông
tin đó và dựa trên các tri thức của mình đưa ra các đáp ứng ở đầu ra phù hợp với
lượng thông tin thu được từ đầu vào.
Mạng nơron khi mới hình thành còn chưa có tri thức, tri thức của mạng hình
thành dần sau một quá trình học. Mạng nơron được dạy bằng cách dựa vào đầu vào
những kích thích và hình thành những đáp ứng tương ứng, những đáp ứng phù hợp
với từng loại kích thích sẽ được lưu giữ, giai đoạn này được gọi là giai đoạn học của
mạng. Khi đã hình thành tri thức mạng có thể giải quyết các vấn đề cụ thể một cách
đúng đắn. Đó có thể là những vấn đề ứng dụng rất khác nhau, được giải quyết chủ
14

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
yếu dựa trên sự tổ chức hợp nhất giữa các thông tin đầu vào của mạng và các đáp
ứng đầu ra:
- Nhiệm vụ của một mạng liên kết là hoàn chỉnh hoặc hiệu chỉnh các thông
tin thu thập được không đầy đủ hoặc bị tác động nhiễu. Mạng nơron kiểu này được
ứng dụng trong lĩnh vực hoàn thiện mẫu, mà một trong lĩnh vực cụ thể đó là nhận
dạng chữ viết.
- Nhiệm vụ tổng quát của mạng nơron là lưu giữ tác động thông tin. Dạng
thông tin lưu giữ đó chính là quan hệ giữa các thồng tin đầu vào của mạng và các
đáp ứng đầu ra tương ứng, để khi có một kích thích bất kỳ tác động vào mạng,
mạng có khả năng suy diễn và đưa ra một đáp ứng phù hợp. Đó chính là chức năng
nhận dạng theo mẫu của mạng nơron. Để thực hiện chức năng này mạng nơron
đóng vai trò như một bộ phận tổ chức các nhóm thông tin đầu vào và tương ứng với
mỗi nhóm là một đáp ứng đầu ra phù hợp. Như vậy một nhóm bao gồm một loại
thông tin đầu vào và một đáp ứng ra. Các nhóm có thể hình thành trong quá trình
học và cũng có thể hình thành không trong quá trình học.
Trong lĩnh vực ứng dụng, mạng nơron có khả năng tạo ra các đáp ứng đầu ra

dựa trên thông tin thu thập vào của mạng, điều đó có nghĩa là ứng với một thông tin
xác định ở đầu vào của mạng cung cấp một đáp ứng tương ứng xác định ở đầu ra.
Nhìn trên quan điểm lý thuyết hệ thống, mạng nơron được coi như một bộ xấp xỉ
thông tin, thiết bị này có khả năng cung cấp một quá trình xử lý mong muốn một
cách chính xác. Mục đích của quá trình học là tạo ra một tri thức cho mạng thông
qua rèn luyện. Nguyên tắc học được thực hiện cho mạng mà cấu trúc của mạng
cũng như của các phần tử nơron cố định, chính là thay đổi giá trị của các phần tử
trong véc tơ hàm trọng lượng, véc tơ ghép nối giữa các phần tử nơron trong mạng.
Các phần tử này được chọn sao cho quá trình truyền đạt mong muốn được xấp xỉ
một cách đủ chính xác như bài toán yêu cầu. Như vậy, học chính là quá trình giải
bài toán tối ưu tham số.
1.7 Các luật học
Như phần trên đã trình bày, học là vấn đề quan trọng trong mạng nơron. Có
hai kiểu học:
- Học thông số (Paramater Learning): Tìm ra biểu thức cập nhật các thông
số về trọng số cập nhật kết nối giữa các nơron.
- Học cấu trúc (Structure Learning): Trọng tâm là sự biến đổi cấu trúc của
mạng nơron gồm số lượng nút (node) và các mẫu liên kết.