Đề tài: Thiết kế cảm biến mềm dùng mạng Nơ Ron nhân tạo dùng cho cảm biến cặp nhiệt

TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI

BÁO CÁO TỔNG KẾT
ĐỀ TÀI NGHIÊN CỨU KHOA HỌC SINH VIÊN

“THIẾT KẾ CẢM BIẾN MỀM DÙNG MẠNG NƠ RON NHÂN TẠO DÙNG
CHO CẢM BIẾN CẶP NHIỆT”

Thuộc nhóm nghành khoa học: Điện – Điện Tử

TP.Hồ Chí Minh, tháng 5 năm 2016.

1


TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI

BÁO CÁO TỔNG KẾT
ĐỀ TÀI NGHIÊN CỨU KHOA HỌC CỦA SINH VIÊN

THIẾT KẾ CẢM BIẾN MỀM DÙNG MẠNG NƠ RON NHÂN TẠO DÙNG CHO
CẢM BIẾN CẶP NHIỆT

Thuộc nhóm nghành khoa học:

Sinh viên thực hiện:

Nguyễn Văn Tuấn

Dân tộc:

Kinh

Lớp:

Tự Động Hóa

Khoa:

Điện – Điện Tử

Ngành học:

Tự Động Hóa và Điều Khiển

GVHD:

Ks. Lê Mạnh Tuấn

Giới tính: Nam

Năm thứ: 3/4,5

2


MỤC LỤC
DANH MỤC HÌNH ẢNH ............................................................................................. v
DANH MỤC BẢNG BIỂU. .........................................................................................vi
DANH MỤC NHỮNG TỪ VIẾT TẮT. ......................................................................vi
LỜI GIỚI THIỆU.......................................................................................................... 1

CHƯƠNG 1: TỔNG QUAN VỀ ĐỀ TÀI. ................................................................... 1
1.1

Giới thiệu về đề tài............................................................................................... 1

1.1.1

Tính cấp thiết. ................................................................................................... 1

1.1.2

Mục tiêu nghiên cứu của đề tài. ....................................................................... 1

1.2

Giới thiệu về cảm biến......................................................................................... 1

1.2.1

Cảm biến mềm. .................................................................................................. 1

1.2.2

So sánh giửa cảm biến thô và cảm biến mềm.................................................. 2

1.3

Ứng dụng của bộ cảm biến mềm. ....................................................................... 3

1.4

Đối tượng nghiên cứu. ......................................................................................... 3

CHƯƠNG 2: CƠ SỞ LÝ THUYẾT. ............................................................................ 5
2.1

Mạng nơ ron nhân tạo......................................................................................... 5

2.1.1

Giới thiệu về mạng nơ ron nhân tạo. ............................................................... 5

2.1.2

Tế bào nơ ron và mạng nơ ron nhân tạo. ........................................................ 5

2.1.2.1 Tế bào nơ ron. .................................................................................................... 5
2.1.2.2 Mạng nơ ron nhân tạo. ...................................................................................... 9
2.1.3

Mạng truyền thẳng 1 lớp. ................................................................................. 9

2.1.3.1 Thuật toán học Perceptron. ............................................................................... 9
2.1.3.2 Adaline và mạng tuyến tính.............................................................................. 11
2.1.3.3 Perceptron với hàm tác động bán tuyến tính. .................................................. 12
2.1.3.4 So sánh perceptron với Adaline. ...................................................................... 13
2.1.4

Mạng truyền thẳng nhiều lớp. ........................................................................ 14

2.1.5

Các phương pháp huấn luyện mạng. ............................................................. 15

2.1.5.1 Học có giám sát. .............................................................................................. 15
2.1.5.2 Học cũng cố. .................................................................................................... 16
2.1.5.3 Học không có giám sát. .................................................................................... 16
2.1.6

Thuật toán huấn luyện. .................................................................................. 17

2.1.6.1 Thuật toán Gradient Descent. .......................................................................... 17
2.1.6.2 Thuật toán Newton. .......................................................................................... 18
iii


2.1.6.3 Thuật toán Gauss – Newton. ............................................................................ 19
2.1.6.4 Thuật toán Levenberg Marquardt. ................................................................... 20
2.2

Cảm biến. ........................................................................................................... 21

2.2.1

Cấu tạo và nguyên lý hoạt động của thermocouple. ..................................... 21

2.2.2

Phân tích khâu điều hòa tín hiệu. .................................................................. 22

2.2.2.1 Khuếch đại. ...................................................................................................... 22
2.2.2.2 Tuyến tính hóa. ................................................................................................. 22
2.2.2.3 Cách ly. ............................................................................................................ 22
2.2.2.4 Mạch lọc. .......................................................................................................... 23
2.2.3

Các bước xây dựng bộ cảm biến mềm. .......................................................... 24

2.2.3.1 Chọn dữ liệu và lọc. ......................................................................................... 24
2.2.3.2 Chọn kiểu hồi quy và cấu trúc mô hình. .......................................................... 25
2.2.3.3 Thành lập mô hình.(ước lượng mô hình và chuẩn hóa mô hình) .................... 26
CHƯƠNG 3: XÂY DỰNG ĐỀ TÀI. .......................................................................... 27
3.1

Thu thập dữ liệu. ............................................................................................... 27

3.2

Tiền xử lý dữ liệu. .............................................................................................. 27

3.3

Xây dựng mạng nơ ron. .................................................................................... 27

3.3.1

Chọn số lớp cho mạng nơ ron. ....................................................................... 27

3.3.2

Chọn số nơ ron lớp ẩn mạng 2 lớp................................................................. 28

CHƯƠNG 4: TỔNG KẾT. ......................................................................................... 29
4.1

Kết quả của đề tài. ............................................................................................. 29

4.2

Hạn chế của đề tài. ............................................................................................ 29

4.3

Hướng phát triển. .............................................................................................. 29

TÀI LIỆU THAM KHẢO........................................................................................... 30

iv


DANH MỤC HÌNH ẢNH
Hình 2.1: Tế bào nơ ron nhân tạo. ...................................................................................6
Hình 2.2: Hàm nấc. ..........................................................................................................7
Hình 2.3: Hàm dấu. .........................................................................................................7
Hình 2.4: Hàm tuyến tính. ...............................................................................................7
Hình 2.5: Hàm dốc bảo hòa. ............................................................................................8
Hình 2.6: Hàm tuyến tính bảo hòa...................................................................................8
Hình 2.7: Hàm dạng S đơn cực .......................................................................................9
Hình 2.8: Hàm dạng S lưỡng cực. ...................................................................................9
Hình 2.9: Mạng Perceptron. ..........................................................................................10

Hình 2.10: Mạng tuyến tính (a) và Adaline (b) .............................................................11
Hình 2.11: Học có giám sát. ..........................................................................................16
Hình 2.12: Học cũng cố. ................................................................................................16
Hình 2.13: Học không có giám sát. ...............................................................................17
Hình 2.14: Mô tả thuật toán Gradient Descent ..............................................................17
Hình 2.15: Mô tả hình học của phương pháp Newton ..................................................18
Hình 2.16: Cấu tạo của thermocouple. ..........................................................................21
Hình 2.17: Cách ly bằng Opto. ......................................................................................23
Hình 2.18: Cách ly bằng biến áp. ..................................................................................23
Hình 2.19: Tổng quan các bước thiết kế bộ cảm biến mềm. .........................................24
Hình 3.1: Cấu trúc mạng 2 lớp. .....................................................................................28
Hình 3.2: Cấu trúc mạng 3 lớp. .....................................................................................28
Hình 3.3: Chọn số lớp ẩn. ..............................................................................................28

v


DANH MỤC BẢNG BIỂU.
Bảng thay đổi giá trị điện áp của thermocouple. ......................................................32
DANH MỤC NHỮNG TỪ VIẾT TẮT.
ADC: Analog – to Digital – Converter.
DAQ: Data Acquisition.
LMS: Least Mean Squares.
PC:

Personal Computer.

SNR: Signal – to Noise Ratio.

vi

TRƯỜNG ĐẠI HỌC GTVT
THÔNG TIN KẾT QUẢ NGHIÊN CỨU CỦA ĐỀ TÀI
1. Thông tin chung:
-

Tên đề tài: Thiết kế cảm biến mềm dùng mạng nơ ron nhân tạo dùng cho
cảm biến cặp nhiệt.

-

Sinh viên thực hiện:

Nguyễn Văn Tuấn
Phạm Minh Đức
Nguyễn Huy Hiệu
Nguyễn Ngọc Hải
Trần Vũ

Lớp: TĐH & ĐK K54

-

Khoa Điện – Điện Tử

Năm thứ 3 / 4,5

2. Mục tiêu đề tài: Thiết kế bộ cảm biến mềm(cảm biến kết hợp với bộ xử lý tín
hiệu) dùng mạng nơ ron nhân tạo ứng dụng trong điều khiển và giám sát quá trình

công nghiệp.
3. Tính mới và tính khoa học:
-

Tính mới: Ứng dụng mạng nơ ron nhân tạo trong thiết kế cảm biến mềm cho
cặp nhiệt.

-

Tính khoa học: Ứng dụng mạng nơ ron nhân tạo trong nhận dạng hệ phi tuyến
như NMA, NARX…

4. Kết quả nghiên cứu: Phần mềm mô phỏng cảm biến mềm.
5. Đóng góp về mặt kinh tế - xã hội, giáo dục và đào tạo, an ninh, quốc phòng
và khả năng áp dụng của đề tài: ứng dụng trong công nghiệp nhằm thay thế
các phương pháp tuyến tính hóa cảm biến trước đây, giúp giảm chi phí thiết kế
cũng như tăng độ tin cậy của cảm biến, đảm bảo cho quá trình vận hành các thiết
bị trong công nghiệp ổn định.
6. Công bố khoa học của sinh viên từ kết quả nghiên cứu của đề tài:

vii


Ngày 09 tháng 05 năm 2016
Sinh viên chịu trách nhiệm chính thực
hiện đề tài.
(ký, họ và tên)

Nguyễn Văn Tuấn

Nhận xét của người hướng dẫn về những đóng góp khoa học của sinh viên thực
hiện đề tài:

Ngày

tháng

năm 2016

Người hướng dẫn
(ký, họ và tên)

Ks. Lê Mạnh Tuấn

viii


TRƯỜNG ĐẠI HỌC GTVT

THÔNG TIN VỀ SINH VIÊN
CHỊU TRÁCH NHIỆM CHÍNH THỰC HIỆN ĐỀ TÀI
I.

SƠ LƯỢC VỀ SINH VIÊN:
Họ và tên: Nguyễn Văn Tuấn.
Sinh ngày: 20 tháng 09 năm 1994
Nơi sinh: Quảng Lộc – Quảng Trạch – Quảng Bình
Lớp: Tự Động Hóa và Điều Khiển

Khóa: 54

Bộ môn: Điều Khiển Học
Khoa : Điện – điện tử
Địa chỉ liên hệ: C11/8 Đường Lê Văn Việt, Quận 9, TP. Hồ Chí Minh
Điện thoại: 0969562272
II.

Email:

QUÁ TRÌNH HỌC TẬP
 Năm thứ 1:
Ngành học: Tự Động Hóa và Điều Khiển

Khoa: Điện – Điện Tử

Kết quả xếp loại học tập: Trung Bình
Sơ lược thành tích:
 Năm thứ 2:
Ngành học: Tự Động Hóa và Điều Khiển

Khoa: Điện – Điện Tử

Kết quả xếp loại học tập: Khá
Sơ lược thành tích:
Giải ba hội thi mô hình chuyên nghành lần 1
Tham gia NCKHSV năm 2014 – 2015

ix

Ngày 09 tháng 05 năm 2016
Sinh viên chịu trách nhiệm chính
thực hiện đề tài
(ký, họ và tên )

Nguyễn Văn Tuấn

x


LỜI GIỚI THIỆU
Trong thời đại ngày nay, khoa học kỹ thuật phát triển đòi hỏi sinh viên – học sinh
học phải đi đôi với hành, bên cạnh những lý thuyết cơ bản ở trường lớp, phải biết ứng
dụng những gì đã học vào thực tiễn, có vậy mới giúp chúng ta nắm vững những kiến
thức mình đã có, bổ sung thêm kiến thức mới và góp phần phát huy khả năng năng động,
sáng tạo.
Cùng với sự phát triển không ngừng của các ngành khoa học kỹ thuật, các ngành
công nghiệp cũng phát triển nhanh chóng. Việc áp dụng các máy móc hiện đại vào sản
xuất là một yêu cầu không thể thiếu trong các nhà máy nhằm tăng năng suất, tăng chất
lượng và giảm giá thành sản phẩm. Nghành công nghiệp phát triển ngày càng mạnh mẽ
và nhu cầu tự động hóa trong các nghành công nghiệp ngày càng tăng cao. Nhưng để tự
động hóa các quy trình sản xuất được thì đòi hỏi chúng ta phải cung cấp cho các máy
móc những giác quan cần thiết và cảm biến chính là giác quan của máy móc. Các cảm
biến hoạt động với độ tin cậy cao thì máy móc làm việc càng tốt, chất lượng sản phẩm
càng tăng. Do vậy, nhu cầu tự động hóa trong công nghiệp thì không thể thiếu cảm biến
được.
Xuất phát từ thực tế, nhóm đã chọn đề tài: Thiết kế cảm biến mềm dùng mạng
nơ ron nhân tạo dùng cho cảm biến cặp nhiệt.

Trang | 1

Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn
CHƯƠNG 1: TỔNG QUAN VỀ ĐỀ TÀI.

1.1 Giới thiệu về đề tài.
1.1.1 Tính cấp thiết.
Hiện nay trong công nghiệp thì việc sử dụng các cảm biến trong các dây chuyền
sản xuất đã trở nên rất phổ biến và rất cần thiết nhất là đối với các hệ thống sản xuất tự
động ví dụ như các băng chuyền phân loại sản phẩm, hệ thống đóng gói sản phẩm…vv
hay các hệ thống hoạt động trong các môi trường khắc nghiệt như là các lò nung, lò
luyện thép…vv.
Trong môi trường công nghiệp thì đòi hỏi thời gian đáp ứng phải nhanh và chính
xác, không cho phép sai số vượt quá một ngưỡng nào đó.
Tuy nhiên trên thị trường hiện nay có rất nhiều loại cảm biến và hầu hết các cảm
biến trên thị trường thì ngõ ra của cảm biến thường là không tuyến tính nên gây khó
khăn trong việc xử lý kết quả của bộ xử lý.
Trên thực tế đó, sau một thời gian tìm hiểu và nghiên cứu nhóm đã đưa ra giải
pháp là thiết kế một bộ cảm biến mềm nhằm xử lý các kết quả của ngõ ra cảm biến trước
khi đưa vào bộ xử lý với mục đích giảm khối lượng tính toán cho bộ xử lý và nâng cao
hiệu suất hoạt động của bộ xử lý.
1.1.2

Mục tiêu nghiên cứu của đề tài.
Mục tiêu của nhóm là xây dựng một bộ cảm biến kết hợp với một bộ xử lý tín

hiệu gọi là bộ cảm biến mềm trước khi đưa kết quả đo vào bộ xử lý ứng dụng trong quá
điều khiển và giám sát quá trình công nghiệp.

1.2 Giới thiệu về cảm biến.
1.2.1 Cảm biến mềm.
Cảm biến mềm hay còn được gọi là cảm biến thông minh là một loại cảm biến
có kết hợp với bộ xử lý tín hiệu trước khi đưa các giá trị ngõ ra của cảm biến vào các bộ
vi xử lý, vi điều khiển để thực hiện tính toán.
Cảm biến mềm là 1 công cụ có giá trị trong nhiều lĩnh vực công nghiệp khác
nhau với nhiều ứng dụng như nhà máy lọc dầu, nhà máy hóa chất, nhà máy điện, trong

Trang | 1


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

ngành công nghiệp. Giải quyết 1 số vấn đề khác nhau như hệ thống đo back - up, phân
tích thời gian thực.
Trong các mô hình thiết kế, cảm biến mềm giúp làm giảm tài nguyên phần cứng,
cải thiện hệ thống, cải thiện độ tin cậy và kiểm soát chặt chẽ hệ thống.
Cảm biến mềm hay cảm biến thông minh (tiếng Anh là soft sensor hay intelligent
sensor) là tên thường dùng cho những thiết bị có chức năng nhận biết những đại lượng
vật lý như âm thanh, nhiệt độ, giọng nói, hình ảnh…vv, ngõ ra của cảm biến có thể được
tuyến tính hóa hoặc dùng phần mềm để thay đổi cho thích hợp, được dùng trong các hệ
thống đo lường nhằm cải thiện tính thích ứng, tính ổn định, tính chính xác và giá thành
của hệ thống. Đặc biệt là cảm biến thông minh có thể kết nối với các phần mềm trong
hệ thống đo lường để xử lý dữ liệu, điều này làm cho tính tối ưu của hệ thống được nâng
cao lên nhiều.
Có rất nhiều loại cảm biến thông minh khác nhau. Mỗi loại cảm biến thông minh
lại được dùng trong từng hệ thống tương ứng với chức năng của chúng. Cảm biến thông
minh đặc biệt dùng nhiều trong lĩnh lực thu thập dữ liệu.

Sử dụng vi xử lý có khả năng phát hiện những vị trí hỏng hóc trong thiết bị đo và
đưa ra thông tin, chuẩn đoán kĩ thuật về sự làm việc của thiết bị đo.
Các cảm biến thông minh, với sự kết hợp giữa vi xử lý và các bộ cảm biến thông
thường thực sự đã tạo ra một tiến bộ vượt bậc trong kỹ thuật đo.
1.2.2

So sánh giửa cảm biến thô và cảm biến mềm.
Chúng ta biết rằng cảm biến mềm thì với ngõ ra có thể tuyến tính hóa hoặc dùng

phần mềm để thay đổi theo yêu cầu. Đây cũng chính là sự khác biệt lớn giữa cảm biến
thô và cảm biến mềm.
Cảm biến mềm cung cấp 1 vài tiện ích như sau:
-

Thay thế các thiết bị phần cứng có chi phí cao, thực hiện mạng lưới giám sát toàn
diện hơn.

Trang | 2


Báo cáo NCKH

-

GVHD: Ks. Lê Mạnh Tuấn

Cho phép làm việc song song với cảm biến phần cứng, nhận biết các lỗi, do đó
đáng tin cậy hơn.

-

Dể dàng thực hiện trên phần cứng(như vi điều khiển) và trở về khi các thông số
thay đổi.

1.3

Cho phép ước lượng thời gian thực của dữ liệu, phục hồi sự chậm trễ về thời gian.
Ứng dụng của bộ cảm biến mềm.
Trên thế giới hiện nay thì cảm biến thông minh được sử dụng rộng rãi trong hầu

hết mọi lĩnh vực. Mỗi loại cảm biến thông minh lại mang một chức năng, nhiệm vụ khác
nhau.
Công nghiệp là một lĩnh vực mà cảm biến thông minh được sử dụng rất nhiều.
Trong công nghiệp thì tín hiệu chủ yếu để cho cảm biến thông minh hoạt động đó là tín
hiệu cơ học, tín hiệu điện, tín hiệu quang học… thì cảm biến thông minh có nhiệm vụ
đếm, phân loại, đọc và hướng dẫn có tính robot.
Trong kỹ thuật sinh học thì cảm biến thông minh là công cụ phát hiện sự có mặt
của vật chất, chất hóa học và sinh học, đưa ra phương thức đo lường và lưu giữ các thông
tin về dấu hiệu đó.
Chúng ta có thể nêu một vài loại cảm biến thông minh điển hình như:
-

Cảm biến gia tốc kế: Cảm biến gia tốc kế bao gồm phần tử cảm biến và phần tử
thiết bị điện.

-

Cảm biến quang học: Cảm biến quang học là 1 trong những ví dụ cơ bản của cảm
biến thông minh dùng để phát hiện vật.
Trên đây là một vài loại cảm biến thông minh mà chúng ta thường hay sử dụng.

Còn rất nhiều loại cảm biến thông minh khác mà chúng ta không thể đề cập đến.
1.4

Đối tượng nghiên cứu.
Hiện nay trên thị trường có rất nhiều loại cảm biến với ngõ ra tuyến tính, ví dụ

như LM35, RTD đầu ra đã tuyến tính sẵn, do đề tài này nghiên cứu việc tuyến tính hóa
ngõ ra của các cảm biến phi tuyến. Nên đối tượng để nghiên cứu ở đây là những loại
cảm biến có ngõ ra là phi tuyến.
Trang | 3


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Việc lựa chọn đối tượng để nghiên cứu là bước đầu tiên và cũng là bước quan
trọng nhất trong việc thiết kế một bộ cảm biến mềm.
Qua quá trình tìm hiểu thì nhóm đi tới quyết định sử dụng Thermocouple vì nó
có nhiều ưu điểm vượt trội hơn so với nhiều loại cảm biến khác.

Trang | 4


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn
CHƯƠNG 2: CƠ SỞ LÝ THUYẾT.

2.1 Mạng nơ ron nhân tạo.
2.1.1 Giới thiệu về mạng nơ ron nhân tạo.
Bộ não con người là hệ thống xử lý thông tin phức tạp phi tuyến và song song,
có khả năng học và ghi nhớ, tổng quá hóa và xử lý lỗi.
Bộ não con người gồm khoảng 1011 tế bào thần kinh liên kết với nhau thành
mạng.
Mỗi tế bào thần kinh sinh học gồm 3 thành phần chính là thân tế bào, một hệ
thống hình cây các đầu dây thần kinh vào và một trục dẫn đến đầu dây thần kinh ra.
Tại đầu của các dây thần kinh có các khớp thần kinh để kết nối với các tế bào
thần kinh khác. Mỗi tế bào thần kinh có khoảng 104 khớp thần kinh.
Mạng thần kinh nhân tạo(mạng nơ ron nhân tạo) là mô hình toán học đơn giản
của bộ não người, bản chất của mạng thần kinh là mạng tính toán song song.
Hầu hết các mạng thần kinh nhân tạo phải được huấn luyện trước khi đưa vào sử
dụng.
Các nghiên cứu về mạng thần kinh nhân tạo đã bắt đầu từ thập niên 1940. Năm
1944, McCulloch và Pitts công bố công trình nghiên cứu về liên kết của các tế bào thần
kinh. Năm 1949, Hebb công bố nghiên cứu về tính thích nghi của mạng thần kinh. Cuối
những năm 1950, Rosenblatt đưa ra mạng Perceptron. Nghiên cứu về mạng thần kinh
nhân tạo chỉ phát triển mạnh từ sau những năm 1980.
2.1.2 Tế bào nơ ron và mạng nơ ron nhân tạo.
2.1.2.1 Tế bào nơ ron.
Tế bào nơ ron kết nối với nhau bởi các liên kết. Mỗi liên kết kèm theo một trọng
số, đặc trưng cho tính kích thích hay ức chế giữa các tế bào nơ ron.
Các tế bào thần kinh được kết nối với nhau và nhận truyền các tính hiệu xj cùng
các trọng số wj với nhau.

Trang | 5


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Hình 2.1: Tế bào nơ ron nhân tạo.
Trong đó:
-

𝑋𝑗 là các tín hiệu vào.

-

𝑊𝑗 là các vecter trọng số.
Quá trình xử lý thông tin có thể chia làm hai phần:

-

Xử lý ngõ vào và xử lý ngõ ra.

-

Hàm xử lý ngõ vào là hàm tổng có các dạng sau:
Hàm tuyến tính:
T
f = net = (∑𝑚
𝑗=1 𝑤𝑗 𝑥𝑗 ) – 𝜃 = w .x – 𝜃

Hàm toàn phương:
2
f = net = ((∑𝑚
𝑗=1 𝑤𝑗 𝑥 ) – 𝜃

Hàm cầu:
2
2
T
f = net = (𝜌2 ∑𝑚
𝑗=1(𝑤𝑗 − 𝑥𝑗 ) ) – 𝜃 = 𝜌 (x – w) (x – w) – 𝜃

Trong đó: 𝜃 là mức ngưỡng của tế bào thần kinh.
-

Ngõ ra của mỗi tế bào thần kinh được cho bởi biểu thức:
y = a(f)
Trong đó a(f) là hàm tác động.

-

Các dạng hàm tác động thường dùng:
Hàm nấc:

Trang | 6


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn
a(f) = {

1
0

𝑛ế𝑢 𝑓 ≥ 0
𝑛ế𝑢 𝑓 < 0

Hình 2.2: Hàm nấc.
Hàm dấu:
a(f) = {

1
−1

𝑛ế𝑢 𝑓 ≥ 0
𝑛ế𝑢 𝑓 < 0

Hình 2.3: Hàm dấu.
Hàm tuyến tính:
a(f) = f

Hình 2.4: Hàm tuyến tính.
Trang | 7


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Hàm dốc bảo hòa:
1
a(f) = {𝑓
0

𝑛ế𝑢 𝑓 > 1
𝑛ế𝑢 0 ≤ 𝑓 ≤ 1
𝑛ế𝑢 𝑓 < 0

Hình 2.5: Hàm dốc bảo hòa.
Hàm tuyến tính bảo hòa:
1
a(f) = {𝑓
−1

𝑛ế𝑢 𝑓 > 1
𝑛ế𝑢 − 1 ≤ 𝑓 ≤ 1
𝑛ế𝑢 𝑓 < −1

Hình 2.6: Hàm tuyến tính bảo hòa.
Hàm dạng S đơn cực:
a(f) =

1
1+ 𝑒 −𝛾𝑓

Trang | 8


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Hình 2.7: Hàm dạng S đơn cực

Hàm dạng S lưỡng cực:
a(f) =

2
1+ 𝑒 −𝛾𝑓

-1

Hình 2.8: Hàm dạng S lưỡng cực.

2.1.2.2

Mạng nơ ron nhân tạo.

Là mạng gồm nhiều tế bào thần kinh liên kết chặt chẻ với nhau, tùy theo cấu trúc
người ta chia thành cá loại mạng sau:
-

Mạng 1 lớp: chỉ có 1 lớp tế bào nơ ron xử lý.

-

Mạng nhiều lớp: có nhiều lớp tế bào thần kinh xử lý.

-

Mạng truyền thẳng: là mạng mà trong đó tín hiệu chỉ truyền theo một chiều từ
ngõ vào đến ngõ ra.

-

Mạng hồi quy: là mạng mà trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.

2.1.3 Mạng truyền thẳng 1 lớp.
2.1.3.1 Thuật toán học Perceptron.
Mạng truyền thẳng một lớp hay còn gọi là mạng Perceptron đơn giản. Hàm tổng
ngõ vào là hàm tuyến tính, hàm tác động ngõ ra có thể là hàm dấu, hàm tuyến tính hay
Trang | 9


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

hàm dạng S. Tùy theo từng loại ngõ vào tác động mà ta có nhiều thuật toán khác nhau
để huấn luyện Perceptron.

Hình 2.9: Mạng Perceptron.
Thuật toán Perceptron:
Bước 1: chọn tốc độ học η > 0.
Bước 2: khởi động.
-

Gán sai số E = 0.

-

Gán biến chạy k = 1.

-

Gán các trọng số 𝑤𝑖 (𝑘 ) (i = ̅̅̅̅̅
1, 𝑛) bằng các giá trị nhỏ ngẫu nhiên bất kỳ.

Bước 3: quá trình huấn luyện bắt đầu, tính:
yi(k) = step(𝑤𝑖𝑇 (k)x(k)) = step{∑𝑚
𝑗=1 𝑤𝑖𝑗 (𝑘 )𝑥𝑗 (𝑘)}

(i = ̅̅̅̅̅
1, 𝑛)

Bước 4: Cập nhật các vector trọng số:
Wi(k + 1) = wi(k) + η{di(k) – yi(k)}x(k)

(i = ̅̅̅̅̅
1, 𝑛)

Bước 5: Tính sai số tích lũy.
1

E = E + ‖𝑑𝑖 (𝑘) − 𝑦𝑖 (𝑘)‖2
2

Bước 6:
Nếu k < K thì gán k = k + 1 và trở lại bước 3.
Nếu k = K thì tiếp tục bước 7.
Bước 7: Kết thúc một chu kỳ huấn luyện.
Trang | 10

Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Nếu E = 0 thì kết thúc quá trình học.
Nếu E ≠ 0 thì gán E = 0, k = 1 và trở lại bước 3 bắt đầu một chu trình huấn
luyện mới.
Perceptron cho phép phân loại chính xác trong trường hợp dữ liệu có thể phân chia
tuyến tính. Nó cũng phân loại đúng đầu ra các hàm AND, OR và các hàm có dạng đúng
khi n trong m đầu vào của nó đúng(n ≤ m). Nó không thể phân loại được đầu ra của hàm
XOR.
2.1.3.2

Adaline và mạng tuyến tính.

Mạng tuyến tính là mạng truyền thẳng một lớp gồm các phần tử thích nghi tuyến
tính.
Adaline (Adaptive Linear Element). Adaline khác với Perceptron ở chỗ hàm tác
động của Adaline là hàm tuyến tính chứ không phải hàm giới hạn cứng. Điều này giúp
cho ngõ ra của Adaline có thể nhận giá trị bất kỳ. Về phần thuật toán của Adaline thì
hiệu quả hơn của Perceptron, làm cho giới hạn phân loại được rộng hơn.

Hình 2.10: Mạng tuyến tính (a) và Adaline (b)
Thuật toán học Widrow – Hoff:
Bước 1: Chọn tốc độ học ƞ > 0, chọn sai số cực đại 𝐸𝑚𝑎𝑥 .
Bước 2: Khởi động:

Trang | 11

Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

-

Gán sai số E = 0.

-

Gán biến chạy k = 1.

-

̅̅̅̅̅̅
Gán các trọng số wij(k) (i = ̅̅̅̅̅
1, 𝑛), (j = 1,
𝑚) bằng giá trị bất kỳ.

Bước 3: Quá trình huấn luyện bắt đầu, tính:
𝑦𝑖 (𝑘) = ∑𝑚
𝑗=1 𝑤𝑖𝑗 (𝑘)𝑥𝑗 (𝑘)

(i = ̅̅̅̅̅
1, 𝑛)

Bước 4: Cập nhật các trọng số theo biểu thức:
̅̅̅̅̅̅
wij(k+1) = wij(k) + η[𝑑𝑖 (𝑘 ) − 𝑦𝑖 (𝑘 )]𝑥𝑗 (𝑘) (i = ̅̅̅̅̅
1, 𝑛), (j = 1,

𝑚)
Bước 5: Tính sai số tích lũy:
1

E = E + ∑𝑛𝑖=1[𝑑𝑖 (𝑘 ) − 𝑦𝑖 (𝑘)]2
2

Bước 6:
Nếu k < K thì gán k = k + 1 và trở lại bước 3.
Nếu k = K thì tiếp tục bước 7.
Bước 7:
Nếu E < Emax thì kết thúc quá trình học.
Nếu E ≥ Emax thì gán E = 0, k = 1 và trở lại bước 3 bắt đầu một chu kỳ
huấn luyện mới.
Perceptron với hàm tác động bán tuyến tính.

2.1.3.3

Perceptron thường sử dụng hàm tác động là hàm giới hạn cứng (hàm nấc hay hàm
dấu), mà giới hạn cứng không khả vi tại mọi điểm nên không tối ưu. Để khắc phục nhược
điểm trên, ta thay giới hạn cứng bằng giới hạn mềm.
Thuật toán học Delta:
Bước 1: Chọn tốc độ học ƞ > 0, chọn sai số cực đại Emax.
Bước 2: Khởi động:
-

Gán sai số E = 0.
Trang | 12

Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

-

Gán biến chạy k = 1.

-

̅̅̅̅̅̅
Gán các trọng số wij(k) (i = ̅̅̅̅̅
1, 𝑛), (j = 1,
𝑚) bằng giá ngẫu nhiên nhỏ bất
kỳ.

Bước 3: Quá trình huấn luyện bắt đầu, tính:
̅̅̅̅̅
𝑛𝑒𝑡𝑖 (𝑘) = ∑𝑚
𝑗=1 𝑤𝑖𝑗 (𝑘)𝑥𝑗 (𝑘) (i = 1, 𝑛)
𝑦𝑖 (𝑘) = a(neti(k))

(i = ̅̅̅̅̅
1, 𝑛)

Bước 4: cập nhập các trong số theo biểu thức:
𝛿𝑖 (𝑘 ) = [𝑑𝑖 (𝑘 ) − 𝑦𝑖 (𝑘 )] a’(neti(k))
wij(k+1) = wij(k) + ƞ𝛿𝑖 (𝑘 )𝑥𝑖 (𝑘 )
Bước 5: tính sai số tích lũy:
1

E = E + ∑𝑛𝑖=1[𝑑𝑖 (𝑘 ) − 𝑦𝑖 (𝑘)]2
2

Bước 6:
Nếu k < K thì gán k = k + 1 và trở lại bước 3.
Nếu k = K thì tiếp tục bước 7.
Bước 7:
Nếu E < Emax thì kết thúc quá trình học.
Nếu E ≥ Emax thì gán E = 0, k = 1 và trở lại bước 3 bắt đầu một chu kỳ
huấn luyện mới.
2.1.3.4

So sánh perceptron với Adaline.

Giống nhau:
Perceptron và Adaline đều là thuật toán để huấn luyện mạng thần kinh nhân tạo,
đều sử dụng để huấn luyện mạng truyền thẳng 1 lớp.
Khác nhau:
Pererceptron:
Trang | 13


Báo cáo NCKH

GVHD: Ks. Lê Mạnh Tuấn

Có khả năng tổng quát hóa những vector mẫu huấn luyện và khả năng học từ các

-

trọng số và mức ngưỡng ngẫu nhiên bất kỳ.
Perceptron đặc biệt thích nghi với những loại mẫu đơn giản, nhanh và tin cậy.

-

Adaline:
Bản chất của thuật toán huấn luyện Adaline là thuật toán trung bình bình phương

-

tối thiểu(LMS- Least Mean Squares) nên hiệu quả hơn thuật toán học Perceptron
và di chuyển giới hạn phân loại xa nhất có thể có được so với mẫu phân loại.
Ngõ ra của mạng Adaline là một giá trị bất kỳ nên thường được sử dụng Adaline

-

trong bài toán điều khiển.
2.1.4

Mạng truyền thẳng nhiều lớp.

Cấu trúc mạng.
Mạng truyền thẳng nhiều lớp là mạng có từ 2 lớp trở lên.
Lớp tế bào thần kinh nối với ngõ vào gọi là lớp vào.
Lớp tế bào thần kinh nối với ngõ ra gọi là lớp ra.
Lớp tế bào thần kinh không nối trực tiếp ngõ ra và ngõ vào gọi là lớp ẩn.
Kết nối giữa các tế bào thần kinh có thể đầy đủ hoặc không đầy đủ.
Mạng truyền thẳng nhiều lớp có thể giải bài toán không khả phân tuyến tính.
Thuật toán để giải quyết mạng truyền thẳng nhiều lớp được gọi là thuật toán lan

truyền ngược. Thuật toán lan truyền ngược thực hiện 2 bước truyền thông tin.
Do thuật toán huấn luyện mạng truyền thẳng là thuật toán lan truyền ngược nên
còn được gọi là mạng lan truyền ngược.
Thuật toán lan truyền ngược.
Bước 1: Chọn tốc độ học ƞ > 0, chọn sai số cực đại 𝐸𝑚𝑎𝑥 .
Bước 2: Khởi động:
Gán sai số E = 0.
Trang | 14