Tải bản đầy đủ (.pdf) (99 trang)

Nghiên cứu mô hình tính toán tổn thất điện năng trên lưới điện 110KV

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (9.17 MB, 99 trang )

ĐẠI HỌC QUỐC GIA TP.HCM
TRƯỜNG ĐẠO HỌC BÁCH KHOA

NGUYỄN MINH TUẤN

NGHIÊN CỨU MƠ HÌNH TÍNH TỐN TỔN THẤT ĐIỆN NĂNG TRÊN
LƯỚI ĐIỆN 110KV

Chuyên ngành: Quản Lý Năng Lượng
Mã số: 8510602

LUẬN VĂN THẠC SĨ

BẾN TRE, tháng 10 năm 2020


CƠNG TRÌNH ĐƯỢC HỒN THÀNH TẠI
PHÂN HIỆU ĐHQG TP.HCM TẠI TỈNH BẾN TRE
Cán bộ hướng dẫn khoa học : TS. Nguyễn Nhật Nam
Cán bộ chấm nhận xét 1 : TS. Lê Kỷ
Cán bộ chấm nhận xét 2 : TS. Huỳnh Văn Vạn
Luận văn thạc sĩ được bảo vệ tại Phân hiệu ĐHQG Tp. HCM, tại Bến Tre ngày 10 tháng
10 năm 2020
Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm:
1. Chủ tịch : PGS.TS Võ Ngọc Điều
2. Thư ký : TS. Nguyễn Phúc Khải
3. Phản biện 1: TS. Lê Kỷ
4. Phản biện 2 : TS. Huỳnh Văn Vạn
5. Ủy viên : PGS.TS Vũ Phan Tú
Xác nhận của Chủ tịch Hội đồng đánh giá LV và Trưởng Khoa quản lý chuyên
ngành sau khi luận văn đã được sửa chữa (nếu có).


CHỦ TỊCH HỘI ĐỒNG

PGS.TS Võ Ngọc Điều

TRƯỞNG KHOA………………


KHOA ĐẠI HỌC QUỐC GIA TP.HCM CƠNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM
TRƯỜNG ĐẠI HOẠC BÁCH KHOA

Độc lập- Tự do- Hạnh phúc

NHIỆM VỤ LUẬN VĂN THẠC SĨ
Học viên : Nguyễn Minh Tuấn

MSHV :1870672

Ngày tháng, năm sinh: 08/11/1993.

Nơi sinh Bến Tre.

Chuyên ngành: Quản Lý Năng Lượng

Mã Ngành : 8510602

I.TÊN ĐỀ TÀI : Nghiên cứu mơ hình tính tốn tổn thất điện năng trên lưới điện 110kV.
II.NGÀY GIAO NHIỆM VỤ: 19/08/2019
III.NỘI DUNG VÀ NHIỆM VỤ :
Tìm hiểu về lý thuyết về mạng Neural network, tiến hành xây dựng mơ hình mạng
Neural network.

Xây dựng mơ hình tính tốn trên lý thuyết , từ đó xây dựng mạng Neural network
tính tổn thất cho lưới điện 110kV.
Đưa ra mơ hình tối ưu nhất cho lưới điện 110kV tỉnh Bến Tre
IV.NGÀY HOÀNG THÀNH NHIỆM VỤ : 20/09/2020
V.CÁN BỘ HƯỚNG DẪN: TS. Nguyễn Nhật Nam

Tp. HCM, ngày ..... tháng ..... năm 20…
CÁN BỘ HƯỚNG DẪN

CHỦ NHIỆM BỘ MÔN ĐÀO TẠO

(Họ tên và chữ ký)

(Họ tên và chữ ký)

TS. Nguyễn Nhật Nam

TRƯỞNG KHOA...............
(Họ tên và chữ ký)


LỜI CẢM ƠN
Xin dành lời cảm ơn trân trọng của tôi muốn dành tới TS Nguyễn Nhật Nam, người
đã dẫn dắt và định hướng cho tơi trong suốt q trình làm luận văn, dưới sự chỉ bảo của
Thầy giúp cho tơi tìm ra vấn đề mới và các hướng giải quyết vấn đề một cách khoa học.
Tôi xin trân trọng cảm ơn Thầy Cô ở Bộ phận sau Đại học, Phòng đào tạo sau đại
học- Đại học Bách Khoa TP. HCM và Ban giám đốc phân hiệu Đại học quốc gia chi
nhánh Bến Tre đã tích cực tạo điều kiện cho tơi được học tập và làm khóa luận một cách
thuận lợi. Do thời gian có hạn, luận văn này chắc chắn khó tránh khỏi thiếu sót, rất mong
được sự góp ý thẳng thắn của các Thầy, Cơ để luận văn được hoàn thiện hơn.

Trân trọng cảm ơn !
Bến Tre, ngày

tháng

năm 2020

Người thực hiện

Nguyễn Minh Tuấn


TÓM TẮT LUẬN VĂN THẠC SĨ
Dự báo tổn thất ngắn hạn là rất cần thiết để lập kế hoạch và kiểm soát cho các hệ
thống điện, trong phương thức truyền tải điều phối hệ thống điện.Những năm gần đây,
việc nghiên cứu về các thuật toán tối ưu để dự báo tổn thất điện năng ngắn hạn bắt đầu
được chú tâm đến nhưng phát triển rộng rãi vì vậy chưa đạt được nhiều kết quả tích cực
trong việc đưa ra phương thức vận hành lưới điện tối ưu. Luận văn này sử dụng mạng
thần kinh nhân tạo truyền thẳng với thuật toán lan truyền ngược để dự báo tổn thất ngắn
hạn cho một lưới điện có một cấu trúc cố định ít thay đổi, bằng cách phân tích các mơ
hình neural network khác nhau ở số lượng đầu vào, số lớp ẩn….. và các hàm huấn luyện
mạng từ đó tìm được mơ hình phù hợp nhất đưa vào thực tiễn.
ABSTRACT
Short-term loss forecasting is essential to planning and controlling power systems,
in moderated transmission modes of power systems. In recent years, the study of optimal
algorithms for projecting The attention has been paid to short-term power loss reports but
is widely developed, so there have not been many positive results in giving optimal grid
operation methods. This thesis uses straight transmission neural networks with back
propagation algorithm to predict short-term losses for a grid with a fixed structure with
little change, by analyzing different neural network models. In the number of inputs, the

number of hidden classes ... .. and the network training functions from which the most
suitable model is found to put into practice.


LỜI CAM ĐOAN
Tơi xin cam đoan đây là cơng trình nghiên cứu của riêng tôi. Các số liệu và kết quả
nghiên cứu trong luận văn là trung thực, không thực hiện sao chép với mọi hình thức từ
một nguồn nào đó. Tài liệu tham khảo và nguồn được trích dẫn theo đúng quy định trong
luận văn.
Tác giả

Nguyễn Minh Tuấn


MỤC LỤC
MỞ ĐẦU......................................................................................................................... 1
1.ĐẶT VẤN ĐỀ .................................................................................................................. 1
2.MỤC TIÊU VÀ ĐỐI TƯỢNG NGHIÊN CỨU .......................................................................... 1
4.PHƯƠNG PHÁP VÀ CÁCH TIẾP CẬN NGHIÊN CỨU ............................................................. 1
5.Ý NGHĨA KHOA HỌC ...................................................................................................... 2
6.Ý NGHĨA THỰC TIỄN ...................................................................................................... 2
CHƯƠNG 1 TỔNG QUAN ............................................................................................. 3
1.1. PHÂN TÍNH VÀ HƯỚNG GIẢI QUYẾT VẤN ĐỀ TÍNH TỐN TỔN THẤT.............................. 3
1.2. CƠNG CỤ ĐÁNH GIÁ TÍNH KHẢ THI CỦA MƠ HÌNH XÂY DỰNG ..................................... 4
CHƯƠNG 2 TỔNG QUAN VỀ MẠNG NEURAL NHÂN TẠO VÀ VISUAL STUDIO
2019 ................................................................................................................................ 6
2.1. MẠNG NEURAL NHÂN TẠO ........................................................................................ 6
2.1.1. LỊCH SỬ HÌNH THÀNH VÀ PHÁT TRIỂN ..................................................................... 6
2.1.2. CẤU TRÚC MƠ HÌNH CHUNG CỦA MẠNG NEURAL NHÂN TẠO ................................... 8
2.1.3 MỘT SỐ THÀNH PHẦN ĐẶC TRƯNG CỦA MẠNG ANN .............................................. 10

2.1.3.1 Dạng mạng Neural nhân tạo (Network type) ..................................................... 10
2.1.3.2 Thuật Toán ......................................................................................................... 15
2.1.3.3 Hàm kích hoạt bổ trợ (Activation Function) ....................................................... 17
2.1.3.4 Giá trị Weights và Bias (Trọng số và độ lệch) .................................................... 21
2.1.3.5 Lớp ẩn (Hidden Layer) ....................................................................................... 22
2.1.4 QUÁ TRÌNH HỌC .................................................................................................. 23
2.1.5.TỔNG QUANG VISUAL STUDIO 2019 ...................................................................... 24
CHƯƠNG 3 KHẢO SÁT XÂY DỰNG MẠNG NEURAL NHÂN TẠO DỰ BÁO TỔN
THẤT MẠCH

VÀ LƯỚI ĐIỆN 110KV BẾN TRE ................................................... 26

3.1 GIỚI THIỆU TỈNH BẾN TRE ........................................................................................ 26
3.2 KẾT LƯỚI 110KV TỈNH BẾN TRE ............................................................................... 26
3.2 XÂY DỰNG MƠ HÌNH MẠNG ANN ............................................................................. 27
3.2.1 CƠ SỞ DỮ LIỆU XÂY DỰNG MƠ HÌNH MẠNG ANN MẠCH HÌNH

............................. 27

3.2.2 CƠ SỞ DỮ LIỆU XÂY DỰNG MƠ HÌNH MẠNG ANN LƯỚI ĐIỆN 110KV ....................... 28
3.2.3 KIỂU MẠNG NEURAL TYPE ..................................................................................... 30


3.2.3.1 Phần Input đầu vào............................................................................................. 30
3.2.3.2 Lớp layer ẩn ....................................................................................................... 31
3.2.3.3 Phần Output đầu ra............................................................................................. 31
3.2.4 CẤU TRÚC MẠNG ANN CƠ BẢN CỦA LUẬN VĂN ..................................................... 31
3.3 CÁC BƯỚC THIẾT LẬP VÀ LƯU ĐỒ MẠNG ANN .......................................................... 33
3.3.1 CÁC BƯỚC THIẾT LẬP............................................................................................. 33
3.3.2 LƯU ĐỒ MẠNG ANN ............................................................................................. 33

3.4 KẾT QUẢ .................................................................................................................. 35
3.4.1 KẾT QUẢ MẠCH HÌNH .......................................................................................... 35
SAU KHI TẬP HỢP ĐỦ DỮ LIỆU VÀ KẾT HỢP VỚI CẤU TRÚC MẠNG ĐÃ XÂY DỰNG TIẾN HÀNH
HUẤN LUYỆN MẠNG NEURAL NETWORK THÌ TÁC GIẢ THU ĐƯỢC KẾT QUẢ NHƯ SAU: ...... 35

3.4.2 KẾT QUẢ LƯỚI ĐIỆN 110KV BẾN TRE..................................................................... 37
3.5 KẾT LUẬN CHƯƠNG .................................................................................................. 39
CHƯƠNG 4 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN ................................................ 40
4.1 KẾT LUẬN................................................................................................................. 40
4.2 HƯỚNG PHÁT TRIỂN .................................................................................................. 40
TÀI LIỆU THAM KHẢO ............................................................................................. 41
PHỤC LỤC ................................................................................................................... 43
PHẦN LÝ LỊCH TRÍCH NGANG ................................................................................ 88
Q TRÌNH ĐÀO TẠO ............................................................................................... 88
Q TRÌNH CƠNG TÁC ............................................................................................ 88


DANH SÁCH CÁC BẢNG
Bảng 3. 1: Dữ liệu được xử lý của mạch cơ bản để đưa vào huấn luyện .............. 28
Bảng 3. 2: Dữ liệu được xử lý của mạch cơ bản để đưa vào kiểm tra................... 28
Bảng 3. 3: Dữ liệu được xử lý để đưa vào huấn luyện mạng ANN lưới 110kV.... 30
Bảng 3. 4: Dữ liệu được xử lý để đưa vào kiểm tra ANN lưới 110kV ................. 30
Bảng 3. 5: Đánh giá sai số dự báo của mơ hình mạng ANN mạch cơ bản............ 36
Bảng 3. 6: Đánh gia sai số dự báo của mô hình mạng ANN lưới điện 110kV ...... 38


DANH SÁCH CÁC HÌNH ẢNH
Hình 2. 1: Cấu trúc chung của mơ hình ANN ........................................................ 8
Hình 2. 2: Q trình xử lý dữ liệu của ANN .......................................................... 8
Hình 2. 3: Mơ tả mạng ANN về mặt tốn học ..................................................... 9

Hình 2. 4: Mạng Neural truyền thẳng .................................................................. 11
Hình 2. 5: Mạng Neural hàm cơ sở xuyên tâm .................................................... 12
Hình 2. 6: Mạng Neural tự tổ chức ...................................................................... 12
Hình 2. 7: Mạng Neural hồi qui........................................................................... 13
Hình 2. 8: Mạng Neural chuyển đổi .................................................................... 14
Hình 2. 9: Mạng Neural mơ-đun ........................................................................ 14
Hình 2. 10: Ví dụ thuật tốn lan truyền ngược ..................................................... 16
Hình 2. 11: Tổng qt thuật tốn lan truyền ngược.............................................. 16
Hình 2. 12: Đồ thị hàm Sigmoid.......................................................................... 19
Hình 2. 13: Đồ thị hàm Tanh ............................................................................... 19
Hình 2. 14: Đồ thị hàm ReLU ............................................................................. 21
Hình 2. 15: Giá trị Weights và Bias ..................................................................... 22
Hình 2. 16: Ví dụ về lớp ẩn của mạng ANN ....................................................... 23
Hình 2. 17: Quá trình học có giám sát ................................................................. 23
Hình 2. 18: Q trình học khơng có giám sát ...................................................... 24
Hình 2. 19 : Giao diện Visual Studio 2019 .......................................................... 25
Hình 3. 1: Sơ đồ kết lưới lưới điện 110kV Bến Tre ............................................. 26
Hình 3. 2: Sơ đồ hình π ....................................................................................... 28
Hình 3. 3: Chương trình đo ghi Appmeter ........................................................... 29
:Hình 3. 4: File dữ liệu lấy từ Appmeter .............................................................. 29
Hình 3. 5 : Lưu đồ mạng ANN ............................................................................ 34


Hình 3. 6: Kết quả huấn luyện ............................................................................. 35
Hình 3. 7 : Kết quả dự báo .................................................................................. 36
Hình 3. 8: Kết quả huấn luyện ............................................................................. 37
Hình 3. 9: Kết quả dự báo ................................................................................... 38

DANH MỤC VIẾT TẮT
ANN : Mạng Neural network



1

MỞ ĐẦU
1.Đặt vấn đề
Hiện nay việc tính tốn tổn thất trong lưới điện 110kV đã được quan tâm chú
trọng hơn trong việc nâng cao độ tin cậy lưới điện, nhưng phương pháp tiếp cận cách
thức xử lý thì cịn khá phức tạp mang tính thủ cơng nhiều , khi tín tốn tổn thất thì phải
thu thập các thơng số từ thiết bị đo đếm, đồng hồ và qua một quá trình tổng hợp các số
liệu rất mất thời gian hầu hết mang tính thủ cơng và truyền thống. Các phương pháp
truyền thống thì tỉ lệ chính xác chưa cao chỉ mang tính tương đối và khi phụ tải tăng hoặc
có biến động thì phải thu thập dữ liệu từ đầu.Việc áp dụng mạng Neural network vào tính
tổn thất là một phương pháp mới, có thể giải quyết được các vấn đề mà phương pháp
truyền thống không xử lý được. Đây là một hướng đi mới mặc dù ở thế giới hiện nay đã
phổ biến tri tuệ nhân tạo, tự động, cách mạng số thì khá phổ biến ở thế giới được chú
trọng đầu tư nhưng còn khá mới mẻ ở Việt Nam. Đề tài “ Nghiên Cứu Mơ Hình Tín Toán
Tổn Thất Điện Năng Trên Lưới Điện 110kV ” xây dựng một cơng cụ tính tốn hoặc dự
báo về tổn thất có tính chuẩn xác ổn định, đáp ứng được sự thay đổi tải liên tục, rút ngắn
thời gian so với phương pháp cũ phù hợp với xu hướng hiện nay.
2.Mục tiêu và đối tượng nghiên cứu
Tìm hiều về lý thuyết và cách ứng dụng mạng Neural network cho bài tốn tính
tổn thất điện năng trên lưới điện 110kV trên nền Visual Studio 2019.
Khảo sát và xây dựng được mô hình mạng Neural network tối ưu ứng với lưới
điện 110kV của khu vực Bến tre.
4.Phương pháp và cách tiếp cận nghiên cứu
Thực hiện thu thập dữ liệu các trạm biến áp, lưới điện 110kV trong khu vực tỉnh
Bến Tre. Tìm ra được mối tương quan các đại lượng gây ra tổn thất , mối tương quan
giữa các đại lượng này với các thông số - tham số trong mạng Neural network thông qua
hiệu chỉnh các tham số đầu vào (Input), số lớp Neural huấn luyện ( Neural), số lớp ẩn

(Hidden layer), hàm kích hoạt (Funaction)…… Thơng qua đó xây dựng một cấu trúc
mạng Neural network từ nền tảng Visual studio 2019


2
5.Ý nghĩa khoa học
Đưa phần tính tốn tổn thất điện năng di theo một hướng mới, tiếp cận với mạng
ANN , chỉ ra lợi ích của việc ứng dụng vào thực tiễn đưa ra các so sánh khi quyết định
phương thức vận hành lưới điện.
Đề xuất các phương thức truyền tải hiệu quả hơn , giảm tổn thất tăng độ tin cậy
cho lưới điện 110kV
6.Ý nghĩa thực tiễn
Đưa ra minh chứng cụ thể quá trình tổn thất lưới điện 110kV ứng với các phưng
thức vận hành.
Đề xuất các phương thức truyền tải hiệu quả hơn , giảm tổn thất tăng độ tin cậy
cho lưới điện 110kV


3

CHƯƠNG 1 TỔNG QUAN
1.1. Phân tính và hướng giải quyết vấn đề tính tốn tổn thất
Hiện tại chưa có cách xác định tổn thất nào ngồi cách thu thập thơng số đo ghi
sau đó dùng mơ hình tốn để xác định giá trị tổng thất trogn quá trình phân phối điện
năng, chưa kể đến các tổn thất kỹ thuật xuất huyện trong quá trình vận hành lưới điện.
Tổn thất điện năng trong hệ thống điện cụ thể là lưới điện cao áp 110kV là lượng
điện năng tiêu hao trong quá trình truyền tải và phân phối điện từ thanh cái các nhà máy
điện qua hệ thống lưới điện truyền tải. Tổn thất điện năng còn là một trong những chỉ tiêu
tối quan trọng trong vận hành hệ thống điện.
Có rất nhiều nguyên nhân gây nên tổn thất điện áp kỹ thuật điện nói chung và tổn

thất điện năng nói riêng trên lưới truyền tải :
 Đường dây truyền tải : Tổn thất điện áp và tổn thất điện năng sinh ra trong quá
trình truyền tải và tiêu thụ điện (điện trở RΩ và điện kháng XΩ), kết cấu lưới điện, phân
bổ nguồn điện, khoảng cách truyền tải dài.
 Tiết diện dây không đủ.
 Máy biến áp : Do các máy biến áp có tổn thất cơng suất ở trong cuộn dây và tổn
thất không tải ở trong lõi thép (Pfe và Po).
 Hệ số công suất PF thấp : Do tiêu thụ nhiều công suất vô công trên lưới điện, chủ
yếu do các phụ tải có thành phần điện cảm như cuộn dây máy biến áp, cuộn dây động cơ
điện, cuộn cảm có lõi thép… làm giảm cosϕ của lưới điện.
 Do tiêu thụ nhiều công suất vô công trên lưới điện, chủ yếu do các phụ tải
có thành phần điện cảm như cuộn dây máy biến áp, cuộn dây động cơ điện, cuộn cảm có
lõi thép… làm giảm cosϕ của lưới điện.
 Phương thức vận hành lưới điện : Công suất tiêu thụ điện của phụ tải lớn, thời gian
sử dụng công suất cực đại kéo dài, máy biến áp thường xuyên vận hành trong tình trạng
non tải hoặc không tải, lệch tải các pha.
Qua các vấn đề trên nhận thấy để xác nhận tổng tổn thất toàn lưới là rất mất mất thời
gian thậm chí là rất khó để cho ra kết quả gần đúng, luân văn đề ra một phương án là thu


4
thập thông số đo ghi từng thời điểm ở các đầu nhận coi chung là một nút, sau đó thực
hiện tương tự cho các đầu phát từ đó suy ra được tổn hao, dùng bộ dữ liệu đó xây dựng
một mạng Neural network để phục vụ cho việc tính tốn hoặc dự báo tổn thất sau này kể
cả khi phí tải có thay đổi vẫn áp dụng được
Trong luận văn sẽ đưa ra hai trường hợp một trường hợp dùng số liệu tính tốn từ
mạch hình

(mạch cơ bản) xây dựng mơ hình mạng Neural network phù hợp với mục


đích, sau đó là dùng mơ hình mạng Neural network đã xây dựng chạy trên số liệu thực
thu thập từ các trạm biến áp và lưới điện 110kV của tỉnh Bến Tre huấn luyện cho ra kết
quả so sánh.
1.2. Công cụ đánh giá tính khả thi của mơ hình xây dựng
Sai số dự báo là sự sai lệch giữa giá trị dự báo và giá trị dự báo, nhằm đánh giá
chất lượng của phương pháp hoặc mơ hình ứng dụng vào dự. Sai số dự báo cũng một
phần nhằm giúp ta có thể đưa ra các điều chỉnh các thông số của mơ hình hoặc phương
pháp dự báo.
Cơng thức :
=

(1.1)



Trong đó :
: sai số dự báo tại thời điểm t
: giá trị thực tế thời điểm t
: giá trị dự báo thời điểm t (ứng với quan sát t)
Có nhiều loại sai số dự báo :
Sai số tuyệt đối trung bình MAE (Mean Absolute Error) :
=



| |

(1.2)

Sai số bình phương trung bình MSE (Mean Squared Error):

=



Sai số tương đối trung bình MAPE (Mean Absolute Percent Error) :

(1.3)


5
=



(1.4)

Căn của sai số bình phương trung bình RMSE (Root Mean Squared Error):
=



(1.5)

Phần đánh giá kết quả dự báo của mơ hình ANN trong luận văn, trong tài liệu này
tác giả sử dụng sai số tuyệt đối trung bình phần trăm MAPE để đánh giá kết quả của tất
cả các dự báo. Do MAPE có một ưu điểm lớn là nó thể hiện tỉ lệ % của sai số dự báo với
phụ tải thực tế. Điều này giúp chúng ta có được thơng tin một cách nhanh chóng và có
thể đánh giá được sai số ngay cả khi không biết về mức phụ tải thực tế. Trong lĩnh vực
dự báo liên quan đến hệ thống điện MAPE được nhiều người sử dụng [1-4] để đánh giá
kết quả dự báo. Vì vậy việc chọn MAPE để đánh giá kết quả mô hinh trong luận văn là

công cụ tối ưu nhất.


6

CHƯƠNG 2 TỔNG QUAN VỀ MẠNG NEURAL NHÂN TẠO VÀ VISUAL
STUDIO 2019
2.1. Mạng Neural nhân tạo
Mạng Neural nhân tạo (Artificial Neural Network-ANN) là một mơ hình mạng mơ
phỏng dựa trên hoạt động của hệ thống thần kinh của sinh vật dùng để xử lý thơng tin,
gồm có một số lượng lớn các Neural được gắn kết với nhau để xử lý thông tin, dữ liệu
thu thập được hoặc học từ nhưng tập dữ liệu mẫu cho trước. Neural nhân tạo có thể hiểu
nó giống như bộ não sinh vật (con người), học bởi kinh nghiệm thơng qua huấn luyện
sau đó lưu giữ những kinh nghiệm đó, những dữ liệu đó được gọi là tri thức. Sau này
ANN sử dụng những tri thức, kinh nghiệm đó vào việc đưa ra các dự đoán và dữ liệu mà
ANN chưa biết (Unseen data).

2.1.1. Lịch sử hình thành và phát triển
Khởi nguồn nguyên sơ là từ thế kỷ 19, William James (nhà tâm lý học thực tiễn)
là người đặt nền móng đầu tiên với cơng trình “The principles of psychology” nghiên cứu
về tâm lý học với sự liên kết các Neural dùng để mô tả các thức hoạt động của bộ não.
Sau đây là một số sự kiện đáng chú ý trong lược sử thời gian hình thành mạng
ANN:
Năm 1940, mạng thần kinh sinh học được McCulloch (nhà vật lý thần kinh học)
và Pitts (nhà tốn học) mơ hình hóa thành các Neural nhân tạo đơn giản và chỉ ra chúng
có thể thực hiện được các phép tính logic đơn giản. Cấu tạo gồm có hai thành phần: phần
đầu tiên thực hiện phép tính tổng tuyến tính của các đầu vào với các hệ số tỷ trọng nào
đó, phần thứ hai là một hàm số nhận tổng này làm biến số. Những Neural nhân tạo như
vậy có thể được thiết kế bằng mạng điện (electrical circuits) và mơ hình này vẫn được
đùng cho đến ngày nay được coi nền móng đầu tiên của ANN thời bây giờ.



7
Năm 1949-1951, Hebb đưa ra các luật thích nghi trong mạng Neural. Thời điểm
này nổi trội nhất nhất là cái tên Marvin Minsky ( học trò của McCulloch và Pitts) chế tạo
thành công mạng Neural nhân tạo đầu tiên với cái tên SNARC (Stochastic Neural
Analog Reinforcement Calculator) nữa thế kỷ sau đó người ta chỉ biết đến cái tên
Minsky
Năm 1958-1960 , một số mơ hình Neural mới được sản sinh ra gồm: Perception
của Rosenbatt, ma trận học của Stinbuck và Adaline của Widrow trong đó cấu trúc mạng
Perception (1958) được sử dụng nhiều nhất. Năm 1960, Minsky và Papert đã chú ý đến
mơ hình Perception, sau khi kiểm chứng tính đúng đắng của Perception họ chỉ ra rằng mơ
hình Perception không áp dụng cho các hàm logic phức được.
Trong những năm 1957-1958, Frank Rosenblatt, Charles Wightman và một số
người khác đã thiết kế thành cơng chiếc máy tính mạng thần kinh (neuro-computer) đầu
tiên, gọi là “Mark 1 Perceptron“ (“Máy nhận biết Mark 1”), dùng để nhận dạng ảnh, dựa
trên nghiên cứu về … ruồi bay. Perceptron của Rosenblatt sử dụng cùng một lúc nhiều
input (nhiều “khớp thần kinh”, mỗi khớp nhận một input) qua một hàm tuyến tính nhiều
biến, rồi kết hợp với thành phần thứ hai là một hàm một biến để cho ra kết quả dạng
“YES/NO”. Frank Rosenblatt là cha đẻ của neurocomputing (tính tốn bằng thần kinh).
Đầu những năm 80, Mạng rời rạc (1982) và mạng liên tục (1984) ra đời dưới sự
nghiên cứu của Hoppfield. Từ đó làm cơ sở để Rumelhart và Hinton đề xuất thuật toán
sai số truyền ngược để huấn luyện mạng Neural nhiều lớp, thuật tốn này có thể giải
được các bài tốn mà các mạng khác khơng làm được. Ngồi ra cịn có một số đóng góp
của Grossberg, Kohonen vtrong thời điểm này.
Năm 1987, Hội nghị toàn cầu chuyên ngành Neural IJCNN (International Joint
Conference on Neural networks) được tổ chức và được duy trì cho đến hiện nay.
Cịn ở Việt Nam Ở Việt Nam thì mạng Neural network cũng đã phổ biến được
ứng dụng nhiều trong lình vực : điều khiển, tin học máy tính, mạng máy tính , kỹ thuật
điện tử…… kể cả việc chế tạo các chip Neural để ứng dụng vào nhiều lĩnh vực.[5-6]



8
2.1.2. Cấu trúc mơ hình chung của mạng Neural nhân tạo
Cấu trúc chung của mơ hình ANN gồm 3 thành phần đó là Input Layer, Hidden
Layer và Output Layer

Hình 2. 1: Cấu trúc chung của mơ hình ANN
Trong đó, lớp ẩn (Hidden Layer) gồm các Neural, nhận dữ liệu input từ các
Nueron ở lớp (Layer) trước đó và chuyển đổi các input này cho các lớp xử lý tiếp theo.
Trong một ANN có thể có nhiều Hidden Layer.

Hình 2. 2: Quá trình xử lý dữ liệu của ANN
Quá trình xử lý khối lượng dữ liệu của một ANN như sau :
 Inputs: Mỗi Input tương ứng với 1 thuộc tính (attribute) của dữ liệu (patterns).
 Output: Kết quả của một ANN là một giải pháp cho một vấn đề.
 Connection Weights (Trọng số liên kết) : Đây là thành phần rất quan trọng của
một ANN, nó thể hiện mức độ quan trọng (độ mạnh) của dữ liệu đầu vào đối với q
trình xử lý thơng tin (q trình chuyển đổi dữ liệu từ Layer này sang layer khác). Quá


9
trình học (Learning Processing) của ANN thực ra là quá trình điều chỉnh các trọng số
(Weight) của các input data để có được kết quả mong muốn.
 Summation Function (Hàm tổng): Tính tổng trọng số của tất cả các input được
đưa vào mỗi Neural (phần tử xử lý PE)
 Transfer Function (Hàm chuyển đổi)
Hàm tổng (Summation Function) của một Neural cho biết khả năng kích hoạt
(Activation) của Neural đó cịn gọi là kích hoạt bên trong (internal activation). Các
Nueron này có thể sinh ra một output hoặc khơng trong ANN (nói cách khác rằng có thể

output của 1 Neural có thể được chuyển đến layer tiếp trong mạng Neural theo hoặc
không). Mối quan hệ giữa Internal Activation và kết quả (output) được thể hiện bằng hàm
chuyển đổi (Transfer Function). Việc lựa chọn Transfer Function có tác động lớn đến kết
quả của ANN. Hàm chuyển đổi phi tuyến được sử dụng phổ biến trong ANN là Sigmoid
function.
Kết quả xử lý tại các Neural (Output) đơi khi rất lớn, vì vậy transfer function được
sử dụng để xử lý output này trước khi chuyển đến layer tiếp theo. Đơi khi thay vì sử dụng
Transfer Function người ta sử dụng giá trị ngưỡng (Threshold value) để kiểm soát các
output của các Neural tại một layer nào đó trước khi chuyển các output này đến các
Layer tiếp theo. Nếu output của một Neural nào đó nhỏ hơn Threshold thì nó sẻ khơng
được chuyển đến Layer tiếp theo.

Hình 2. 3: Mơ tả mạng ANN về mặt toán học


10
Về mặt toán học cấu trúc mạng ANN được biểu diễn theo công thức đơn giản như
= (

sau :
=

,

,…,

(2.2)
.

là giá trị đầu vào (input),


tương ứng với các lớp liên kết(weights),
đầu vào,

(2.1)

+

=∑
Trong đó

)

(2.3)
,

,…,

là trọng số

là bộ tổ hợp tuyến tính đầu ra từ các tính hiệu

giá trị tăng cường (bias), (. ) hàm kích hoạt (activation function) ,

là tính

hiệu đầu ra từ Neural có nhãn
Trong hình là mạng Neural nhân tạo khớp thần kinh sinh học được mơ hình thành
vetor đầu vào và thu thập thông tin từ một Neural bên ngoài (Input Values). Các nhánh
thần kinh được thay thế bởi các trọng số (Weights) có tác dụng gia tăng hoặc giảm thiểu

giá trị của các vector đầu vào. (Bias) được thêm vào với tác dụng tăng cường giá trị tại
nhân. Nhân tế bào được thay thế bởi bộ tổng (Summing junction). Sau khi các tín hiệu
đầu vào đi qua bộ tổng, giá trị đầu ra được quyết định bởi một hàm kích hoạt (Activation
function).

2.1.3 Một số thành phần đặc trưng của mạng ANN
2.1.3.1 Dạng mạng Neural nhân tạo (Network type)
Có các loại mạng đặc trưng
 Feedforward Neural Network – Artificial Neural (Mạng Neural truyền thẳng)
Mạng Neural này là một trong những dạng ANN đơn giản nhất, trong đó dữ liệu
hoặc đầu vào di chuyển theo một hướng. Dữ liệu đi qua các nút đầu vào và thoát ra trên
các nút đầu ra. Mạng Neural này có thể có hoặc khơng có các lớp ẩn. Nói một cách dễ
hiểu, nó có sóng lan truyền phía trước và khơng có sự lan truyền ngược bằng cách sử
dụng chức năng kích hoạt phân loại thường.
Mạng chuyển tiếp nguồn cấp dữ liệu một lớp. Ở đây, tổng các sản phẩm của đầu
vào và trọng lượng được tính tốn và cung cấp cho đầu ra. Đầu ra được coi là nếu nó nằm


11
trên một giá trị nhất định tức là ngưỡng (thường là 0) và Neural kích hoạt với đầu ra được
kích hoạt (thường là 1) và nếu nó khơng kích hoạt, giá trị đã hủy kích hoạt được phát ra
(thường là -1).

Hình 2. 4: Mạng Neural truyền thẳng
Ứng dụng của mạng Neural truyền thẳng được tìm thấy trong thị giác máy tính và
nhận dạng giọng nói, nơi việc phân loại các lớp mục tiêu rất phức tạp. Loại Mạng thần
kinh này đáp ứng với dữ liệu nhiễu và dễ bảo trì.
 Radial basis function Neural Network (Mạng Neural hàm cơ sở xuyên tâm)
Các hàm cơ bản bán kính xem xét khoảng cách của một điểm đối với tâm. Các hàm
RBF có hai lớp, đầu tiên là nơi các tính năng được kết hợp với Hàm cơ sở hướng tâm ở

lớp bên trong và sau đó đầu ra của các tính năng này được xem xét trong khi tính tốn
cùng một đầu ra trong bước thời gian tiếp theo về cơ bản là một bộ nhớ.


12

Hình 2. 5: Mạng Neural hàm cơ sở xuyên tâm
 Kohonen Self Organizing Neural Network (Mạng Neural tự tổ chức)
Mục tiêu của bản đồ Kohonen là nhập các vectơ có kích thước tùy ý vào bản đồ
rời rạc bao gồm các Neural. Bản đồ cần được đào tạo để tạo ra tổ chức riêng của dữ liệu
đào tạo. Nó bao gồm một hoặc hai chiều. Khi huấn luyện bản đồ, vị trí của Neural khơng
đổi nhưng trọng số khác nhau tùy thuộc vào giá trị. Quá trình tự tổ chức này có các phần
khác nhau, trong giai đoạn đầu, mọi giá trị Neural đều được khởi tạo với trọng số nhỏ và
vectơ đầu vào.

Hình 2. 6: Mạng Neural tự tổ chức
Giai đoạn hai, Neural gần điểm nhất là 'Neural chiến thắng' và các Neural kết nối
với Neural chiến thắng cũng sẽ di chuyển về phía điểm như trong hình bên trên. Khoảng
cách giữa điểm và các Neural được tính bằng khoảng cách euclide, Neural nào có khoảng
cách ít nhất sẽ thắng. Thông qua các lần lặp, tất cả các điểm được nhóm lại và mỗi
Neuralđại diện cho mỗi loại cụm.


13
Mạng thần kinh Kohonen được sử dụng để nhận dạng các mẫu trong dữ liệu. Ứng
dụng của nó có thể được tìm thấy trong phân tích y tế để phân cụm dữ liệu thành các
danh mục khác nhau. Bản đồ Kohonen có thể phân loại bệnh nhân có cầu thận hoặc ống
thận với độ chính xác cao.
 Recurrent Neural Network(RNN) – Long Short Term Memory (Mạng Neural hồi
qui (RNN) - Bộ nhớ ngắn hạn dài hạn)


Hình 2. 7: Mạng Neural hồi qui
Mạng Neural hồi qui hoạt động trên nguyên tắc lưu lại đầu ra của một lớp sau đó
cấp dữ liệu này trở lại đầu vào nhiều lần như vậy để giúp dự đoán kết quả của lớp. Cụ
thể, lớp đầu tiên được hình thành tương tự như mạng Neural chuyển tiếp nguồn cấp dữ
liệu với tích của tổng trọng lượng và các tính năng. Q trình mạng Neural lặp lại bắt đầu
khi q trình này được tính tốn, điều này có nghĩa là từ bước thời gian này sang bước
tiếp theo mỗi Neural sẽ nhớ một số thông tin mà nó có trong bước thời gian trước đó.
 Convolutional Neural Network (Mạng neural chuyển đổi )
Mạng neural chuyển đổi tương tự như mạng neural chuyển tiếp, trong đó các
neural có trọng số và độ lệch có thể học được. Ứng dụng của nó là xử lý tín hiệu và hình
ảnh, tiếp quản OpenCV trong lĩnh vực thị giác máy tính.
Hình dưới đây là đại diện của Mạng neural chuyển đổi , trong mạng neural này,
các tính năng đầu vào được thực hiện theo lô giống như một bộ lọc. Điều này sẽ giúp
mạng ghi nhớ các hình ảnh trong các phần và có thể tính tốn các hoạt động. Các tính
tốn này liên quan đến việc chuyển đổi hình ảnh từ thang RGB hoặc HSI sang thang màu
Xám. Khi chúng ta có điều này, những thay đổi trong giá trị pixel sẽ giúp phát hiện các
cạnh và hình ảnh có thể được phân loại thành các loại khác nhau.


14

Hình 2. 8: Mạng Neural chuyển đổi
 Modular Neural Network (Mạng Neural mơ-đun)
Mạng Neural Mơ-đun có một tập hợp các mạng khác nhau hoạt động độc lập và đóng
góp vào đầu ra. Mỗi mạng Neural có một tập hợp các đầu vào là duy nhất so với các
mạng khác xây dựng và thực hiện các nhiệm vụ con. Các mạng này không tương tác hoặc
báo hiệu cho nhau trong việc hồn thành nhiệm vụ.

Hình 2. 9: Mạng Neural mơ-đun

Ưu điểm của mạng Neural mơ-đun là nó chia nhỏ q trình tính tốn lớn thành các
thành phần nhỏ hơn làm giảm độ phức tạp. Việc phân tích này sẽ giúp giảm số lượng kết
nối và phủ nhận sự tương tác của các mạng này với nhau, do đó sẽ làm tăng tốc độ tính
tốn. Tuy nhiên, thời gian xử lý sẽ phụ thuộc vào số lượng tế bào Neural và sự tham gia
của chúng vào việc tính tốn kết quả.[7]
Trong luận văn sử dụng kiểu mạng Feedforward Neural Network – Artificial
Neural (Mạng Neural truyền thẳng) để xây dựng mơ hình mạng ANN.


×