Chọn mẫu và thông số điển hình trong đánh giá ổn định động hệ thống điện

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH

LUẬN VĂN THẠC SĨ
NGUYỄN VĂN TRỌNG

CHỌN MẪU VÀ THÔNG SỐ ĐIỂN HÌNH
TRONG ĐÁNH GIÁ ỔN ĐỊNH ĐỘNG HỆ THỐNG ĐIỆN

NGÀNH: KỸ THUẬT ĐIỆN – 60520202

S K C0 0 4 7 1 4

Tp. Hồ Chí Minh, tháng 10/2015


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH

LUẬN VĂN THẠC SĨ
NGUYỄN VĂN TRỌNG

CHỌN MẪU VÀ THÔNG SỐ ĐIỂN HÌNH
TRONG ĐÁNH GIÁ ỔN ĐỊNH ĐỘNG HỆ THỐNG ĐIỆN

NGÀNH: KỸ THUẬT ĐIỆN - 60520202

Tp.Hồ Chí Minh, tháng 10/2015

Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

Chƣơng 1

TỔNG QUAN
1.1 Tổng quan chung về lĩnh vực nghiên cứu
1.1.1 Thực trạng hệ thống điện
Hệ thống điện (HTĐ) đóng vai trò quan trọng đối với sự phát triển kinh tế của
mỗi quốc gia vì nó là một trong những cơ sở hạ tầng quan trọng nhất của nền kinh
tế quốc dân. HTĐ thƣờng phân chia thành ba phần chính: Phần phát điện bao gồm
các nhà máy phát điện nhƣ: nhiệt điện chạy than, nhiệt điện chạy khí, nhà máy thủy
điện, nhà máy điện hạt nhân, và một số loại máy phát điện khác... Với phần truyền
tải, đây có thể đƣợc coi là hệ thống xƣơng sống của một HTĐ, bao gồm các đƣờng
dây siêu cao áp, cao áp và máy biến áp truyền tải. Phần phân phối, nơi điện áp đƣợc
hạ thấp để cung cấp trực tiếp cho các phụ tải. Đây cũng là phần có nhiều nút và có
chiều dài lƣới lớn nhất trong HTĐ với nhiều loại phụ tải khác nhau. Để đảm bảo
cho HTĐ vận hành ở chế độ bình thƣờng thì HTĐ cần thoả mãn các điều kiện về ổn
định, tin cậy, đảm bảo chất lƣợng điện năng và yêu cầu về kinh tế. Tuy nhiên, HTĐ
không chỉ ở Việt Nam mà còn ở nhiều nƣớc phát triển trên thế giới đang phải đối
mặt với nhiều khó khăn thách thức:
+ Thứ nhất là sự tăng trƣởng quá nhanh của phụ tải, đặc biệt là các nƣớc đang
phát triển nhƣ Việt Nam, tỉ lệ tăng trƣởng phụ tải khoảng 15-20% mỗi năm đang đặt
ra thách thức lớn cho ngành điện phải đáp ứng kịp thời nhu cầu của phụ tải.
+ Thứ hai là sự cạn kiệt tài nguyên thiên nhiên nhƣ than đá, dầu mỏ, khí đốt và
nguồn nƣớc làm cho việc phát triển các loại nhà máy phát điện mới ngày càng bị
giới hạn. Việt Nam và các nƣớc trên thế giới đều nhận thức rằng chúng ta đang phải
đối mặt với sự cạn kiệt năng lƣợng sơ cấp và giá nhiên liệu ngày càng tăng trên bình

diện quốc tế. Năng lƣợng thủy điện là nguồn năng lƣợng giá rẻ, kinh tế và an toàn
nhất cũng đang dần cạn kiệt vì đã đƣợc phát hiện và khai thác gần hết. Việc ứng
dụng công nghệ hạt nhân trong sản xuất điện đã phổ biến ở nhiều nƣớc trên thế giới
nhƣng ở nƣớc ta vẫn còn là nguồn năng lƣợng mới lạ do vấn đề về công nghệ, sự lo
HVTH: Nguyễn Văn Trọng

trang 1


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

ngại về an toàn, nguồn cung cấp nhiên liệu, vốn đầu tƣ lớn và đặc biệt là vấn đề môi
trƣờng khi sự cố xảy ra.
+ Thứ ba là sự xuất hiện và sử dụng ngày càng nhiều các nguồn năng lƣợng tái
tạo nhƣ nguồn năng lƣợng gió, năng lƣợng mặt trời.... các nguồn năng lƣợng phân
tán này cũng góp phần giảm thiểu gánh nặng cho ngành điện, đáp ứng một phần nhu
cầu phụ tải đang gia tăng, làm giảm tổn thất, tiết kiệm chi phí trong truyền tải và
phân phối điện. Cùng với sự xuất hiện của các thiết bị điện tử công suất cả ở phần
truyền tải và phân phối điện đã làm thay đổi căn bản khái niệm về HTĐ truyền
thống, làm khó khăn hơn trong quản lý, vận hành, giám sát và điều khiển HTĐ.
Việc đảm bảo chất lƣợng điện năng, tính liên tục cung cấp điện đang là thách thức
lớn đặt ra với ngành điện.
Một số sự cố lớn gần đây ở Việt Nam và trên thế giới đã gây ra những hậu quả
to lớn về kinh tế và nguy cơ rã lƣới toàn bộ hệ thống do mất ổn định HTĐ càng trở
nên hiện hữu. Trong khi việc đánh giá ổn định động cho những HTĐ phức tạp thực
sự là một vấn đề khó khăn, đặc biệt khi xét hệ thống vận hành trong thời gian thực.
Do đó, vấn đề nghiên cứu ổn định động HTĐ đang là nhiệm vụ cấp thiết.
1.1.2 Hƣớng nghiên cứu về ổn định hệ thống điện

Đầu thế kỷ 20, nhà bác học ngƣời Mỹ R. Park khởi đầu cho việc nghiên cứu
ổn định HTĐ dựa trên cơ sở thiết lập hệ phƣơng trình vi phân quá trình quá độ điện
cơ của các máy điện đồng bộ trong hệ tọa độ quay. Đồng thời với Park, một loạt các
công trình đƣợc công bố độc lập của nhà bác học ngƣời Nga A.A. Goriev trong
những năm 1930 – 1935 về mô hình quá trình quá độ trong các máy điện quay đã
làm phát triển lý thuyết nghiên cứu ổn định của HTĐ thêm một bƣớc, sau này hệ
phƣơng trình đó đƣợc gọi tên là Park – Goriev. Mô hình quá trình quá độ của HTĐ
trong hệ tọa độ quay đã làm đơn giản đáng kể hệ phƣơng trình vi phân mô tả trạng
thái quá độ của HTĐ. Dựa trên cơ sở đó, các phƣơng pháp toán về ổn định hệ thống
đã đƣợc nghiên cứu áp dụng cho HTĐ [5].
Trƣớc tiên, đó là phƣơng pháp dựa trên khái niệm cân bằng năng lƣợng hay

HVTH: Nguyễn Văn Trọng

trang 2


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

còn gọi là tiêu chuẩn năng lƣợng. Đây là phƣơng pháp khá đơn giản, cho kết quả
đúng và áp dụng dễ dàng trong nhiều trƣờng hợp. Tuy nhiên, các phƣơng pháp khác
sau đó đã chỉ ra rằng, khái niệm ổn định theo ý nghĩa cân bằng năng lƣợng là không
đầy đủ, chỉ phát hiện đƣợc các hiện tƣợng mất ổn định do dao động quán tính. Hơn
nữa, phƣơng pháp cân bằng năng lƣợng không có cơ sở chặt chẽ và khó áp dụng đối
với HTĐ phức tạp nhƣ ngày nay [5].
Một phƣơng pháp khác đƣợc nhắc đến là phƣơng pháp dao động bé của A. M.
Lyapunov. Chính Goriev trong các công trình của mình đã chỉ ra các cách nghiên
cứu ổn định HTĐ theo Lyapunov từ HTĐ đơn giản đến phức tạp. Ông đã chứng

minh đƣợc rằng sử dụng tiêu chuẩn dấu dƣơng của số hạng tự do phƣơng trình đặc
trƣng của hệ phƣơng trình vi phân quá trình quá độ có thể phát hiện đƣợc hầu hết
các trƣờng hợp mất ổn định HTĐ, còn gọi là tiêu chuẩn ổn định phi chu kỳ. Dựa
trên tiêu chuẩn này những cách tính toán phân tích ổn định cho HTĐ phức tạp dạng
chung đã đƣợc xây dựng và vẫn đƣợc áp dụng phổ biến hiện nay trong các chƣơng
trình phân tích HTĐ [5].
Phƣơng pháp mô phỏng theo miền thời gian cũng cho kết quả chính xác để
đánh giá ổn định quá độ HTĐ nhƣng không cho biết biên ổn định của hệ thống, tốn
nhiều thời gian do phải giải hệ phƣơng trình vi phân phi tuyến sau sự cố [9,14], cho
nên không phù hợp trong đánh giá trực tuyến. Phƣơng pháp này cũng không cung
cấp thông tin mức độ ổn định hoặc không ổn định.
Phƣơng pháp số cho câu trả lời chính xác về ổn định quá độ HTĐ, nhƣng gặp
khó khăn trong giải phƣơng trình vi phân bậc 2 và mất nhiều thời gian giải [24].
Nhƣ vậy, các phƣơng pháp truyền thống tốn rất nhiều thời gian tính toán,
không phù hợp đánh giá ổn định trong thời gian thực, với yêu cầu rất khắc khe về
thời gian tính toán, tính nhanh nhƣng phải chính xác đã xuất hiện nhu cầu ứng dụng
phƣơng pháp khác hiệu quả hơn.
Kỹ thuật nhận dạng mẫu áp dụng đánh giá ổn định động HTĐ bỏ qua giải tích
và thay thế bằng cách học quan hệ mẫu đầu vào và đầu ra, cách tiếp cận theo hƣớng
này [14,15] thì bộ phân loại đƣợc huấn luyện off-line và kiểm tra on-line. Một số

HVTH: Nguyễn Văn Trọng

trang 3


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

tác giả chọn tín hiệu đầu vào là các biến đặc trƣng chế độ xác lập tiền sự cố để
chuẩn đoán sự cố qua chỉ số thời gian cắt tới hạn (CCT – Critical Clearing Time)
[18,19]. Tuy nhiên, việc tìm mối liên hệ giữa các biến đặc trƣng trạng thái xác lập
và cấp ổn định vẫn còn là nhiệm vụ khó khăn. Hệ thống nhận dạng mẫu tìm kiếm,
lọc những mẫu thông tin đặc trƣng quan trọng làm mẫu dữ liệu đầu vào, việc trích
xuất giảm biến đặc trƣng giúp cho hệ thống xử lý dữ liệu một cách nhanh chóng và
nâng cao độ chính xác.
Mạng nơ-ron nhân tạo (ANN – Artificial Neural Network) là một trong các
phƣơng pháp tiếp cận đánh giá ổn định HTĐ đang thu hút đƣợc nhiều sự quan tâm
của các nhà nghiên cứu do khả năng học hỏi nhanh chóng quan hệ phi tuyến vào/ ra
[23,24]. Đã có nhiều ứng dụng MLPNN (Multilayer Perceptron Neural Network) để
ƣớc lƣợng biên ổn định quá độ HTĐ.
Trong chuẩn đoán ổn định động có thể chia thành hai giai đoạn. Một là chuẩn
đoán dựa vào biến đặc trƣng tiền sự cố ở trạng thái xác lập gồm công suất máy phát,
công suất đƣờng dây, điện áp bus, ... chuẩn đoán này mang tính dự phòng ngăn chặn
tích cực sớm [16,17]. Hai là, chuẩn đoán ổn định động dựa vào biến đặc trƣng sau
sự cố nhƣ chỉ số mức độ nghiêm trọng, góc , quỹ đạo điện áp,... trong chuẩn đoán
này cho biết trạng thái ổn định sắp tới của HTĐ do sự cố gây ra.
Trong đánh giá ổn định động đƣợc chia làm hai loại chính là chuẩn đoán và
đánh giá. Chuẩn đoán ổn định động thƣờng tập trung vào chỉ số CCT của hệ thống
đối với sự cố, CCT là thời gian cắt sự cố dài nhất cho phép để hệ thống vẫn giữ ổn
định ứng với góc công suất cắt chuẩn [18,23] và ba giai đoạn sự cố mà HTĐ trải
qua: trƣớc sự cố, đang sự cố và sau sự cố. Trong đánh giá ổn định động, không cần
quan tâm CCT mà cần quan sát quá trình quá độ xảy ra khi gặp sự cố, câu hỏi mấu
chốt trong đánh giá ổn định động là sau dao động quá độ kết quả là HTĐ ổn định
hay không ổn định [19] và bài toán chuẩn đoán ổn định quá độ thƣờng xem xét quá
trình trƣớc sự cố và sau sự cố, chuẩn đoán ổn định qua xác định góc đồng bộ và thời
gian từ lúc dao động đầu tiên.
Do kích cỡ HTĐ ngày càng lớn về quy mô, phức tạp về cấu trúc, nếu giải bằng

HVTH: Nguyễn Văn Trọng

trang 4


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

các phƣơng pháp truyền thống sẽ mất nhiều thời gian và gây sự chậm trễ trong việc
ra quyết định nên rất cần giải pháp đánh giá nhanh và tin cậy. Hệ thống nhận dạng
kết hợp phƣơng pháp ANN, có ƣu điểm lớn là khả năng tính toán song song, nhanh
và chính xác cao. Để hệ thống nhận dạng ANN có hiệu suất cao thì các biến đặc
trƣng đầu vào phải đƣợc chọn hiệu quả, các biến đặc trƣng này lại gia tăng theo
kích cỡ HTĐ, nên cần phải tìm giải pháp trích xuất giảm biến đặc trƣng, phân loại
nhóm dữ liệu biến đặc trƣng giúp cho hệ thống nhận dạng ANN xử lý dữ liệu một
cách nhanh chóng và nâng cao độ chính xác.Điều này các công trình đã công bố còn
là hạn chế, cho nên đòi hỏi phải có cách mới phân loại mẫu hiệu quả, giúp giải
quyết bài toán chuẩn đoán nhanh ổn định HTĐ và cảnh báo sớm trƣờng hợp không
ổn định.
ANN là một công cụ tính toán hiệu suất cao đƣợc lựa chọn để đánh giá ổn
định động HTĐ. Hiệu suất của ANN ứng dụng để đánh giá ổn định động HTĐ yêu
cầu quá trình huấn luyện ANN có thể bao trùm toàn bộ những kịch bản vận hành hệ
thống mà không ảnh hƣởng đến cấu trúc hệ thống hoặc mức công suất phụ tải. Vì
vậy, quá trình lựa chọn những biến đặc trƣng phù hợp là yêu cầu để xây dựng một
công cụ tối ƣu để đánh giá chính xác ổn định động HTĐ.
So sánh với những phƣơng pháp đánh giá ổn định khác, những đặc điểm nổi
bật của ANN gồm: tốc độ đánh giá ổn định theo thời gian thực, yêu cầu ít dữ liệu
hơn, khả năng tổng hợp và mở rộng cao hơn.
Điển hình sự phát triển của hệ thống nhận dạng gồm những bƣớc sau:

- Tạo cơ sở dữ liệu
- Thiết lập các mẫu dữ liệu ngõ vào/ngõ ra
- Trích xuất tri thức (bao gồm mối quan hệ giữa mẫu dữ liệu ngõ vào và ngõ
ra cùng thuật toán học)
- So sánh, đánh giá hiệu suất của ANN
Các nghiên cứu gần đây chủ yếu tập trung vào bƣớc thứ ba trong khi ít quan
tâm đến bƣớc lựa chọn biến đặc trƣng ngõ vào, thực tế là bƣớc rất quan trọng ảnh
hƣởng đến hiệu suất của ANN. Nó không chỉ quyết định đến thời gian tính toán

HVTH: Nguyễn Văn Trọng

trang 5


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

trong quá trình mô phỏng off-line mà còn tác động rất lớn đến độ chính xác.
Lựa chọn biến đặc trƣng rất quan trọng trong bƣớc xây dựng hệ thống nhận
dạng đánh giá ổn định động HTĐ dùng mạng nơ-ron. Các công trình nghiên cứu
gần đây chƣa thực sự hiệu quả và có hệ thống về vấn đề lựa chọn biến đặc trƣng cho
đánh giá ổn định HTĐ. Do đó sự cần thiết giới thiệu, bổ sung thêm một số phƣơng
pháp mới để làm phong phú thêm những phƣơng pháp lựa chọn biến đặc trƣng.
Mục tiêu của luận văn nhằm bổ sung những điểm cần thiết trên.
1.2 Mục tiêu của đề tài
 Tạo mẫu và lựa chọn thông số điển hình cho HTĐ, và dựa trên cơ sở mạng
nơ-ron truyền thẳng nhiều lớp để nhận dạng nhanh trạng thái ổn định động
HTĐ.
1.3 Nhiệm vụ của đề tài và giới hạn đề tài

1.3.1 Nhiệm vụ của đề tài
 Nghiên cứu lý thuyết mạng nơ-ron, nhận dạng và ổn định HTĐ;
 Tạo mẫu và lựa chọn thông số điển hình trong đánh giá ổn định động HTĐ;
 Ứng dụng phần mềm Matlab, PowerWorld nhằm tạo cơ sở dữ liệu và xây
dựng mô hình mô phỏng để nhận dạng ổn định động HTĐ;
 Đánh giá hiệu quả của phƣơng pháp nhận dạng đề xuất.
1.3.2 Giới hạn đề tài
 Thử nghiệm phƣơng pháp nhận dạng ổn định động HTĐ điển hình (hệ thống
IEEE 30bus, 6 máy phát) với các dạng sự cố xảy ra.
1.4 Phƣơng pháp nghiên cứu
 Nghiên cứu tài liệu;
 Mô hình hóa và mô phỏng;
 Mạng nơ-ron;
 Phân tích, tổng hợp.

HVTH: Nguyễn Văn Trọng

trang 6


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

Chƣơng 2

MẠNG NƠ-RON VÀ ỔN ĐỊNH HỆ THỐNG ĐIỆN
2.1 MẠNG NƠ-RON
2.1.1 Khái niệm
Nơ-ron nhân tạo là sự sao chép nơ-ron sinh học của não ngƣời, nó có những

đặc tính sau:
 Mỗi nơ-ron có một số đầu vào, những kết nối (synaptic) và một đầu ra
(axon);
 Một nơ-ron có thể hoạt động (+35mV) hoặc không hoạt động (-0,75mV);
 Chỉ có một đầu ra duy nhất của một nơ-ron đƣợc nối với các đầu vào khác
nhau của nơ-ron khác. Điều kiện để nơ-ron đƣợc kích hoạt hay không kích
hoạt chỉ phụ thuộc những đầu vào hiện thời của chính nó. Thông thƣờng
một nơ-ron có 3 phần nhƣ Hình 2.1:
y1

Wi1

yj

Wij

ym

WiN

u1

Wil*

uk

Wik*

um

Wim*

1

θ

⅀

vi

Hệ
động
học
tuyến
tính

xi

Hàm
động
học
phi
tuyến
a(.)

yi

Hình 2.1: Mô hình nơ-ron nhân tạo
Trên mỗi đầu vào của nơ-ron có gắn một trọng số để liên kết giữa nơ-ron thứ i
và nơ-ron thứ j. Các trọng số này tƣơng tự nhƣ các tế bào cảm giác của mạng nơron sinh học.

HVTH: Nguyễn Văn Trọng

trang 7


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

Tổng trọng:
N

M

j 1

k 1

Vi (t )  neti (t )   Wij .y j (t )   W*ik .u k (t )  i

(2.1)

Với Vi(t) là tổng trọng của nơ-ron thứ i; yj(t) là các đầu ra của nơ-ron thứ j và
uk(t) là các đầu vào từ bên ngoài tƣơng ứng với các trọng số Wij và W*ik; θi là hằng
số, gọi là ngƣỡng của nơ-ron thứ i.
2.1.2 Cấu trúc mạng nơ-ron nhân tạo
Bộ não con ngƣời có khoảng 1011÷1012 nơ-ron. Mỗi nơ-ron có thể liên kết với
104 nơ-ron khác thông qua các khớp nối (dendrite). Các nơ-ron nhận tín hiệu điện từ
các khớp nối và sau khi tổng hợp của các tín hiệu này vƣợt quá một ngƣỡng cho

phép thì nơ-ron sẽ kích hoạt một tín hiệu điện ở ngõ ra để truyền tới trục nơ-ron
(axon) và dẫn đến các nơ-ron khác.
Mối nối
Tín hiệu ra từ các
trục nơ-ron khác

Khớp nối

Trục nơ-ron

Thân nơ-ron

Hình 2.2: Cấu trúc 1 nơ-ron sinh học

Hình 2.3: Sự liên kết của nơ-ron
Mạng nơ-ron nhân tạo cũng hoạt động dựa theo cách thức của bộ não con

HVTH: Nguyễn Văn Trọng

trang 8


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

ngƣời nhƣng ở cấp độ đơn giản hơn. Nó là sự tái tạo bằng kỹ thuật những chức
năng của hệ thần kinh con ngƣời gồm vô số các nơ-ron liên kết với nhau (Hình 2.3).
Hai đặc tính cơ bản của mạng nơ-ron là:
 Quá trình tính toán đƣợc tiến hành song song và phân tán trên nhiều nơ-ron

gần nhƣ đồng thời.
 Tính toán thực chất là quá trình học, chứ không phải theo sơ đồ định sẵn từ
trƣớc.
2.1.3 Mô hình toán của mạng nơ-ron nhân tạo
Mạng nơ-ron nhân tạo gồm 3 thuộc tính: trọng số kết nối, ngƣỡng phân cực và
hàm kích hoạt.
x1

W1

x2

W2

Hàm kích hoạt

y

⅀

xn

Wn

Trọng số kết nối

θ Ngƣỡng

Hình 2.4: Mô hình toán của 1 nơ-ron nhân tạo
Ta đặt X  [ x1 , x2 ,..., xn ]T là cƣờng độ của vector ngõ vào.

Ngõ ra của mạng đƣợc tính theo công thức:

 n
 
y  f  w j x j     f (W T X   )
 i1
 

(2.2)

+ Trọng số kết nối

W  [ w1 , w2 ,..., wn ]T

(2.3)

+ Ngưỡng phân cực (ký hiệu θ) là giá trị biên độ độ lệch, nó ảnh hƣởng đến
sự kích hoạt ngõ ra của nơ-ron theo công thức:

u  X TW  
+ Hàm kích hoạt: xử lý thông tin tín hiệu đầu vào và tín hiệu đầu ra.
Hàm tổng (u): dùng để kết hợp và xử lý các thông tin ở đầu vào

HVTH: Nguyễn Văn Trọng

trang 9

(2.4)

Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

 Hàm tuyến tính (linear fuction)
 n
 
u   w j x j     (W T X   )
 j1
 

(2.5)

 Hàm toàn phƣơng (quadratic function)
n

u   w j x 2j  

(2.6)

j 1

 Hàm cầu (spherical function)
2
  n

 1
 1 

u   2  x j  w j      2 ( X  W )T ( X  W )  

   j1
 



(2.7)

Thông thƣờng, hàm tổng đƣợc sử dụng nhiều nhất là hàm tuyến tính.
Hàm kích hoạt để xử lý tín hiệu ngõ ra với một số kiểu hàm thông dụng:
+ Hàm nấc:

0,

y  f (u )  



1,

u 0
u 0

(2.8)

f(u)
1
u

o

Hình 2.5 : Hàm nấc
+ Hàm dấu:


1,
y  f (u )  



 1,

u 0
u 0

(2.9)

f(u)
1
u

o
-1

Hình 2.6: Hàm dấu

HVTH: Nguyễn Văn Trọng

trang 10

Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

+ Hàm tuyến tính (linear fuction):

y  f (u )  .u

(2.10)

Với α là độ dốc của hàm tuyến tính, khi độ dốc α = 1 thì hàm tuyến tính đƣợc
gọi là hàm đồng nhất – hàm lặp.
f(u)

u

o

Hình 2.7 : Hàm tuyến tính
+ Hàm tuyến tính bão hòa:

1,



y  f (u )   u,





 1,

u  1
1  u  1
u 1

(2.11)

f(u)
1
-1

u

o

1

-1

Hình 2.8 : Hàm tuyến tính bão hòa
+ Hàm dạng S (sigmoid) đơn cực:

y  f (u ) 

1
1  eu

(2.12)

Với λ là hệ số dạng của hàm sigmoid
Hàm này đặc biệt thuận lợi khi sử dụng cho các mạng đƣợc huấn luyện bởi
thuật toán lan truyền ngƣợc (backpropagation) vì dễ lấy đạo hàm, do đó có thể giảm

HVTH: Nguyễn Văn Trọng

trang 11


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

đáng kể tính toán trong quá trình huấn luyện. Hàm này đƣợc ứng dụng cho các
chƣơng trình ứng dụng mà các đầu ra mong muốn rơi vào khoảng [0,1].
f(u)
1
0.7
0.5
0.3

u

o

Hình 2.9 : Hàm Sigmoid đơn cực
+ Hàm dạng S lƣỡng cực:

y  f (u ) 

2
1
1  eu

(2.13)

f(u)

1
0.9

0.5

0.3

o

u

-1

Hình 2.10 : Hàm Sigmoid lưỡng cực
Hàm này có các thuộc tính tƣơng tự hàm sigmoid, làm việc tốt đối với các ứng
dụng có đầu ra yêu cầu trong khoảng [-1,1].
Đối với các đơn vị đầu ra, các hàm kích hoạt cần đƣợc chọn sao cho phù hợp
với sự phân phối của các giá trị đích mong muốn. Chúng ta đã thấy rằng đối với các
giá trị ra trong khoảng [0,1] thì hàm sigmoid là có ích, đối với các giá trị đích mong
muốn là liên tục trong khoảng đó thì hàm này cũng vẫn có ích, nó có thể cho ta các
giá trị ra hay giá trị đích đƣợc căn trong một khoảng của hàm kích hoạt đầu ra.

HVTH: Nguyễn Văn Trọng

trang 12


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

2.1.4 Phân loại mạng nơ-ron.
Nelson và Illingworth (1991) đã đƣa ra một số loại cấu trúc của mạng nơ-ron.
Nơ-ron đƣợc vẽ là các vòng tròn xem nhƣ một tế bào thần kinh, chúng có các mối
liên hệ đến các nơ-ron khác nhờ các trọng số, lập thành các ma trận trọng số tƣơng
ứng, mỗi một nơ-ron có thể phối hợp với các nơ-ron khác tạo thành một lớp các
trọng số. Mạng một lớp truyền thẳng (Single- Layer Feedforward Network) Hình
2.11.
x1

W11

x2
xm

y1
y2

Wmm

ym

Hình 2.11: Mạng nơ-ron truyền thẳng một lớp
Có thể nối vài lớp nơ-ron với nhau tạo thành mạng nhiều lớp truyền thẳng
(Multi- Layer Feedforward Network) Hình 2.12.
x1

y1

x2

y2

xm

ym

Hình 2.12: Mạng nơ-ron truyền thẳng nhiều lớp
Hai loại mạng nơ-ron một lớp và nhiều lớp đƣợc gọi là truyền thẳng nếu đầu
ra của mỗi nơ-ron đƣợc nối với các đầu vào của các nơ-ron thuộc lớp trƣớc đó.
Mạng nơ-ron phản hồi là mạng có đầu ra của mỗi nơ-ron đƣợc quay trở lại nối
với đầu vào của các nơ-ron cùng lớp nhƣ Hình 2.13. Mạng nơ-ron phản hồi có thể
thực hiện đóng vòng đƣợc gọi là mạng nơ-ron hồi quy (Recurrent Network) Hình
2.14.

HVTH: Nguyễn Văn Trọng

trang 13


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

Các nơ-ron lớp vào trực tiếp nhận tín hiệu ở đầu vào, ở đó mỗi nơ-ron chỉ có
một tín hiệu vào, mỗi nơ-ron ở lớp ẩn đƣợc nối với tất cả các nơ-ron lớp vào và lớp
ra. Các nơ-ron ở lớp ra có đầu vào đƣợc nối với tất cả các nơ-ron ở lớp ẩn, chúng là
đầu ra của mạng, một mạng nơ-ron cũng có thể có nhiều lớp ẩn. Các mạng nơ-ron
trong mỗi nơ-ron chỉ đƣợc liên hệ với tất cả các nơ-ron ở lớp kế tiếp và tất cả các
mối liên kết chỉ đƣợc xây dựng từ trái sang phải đƣợc gọi là mạng nhiều lớp truyền
thẳng (perceptrons).

x1

y1

x2

y2

xm

ym

Hình 2.13: Mạng nơ-ron phản hồi

x1

W11

y1

x2
xm

y2

Wmm

ym

Hình 2.14: Mạng nơ-ron hồi quy
2.1.4.1 Mạng nơ-ron truyền thẳng một lớp
Một lớp nơ-ron là một nhóm các nơ-ron mà chúng cùng nhận một số tín hiệu
vào đồng thời (Hình 2.11). Trong ma trận trọng số W, các dòng thể hiện trọng số
của mỗi nơ-ron, mỗi dòng thứ j có thể đặt nhãn nhƣ một vector wj của nơ-ron thứ j
gồm m trọng số wij.

w j  (w j1,w j2 ,....,w jm )

HVTH: Nguyễn Văn Trọng

trang 14

(2.14)


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

Các trọng số trong cùng một cột thứ j (j = 1, 2, …, n) đồng thời nhận cùng một

tín hiệu vào xj.
Tại cùng một thời điểm, vector đầu vào x = (x1, x2..xj…, xm) có thể là một
nguồn bên ngoài là cảm biến hoặc thiết bị đo lƣờng đƣa tới mạng. Tới khi toàn bộ
ma trận trọng số wij đƣợc xác định tƣơng ứng với vector đầu vào x thì các tích số
wij * xi cũng đƣợc tính toán.
2.1.4.2 Mạng nơ-ron truyền thẳng nhiều lớp
Trong mạng nơ-ron truyền thẳng nhiều lớp (Hình 2.12), các lớp đƣợc phân
chia thành 3 loại sau đây:
Lớp vào: là lớp nơ-ron đầu tiên nhận các tín hiệu vào xi của vector tín hiệu
vào x. Mỗi tín hiệu xi của tín hiệu vào sẽ đƣợc đƣa đến tất cả các nơ-ron của lớp nơron đầu tiên, chúng đƣợc phân phối trên các trọng số có số lƣợng đúng bằng số nơron của lớp này. Thông thƣờng, các nơ-ron đầu vào không làm biến đổi các tín hiệu
vào xi, tức là chúng không có các trọng số hoặc không có các loại hàm chuyển đổi
nào, chúng chỉ đóng vai trò phân phối các tín hiệu và không đóng vai trò sửa đổi
chúng.
Lớp ẩn: là lớp nơ-ron dƣới lớp vào, chúng không trực tiếp liên hệ với thế giới
bên ngoài nhƣ các lớp nơ-ron vào và ra.
Lớp ra: là lớp nơ-ron tạo các tín hiệu ra cuối cùng.
2.1.4.3 Mạng nơ-ron hồi quy
Mạng nơ-ron hồi quy (Recurrent Neural Networks) còn đƣợc gọi là mạng
phản hồi (Feedback Networks) là loại mạng tự liên kết thành các vòng và liên kết
hồi quy giữa các nơ-ron. Mạng nơ-ron hồi quy có trọng số liên kết đối xứng nhƣ
mạng Hopfield luôn hội tụ về trạng thái ổn định (Hopfid, 1982). Mạng liên kết 2
chiều (Bidirectional Associative Memory – BAM) là mạng thuộc nhóm mạng nơ-ron
hồi quy gồm 2 lớp nơ-ron liên kết tay đôi, trong đó đảm bảo nơ-ron của cùng một
lớp không liên kết với nhau và cùng hội tụ về trạng thái ổn định (Kosko, 1986).
Nghiên cứu mạng nơ-ron hồi quy có trọng số liên kết không đối xứng sẽ gặp nhiều

HVTH: Nguyễn Văn Trọng

trang 15

Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

phức tạp hơn so với mạng truyền thẳng (Feedforward Networks) và mạng hồi quy
đối xứng (Symmetrich Recurrent Neural Networks). Mạng nơ-ron hồi quy có khả
năng về nhận dạng mẫu, nhận dạng các hàm phi tuyến, dự báo … Một ƣu điểm
khác của mạng nơ-ron hồi quy là chỉ cần mạng nhỏ hơn về cấu trúc cũng có khả
năng nhƣ mạng truyền thẳng có cấu trúc lớn hơn. Nó khắc phục đƣợc giả thuyết
truyền thống của mạng nơ-ron là coi mạng có số nơ-ron đủ lớn. Mạng nơ-ron hồi
quy gồm hai loại: hồi quy không hoàn toàn (Partially Recrrent Networks) và hồi
quy hoàn toàn (Fully Recrrent Networks).
+ Mạng hồi quy không hoàn toàn (Partially Recurrent Networks):
Là mạng dựa trên cơ sở mạng lan truyền ngƣợc (Back – Propagation) với cấu
trúc hồi quy, mạng này có cấu trúc phần lớn là truyền thẳng có cả sự chọn lựa cho
một bộ phận có cấu trúc hồi quy. Trong nhiều trƣờng hợp, trọng số của cấu trúc hồi
quy đƣợc duy trì không đổi nên luật học lan truyền ngƣợc có thể đƣợc dễ dàng sử
dụng. Các mạng này đƣợc gọi là mạng dãy (Sequential Networks) và các nút nhận
tín hiệu hồi quy đƣợc gọi là các phần tử Context (Context Units). Trong các mạng
loại này, tín hiệu truyền thẳng xảy ra rất nhanh hoặc không phụ thuộc vào thời gian,
trong khi tín hiệu hồi quy thực hiện có tính thời gian. Từ đó, tại thời điểm t phần tử
nằm trong phạm vi Context Units có tín hiệu vào từ một phần mạng ở thời điểm (t –
1). Vì vậy, bộ phận nằm trong phạm vi nhớ đƣợc một số dữ liệu của quá khứ từ kết
quả biến đổi ở thời điểm t. Do vậy, trạng thái mạng nguyên thủy của các mẫu phụ
thuộc vào các trạng thái đó cũng nhƣ dòng thông tin đầu vào. Mạng có thể nhận
mẫu (Recognice) dãy dựa vào tình trạng cuối cùng của dãy và có thể dự báo tiếp
theo cho tín hiệu của dãy theo thời gian. Từ đó, mạng hồi quy về cơ bản không hoàn
toàn là mạng truyền thẳng, liên kết hồi quy có thể đi từ các nút ở các lớp ra hoặc lớp
ẩn.

+ Mạng nơ-ron hồi quy hoàn toàn (Fully Recurrent Networks):
Là mạng nơ-ron hồi quy đầu tiên đƣợc Gossberg xây dựng để học và biểu diễn
các mẫu bất kỳ. Loại mạng này đƣợc xây dựng theo mẫu Instar- Outstar và nhận số
lƣợng mẫu nhiều nhơn. Với mạng hồi quy hoàn toàn đã hình thành quan điểm thực

HVTH: Nguyễn Văn Trọng

trang 16


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

hiện và luyện mạng hồi quy từ mạng truyền thẳng nhiều lớp đƣợc xây dựng từ một
lớp cho mỗi bƣớc tính. Khái niệm này đƣợc gọi là lan truyền ngƣợc theo thời gian
phù hợp khi quan tâm đến các dãy với độ lớn T là nhỏ. Nó đã đƣợc sử dụng học cho
máy ghi với nhiệm vụ thực hiện các dãy và có khả năng áp dụng cho điều khiển
thích nghi.
2.1.5 Các luật học
Thông thƣờng mạng nơ-ron đƣợc điều chỉnh hoặc đƣợc huấn luyện để hƣớng
các đầu vào riêng biệt đến đích ở đầu ra. Cấu trúc huấn luyện mạng đƣợc chỉ ra trên
Hình 2.15. Ở đây, hàm trọng của mạng đƣợc điều chỉnh trên cơ sở so sánh đầu ra
với đích mong muốn (taget) đến khi đầu ra mạng phù hợp với đích. Những cặp
vào/đích (input/taget) đƣợc dùng để giám sát cho huấn luyện mạng.
Đích

Vào

Hàm trọng

(weights)
giữa các nơ-ron

So sánh
Điều chỉnh

Hình 2.15: Cấu trúc huấn luyện mạng nơ-ron
Để có đƣợc một số cặp vào/ra, ở đó mỗi giá trị vào đƣợc gửi đến mạng và giá
trị ra tƣơng ứng đƣợc thực hiện bằng mạng là sự xem xét và so sánh với giá trị
mong muốn. Thông thƣờng tồn tại một sai số vì giá trị mong muốn không hoàn toàn
phù hợp với giá trị thực. Sau mỗi lần chạy, ta có tổng bình phƣơng của tất cả các sai
số, sai số này đƣợc sử dụng để xác định các hàm trọng mới. Mỗi lần chạy, hàm
trọng của mạng đƣợc sửa đổi với đặc tính tốt hơn tƣơng ứng với đặc tính mong
muốn. Từng cặp giá trị vào/ra phải đƣợc kiểm tra và trọng lƣợng đƣợc điều chỉnh
một vài lần. Sự thay đổi các hàm trọng của mạng đƣợc dừng lại nếu tổng các bình
phƣơng sai số nhỏ hơn một giá trị đặt trƣớc hoặc đã chạy đủ một số lần chạy xác
định (trong trƣờng hợp này mạng có thể không thoả mãn yêu cầu đặt ra do sai lệch

HVTH: Nguyễn Văn Trọng

trang 17


Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

còn cao). Có hai kiểu học là học thông số và học cấu trúc.
Học thông số (paramater learning) là tìm ra biểu thức cập nhật các thông số
về trọng số, cập nhật kết nối giữa các nơ-ron.

Học cấu trúc (structure learning) là sự biến đổi cấu trúc của mạng nơ-ron gồm
số lƣợng nút (node) và các mẫu liên kết.
Nhiệm vụ của việc học thông số là bằng cách nào đó tìm đƣợc ma trận chính
xác mong muốn từ ma trận giả thiết ban đầu với cấu trúc của mạng nơ-ron có sẵn.
Vì vậy, mạng nơ-ron sử dụng các trọng số điều chỉnh với nhiều phƣơng pháp học
khác nhau có thể tính toán gần đúng ma trận W cần tìm đặc trƣng cho mạng. Có ba
phƣơng pháp học:
+ Học có giám sát ( supervised learning): là quá trình học ở mỗi thời điểm
thứ i khi đƣa tín hiệu xi đƣợc đƣa vào mạng nơ-ron, tƣơng ứng sẽ có đáp ứng mong
muốn di của đầu ra cho trƣớc ở thời điểm đó. Có thể nói, trong quá trình học có
giám sát, mạng nơ-ron đƣợc cung cấp liên tục các cặp số liệu mong muốn vào/ra ở
từng thời điểm (x1, d1), (x1, d2), (xk, dk),… khi cho tín hiệu vào thực là xk sẽ tƣơng
ứng có tín hiệu đầu ra cũng đƣợc lặp lại là dk giống nhƣ mong muốn. Kết quả của
quá trình học có giám sát là tạo đƣợc một hộp đen có đầu vào là vector tín hiệu vào
x sẽ đƣa ra đƣợc câu trả lời đúng d.
Để đạt đƣợc kết quả mong muốn trên, khi đƣa vào tín hiệu xk, thông thƣờng sẽ
có sai lệch ek giữa tín hiệu đầu ra thực yk với tín hiệu đầu ra mong muốn dk. Sai lệch
đó sẽ đƣợc truyền ngƣợc tới đầu vào để điều chỉnh thông số mạng nơ-ron là ma trận
trọng số W. Quá trình tiếp tục lặp lại sao cho sai lệch giữa tín hiệu ra mong muốn
và tín hiệu ra thực tế nằm trong phạm vi cho phép, kết quả nhận đƣợc ma trận trọng
số với các phần tử Wij đã đƣợc điều chỉnh phù hợp với đặc điểm của đối tƣợng hay
hàm số mạng nơ-ron cần học. Mô hình học có giám sát đƣợc minh họa nhƣ Hình
2.16.
Nhƣ vậy, học có giám sát có thể đƣợc xem nhƣ việc xấp xỉ một ánh xạ X→ Y,
trong đó X là tập các vấn đề và Y là tập các lời giải tƣơng ứng cho vấn đề đó.
Các mẫu (x, y) với x = (x1, x2,. . ., xn) ∈ X, y = (yl, y2, . . ., ym) ∈ Y đƣợc cho

HVTH: Nguyễn Văn Trọng

trang 18

Luận văn thạc sĩ

GVHD: PGS.TS Quyền Huy Ánh

trƣớc. Học có giám sát trong các mạng nơ-ron thƣờng đƣợc thực hiện theo các bƣớc
sau:

x

y

Mạng
nơ-ron

e

Máy tính
phát hiện
sai

d

Hình 2.16: Mô hình học có giám sát và học củng cố
-

Bƣớc 1: Xây dựng cấu trúc thích hợp cho mạng nơ-ron, chẳng hạn có (n+1)
nơ-ron vào (n nơ-ron cho biến vào và 1 nơ-ron cho ngƣỡng x0), m nơ-ron đầu
ra và khởi tạo các trọng số liên kết của mạng.

-

Bƣớc 2: Đƣa một vector x trong tập mẫu huấn luyện X vào mạng

-

Bƣớc 3: Tính vector đầu ra d của mạng

-

Bƣớc 4: So sánh vector đầu ra mong muốn y (là kết quả đƣợc cho trong tập
huấn luyện) với vector đầu ra d do mạng tạo ra; nếu có thể thì đánh giá lỗi.

-

Bƣớc 5: Hiệu chỉnh các trọng số liên kết theo một cách nào đó sao cho ở lần
tiếp theo khi đƣa vector x vào mạng, vector đầu ra d sẽ giống với y hơn.

-

Bƣớc 6: Nếu cần, lặp lại các bƣớc từ 2 đến 5 cho tới khi mạng đạt tới trạng
thái hội tụ. Việc đánh giá lỗi có thể thực hiện theo nhiều cách, cách dùng
nhiều nhất là:

 Lỗi tức thời:
Err = (d - y), hoặc Err = |d - y|

(2.15)

 Lỗi trung bình bình phƣơng (MSE - Mean-Square Error)
Err = (d- y)2/2

(2.16)

Có hai loại lỗi trong đánh giá một mạng nơ-ron.
Thứ nhất là lỗi rõ ràng (apparent error), đánh giá khả năng xấp xỉ các mẫu
huấn luyện của một mạng đã đƣợc huấn luyện.
Thứ hai là lỗi kiểm tra (test error), đánh giá khả năng tổng quát hóa của một

HVTH: Nguyễn Văn Trọng

trang 19


S

K

L

0

0

2

1

5

4