Ứng dụng mạng nơron trong mô hình dự báo mức độ tăng trưởng phương tiện cá nhân (Luận văn thạc sĩ)

ĐẠI HỌC THÁI NGUYÊN
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

VŨ THỊ XUÂN QUYÊN

ỨNG DỤNG MẠNG NƠRON
TRONG MÔ HÌNH DỰ BÁO MỨC ĐỘ
TĂNG TRƢỞNG PHƢƠNG TIỆN CÁ NHÂN

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Thái Nguyên - 2015


ĐẠI HỌC THÁI NGUYÊN
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

VŨ THỊ XUÂN QUYÊN

ỨNG DỤNG MẠNG NƠRON
TRONG MÔ HÌNH DỰ BÁO MỨC ĐỘ
TĂNG TRƢỞNG PHƢƠNG TIỆN CÁ NHÂN
Chuyên ngành: Khoa học máy tính
Mã số: 60 48 01 01

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Ngƣời hƣớng dẫn khoa học: TS PHẠM THANH HÀ

Thái Nguyên - 2015

LỜI CAM ĐOAN

Tôi xin cam đoan đây là công trình nghiên cứu của tôi dƣới sự hƣớng
dẫn khoa học của Tiến sĩ Phạm Thanh Hà, Trƣởng khoa khoa Công nghệ
thông tin, Trƣờng Đại học Giao thông vận tải, các kiến thức trong luận văn
đƣợc hệ thống từ các tài liệu đã đƣợc công bố và đƣợc trích dẫn đầy đủ.
Các kết qủa nghiên cứu và chạy thử nghiệm đều là trung thực dựa trên
chƣơng trình cài đặt kèm theo nghiên cứu này.
Tôi xin chiụ trách nhiê ̣m về lời cam đoan này.
Thái Nguyên, ngày

tháng

năm 2015

Tác giả

Vũ Thị Xuân Quyên


LỜI CẢM ƠN

Để hoàn thành luận văn, em xin chân thành cảm ơn Trƣờng Đại học
Công nghệ Thông tin và Truyền thông, Đại học Thái Nguyên, Phòng Đào tạo,
các thầy, cô giáo giảng dạy lớp cao học Khoa học máy tính K12E đã quan
tâm, tạo điều kiện thuận lợi, tận tình giảng dạy và giúp đỡ em trong thời gian
theo học tại trƣờng.
Đặc biệt, em xin bày tỏ lòng biết ơn sâu sắc đến TS. Phạm Thanh Hà,
ngƣời đã dành nhiều thời gian, tâm huyết hƣớng dẫn em trong suốt quá trình

nghiên cứu và hoàn thành luận văn.
Em cũng xin cảm ơn các cán bộ, giảng viên đồng nghiệp ở Trƣờng
Đại học Hùng Vƣơng đã tạo điều kiện về thời gian để em có thể học tập và
hoàn thành luận văn.
Mă ̣c dù đã cố gắ ng hế t sƣ́c hoàn thiê ̣n luâ ̣n văn, tuy nhiên chắ c chắ n vẫn
còn nhiều thiếu sót, rấ t mong sƣ̣ góp ý quý báu của qúy thầ y cô và các ba .̣n
Xin trân trọng cảm ơn.
Thái Nguyên, ngày

tháng

năm 2015

Tác giả

Vũ Thị Xuân Quyên


i

MỤC LỤC
LỜI CAM ĐOAN ............................................................................................. 0
LỜI CẢM ƠN ................................................................................................... 0
MỤC LỤC .......................................................................................................... i
DANH MỤC CÁC TỪ VIẾT TẮT ................................................................. iii
DANH MỤC BẢNG ........................................................................................ iv
DANH MỤC HÌNH .......................................................................................... v
MỞ ĐẦU ........................................................................................................... 1
Chƣơng 1. TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO ........................ 4
1.1 Các khái niệm về mạng nơron .................................................................... 5

1.2. Phân loại cấu trúc mạng nơron................................................................. 10
1.2.1. Mạng nơron 1 lớp .................................................................................. 10
1.2.2. Mạng nơron truyền thẳng nhiều lớp ...................................................... 12
1.3. Các luật học .............................................................................................. 12
1.4. Mạng nơron truyền thẳng ......................................................................... 14
1.4.1. Mạng Perceptron một lớp đơn .............................................................. 14
1.4.2. Mạng truyền thẳng nhiều lớp MLP ....................................................... 15
Kết luận chƣơng 1 ........................................................................................... 18
Chƣơng 2. MÔ HÌNH DỰ BÁO SỬ DỤNG MẠNG NƠRON ..................... 19
2.1. Tổng quan về dự báo và mô hình dự báo ................................................. 19
2.1.1. Khái niệm về dự báo ............................................................................. 19
2.1.2. Đặc điểm của dự báo ............................................................................. 19
2.1.3. Các phƣơng pháp dự báo....................................................................... 20
2.2 Một số kỹ thuật dự báo hiện đại ................................................................ 22


ii

2.2.1. Giới thiệu ............................................................................................... 22
2.2.2. Sự ra đời của một mô hình dự báo ........................................................ 23
2.2.3. Các kỹ thuật mô hình hóa dự báo hiện đại ............................................ 24
2.3. Mô hình dự báo sử dụng mạng nơron ...................................................... 31
2.3.1 Mô hình dự báo sử dụng mạng nơron BP (Back Propagation).............. 32
2.3.2 Mô hình dự báo sử dụng mạng nơron RBF (Radial Basic Functions) .. 40
Kết luận chƣơng 2 ........................................................................................... 46
Chƣơng 3.ỨNG DỤNG MÔ HÌNH DỰ BÁO SỬ DỤNG MẠNG NƠRON
TRONG DỰ BÁO MỨC ĐỘ TĂNG TRƢỞNG PHƢƠNG TIỆN GIAO
THÔNG TẠI TỈNH PHÚ THỌ ............................................................. 47
3.1 Bài toán dự báo tăng trƣởng phƣơng tiện giao thông. .............................. 47
3.2 Ứng dụng mô hình dự báo sử dụng mạng nơron BP ................................ 51

3.3 Ứng dụng mô hình dự báo sử dụng mạng nơron RBF.............................. 55
Kết luận chƣơng 3 ........................................................................................... 59
KẾT LUẬN VÀ ĐỊNH HƢỚNG PHÁT TRIỂN ........................................... 60
TÀI LIỆU THAM KHẢO ............................................................................... 61
PHỤ LỤC ........................................................................................................ 63


iii

DANH MỤC CÁC TỪ VIẾT TẮT

NN

Neural Network

ANN

Artificial Neural Network

BP

Back Propagation

RBF

Radial Basic Functions


iv

DANH MỤC BẢNG
Bảng 3.1. Thống kê và dự báo quy mô dân số của tỉnh Phú Thọ đến năm 2020
................................................................................................................ 47
Bảng 3.2. Thống kê và dự báo nhu cầu lao động của tỉnh Phú Thọ đến năm
2020 ........................................................................................................ 48
Bảng 3.3. Thống kê và dự báo nguồn cung lao động của tỉnh Phú Thọ đến
năm 2020 ................................................................................................ 49
Bảng 3.4. Thống kê và dự báo một số chỉ tiêu tăng trƣởng GDP của tỉnh Phú
Thọ đến năm 2020................................................................................... 49
Bảng 3.5. Thống kê và dự báo số lƣợng phƣơng tiện giao thông của tỉnh Phú
Thọ đến năm 2020................................................................................... 50
Bảng 3.6. Tổng hợp dữ liệu quá khứ và dự báo đến năm 2020 ...................... 51
Bảng 3.7. Dữ liệu sử dụng cho mô hình dự báo sử dụng mạng nơron BP ..... 52
Bảng 3.8. Dữ liệu rút gọn trong tiếp cận sử dụng dữ liệu .............................. 52
Bảng 3.9. Dữ liệu thời gian ............................................................................ 55
Bảng 3.10. Dữ liệu quá khứ cho mô hình dự báo sử dụng mạng RBF .......... 55
Bảng 3.11. Dữ liệu quá khứ cho mô hình dự báo sử dụng mạng RBF .......... 56


v

DANH MỤC HÌNH
Hình 1.1. Một mạng nơron đơn giản gồm hai nơron……………………….6
Hình 1.2. Mô hình của một nơron ……...........................................................6
Hình 1.3. Cấu trúc của một nơron…………………………………………..8
Hình 1.4. Các hàm kích hoạt ..........................................................................10
Hình 1.5. Mạng nơron một lớp.......................................................................11
Hình 1.6. Mạng nơron hồi quy………………………...................................11
Hình 1.7. Mạng nơron nhiều lớp. .................................................................... 11
Hình 1.8. Học có giám sát……………….......................................................13

Hình 1.9. Học không có giám sát…................................................................13
Hình 1.10. Mạng perceptron đơn .................................................................... 15
Hình 1.11. Mạng perceptron đa lớp cho bài toán XOR .................................. 16
Hình 2.1. Biểu diễn hai chiều của các vec tơ đầu vào .................................... 24
Hình 2.2. Khung nhìn hai chiều của một siêu phẳng tối ƣu chia tách dữ liệu và
các vec tơ hỗ trợ ............................................................................. 25
Hình 2.3. Khung nhìn hai chiều về kết quả của việc phân cụm một tập dữ liệu
đầu vào thành hai cụm ....................................................................... 26
Hình 2.4. Mạng nơron nhân tạo truyền thẳng ................................................. 27
Hình 2.5. Biểu diễn sơ đồ của một tập hợp mô hình ...................................... 28
Hình 2.6. Một cây quyết định đơn giản .......................................................... 30
Hình 2.7. Mô hình dự báo sử dụng mạng nơron ............................................. 31
Hình 2.8. Mô hình dự báo sử dụng mạng nơron truyền thẳng ........................ 32
Hình 2.9. Mạng truyền thẳng ba lớp lan truyền ngƣợc sai số ......................... 33
Hình 2.10. Một ví dụ về mạng nơron truyền thẳng......................................... 37
Hình 2.11. Mô hình dự báo sử dụng mạng nơron RBF .................................. 40


1

MỞ ĐẦU
1. Đặt vấn đề
Hiện nay ở trên thế giới đã có một số mô hình dự báo nhƣ mô hình dự
báo dựa trên thống kê, mô hình dự báo chuỗi thời gian, … tuy nhiên việc tiếp
tục nghiên cứu và ứng dụng các kỹ thuật mới trong dự báo là cần thiết và có ý
nghĩa.
Nhƣ chúng ta đã biết mạng nơron nhân tạo là sự tái tạo bằng kỹ thuật
những chức năng của hệ thần kinh con ngƣời. Trong quá trình tái tạo không
phải tất cả các chức năng của bộ não con ngƣời đều đƣợc tái tạo, mà chỉ có
những chức năng cần thiết. Bên cạnh đó còn có những chức năng mới đƣợc

tạo ra nhằm giải quyết một bài toán định trƣớc.
Mạng nơron bao gồm các nơron đƣợc liên kết với nhau bằng các trọng
số theo một cấu trúc xác định. Mạng nơron có thể đƣợc huấn luyện để thực
hiện các nhiệm vụ khác nhau. Quá trình huấn luyện sẽ thiết lập bộ trọng số
cho các liên kết giữa các nơron trong mạng.
Mạng nơron nhân tạo đƣợc chia ra làm nhiều loại, trong đó ngƣời ta
quan tâm nhiều đến cấu trúc mạng nơron và giải thuật huấn luyện, về cấu trúc
có thể chia ra các loại mạng nhƣ mạng nơron một lớp, nhiều lớp, mạng nơron
hồi quy, mạng nơron truyền thẳng..
Mỗi cấu trúc mạng nơron có thể sử dụng để giải quyết một số bài toán
nào đó, ví dụ nhƣ mạng nơron 1 lớp có thể dùng để phân lớp dữ liệu, mạng
nơron truyền thẳng nhiều lớp có thể dùng để nhận dạng hoặc dự báo.
Do mạng nơron truyền thẳng có khả năng dự báo nên đề tài này sẽ tập
trung nghiên cứu xây dựng mô hình dự báo sử dụng mạng nơron.


2

Trong những năm gần đây vấn đề ách tắc giao thông trên địa bàn, tỉnh
Phú Thọ (nhất là tại các thị xã và thành phố của tỉnh) luôn là vấn đề thời sự,
điều này đặt ra cho các nhà quản lý là phải có cơ chế quản lý và dự báo đƣợc
mức độ tăng trƣởng của các phƣơng tiện giao thông ở mức trung hạn và dài
hạn. Từ đó hoạch định các chính sách về quản lý phƣơng tiện và xây dựng cơ
sở hạ tầng cho giao thông.
Đề tài này sẽ nghiên cứu, đề xuất và xây dựng mô hình dự báo sử dụng
mạng nơron nhân tạo và ứng dụng giải quyết bài toán dự báo mức độ tăng
trƣởng phƣơng tiện giao thông cá nhân ở trung hạn và dài hạn cho tỉnh Phú
Thọ, tạo điều kiện để các nhà quản lý hoạch định chính sách quản lý phƣơng
tiện và xây dựng hạ tầng giao thông trên địa bàn tỉnh.
2. Đối tƣợng và phạm vi nghiên cứu

Mạng nơron nhân tạo, mô hình dự báo sử dụng mạng nơron.
Ứng dụng mô hình dự báo sử dụng mạng nơron trong dự báo mức độ
tăng trƣởng phƣơng tiện giao thông.
3. Hƣớng nghiên cứu của đề tài
Nghiên cứu, đề xuất và xây dựng mô hình dự báo sử dụng mạng nơron
nhân tạo và ứng dụng giải quyết bài toán dự báo mức độ tăng trƣởng phƣơng
tiện giao thông cá nhân ở trung hạn và dài hạn cho tỉnh Phú Thọ.
4. Phƣơng pháp nghiên cứu
- Nghiên cứu lý thuyết kết hợp với cài đặt thực nghiệm.
5. Ý nghĩa khoa học của đề tài
+ Hệ thống các kiến thức về mạng nơron nhân tạo và nghiên cứu sâu về
lớp mạng truyền thẳng nhiều lớp.


3

+ Nghiên cứu bài toán quản lý và dự báo mức độ tăng trƣởng phƣơng
tiện giao thông.
+ Xây dựng mô hình dự báo sử dụng mạng nơron.
+ Ứng dụng mô hình dự báo sử dụng mạng nơron trong dự báo mức độ
tăng trƣởng phƣơng tiện giao thông cá nhân tại tỉnh Phú Thọ.


Luận văn đầy đủ ở file: Luận văn full