Mạng noron nhân tạo và ứng dụng vào phân loại kính

TRƯỜNG ĐẠI HỌC KHOA HỌC HUẾ
KHOA CÔNG NGHỆ THÔNG TIN

ĐỀ TÀI
ỨNG DỤNG MẠNG NƠ-RON NHÂN TẠO VÀO PHÂN LOẠI KÍNH

1


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

MỤC LỤC
MỤC LỤC..........................................................................................................2
LỜI MỞ ĐẦU....................................................................................................3
I. Mô tả tập dữ liệu:...........................................................................................4
1.1. Mô tả tập dữ liệu:.......................................................................................4
1.2. Chuẩn hóa dữ liệu:.....................................................................................4
1.3. Vẽ phân bố tập dữ liệu trên không gian dữ liệu vào:..............................5
II. THIẾT KẾ VÀ CÀI ĐẶT............................................................................8
1. Thuật toán Perceptron 1 lớp.........................................................................8
2. Thuật toán Multi Perceptron........................................................................12
3. Thuật toán RBF.............................................................................................14
III. KẾT QUẢ VÀ PHÂN TÍCH......................................................................16
1. Kết quả chạy dữ liệu......................................................................................16
1.1. Chạy dữ liệu với mạng Perceptron 1 lớp..................................................16
1.2. Chạy dữ liệu với mạng Multi Perceptron................................................17
1.3. Chạy dữ liệu với mạng RBF .....................................................................19
2. Phân tích kết quả...........................................................................................20
KẾT LUẬN........................................................................................................21
TÀI LIỆU THAM KHẢO................................................................................22

HVTH: Nguyễn Thị Hồng

2


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

LỜI MỞ ĐẦU
Các mơ hình tính tốn mơ phỏng bộ não người đã được nghiên cứu trong
nửa đầu thế kỷ 20. Mặc dù có nhiều mơ hình khác nhau được đề xuất, song tất cả
đều dùng một cấu trúc mạng gọi là các nơron. Các nơron này xử lý các tín hiệu
số gửi tới từ mơi trường bên ngồi hoặc từ các nơron khác trong mạng thông qua
các kết nối và sau đó gửi tín hiệu đến các nơron khác hoặc ra môi trường. Mạng
nơron nhân tạo, gọi tắt là mạng nơron là một lớp các mơ hình tính tốn như vậy .
Cách tiếp cận mạng nơron nhân tạo có ý nghĩa thực tiễn rất lớn cho phép
tạo ra các thiết bị có thể kết hợp khả năng song song cao của bộ não với tốc độ
tính tốn cao của máy tính. Trong những năm gần đây mạng nơron nhân tạo đã
được nghiên cứu và ứng dụng trong lĩnh vực như y học, điều khiển,… và đặc biệt
được ứng dụng nhiều trong lĩnh vực công nghệ thông tin. Em đã tiếp cận với
mạng nơron bằng việc cài đặt (trên MatLab) một mạng Perceptron một lớp (với
luật học delta), một mạng Perceptron hai lớp (Luật học lan truyền ngược) và một
mạng RBF để giải bài toán phân loại Glass Indentification
Do thời gian thực hiện tiểu luận cũng như kinh nghiệm có hạn nên tiểu
luận này khơng tránh khỏi một số sai sót ngồi ý muốn. Em rất mong nhận được
sự góp ý và chỉ bảo của Thầy cũng như các bạn học viên trong lớp để đề tài được
hoàn thiện.

HVTH: Nguyễn Thị Hồng

3

Tiểu luận mơn: Mạng nơ-ron nhân tạo và ứng dụng

I.

MƠ TẢ DỮ LIỆU

1.1

Giới thiệu:

Bộ dữ liêu Glass do cơ quan nghiên cứu trung ương của Đức, sở pháp y khoa học
Aldermasston thu thập và nghiên cứu. Việc nghiên cứu phân loại các loại kính
được thúc đẩy bởi việc điều tra tội phạm học. Tại hiện trường vụ án, mảnh kính
để lại có thể được sử dụng làm bằng chứng ... nếu nó được xác định chính xác!
Tập dữ liệu bao gồm 214 mẫu từ 6 loại kính: building_windows_float_processed,
xe_windows_float_processed,

building_windows_non_float_processed,

hộp

đựng, bộ đồ ăn, đèn pha
9 thuộc tính được đo từ mỗi mẫu: RI, Na, Mg, Al,Si, K, Ca, Ba, Fe. Dựa trên sự
kết hợp của 9 thuộc tính này, đã phát triển một mơ hình phân biệt phân biệt các
loại kính.
.- Link bộ dữ liệu: />- Bộ dữ liệu này là công khai cho nghiên cứu.
1.2 Thơng tin thuộc tính:
* Các thuộc tính của mỗi lồi kính :

1. Chỉ số khúc xạ (refractive index)
2. Na tri (Sodium) đơn vị đo % trọng lượng trong oxit tương ứng
3. Magie (Magnesium) đơn vị đo %
4. Nhôm(Magnesium) đơn vị đo %
5. Silic(Silicon) đơn vị đo %
6. Kali(Potassium) đơn vị đo %
7. Canxi(Calcium) đơn vị đo %
8. Bari(Barium) đơn vị đo %
9. Sắt(Iron) đơn vị đo %
* Các lồi kính:
HVTH: Nguyễn Thị Hồng

4


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

- building_windows_float_processed
- building_windows_non_float_processed
- vehicle_windows_float_processed
- containers
- tableware
- headlamps
1.3. Phân tích thuộc tích
+ Input:
Ri, Na(Sodium,%), Mg(Magnesium,%), Al(Magnesium,%), Si(Silicon,%),
K(Potassium, %), Ca(Calcium, %), Ba(Barium, %), Fe(Iron, %)
+ Output:
- building_windows_float_processed
- building_windows_non_float_processed

- vehicle_windows_float_processed
- containers
- tableware
- headlamps
Tổng số mẩu dữ liệu là 214 mẫu gồm:
70 mẫu loại thứ nhất
76 mẫu loại thứ hai
17 mẫu loại thứ ba
13 mẫu loại thứ tư
9 mẫu loại thứ năm
29 mẫu loại thứ sáu

HVTH: Nguyễn Thị Hồng

5


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Sheet du-lieu-goc

HÌNH 1 :sheet dữ liệu gốc (File excel đính kèm)

- Dữ liệu được ánh xạ vào [-1,1]
- Sau đó tách thuộc tính ra như sau:
+ Input

+ Output

Cung cấp cho 9 phép đo ( Ri, -1 : building_windows_float_processed

Na, Mg, Al, Si, K, Ca, Ba, Fe)

-0.667:building_windows_non_float_processed
-0.333: vehicle_windows_float_processed
0.333: containers
0.667: tableware
1: headlamps

1.4. Chuẩn hóa dữ liệu
Cơng thức chuẩn hóa dữ liệu
=(B2*2-MAX($B$2:$B$215)-MIN($B$2:$B$215))/(MAX($B$2:$B$215)MIN($B$2:$B$215))
HVTH: Nguyễn Thị Hồng

6


Tiểu luận mơn: Mạng nơ-ron nhân tạo và ứng dụng

HÌNH 2: Dữ liệu sau khi được chuẩn hóa
(Có file excel đính kèm)

1.5. Bảng phân bố dữ liệu dựa trên khơng gian dữ liệu vào

HÌNH 3: Đồ thị phân bố dữ liệu trên không gian dữ liệu vào

HVTH: Nguyễn Thị Hồng

7

Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

II.

THIẾT KẾ VÀ CÀI ĐẶT
- Ngôn ngữ Matlab: là một ngôn ngữ ma trận/mảng cấp cao với các câu

lệnh, hàm, cấu trúc dữ liệu, vào/ra, các tính năng lập trình hướng đối tượng. Nó
cho phép lập trình các ứng dụng từ nhỏ đến các ứng dụng lớn và phức tạp.
- Môi trường làm việc Matlab: Đây là một bộ các công cụ và phương tiện
mà bạn sử dụng với tư cách là người dùng hoặc người lập trình Matlab. Nó bao
gồm các phương tiện cho việc quản lý các biến trong không gian làm việc
Workspace cũng như xuất nhập khẩu dữ liệu. Nó cũng bao gồm các cơng cụ phát
triển, quản lý, gỡ rối và định hình M-file, ứng dụng của Matlab.
1. Perceptron 1 lớp:
* Khởi tạo vector và và vector ra
Sử dụng phần mềm Matlab online
Bước 1: Khởi động phần mềm Matlab và dán đoạn code sau:
addpath />load('glass.txt');
DT= glass(1:214,1:9)
DTR=DT'
T1= glass(1:143,1:9)
I1=T1'
T2= glass(1:143,10)
T=T2'
nntool
Sẽ xuất hiện giao diện:

HVTH: Nguyễn Thị Hồng

8


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Bước 2: Chọn Import dữ liệu cho các dữ liệu đầu vào và đầu ra:

Bước 3: Sau khi có dữ liệu đầu vào và đầu ra ta tiến hành tạo mới mạng
Perceptron theo những thuộc tính như hình sau:

HVTH: Nguyễn Thị Hồng

9


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Sau khi điền đầy đủ thơng tin ta sẽ có mạng Perceptron 1 lớp như sau:

Bước 4: Tiếp theo ta tiến hành huấn luyện với 2/3 số mẫu được chọn bằng cách
mở Mạng Perceoptron 1 lớp vừa tạo ra và tiến hành huấn luyện với giao diện như sau:

HVTH: Nguyễn Thị Hồng

10


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Với các thuộc tính khai báo:

Q trình huấn luyện:

HVTH: Nguyễn Thị Hồng

11


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

2. Thuật toán Multi Perceptron
Tương tự như Perceptron 1 lớp, multi perceptron có bước 1 và bước 2
giống perceptron 1 lớp. Từ bước 3 ta sẽ chọn kiểu như hình sau:

Ta sẽ có mơ hình như sau:

HVTH: Nguyễn Thị Hồng

12


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Sau khi có được mơ hình mạng nơ-ron nhiều lớp ta cũng tiến hành huấn
luyện tương tự như Perceptron 1 lớp như sau:

HVTH: Nguyễn Thị Hồng

13

Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

3. Thuật toán RBF
Tương tự như multi Perceptron ta chọn tham số RBF như sau:

Ta nhận được mơ hình:

HVTH: Nguyễn Thị Hồng

14


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

Và sơ đồ mạng:

HVTH: Nguyễn Thị Hồng

15


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

III. KẾT QUẢ VÀ PHÂN TÍCH
1. Kết quả chạy dữ liệu:
1.1. Chạy dữ liệu với mạng Perceptron 1 lớp:
- Sau quá trình huấn luyện và kiểm thử kết quả như sau:
+ Kết quả huấn luyện:

+ Kết quả kiểm thử:

+ Kết quả:

HVTH: Nguyễn Thị Hồng

16


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

1.2. Chạy dữ liệu với mạng Multi Perceptron
- Sau quá trình huấn luyện và kiểm thử kết quả như sau:
+ Kết quả huấn luyện:

+ Kết quả kiểm thử:

HVTH: Nguyễn Thị Hồng

17


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

+ Kết quả:

HVTH: Nguyễn Thị Hồng

18

Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

1.3. Chạy dữ liệu với mạng RBF
- Sau quá trình huấn luyện và kiểm thử kết quả như sau:
+ Kết quả huấn luyện:

+ Kết quả kiểm thử:

HVTH: Nguyễn Thị Hồng

19


Tiểu luận môn: Mạng nơ-ron nhân tạo và ứng dụng

+ Kết quả:

2. Phân tích kết quả:
Qua kết quả trên ta thấy đối với thuật toán delta và thuật toán RBF với
tổng lỗi thì như nhau, tuy nhiên thời gian học và hội tụ của thuật toán delta là
nhanh hơn thuật tốn RBF. Đối với thuật tốn Multi Perceptron có tổng lỗi thấp
hơn hai thuật toán delta và RBF và thời gian học thì nhanh hơn thuật tốn RBF
nhưng lại chậm hơn thuật tốn delta.
Qua đó ta thấy ngun tắc hoạt động của mạng RBF là chuyển đổi bài tốn
từ khơng gian có thể phân loại khơng tuyến tính vào khơng gian(thơng thường có
kích thước lớn hơn) có thể phân loại tuyến tính. Giải thuật học được sử dụng cho
mạng RBF thông thường là K-Means hay Adaptive K-Means.

HVTH: Nguyễn Thị Hồng

20