Nghiên cứu ứng dụng mạng nơ ron tế bào CNN trong việc giải phương trình vi phân đạo hàm riêng

1

BỘ GIÁO DỤC VÀ ĐÀO TẠO

VIỆN KH&CN VIỆT NAM

VIỆN CÔNG NGHỆ THÔNG TIN

Vũ Đức Thái

NGHIÊN CỨU ỨNG DỤNG MẠNG NƠ RON TẾ BÀO CNN
TRONG VIỆC GIẢI PHƯƠNG TRÌNH VI PHÂN ĐẠO
HÀM RIÊNG
Chun ngành: Bảo đảm tốn học cho máy tính
và hệ thống tính tốn
Mã số:

62 46 35 01

LUẬN ÁN TIẾN SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC
PGS, TSKH Phạm Thượng Cát

HÀ NỘI - 2011


2

LỜI CÁM ƠN
Để đạt được những kết quả đạt được trong quá trình nghiên cứu, em đã

nhận được nhiều sự giúp đỡ của:
- PGS, TSKH Phạm Thượng Cát
- Ban Lãnh đạo Viện Công nghệ thông tin, thuộc Viện KH&CN Việt
Nam, và các nhà khoa học của Viện Công nghệ thông tin, các nhà khoa học
của Viện Toán học, Viện Cơ học, Học viện Kỹ thuật quân sự...
- Ban Lãnh đạo trường đại học Công nghệ thông tin và Truyền thôngĐH Thái Nguyên.
- Các đồng nghiệp trong nhóm nghiên cứu.
Em xin chân thành cám ơn sự tư vấn, giúp đỡ, hỗ trợ về mọi mặt giúp
em hoàn thành luận án này.
Hà Nội, ngày 15 tháng 12 năm 2011
NCS Vũ Đức Thái


3

LỜI CAM ĐOAN
Tôi xin cam đoan những nội dung được đề xuất trong luận án là hồn
tồn mới, chưa có tác giả nào công bố.
Các kết quả đạt được trong q trình nghiên cứu là hồn tồn trung
thực khách quan.
Tơi xin chịu trách nhiệm về những lời cam đoan trên.
Hà Nội, ngày 15 tháng 12 năm 2011
Người cam đoan

NCS Vũ Đức Thái


4

MỤC LỤC

Lời cảm ơn

1

Lời cam đoan

2

Mục lục

3

Danh mục các ký hiệu, các chữ viết tắt

5

Danh mục các bảng

7

Danh mục các hình vẽ đồ thị

8

CHƯƠNG 1: MỞ ĐẦU

10

1.1. Các bài tốn tính tốn khoa học và cơng nghệ mạng nơ ron tế bào 10

1.2. Những nội dung nghiên cứu trong luận án

12

1.3. Phương pháp nghiên cứu

13

1.4. Ý nghĩa khoa học và thực tiễn

14

CHƯƠNG 2: TỔNG QUAN VỀ MẠNG NƠ RON TẾ BÀO VÀ
PHƯƠNG TRÌNH ĐẠO HÀM RIÊNG

15

2.1. Giới thiệu cơng nghệ Mạng nơ ron tế bào.

15

2.2. Các khái niệm cơ bản về công nghệ mạng nơ ron tế bào

22

2.3. Kiến trúc của máy tính mạng nơ ron tế bào CNN-UM.

32

2.4. Một số thao tác xử lý trên CNN-UM.

37

2.5. Khái quát về phương trình đạo hàm riêng

39

2.6. Mối quan hệ động học giữa CNN và PDE

42

2.7. Giải phương trình đạo hàm riêng Burger sử dụng công nghệ CNN 48
2.8. Hạn chế của công nghệ CNN và giải pháp

49

2.9. Phương pháp huấn luyện CNN bằng mẫu học

51

2.10. Kết luận

53

CHƯƠNG 3: PHÁT TRIỂN PHƯƠNG PHÁP GIẢI PHƯƠNG
TRÌNH ĐẠO HÀM RIÊNG BẰNG CƠNG NGHỆ CNN

54

5

3.1. Khái quát hoá các dạng PDE giải trên CNN

54

3.2. Bài tốn phương trình dịng chảy thuỷ lực

63

3. 3. Bài toán thuỷ lực hai chiều

83

3.4. Bài toán thuỷ lực hỗn hợp

94

3.5. Bài tốn ơ nhiễm khí quyển

100

3.6. Kết luận.

109

CHƯƠNG 4: KẾT QUẢ VÀ BÀN LUẬN

110

4.1. Tóm tắt các kết quả đạt được

110

4.2. Các đóng góp mới của luận án

111

4.3. Kết luận và kiến nghị

111

DANH MỤC CƠNG TRÌNH CỦA TÁC GIẢ

113

TÀI LIỆU THAM KHẢO

115

PHỤ LỤC

121


6

DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT
1. Các ký hiệu, thuật ngữ
u, v (in đậm): Ký hiệu cho đại lượng véc tơ trong các phương trình

A: Mẫu A của mạng nơ ron tế bào là mẫu liên kết các trọng số hồi tiếp từ đầu ra của
các láng giềng của một tế bào. Viết Auv là các trọng số liên kết từ lớp u đến lớp v
trong kiến trúc mạng nơ ron tế bào đa lớp.
B: Mẫu B của mạng nơ ron tế bào là mẫu liên kết các trọng số đầu vào của các láng
giềng của một tế bào; Buv là trọng số liên kết của các tế bào từ lớp u đến lớp v trong
kiến trúc mạng nơ ron tế bào đa lớp.
z: Giá trị ngưỡng của hệ mạng nơ ron tế bào.
: Toán tử nhân chập.
xij (t )

: Giá trị trạng thái của tế bào trong mạng nơ ron tế bào hai chiều (MxN)

~

x( z,  ,t) : Ký hiệu ẩn hàm trong phương trình đạo hàm riêng tương ứng với mơ hình

mạng nơ ron tế bào.


x(i, j ) : Giá trị trạng thái của các điểm rời rạc trong không gian sai phân của phương

trình vi phân đạo hàm riêng.
2. Các chữ viết tắt
ASIC (Application Special Intergrated Circuit): Mạch IC chuyên dụng
CMOS (Complimentary Metal Oxide Semiconductor): Một loại chip sử dụng công
nghệ vật liệu bán dẫn).
CNN (Cellular Neural Network): Công nghệ mạng nơ ron tế bào
CNN-UM (CNN-Universal Machine): Máy tính mạng nơ ron tế bào
COS (CNN Operating System): Hệ điều hành máy tính CNN
CPDDE (Cellular Partial Difference Differential Equation): Phương trình vi phân

đạo hàm riêng sai phân tế bào.
FPGA (Field Programmable Logic Array): Ma trận cổng lơgic lập trình được
ODE (Ordinary Differential Equation): Phương trình vi phân


7

PDE (Partial differential Equation): Phương trình vi phân đạo hàm riêng (trong luận
án dùng thuật ngữ tiếng Việt là “phương trình đạo hàm riêng”)
SWE (Shallow Water Equation): Phương trình mơ tả trạng thái dịng nước trong
sơng, hồ, vịnh.
VLSI (Very Large Scale Intergrated): Chip tích hợp mật độ cao.
VHDL (Very High Description Language): Ngơn ngữ đặc tả phần cứng dùng lập
trình cấu hình cho các chip cơng nghệ lập trình được như ASIC, FPGA.
Verilog: Một ngơn ngữ dùng cho lập trình trên chip giống như VHDL.


8

DANH MỤC CÁC BẢNG
Bảng 3.1 Các giá trị tham số vật lý cho bài toán 1D.
Bảng 3.2 Các loại chip dòng DE2 và các tài nguyên
Bảng 3.3 Các tham số vật lý cho bài toán thủy lực hai chiều.
Bảng 3.4 Giá trị ban đầu của bài toán Hồ nước.
Bảng 3.5 Giá trị sau khi tính tốn của bài tốn Hồ nước.
Bảng 3.6 Các tham số trong bài tốn ơ nhiễm khí quyển.


9

DANH MỤC CÁC HÌNH VẼ ĐỒ THỊ
CHƯƠNG 2
Hình 2.1 Thiết bị Bi-i V301F High-Speed Smart Camera
Hình 2.2 Kiến trúc CNN chuẩn
Hình 2.3 Kiến trúc bên trong một tế bào của CNN tuyến tính đơn giản
Hình 2.4 Các dạng láng giềng của CNN, (a) r =1; (b) r = 2
Hình 2.5 Các tế bào đường biên, góc
Hình 2.6 Hệ CNN có 5 tế bào, tế bào biên chỉ là một tụ điện
Hình 2.7 Dạng đồ thị hàm ra của một tế bào
Hình 2.8 Các dạng điều kiện của tế bào biên
Hình 2.9 Các khối cơ bản dùng trong kết cấu CNN
Hình 2.10 Cấu trúc đầy đủ của tế bào CNN -UM
Hình 2.11 Sơ đồ khối của tế bào CNN-UM mở rộng
Hình 2.12 Cấu trúc lập trình trong CNN
Hình 2.13 Kết quả giải phương trình Burger
Hình 2.14 Nghiệm của phương trình Burger áp dụng mẫu học
Hình 2.15 So sánh sai số nghiệm của phương trình Burger
Hình 2.16 Sai số của kết quả giải phương trình Burger phụ thuộc R
CHƯƠNG 3
Hình 3.1. Mơ hình CNN 1D với các trạng thái hoạt động
Hình 3.2 Mạch CNN hai lớp. Lớp u có ảnh hưởng đến lớp v
Hình 3.3 Lưới sai phân hai chiều
Hình 3.4 Các tế bào trong mạng CNN 2D
Hình 3.5 Mơ hình mạch cho bài tốn giải hệ PDE
Hình 3.6 Hệ CNN 3D. (a) mơ hình cả hệ CNN; (b) Kiến trúc một khối 3D (3x3x3),
Hình 3.7 Mơ hình bài tốn dịng chảy một chiều
Hình 3.8 Mơ tả bài tốn trong hệ tọa độ một chiều
Hình 3.9 Mơ tả biến thiên dịng nước theo biến khơng gian và thời gian
Hình 3.10 Mơ tả độ dốc của kênh I
Hình 3.11 Mơ tả điều kiện ban đầu của phương trình dịng chảy một chiều

10

Hình 3.12 Lưu đồ thuật tốn tính tốn trên Matlab
Hình 3.13 Giao diện nhập các tham số và mẫu cho bài tốn
Hình 3.14 Kết quả tính tốn mơ phỏng trên Matlab
Hình 3.15 Kiến trúc mạch khối cho bài tốn dịng chảy một chiều
Hình 3.16 Mạch tính tốn cho mỗi tế bào hàm h(x,t); Q(x,t)
Hình 3.17 Kiến trúc vỉ mạch EP2C35, và một phần tử LE
Hình 3.18 Khối tính tốn cho một cặp tế bào h, Q (khối) thứ i
Hình 3.19 Kiến trúc Chip CNN có các khối tế bào tính tốn cho một cặp h,Q
Hình 3.20 Mơ hình mạng CNN dùng cơ chế pipelines và thanh ghi dịch
Hình 3.21 Thiết bị EP2C35 và hệ thống thực nghiệm
Hình 3.22 Kết quả tính tốn trên CNN (chip EP2C35)
Hình 3.23 Hình ảnh kết quả tính tốn của h, Q trên chip CNN
Hình 3.24 Mơ hình vùng biển cần tính tốn trong bài tốn
Hình 3.25 Mơ hình tốn học của bài tốn thuỷ lực
Hình 3.26 Cửa sổ nhập tham số và mẫu
Hình 3.27 Giá trị ban đầu của hàm h, u, v
Hình 3.28 Kết quả xử lý của hàm h, u, v
Hình 3.29 Sơ đồ khối CNN cho phương trình thuỷ lực hai chiều
Hình 3.30 Kiến trúc khối tính tốn cho các ẩn hàm h, u, v
Hình 3.31 Hình ảnh hồ và đập nước
Hình 3.32 Mơ hình liên kết giữa sơng và hồ
Hình 3.33 Mơ hình phân tích dịng chảy trong hồ có liên kết với sơng
Hình 3.34 Mơ hình tốn học mơ tả dịng chảy trong hồ có liên kết với sơng
Hình 3.35 Hình ảnh gây ơ nhiễm mơi trường của khí thải
Hình 3.36 Giao diện nhập các tham số và mẫu cho bài tốn
Hình 3.37 Kết quả mơ phỏng bài tốn ơ nhiễm khí quyển

Hình 3.38 Sơ đồ khối các tế bào của hệ CNN 3D
Hình 3.39 Kiến trúc khối tính tốn cho một tế bào trong mạng CNN của bài toán ô
nhiễm khí quyển


11

Chương 1. Mở đầu

1.1. Các bài tốn tính tốn khoa học và công nghệ mạng nơ ron tế bào
Trong sự phát triển của nhiều lĩnh vực khoa học, công nghệ hiện nay, việc
tính tốn phức tạp như giải các phương trình đại số, phương trình vi phân, phương
trình đạo hàm riêng, mô phỏng cho các hệ thống, cơ sở dữ liệu lớn đang đặt ra
những nhu cầu về những giải pháp tính tốn mới. Các nhà khoa học cần có những
cơng cụ tính tốn mạnh, có kích thước số lớn và tốc độ cao để có thể đáp ứng yêu
cầu tính tốn. Với các bài tốn trong kỹ thuật có những xử lý với tín hiệu liên tục,
tương tác trong thời gian thực, trong các hệ điều khiển, kết quả tính tốn là tín hiệu
đưa ra cho các hệ thứ cấp chấp hành thì q trình tính tốn này cần sử dụng những
cơng cụ tính tốn sao cho kịp thời với các tiến trình của giới tự nhiên.
Hiện nay tốc độ của máy tính PC đã được cải thiện đáng kể. Mặt khác, ý
tưởng xây dựng một mạng toàn cầu (global) liên kết nhiều máy tính cùng tham gia
tính tốn đã được đề xuất và đang triển khai thực hiện tại nhiều nước trên thế giới
cũng như tại Việt Nam để có thể giải quyết những bài tốn khoa học lớn có quy mơ
rộng, q trình tính tốn liên tục, lâu dài xử lý cho những kho dữ liệu lớn phức tạp.


12

Tuy vậy, với những bài tốn quy mơ nhỏ nhưng cũng cần tính tốn nhiều, tốc
độ nhanh trong một hệ thống nhỏ gọn ONCHIP thì mơ hình global trên khơng phù

hợp. Hơn nữa, khi đầu vào của hệ thống là một luồng thơng tin biến đổi nhanh (như
luồng tín hiệu video) thì việc tính tốn của máy PC có thể khơng đáp ứng được, vì
khi xử lý xong thì kết quả khơng cịn giá trị do tính khơng kịp thời. Có thể nói máy
tính PC (có một hay nhiều lõi) hiện nay đã đạt đến giới hạn vật lý về kích thước và
tốc độ của mạch tích hợp VLSI nên khó đáp ứng cho những bài tốn u cầu cao
hơn. Người ta cần tìm kiếm một phương thức tính tốn mới thích hợp, có hiệu quả
thoả mãn các nhu cầu tính tốn.
Nghiên cứu về cấu tạo và sự hoạt động của hệ thần kinh người ta đã thấy cấu
trúc của hệ thần kinh gồm các nơ ron xử lý phân tán rải khắp cơ thể đến cơ quan
thần kinh trung ương. Khi xử lý các nơ ron liên kết cục bộ với nhau để vừa xử lý,
vừa truyền tín hiệu từ bất cứ phần nào của cơ thể đến não bộ, do vậy quá trình xử lý
song song diễn ra cực kỳ nhanh làm cho con người có những phản xạ thích ứng kịp
thời khi gặp các tác nhân kích thích từ mơi trường. Từ những tham khảo về mơ hình
mạng nơ ron sinh học và lý thuyết về mạng nơ ron thông thường (mạng Hopfield),
năm 1988 Leon O Chua và Lin Yang đưa ra ý tưởng về một kiến trúc tính tốn mới
trở thành một cơng nghệ xử lý, tính tốn song song vật lý đó là cơng nghệ mạng nơ
ron tế bào (Cellular Neural Network-CNN) [12],[13]. Năm 1993, Tamás Roska và
L. O Chua đưa ra mơ hình kiến trúc của máy tính mạng nơ ron tế bào (CNN
Universal Machine-CNN UM) làm cơ sở cho việc chế tạo phần cứng. Từ đó, với sự
phát triển của cơng nghệ vi mạch mật độ cao VLSI các nhà sản xuất đã nghiên cứu
chế tạo ra các chip CNN thương mại. Chip CNN ban đầu là một hệ thống ONCHIP
có 8x8 phần tử xử lý (gọi là cell-tế bào) liên kết cục bộ với nhau xử lý song song và
chỉ xử lý giá trị nhị phân. Đến nay với công nghệ vi mạch số các nhà nghiên cứu đã
xây dựng chip CNN có tên gọi là Programmable Optical Array Computer (POAC)
có kích thước lớn tới 500x500 [37]. Nếu cấu hình bằng cơng nghệ chip FPGA có
thể đạt 512x512 thậm chí 1028x1028 tế bào [23], [34].
Nhiều thế hệ chip khác nhau dựa trên công nghệ CNN đã được chế tạo phục


13

vụ các bài toán ứng dụng trong nhiều lĩnh vực. Đặc điểm quan trọng của cơng nghệ
CNN là kích thước mạng nhỏ gọn, không cần sự điều khiển kết nối, trao đổi dữ liệu
phức tạp như trong mạng máy tính thông thường.
Hàng năm các hội thảo về CNN được tổ chức để trao đổi chia xẻ những
thành tựu trong nghiên cứu và phát triển ứng dụng công nghệ này. Hội thảo về
CNN2008 (từ 14-16/07/2008 tại Tây Ban Nha) đã có gần 250 báo cáo được trình
bày; Hội thảo CNNA2010 được tổ chức tại đại học Berkeley (California-US) từ
ngày 3-5 tháng 02/2010 có khoảng trên 100 báo cáo. Trong đó, vấn đề nổi trội là
ứng dụng vật liệu mới memristor để xây dựng bộ nhớ trong các hệ CNN; các bài
toán ứng dụng xử lý song song trong việc tạo khả năng “nhìn” cho các rơ bốt, hệ
điều khiển tự động; các hệ CNN đa lõi, đa lớp...cũng được giới thiệu nhiều. Hiện
nay các trung tâm nghiên cứu về CNN có ở châu Âu (Hungary, Tây ban nha, Italia,
Anh, Thổ Nhĩ kỳ), Mỹ. Tại châu Á đã có một số nước tham gia nghiên cứu như
Trung Quốc, Hàn Quốc, Nhật Bản... Tại Việt Nam, hiện nay mới chỉ có một nhóm
nghiên cứu tại Viện Công nghệ thông tin - Viện KH&CN Việt Nam, và một số
trường đang triển khai đào tạo và nghiên cứu như ĐHBK Hà Nội, ĐHQG Hà Nội,
đại học Thái Nguyên. Trong các Hội thảo, tạp chí trong nước mới có một số ít bài
nói về cơng nghệ CNN [3],[4].
1.2. Những nội dung nghiên cứu trong luận án
Trong lĩnh vực tính tốn khoa học đang cần giải quyết rất nhiều bài tốn liên
quan đến giải phương trình đạo hàm riêng xuất hiện trong thực tế. Một số bài tốn
về mơi trường như sự ơ nhiễm khí quyển, ơ nhiễm nguồn nước trong các dịng sơng,
hồ chứa..., các hiện tượng biến động khí quyển xảy ra trong khơng gian vũ trụ, trong
các đại dương, sông hồ như giông, bão, sóng thần, động đất... là những bài tốn
được nhiều người quan tâm nghiên cứu. Nhất là trong tình hình hiện nay, sự ấm lên
của trái đất, hiệu ứng nhà kính gây ra những thảm hoạ thiên nhiên rất nghiêm trọng
đối với mơi trường và sự sống, chúng ta cần có những tính tốn dự báo chính xác để
phịng tránh, hạn chế thiệt hại do thiên tai. Xuất phát từ thực tế đó, cùng với việc
nghiên cứu cơng nghệ CNN, Luận án thực hiện nghiên cứu áp dụng giải một số

14

PDE mơ tả bài tốn thuỷ lực và bài tốn ô nhiễm khí quyển.
Để nghiên cứu tiếp cận một lĩnh vực tính tốn khoa học với những cơng cụ
mạnh, hiệu quả, Luận án tiến hành nghiên cứu nắm bắt những cơ sở toán học, kiến
trúc mạch phần cứng, thuật toán xử lý, khả năng ứng dụng của CNN. Qua đó, lựa
chọn, đề xuất phương pháp giải một số phương trình đạo hàm riêng và thực hiện
giải theo các thuật toán của CNN, cụ thể:
-Luận án đã đề xuất nghiên cứu giải phương trình dịng chảy một chiều:
Nghiên cứu mơ hình toán học, thiết kế mẫu, chứng minh sự ổn định của mạng với
tập mẫu tìm được. Chứng minh sự tương đương tốn học giữa mơ hình sai phân và
mơ hình CNN. Mơ phỏng tính tốn theo thuật tốn CNN trên Matlab, thiết kế mạch
và cấu hình trên chip EP2C35 tạo thành mạng CNN cho bài tốn; so sánh kết quả
tính tốn trên máy PC và tính tốn bằng mạng CNN xây dựng trên chip FPGA. Nội
dung này được trình bày trong Mục 3.2 của Luận án. Những kết quả nghiên cứu này
có trong các tài liệu ở mục [1], [2], [4], trong Danh mục cơng trình của tác giả.
-Luận án nghiên cứu phương trình thuỷ lực hai chiều bao gồm: Đề xuất mơ
hình thuật tốn, thiết kế mẫu, xây dựng mơ hình kiến trúc phần cứng, chứng minh
sự ổn định của mạng và sự tương đương giữa mơ hình sai phân và mơ hình mạng
CNN. Cài đặt mơ phỏng thuật tốn trên Matlab, phân tích tài ngun chip cần cho
chế tạo phần cứng. Các nội dung này được trình bày tại Mục 3.3 của Luận án và có
trong mục [3], [6] phần Danh mục cơng trình của tác giả.
-Luận án đề xuất thuật tốn CNN giải phương trình thuỷ lực hỗn hợp và cài
đặt mơ phỏng tính tốn trên Matlab trong Mục 3.4 của Luận án và trong mục [5],
Danh mục cơng trình của tác giả.
- Luận án nghiên cứu thuật tốn, thiết kế mẫu, phân tích sự ổn định của mạng
CNN 3D giải phương trình mơ tả hiện tượng ô nhiễm khí quyển, tiến hành cài đặt
thực nghiệm mô phỏng tính tốn cho bài tốn trên Matlab và thiết kế kiến trúc tính

tốn trên cơng nghệ FPGA. Nội dung này được trình bày trong Mục 3.5 của Luận
án và có trong các tài liệu ở mục [8], [9] Danh mục cơng trình của tác giả.
1.3. Phương pháp nghiên cứu


15

Để đạt được mục đích nghiên cứu, luận án đã sử dụng các phương pháp:
Phương pháp luận nghiên cứu về cơng nghệ CNN (mơ hình tốn học, lý thuyết về
kiến trúc mạch điện tử, kiến trúc phần cứng CNN, điều kiện ổn định, ngôn ngữ đặc
tả phần cứng để cấu hình mạng, các thuật tốn, cơng cụ hỗ trợ); phương pháp sai
phân giải các phương trình đạo hàm riêng (lược đồ sai phân, điều kiện tồn tại duy
nhất nghiệm, sự ổn định, độ chính xác của nghiệm); phương pháp thiết kế, sử dụng
ngôn ngữ mô tả phần cứng VHDL, Verilog lập trình cấu hình và lập trình tính tốn
trên chip FPGA thông qua giao diện của máy PC.
1.4. Ý nghĩa khoa học và thực tiễn
Về mặt khoa học luận án đã đề xuất một phương pháp mới dựa trên công
nghệ tính tốn song song CNN để giải một số phương trình PDE cụ thể, qua đó phát
triển tập mẫu trong thư viện mẫu CNN phục vụ cho việc giải PDE.
Về mặt thực tiễn: từ những nghiên cứu ban đầu này hình thành các cơ sở lý
luận, các kỹ năng, kinh nghiệm triển khai áp dụng công cụ CNN vào giải PDE; góp
phần giới thiệu cơng nghệ CNN tại Việt Nam, kết quả nghiên cứu là những tài liệu
phục vụ giảng dạy, học tập nghiên cứu tại các cơ sở đào tạo, tạo cơ hội trao đổi học
hỏi với các nhà nghiên cứu trong nước và thế giới.


16

Chương 2.
Tổng quan về Mạng nơ ron tế

bào và phương trình đạo hàm riêng

2.1. Giới thiệu cơng nghệ mạng nơ ron tế bào
2.1.1. Lịch sử phát triển của máy tính mạng nơ ron tế bào
Năm 1988, Leon O Chua và Lin Yang đưa ra ý tưởng về kiến trúc máy tính
mạng nơ ron tế bào (Cellular Neural Network) [12],[13]. Trong đó, các tác giả đã
nêu những nội dung cơ bản cho một mơ hình tính tốn song song, bao gồm kết cấu
mạch điện, phương trình tốn học mơ tả hoạt động của hệ thống. Bài báo cũng phân
tích, chứng minh sự làm việc ổn định của mạng bằng các cơ sở tốn học, đưa ra mơ
hình mơ phỏng thuật tốn với những ví dụ cụ thể. Đây là những khái niệm, nguyên
tắc cơ bản, làm nền tảng cho việc nghiên cứu về cơng nghệ CNN. Mơ hình mạch
điện của Chua đã trở thành kiến trúc lõi cho việc thiết kế các chip CNN sau này.
Sau đó là một loạt các bài viết về việc thiết kế chip CNN ứng dụng cho bài toán xử
lý ảnh và nhận dạng là lĩnh vực đầu tiên được ứng dụng công nghệ CNN.
Năm 1993, Tamás Roska và Leon Chua lần đầu tiên giới thiệu kiến trúc của
máy tính mạng nơ ron tế bào (CNN-UM) [33] với những chip analog lập trình theo
thuật tốn. Các nhà nghiên cứu thuộc Office of Naval Research, National Science


17

Foundation, University of California (US) và Hungarian Academy of Sciences
(Hungary) đã thiết kế, chế tạo ra nền tảng phần cứng (plaform) để thực thi ý tưởng
về kiến trúc chip CNN của Roska và Chua.
Chip CNN analog được chế tạo lần đầu tiên vào năm 1993 có tên là CNN
Universal Processor trên nguyên tắc xử lý đa lớp cho phép tính toán với dữ liệu
dạng ma trận. Chip này được thiết kế có kiến trúc 8x8 tế bào, với giao diện làm
việc, bộ nhớ analog, chuyển mạch lô gic và chương trình phần mềm. Từ đó khẳng
định tính khả thi và tiềm năng của cơng nghệ CNN. Đến năm 2000 có tới sáu nhà
sản xuất tham gia chế tạo chip analog dựa trên nguyên tắc đưa ra năm 1993. Hãng

AnaForcus phát triển kết quả nghiên cứu của đại học Seville bắt đầu thiết kế mơ
hình cho chip ACE để đưa vào sản xuất hàng loạt. Chip ACE đầu tiên được sản xuất
có kích thước 20x20 phục vụ cho bài tốn xử lý ảnh nhị phân sau đó phát triển chip
có kích thước 48x48 xử lý cho ảnh đa mức xám. Trong khi phát triển về kích thước
thì tính năng của chip cũng được cải thiện về tốc độ, chức năng xử lý, thiết bị vào
ra. Thiết bị vào ra với các cảm biến nhiều đầu cho phép xử lý tương tác giữa “thu
dữ liệu vào”, “xử lý” và “đưa kết quả ra” trong mơi trường thời gian thực. Tiếp đó
AnaForcus đã sản xuất chip CASE có ba lớp 32x32 tế bào đưa vào thiết bị thị giác
nhân tạo Eye - RIS có phần cứng, phần mềm và những cơng cụ trợ giúp tích hợp
vào chung trong một hệ thống xử lý. Vào năm 2003, AnaLogic Computer phát triển
bo mạch thị giác PCI-X tích hợp với chíp ACE4k, chip xử lý tín hiệu số DSP
(Digital Signal Processing) của hãng Texas Intrument và thiết bị thu ảnh nhanh
(high-speed-frame-grabber) vào một hệ thống cho phép giao tiếp với máy PC để mở
rộng khả năng ứng dụng và tính năng của cơng nghệ CNN analog. Năm 2006, hãng
AnaLogic Computer tiếp tục phát triển thiết bị camera thông minh tốc độ cao (Bi-I
Ultra High Speed Smart Camera) và dự định phát triển thiết bị này thành sản phẩm
kính mắt sinh học (Bionic Eyeglass) là dạng camera hai chiều trợ giúp cho người
khiếm thị sử dụng như mắt nhân tạo [26].
2.1.2. Một số thành tựu ứng dụng CNN trên thế giới hiện nay
-Với chip XC2VP30 của hãng Xilinx và hệ phát triển Virtex-II Pro các nhà


18

nghiên cứu R. Yeniceri và M. E. Yalcm thuộc đại học Cơng nghệ Istanbul (Thổ nhĩ
kỳ) đã mơ phỏng tính năng của các lồi sinh vật vào chế tạo rơ bốt gắn camera nhận
dạng ảnh động, tạo cho rô bốt khả năng trao đổi thông tin, phối hợp hoạt động tập
thể cùng thực thi một nhiệm vụ chung. Các thông số có thể đưa vào hệ thống trong
khi phần cứng đang xử lý, do vậy có thể cập nhật điều kiện động của mơi trường để
tính tốn cho từng vị trí, làm cho hệ điều khiển rơ bốt có tính linh hoạt với thời gian

thực [8],[39].
- Các nhà khoa học tại đại học Santiago (Tây Ban Nha) đã nghiên cứu việc
truyền sóng hai chiều trong mơi trường động khơng gian - thời gian, áp dụng thuật
tốn và kiến trúc tính tốn song song của CNN cho bài tốn truyền sóng để tính tốn
tất cả các đường truyền có thể và tìm ra đường đi tối ưu trong điều khiển rơ bốt tự
hành [27].
- Hai nhà nghiên cứu A. Kis và G. Vásárhelyi làm việc tại các phịng thí
nghiệm MTA-MFA, MTA SZTAKI và Anyos Jedlik (Hungary) đã nghiên cứu việc
thu nhận tín hiệu của bộ não người với độ nhạy cao, áp dụng khả năng này cho rô
bốt để điều khiển các thao tác cơng nghệ với độ chính xác cao, khắc phục yếu tố
tâm lý của con người. Sản phẩm này được ứng dụng trong một số rô bốt yêu cầu có
các thao tác chính xác trong các động tác nhạy cảm về tâm lý. Ý tưởng trên được
thực hiện với thiết bị TactoLogic và phần mềm TactoSoft [22].
- Một số nhà nghiên cứu tại đại học Wolfgang Von Goethe (Đức) đã áp dụng
chip EyeRIS 1.2 của ANAFOCUS thực hiện giám sát các mối hàn chất lượng cao tự
động điều chỉnh chế độ hàn cho cánh tay rô bốt hàn [15].
2.1.3. Những kết quả ứng dụng CNN để giải phương trình đạo hàm riêng
- Các nhà nghiên cứu F. Pardo, P. Lospez và D. Cabelo của đại học
Valladolid (Tây Ban Nha) đã thiết kế mơ hình CNN 3D rời rạc theo thời gian, tính
tốn cho phương trình truyền nhiệt trong không gian ba chiều và đã chế tạo chip
trên công nghệ FPGA Virtex 2 cho bài toán và cài đặt tính tốn bằng ngơn ngữ
Handel-C và VHDL đạt tốc độ nhanh hơn máy PC Pentium 4 tốc độ 3 GHz tới 34
lần. Các tác giả cũng khẳng định nếu dùng chíp Virtex 5 thì tốc độ có thể tăng lên


19

tới 160 - 200 lần [24].
- Các nhà nghiên cứu Z. Voroshazi, A Kiss, Z. Nagy và P. Szolgay của đại
học Pannonia, đại học Pázmány Péter Catholic và phịng thí nghiệm máy tính sóng,

viện nghiên cứu Tự động hóa Budapest (Hungary) đã thiết kế chế tạo mơ hình CNN
mở rộng có khối GAPU nhúng trong các chip FPGA RC203 và RC2000 của hãng
Celoxica kết hợp giữa tính tốn phân bố tốc độ cao và lập trình song song của hai
khối ACE4k và ACE16k giải hệ phương trình hypebolic mơ tả dòng chảy động phi
tuyến đạt được tốc độ nhanh hơn 66 lần so với chip Intel Core2Duo T7200 tốc độ 2
GHz [38].
- Các giáo sư F. Gollas, R. Tetzlaff tại đại học Wolfgang Dresden (Đức) đã
áp dụng hệ CNN phản ứng- khuyếch tán (Reaction Difusion- CNN) phân tích mơ tả
xấp xỉ tín hiệu điện não đồ của các bệnh nhân động kinh [19].
- Giáo sư Angela Slalova thuộc viện Toán - Tin (Institute of Mathematics
and Informatics) Bulgary đã áp dụng mơ hình CNN vào giải phương trình vi phân
Black-Schole mơ tả sự biến thiên giá cả theo các điều kiện thị trường thực tế xây
dựng thuật toán giải bài toán đơn, và ý tưởng tiếp theo sẽ phát triển với bài tốn đa
hình cho tổng thể các mặt hàng [35].
Các nhà nghiên cứu F. Sargeni, V. Bonaiuto của đại học Rome (Italia) đã
thực hiện thiết kế mạch CNN giải phương trình PDE truyền tương tác với các điều
kiện biên khác nhau và các phương pháp sai phân khác nhau. Vấn đề này được trình
bày trong cuốn” “Programmable CNN Analogue Chip for RD-PDE Multi-Method
Simulations” do NXB Kluwer Academic (USA) xuất bản năm 2005 [44].
Trong bài báo "Emulated Digital CNN-UM Implementation of a 3 Dimensional Ocean Model on FPGAs" của các tác giả Z. Nagy, P. Szolgay thuộc đại học
Veszprém (Hungary) mô tả kiến trúc digital CNN-UM với mơ hình Falcom đã khắc
phục nhược điểm của CNN-UM về độ chính xác. Kiến trúc này hiệu quả hơn kiến
trúc máy tính analog thế hệ trước về kích thước mảng tế bào, độ chính xác. Các tác
giả đã thực thi giải phương trình đạo hàm riêng mơ tả dịng chảy khơng nén có trong
nhiều lĩnh vực khoa học như khí động lực học, khí tượng học, hải dương học xuất


20

phát từ hệ phương trình Navier-Stockes. Mơ hình Falcom có thể thực thi cấu hình

bằng ngơn ngữ Handle-C trên chip FPGA có tên là RC200 cỡ trung bình của hãng
Celoxica. Hạn chế của phương pháp này là tốc độ chưa cao và độ rộng của bus nhớ
hạn chế, (tuy nhiên tốc độ cũng đạt tới 60 lần nhanh hơn chip Pentium IV 3 GHz).
Các tác giả đang nghiên cứu mô hình bài tốn truyền chất lỏng trong khơng gian 3
chiều POM (Princeton Ocean Model), với các phương trình mơ tả phức tạp hơn
nhiều, sử dụng chip FPGA thế hệ mới (Vertex 5, Vertiex 6 có hàng triệu cổng). Hai
vấn đề khó khăn phải giải quyết là: kiến trúc CNN đa lớp có kết nối với nhau rất
phức tạp gây sai số và không ổn định; độ rộng các bus I/O và số thực dấu phảy động
chiếm nhiều bộ nhớ dẫn đến chiếm nhiều tài nguyên của chip FPGA [49].
Trong cuốn “Modeling of Thermal Two Dimensional Free Turbulent Jet by a
Three layers Two Time Scale Cellular Neural Network” (NXB Springer Berlin,
1999), các tác giả A. Shabani, M. B. Menhaj và H. B. Tabrizi đã dùng mơ hình
CNN 3D mơ hình hóa phương trình đạo hàm riêng mơ tả sự biến thiên nhiệt độ, vận
tốc của một tên lửa bay tự do trong không gian ba chiều với miền thời gian liên tục,
(như vậy phương trình mơ tả có ba biến khơng gian và một biến thời gian). Kết quả
này đã được so sánh với các kết quả tính tốn trước cho thấy độ chính xác khá cao.
Từ bài tốn này các tác giả khẳng định có thể điều chỉnh mẫu của hệ CNN để đạt
được một công cụ mạnh để giải bài tốn với kích thước lớn [43].
Các tác giả K. Hadad và A. Piroozmand của đại học Shiraz, Trung tâm
nghiên cứu hạt nhân Shirax (Iran) đã giới thiệu trong bài báo “Application of
Cellular Neural Network (CNN) Method to the Nuclear Reactor Dynamics
Equations”. về ứng dụng CNN đa lớp mơ hình hóa phương trình động học của phản
ứng hạt nhân. Các tác giả đưa ra mơ hình kiến trúc mạch CNN thực nghiệm tính
tốn và so sánh kết quả với phương pháp giải số mơ phỏng trên Matlab cho thấy có
kết quả tốt hơn về tương tác không gian-thời gian và rất phù hợp với tính tốn cho
các phản ứng hạt nhân. Kết quả tính tốn theo thời gian thực giúp cho việc điều
khiển diễn biến của phản ứng có tính khả thi áp dụng vào nghiên cứu các phản ứng
thực nghiệm cỡ nhỏ trong tàu vũ trụ [20].

21

2.1.4. Những xu hướng phát triển của CNN
Một số nhà sản xuất theo hướng chế tạo theo khách hàng như nhóm nghiên
cứu tại đại học Studi Catania (Italia) chế tạo chip CNN điều khiển rô bốt sáu chân.
Các nhà nghiên cứu tại đại học Quốc gia Chiao Tung (Trung Quốc) đang thiết kế
chip RM-CNN cho bài toán mẫu học và nhận dạng; các nhà khoa học tại viện Công
nghệ Quốc gia Lien Ho (Trung Quốc) đang phát triển chip MMCNN để nghiên cứu
tính động học (dynamic) của CNN vào các ứng dụng tính tốn thời gian thực.
Đến nay, có nhiều bài tốn ứng dụng cần đến cơng nghệ CNN, là động lực
thúc đẩy làm cho kiến trúc của CNN phát triển cả về mạch phần cứng cũng như
ngôn ngữ sử dụng. Do kiến trúc động và linh hoạt của CNN, với mỗi bài tốn ứng
dụng chúng ta có thể thiết kế khối xử lý số học, và lơ gic có đặc thù riêng dựa trên
nguyên lý cấu tạo nền tảng của CNN. Với những công nghệ mới cho phép tái cấu
hình phần cứng (reconfiguration) như FPGA, rất nhiều mơ hình CNN đã được thiết
kế chế tạo và triển khai chứng minh tính ổn định, ưu thế tính tốn của CNN. Với
một chip CNN trên thị trường hiện nay (ví dụ ACE16k có kich thước 128x128 tế
bào) có thể tương đương với một hệ tính tốn song song của nhiều máy PC tốc độ
cao tiêu thụ nhiều năng lượng. Hình 2.1 là loại camera CNN có tên là Bi-i V301F
mới nhất hiện nay với nhiều ứng dụng như theo dõi đa mục tiêu, giám sát an ninh,
thị giác máy...

Hình 2.1 Thiết bị Bi-i V301F High-Speed Smart Camera

Tiềm năng ứng dụng CNN đã và đang mở rộng về mặt nguyên lý, từ việc lọc
ảnh phức tạp theo phương thức truyền thống; xử lý tín hiệu sinh học; giải phương


22

trình đạo hàm riêng; phân tích mơ hình phi tuyến mơ tả một số hệ vật lý... Hiện nay,
q trình xử lý không gian - thời gian phỏng theo xử lý của võng mạc mắt đã được
xây dựng, sử dụng hệ CNN thị giác, gồm tập rất lớn các phần tử “xử lý tương tự”
giống nhau và có tương tác cục bộ trong quá trình xử lý. Trọng số tương tác trong
không gian biến là hữu hạn cho thấy mạng làm việc chỉ phụ thuộc vào những biến
lân cận và có ít biến tồn cục. Bộ xử lý có thể xử lý “luồng” ảnh nhị phân hay đa
mức xám. Một số hệ thống cơ điện tử đã được thiết kế, chế tạo dựa trên mạch CNN
ứng dụng trong việc điều khiển truyền động với những khớp quay nhiều bậc tự do
phức tạp.
Trong tương lai CNN được sử dụng rộng rãi như: theo dõi, phân tích tia lửa
điện trong lị hồ quang; dị tìm khống sản trong phạm vi rộng dựa trên ảnh hồng
ngoại; theo dõi hiện tượng dị thường trong địa vật lý; thực hiện những nhiệm vụ
sinh trắc như nhận dạng vân tay, trích chọn đặc trưng dấu vết; tăng cường ảnh trong
nhận dạng, ứng dụng trong y tế theo dõi phân tích triệu chứng của não bộ, xử lý
chuỗi DNA... Kết hợp với các cơ cấu chấp hành, cơng nghệ CNN cịn cho phép ứng
dụng trong điều khiển tự động, trong các dây chuyền sản xuất công nghiệp, các hệ
xử lý thời gian thực.
Bên cạnh những ưu thế, CNN cũng có những nhược điểm nhất định. Do
nhiễu, ảnh hưởng của các thông số vật lý của mạch điện, giá trị xử lý tín hiệu là
analog dẫn đến độ chính xác của kết quả xử lý trên CNN khơng cao. Một số trạng
thái làm việc nằm ở vùng không ổn định trên đường đặc tuyến của mạch, thậm chí
ở vùng nhiễu loạn (chaos), đây là vấn đề còn đang được nghiên cứu giải quyết trong
lý thuyết ổn định của CNN và trong các bài toán ứng dụng cụ thể. Kết quả đưa ra
các thiết bị ra (màn hình máy tính, thiết bị lưu trữ..) phải qua chuyển đổi cũng gây
nên sai số thứ cấp. Một số dạng dữ liệu không thể xử lý, hoặc xử lý không hiệu quả
về kinh tế, kỹ thuật bằng công nghệ.
Như vậy trên thế giới, việc nghiên cứu ứng dụng CNN vào giải phương trình
đạo hàm riêng đã được phát triển mạnh mẽ với nhiều dạng bài tốn khẳng định tính
khả thi của cơng nghệ CNN, (website ).

23

Tại Việt Nam việc nghiên cứu ứng dụng CNN vào giải PDE chưa nhiều mới
chỉ có một vài bài báo có tính chất giới thiệu khái qt và ứng dụng giải một vài
phương trình của CNN, chưa đi sâu vào xây dựng thiết kế mạch cho một bài tốn
tính tốn cụ thể. Để hòa nhập cùng với sự phát triển chung của thế giới trong lĩnh
vực, việc nghiên cứu CNN nói chung và nghiên cứu ứng dụng vào giải PDE tại Việt
Nam là cần thiết và đang là thời điểm thích hợp để triển khai, khai thác tiềm năng
của một cơng cụ tính tốn mạnh cho các bài tốn tính toán khoa học kỹ thuật.
2.2. Khái niệm cơ bản về công nghệ mạng nơ ron tế bào
Khái niệm về CNN dựa trên cơ sở một vài khía cạnh của nơ ron sinh học và
được mơ phỏng bằng mạch tích hợp IC. Ban đầu, CNN chủ yếu được ứng dụng
trong xử lý ảnh và nhận dạng có dữ liệu xử lý dạng ma trận tương ứng với kiến trúc
mảng tế bào của mạng CNN, các thao tác xử lý trên mỗi điểm ảnh cũng đơn giản
phần lớn là các phép xử lý analog và các phép tốn số học lơ gic. Dần dần, với khả
năng lập trình được và tốc độ xử lý cao cho phép CNN có thể nhận và xử lý tín hiệu
phi tuyến của nhiều hệ tính tốn xử lý khác, bổ sung thêm các phép tốn lơ gic mở
rộng khả năng ứng dụng của CNN. Đặc điểm quan trọng của hệ CNN là kiến trúc
phần cứng không giống nhau, nghĩa là có nhiều dạng phần cứng được chế tạo dựa
trên nguyên tắc chung, thậm chí với mỗi bài toán ta phải thiết kế một kiến trúc phần
cứng riêng phù hợp với các tham số và ràng buộc cụ thể. Kiến trúc CNN là hệ thống
onchip gồm tập các tế bào liên kết cục bộ với với nhau tạo thành lưới, có nhiều
dạng lưới được đưa ra như lưới hình chữ nhật, tam giác, lục giác [41].
2.1.2. Kiến trúc chuẩn của CNN
Kiến trúc CNN chuẩn là một mảng hình chữ nhật kích thước MxN các tế
bào, mỗi tế bào tại toạ độ (i,j) ký hiệu là C(i,j) giống như các toạ độ trong không
gian Đề các hai chiều [12]. Chỉ số dòng i, cột j thỏa mãn điều kiện:
1  i  M; 1  j  N

Hình 2.2 minh hoạ cho một mạng CNN chuẩn, trong đó mỗi ơ biểu diễn cho
một tế bào C(i,j) có liên kết trực tiếp với các tế bào láng giềng.


24

1

2

3

Cột
j

N

1
2
3
C(i,j)
Dịng i
M

Hình 2.2 Kiến trúc CNN chuẩn

Một trong những đặc trưng của CNN là mỗi tế bào là một hệ thống động,
phi tuyến nhưng liên kết từng cặp là tuyến tính, nói cách khác cấu trúc khơng gian
của mảng là tuyến tính.
vxij

vuij

Eij

I


C

vyij

Rx
Ry



Ixu(ij,kl)

Ixy(ij,kl)

Iyx

Hình 2.3 Kiến trúc bên trong một tế bào của CNN tuyến tính đơn giản

Một ví dụ điển hình của một tế bào C(i,j) được chỉ ra trong Hình 2.3, các
thông số vxij, vyij vuij lần lượt là điện áp trạng thái, đầu ra, đầu vào. Với điện áp trạng
thái vxij tại thời điểm ban đầu được chọn có độ lớn nhỏ hơn hay bằng 1. Điện áp vào
vuij là hằng số với độ lớn nhỏ hơn hay bằng 1. Mỗi tế bào C(i,j) chứa một điện áp
nguồn độc lập Eij; một nguồn dòng độc lập I; một tụ tuyến tính C, hai điện trở

tuyến tính Rx và Ry. Gọi m là số các tế bào láng giềng của tế bào C(i,j) thì có nhiều
nhất là 2m nguồn điện áp liên kết (thông qua điện áp vào điều khiển vukl của các tế
bào láng giềng, và qua điện áp hồi tiếp điều khiển từ đầu ra của các tế bào láng
giềng vykl). Gọi Ixy(i,j;k,l), Ixu(i,j;k,l) là những nguồn dòng điều khiển điện áp tuyến
tính, được tính tốn theo cơng thức Ixy(i,j;k,l) = A(ij,kl).vykl và Ixu(i,j;k,l)= B(ij,kl).vukl


25

với mọi tế bào C(k,l) là láng giềng của tế bào C(i,j). Phần tử phi tuyến duy nhất
trong mỗi một tế bào là nguồn dòng được điều khiển bởi điện áp I xy 

1
f (vxij ) với
Ry

f(.) là hàm tuyến tính từng đoạn (piecewise linear). Cặp hệ số Aij,kl và Bij,kl được gọi
là toán tử hồi tiếp mẫu và toán tử điều khiển mẫu.
Giá trị kết quả xử lý chính là điện áp trạng thái của từng tế bào, do vậy các
xử lý được thông qua biến trạng thái đặc trưng cho điện áp này.
Khi xử lý, các tế bào nhận được lệnh, tập lệnh này giống nhau cho mọi tế
bào, nói cách khác mọi tế bào trong tồn khơng gian nhận được lệnh giống nhau.
Với CNN, lệnh được gọi là mẫu (template), một chương trình xử lý được tạo ra bởi
nhiều mẫu xắp xếp theo trình tự xử lý (như khái niệm chương trình trong máy PC).
Khái niệm mẫu rất quan trọng trong tồn bộ q trình hoạt động của CNN chúng ta
sẽ nghiên cứu kỹ về mẫu trong các phần sau. Mọi tế bào trong một hệ CNN cụ thể
có kiến trúc giống nhau nghĩa là giống nhau về phần cứng, có cùng tham số, có
cùng mẫu, do đó có tên gọi là kiến trúc vơ tính (hay mẫu vơ tính). Các mẫu có thể
được diễn tả bằng dạng thu gọn bởi các bảng hoặc ma trận. Chúng ta có một số định
nghĩa quan trọng về mơ hình CNN [41].

Định nghĩa 2.1: Hệ CNN là ma trận n chiều (n=1,2,3...) của những phần tử động,
giống nhau, mỗi phần tử là một mạch tích hợp gọi là tế bào (cell), có hai thuộc tính:
- Chỉ liên kết vật lý với các tế bào trong phạm vi láng giềng xác định,
- Mọi giá trị trạng thái của tế bào là những tín hiệu có giá trị liên tục.
Định nghĩa 2.2: CNN là mạch điện phi tuyến động (dynamic) có kích thước lớn
được tạo bởi cặp các tế bào liên kết với nhau, phân bố đều trong khơng gian. Mạch
này có thể có cấu trúc hình chữ nhật, lục giác đều, cầu... Với những đặc trưng:
- Mỗi tế bào của CNN là phần tử động,
- Luật tiếp hợp trong CNN biểu diễn sự tương tác từng cặp của tế bào C(i,j)
với các tế bào láng giềng của nó,
- Mỗi tế bào có điều kiện biên và điều kiện ban đầu.