Một số phương pháp điều khiển hệ camera robot bám mục tiêu sử dụng nơ rơn

Hình 1. Mô hình hệ thông điều khiển Rô bốt sử dụng camera
VỂ MỘT PHƯƠNG PHÁP ĐIỂU KHIEN HÊ CAMERA-ROBOT BÁM MỤC
TIÊU sử DỤNG MẠNG NƠ RON
Tóm tắt nôi dung
Báo cáo trình bẩy khả năng ứng dụng mạng nơ ron trong điều khiển hệ thông bao gồm tay máy có gắn camera để quan
sát và bám theo mục tiêu. Phương thức điều khiển dựa trên nguyền lý tuyến tính hoá tín hiệu ảnh phản hồi. Mạng nơ ron
được đưa vào nhằm giảm nhẹ tác động của những thành phẩn ngẫu nhiên, cho phép sử dụng các tham sô'có độ chính xác
hạn chế' vào trong mô hình động học của hệ thông. Mạng nơ ron được xem như là một yếu tô' thích nghi bổ xung vào hệ
thông điều khiển để tăng cường khả năng của chúng.
An application of Neural Networks based visual servoing for hand-eye robot tracking target is introduced in this paper.
The used control method bases input-output feedback linearization technique. The Neural Network is introdeced to
compensate model uncertainties of overall system. It suffers if the parameter values are inaccurate in the model of dynamics,
the presence of image distortions and time varying. Adding the NN controller as adaptive item in the control system is one
effective way to compensate for the ill effects of these uncertainties and in fact it can in some cases be used for parameter
estimation.
1. GIỚI THIỆU MÔ HÌNH HỆ THÔNG ĐlÊÙ KHIEN RÔ BÔT sử DỤNG CAMERA
Công việc sử dụng các hình ảnh thu nhân được bằng camera trong quá trình điều khiển Rô
bốt (visual servoing) là một hướng nghiên cứu đang được quan tâm trong lĩnh vực điều khiển Rô bốt.
Điểm chính yếu của kỹ thuật này là những thông tin hình ảnh nhân được từ camera sẽ là những thông
tin phản ảnh sự quan sát được về hệ thống và môi trường.
Visual servoing là sự tổng hợp kết quả của rất nhiều lĩnh vực khác nhau bao gồm xử lý ảnh
tốc độ cao, động học, động lực học, lý thuyết điều khiển và kỹ thuật tính toán thời gian thực.
Hệ thống điều khiển Rô bốt có camera phổ biến sử dụng hai dạng mô hình sau: o Camera
được đặt trong không gian làm việc © Camera được gắn trên đầu tay nắm Rô bốt (hand-eye Rô
bốt)

Mô hình thứ nhất camera được đặt trong không gian làm việc của Rô bốt, khi đó ảnh của đối
tượng quan sát không phụ thuộc vào chuyển động của Rô bốt.
Mô hình thứ hai camera được gắn ở đầu tay nắm Rô bốt, trong trường hợp này ảnh đối tượng
mà camera thu nhân được phụ thuộc vào chuyển động của Rô bốt.
Phân loại các hệ thống điều khiển visual servoing

Dựa theo tiêu chí khai thác sử dụng hình ảnh thu nhân được từ camera người ta có thể chia
các hệ điều khiển visual servoing thành hai loại như sau:
o Điều khiển trên cơ sở sử dụng những thông tin về vị trí đối tượng trích lọc ra được từ ảnh
(Position_based servoing control). Trong điều khiển position-based, các đặc trưng được trích lọc ra
từ ảnh kết hợp với mô hình hình học của đối tượng (giới hạn trong các đối tựơng là vât rắn) để xác
định vị trí của đối tượng trong hệ trục toạ độ của camera. Còn sai lệch giữa tín hiệu phản hồi vị trí
của mục tiêu và vị trí mong muốn được tính toán trong không gian làm việc (hệ toạ độ Đề các).
© Điều khiển trên cơ sở sử dụng trực tiếp ảnh (Image_based servoing control). Với dạng
điều khiển này, tín hiệu sai lệch được đinh nghĩa và tính toán trực tiếp ngay trong không gian tham số
đặc trưng ảnh.
Trong mỗi loại lại có thể chia thành hai nhóm dựa theo phương pháp điều khiển, một là thực
hiện quá trình điều khiển theo hai phase riêng biệt quan sát và chuyển động (look-and-move), loại thứ
hai là sử dụng điều khiển trực tiếp (direct visual servoing). Nếu hệ thống điều khiển phân cấp chỉ sử
dụng tín hiệu ảnh do camera cung cấp để thiết lâp các giá trị đầu vào cho các bộ điều khiển của từng
khớp và đồng thời sử dụng các vòng phản hồi tại từng khớp để giữ ổn định chuyển động của Rô bốt
thì đó là hệ điều khiển kiểu look- and-move. Ngược lại hệ thống điều khiển trực tiếp loại bỏ hoàn
toàn vòng phản hồi tại từng khớp, bộ điều khiển visual servoing tính toán tín hiệu điều khiển trực tiếp
cho các khớp, nó chỉ sử dụng các tín hiệu phản hồi bằng hình ảnh để giữ ổn định chuyển động của Rô
bốt.
Hình 2a. Cấu trúc điều khiển position-based look-and-move
Hình 2b. Cấu trúc image-based look-and-move
Bên cạnh đó cũng có thể phân loại theo tiêu chí ảnh về mục tiêu quan sát, có hê thống chỉ
quan sát được mục tiêu và một loại quan sát cả mục tiêu và đầu tay năm Rô bốt. Hê thống thứ nhất
gọi là hê end-point-loop (EOL), trong các hê thống này đòi hỏi phải chuẩn hoá quan hê không gian
giữa tay nắm Rô bốt và camera. Ngược lại hê thống sau end- closed-loop (ECL) có thể quan sát cả
đối tượng và đầu tay nắm Rô bốt nên không phụ thuộc vào ánh xạ quan hê không gian giữa tay nắm
Rô bốt và camera.
Đặc trưng ảnh và không gian tham số đặc trưng ảnh
Một bước cần thiết đối với bất kỳ một thuật toán điều khiển áp dụng visual servoing đặc biêt
các hê thống sử dụng image-based là xác đinh đặc trưng ảnh và quan hê của nó đối với mô hình. Đặc

trưng ảnh có thể hiểu là bất kỳ một đặc điểm nào về cấu trúc có thể trích lọc ra từ ảnh bao gồm cả các
tính chất chủ yếu về đặc tính phổ, đặc tính hình học của đối tượng. Với các giá tri thực xuất hiên
trong quá trình đo đạc các đặc trưng ảnh được trích lọc ra từ một hoặc nhiều ảnh liên tiếp cho phép ta
xây dựng không gian tham số đặc trưng ảnh.
Đối với các các vât thể rắn có cấu trúc hình học cố đinh (đó cũng là đối tượng chủ yếu sử
dụng trong kỹ thuât điều khiển Rô bốt) các thông số đặc trưng ảnh thường là toạ độ của các điểm đặc
trưng trên mặt phẳng ảnh [u, v] , khoảng cách giữa các điểm và tham số của các đoạn thẳng trên ảnh
[a, ß] , trong tâm và diên tích (S), Tâp hợp các véc tơ đặc trưng ảnh tạo thành không gian thông số
đặc trưng ảnh ký hiêu % = [u
1
v
l5
a
1
ß
1
S
1
S
2
].
2. sử DỤNG MẠNG NƠ-RGN TRONG ĐIÊU KHIEN HỆ RGBGT-CAMERA
BÁM MỤC TIÊU
Mô tả khái quát hệ thống Robot-camera và bài toán điều khiển camera bám theo đối tượng
bằng sử dụng tín hiệu đạc trưng ảnh
Sơ đồ khối hê thống chỉ ra trên hình 3 trong đó có một camera được gắn ở đầu của tay máy
có m khớp nối, sử dụng để thu nhân hình ảnh của đối tượng quan tâm. Các tham biến X
c
và X
0

mô tả
vi trí và hướng của camera và đối tượng trong không gian thực. Các vectơ ớ, ớ và Ẹ tương ứng là vi
trí góc, vân tốc góc các khớp của tay máy và đặc trưng ảnh chúng có thể đo và thu ảnh bằng camera.
Véc tơ momen điều khiển T = [ T jT
2
. t ]
T
, trong bài toán điều khiển camera bám theo đối tượng bằng
ảnh, được tính toán trên cơ sở sai lêch (e) của đặc trưng ảnh hiên thời ệ
actual
nhân từ camera và đặc
trựng ảnh mong muốn ệ
desired
,
thêm vào đó là các tín hiêu phản hồi trạng thái của các biến trong của robot ớ, ớ nhằm mục đích đưa
camera về vi trí mà tại đó hình ảnh thu nhân được về đối tượng tương đương với hình ảnh mong
muốn.
Hình 2c. Cấu trúc position-based direct visual servoing
Mô hình đông học của Robot
Động học của một robot có m khớp nối được mô tả bằng một hê phương trình vi phân như sau:
T = H (ớ)ớ + h(ớ,ớ) (1)
Trong đó ớ = [ớ
1
ớ
2
ớ
m
]
T
là véc tơ góc của các khớp nối, T = [TjT

2
T
m
]
T
là véc tơ mô men tương ứng
với các khớp. H( ớ ) là ma trân quán tính [m x m] phần tử là các hàm số phụ thuộc vào góc ớ và véc
tơ h (ớ,ớ) là véc tơ đại diên cho lực Coriolis, lực ly tâm và trọng lực phụ thuộc phi tuyến vào góc ớ
vân tốc góc ớ.
Hình 3. Hê thống điều khiển tay máy có gắn camera
f =
(9)
Đặt các biến trạng thái là vector góc 0 và vector vân tốc góc 0 ta có phương trình trạng thái
của robot như sau:
Mô tả trạng thái của hệ thống điều khiển phi tuyến cho camera gắn trên tay máy
Trong báo cáo này trình bày một hê thống điều khiển phi tuyến trên cở sở tuyến tính hoá các
tín hiêu đặc trưng ảnh được phản hồi trực tiếp từ đầu ra trở lại đầu vào, thêm vào đó viêc bù trực
tiếp ảnh hưởng quá trình động học của robot cũng được sử lý có hiêu quả bằng viêc mở rộng thuật
toán tính mô men thực cho các khớp.
Hoạt động của hê thống có thể hình dung như sau: khi camera gắn trên tay robot hướng về
đối tượng và thu nhận được ảnh của đối tượng nếu các khớp của robot thực hiên một phép quay 0
= [0j0
2
0
m
]
T
sẽ làm cho vị trí của vật trên ảnh cũng bị thay đổi theo.
Gọi ệ là véc tơ đặt trưng ảnh của đối tượng được định nghĩa trong không gian ảnh 2 chiều
(2D) có 2n chiều tương ứng n đặc trưng được chọn và d ệ là sự thay đổi vi phân của đặc trưng ảnh

khi vị trí và hướng của camera thực hiên một dịch chuyển vi phân d X
c
, một ma trận được Weiss
đưa ra ( tham khảo thêm tài liêu [1] ) gọi là ma trận Jacobian của đặc trưng ảnh để mô tả mối
quan hê giữa các đại lượng này như sau: ổ# = Jfeature ổ X ' (3)
Để thể hiên sự biến thiên của đặc trưng ảnh theo các biến trong của robot 0 = OO2 0m]
T

ta có công thức sau: dệ = Jfeature Jrobot d 0 (4)
ở đây J
robot
là ma trận Jacobian của robot ta ký hiêu J(ệ,0) = J
feature
J
robot
. Trong bài toán điều khiển
robot bằng hình ảnh (visual servoing) ma trận J(ệ,0) có thể được xác định bằng nhiều phương
pháp khác nhau tham khảo thêm trong tài liêu [2], trong mô hình điều khiển được trình bày trong
bài báo này, đối với từng cấu hình của robot và camera cụ thể thì ma trận J(ệ,0) sẽ được xác đinh
bằng phương pháp giải tích.
Giả thiết rằng ta đã xác định được ma trận J(ệ,0) và ma trận đó không bị suy biến (đủ
hạng) với một đối tượng không chuyển động. Trong trường hợp đó đặc trưng ảnh của
def
VỂ MỘT PHƯƠNG PHÁP ĐIỂU KHIEN hê CAMERA-ROBOT BÁM MỤC
TIÊU sử DỤNG MẠNG NƠ RON
1.GIỚI THIỆU MÔ HÌNH HỆ THÔNG ĐlÊÙ KHIEN rô BÔT sử DỤNG
CAMERA
2.sử DỤNG MẠNG NƠ-RGN TRONG ĐIÊU KHIEN hệ RGBGT-CAMERA
BÁM MỤC TIÊU
4. Kết luận

Tài liệu tham khảo
với:
Lưu ý chúng ta có thể đo được 0,0 cũng như tính được Ẹ từ viêc phân tích ảnh thu nhận được.
" 0 " " 0 ■
- H -
l
h
,
g = H
-1
ế ~ể
ết 0
0
H -\0)
(2)
+ T
- H -\0)h(0,Õ)
Nhằm áp dụng kỹ thụât tuyến tính hóa tín hiệu phản hồi vào mô hình hê thống trên ta thực hiên phép lấy đạo hàm bậc
nhất và bậc hai của đầu ra z nhân được kết quả như sau:
z = GJ0 (10)
def &
Để đơn giản đặt ụ = J0
dụ dụ " e "
Ịẽ~dễ_ H -\-h + T)
z = G
= G
dụ
e + GJH-\-h + T)
de
(11)

Viết lại phương trình (11) theo dạng
z = L + ET
pz + Y = T
L = G^e - GJH-
l
h và E = GJH-
(12)
(13)
(14)
(15)
Hoặc theo dạng:
Trong đó
de
p = H (GJ)
-1
và Y = - H (GJ)
-1
—e + h
de
3. Thiết kế hệ thống điều khiển sử dụng mang nơ ron
Điều khiển robot bằng phương pháp tính mô men được ứng dụng rộng rãi, trong các hê thống điều khiển đó đòi hỏi
các thông số của hê động học cần được xác định chính xác, trong các trường hợp mà các thông số của hê thống xác định
được không đảm bảo đủ độ chính xác cần thiết (hầu hết các hê thống trong thực tế đều rơi vào trưng hợp này) thì phương
pháp trên tỏ ra thiếu tính hiêu quả.
Trong báo cáo đưa ra một sơ đồ điều khiển trong đó mạng nơ ron được đưa vào hê điều khiển nhằm giảm ảnh hưởng
xấu của viêc xác định không chính xác các thông số động học của hê thống và sự méo của ảnh trong quá trình thu của
camera.
Trong những năm gần đây, nhiều nghiên cứu trên thế giới đã được tiến hành xung quanh vấn đề này. Chúng tôi đã
lựa chọn nhưng kết quả được Seul Jung and T.C Hsia công bố trong tài liêu [6], [7], [8] để áp dụng vào mô hình điều
khiển của mình. Sơ đồ hê thống điều khiển được phát triển có ứng dụng mạng nơ ron cho trong hình 4.

V
X.
_z(t - 2)
.z(t -1)
. z ( t )
Mạng
Nơron
ệ
Tay máy
gán Camera
z(t)
<+>
+ n
G
z (t)
J G Kd
Kp
+ Ấ<
ệ(t)
Hình 4. Sơ đồ hệ thống điều khiển tay máy gắn camera có sử dụng mạng nơ ron.
Như đã trình bầy ở trên, các véc tơ z được sử dụng thay thế cho tín hiệu phản hồi của đặc
trưng ảnh. Để có thể tính đựợc mô men T trong sơ đồ ở hình 4 các đại lượng ỳ, Y được xác định
theo công thức (15). Tuy nhiên trong quá trình tính toán ỳ, Y theo công
thức (15) phải sử dụng các giá trị gần đúng H(0) và h(Q,Q) để thay thế cho H ( 0 ) và h(0,0) do
vây cũng sẽ chỉ nhân được các giá trị gần đúng ỳ, Y (Aỳ = ỳ - ỳ và Ay = Y - Y) của ỳ , Y.
Sơ đồ hệ thống điều khiển được mô tả trong hình 4 với tín hiệu điều khiển ũ được xác định
như sau:
VỂ MỘT PHƯƠNG PHÁP ĐIỂU KHIEN hê CAMERA-ROBOT BÁM MỤC
TIÊU sử DỤNG MẠNG NƠ RON 1
1.GIỚI THIỆU MÔ HÌNH HỆ THÔNG ĐlÊÙ KHIEN rô BÔT sử DỤNG

CAMERA 1
2.sử DỤNG MẠNG NƠ-RGN TRONG ĐIÊU KHIEN hệ RGBGT-CAMERA
BÁM MỤC TIÊU 4
4. Kết luận 9
Tài liệu tham khảo 9
Đồng nhất các phương trình (18) và (19)
ỳ(-K z - K
Ớ
Z ) + Y = (ỳ -Aỳ)Z - A ỵ + ỷ
Aỳz + A ỵ = ỳ( z + K
ế
Z + K
p
z )
Rút ra được phương trình đặc trựng của hệ kín như sau:
V = ( z + K
ễ
z + K
p
z ) = ỳ (Aỳz + A ỵ ) (20)
Trong trường hợp xác định được chính xác các tham số của hệ thống nghĩa là Aỳ = 0 và
Aỵ = 0
z + K
ế
z + K
p
z = 0 (21)
Như vây sẽ đảm bảo cho hệ thống ổn đinh tại điểm (z, z) = (0,0) hoặc Ẹ = ệ
d
thông qua

việc lựa chọn các ma trân hệ số K
d
, K .
Như đã trình bầy ở trên mạng nơ ron được đưa vào để bù cho những tham số của hệ thống
xác đinh không chính xác. Mạng nơ ron sử dụng là mạng truyền thẳng (feedforwork neural
network) có cấu trúc hai lớp, lớp ẩn (hidden layer) và lớp đầu ra (output layer) với đầu vào là 3
vectơ z tại các thời điểm z(t), z (t-1. A T), z (t-2. A T) và chu kỳ trễ (delay-time step A T) là chu
kỳ lấy mẫu của thông tin ảnh hồi tiếp. Các nơ-ron ở lớp ẩn có hàm kích hoạt là “sigmoid”
(sigmoid activated function). Đầu ra của mạng ệ = [ệ
Ả
ệ
2
ệ
m
]
T
có số nơ
ron tương ứng số khớp nối của robot và hàm kích hoạt là tuyến tính.
Sau khi đã bổ xung mạng nơ ron thì mô men tại các khớp nối được tính như sau:
Tnew (t) = ỳ (Ỡ) ( ũ + ệ ) + ự ( 0 , 0 ) (22)
thực hiện các bước biến đổi như trong (18), (19), (20) và (21) nhân được sai số của vòng kín là:
V = z + K
ễ
z + K
P
z = ỳ ■
1
( A ỳ 0 + A ự ) - ệ (23)
Mục đích của việc bổ xung mạng nơ ron là nhằm giảm sai số vvề không. Do vây V được xem
như là chính sai số của đầu ra mạng nơ ron và được sử dụng để huấn luyện mạng. Giá trị lý tưởng

của ệ là tại V = 0 và là: ệ = ỳ
-1
( A ỳ 0 + A ự ).
Để chứng minh cho nhân xét trên, quá trình huấn luyên mạng là nhằm tối thiểu hóa hàm sai số V ,
đặt hàm mục tiêu E
E =
1
v
T
v (24)
2
Lấy đạo hàm của hàm số E theo các trọng ( w ) của mạng ta được:
dE dv
T
dộ
T
— = —— v = -^— v (25)
ổw ổw ổw
vì thực tế theo (23) thì £^1
= -
ẼỂ—. Thuật học lan truyền ngược (back-propagation) được sử
dw dw
dụng để cập nhật các giá trị trọng mới, thuật học được cải tiến bằng việc bổ xung thêm một thành
phần gọi là momentum được dẫn ra trong công thức (26).
Aw(t) = -n — v + aAw(t -1) (26)
dw
Với n là tốc độ cập nhật trọng và a là hệ số của thành phần momentum.
4. Kết luận
Những nghiên cứu cho thấy việc áp dụng phương pháp tính mô men trong điều khiển robot
có sử dụng trực tiếp các thông tin ảnh phản hồi là thực hiện được và có ý nghĩa thực tế. Việc đưa

thêm mạng nơ ron như là một yếu tố thích nghi nhằm bù nhưng sai lệch do việc không xác định
được chính xác các tham số của hệ thống là hoàn toàn phù hợp.
Các chương trình mô phỏng trên MATLAB được tiến hành với camera gắng trên tay máy hai
bậc tự do (2 DOF) có các thám số động lực học được xác định gần đúng trong khoảng 80% giá
trị danh định và đối tượng quan sát được đặt trên một mặt phẳng trực giao với trục quang học của
camera. Các kết quả nhận được đã cho thấy khả năng ứng dụng các phương pháp tuyến tính hoá
tín hiệu ảnh phản hồi nói trên và tác dụng của mạng nơ ron được bổ xung vào hệ thống điều
khiển.
Tài liệu tham khảo
[1] . A. C. Sanderson, L. E. Weiss, and C. P. Neuman. Dynamic sensor-based
control of robots with visual feedback, IEEE Trans.Robot.Autom, vol. RA-3, pp.404-417,
Oct. 1987.
[2] . Seth Hutchinson, gregory D. Hager, and Peter I. Corke. A Tutorial on
Visual Servo Control, IEEE Transactions on Robotics and Automation, 12(5) October 1996.
[3] . Martin Jọgersand and Randal Nelson. On-line Estimation of Visual-Motor
Models using Active Vision, In Proc. ARPA Image Understanding Workshop 96,1996.
[4] . Koichi Hashimoto and Hidenori Kimura. LQ Optimal and Nonlinear
Approaches to Visual servoing
[5] . K. Hashimoto, T. Ebine, and H. Kimura. Visual Servoing with Hand-Eye
Manipulato -
Optimal Control Approach, IEEE Trans. Robot. Autom. 1996
[6] . Seul Jung and T.C Hsia, A Study on Neural Network Control of Robot
Manipulators
[7] . Seul Jung and T.C Hsia, On-line Neural Network Control of Robot
Manipulators, International Conference on Neural Information Processing, vol. 3, 1663-
1668, 1994.
[8] . Seul Jung and T.C Hsia. A New Neural Network Control Technique for Robot
Manipulator, Robotica, vol.13, pp 477-484,1995
[9] . Bùi Trọng Tuyên and Phạm Thượng Cát. Pose-estimation of object in 3D
virtual space using an image received by camera applying to Robot-visual Servo Control,

Journal of Science and Technique, Military Technical Academy of Vietnam, pp 31-42, No.
97 (IV-2001).
[10] . Somlo - B.Lantos - P.T.Cat. Advanced Robot Control,
Akadémia Kiadó, Budapest, 1997.