Tải bản đầy đủ (.pdf) (159 trang)

Xây dựng chương trình chuyển đổi cây cú pháp trong hệ dịch tự động Anh-Việt

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (1.12 MB, 159 trang )




TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
KHOA CÔNG NGHỆ THÔNG TIN
BỘ MÔN CÔNG NGHỆ TRI THỨC
^

]


NGUYỄN LƯU THÙY NGÂN - 9912621
ĐỖ XUÂN QUANG - 9912652


XÂY DỰNG CHƯƠNG TRÌNH
CHUYỂN ĐỔI CÂY CÚ PHÁP TRONG
HỆ DỊCH TỰ ĐỘNG ANH - VIỆT

LUẬN VĂN CỬ NHÂN TIN HỌC




GIÁO VIÊN HƯỚNG DẪN
TS. ĐINH ĐIỀN







NIÊN KHÓA 1999-2003
Luận văn tốt nghiệp
Trang
2

L
L


i
i


c
c


m
m


t
t







Lời đầu tiên chúng em xin chân thành cảm ơn thầy Đinh
Điền, người đã trực tiếp hướng dẫn chúng em hoàn thành luận văn
này. Thầy là người đã truyền thụ cho chúng em rất nhiều kiến thức
về tin học và ngôn ngữ học, giúp chúng em có được hiểu biết sâu
hơn về một trong các ứng dụng có ý nghĩa vô cùng to lớn trong
cuộc sống của tin học – vấn đề dịch máy.
Chúng em cũng xin chân thành cảm ơn các thầy cô trong
khoa Công nghệ thông tin đã tận tình chỉ bảo và giúp đỡ cho
chúng em trong suốt thời gian chúng em học đại học và trong quá
trình chúng em thực hiện luận văn.
Chúng con xin chân thành cảm ơn ba mẹ, các anh và những
người thân trong gia đình đã nuôi dạy, tạo mọi điều kiện tốt nhất
cho chúng con học tập và động viên chúng con trong thời gian
thực hiện luận văn.
Và cuối cùng, chúng tôi xin gởi lời cảm ơn đến tất cả bạn bè
và nhất là các bạn trong nhóm VCL (Vietnamese Computational
Linguistics), những người đã hỗ trợ chúng tôi trong quá trình
chúng tôi hoàn thiện luận văn này.

Tp. Hồ Chí Minh, tháng 07 năm 2003

Nguyễn Lưu Thùy Ngân - 9912621
Đỗ Xuân Quang - 9912652


Luận văn tốt nghiệp
Trang 3


N

N
H
H


N
N


X
X
É
É
T
T


C
C


A
A


G
G
I
I
Á

Á
O
O


V
V
I
I
Ê
Ê
N
N


H
H
Ư
Ư


N
N
G
G


D
D



N
N



. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Tp. Hồ Chí Minh, tháng 07 năm 2003



TS. Đinh Điền
Luận văn tốt nghiệp
Trang 4


N

N
H
H


N
N


X
X
É
É
T
T


C
C


A
A


G
G
I
I
Á

Á
O
O


V
V
I
I
Ê
Ê
N
N


P
P
H
H


N
N


B
B
I
I



N
N



. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Tp. Hồ Chí Minh, tháng 07 năm 2003
Giáo viên phản biện
Luận văn tốt nghiệp
Trang 5

L
L


i
i



n
n
ó
ó
i
i


đ
đ


u
u


Cho đến nay, sau hơn 50 năm phát triển, dịch máy chứng tỏ là một ứng dụng
vô cùng thiết thực, đồng thời cũng là một bài toán khá hóc búa đặt ra cho các nhà
khoa học trên toàn thế giới. Từ đầu thập niên 1960, các nhà khoa học đã đúc kết lại
ba chiến lược dịch máy cơ bản, đó là dịch trực tiếp, dịch thông qua ngôn ngữ trung
gian và dịch dựa trên chuyển đổi. Và qua thực tế, chiến lược dịch dựa trên chuyển
đổi đã khẳng định được tính hiệu quả và tiềm năng của nó, và đây cũng là cách tiếp
cận mà chúng em đã và đang theo đuổi để xây dựng một hệ dịch tự động từ tiếng
Anh sang tiếng Việt.
Trong hệ dịch dựa trên sự chuyển đổi, khối chuyển đổi cây cú pháp (cấu trúc)
giữ một vai trò quan trọng, quyết định chất lượng hệ dịch. Vì lý do đó, chúng em đã
quyết định chọn “Xây dựng chương trình chuyển đổi cây cú pháp trong hệ dịch
Anh-Việt” làm đề tài luận văn tốt nghiệp cử nhân của mình. Khối chuyển đổi cây cú

pháp đảm nhiệm việc thay đổi trật tự, chèn, xoá các thành phần trong cây cú pháp
của câu tiếng Anh sao cho sau khi hoàn tất việc gắn nghĩa, ta sẽ thu được câu tiếng
Việt có trật tự từ hợp lý.
Luận văn được tổ chức thành các phần chính sau:

Chương 1: Giới thiệu tầm quan trọng, mục tiêu, phạm vi của đề tài, cơ sở
lý thuyết ngôn ngữ học, tin học và hướng tiếp cận vấn đề.

Chương 2: Điểm qua các cách tiếp cận chuyển đổi cấu trúc.

Chương 3: Thuật toán nền tảng, mô hình học và mô hình áp dụng chuyển
đổi cây cú pháp.

Chương 4: Thiết kế – Cài đặt

Chương 5: Thử nghiệm – đánh giá

Chương 6: Kết quả – Kết luận – Hướng phát triển

Phần phụ lục. Tài liệu tham khảo.
Luận văn tốt nghiệp
Trang 6

M
M


c
c



l
l


c
c


L
L


i
i


n
n
ó
ó
i
i


đ
đ


u

u.......................................................................................................5

M
M


c
c


l
l


c
c.............................................................................................................6

Danh sách các hình .......................................................................................11

Danh sách các bảng.......................................................................................13

C
C
h
h
ư
ư
ơ
ơ
n

n
g
g


1
1........................................................................................................14

TỔNG QUAN VỀ CHUYỂN ĐỔI CÂY CÚ PHÁP......................................14

1.1

Đặt vấn đề.......................................................................................14

1.2

Các chiến lược dịch máy................................................................16

1.1.1

Chiến lược dịch trực tiếp.......................................................................16

1.1.2

Chiến lược dịch dựa trên ngôn ngữ trung gian .....................................17

1.1.3

Chiến lược dịch dựa trên sự chuyển đổi ...............................................18


1.2

Vai trò của chuyển đổi cây cú pháp trong cách tiếp cận dựa trên
chuyển đổi..................................................................................................20

1.3

Cơ sở lý thuyết................................................................................22

1.3.1

Cơ sở lý thuyết ngôn ngữ học của việc chuyển đổi ..............................23

1.3.2

Cơ sở lý thuyết tin học - Hướng tiếp cận vấn đề ..................................33

C
C
h
h
ư
ư
ơ
ơ
n
n
g
g



2
2........................................................................................................35

CÁC HƯỚNG TIẾP CẬN CHUYỂN ĐỔI CẤU TRÚC TRONG DỊCH
MÁY................................................................................................................35

2.1

Hướng tiếp cận dựa trên luật cố định ..........................................35

2.1.1

Cơ chế chuyển đổi của cách tiếp cận dựa trên luật cố định ..................35

2.1.2

Nhận xét ................................................................................................38

Luận văn tốt nghiệp
Trang 7

2.2

Hướng tiếp cận sử dụng case-frame.............................................39

2.2.1

Chuyển đổi các thông tin cấp độ câu ....................................................40


2.2.2

Chuyển đổi ngữ động từ........................................................................41

2.2.3

Sự chuyển đổi của định ngữ, bổ ngữ.....................................................42

2.2.4

Tự điển chuyển đổi................................................................................43

2.2.5

Nhận xét ................................................................................................44

2.3

Hướng tiếp cận sử dụng TAG đồng bộ (STAG)..........................44

2.3.1

Văn phạm TAG.....................................................................................45

2.3.2

TAG đồng bộ (STAG) ..........................................................................49

2.3.3


Nhận xét ................................................................................................52

2.4

Cách tiếp cận phân tích ngữ pháp song song ..............................53

2.4.1

Ngữ pháp chuyển dịch đảo có thống kê (SITG) ...................................53

2.4.2

Thuật toán phân tích cú pháp song song với SITG...............................55

2.4.3

Đánh nhãn cấu trúc................................................................................58

2.4.4

Chuyển đổi cây cú pháp song song cho cả hai ngôn ngữ .....................58

2.4.5

Nhận xét ................................................................................................59

2.5

Cách tiếp cận dựa trên cấu trúc vị từ - đối số .............................60


2.5.1

Rút trích các cấu trúc vị từ - đối số .......................................................60

2.5.2

Khối chuyển đổi cấu trúc ......................................................................62

2.5.3

Nhận xét ................................................................................................64

2.6

Tổng kết chương ............................................................................65

C
C
h
h
ư
ư
ơ
ơ
n
n
g
g



3
3........................................................................................................66

MÔ HÌNH CHUYỂN ĐỔI CÂY CÚ PHÁP .................................................66

3.1

Phương pháp học hướng lỗi dựa trên sự chuyển trạng thái ......66

3.1.1

Ý tưởng .................................................................................................66

3.1.2

Thuật toán học TBL của Eric Brill........................................................68

3.1.3

Nhận xét ................................................................................................70

Luận văn tốt nghiệp
Trang 8

3.2

Thuật toán học nhanh FnTBL......................................................71

3.2.1


Hình thức hóa TBL ...............................................................................72

3.2.2

Thuật toán FnTBL.................................................................................73

3.3

Mô hình chuyển đổi cây cú pháp sử dụng thuật toán FnTBL ...78

3.3.1

Mô hình áp dụng chuyển đổi cây cú pháp ............................................80

3.3.2

Mô hình học luật chuyển đổi bằng phương pháp học FnTBL..............82

3.4

Nâng cao khả năng mở rộng cho mô hình học ............................95

C
C
h
h
ư
ư
ơ
ơ

n
n
g
g


4
4........................................................................................................97

CÀI ĐẶT CHƯƠNG TRÌNH ........................................................................97

4.1

Thiết kế ...........................................................................................97

4.1.1

Mô hình tổng thể ...................................................................................97

4.2

Thuật toán gán nhãn cơ sở cho ngữ liệu ......................................99

4.2.1

Thuật toán..............................................................................................99

4.2.2

Xây dựng cây cú pháp...........................................................................99


4.2.3

Xây dựng cây quan hệ.........................................................................103

4.2.4

Thuật toán chuyển đổi theo nguyên tắc ..............................................105

4.3

Học chuyển đổi cùng cấp.............................................................106

4.3.1

Xây dựng ngữ liệu học........................................................................106

4.3.2

Xây dựng khung luật cho bộ học chuyển đổi cùng cấp ......................108

4.3.3

Sơ đồ lớp của chương trình học ..........................................................114

4.3.4

Xây dựng bộ luật (giai đoạn học cùng cấp) ........................................114

4.3.5


Áp dụng bộ luật chuyển đổi cùng cấp.................................................116

4.4

Học chuyển đổi khác cấp.............................................................117

4.4.1

Xây dựng ngữ liệu học........................................................................117

4.4.2

Xây dựng khung luật cho quá trình học chuyển đổi khác cấp ............120

4.4.3

Sơ đồ lớp của chương trình học ..........................................................125

4.4.4

Xây dựng bộ luật (giai đoạn học khác cấp) ........................................125

Luận văn tốt nghiệp
Trang 9

4.4.5

Áp dụng bộ luật chuyển đổi khác cấp.................................................127


C
C
h
h
ư
ư
ơ
ơ
n
n
g
g


5
5......................................................................................................128

THỬ NGHIỆM – ĐÁNH GIÁ ....................................................................128

5.1

Thử nghiệm...................................................................................128

5.1.1

Độ đo sử dụng .....................................................................................128

5.1.2

Kết quả học rút luật chuyển đổi ..........................................................129


5.1.3

Một số kết quả chuyển đổi ..................................................................131

5.2

Đánh giá........................................................................................134

5.2.1

Ngữ liệu thử nghiệm ...........................................................................134

5.2.2

Nhận xét ..............................................................................................135

C
C
h
h
ư
ư
ơ
ơ
n
n
g
g



6
6......................................................................................................137

TỔNG KẾT ..................................................................................................137

6.1

Kết quả..........................................................................................137

6.2

Hướng phát triển..........................................................................137

6.3

Kết luận.........................................................................................138

PHỤ LỤC 1..................................................................................................139

KHUNG LUẬT VÀ MỘT SỐ LUẬT CÙNG CẤP......................................139

PHỤ LỤC 2..................................................................................................141

KHUNG LUẬT VÀ MỘT SỐ LUẬT KHÁC CẤP......................................141

PHỤ LỤC 3..................................................................................................142

MỘT SỐ KẾT QUẢ DỊCH SỬ DỤNG KHỐI CHUYỂN ĐỔI CÂY CÚ
PHÁP VCLTRANSFER..............................................................................142


PHỤ LỤC 4..................................................................................................147

MỘT SỐ CÂU DỊCH CỦA HAI HỆ DỊCH ...............................................147

PHỤ LỤC 5..................................................................................................153

HỆ THỐNG NHÃN NGỮ PHÁP ...............................................................153

Luận văn tốt nghiệp
Trang 10

PHỤ LỤC 6..................................................................................................156

CÁC NHÃN QUAN HỆ NGỮ PHÁP .........................................................156

TÀI LIỆU THAM KHẢO............................................................................157

Luận văn tốt nghiệp
Trang 11

Danh sách các hình
Hình 1: Mô hình dịch trực tiếp .................................................................................. 16

Hình 2: Mô hình dịch dựa trên ngôn ngữ trung gian................................................. 17

Hình 3: Mô hình dịch dựa trên sự chuyển đổi........................................................... 18

Hình 4: Hình tháp minh họa các chiến lược dịch máy.............................................. 20


Hình 5: Cây cú pháp của câu “I have already read that interesting book.” .............. 21

Hình 6: So sánh trật tự định ngữ tiếng Anh và tiếng Việt ........................................26

Hình 7: Áp dụng luật cố định để thực hiện việc chuyển đổi cấu trúc....................... 36

Hình 8: Trường hợp chuyển đổi khác cấp luật cố định không thể thực hiện được...37

Hình 9: Khả năng chuyển đổi cú pháp của luật cố định............................................ 38

Hình 10: Giản đồ cây khởi tạo và cây phụ trợ của TAG........................................... 46

Hình 11: Tác tố kết hợp ............................................................................................. 47

Hình 12: Tác tố thay thế............................................................................................. 48

Hình 13: Một số mẫu cây sơ cấp trong tự điển chuyển đổi cây Anh-Pháp ..............50

Hình 14: Cây phân tích ngữ pháp chuyển dịch đảo.. ................................................55

Hình 15: Chuyển đổi khung giữa các ngôn ngữ........................................................ 63

Hình 16: Sơ đồ phương pháp học TBL tổng quát ..................................................... 70

Hình 17: Một ví dụ minh hoạ chuyển đổi cây cú pháp ............................................ 79

Hình 18: Mô hình áp dụng chuyển đổi cây cú pháp.................................................. 81

Hình 19: Mô hình học luật chuyển đổi cây cú pháp theo thuật toán FnTBL............ 82


Hình 20: Ví dụ về các quan hệ ngữ pháp trong ngữ.................................................. 85

Luận văn tốt nghiệp
Trang 12

Hình 21: Xây dựng ngữ tiếng Việt từ các quan hệ ngữ pháp....................................86

Hình 22: Lưu đồ thuật toán gán nhãn chuyển đổi cơ sở cho ngữ liệu ...................... 87

Hình 23: Lưu đồ thuật toán học luật chuyển đổi cùng cấp – FnTBL ................. 90

Hình 24: Lưu đồ học luật chuyển đổi khác cấp (FnTBL) ......................................... 94

Hình 25: Mô hình tổng thể của quá trình học luật chuyển đổi Anh-Việt ................. 97

Hình 26: Kết quả phân tích cú pháp: “Last week, I saw a very interesting film.”..100

Hình 27: Cây quan hệ của câu “Last week, I saw a very interesting film.”............104

Hình 28: Cây tiếng Anh đã chuyển đổi các thành phần đúng với tiếng Việt..........107

Hình 29: Cây cú pháp của câu “What is a computer ?” ..........................................111

Hình 30: Cây cú pháp của
(
(
E
E
)
)


sau khi được áp dụng luật
R
R................................... 113

Hình 31: Sơ đồ lớp khối học luật chuyển đổi cùng cấp .......................................... 114

Hình 32: Mô hình áp dụng tập luật chuyển đổi cùng cấp ....................................... 116

Hình 33: Cây cú pháp của câu tiếng Anh “It is a good type of book.”................... 118

Hình 34: Một cây cú pháp tiếng Anh sau khi chuyển sang cấu trúc tiếng Việt......119

Hình 35: Một phần cây cú pháp với đường đi của thành phần [ADVP] .................123

Hình 36: Sơ đồ lớp khối học luật chuyển đổi khác cấp........................................... 125

Hình 37: Mô hình áp dụng tập luật chuyển đổi khác cấp........................................127

Hình 38: Đánh giá tập luật học chuyển đổi cùng cấp..............................................130

Hình 39: Đánh giá tập luật học chuyển đổi khác cấp .............................................131



Luận văn tốt nghiệp
Trang 13

Danh sách các bảng
Bảng 1: Trật tự các thành phần trong ngữ danh từ tiếng Anh...................................27


Bảng 2: Trật tự các thành phần trong ngữ danh từ tiếng Việt...................................28

Bảng 3: Danh sách 23 cấu trúc vị từ - đối số trong tiếng Hoa .................................. 61

Bảng 4: Một số quan hệ ngữ pháp được ánh xạ cùng các ngoại lệ ..........................84

Bảng 5: Các quan hệ trong câu tiếng Anh............................................................... 103

Bảng 6: Ý nghĩa các ký hiệu dùng trong mô tả ngữ liệu học giai đoạn 1............... 108

Bảng 7: Các thành phần trong khung luật học bước 1 ............................................109

Bảng 8: Các khung luật dùng trong học luật chuyển đổi cùng cấp......................... 109

Bảng 9: Ý nghĩa các khuôn mẫu trong khung luật.................................................. 110

Bảng 10: Các đặc trưng ngôn ngữ của các mẫu rút ra từ cây cú pháp tiếng Anh... 112

Bảng 11: Các thành phần trong khung luật học chuyển đổi khác cấp .................... 120

Bảng 12: Các khung luật dùng trong học luật chuyển đổi khác cấp.......................121

Bảng 13: Ý nghĩa các thành phần trong khung luật bước 2.................................... 122

Bảng 14: Một phần cây cú pháp minh hoạ việc đánh ID tương đối cho route....... 123

Bảng 15: Tóm tắt kết quả học luật chuyển đổi cùng cấp ........................................ 130

Bảng 16: Tóm tắt kết quả học luật chuyển đổi cùng cấp ........................................ 131


Bảng 17: Kết quả thử nghiệm việc áp dụng chuyển đổi cây cú pháp..................... 135

Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 14

C
C
h
h
ư
ư
ơ
ơ
n
n
g
g


1
1


TỔNG QUAN VỀ CHUYỂN ĐỔI CÂY
CÚ PHÁP
Chương này giới thiệu về đề tài luận văn - mục đích và phạm vi thực hiện.
Phần 2 của chương trình bày một cách tổng quát về chuyển đổi cây cú pháp: vai trò,
vị trí của khối chuyển đổi cây cú pháp trong hệ dịch Anh-Việt. Ngoài ra, những
khái niệm then chốt liên quan đến đề tài, cũng như các cơ sở về lý thuyết ngôn ngữ

học và tin học, là nền tảng để chúng em thực hiện luận văn, cũng lần lượt được nêu
rõ trong phần 3 của chương.
1.1 Đặt vấn đề
Chế tạo ra một loại máy có khả năng dịch tự động để giúp cho con người vượt
qua rào cản ngôn ngữ là một mơ ước của loài người đã có từ thế kỷ XVII, rất lâu
trước khi máy tính điện tử ra đời. Và chẳng bao lâu sau khi máy tính điện tử đầu
tiên ra đời, bên cạnh những ứng dụng tính toán trong lĩnh vực toán học và vật lý,
người ta đã nghĩ ngay đến việc sử dụng “bộ não máy tính” cho những ứng dụng
không liên quan đến số, trong đó có vấn đề dịch tự động. Lần đầu tiên, việc sử dụng
máy tính điện tử để dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác được đề cập
đến trong những cuộc thảo luận giữa Andrew D. Booth và Warren Weaver vào năm
1946. Vượt qua nhiều trở ngại về lý thuyết và công nghệ, Booth và các cộng sự của
ông đã cho ra mắt “hệ dịch dựa trên tự điển” đầu tiên tại hội nghị của MIT vào năm
1952.
Từ bước khởi đầu đó, dịch máy đã ngày càng thu hút được sự quan tâm nghiên
cứu của nhiều nhà khoa học máy tính, nhiều nhà ngôn ngữ học,... và được cộng
đồng thế giới thừa nhận hiệu quả to lớn của nó. Dịch máy không những giúp cho
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 15

việc dịch các tài liệu, dịch các trang Web nhanh chóng và ít tốn công sức hơn, việc
giao lưu trao đổi văn hoá giữa các nước dễ dàng hơn, mà còn có ý nghĩa trong việc
bảo mật cho tài liệu quan trọng cần dịch thuật.
Tuy vậy, để có được một hệ dịch tự động cho kết quả dịch tốt là cả một quá
trình nghiên cứu và xây dựng cực kỳ phức tạp, phụ thuộc rất nhiều vào các ngôn
ngữ cần dịch. Điều này khiến cho dịch máy đã từng lâm vào một thời kỳ “khủng
hoảng” về phương pháp xây dựng một hệ dịch. Từ năm 1960, sau một thập kỷ ra
đời, dịch máy đã có nhiều chiến lược, phương pháp rõ ràng hơn cũng như mục tiêu
của hệ dịch máy được đặt ra sát với thực tế hơn. Người ta nhận thấy rằng tham vọng
xây dựng được một hệ dịch tự động có khả năng dịch tất cả mọi câu của một ngôn

ngữ tự nhiên là điều không tưởng, mục tiêu hệ dịch phải thu gọn lại trong một lĩnh
vực hẹp để hạn chế bớt tính nhập nhằng của ngôn ngữ.
Có 3 chiến lược dịch máy, đó là :

Dịch trực tiếp

Dịch dựa trên ngôn ngữ trung gian

Dịch dựa trên chuyển đổi
Cho đến nay, các hệ dịch dựa trên chuyển đổi được đánh giá cao vì tính khả
thi của nó. Tùy thuộc vào hai ngôn ngữ cần dịch mà hệ thống có thể thiết kế các
khối phân tích, chuyển đổi, tái tạo với độ phức tạp thích hợp. Một số hệ dịch dựa
trên chuyển đổi tiêu biểu như, hệ dịch Anh-Pháp METEO được xây dựng bởi đại
học Montreal - TAUM, được đưa vào sử dụng để dịch các bản tin dự báo thời tiết;
hệ dịch GETA (Đại học Grenoble, 1971-),...
Trong các hệ dịch dựa trên chuyển đổi, bước chuyển đổi là bước quan trọng
nhất, giữ vai trò quyết định chất lượng hệ dịch. Chuyển đổi này bao gồm hai phần
chuyển đổi chính, đó là chuyển đổi từ vựng và chuyển đổi cấu trúc. Chuyển đổi từ
vựng là quá trình chọn nghĩa đúng cho các từ ở ngôn ngữ nguồn thể hiện sang từ
tương ứng của ngôn ngữ đích. Còn chuyển đổi cấu trúc là quá trình sắp xếp lại,
thêm bớt, thay thế các thành phần cấu trúc của câu ở ngôn ngữ nguồn để có được
cấu trúc tương ứng ở ngôn ngữ đích.
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 16

Trong luận văn này, chúng em tìm hiểu và xây dựng chương trình chuyển đổi
cây cú pháp Anh-Việt, đóng vai trò là một khối chuyển đổi cấu trúc trong hệ dịch tự
động Anh-Việt dựa trên sự chuyển đổi. Như đã trình bày ở phần trên, việc thực hiện
một chương trình có khả năng bao quát tất cả các cấu trúc chuyển đổi có thể có là
một vấn đề không tưởng trong xử lý ngôn ngữ tự nhiên. Do đó, chúng em giới hạn

đề tài chuyển đổi cây cú pháp này ở các văn bản thuộc lĩnh vực khoa học kỹ thuật.
Kết quả của chương trình chuyển đổi cây cú pháp Anh - Việt thể hiện gián tiếp
qua trật tự từ trong câu tiếng Việt được dịch ra (không quan tâm đến nghĩa của từ
chọn có thực sự chính xác hay không).
Trong phần tiếp theo, chúng em trình bày tóm tắt về ba chiến lược dịch máy
để chúng ta có thể có một cái nhìn bao quát hơn về hệ dịch dựa trên sự chuyển đổi,
thấy được các ưu điểm của nó so với hai chiến dịch còn lại.
1.2 Các chiến lược dịch máy
1.1.1 Chiến lược dịch trực tiếp
Chiến lược này có cách tiếp cận dịch máy đơn giản nhất. Thiết kế của hệ xử
lý các hệ thống này rất đơn giản, bao gồm 3 khối chính :

Phân tích hình thái : đảm nhận việc đưa từ trong ngôn ngữ nguồn về dạng
gốc của nó để có thể thực hiện việc tra tự điển.

Tra từ điển song ngữ: xác định từ tương ứng từ gốc trong ngôn ngữ đích.

Sắp xếp trật tự từ đơn giản : quá trình này thường dựa trên những qui luật
cố định và đơn giản vì ta không thể xây dựng luật xử lý trật tự phức tạp
hơn nếu không có những phân tích ngôn ngữ nguồn cần thiết.

Hình 1: Mô hình dịch trực tiếp
Văn bản
nguồn
Phân tích
hình thái
Tra từ điển
song ngữ
Sắp xếp
trật tự đơn

giản
Văn bản
kết quả
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 17

Các hệ dịch này hạn chế tối đa các bước phân tích cần thiết để giải quyết nhập
nhằng, cũng như đơn giản hoá cả việc xác định các thành phần tương ứng ở ngôn
ngữ đích thông qua tự điển lẫn xác định trật tự đúng của các từ trong ngôn ngữ đích.
Giữa khối phân tích và tái tạo câu không có bất kỳ bước trung gian nào. Các từ
trong văn bản nguồn chỉ qua một bước phân tích hình thái duy nhất. Cách làm này
chỉ phù hợp khi ngôn ngữ nguồn và đích có rất nhiều điểm giống nhau như tiếng
Anh và tiếng Tây Ban Nha, không phù hợp với phần lớn ngôn ngữ khác.
1.1.2 Chiến lược dịch dựa trên ngôn ngữ trung gian
Trong chiến lược này, ngữ nghĩa của văn bản ngôn ngữ nguồn được biểu diễn
lại theo một ngôn ngữ trung gian, và văn bản ngôn ngữ đích cũng được phát sinh từ
ngôn ngữ trung gian này. Do đó, chỉ có duy nhất một cách biểu diễn cho một đơn vị
ngữ nghĩa, bất kể ngôn ngữ gốc của nó là gì.

Hình 2: Mô hình dịch dựa trên ngôn ngữ trung gian
Xử lý trong hệ thống dựa trên ngôn ngữ trung gian bao gồm hai bước quan
trọng, đó là :

Phân tích văn bản nguồn để biểu diễn lại dưới dạng thức của một ngôn ngữ
trung gian.

Sử dụng những đơn vị ngữ nghĩa và cấu trúc cú pháp của ngôn ngữ đích để
phát sinh văn bản kết quả từ cách biểu diễn theo dạng ngôn ngữ trung gian.
Ngôn ngữ trung gian được sử dụng trong những hệ dịch như vậy đòi hỏi phải
đủ phong phú để biểu diễn được tất cả các đơn vị từ vựng và cú pháp của các ngôn

ngữ liên quan trong quá trình dịch. Do đó, việc tự định nghĩa hay tìm kiếm một
Văn bản
nguồn
Phân tích
Ngôn ngữ
trung gian
Phát sinh
Văn bản
kết quả
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 18

ngôn ngữ trung gian thoả điều kiện là điều cực kỳ khó khăn. Hơn nữa, tất cả những
thông tin cần thiết trong bước tái tạo phải nằm trong ngôn ngữ trung gian này.
1.1.3 Chiến lược dịch dựa trên sự chuyển đổi

Hình 3: Mô hình dịch dựa trên sự chuyển đổi
Chiến lược này chia quá trình dịch thành 3 giai đoạn

Phân tích

Chuyển đổi

Phát sinh
Chiến lược dịch dựa trên chuyển đổi phân tích và biểu diễn lại câu ngôn ở ngữ
nguồn theo một dạng thức trung gian thích hợp cho việc chuyển đổi. Khối phát sinh
câu sẽ nhận dạng thức trung gian của ngôn ngữ đích và tạo câu ở ngôn ngữ đích. Sự
chuyển đổi giữa hai dạng thức trung gian được thực hiện nhờ khối chuyển đổi, khối
này sử dụng những tự điển chuyển đổi chứa các tương quan từ vựng giữa hai ngôn
ngữ nguồn và đích và một tập hợp các luật chuyển đổi.

Văn bản nguồn
Biểu diễn trung gian của
ngôn ngữ nguồn
Văn bản kết quả
Ngữ pháp ngôn
ngữ nguồn / Tự
điển
Luật chuyển đổi /
Tự điển
Biểu diễn trung gian của
ngôn ngữ đích
Ngữ pháp ngôn
ngữ đích / Tự điển
PHÂN TÍCH
CHUYỂN ĐỔI
PHÁT SINH
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 19

Quá trình phân tích có thể được thực hiện ở nhiều cấp độ khác nhau tùy thuộc
vào hai ngôn ngữ, chẳng hạn như phân tích hình thái, cấu trúc, ngữ nghĩa,... Các cấp
độ phân tích khác nhau dẫn đến nhiều cấp độ của dạng thức trung gian. Những dạng
thức này chứa các thành phần từ vựng nguồn và đích, phản ánh cấu trúc của hai
ngôn ngữ. Có nhiều loại biểu diễn khác nhau được sử dụng trong các hệ dịch dựa
trên sự chuyển đổi như: cây phụ thuộc, cấu trúc ngữ, ...
Chiến lược dịch máy dựa trên chuyển đổi có nhiều ưu điểm. Trước hết, tính
tương đồng giữa ngôn ngữ nguồn và đích càng cao thì bước chuyển đổi càng đơn
giản. Tương tự, giai đoạn phân tích và phát sinh cũng sẽ đơn giản hơn so với các hệ
dịch dựa trên ngôn ngữ trung gian.
Trong ba chiến lược nói trên thì chiến lược dựa trên sự chuyển đổi được quan

tâm nhiều nhất vì tính khả thi cao và rất linh động. Bằng chứng là có nhiều hệ dịch
dựa trên sự chuyển đổi ra đời và hoạt động hiệu quả.[21]
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 20

1.2 Vai trò của chuyển đổi cây cú pháp trong cách tiếp
cận dựa trên chuyển đổi

Hình 4: Hình tháp minh họa các chiến lược dịch máy
1

Trên lý thuyết, phân tích ngữ pháp càng sâu, gánh nặng ở bước chuyển đổi
càng giảm. Hai vấn đề lớn mà khối chuyển đổi cần giải quyết là chuyển đổi từ vựng
và chuyển đổi cấu trúc.
Chuyển đổi từ vựng là thay thế các từ của văn bản nguồn bằng các từ tương
ứng của ngôn ngữ đích. Công việc này sẽ rất đơn giản nếu như mỗi từ của ngôn ngữ
nguồn tương ứng với một từ duy nhất ở ngôn ngữ đích nhưng trên thực tế, mỗi từ ở
ngôn ngữ nguồn có thể không có từ tương ứng hoặc có nhiều từ tương ứng ở ngôn
ngữ đích. Chọn lựa như thế nào cho đúng vào ngữ cảnh của câu cần dịch là vấn đề
mà chuyển đổi từ vựng phải giải quyết.
Chuyển đổi cấu trúc là bước sắp xếp các thành phần ngữ pháp của ngôn ngữ
nguồn, bao gồm cả chèn, xoá các thành phần sao cho kết quả dịch tuân thủ những
luật ngữ pháp của ngôn ngữ đích, văn bản kết xuất sẽ gần với ngôn ngữ tự nhiên


1
Hình tháp này được nhóm GETA đưa ra vào năm 1968
Ngôn ngữ trung gian
Văn bản nguồn
Chuyển đổi

Dịch trực tiếp
Văn bản đích
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 21

hơn mà vẫn giữ đúng ngữ nghĩa và sắc thái của văn bản gốc. Như vậy khối chuyển
đổi cấu trúc giữ nhiệm vụ thực hiện những thay đổi cần thiết khi biểu diễn trung
gian của ngôn ngữ nguồn không thể ánh xạ trực tiếp thành cách biểu diễn tương tự
trong ngôn ngữ đích do có sự khác biệt về cấu trúc của hai ngôn ngữ.
Cấu trúc cú pháp của một câu được biểu diễn dưới dạng cây cú pháp. Chuyển
đổi cấu trúc của một câu từ ngôn ngữ nguồn sang ngôn ngữ đích tức là quá trình xác
định mối liên hệ giữa các thành phần trong cây cú pháp và tìm ra những qui luật để
chuyển cây cú pháp đó về dạng phù hợp với ngôn ngữ đích. Nói cách khác ta phải
tìm một cây cú pháp tương đương với cây cú pháp của ngôn ngữ nguồn.
Ví dụ :
Có câu tiếng Anh “I have read that interesting book.” được phân tích
cú pháp và các nghĩa của từ trong câu đã được chọn đúng như sau (từ có nghĩa
ε

tức là từ chỉ đóng vai trò cú pháp, nó không có nghĩa thực sự) :

Hình 5: Cây cú pháp của câu “I have already read that
interesting book.”
N
N
P
P


V

V
P
P


P
P
R
R
P
P


A
A
U
U
X
X


V
V
P
P


A
A
D

D
V
V


V
V
P
P


V
V


N
N
P
P


have/
ε

already/rồi
read/đọc
I/Tôi

.
.



S
S


.
A
A
D
D
J
J
P
P


N
N


D
D
T
T


A
A
D

D
J
J


book/cuốn sách
that/đó
interesting/thú vị

Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 22

Nếu chỉ đơn thuần là gắn nghĩa thì câu tiếng Việt được phát sinh là “Tôi rồi
đọc đó thú vị cuốn sách .”. Trong tiếng Việt, câu này hoàn toàn vô nghĩa vì trật tự
các thành phần ở sai vị trí sẽ dẫn đến trật tự từ sai và ta không biết được nghĩa chính
xác của câu là gì.
Chương trình chuyển đổi cây cú pháp có nhiệm vụ thay đổi vị trí, chèn hoặc
xoá các thành phần trong cây cú pháp sao cho trật tự từ bề mặt của câu trở nên
đúng. Trong ví dụ trên, ta thấy nếu chương trình chuyển đổi thay đổi cây cú pháp
của câu theo các luật sau :
1. (ADJP (DT) (A))→ (ADJP (A) (DT)) : Nếu ngữ tính từ bao gồm một chỉ định
từ (DT) đứng trước một tính từ (A) thì đảo trật tự 2 thành phần con đó.
2. (NP (ADJP) (N)) → (NP (N) (ADJP)) : Nếu ngữ danh từ bao gồm một ngữ
tính từ (ADJP) đứng trước danh từ (N) thì đảo trật tự 2 thành phần con đó.
3. (VP (AUX have) (VP)) → (VP
ε
(VP)) : Nếu ngữ động từ bao gồm một trợ
động từ have đứng trước một ngữ động từ khác từ xoá trợ động từ đi.
4. (VP (ADV already) (VP)) → (VP (VP) (ADV already)) : Nếu ngữ động từ bao
gồm trạng từ already đứng trước ngữ động từ thì đảo trật tự 2 thành phần

này.
Æ câu tiếng Việt “Tôi đọc cuốn sách thú vị đó rồi.” sẽ là một câu có nghĩa.
1.3 Cơ sở lý thuyết
Để chuyển đổi cây cú pháp, chúng ta phải có được :

Kết quả phân tích ngữ pháp của một câu tiếng Anh ra dạng cây cú pháp và
những thông tin cần thiết khác để xác định mối liên hệ giữa các thành phần
cây cú pháp. Nhưng chỉ cần quan tâm đến những mối liên hệ có ảnh hưởng
đến việc chuyển đổi cấu trúc cú pháp của câu.

Bộ luật chuyển đổi từ cây cú pháp tiếng Anh sang cây cú pháp tiếng Việt.
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 23

1.3.1 Cơ sở lý thuyết ngôn ngữ học của việc chuyển đổi
“Yếu tố nào gây ra sự khác biệt trong cấu trúc câu giữa hai ngôn ngữ ?”, đó là
câu hỏi đầu tiên đặt ra cho những người muốn tự động hoá việc chuyển đổi cấu trúc
câu giữa hai ngôn ngữ. Đây cũng là một vấn đề lớn mà các nhà ngôn ngữ học so
sánh phải giải quyết. Với cặp ngôn ngữ Anh - Việt, đã có nhiều công trình nghiên
cứu về vấn đề này, tuy nhiên hầu như chưa có công trình nào giải quyết trọn vẹn vì
ngay cả ngữ pháp tiếng Việt hiện vẫn chưa được nghiên cứu đầy đủ. Có người quan
niệm ngữ pháp tiếng Việt cũng giống như ngữ pháp tiếng Anh (quan niệm “dĩ Âu vi
trung”), lại có ý kiến cho rằng nên phân tích ngữ pháp câu tiếng Việt theo cấu trúc
Đề - Thuyết.
Vì mục tiêu cuối cùng của chương trình chuyển đổi cây cú pháp là trật tự các
từ trong câu phát sinh phải đúng, chúng em chọn cách phân tích cú pháp câu tiếng
Việt theo ngữ pháp tạo sinh của Chomsky với các nhãn cú pháp (thành tố kết thúc
và thành tố không kết thúc) giống như ngữ pháp tiếng Anh để so sánh sự khác biệt
cú pháp câu tiếng Việt và tiếng Anh nhằm giảm bớt độ phức tạp của bài toán đặt ra,
đồng thời sử dụng được nhiều kết quả của ngành ngôn ngữ học so sánh.

1.3.1.1 Ngữ pháp tạo sinh

Ngữ pháp
Để tạo thành một câu có nghĩa trong một ngôn ngữ nào đó, ta không thể chỉ
đơn giản kết hợp các từ bất kỳ theo thứ tự ngẫu nhiên, mà sự kết hợp đó phải tuân
thủ những luật ngữ pháp của ngôn ngữ đó.
Định nghĩa: Ngữ pháp G được định nghĩa là sự hợp thành của 4 thành phần
()
0
,,, SPNG Σ=
, với :

N : tập hợp các thành tố không kết thúc (nonterminal) như NP, VP,...


: tập hợp các thành tố kết thúc (terminal) như Adj, Noun,...

P : Tập hợp các luật ngữ pháp

S
0
: Ký hiệu thành tố khởi đầu câu
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 24

Tập hợp luật ngữ pháp bao gồm 2 loại luật là luật từ pháp và luật cú pháp.
Luật từ pháp đảm bảo cho mỗi từ tồn tại trong câu đều có nghĩa riêng. Luật cú pháp
quy định trật tự kết hợp các thành phần ngữ pháp để tạo thành một câu hoàn chỉnh
có nghĩa.


Cây cú pháp
Trong định nghĩa ngữ pháp trên ta thấy mọi câu đều bắt đầu bằng ký hiệu S
0

và được biểu diễn bằng một chuỗi phân cấp của các thành tố. Cấu trúc ngữ pháp của
một câu có thể rất phức tạp, vì vậy để biểu diễn nó, người ta dùng cây cú pháp thể
hiện các mối quan hệ giữa các thành phần trong luật ngữ pháp bằng sơ đồ trực quan
dạng cây. Mỗi cây cú pháp có một nút gốc đóng vai trò là S
0
, mỗi nút lá tương ứng
với một từ (thành tố kết thúc).
Định nghĩa: Cho
( )
0
,,, SPNG Σ=
là một ngữ pháp phi ngữ cảnh. S
0
biểu diễn
nút gốc hay nút khởi đầu của cây phân cấp.
1. Nếu S
0
→X
1
X
2
... X
n
là một luật ngữ pháp (
P∈
) thì ta gắn các nút X

1
,X
2
,
..., X
n
vào làm con của nút gốc theo thứ tự từ trái sang phải.
2. Nếu có nút con X
i
và các luật X
i
→Y
1
Y
2
... Y
n
, thì ta sẽ gắn các nút Y
1
,Y
2
,
..., Y
n
vào làm con trực tiếp của nút X
i
theo thứ tự từ trái sang phải.
3. Tiếp tục như thế cho đến khi tập hợp các nút con cuối cùng đều là thành tố
kết thúc (terminal) hoặc là chuỗi rỗng
ε

.
Trong luận văn này, chúng em sử dụng bộ phân tích cú pháp tiếng Anh EGT
(2001) cho kết quả phân tích cú pháp có độ chính xác cao nhất trên thế giới hiện
nay. Bộ nhãn cú pháp và nhãn từ loại sử dụng là bộ nhãn của Penn Tree Bank (phụ
lục 5).
1.3.1.2 Những khác biệt trong cấu trúc tiếng Việt so với tiếng Anh
Tiếng Anh và tiếng Việt cùng loại hình trật tự S-V-O là loại hình phổ biến thứ
nhì sau loại hình S-O-V. Tuy nhiên, trật tự từ trong các ngữ có một số điểm khác
nhau, nhất là thành phần định ngữ trong danh ngữ. Đối với tiếng Việt, trật tự từ và
từ hư là hai phương tiện ngữ pháp chủ yếu. Theo quan điểm ngôn ngữ học truyền
Chương 1 - Tổng quan về chuyển đổi cây cú pháp
Trang 25

thống: các nhân tố trật tự từ phụ thuộc vào cấu trúc của đơn vị ngôn ngữ và phụ
thuộc vào các mối quan hệ giữa các thành tố. Có nhân tố bên ngoài và có nhân tố
bên trong, chuyển đổi cấu trúc chỉ tập trung vào những nhân tố bên ngoài chứ
không quan tâm đến cấu trúc của từ. Do đó việc khảo sát trật tự từ trong các thành
phần trong ngữ và cao hơn là trật tự các thành phần trong câu sẽ là cơ sở để xây
dựng cách thức khai thác nguồn tri thức chuyển đổi cấu trúc.
1.3.1.2.1 Trong phạm vi ngữ


Ngữ danh từ : trật tự các thành phần bổ nghĩa cho danh từ chính trong ngữ
danh từ có nhiều điểm khác biệt so với tiếng Anh. Vị trí của thành phần bổ nghĩa so
với danh từ chính phụ thuộc vào loại chức năng bổ nghĩa của nó. Định ngữ được
chia thành 2 loại căn cứ vào vị trí của nó so với danh từ chính: tiền định ngữ (đứng
trước) và hậu định ngữ (đứng sau).

Tiền định ngữ tiếng Anh có thể là tính từ miêu tả, danh từ, động danh từ, động
tính từ, phó từ, danh từ chỉ sở hữu cách, chỉ định từ, tính từ sở hữu, số từ. Đối với

tiếng Việt, phần lớn các tiền định ngữ này đứng sau danh từ chính. Tuy nhiên cũng
có một số trường hợp ngoại lệ.

×