Giáo trình lý thuyết thông tin phần 2 gs ts nguyễn bình

Chương 4

Cơ SỞ LÝ THUYẾT MÃ HÓA

4.1. CÁC Đ ỊN H N G H ĨA VÀ K H Á I NIỆM c ơ BẢN
4.1.1. Các định nghĩa cơ bản
4.1.1.1. M ã hóa

Tập các tin rời rạc rất đa dạng và phong phú. Để hệ thống truyền
tin số có thể truyền được các tin này cần phải có một q trình biến
đổi thích hợp đối với các tin rời rạc, đó chính là q trình mã hóa.

Định nghĩa 1\ Mã hóa là một ánh xạ 1- 1 từ tập các tin rời rạc a¡
lên tập các từ mã a " ¡

/ : a¡ —» a " ¡

Để có thể dễ dàng mã hóa và giải mã, các từ mã a "' thường là
các phần tử của một cấu trúc đại số nào đó. Bởi vậy ta có thể định
nghĩa cụ thể hơn cho phép mã hóa.

Định nghĩa 2: Mã hóa là một ánh xạ 1- 1 từ tập các tin rời rạc a¡
lên một tập con có cấu trúc của một cấu trúc đại số nào đó.
4.L1.2. M ã

Định nghĩa 3: Mã (hay bộ mã) là sản phẩm của phép mã hóa, hay
nói cách khác mã là một tập các từ mã được lập nên theo một luật đã định.
4.1.1.3. Các yếu tô của từ mã

Định nghĩa 4: Độ dài từ mã n¡ là số các dấu mã cần thiết dùng để
mã hóa cho tin a¡.

120 Giáo trình Lý thuyết thơng tin

Nếu nị = const với mọi i thì mọi từ mã đều có cùng độ dài. Bộ mã
tương ứng được gọi là bộ mã đều.

Nếu riị ^ rij thì bộ mã tương ứng được gọi là bộ mã không đều.
Định nghĩa 5: Số các dấu mã khác nhau (về giá trị) được sử dụng
trong bộ mã được gọi là cơ số mã. Ta ký hiệu giá trị này là m.
Nếu m = 2 thì bộ mã tương ứng được gọi là mã nhị phân.
Nếu m = 3 thì bộ mã tương ứng được gọi là mã tam phân

Nếu m = p thì bộ mã tương ứng được gọi là mã p phân.
Thông thường các dấu mã được chọn là các phần tử trong một
trường F nào đó.
Ví dụ 1: Từ mã dị7 trong bộ mã đều nhị phân có độ dài 7 có thể
mơ tả như sau:

ál =01 10101
Mỗi một dấu mã trong từ mã này chỉ có thể nhận một trong hai
giá trị {0, 1}, mỗi dấu mã là một phần tử của trường nhị phân GF(2).
4.1.2. Các khái niệm cơ bản
4.1.2.1. Độ thừa của một bộ m ã đều (D)
Cho nguồn rời rạc A gồm s tin: A = {a^ l,s }.
Xét phép mã h ó a /s a u : f: aj —» aỊ1; a " e V.
Cơ số mã là m, khi đó số các từ mã độ dài n có thể có là: N = m".
Định nghĩa 6: Độ thừa của một bộ mã đều được xác định theo
biểu thức sau:

(4 . 1)

Chương 4: Cơ sở lý thuyết mã hóa 121

Trong đó : H0(A) = logs
H0(V) = logN = nlogm

Ví dụ 2: Ta có mã hóa 4 tin A, B, c, D bằng các tin từ mã của

một bộ lọc giải mã đểu nhị phân, có độ dài n = 3, khi đó độ thừa của
bộ mã này là:

D = l _ j 2 ẵ i _ = 33,33%

3 log 2

Bộ mã này có 4 từ mã được dùng để mã hóa cho 4 tin rời rạc. Các
từ mã cịn lại (4 từ mã) khơng được dùng để mã hóa được gọi là các từ
mã cấm.

Đối với các bộ từ mã đều, để đánh giá định lượng sự khác nhau
giữa các từ mã trong bộ mã, ta sử dụng khái niệm khoảng cách mã.
4.1.2.2. Khoảng cách m ã (d)

Định nghĩa 7: Khoảng cách giữa hai từ mã bất kỳ oc" và oc" là số

các dấu mã khác nhau tính theo cùng một vị trí giữa hai từ mã này, ký

hiệu d Ịa " , a " i .

Ví dụ 3: a- = 0 1 1 0 1 0 1

aj = 10 0 1 1 10

d (a ỉ»a j) = 6
Khoảng cách mã d có đầy đủ các tính chất của khoảng cách
trong một không gian metric.
Tính chất ỉ: d ^ a" ,a " j = d^ot" ,a " j

Tính chất 2: n > d ( a " .otj" Ị > 0
Tính chất 3: (Tính chất tam giác):
d ( a : , a , n) + d ( a " , < ) > d ( < , < ) .

122 Giáo trình Lý thuyết thơng tin

Để đánh giá định lượng khả năng khống chế sai (bao gồm khả
năng phát hiện sai và khả năng sửa sai) của một bộ mã ta sử dụng khái
niệm khoảng cách mã tối tiểu (hay khoảng cách Hamming) sau:

Định nghĩa 8: Khoảng cách Hamming d0 một bộ m ã được xác
định theo biểu thức sau:

d(, = m i n d í a " , a " ì

Va",a" ' '

Ở đây a " và a n không đồng nhất bằng không (Ta coi a " là từ
mã không khi mọi dấu mã trong từ mã đều nhận giá trị không).
4.1.2.3. Trọng sô của một từ mã

Định nghĩa 9: Trọng số của một từ mã W ^aJ1j là số các dấu mã
khác không trong từ mã.

Ví dụ: a- = 0 1 1 0 1 0 1

w (a -) =4

Nếu ta coi mỗi từ mã a " là một véc tơ n chiều trong một khơng
gian tuyến tính n chiều Vn, khi đó phép cộng được thực hiện giữa hai
từ mã tương tự như phép cộng giữa hai véc tơ tương ứng.

Ví dụ 4: a ] = 0 1 1 0 1 0 1 <-> (0, 1, 1 ,0, 1,0, 1)

a ] = 1 0 0 1 1 1 0<-» ( 1 , 0 , 0 , 1, 1, 1,0 )

= a- + a j = 0 1 10 1 0 1 <-> (0, 1, 1, 0, 1, 0, 1).

ở đâyphép cộng trên mỗi thành phần (tọa độ) của véc tơ được
thực hiện trên trường nhị phận GF(2). Phép cộng theo mô đun 2 này
được mô tả như sau:

Chương 4: Cơ sớ lý thuyết mũ hóa 123

+ 0 1

0 0 1

1 1 0

Sau đây là các tính chất của trọng số:

-0< w(a") < n

- d ( « ; \ a J") = w ( a " + a J")

4.1.3. Khả năng khống chê sai của một bộ mã đều nhị phân
4.1.3.1. Khả năng phát hiện sai

Định lý ỉ : Một bộ mã đểu nhị phân có độ thừa (D > 0) và có d0 > 2
sẽ có khả năng phát hiện được t sai thỏa mãn điều kiện:

t < do - 1 (4.2)

Chứng minh:

Mọi từ mã trong bộ mã đều cách nhau một khoảng cách ít nhất là
d0. Khi truyền tin, do có nhiễu từ mã nhận được có thể bị sai ở t vị trí
t < do - 1. Vì vậy từ mã nhận được khơng thể biến thành một từ mã
được dùng khác. Như vậy ta ln có thể phát hiện được rằng từ mã đã
nhận sai.

4.1.3.2. Khả năng sửa sai

Định lý 2: Một bộ mã đều nhị phân có độ thừa (D > o) và có

(d0 > 3) sẽ có khả năng sửa được e sai thỏa mãn điều kiện:

e < d0 - l (4 .3)

Ở đây [x] là ký hiệu phần nguyên của số X.

124 Giáo trình Lý thuyết thơng tin

Chứng minh:

Khi truyền tin, do có nhiễu, từ mã nhận được có thể bị sai ở e vị

d0 - l . Như vậy, khoảng cách giữa từ mã nhận được với từ
trí e <

mã khác tối tiểu là e + 1. Như vậy, ta ln có thể xác định đúng được
từ mã đã phát. Điều đó có nghĩa là ta đã sửa sai được e sai gặp phải
trên được truyền.

4.1.4. Mã đều nhị phân khơng có độ thừa

Mã đều nhị phân khơng có độ thừa (D = 0) còn được gọi là mã
đơn giản. Với mã đơn giản ta có s = N = 2n. Như vậy mỗi m ột từ mã
có thể có đều được sử dụng để mã hóa cho các tin rời rạc. Với từ mã
đơn giản d0 = 1. Vì vậy ta khơng thể phát hiện hay sửa được bất cứ
một sai nào.

Giả sử ta truyền từ mã đơn giản qua kênh đối xứng nhị phân
khơng nhớ có xác suất thu sai một dấu là p0. Khi đó xác suất thu đúng
một dấu tương ứng là (1 - Po). Từ m ã chỉ nhận đúng khi m ọi dấu mã
đều nhận đúng. Như vậy, xác suất thu đúng từ mã pd là:

Pd = (l-P o )" (4.4)

Xác suất thu sai của từ mã là:

ps = 1 - p đ= 1 - ( 1 -Po)n (4.5.a)

Với p0 «: 1ta có công thức gần đúng sau:

(1 - Po)n * 1 - n p 0

Ta có: ps » np0 (4.5.b)

Giả sử xác suất thu sai cho phép đối với mỗi tin rời rạc là pscp,
khi đó điều kiện sử dụng mã đơn giản trong kênh đối xứng nhị phân
không nhớ là:

Ps £ Pscp

Chương 4: Cơ sở lý thuyết mã hóa 125

Hay P s cp (4.6)

Po«: n

4.2. M Ã T H Ố N G K Ê T ố i ư u

Ta xét phép mã hóa sau đối với các tin của nguồn rời rạc A:

Mỗi tin a¡ được mã hóa bằng một tổ hợp mã (từ mã) a " ‘ (một tổ hợp mã gồm n¡ dấu mã).

Ta xét trường hợp mã nhị phân tức là mỗi dấu mã chỉ nhận một
trong hai giá trị "0" và "1".
4.2.1.Độ dài trung bình của từ mã và mã hóa tối ưu

Ta có A = p(a¡). i=l,s p (a¡) ->v = i = l,s

Định nghĩa 1: Độ dài trung bình của m ột tổ hợp m ã được xác

định theo biểu thức siaau:

_ A s

n = M [ni] = ^ n ip(ai)

i=i

Định nghĩa 2: Một phép mã hóa được gọi là tiết kiệm (hay tối
ưu) nếu nó làm cực tiểu giá trị n .

4.2.2. Yêu cầu của một phép mã hóa tối ưu

- ÏÏ —» min.

- Có khả năng giải mã tức thì: khơng một dãy bit nào trong biểu
diễn của một tin (ký tự) nào đó lại là phần đầu (prefix) của một dãy bít
dài hơn biểu diễn cho một tin (ký tự) khác.

Ví dụ 1 : Mã Moorse khơng đảm bảo u cầu này vì:

126 Giáo trình Lý thuyết thơng tin

Mã số cho E (.) là tiền tố của mã số cho A ( _)

Mã số cho D(_ ) là tiền tố của mã số cho B(_ ).

4.2.3. Định lý mã hóa thứ nhất của Shannon (đối với mã nhị phân)

4.2.3.1. Định lý:
Ln ln có thể xây dựng được một phép mã hóa các tin rời rạc

có hiệu quả mà n có thể nhỏ tùy ý nhưng khơng nhỏ hom entropie
H(A) được xác định bởi đặc tính thống kê của nguồn A.

n > H(A)

Chứng minh:
Nếu gọi m là cơ số của bộ mã thì lượng thơng tin riêng cực đại
chứa trong mỗi dấu mã là logm.

Gọi n, là độ dài của từ mã a " ' ứng với tin a,, khi đó lượng thơng

tin riêng cực đại chứa trong từ mã này là ri; logm.

Lượng thơng tin riêng trung bình của mỗi từ m ã là:

s __

^ p ( a ,) n , logm = nlogm

1=1

Để phép mã hóa khơng làm tổn hao thơng tin thì lượng thơng tin
riêng trung bình cực đại chứa trong mỗi từ mã phải không nhỏ hơn
lượng thông tin riêng trung bình chứa trong mỗi tin thuộc nguồn. Tức là:

nlog m > H (A ).

H(A)
hay n > v- - z ■

log m

Với mã nhị phân (m = 2) ta có: n > H(A).

4.2.3.2. Nguyên tắc lập m ã tiết kiệm

s s

Theo định lý ta có: Z p ( a i ) n . - ' Z p ( a i ) ' ° 8 p ( a .)

Chương 4: Cơ SỞ lý thuyết mã hóa 127

Bất đẳng thức trên sẽ thỏa mãn nếu Vi ta có:
p(a¡)n¡ > -p(a,)logp(a¡)

hay n¡ > -logp(a.)
Nguyên tắc: Các từ mã có độ dài càng nhỏ sẽ được dùng để mã
hóa cho các tin có xác suất xuất hiện càng lớn và ngược lại.
4.2.4. Thuật tốn Huffman
4.2.4.1. Thuật tốn m ã hóa
Với phép mã hóa tối ưu ta có: n = H(A)

VÀO: Nguồn rời rạc A = , i = l,s

,p ( a i)

RA: Từ mã a " ' tương ứng với tin a¡

Bước 1: Khởi động một danh sách các cây nhị phân một nút chứa
các trọng lượng Pj, p2, Pn cho các tin ãị, a2, a n.

Bước 2: Thực hiện các bước sau n - 1 lần:
(1) Tìm hai cây T' và T" trong danh sách với các nút gốc có trọng
lượng tối thiểu p' và p".
(2) Thay thế hai cây này bằng cây nhị phân với nút gốc có trọng
lượng p' + p" và có các cây con là T' và T".
Đánh dấu các mũi tên chỉ đến các cây con 0 và 1.

Bước 3: Mã số của tin a ị là dãy các bit được đánh dấu trên
đường từ gốc của cây nhị phân cuối cùng tới nút a l .

128 Giáo trình Lý thuyết thơng tin

Ví dụ J: Xét các ký tự A, B, c, D, E có các xác suất xuất hiên

tương ứng là 0,2; 0,1; 0,1; 0,15; 0,45.

Bước 1:

© 0,2 0,45

B c D A E

Bước 2 : Lần 1:

0,2 0,45

B c A E

Lần 2:

(^045^

E

Lần 3:

Chương 4: Cơ sở lý thuyết mã hóa 129

Lần 4:

Bước 3: A B c D E

K ý tự

M ã tương ứng 01 0000 0001 001 1

2 4 4 3 1

Đánh giá hiệu quả:

n = Ỳ niP{ai) = 2.0,2 + 4.0,1 + 4.0,1 + 3 .0 ,1 5 + 1 .0 ,4 5

1=1

= 2,1 dấu

H(A) = Ẻ p ( ai ) '° ê - ^ i
i=l Pva iJ

=: 2.0,1 log 10 + 0,15 l o g + 0,2 lo g 5 + 0,45 log —

15 45

= 0,2.3,3226 + 0,15.2,7375 + 0,2.2,3224 + 0,45.1,1522

= 0,6645 + 0,4106 + 0,4645 + 0,5185

= 2,058 bit
Ta thấy n > H(A).

130 Giáo trình Lý thuyết thơng tin

Nhận xét: Phép mã hóa trên là gần tối ưu.

4.2.4.2. Thuật toán giải mã

VÀO: Xâu bit

RA: Xâu tin (ký tự)
Bước 1: Khởi động con trỏ p chỉ đến gốc của cây Huffman.
Bước 2: While (chưa đạt tới kết thúc thông báo) do:

a) Đặt X là bit tiếp theo trong xâu bit.

b) If X = 0 then

Đặt P: = con trỏ chỉ đến cây con trái của nó

else

P: = con trỏ chỉ đến cây con phải của nó

c) If (P chỉ đến nút lá) then

(1) Hiển thị ký tự tương ứng với nút lá.

(2) Đặt lại p để nó lại chỉ đến gốc của cây Huffman

Ví dụ 2: Thơng báo nhận được: 0 1 0 0 0 1 1 0 0 1 1 0 1 ...

Quá trình giải mã:

G0 1 000 1 1 0 0 1 1 0 1 ....

G G G G G G

Pt ịt mt mt n

A CE D E A

RA: A C E D E A ...

4.3. CÁC CÂ U T R Ú C Đ Ạ I s ố V À M Ã T U Y Ê N T ÍN H

4.3.1. Một sỏ cấu trúc đại số cơ bản
43 .1 .1 . N hóm : (G,*>

Nhóm G là một tập hợp các phần tử với một phép tốn trong 2
ngơi thỏa mãn các tính chất sau:

Chương 4: Cơ sở lý thuyết mã hóa 131

- a,b e G => a * b = c e G
- Tổn tại phần tử đon v ị e : a * e = e * a = a
- Tổn tại phần tử ngược a '1: a * a '1= a 1 * a = e
Nếu a * b = b * a thì nhóm được gọi là nhóm giao hốn.

Ví dụ 1: Tập các số nguyên z với phép tốn cộng (+) tạo nên một

nhóm giao hốn với phần tử đơn vị là 0.
Nếu số các phần tử trong nhóm G là hữu hạn thì ta có nhóm hữu

hạn cấp |G .

Nếu H e G và ( h ,*) tạo nên một nhóm thì H được gọi là nhóm
con của G. Cấp của H là ước của cấp của G.
4.3.1.2.Nhóm xyclic

Xét nhóm hữu hạn (g ,») . Nếu G có thể mơ tả như sau:

G = Ị cc‘ , V i Ị

thì G được gọi là nhóm xyclic sinh bởi a . a được gọi là phần tử sinh
(hay phần tử ngun thủy) của nhóm.

Ví dụ 2: Xét nhóm nhân: Z*J= {1, 2, 3, 4, 5, 6, 7, 8, 9, 10}

T acó : 2° = 1 25 = 10

22 = 2 26 = 9

22 = 4 27 = 7

23 = 8 28= 3

24 = 5 29 = 6

Ta có thể viết z*u = {2' mod 11}.

Phần tử a được gọi là có cấp k nếu nlà số nguyên dương nhỏ
nhất thỏa mãn a k = 1 mod n.

Ở ví dụ trên ta có orđ(2) = ord(8) = ord(7) = ord(9) =10

132 Giáo trình Lý thuyết thơng tin

4.3.1.3. Vành: (R,+, •)
Vành R là một tập hợp các phần tử với hai phép tốn trong hai

ngơi (phép cộng (+)> phép nhân (•)) thỏa mãn các tính chất sau:
- (R ,+ ) là một nhóm đối với phép cộng

- (R, .) là một nửa nhóm đối với phép nhân. Điềunày có nghĩa
là khơng nhất thiết mọi phần tử đều có phần tử ngược của phép nhân.

- Tính chất phân phối: (a + b).c = a.c + b.c
Vành R được gọi là vành giao hoán nếu ta có a.b = b.a

4.3.L4. Ideal:
Ideal I là một tập con trong R có các tính chất sau:

- a, b e I: a + b e I, (l,+ ) là một nhóm đối với phép *.

- c e R: c.a € I

4.3.1.5. Trường (F,+, •)

Trường F là một tập hợp các phần tử với hai phép tốn trong hai
ngơi thỏa mãn:

- (F,+) là một nhóm cộng

- ^F*, là một nhóm đối với phép nhân.

Trong đó: F* = F \{ 0 }
Ví dụ 3: Trường nhị phân GF(2): Trường này chỉ có hai phần tử 0
và 1.

4.3.1.6. Khơng gian tuyến tính Vn
Các phần tử trong khơng gian tuyến tính được gọi là các véc tơ.
V e v„ là các véc tơ n chiều. Mỗi véc tơ n chiều được mô tả bằng

' m ột bộ n tọa độ được sắp V <-> (v0, V ị , v n.!) với VjG F.

Chương 4: Cơ sở lý thuyết mã hóa 133

Trong không gian Vn ta xác định các phép toán sau:

- Cộng véc tơ: u = O o , K „ - i ) , V = (v0, vn.ị)

u + v = CVov-Jn-l) v ớ i Ỵj = Uj + Vj £ F

- Tích vơ hướng của hai véc tơ: (u,v)

n-1

(w,v) = £k¡V ¡ G F

i=0

Hai véc tơ được gọi là trực giao nếu (u,v) = 0.
- Nhân một véc tơ với một phần tử vô hướng.

Xét phần tử vô hướng a e F

a.u = (aUị, a«„.|)

4.3.2. Các dạng tuyến tính và mã tuyến tính

4.3.2.1. Dạng tuyến tính

Đinh nghĩa ỉ: Các dạng tuyến tính của k biến độc lập Xị, x2, xk
là các biểu thức có dạng:

f(xu k (4.7)

xk) = Y ^ a iXị

i=l

Trong đó: a¡ G F

N h ận xét: Có sự tương ứng 1-1 giữa các dạng tuyến tính, các véc tơ
và các đa thức trong vành đa thức.

4.3.3.3. M ă tuyến tính

Định nghĩa 2: Mã tuyến tính độ dài n là mã mà từ mã của nó có
các dấu mã là các dạng tuyến tính.

Định nghĩa 3: Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ
dài n trong đó ta có thể chỉ ra được vị trí của k dấu thơng tin trong từ mã.

Định nghĩa 4: Mã tuyến tính ngẫu nhiên là mã tuyến tính có các
dấu mã được chọn ngẫu nhiên từ các dạng tuyến tính có thể có.

134 Giáo trình Lý thuyết thơng tin

Nhận xét:
- Shannon đã chứng minh rằng tồn tại các m ã đạt được giới hạn
Shannon (thỏa mãn định lý mã hóa thứ hai) trong các mã tuyến tính
ngẫu nhiên.
- Khó tìm các mã tốt trên các mã tuyến tính ngẫu nhiên. Hơn nữa
việc mã hóa và giải mã cho các mã này cũng rất phức tạp. Bởi vậy các

mã này chỉ có ý nghĩa về mặt lý thuyết.
Ví dụ 4: Số các dạng tuyến tính khác nhau của 4 biến độc lập là:

N0 = 24 - 1 = 15

Số các mã hệ thống tuyến tính (7, 4)là N| = C jj =165

4.3.3.1.Ma trận sinh và ma trận kiểmtra củam ã tuyến tính

Để đơn giản cho việc mô tả mã tuyến tính người ta thường sử

dụng ma trận sinh Gkn. Ma trận này chứa k véc tơ hàng độc lập tuyến

tính tạo nên khơng gian mã v_(nk).

2k các véc tơ khác nhau là tất cả các tổ hợp tuyến tính có thể có
của k véc tơ hàng này.

Trong đại số tuyến tính ta biết rằng với mỗi G sẽ tồn tại ma trận

H rxnthỏam ãn: G.HT = 0 (4.8)

Trong đó: r = n - k

Ht được gọi là ma trận chuyển vị của H

H được gọi là ma trận kiểm tra của mã tuyến tính (n, k).

Ta thấy rằng H chứa r véc tơ hàng trực giao với các véc tơ hàng
của G.

Hiển nhiên là nếu a là một véc tơ mã (a G v_(nr)) thì:

a.HT= 0 (4.9)

ở đây H cũng là một ma trận sinh của một mã tuyến tính v_(nr) và
G lại chính là ma trận kiểm tra của mã này. Ta thấy rằng không gian

Chương 4: Cơ sở lý thuyết mã hóa 135

tuyến tính c sinh bởi G là không gian không của không gian tuyến
tính c1sinh bới H.

Từ (4.9) ta có thể viết ra r phương trình:

n ________

5 > j h ũ = 0 ’ i = 1’r (4.10)
j=i

Các phương trình này cịn được gọi là các tổng kiểm tra. Mã c

sinh bởi mã G và c 1 sinh bởi H được gọi là các mã đối ngẫu.

Nếu c = c 1thì c được gọi là mã tự đối ngẫu. Các mã tự đối ngẫu

k 1
có r = n - k và bởi vậy có tốc độ R = —= —.

n 2

Ví dụ 5: Xét mã hệ thống tuyến tính (7, 4) có các dấu mã được
chọn từ các dạng tuyến tính như sau:

Từ mã a gồm các dấu mã a, được chọn như sau:

a0 = x0

a, = X,

a2 = x2

a3= x3

a4 = x 0 + Xị + x2

a5 = X| + x 2 + x 3

a6 = x0 + X, + x 3

Như vậy ma trận sinh G có dạng:

'1 0 0 0 0 0 n
0 100 1 11

G =

0 0 10 1 10

u 00 10 1K

Ma trận kiểm tra của mã (7, 4) này là:

136 Giáo trình Lý thuyết thông tin

'1 1 1 0 10 0 '
H= 0 1 1 10 10
1 0 0 1,
^110

H chính là ma trận sinh của mã (7, 3) là mã đối ngẫu với mã (7, 4)
sinh bởi G.

4.3.3 Các bài toán tối ưu của mã tuyên tính nhị phân
Khi xây dựng một mã tuyến tính (n, k, d0) người ta mong muốn

tìm được các mã có độ thừa nhỏ nhưng lại có khả năng khống chế sai
lớn. Để đơn giản người ta thường xây dựng mã dựa trên các bài toán
tối ưu sau:
4.3.3.1. Bài toán 1

Với k và d0 xác định, ta phải tìm được mã có độ dài với từ mã là
nhỏ nhất.

Tương ứng với bài tốn này ta có giới hạn Griesmer sau:

(4.11)

Ở đây r x l chỉ số nguyên nhỏ nhất lớn hơn hoặc bằng X.
Ví dụ 6: Cho k = 4, d0 = 3

n > 3 + 2 + 1+1=7
Vậy mã phải có độ dài tối tiểu là 7. Hay nói một cách khác mã
(7, 4, 3) là một mã tối ưu đạt được giới hạn Griesmer.
4.3.3.2. Bài toán 2
Với n và k xác định, ta phải tìm được mã có khoảng cách tiểu d0
là lớn nhất.
Tương ứng với bài toán này ta có giới hạn Plotkin sau:

(4 . 12)

Chương 4: Cơ sơ lý thuyết mũ hóa 137

Ví dụ 7: Cho k = 3, n = 7

Vậy khoảng cách d0 lớn nhất là 4. Nói một cách khác mã (7, 3, 4)
là một mã tối ưu đạt được giới hạn Plotkin.
4.3.3.3. Bài toán 3

Với n và số sai khả sửa t xác định, ta phải tìm được mã có số dấu
thơng tin k là lớn nhất (hay số dấu thừa r = n - k là nhỏ nhất).

Tương ứng với bài tốn này ta có giới hạn Hamming sau:

(4.13)
¡=0

2r> £ c ị = c ? + c i = 8

i=0

r > log28 = 3
hay k < 7 - 3 = 4
Như vậy mã (7, 4, 3) là mã tối ưu đạt được giới hạn Hamming.
Mã đạt được giới hạn Hamming còn được gọi là mã hoàn thiện.

4.4. VÀNH ĐA TH Ứ C VÀ M Ã X Y C LIC
4.4.1.Vành đa thức

Ta xét tập hợp các đa thức có bậc khơng lớn hơn n - 1 sau:

n -l

(4 . 14)

1=0

deg/(x) < n - 1
f là các hệ số được lấy giá trị trong một trường F nào đó.

138 Giáo trình Lý thuyết thông tin

Trên tập các đa thức này ta xác định 2 phép toán trong là phép
cộng đa thức và phép nhân đa thức như sau:

4.4.1.1. Phép cộng đa thức

Xét hai đa thức sau: n -l n-1

a(x) = , b (x ) = ^bịX'
i=0 i=0

Ta có: a(X) + b(X) = c(X)

n-1

c(X) = Y jCìx '
i=0

c, = a, + bị

Ở đây phép cộng các hệ số ữj và bị được thực hiện trên trường F

Nếu ta coi mỗi đa thức có bậc nhỏ hơn hoặc bằng n - 1 là một
véc tơ trong khơng gian tuyến tính n chiều V n thì phép cộng đa thức
hồn tồn tương tự như phép cộng véc tơ.

Ví dụ 1: Xét n = 7, F = GF(2)

a(X) = 1 + X + X 4 <-» a = ( 1 1 0 0 1 0 0)

b(X) = X + X2 <-» b = ( 0 1 1 0 0 0 0)

a(X) + b(X)= 1 + X 2 + X 4 <-» a + b = ( 1 0 1 0 1 0 0)

4.4.1.2. Phép nhân đa thức

Đê tích của hai đa thức có bậc < n - 1 vẫn là một đa thức có bậc
< n - 1 ta phải thực hiện phép nhân 2 đa thức theo mô đun X" + 1 (tức
là coi x n = 1).

M x ) M x ) = [ ĩ v Ị í i b.*' m o d X n +1

V i=0 ) V1=0
Ví dụ 2: a(X) = 1 + X + X4, b(X) = X + X2

a(X).b(X) = (1 + X + X4) (X + X 3) mod X 7 + 1