Cơ sở lý thuyết truyền tin

BÀI KIỂM TRA HỌC TRÌNH MÔN
CƠ SỞ LÍ THUYẾT TRUYỀN TIN
Bài 1: cho tín hiệu có xác xuất xuất hiện lần lượt là: 0.34 ;0.23 ; 0.19;
0.10; 0.06; 0.01; 0.07 .hãy xác định mã huffman và xác định hiệu xuất
lập mã.
bài giải
Giả sử nguồn mã hoá là S={a
1
, a
2,
a
3,
a
4
, a
5
, a
6
, a
7
} với các xác xuất xuất
hiện lần lượt là: 0.34 ;0.23 ; 0.19; 0.10; 0.06; 0.01; 0.07
cách lập bảng mã hoá huffman
+ Sắp xếp các xác xuất theo thứ tự giảm dần. p
1
-> p
k
+ Gán 0 tới bit cuối của w
k-1
, 1 tới bit cuối của w
k

+ Kết hợp P
k
và P
k-1
để tạo thành 1 tập xác xuất mới p
1
, … , p
k-2
, p
k-1
+ p
k
.
+ lặp lại các bước trên cho tập mới này.
Từ đó ta có bảng sau:
a p
i
lần 1 lần 2 lần 3 lần 4 lần 5 w
i
a
1
0.34 0.34 0.34 0.34 0.42 0.58 00
a
2
0.23 0.23 0.23 0.24 0.34 0.42 10
a
3
0.19 0.19 0.19 0.23 0.24 11
a
4

0.10 0.10 0.14 0.19 011
a
5
0.07 0.07 0.10 0100
a
6
0.06 0.07 01010
a
7
0.01 01011
Ta có entropi
i
( ) ( )*log ( ) (0.34*log 0.34 0.23*log 0.23 0.19*log 0.19
0.10*log0.10 0.07*log0.07 0.06*log0.06 0.01*log 0.01) 2.383
i
h s P a p a= − == − + + +
+ + + + =
∑
1
0
0
1
0
0
0
1
1
1
1
0

1
Độ dài trung bình của từ mã
0
( )* 0.34*2 0.23*2 0.19*2 0.10*3 0.07*4 0.06*5 0.01*5 2.45
j
i i
i
R p x x
=
= = + + + + + + =
∑
Vậy hiệu suất lập mã là:
( ) 2.383
( ) 97.27%
2.45
h s
H s
R
= = =
Bài 2: Cho thanh ghi lùi như sau
- Tìm ma trận kiểm tra chẵn lẻ có n>4
- Xác định bộ mã vòng.
Bài giải
Ta có m=4, a
0
=1, a
1
=0, a
2
=1, a

3
=1;
Ta có ma trận đặc trưng của thanh ghi là:
0 1 0 0
0 0 1 0
0 0 0 1
1 0 1 1
T
 
 ÷
 ÷
=
 ÷
 ÷
 
chọn x
(0)
= 2
ta có
2
(0)
0
0
1
0
X
 
 ÷
 ÷
=

 ÷
 ÷
 

(1) (0)
0 1 0 0 0 0
0 0 1 0 0 1
.
0 0 0 1 1 0
1 0 1 1 0 1
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    
(2) (1)
0 1 0 0 0 1
0 0 1 0 1 0
.
0 0 0 1 0 1
1 0 1 1 1 1
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷

 ÷ ÷  ÷
    
(3) (2)
0 1 0 0 1 0
0 0 1 0 0 1
.
0 0 0 1 1 1
1 0 1 1 1 1
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    
(4) (3)
0 1 0 0 0 1
0 0 1 0 1 1
.
0 0 0 1 1 1
1 0 1 1 1 0
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    

(5) (4)
0 1 0 0 1 1
0 0 1 0 1 1
.
0 0 0 1 1 0
1 0 1 1 0 0
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    
(6) (5)
0 1 0 0 1 1
0 0 1 0 1 0
.
0 0 0 1 0 0
1 0 1 1 0 1
X T X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    
(7) (6) (0)
0 1 0 0 1 0

0 0 1 0 0 0
.
0 0 0 1 0 1
1 0 1 1 1 0
X T X X
    
 ÷ ÷  ÷
 ÷ ÷  ÷
= = = =
 ÷ ÷  ÷
 ÷ ÷  ÷
    
Vậy chu ki là 7.
Ta có ma trận kiểm tra chẵn lẻ như sau:
( )
(0) (1) (2) (3) (4) (5) (6) (7)
A X X X X X X X X=
Khai triển ra ta có
0 0 1 0 1 1 1 0
0 1 0 1 1 1 0 0
1 0 1 1 1 0 0 1
0 1 1 1 0 0 1 0
A
 
 ÷
 ÷
=
 ÷
 ÷
 

• Xác định bộ mã vòng.
Ta có n=7 > m=4  k=3. Tổng số từ mã là 2
k
= 2
3
=8 từ mã
3
1 0 1 2 3
W 100 1011100a a a a= =
2 0 1 2 3
W 0 10 0101110a a a a= =
3 0 1 2 3
W 00 1 0010111a a a a= =
Tìm các từ mã còn lại: 2
3
-3=5 từ mã
4 3 2
W W W 0010111 0101110 0111001= + = + =
5 4 3
W W W 0111001 0010111 0101110= + = + =
6 5 4
W W W 0101110 0111001 0010111= + = + =
7 6 5
W W W 0010111 0101110 0111001= + = + =
8 7 6
W W W 0111001 0010111 0101110= + = + =
4