Bài tập nhóm môn lý thuyết thông tin

BÀI TẬP NHÓM
MÔN LÝ THUYÊT THÔNG TIN
Yêu cầu chung:
- Số thành viên mỗi nhóm: từ 2 - 5 sinh viên
o Các đề 1, 3, 8 dành cho nhóm 2 sinh viên.
o Các đề 4, 7, 9, 11 dành cho nhóm 3 sinh viên.
o Các đề 2, 5, 6, 10, 12, 13, 14 dành cho nhóm maximum 5 sinh viên.
- Điểm tối đa của mỗi bài là 2 điểm.
- Mỗi cá nhân chỉ tham gia một nhóm.
- Mỗi nhóm có thể làm tối đa 3 bài, lấy điểm của bài đạt cao nhất.
- Viết bằng ngôn ngữ bất kỳ. Nếu 2 nhóm nào có bài làm giống y nhau (hình thức,
source code) sẽ không có điểm.
- Sản phẩm nộp bao gồm source code, chương trình đã dịch sang mã máy (lưu trên đĩa
mềm hoặc đĩa CD) và bản thuyết minh giấy (có ghi rõ thông tin về các thành viên của
nhóm).
- Thời hạn:Sau khi hoc xong 1 tuan.
Nội dung:
1. Xây dựng chương trình có các chức năng sau:
• Cho phép nhập vào các nguồn tin, lưu được từ file và đọc lên từ file.
• Sắp xếp các tin theo thứ tự giảm dần của xác suất.
• Tính lượng tin riêng của mỗi tin, lượng tin của một dãy tin bất kỳ do người sử dụng nhập
vào. Tính lượng tin trung bình. (Các cơ số tuỳ ý do người sử dụng chọn).
• Giao diện chương trình phải thân thiện, việc nhập và hiển thị nên trình bày dưới dạng
bảng.
2. Xây dựng bảng thử mã cho một bộ mã của một nguồn tin. Trả lời bộ mã có phân tách được
hay không. Nếu không phân tách được thì hãy chỉ ra hai dãy tin khác nhau trùng vào một dãy ký
hiệu mã. Nếu phân tách được thì cho biết độ chậm giải mã và thực hiện giải thuật tách mã.
3. Viết chương trình xác định một bộ mã có thoả mãn bất đẳng thức Kraft hay không. Viết
chương trình tạo cây mã prefix cho một dãy số thoả mãn bất đẳng thức Kraft (m=2).
4. Cho nguồn tin X.
• Hiện thực giải thuật Shannon với m=2 cho nguồn X. Tính l, H(X), tỉ số H(X)/l.

• Hiện thực công việc trên cho nguồn X.X và X.X.X.
5. Cho nguồn tin X.
• Hiện thực giải thuật Fano với m=2 cho nguồn X. Tính l, H(X), tỉ số H(X)/l.
• Hiện thực công việc trên cho nguồn X.X và X.X.X.
6. Cho nguồn tin X.
• Hiện thực giải thuật Huffman với m=2 cho nguồn X. Tính l, H(X), tỉ số H(X)/l.
• Hiện thực công việc trên cho nguồn X.X và X.X.X.
1
7. Cho nguồn tin X. Hiện thực giải thuật mã hoá nguồn phổ quát với m=2.
8. Xây dựng chương trình cho phép nhập vào hai nguồn tin X, Y, các xác suất p(x
i
) của X và ma
trận các xác suất điều kiện p(yi | xi). Tính các lượng tin tương hỗ I(x
i
,y
j
), các lượng tin có điều
kiện I(x
i
,y
j
), lượng tin tương hỗ trung bình I(X,Y), lượng tin có điều kiện trung bình I(X|Y).
9. Viết chương trình bao gồm các thủ tục sau:
• Cho phép nhập vào một bộ mã đều, cho biết khoảng cách Hamming của bộ mã (và cặp từ
mã có khoảng cách đó).
• Cho biết bộ mã có khả năng phát hiện sai mấy bit và sửa sai được mấy bit.
• Xác định xem bộ mã có là tuyến tính không, nếu có thì xác định ma trận sinh của bộ mã.
• Biến đổi một ma trận sinh thành ma trận sinh dạng hệ thống.
• Tìm các ma trận kiểm tra tương ứng với một ma trận sinh.
10. Tìm các bộ mã có nhiều từ mã nhất có thể có chiều dài từ mã 1, quãng cách Hamming d. Các

số 1 và d thay đổi như sau: 1 < 1 < 32, 1 < d < 7. Nếu là mã tuyến tính trình bày ma trận sinh và
ma trận kiểm tra của nó. Lưu kết quả vào file.
11. Cho một ma trận sinh. Viết chương trình mã hoá thông báo thành từ mã. Viết chương trình
phát hiện sai và sửa sai 1 bit cho một mã tuyến tính có d > 2 và rút ra thông báo tương ứng với từ
mã nhận được.
12. Viết chương trình mã hoá cho mã tuyến tính Hamming, vị trí các bit thông báo được người sử
dụng chỉ định. Có xuất ra phương trình biểu diễn công thức phụ thuộc của các bit kiểm tra dựa
vào các bit thông báo. Thực hiện quá trình phát hiện sai và sửa sai cho từ mã nhận được và rút ra
thông báo tương ứng với từ mã nhận được.
13. Viết chương trình tìm đa thức sinh. Nếu tìm được hãy xác định ma trận sinh, ma trận sinh hệ
thống và các ma trận kiểm tra của bộ mã. Viết chương trình mã hoá một thông báo thành từ mã
bằng ma trận sinh và ma trận sinh hệ thống. Cho biết khoảng cách Hamming của bộ mã, khả năng
phát hiện sai và sửa sai.
14. Viết chương trình mô phỏng việc truyền tin của một hệ thống truyền tin chống nhiễu bao gồm
các việc sau:
• Cho phép chọn hay nhập vào ma trận sinh.
• Thực hiện việc mã hoá thông báo thành từ mã.
• Thực hiện việc random nhiễu trong khả năng phát hiện sai được.
• Thực hiện việc phát hiện sai.
• Sửa sai nếu được, ngược lại thông báo phát lại.
• Giải mã để tìm ra thông báo gởi.
2