NLTT- KI-11 pps

Nguyªn lý truyÒn th«ng
TrÇn ThÞ H êng

Tài liệu tham khảo:
1. Cơ sở lý thuyến truyền tin - Đặng Văn
Chuyết, Nguyễn Tuấn Anh NXB
Giáo Dục.
2. Lý thuyết truyền tin Trần Trung
Dũng, Nguyễn Thuý Anh NXB Khoa
học và kỹ thuật.
3. Lý thuyết thông tin Nguyễn Bính

CÊu tróc bµi gi¶ng
Nguyªn lý truyÒn th«ng
Bµi 1: C¸c kh¸i niÖm c¬ b¶n
Bµi 2: L îng tin
Bµi 3: entropi
Bµi 4: M· hiÖu
Bµi 5: M· ho¸ tèi u nguån rêi r¹c kh«ng
nhí

Bài 6: Mã hoá nguồn phổ.
Bài 7: Kênh rời rạc không nhớ, l ợng tin t
ơng hỗ
Bài 8: Mã hoá chống nhiễu và định lý kênh
Bài 9: Mã khối tuyến tính.
Bài 10: mã vòng.

Cấu trúc bài giảng
Nguyên lý truyền thông

Bài 1: Các khái niệm cơ bản
1. Lý thuyết thông tin:

Hệ thống thông tin: Truyền tải tin tức từ
nơi phát tới nơi nhận tin.

Bản tin: Gồm chuỗi các ký hiệu chứa đựng
l ợng thông tin nào đó.

Tín hiệu: là dạng vật lý để biểu diễn một
bản tin

Lý thuyết thông tin
+ Tín hiệu t ơng tự: Là tín hiệu có biên độ
biến thiên liên tục theo thời gian.
+ Tín hiệu số: Là tín hiệu có biên độ biến
thiên không liên tục theo thời gian.

Tin tức(news): là những gì mà con ng ời
muốn trao đổi hay thu nhận từ khách quan.
+ Đặc điểm của tin tức:Mới mẻ và độ tin cậy

Lý thuyết thông tin

Thông tin (information): Sự phản ảnh
mang tính h ớng đích cuả sự vật khách quan
đối với sự nhận biết của con ng ời.

Nhiễu: là những tác động làm suy giảm và
méo tín hiệu.
+ Tạp âm: Là thành phần tồn tại cố hữu bên
trong hệ thống
+ Can nhiễu: Là hiện t ợng lạ từ bên ngoài
tác động vào hệ thống.

2. Hệ thống truyền tin
Nguồn tin Kênh truyền
Nhận tin

Nguồn tin: Nơi tạo ra các bản tin khác
nhau hay chứa các tin cần truyền.
+ Các tin có thể đ ợc truyền trực tiếp hay đ
ợc truyền sau khi thực hiện các phép biến
đổi.
+ Nguồn tin có thể là liên tục hay rời rạc
+ Nguồn tin là một cấu trúc thống kê của
một quá trình ngẫu nhiên.

+ Kênh truyền: Môi tr ờng truyền lan thông
tin
-
Xuất hiện tạp nhiễu
-
Truyền bằng kênh hữu tuyến, vô tuyến
+ Nhận tin: Nơi khôi phục lại tin tức ban
đầu từ tín hiệu thu đ ợc ở đầu ra kênh
truyền.

Hệ thống truyền tin

3. Tham số đánh giá chất l ợng hệ thống

Hiệu suất truyền tin (tốc độ truyền tin): Là
l ợng thông tin hệ thống cho phép truyền đi
trong một đơn vị thời gian.

Độ chính xác truyền tin (khả năng chống
nhiễu của hệ thống): Tin nhận đ ợc sau khôi
phục là phiên bản của tin đ ợc phát đi từ bên
phát.

Rời rạc hóa nguồn liên tục

Lấy mẫu: Trích từ hàm tin ra các mẫu tại các
thời điểm nhất định (thay hàm tin liên tục bằng
một hàm các mẫu rời rạc).
+ Hàm thay thế không làm mất thông tin của
hàm liên tục, tần số lấy mẫu f
LM
= 2f
max
( ) ( )
[ ]
( ){ } ( ) ( )


=

=
=
=
n
n
tnttStnS
ffffStS

.
0:
maxmin
+ Định lý lấy mẫu:
max
2
1
f
t =
Khoảng cách lấy mẫu:

S
min
S
max
S(t)
t
TÝn hiÖu tr íc vµ sau lÊy mÉu
S
min
S
max

( )
tnS ∆
t∆
t∆

•
L îng tö ho¸:
Rêi r¹c hãa nguån liªn tôc
XÐt hµm liªn tôc S(t) cã biªn ®é S:
( )
maxmin
SSS ÷∈
S
min
S
max
( )
tnS ∆
t∆
S
min
S
max
t∆
( )
tnS ∆

S
min
S

max
S(t)
t
tÝn hiÖu liªn tôc
S
min
S
max
( )
tnS ∆
t∆
t∆
tÝn hiÖu lÊy mÉu
S
min
S
max
( )
tnS ∆
t∆
Qua tr×nh LTH
S
min
S
max
t∆
( )
tnS ∆
tÝn hiÖu LTH

4. Lý thuyết xác suất

Xét tập giá trị khi gieo xúc xắc:
S = {1, 2, 3, 4, 5, 6}
+ Sự kiện A là sự xuất hiện các giá trị 2,4:
A = {2,4}
+ Sự kiện bù của A là: Là tập con của S nh
ng không chứa A
{ }
6,5,3,1=A

+ Hai sù kiÖn lo¹i trõ nhau: kh«ng chøa gi¸
trÞ chung: A = {1,3} vµ B = {2,4,5}
+ Hîp (U) cña hai sù kiÖn: lµ sù kiÖn chøa
tÊt c¶ c¸c gi¸ trÞ cña hai sù kiÖn
Lý thuyÕt x¸c suÊt
+ Giao cña hai sù kiÖn: lµ sù kiÖn cã gi¸ trÞ
chung cña hai sù kiÖn:
A ={1,2,3}, B = {1,2}
C = A U B = {1,2,3,4,5}
{ }
2,1=∩=→ BAC

+ X¸c suÊt xuÊt hiÖn sù kiÖn A lµ P(A): lµ
kh¼ n¨ng xuÊt hiÖn sù kiÖn A:
Lý thuyÕt x¸c suÊt
0 P(A) 1≤ ≤
+ Sù kiÖn ®ång thêi: Lµ hai sù kiÖn riªng
®ång thêi xuÊt hiÖn ký hiÖu (A,B)
+ X¸c suÊt ®ång thêi P(Ai,Bj):

0 P(A≤ i,Bj) 1 víi i = 1,2 n, j = 1,2≤ … …
m

NÕu c¸c sù kiÖn cña A
i
lo¹i trõ nhau:
( ) ( )
j
n
i
ji
BPBAP =
∑
=1
,
NÕu tÊt c¶ c¸c sù kiÖn cña A vµ B ®Òu lo¹i
trõ nhau:
( )
1,
1 1
=
∑∑
= =
n
i
m
j
ji
BAP
Lý thuyÕt x¸c suÊt

NÕu c¸c sù kiÖn Bj lo¹i trõ nhau th×:
( )
( )
i
m
j
ji
APBAP =
∑
=1
,

Lý thuyÕt x¸c suÊt
•
X¸c suÊt cã ®iÒu kiÖn: x¸c suÊt cã ®iÒu
kiÖn cña sù kiÖn A víi ®iÒu kiÖn sù kiÖn B
®· xuÊt hiÖn P(A|B):
P(A|B) = P(A,B) /P(B) (1)
•
X¸c suÊt cã ®iÒu kiÖn cña B víi ®iÒu kiÖn
sù kiÖn A ®· xuÊt hiÖn P(B|A):
P(B|A) = P(A,B)/P(A) (2)

Lý thuyÕt x¸c suÊt
Tõ (1,2) ta cã:
( ) ( ) ( )
( ) ( )
( ) ( )
∑
=

==
n
j
jj
i
ii
APABP
APABP
BPBAPBAP
1
|
.|
/,|
KL: C¸c sù kiÖn A
i
coi lµ c¸c tin ® îc ph¸t ®i,
B lµ tin nhËn ® îc khi ph¸t A
i
bÞ nhiÔu t¸c
®éng
P(A,B) = P(A).P(B|A) = P(B).P(A|B)
+ NÕu sù kiÖn B xuÊt hiÖn ®ång thêi víi c¸c
sù kÞªn cña Ai th×:

NÕu sù kiÖn A kh«ng phô thuéc vµo sù kiÖn
B (chóng ®éc lËp thèng kª víi nhau: trªn
kªnh cã nhiÔu lµm sai l¹c tÝn hiÖu hoµn
toµn) th× :
P(A|B) = P(A)
P(B|A) = P(B)

P(A,B) = P(A).P(B)
Lý thuyÕt x¸c suÊt

Bài 2: Thông tin và l ợng tin
1.Khái niệm thông tin

Nguồn rời rạc: Nơi tạo ra các tin dạng rời
rạc.

Nguồn thông tin rời rạc: Nơi tạo ra một
chuỗi các biến ngẫu nhiên rời rạc x1,x
2


Ký hiệu: Phần tử nhỏ nhất có chứa thông
tin

Bộ ký hiệu: Tập hợp các ký hiệu
[X] = [x1,x2xn]

•
Tõ: TËp hîp h÷u h¹n c¸c ký hiÖu.
•
Bé tõ: Lµ tËp hîp c¸c tõ mµ mét bé ký
hiÖu cã thÓ t¹o ra.
•
Nguån kh«ng nhí rêi r¹c: x¸c suÊt xuÊt
hiÖn cña c¸c ký hiÖu kh«ng phô thuéc vµo
ký hiÖu tr íc ®ã: P(x
n

|x
n-1
, x
0
) = P(x
n
)
Trong ®ã x
n
lµ ký hiÖu thuéc tËp X cña
nguån, t¹o ra t¹i thêi ®iÓm n.
Kh¸i niÖm th«ng tin

Kh¸i niÖm th«ng tin
•
Nguån rêi r¹c cã nhí: Lµ nguån mµ x¸c
suÊt xuÊt hiÖn mét ký hiÖu phô thuéc vµo
mét hay nhiÒu ký hiÖu ®· xuÊt hiÖn tr íc
®ã.

L ợng tin và tính chất của l ợng tin

L ợng tin của một tin x
i
thuộc nguồn tin X
đ ợc xác định bởi :
I(x
i
) = log[1/p(x)] = - logP(x
i

)
ví dụ: Nguồi tin X = {x
1
, x
2
, x
3
} với xác
suất xuất hiện t ơng ứng với các bản tin là P
= {0,2; 0,3; 0,5} tính l ợng tin riêng của mỗi
bản tin.
I(x
1
) = - Log (0,2); I(x
2
) = - log(0,3).