Biến đổi nguồn rời rạc
•
Biến đổi cấu trúc thống kê của nguồn:
{X, P(x
i
)} thành {Y,P(y
j
)}
•
Nếu kênh không có nhiễu thì phép biến đổi 1-1 được
biểu diễn:
a 00
b 01
c 10
d 11
•
Phép biến đổi giữa nguồn phát với nguồn
thu:
{(X,Y) P(X,Y)}, X = (a,b,c,d) thì Y=
(00,01,10,11)
•
Xác suất để có đầu vai x và đầu ra y đồng
thời là p(x,y)
•
Có thể sử dụng các xác suất có điều kiện
p(y/x).
Xét kênh nhị phân đối xứng:
x
1
x
2
y
1
y
2
X
Y
P(y
1
/x
1
)
P(y
2
/x
2
)
P(y
2
/x
1
)
P(y
1
/x
2
)
•
Tập vào X = (x
1
,x
2
) và tập ra Y = (y
1
,y
2
)
•
x
1
chuyển thành y
1
với xác suất chuyển đổi: p(y
1
/x
1
)
•
x
1
chuyển thành y
2
với xác suất chuyển đổi: p(y2/x1)
•
x
2
chuyển thành y
1
với xác suất chuyển đổi: p(y1/x2)
•
x
2
chuyển thành y
2
với xác suất chuyển đổi: p(y2/x1)
•
Phép biến đổi giữa tín hiệu vào thành tín hiệu ra được
biểu diễn bởi 4 xác suất có điều kiện (xác suất chuyển
đổi)
•
Phân bố xác suất đầu ra bằng phân bố xác suất đầu
vào với xác suất chuyển đổi: p(x,y) = P(x). P(y/x)
•
Khi gửi tin x, thì xác suất để thu được tin y đầu ở dầu
ra của kênh:
P(y/x) = p(x,y)/p(x)
P(y/x) gọi là xác suất chuyển đổi giữa tín hiệu dầu vào
x và đầu ra y, xác suất này đặc trưng cho phép biến
đổi.
•
Xác suất của tín hiệu đầu và ra
( )
( )
( ) ( )
∑
∑
=
=
i
jij
j
jii
yxpyp
yxpxp
,
,