Nghiên cứu về xử lý tín hiệu thống kê và ứng dụng xây dựng bộ cân bằng kênh tự thích nghi

Bộ Giáo dục-Đào tạo
Trường Đại Học Bách Khoa Hà Nội
Trung Tâm Đào Tạo Bồi dưỡng sau Đại Học
()

Luận Văn Thạc sĩ
Ngành: Xử lý thông tin và truyền thông
Đề Tài : Nghiên cứu về xử lý tín hiệu thống
kê và ứng dụng xây dựng bộ cân bằng kênh tự
thích nghi.

Giảng viên hướng dẫn : TS Nguyễn Kim Khánh
Học viên thực hiện

: Nguyễn Hà Đảm

Lớp

: CHVF

Khoá

: 2001

Hà Nội 2004


Xử lý thông tin và truyền thông

mụC lụC
Mở đầu
Chương I: Tỉng quan vỊ xư lý tÝn hiƯu thèng kª

1

1.1 TÝn hiệu ngẫu nhiên rời rạc

1

1.1.1 Khái niệm tín hiệu ngẫu nhiên rời rạc

1

1.1.2 Đặc trưng momen của tín hiệu ngẫu nhiên dừng

4

1.1.2.1

Các Momen và các Culmulant

4

1.1.2.2

Đặc trưng của tín hiệu ngẫu nhiên trong miền tần số

7

1.1.2.3

Đặc trưng của tín hiệu ngẫu nhiên trong miền biến đổi Z

9

1.2 Các phép biến ®ỉi tun tÝnh

10

1.3 BiĨu diƠn tÝn hiƯu ngÉu nhiªn d­íi dạng vecto ngẫu nhiên

13

1.3.1 Vectơ ngẫu nhiên

13

1.3.2 Các moment

14

1.3.3 Các phép biến đổi tuyến tính của vectơ ngẫu nhiên

15

1.3.4 Hàm mật độ phân bố Gausian

17

1.4 Những nguyên tắc cơ bản của ước lượng

17

1.4.1 Bài toán ước lượng tham số

18

1.4.2 Bài toán ước lượng các biến ngẫu nhiên

23

1.4.3 Ước lượng trung bình-bình phương tuyến tính

25

Chương 2: Ước lượng phổ quá trình ngẫu nhiên
vàcác mô hình tham số
sử dụng cho ước lượng phổ

27

2.1 Giới thiệu

27

2.2 Một số khái niệm và định nghĩa

27

2.2.1 Quá trình ngẫu nhiên

27

2.2.2 Phổ của tín hiệu xác định

28

Luận văn thạc sĩ


Xử lý thông tin và truyền thông



2.2.3 Phổ của quá trình ngẫu nhiên

30

2.3 Bài toán ước lượng phổ công suất

31

2.3.1.1 Ước lượng phổ không tham số theo phương pháp Periodogram

32

2.3.1.2 Ước lượng phổ không tham số theo phương pháp Bartlett

34

2.3.1.3 Ước lượng phổ không tham số theo phương pháp Welch

35

2.3.1.4 Ước lượng phổ không tham số theo phương pháp
Blackman-Tukey

36

2.3.1.5 Ước lượng phổ trên cơ sở tối thiểu hoá phương sai

37

2.3.1.6 Ước lượng phổ không tham số ứng dụng các phép nhân cửa sổ

38

2.3.2 Các phương pháp ước lượng phổ dựa trên mô hình tham số

39

2.3.2.1 Ước lượng phổ dựa trên mô hình tự hồi quy

40

2.3.2.2 Ước lượng phổ dựa trên mô hình dịch chuyển trung bình

42

2.3.2.3 Ước lượng phổ dựa trên mô hình dịch chuyển trung bình
- tự hồi quy

43

2.3.2.4 Ước lượng phổ dựa trên mô hình phân tích theo
hàm điều hoà(phương pháp Pisarenko)

44

Chương 3: Lọc Wiener và xử lý tÝn hiÖu thÝch nghi

48

3.1 Läc Wiener

48

3.1.1 Bé läc FIR Wiener

48

3.1.2 Bé läc IIR Wiener

51

3.2 Xư lý tÝn hiƯu thÝch nghi

52

3.2.1 C¬ së cđa xư lý tÝn hiƯu thÝch nghi

52

3.2.2 Xư lý tín hiệu thích nghi theo phương thức giảm gradient

54

3.2.3 Xư lý tÝn hiƯu thÝch nghi theo ph­¬ng thøc tèi thiểu
trung bình bình phương (LMS-Least Mean Squares)
3.2.3.1 Thuật toán LMS chuẩn

Luận văn thạc sĩ

56
56


Xử lý thông tin và truyền thông



3.2.3.3 Thuật toán LMS sư dơng dÊu cđa sai sè

57

3.2.3.4 Tht to¸n LMS sư dụng phương thức gán trọng số dạng mũ

57

3.2.4 Thuật toán thích nghi theo phương thức tối thiểu
bình phương sử dụng phép tính đệ quy

58

Chương 4: ứng dụng thuật toán thích nghi xây
dựng bộ cân bằng kênh

4.1 Vấn đề cân bằng kênh trong các hệ thống thông tin số

61

61

4.2 Bộ cân bằng kênh thích nghi theo phương thức ra quyết định

trực tiếp

64

4.3 Các hướng cơ bản cho bài toán cân bằng kênh tự thích nghi

65

4.4 Xây dựng bộ cân bằng kênh tự thích nghi

67

4.5 ứng dụng xử lý đa kênh trong các bộ cân bằng kênh tự thích
nghi

71
Chương 5: Kết qủa mô phỏng

74

5.1 Tín hiệu ngẫu nhiên

74

5.1.1 Tín hiệu xác định và nhiễu cộng ngẫu nhiên

74

5.1.2 Tín hiệu ngẫu nhiên rời rạc

74

5.2 Một số kết quả mô phỏng minh hoạ các thuật toán ước
lượng phổ bằng phương pháp thống kê

75

5.2.1 Ước lượng phổ theo phương pháp Periodogram

75

5.2.2 Ước lượng phổ theo phương pháp Bartlett

77

5.2.3 Ước lượng phổ theo phương pháp Welch

78

5.2.4 Ước lượng phổ theo phương pháp Balckman-Tukey

79

5.2.5 Phổ của tín hiệu xác định theo phương pháp Yule-Walker
dựa trên mô hình tham số AR

80

5.2.6 Phổ tín hiệu được xác định dựa trên mô hình tham số MV

81

5.3 Lọc tín hiệu

82

Luận văn th¹c sÜ


Xử lý thông tin và truyền thông



5.3.1 Lọc tín hiệu dựa trên các thông tin về phổ của tín hiệu

82

a) Bé läc FIR

82

b) Bé läc IIR

82

5.3.2 Läc tÝn hiÖu b»ng bộ lọc tối ưu Wiener(không dựa trên các
thông tin về phổ của tín hiệu)

83

5.4 Cân bằng kênh tự thích nghi

84

5.4.1 Cân bằng kênh tự thích nghi sử dụng thuật toán LMS

84

5.4.2 Cân bằng kênh tự thích nghi bằng thuật toán LMS sử dụng
dấu sai số

85

5.4.3 Cân bằng kênh tự thích nghi bằng thuật toán LMS có tính đến

dấu dữ liệu đầu vào bộ cân bằng

86

5.4.4 Cân bằng kênh tự thích nghi b»ng tht to¸n LMS sư dơng dÊu
cđa sai sè và dấu của dữ liệu đầu vào bộ cân bằng

87

5.4.5 Cân bằng kênh tự thích nghi bằng thuật toán LMS với trạng
thái ban đầu được thiết lập bằng lọc Wiener tèi ­u cã hn
lun

88

KÕt ln

89

Phơ lơc: Mét sè tõ viÕt tắt tiếng Anh

90

Tài liệu tham khảo

91

Luận văn thạc sĩ

Xử lý thông tin và truyền thông



Mục lục hình vẽ
Hình 1.1 Các ví dụ về quá trình ngẫu nhiên

1

Hình 1.2 Tập các mẫu của quá trình ngẫu nhiên dừng

2

Hình 1.3 Phổ mật độ công suất của quá trình ngẫu nhiên

8

Hình 1.4 Hàm tương quan dạng mũ và mật dộ phổ công suất

10

Hình 1.5 Biểu diễn dÃy ngẫu nhiên bằng vectơ ngẫu nhiên

13

Hình 1.6 Ước lượng của trung bình theo xác suất lớn nhất

18

Hình 1.7 Hàm mật độ sử dụng cho ước lượng đúng

20

Hình 1.8 Ước lượng biến ngẫu nhiên y từ tập quan sát

23

Hình 1.9 Các hàm giá trong ước lượng Bayes

34

Hình 4.1 Miêu tả tương đương một kênh thông tin số

61

Hình 4.2 Hệ thống cân bằng kênh thích nghi

62

Hình 4.3 Bộ cân bằng kênh thích nghi theo phương thức ra quyết
định tực tiếp

64

Hình 4.4 Sơ đồ khối hệ thống cân bằng kênh tự thích nghi

67

Hình 4.5 Cấu trúc bộ cân bằng ứng dụng phương thức xử lý đ kênh

71

Hình 5.1 Tín hiệu xác định và nhiễu cộng ngẫu nhiên

74

Hình 5.2 Tín hiệu nguẫ nhiên và tín hiệu ngẫu nhiên rời rạc

74

Hình 5.3 Ước lượng phổ theo phương pháp Periodogram

75

Hình 5.4 Phổ của tín hiệu xác định theo phương pháp Periodogram
dựa trên chuỗi xấp xỉ

76

Hình 5.5 Phổ của tín hiệu xác định theo phương pháp Bartlett

77

Hình 5.6 Phổ của tín hiệu xác định bằng phương pháp Welch

78

Hình 5.7 Phổ của tín hiệu xác định bằng phương pháp Blackman-Tukey

79

Hinh 5.8 Phổ của tín hiệu xác định bằng phương pháp Yule-Walker 80
Hình 5.9 Phổ của tín hiệu xác định dựa trên mô h×nh tham sè AR

81

H×nh 5.10 Läc nhiƠu tÝn hiƯu b»ng bộ lọc FIR được thiết kế dựa trên
quan sát phổ tín hiệu

82

Hình 5.11 Lọc nhiễu bằng bộ lọc IIR được thiết kế dựa trên quan sát
phổ tín hiệu
82
Luận văn thạc sÜ


Xử lý thông tin và truyền thông



Hình 5.12 Lọc nhiễu bằng bộ lọc Wiener FIR trên cơ sở tối thiểu
sai số tín hiệu

83

Hình 5.13 Tín hiệu đầu ra bộ cân bằng kênh ở trạng thái cân bằng
sử dụng thuật toán LMS

84

Hình 5.14 Tín hiệu đầu ra bộ cân bằng kênh tù thÝch nghi theo tht
to¸n LMS sư dơng dÊu sai số

85

Hình 5.15 Tín hiệu đầu ra bộ cân bằng kênh tù thÝch nghi theo tht
to¸n LMS cã sư dơng dÊu của dữ liậu đầu vào

86

Hình 5.16 Tín hiệu đầu ra bộ cân bằng kênh tự thích nghi theo thuật
toán LMS sử dụng hàm dấu của sai số và dữ liệu đầu vào 87
Hình 5.17 Kết quả mô phỏng bộ cân bằng kênh tự thích nghi sử
dụng thuật toán LMS với trạng thái cân bằng ban đầu

Luận văn thạc sĩ

88


Xử lý thông tin và truyền thông



Chương I: Tổng quan vỊ xư lý tÝn hiƯu thèng kª

1.1 TÝn hiƯu ngÉu nhiên rời rạc
1.1.1 Khái niệm tín hiệu ngẫu nhiên rời rạc
Tín hiệu ngẫu nhiên rời rạc được biểu diễn bởi dÃy rời rạc x[n] là tín

hiệu mà với sự lựa chän bÊt kú cđa biÕn ®éc lËp n = n0 thì giá trị x[n0 ] là
một giá trị ngẫu nhiên.Hình 1.1 lµ mét sè vÝ dơ vỊ tÝn hiƯu ngÉu nhiên rời
rạc:

Hình 1.1 : Các ví dụ về quá trình ngẫu nhiên : (a) Nhiễu,(b) dữ
liệu nhị phân,(c) quá trình ngẫu nhiên dạng sin,(d) quá trình
ngẫu nhiên dạng điện áp không đổi.
- ở hình 1.1.a tín hiệu ngẫu nhiên rời rạc thực, tại giá trị bất kỳ của biến
độc lập n = n0 thì giá trị tín hiệu x[n0 ] nhận giá trị thực nào đó.
- ở hình 1.1.b giá trị tín hiệu tại thời điểm n = n0 một cách ngẫu nhiên
là -1 hoặc +1.
- ở hình 1.1.c và 1.1.d thoả mÃn định nghĩa tín hiệu ngẫu ngiên. Nhưng

Luận văn thạc sĩ

1


Xử lý thông tin và truyền thông



giá trị của tín hiệu ứng với giá trị bất kỳ của biến độc lập n = n0 là một
giá trị ngẫu nhiên nào đó nằm trong một số hữu hạn các giá trị có thể.
Với tín hiệu ở hình 1.1.c ta thấy biên độ và pha của nó có thể là một
giá trị ngẫu nhiên. Nhưng giá trị ở pha tiếp theo có thể xác định
thông qua giá trị ở hai pha liên tiếp trước đó của tín hiệu. Với tín hiệu
ở hình 1.1.d giá trị của tín iệu có thể là một giá trị ngẫu nhiên nào đó
nhưng một mẫu bất kỳ của tín hiệu sẽ đại diện cho tín hiệu ở một thời
điểm bất kỳ .

Nhận xét: Các tín hiệu ngẫu nhiên như ở hình 1.1.c và 1.1.d được
gọi là các tín hiệu ngẫu nhiên có thể tiên đoán. Các tín hiệu ngẫu nhiên
có thể tiên đoán có những phương pháp xử lý riêng so với tín hiệu ngẫu
nhiên thông thường: Các quá trình ngẫu nhiên có thể tiên đoán hoàn toàn
có thể ước lượng từ tổ hợp tuyến tính các giá trị trước đó của quá trình.
Đặc trưng thống kê cơ bản của quá trình ngẫu nhiên được thể hiện
thông qua hàm phân bố xác suất hoặc hàm mật độ xác suất của các mẫu
tín hiệu.
Với hàm mật độ, ta sử dụng một dÃy xung để biểu diễn các giá trị
xác suất rời rạc. Để đặc trưng cho toàn bộ tín hiệu có thể tạo ra hàm mật
độ chung cho tổ hợp các mẫu tín hiệu bất kỳ của quá trình ngẫu nhiên
như hình 1.2. Nếu như hàm mật độ chung này không phụ thuộc vào vị trí
các mẫu và khoảng cách lấy mẫu là giống nhau. Thì quá trình ngẫu nhiên
được coi là dừng nghiêm ngặt.

Hình 1.2 : Quá trình ngẫu nhiên dừng. Tập các mẫu bất kỳ
có khoảng cách lấy mẫu bằng nhau có cùng hàm mật độ.

Luận văn thạc sĩ

2


Xử lý thông tin và truyền thông



3 trường hợp chủ u xt hiƯn trong xư lý tÝn hiƯu mµ cã thể chấp
nhận các tính chất thống kê của tín hiệu ngẫu nhiên . Đó là:
ã Khi các mẫu của tín hiệu là độc lập , trong trường hợp này hàm mật

độ chung cho tập các mẫu bất kỳ là tích số của các hàm mật độ của
từng mẫu riêng biệt. Nếu các mẫu có trung bình zero thì loại quá trình
ngẫu nhiên này được biết như là quá trình nhiễu trắng hoàn toàn.
ã Khi hàm mật độ điều kiện cho các mẫu fx[n]x[n-1]... chỉ phụ thuộc vào
mẫu trước đó x[n-1] ( hoặc k mẫu trước đó ). Loại quá trình này được
biết như là một quá trình MarKov (hoặc quá trình MarKov bậc k)
ã Khi các mẫu của quá trình ngẫu nhiên là tuân thủ phân bố Gaussian .
Thì quá trình ngẫu nhiên được gọi là quá tình ngẫu nhiên Gaussian và
nó xuất hiện nhiều trong các ứng dụng thực tế. Ví dụ khi dÃy ngẫu
nhiên là các mẫu tín hiệu của một loại nhiễu.
Việc phân tích thống kê tín hiệu là hoàn toàn hợp lý trong các
trường hợp khi bản chất tự nhiên của bài toán cho phép ứng dụng một
trong các mô hình ở trên. Trong phần lớn các trường hợp chúng ta không
biết hoàn toàn về phân bố thông kê của tín hiệu. Tuy nhiên một phân tích
hữu dụng nào đó vẫn có hể được đưa ra thông qua việc sử dụng các
momen thống kê của tín hiệu.
Cho trường hợp tín hiệu ngẫu nhiên chỉ nhận giá trị thực thì các
momen bậc 1 và 2 theo thứ tự là các hàm trung bình và hàm tương quan
được định nghĩa như sau:
mx[n]={x[n]}

(1.1)

và
Rx[n1,n0]= {x[n1]x[n0]} (1.2)
Các momen bậc cao hơn được định nghĩa tương tự như sau:
mx(3) [n0,n1,n2]={x[n0]x[n1]x[n2]}

(1.3)

mx(4) [n0,n1,n2,n3]={x[n0]x[n1]x[n2]x[n3]}

Luận văn th¹c sÜ

(1.4)

3


Xử lý thông tin và truyền thông



Momen tổng quát được biểu diễn bởi biểu thức:
{xk0[n0]xk1[n1]...xkL[nL]} (1.5)
Các momen thường không biết và nó được ước lượng từ tập dữ liệu
quan sát. Trong trường hợp quá trình ngẫu nhiên dừng ta tính momen tõ
trung b×nh nh­ sau:
+N
1
x k 0 [n]x k1 [n + l1 ]...x kL [n + l L ] (1.6)
∑
N →∞ 2 N + 1
n=− N

x k 0 [n]x k1 [n + l1 ]...x kL [n + l L ] = lim

tho¶ m·n tÝnh chÊt :
<xk0[n]xk1[n+l1]...xkL[n+lL]>= ε{xk0[n0]xk1[n1]...xkL[nL]}
NÕu (1.6) tho¶ m·n với mọi giá trị của L, sự lựa chọn khoảng cách

tuỳ ý l1,l2,...,lL và sự lựa chọn các hệ số mũ k0.k1,...kL thì quá trình ngẫu
nhiên được gọi là Ergodic tuyệt đối.
Một quá trình ngẫu nhiên mà chỉ thoả mÃn điều kiện :
<x[n]>={x[n]} (1.7)
được gọi là Ergodic trung bình.
Một quá trình ngẫu nhiên thoả mÃn điều kiện:
<x[n]x[n+l]>={x[n]x[n+l]}

(1.8)

được gọi là Ergodic trong tương quan.
Hai điều kiện (1.7) và (1.8) là thoả mÃn trong hầu hết các phân tích
thống kê.
Ergodic gợi ý rằng các momen thống kê có thể ước lượng được từ một
thực hành đơn giản trên qúa trình ngẫu nhiên.
1.1.2 Đặc trưng momen của tín hiệu ngẫu nhiên dừng
1.1.2.1

Các Momen và các Culmulant

- Các momen của một quá trình ngẫu nhiên dừng là không phụ thuộc
vào chỉ số n . Do vậy momen trung bình của quá trình ngẫu nhiên
dừng là một hằng số được xác định như sau:
mx={x[n]} (1.9)

Luận văn thạc sĩ

4

Xử lý thông tin và truyền thông



- Hàm tự tương quan chỉ phụ thuộc vào khoảng cách giữa hai mẫu l như
sau:
Rx={x[n]x*[n-l]} (1.10)
(dấu * trong công thức là dấu liên hợp phức)
- Hàm hiệp phương sai được định nghĩa như sau:
Cx[l]={(x[n]-mx)(x[n-l]-mx)*} (1.11)
- Và thoả mÃn quan hệ :
Rx[l]=Cx[l]+|mx|2 (1.12)
Nếu quá trình ngẫu nhiên không phải là dừng tuyệt đối nhưng có
trung bình là hằng số và hàm tương quan của nó chỉ phụ thuộc vào
khoảng cách giữa hai mẫu l thì quá trình được gọi là dừng theo nghĩa mở
rộng. Các giá trị riêng Rx[0]={|x[n]|2} và Cx[0]={|x[n]-mx|2} theo thứ tự
biểu diễn công suất và phương sai của tín hiệu.
Ví dụ với quá trình ngẫu nhiên là nhiễu trắng (quá trình bất kỳ có
trung bình zero và các mẫu không tương quan) Rx[l]=0 với mọi giá trị l
khác 0. Với quá trình nhiễu trắng như vậy thì hàm tương quan có dạng:
Rx[l]=Cx[l]=20[l].
ở đây [l]=0 với l0 và [l]=1 với l=0.Dấu liên hợp phức trong công
thức (1.10) và (1.11) được sử dụng khi tín hiệu nhận giá trị phức:
x[n]=xr[n]+jxi[n]
Nếu tín hiệu là dừng ta có :
- Hàm tương quan cho phần thực và phần ảo là bằng nhau:
Rxr[l]=Rxi[l]=1/2Re{Rx[l]}

(1.13)

- Hàm tương qua chéo giữa phần thực và phần ảo thoả mÃn:
Rxrxi[l]=-Rxixr[l]=-1/2Im{Rx[l]} (1.14)
Các hàm tương quan có hai tính chất được suy ra từ định nghĩa là:
ã Hàm đối xứng liên hợp:
Rx[l]=R*x[-l]
Luận văn thạc sÜ

(1.15)
5


Xử lý thông tin và truyền thông



ã Hàm xác định không âm :
+

+

a * [n1 ]R x [n1 − n0 ]a[n0 ] ≥ 0

(1.16)

n1 = −∞ n0 =

Hai tính chất này có thể suy ra một cách rễ ràng từ định nghĩa. Tính
chất không âm có thể thu được từ tính chất:
Rx[0]|Rx[l]|

l0;

Các momen và Culmulant bậc cao hơn đôi khi cũng sử dụng trong
các mô hình xử lý tín hiệu. Các momen bậc 3 và 4 cho quá trình ngẫu
nhiên dừng thường được viết như sau:
M(3)x[l11,l2]={x*[n]x[n+l1]x[n+l2]}

(1.17)

M(4)x[l11,l2,l3]={x*[n]x[n+l1]x[n+l2]x[n+l3]} (1.18)
Khi quá trình ngẫu nhiên có trung bình zero thì các cumulant bậc 3
và 4 cho bởi:
C(3)x[11,l2]={x*[n]x[n+l1]x[n+l2]}

(1.19)

C(4)x[11,l2,l3]={x*[n]x*[n+l1]x[n+l2]x[n+l3]}-C(2)x[l2]C(2)x[l3-l1]-C(2)x[l3]C(2)x[l2-l1] (1.19a) Với quá trình ngẫu nhiên phức
C(4)x[11,l2,l3]={x[n]x[n+l1]x[n+l2]x[n+l3]}-C(2)x[l2]C(2)x[l3-l1]-C(2)x[l3]C(2)x[l2-l1] (1.19b) Với quá trình ngẫu nhiên thực
Trong công thức trên C(2)x[l]={x[n]x*[n+l]} là cumulant bậc 2.
Khi phân tích các quá trình ngẫu ngiên thì các cumulant được ưa
dùng hơn các momen bởi vì các cumulant bậc từ 3 trở lên của quá trình
ngẫu nhiên Gaussian đều bằng 0. Do vậy các phương pháp xử lý tín hiệu
dựa trên các cumulant bậc cao có thuận lợi là che được ảnh hưởng của
nhiễu Gaussian.
Các momen chéo giữa hai hay nhiều tín hiệu ngẫu nhiên cũng được
sử dụng. Ví dụ cho hai tín hiệu ngẫu nhiên dừng x và y. Các hàm tương
quan chéo và hiệp phương sai chéo được định nghĩa như sau:
Rxy[l]={x[n]y*[n-l]}

Luận văn thạc sĩ

(1.21)

6


Xử lý thông tin và truyền thông



và
Cxy[l]={(x[n]-mx)(y[n-l]-my)*} (1.22)
Rxy[l], Cxy[l] thoả mÃn qua hệ :
Rxy[l]= Cxy[l]+mxmy*

(1.23)

Các momen chéo và cumulant thoả mÃn tính chất :
Rxy[l]= R*yx[-l]
Cxy[l]= C*yx[-l]
1.1.2.2

Đặc trưng của tín hiệu ngẫu nhiên trong miền tần số

+ Hàm mật độ phổ công suất được định nghĩa như là biến đổi Fourier của
hàm tự tương quan như sau:
+

S (e j ) =

R x [l ]e jl

(1.24)

l =

Và biến đổi ngược là:
1
R x [l ] =
2



S x (e

j

)e jl d

(1.25)

-

Gọi là mật độ phổ công suất bởi vì trên thùc tÕ ta cã:

{

C«ng suÊt TB = ε x[n]

2

}

1
= R x [0] =
2



S x (e

j

)d



Kết quả trên được suy ra từ (1.10) và (1.25). Vì mật độ phổ công
suất có thể bao gồm cả hai thành phần liên tục và rời rạc. Nên dạng tổng
quát của nó là:
S x (e jω ) = S x' (e jω ) + 2Pi c (e j e ji )

(1.26)

i

ở đây : Sx(ej) biểu diễn phần liên tục của phổ. Trong khi đó tổng các
trọng số xung biểu diễn phần rời rạc hay các vạch phổ. Các vạch phổ bắt
nguồn từ tÝn hiƯu ngÉu nhiªn cã chu kú:xem vÝ dơ nh­ hình 1.1.c và
1.1.d.

Luận văn thạc sĩ

7


Xử lý thông tin và truyền thông



Hình 1.3: Phổ mật độ công suất của quá trình ngẫu nhiên
phức với các thành phần liên tục và rời rạc.
Hai tính chất mang tính định nghĩa của hàm tương quan (1.15) và
(1.16) tương ứng với hai tính chất của hàm mật độ phổ công suất:
ã Sx(ej) là thực
ã Sx(ej) là xác định không âm Sx(ej) 0
Ngoài ra nếu tín hiệu ngẫu nhiên là thực thì Sx(ej) là một hàm chẵn
của tần số.
Với quá trình ngẫu nhiên là nhiễu trắng hàm mật độ phổ công suất
là hằng số Sx(ej) =02.
Hàm mật độ phổ công suất chéo được định nghĩa như là biến đổi
Fourier của hàm tương quan chéo tương ứng.
S xy (e j ) =

+∞

∑ R xy [l ]e − jωl

(1.29)

l = −∞

Th«ng h­êng hàm mật độ phổ công suất chéo có giá trị phức .Mật
độ phổ chéo ở một điểm nào đó trong miền tần số là số đo tương quan
giữa các thành phần của 2 quá trình ngẫu nhiên ở tần số ®· chän. Víi phỉ
chÐo th­êng dïng hµm:
Γxy (e

jω

)=

S xy (e j )
S x (e

j

) S y (e

j

(1.30)
)

Và bình phương biên ®é :
2

Γxy (e jω ) =

S xy (e jω )

2

S x ( e jω ) S y ( e jω )

(1.31)

Thường được sử dụng thay thế cho |Sxy(ej)| và có tính chất:
Luận văn thạc sĩ

8


Xử lý thông tin và truyền thông



2

0 xy (e j ) 1

1.1.2.3

(1.32)

Đặc trưng của tín hiệu ngẫu nhiên trong miền biến đổi Z

Trong rất nhiều trường hợp khi phân tích tín hiệu chúng ta cần phải
biến đổi Z các hàm tương quan và tương quan chéo.Ví dụ như khi thiết
kế các bộ lọc cho tín hiệu ngẫu nhiên.

Biến đổi Z của hàm tương quan ta thu được hàm mËt ®é phỉ:
S x ( z) =

+∞

∑ R x [l ]z −l

(1.33)

l = −∞

Vµ cã tÝch chÊt :
S x ( z ) = S x* (

1
z*

)

(1.34)

Và Sx(z) nhận giá trị thực trên vòng tròn đơn vị. Với quá trình ngẫu
nhiên là thực thì tính chất (1.34) được thay thế bởi: S x ( z ) = S x (z -1 )
Với hàm mật độ phổ phức dạng hữu tỷ. Biểu thức (1.34) hàm ý rằng
bất kỳ biểu thức căn ở tử số hoặc mẫu số xét tại giá trị z0 thì có tương ứng
một biểu thức căn ở vị trí nghịch đảo. Điều này suy ra rằng số các điểm 0
trên vòng tròn đơn vị xuất hiện là số chẵn( các điểm cực không xuất hiện
trên vòng tròn đơn vị).
Hàm tương quan có thể thu được từ biến đổi ngược nh­ sau:
R x [l ] =

1
2π

∫ S x ( z) z

l 1

dz

(1.35)

c

Điều kiện : Đường tính tích phân trong miền hội tụ của phép biến
đổi. Miền hội tụ luôn có dạng: a<|z|<1/a . Để tính tích phân trên ta có thể
sử dụng phương pháp thặng dư.
Hàm mật độ phổ chéo và biến đổi Fourier ngược của nó được định
nghĩa tương tự như (1.33) và (1.35).
Một dạng đơn giản nhưng hữu dụng là hàm ương quan có dạng mũ
như sau:
Rx[l]=2|l| (1.36)
Luận văn thạc sĩ

9


Xử lý thông tin và truyền thông

Hàm mật độ phổ công suất tương ứng là :
S x (e j ) =

σ 2 (1 − ρ 2 )

(1.37)

1 + ρ 2 2 cos( )

Hàm mật độ phổ phức tương øng lµ :
S x ( z) =

σ 2 (1 − ρ 2 )

(1.38)

− ρz + (1 + ρ 2 ) z 1

Hàm này có một cặp cự thực là : z= và z=1/ và miền hội tụ nằm
giữa hai điểm cực.

Hình 1.4 : Hàm tương quan dạng mũ và mật độ phổ công
suất tương ứng(>0).(a) Hàm tương quan.(b)hàm mật độ
phổ công suất.
1.2 Các phép biến đổi tuyến tính
Các hệ thống tuyến tính bất biến được biểu diễn trong miền tín hiệu
bằng đáp ứng xung h[n]. Nếu đầu vào của hệ thống tuyến tính này là tín
hiệu ngẫu nhiên x[n] thì đầu ra y[n] của hệ thống cho bởi phép nhân
chập:

y[n] =

+

h[k ]x[n k ]

(1.39)

k =-

Nếu x[n] là dừng thì y[n] cũng là dừng. Lấy trung bình hai vế của
phương trình ta được:

Luận văn thạc sĩ

10


Xử lý thông tin và truyền thông

{y[n]} =



+

h[k ]{x[n − k ]}

k =-∞

Hc
m y = mx

+∞

∑ h[k ]

(1.40)

k =

Hàm tương quan của đầu ra có thể tinh như sau : Nhân hai vế của
(1.39) với y*[n-l] và lấy trung bình các vế ta có :

{

}

y[n] y * [n − l ] =

∑ h[k ]{x[n − k ] y * [n − l ]}
+∞

k =-∞

Hc
Ry =x

+∞

∑ h[k ]R xy [l − k ]

k = −∞

Chóng ta cã thể viết như sau:
Ry[l]=h[l]*Rxy[l]

(1.41)

ở đây * là phép nhân chập các dÃy.
Nhân hai vế (1.39) với x*[n-l] thực hiện biến đổi tương tự ta thu
được :
Ryx=h[l]*Rx[l]

(1.42)

Sử dụng các liên hợp phøc Rxy[l]=R*yx[-l] vµ Rx[l]=R*x[-l] vµo biĨu
thøc (1.42) ta cã : Ryx[l]=h*[-l]*Rx[l]

(1.43)

Kết hợp (1.41) và (1.43) ta được :
Ry[l]=h[l]*h*[-l]*Rx[l]

(1.44)

Nói cách khác hàm tương quan của đầu ra thu được bằng cách nhân
chập 2 lần hàm tương quan đầu vào với hàm đáp ứng xung và hàm đối
xứng của hàm đáp ứng xung liên hợp phức.
Có thể rễ ràng chứng minh được rằng các hàm hiệp phương sai và

phương sai chéo cũng thoả mÃn các quan hệ từ (1.41) đến (1.44)
Bằng cách sử dụng các quan hệ giữa biến đổi Fourier và biến đổi z,
kết hợp với 4 phương trình từ (1.41) đến (1.44) ta có thể rễ ràng thu được
các biểu thức kết quả của phép biến đổi tuyến tính trong miền tấn số và

Luận văn thạc sĩ

11


Xử lý thông tin và truyền thông



trong miền biến đổi z. Một tập toàn bộ các quan hệ tuyến tính được liệt
kê như trong bảng1.1.
Bảng 1.1 Các phương trình quan hƯ trong biÕn ®ỉi tun tÝnh

( ) ( ) ( )
(e ω ) = H (e ω )S (e ω )
(e ω ) = H (e ω )S (e ω )

R xy [l ] = h[l ] * R x [l ]

S yx e jω = H e jω S x e jω

Rxy [l ] = h*[−l ] * Rx [l ]

S xy

R y [l ] = h[l ] * R xy [l ]

Sy

j

j

*

S xy ( z ) = H ( z )S x ( z )

(

j

j

S y ( z ) = H ( z )S xy ( z )

j

xy

( )

( ) S (e ω )

R y [l ] = h[l ] * h * [− l ]R x [l ] S e jω = H e jω
yx

2

j

x

)

S xy ( z ) = H * 1 / z * S x ( z )

j

x

(

)

S y ( z ) = H ( z )H * 1 / z * S x ( z )

Xét một ví dụ đơn giản sử dụng phép biến đổi tuyến tính : Cho hệ
thống nhân quả bậc 1 được miêu tả bởi phương trình sai phân bậc 1 sau :
y[n]=y[n-1]+x[n]
Hệ thống có đáp ứng xung tương ứng là :
h[n]=nu[n]

ở dây u[n] là hàm nhảy đơn vị.

Biến ®ỉi Z cho ta hµm :

H ( z) =

1
1 − z 1

Nếu đầu vào hệ thống là quá trình ngẫu nhiên nhiễu trắng thì
Sx(z)=02 và tất cả các tín hiệu là thực thì hàm mật độ phổ phức đầu ra
của hƯ thèng lµ: S y ( z ) = H ( z ) H ( z −1 ) S x ( z ) =

σ 02
(1 − ρz −1 )(1 − z )

Các momen và các Cumulant bậc cao đầu ra của hệ thống tuyến tính
cũng có thể tính được từ các đại lượng đầu vào tương ứng . Tuy nhiên
công thức sẽ phức tạp hơn rất nhiều. Với các momen và cumulant bậc 3
và 4 ta có công thức tính sau:
C y(3) [l1 , l 2 ] =

+∞

+∞

+∞

∑ ∑ ∑ C x(3) [l1 − k1 + k 0 , l 2 − k 2 + k 0 ]h[k 2 ]h[k1 ]h * [k 0 ]

(1.45)

k0 = −∞ k1 = −∞ k 2 =

Và

Luận văn thạc sĩ

12


Xử lý thông tin và truyền thông



C y( 4) [l1 , l 2 , l 3 ] =
=

+∞

+∞

+∞

+∞

∑ ∑ ∑ ∑ C x(4) [l1 − k1 + k 0 , l 2 − k 2 + k 0 , l 2 − k 2 + k 0 ]h[k 3 ]h[k 2 ]h[k1 ]h * [k 0 ]

k0 = −∞ k1 = −∞ k 2 = −∞ k3 = −∞

C¸c biĨu thức ở trên được xem như là 1 dÃy các phép nhân chập
giữa các đầu vào với đáp ứng xung của bộ lọc theo các hướng khác nhau.

Hình 1.5: Biểu diễn dẫy ngẫu nhiên bằng vectơ ngẫu nhiên

1.3 Biểu diễn tín hiệu ngẫu nhiên dưới dạng vecto ngẫu nhiên
1.3.1 Vectơ ngẫu nhiên
Để biểu diễn cho một tín hiệu ngẫu nhiên rời rạc ta sử dụng một
vectơ x được trình bày như hình 1.5 gồm N giá trị tín hiệu x[n]
(n=0,1,...,N-1). Biểu thị hàm mật độ chung của N giá trị này bằng hàm
fx(x). Hàm fx(x) sau này được gọi là hàm mật độ xác suất của biến ngẫu
nhiên x. Đầu tiên ta đi xem xét trường hợp tín hiệu ngẫu nhiên thực . Nếu
x0 biểu thị một giá trị riêng của vectơ ngẫu nhiên x:
x 00
0
x1 
x0 =  . 


 . 
 x N0 1

Nếu ta nhân hàm mật độ xác suất với số gia của N thành phần ta có:
fx(x0)x0x1...xN-1
Biểu diễn xác st tÝn hiƯu n»m trong mét vïng hĐp cđa kh«ng gian
vectơ miêu tả bởi:
x 00 < x[0] x 00 + ∆x 0 , x10 < x[1] ≤ x10 + ∆x1 ,..., x N0 −1 < x[ N − 1] x N0 1 + x N 1

(1.49)

Luận văn thạc sÜ

13

(1.46)

Xử lý thông tin và truyền thông



Cho trường hợp tín hiệu ngẫu nhiên phức, vectơ ngẫu nhiên x có các
thành phần phức và hàm fx(x) biểu diễn là hàm mật độ chung của 2N
thành phần của x(cả phần thực và phần ảo của x).
1.3.2 Các moment
Các tính chất vectơ của momen bËc 1 vµ 2 lµ hÕt søc quan träng và
được trình bày như sau:


m0


m x = {x} =  m1 
 ... 

m
 N −1 

(1.50)

ë đây mi={x[i]} với i=0,1,...,N-1. Trong trường hợp thường thấy tín
hiệu ngẫu nhiên là dừng thì tất cả các mi có cùng giá trị.
Ma trận tương quan được định nghĩa như sau :
Rx={xx*T} (1.51)
Kết quả thu được ma trận NìN với phần tử ở hàng thứ i và cột thứ j

tương ứng là {x[i]x*[j]}. Với quá trình ngẫu nhiê dừng thì
{x[i]x*[j]}=Rx[i-j], bëi vËy ma trËn cã d¹ng:
 R x [0]
R x [−1]

R x [1]
R x [ 0]
Rx = 
 .....
....

 R x [ N − 1] R x [ N − 2]

... R x [ − N + 1]

... R x [ N + 2]

...
......

R x [0]
....

(1.52)

Ma trân hiệp phương sai được định nghĩa như sau:
Cx={(x-mx)(x-mx)*} (1.53)
Và thoả mÃn quan hệ:
Rx=Cx+mxm*Tx

(1.54)

Như vậy ma trận hiệp phương sai chính là ma trận tương quan bỏ đi
thành phần trung bình.
Với tín hiệu ngẫu nhiên phức dừng ta có quan hệ giữa phần thực và
phần ảo của ma trận tuơng quan như sau:

Luận văn thạc sĩ

14


Xử lý thông tin và truyền thông



Bảng 1.2 Các phương trình quan hệ giữa phần thực và phần ảo của
hàm tương quan của tín hiệu ngẫu nhiên phức dừng.
Rx={xx*T}=2REx+2jROx
REx={xrxrT}={xixi*T}
ROx=-{xrxiT}={xixr*T}
Tính chất đối xứng được chỉ ra để giải thích rằng:
{xxT}=0

(1.55)

Đúng cho trường hợp các vectơ ngẫu nhiên phức.Ngoài ra các ma
trận tương quan và hiệp phương sai của vecto ngẫu nhiên bất kỳ thoả mÃn
tính chất:
a*TRxa0 và a*TCxa0

Với a là vectơ bất kỳ.
Các ma trận tương quan chéo và hiệp phương sai chéo của hai tín
hiệu ngẫu nhiên tương ứng với hai véctơ ngẫu nhiên x và y cũng được
định nghĩa như sau:
Rxy={xy*T} (1.56)
và
Cxy={(x-mx)(y-my)*T}

(1.57)

1.3.3 Các phép biến đổi tuyến tính của vectơ ngẫu nhiên
Nếu vectơ y được xác định bởi phép biến đổi tuyến tính :
y=Ax

(1.58)

Thì trung bình của vectơ y được xác định như sau:
{y}=A{x}
Hay :
my=Amx

(1.59)

Ma trận tương quan được xác định bởi :
{yy*T} =A{xx*T}A*T

Luận văn thạc sĩ

15

Xử lý thông tin và truyền thông



Hoặc
Ry=ARxA*T

(1.60)

Từ (1.59),(1.60) và (1.54) ta có:
Cy=ACxA*T

(1.61)

Ta biết rằng nếu các vectơ chứa các thành phần không tương quan
thì ma trận hiệp phương sai là ma trận đường chéo. Do đó chúng ta cần
quan tâm đến các phép biến đổi để thu được các vectơ ngẫu nhiên chứa
các thành phần không tương quan.
Vì ma trận tương quan là ma trận đối xứng Hermitian (tất cả các
phần tử trên các đường chéo song song với đường chéo chính là bằng
nhau và ma trận là đối xứng qua đường chéo phụ) và các phần tử của ma
trận là không âm. Các giá rị riêng của ma trận là không âm và các vectơ
riêng là trực giao nên ma trận tương quan bất kỳ có thể viết thành :
Rx=EAE*T (1.62)
ở đây E là ma trận thoả mÃn E*TE=I, với I là ma trận đơn vị. Các cột
của ma trận E chính là các vectơ riêng và A là ma trận đường chéo, với
các giá trị trên đường chéo là các giá trị riêng. Ta có
A=E*RxE
Từ phương trình này và phương trình (1.60) ta thấy rằng nếu:

y=E*Tx
Thì Ry=A là ma trận đường chéo do đó các thành phần của y sẽ là
không tương quan({yiyj=0,ij). Do vậy một phương pháp để tạo ra vectơ
với các thành phần không tương quan là áp dụng biến đổi vectơ riêng.
Ngoài cách áp dụng biến đổi vectơ riêng ta có thể sử dụng phương
pháp phân tích tam giác ma trận tương quan để tạo ra vectơ với các thành
phần không tương quan.Vì các ma trận tương quan luôn thoả mÃn điều
kiện cần và chúng là các ma trận đối xứng Hermitian nên chúng luôn có
thể viết hành:
Rx=LDL*T

Luận văn thạc sĩ

(1.64)

16


Xử lý thông tin và truyền thông



Phương trình (1.64) có thể được viết lại như sau:
D=L-1Rx(L-1)*T (1.65)
Từ (1.60) và (1.65) ta có thể chấp nhận D là ma trận tương quan
cho vectơ ngẫu nhiên y được định nghĩa bởi :
y=L-1 x. (1.66)
Vì D là ma tận đường chéo nên các thành phần của y là không tương
quan.
2 cách biến đổi ở trên tương ứng với 2 phương pháp cơ bản của giải

tương quan tín hiệu từ tập các vectơ riêng trực giao. Nó cũng là phương
pháp hiện đại về phân tích phổ và xử lý mảng.
1.3.4 Hàm mật độ phân bố Gausian
Khi tín hiệu ngẫu nhiên là Gausian thì hàm mật độ cho vectơ ngẫu
nhiên x của tín hiệu là :
+ Trường hợp vectơ ngẫu nhiên x là thực:
f x ( x) =

1

(2π )

N
2

1
Cx 2

1
− ( x − m x )T C x−1 ( x − m x )
e 2

(1.67)

+ Trường hợp vectơ ngẫu nhiên x là phức:
f x ( x) =

1

π N Cx

*T C −1 ( x − m )
x
x

e ( x mx )

(1.68)

1.4 Những nguyên tắc cơ bản của ước lượng
Bài toán ước lượng thống kê được áp dụng khi cần xác định giá trị
của các đại lượng mà ta không thể quan sát hoặc đo đạc một cách trực
tiếp thông qua các giá trị của các đại lượng khác mà ta có thể quan sát và
đo đạc.Sử dụng bài toán ước lượng ta có thể xác định được các tham số
của tín hiệu thông qua các đại lượng mà ta có thể đo lường trực tiếp của
tín hiệu đó hoặc ước lượng nó thông qua một tín hiệu khác. Có hai bài
toán ứơc lượng là bài toán ước lượng tham số và bài toán ước lượng biến
ngẫu nhiên. Mặc dù hai bài toán này có rất nhiỊu ®iĨm chung nh­ng ®Ĩ
thn tiƯn ta cã thĨ xem xét chúng trong từng trường hợp cụ thể.

Luận văn thạc sÜ

17


Xử lý thông tin và truyền thông



1.4.1 Bài toán ước lượng tham số

Phương pháp ước lượng theo xác suất lớn nhất:
Bài toán ước lượng tham số được sử dụng khi ta cã mét tËp c¸c quan
s¸t cơ thĨ cđa biÕn ngẫu nhiên được mô tả bởi hàm mật độ xác suất với
dạng hàm đà biết. Nhưng một số tham số mà giá trị của chúng ta chưa
biết. Trong rất nhiều trường hợp cả biến ngẫu nhiên và tham số đều là các
đại lượng vectơ. Do vậy hàm phân bố được biểu thị bằng :fx;(x;)
Với tập quan sát cho trước x=x0 , phương pháp ước lượng tham số
theo xác suất lớn nhất là ước lượng giá trị của để hàm fx;(x;) là lớn
nhất, và ký hiệu giá trị ước lượng là ml .
Xét ví dụ: ước lượng giá trị trung bình m của hàm mật độ Gaussian:
f x;m ( x; m) =

1
2



e

( x mx ) 2
2

(1.69)

Thông qua quan sát x0 (giả sử phương sai đà biết và bằng 1) Hàm
mật độ được vẽ như hình 1.6

Hình 1.6 : Ước lượng cho trung bình theo xác suất lớn nhất
Rõ ràng rằng nếu giá trị đúng của trung bình là một trong các giá trị
m1,m2 hoặc m4 thì quan sát x0 đà cho x0 là không thể xảy ra.Chọn m3 cho

trung bình m tuy nhiên để quan sát đà cho có khả năng lớn nhất thì phải
cự đại giá trị hàm fx;m(x0;m). Chính là ước lượng theo xác suất lớn nhất.
Khi hàm fx;(x;) được xem là hàm của thì ước lượng tham số theo
xác suất lớn nhất là cực đại hoá hàm fx;(x;). Nếu hàm fx;(x;) là liên
tục và cực đại không xuất hiện. Thì ước lượng tham số theo xác suất lớn
nhất có thể tìm thấy thông qua một trong hai điều kiện:

Luận văn thạc sĩ

18