Phần II
QUÁ TRÌNH NGẪU NHIÊN
Chương 5
NHỮNG KHÁI NIỆM TỔNG QUÁT
§5.1. MỞ ĐẦU
Trong chương này chúng ta sẽ nghiên cứu những khái niệm căn bản nhất về
quá trình ngẫu nhiên (QTNN). Khởi đầu, lý thuyết QTNN được phát triển gắn với
dao động và nhiễu trong những hệ vật lý. QTNN đưa ra những mô hình hữu hiệu
để nghiên cứu các lĩnh vực khác nhau như vật lý thống kê, thông tin liên lạc, phân
tích chuỗi thời gian, phân tích hoạt động mạng máy tính và khoa học quản lý.
5.1.1. Các định nghĩa
*Giả sử
I là tập vô hạn nào đó còn
( )
S, Pℑ,
là không gian xác suất cơ bản.
Họ các biến ngẫu nhiên (BNN)
{ }
t
X,t I∈
cùng xác định trên
( )
S, Pℑ,
được gọi là
hàm ngẫu nhiên.
Tập chỉ số I được gọi là tập xác định; tập giá trị E của các BNN
được
gọi là tập giá trị của hàm ngẫu nhiên.
t
X
Khi
I ⊂ ¡
, tham biến t thường đóng vai trò thời gian (cũng có thể có ý
nghĩa khác) và chúng ta gọi
{ }
t
X,t I∈ là QTNN. Hơn nữa, nếu I là tập đếm được
thì ta gọi
{ }
t
X,t I∈
là QTNN với thời gian rời rạc hay dãy các BNN. Đặc biệt, ta
gọi
{ }
n
X,n∈N
hoặc
{ }
n00
X,n n,n 1,...=+ là dãy các BNN một phía. Nếu
I =Z
thì ta gọi
{ }
n
X,n∈Z
là dãy các BNN hai phía.
Khi I là một khoảng suy rộng của
, chúng ta gọi
R
{ }
t
X,t I∈ là QTNN thời
gian liên tục, đơn giản là QTNN.
Đối với các trường hợp khác, ví dụ
k
I = R ,
{ }
t
X,t I∈ được gọi là trường
ngẫu nhiên. Chúng ta sẽ nghiên cứu chủ yếu QTNN thời gian rời rạc hoặc thời
gian liên tục. Trong quyển sách này nếu không nói gì thêm, QTNN xem xét là
QTNN thực, ở đó tập giá trị là tập con của . Khi tập giá trị là tập con của ,
chúng ta có QTNN phức, chúng ta sẽ nói rõ QT là phức.
R C
*Thực chất, chúng ta đang đề cập đến hàm 2 biến X {X(t, ), t I, S}
= ς∈ς∈
sao cho:
Khi
cố định, là một BNN;
tI∈
X(t, )ς
32
Khi cố định, là một hàm số thông thường trên I, được gọi là
một quỹ đạo (tên khác: thể hiện, hàm chọn) của QT ứng với kết cục
của thí
nghiệm ngẫu nhiên.
Sς∈
X(t, )ς
ς
*Cũng là chính đáng, và đôi khi lại là thoả đáng nhất khi coi QTNN như là
một ánh xạ ứng mỗi
với quỹ đạo
Sς∈
X(., )ς - một hàm số thông thường trên I.
Thuật ngữ hàm ngẫu nhiên có lẽ xuất phát từ quan điểm này.
Như vậy, chúng ta lại có thể coi QTNN như là họ của các quỹ đạo hay là
một tổng thể (ensemble) của các thể hiện (hay các hàm chọn) của nó.
Sự khác biệt giữa các quan niệm nêu trên về QTNN nằm ở mục đích và
phương pháp nghiên cứu.
Để tiện lợi chúng ta hay viết X(t) thay cho
, cũng như hay viết
t
X
()
Xt,ζ
thay cho
( )
t
X ζ
là giá trị của quá trình (QT) tại thời điểm t khi kết quả của thí
nghiệm ngẫu nhiên là
ζ
(khi xảy ra biến cố sơ cấp
S
ζ∈
). Chúng ta cũng hay ký
hiệu QT bởi {{X(t, ), t I, S}ς∈ς∈ X(t), t I}, {X(t)}
∈ hay đơn giản là X.
5.1.2. Phân loại sơ bộ.
Tùy theo tập chỉ số I và không gian giá trị E (trong Vật lý, E được gọi là
không gian trạng thái), người ta phân QTNN làm bốn loại sau đây:
i) I liên tục, E liên tục: QTNN với thời gian liên tục và trạng thái liên tục
(tên khác: QTNN liên tục);
ii) I liên tục, E rời rạc: QTNN với thời gian liên tục và trạng thái rời rạc (tên
khác: QTNN rời rạc);
iii) I rời rạc, E liên tục: QTNN với thời gian rời rạc và trạng thái liên tục (tên
khác: dãy ng
ẫu nhiên liên tục ).
iv) I rời rạc, E rời rạc: QTNN với thời gian rời rạc và trạng thái rời rạc (tên
khác: dãy ngẫu nhiên rời rạc).
Theo các tính chất của quỹ đạo, người ta có thể phân loại QTNN một cách tỉ
mỉ hơn. Chẳng hạn, khi I là khoảng suy rộng nào đó của
R
, ta nói
{ }
t
X,t I∈ là:
* QT liên tục theo quỹ đạo nếu hầu hết các quỹ đạo của nó là hàm liên tục;
* QT bước nhảy nếu hầu hết các quỹ đạo của nó là hàm bậc thang…
Lưu ý rằng trong cuốn sách này, thuật ngữ “hầu hết” hay “hầu chắc chắn”
được sử dụng với ý nghĩa rằng, các tính chất kể đến xảy ra với xác suất 1.
Hình 5.1(a) mô tả một quỹ đạo điển hình c
ủa QTNN liên tục {X(t)}. Hình
5.1(b) mô tả dãy ngẫu nhiên có được bằng cách lấy mẫu QT {X(t)} theo chu kỳ T
0
chọn trước:
( )
n0
X X nT , n 0,1,2,...== Hình 5.1(c) mô tả quỹ đạo của QT dấu của
QT ban đầu: Khi X(t) dương, Y(t) nhận giá trị 1; giá trị -1 được nhận tại những
33
thời điểm còn lại. Dãy rời rạc ở Hình 5.1(d) mô tả dãy mẫu với chu kỳ lấy mẫu T
0
của QT dấu
()
{}
Yt .
(a)
(c)
(d)
(b)
Hình 5.1. Các dạng quỹ đạo của quá trình ngẫu nhiên
5.1.3. Ví dụ về QTNN
Ví dụ 5.1. Điện tâm đồ
Điện tâm đồ là “bức tranh” của tim người thực hiện bằng sóng điện trường
hay siêu âm). Có nhiều “nhiễu” trên những bức tranh này bởi vì sóng điện trường
(hay siêu âm) được phản xạ từ nhiều nơi bên trong lồng ngực.
Ví dụ 5.2.
Đầu ra của kênh thông tin thường bị méo do nhiễu điện từ. Lưu ý
rằng cả tín hiệu đầu vào cũng như tín hiệu điều chế đều có không gian trạng thái
gián đoạn, tín hiệu đầu ra lại có không gian trạng thái liên tục. Cả ba tín hiệu có
thời gian liên tục.
Ví dụ 5.3.
Tín hiệu âm thanh
. Tín hiệu âm thanh có thể được xem là ngẫu
nhiên từ chỗ dãy các âm lượng tạo nên tín hiệu là bất định. Cả không gian trạng
thái và thời gian đều liên tục.
Ví dụ 5.4.
Tín hiệu FM với nhiễu.
Tín hiệu FM (tín hiệu điều chế tần số)
điển hình có dạng:
() ()
t
cf
0
Xt cos2ft 2k asds
⎛⎞
=π+π
⎜⎟
⎝⎠
∫
,
34
trong đó f
c
là tần số mang, thường nằm trong dải tần
88 108MHz÷
, k
f
là hệ số
điều chế máy phát (transmitter`s modulation constant), còn a(s) là tín hiệu âm
thanh cần truyền đi. Thậm chí không có nhiễu, X(t) là tín hiệu ngẫu nhiên từ chỗ
a(s) là ngẫu nhiên.
Ví dụ 5.5.
Sóng sin ngẫu nhiên
. Cho
[ ]
UU0;1: là biến ngẫu nhiên có phân
bố đều trên [0;1]. Xét quá trình
( ) ( ) ( )
Xt, U sin2 t,tζ = ζ π∈R .
Mỗi hàm mẫu của nó là một hàm hình sin theo thời gian với biên độ ngẫu
nhiên.
Ví dụ 5.6.
Dãy nhiễu trắng
. Dãy các BNN {X(n)} được gọi là dãy nhiễu
trắng nếu nó quy tâm (kỳ vọng không), cùng phương sai và không tương quan.
Một quỹ đạo điển hình của dãy nhiễu trắng với
2
1σ = thể hiện ở Hình 5.2. Dãy
nhiễu trắng và QTNN nhiễu trắng có vai trò quan trọng trong nghiên cứu QTNN.
Hình 5.2. Một thể hiện của dãy nhiễu trắng Gauss với phương sai 1.
5.1.4. Họ các phân bố hữu hạn chiều
Giả sử
( )
{ }
Xt,t I∈
là QTNN. Đối với thời điểm
1
tI∈ cố định, X(t
1
) là
biến ngẫu nhiên với hàm phân bố F
X
(x
1
,t
1
) xác định bởi
( ) ( )
{ }
X11 1 1
Fx,t PXt x=<. (5.1.1)
Bây giờ giả sử
{ }
1n
Jt,...,t= là một tập con hữu hạn của I. Hàm phân bố
đồng thời của
( ) ( )
1n
Xt ,...,Xt :
( ) ( ) ( )
{ }
X1 n1 n 1 1 n n
F x ,...,x ;t ,..., t P X t x ,...,X t x=< < (5.1.2)
35
được gọi là hàm phân bố hữu hạn chiều (ở đây có n chiều) của quá trình
( )
{ }
Xt ứng với tập chỉ số J. Tập các hàm phân bố hữu hạn chiều được gọi là họ
các hàm phân bố hữu hạn chiều.
Rõ ràng, họ các hàm phân bố hữu hạn chiều có hai tính chất sau đây:
i) Tính chất đối xứng: Hàm phân bố hữu hạn chiều không thay đổi nếu ta
hoán vị bộ chỉ số (1, 2,…,n). Ví dụ, khi hoán vị hai chỉ số đầu chúng ta có:
( )
X12 n12 n
F x ,x ,..., x ; t ,t ,...,t =
( )
X 213 n213 n
F x ,x ,x ,...,x ;t ,t ,t ,..., t . (5.1.3)
ii) Tính nhất quán theo nghĩa
( ) ( )
X1 n1 n X1 n11 n1
x
n
lim F x ,..., x ;t ,...,t F x ,...,x ;t ,..., t
− −
→∞
= . (5.1.4)
Ngược lại, cho họ hàm phân bố hữu hạn chiều thoả mãn hai tính chất nêu
trên thì tồn tại QTNN
( )
{ }
Xt,t T∈ với họ hàm phân bố hữu hạn chiều đã cho.
Đó chính là nội dung của định lý tồn tại của Kolmogorov (người Nga).
Rất nhiều tính chất quan trọng của QTNN được quy định bởi tính chất của
các hàm phân bố hữu hạn chiều của nó, trong đó quan trọng nhất là hàm phân bố
một chiều F(x; t) và hàm phân bố hai chiều F(x
1
, x
2
; t
1
, t
2
).
Thông thường, chúng ta phải nghiên cứu đồng thời một số QT. Từ đó, mở
rộng (5.1.2), chúng ta đưa vào khái niệm hàm phân bố đồng thời của hai quá trình
( )
{ }
( )
{ }
XXt,YYt==:
( )
XY 1 n 1 m 1 n 1 m
F x ,..., x , y ,..., y ;t ,..., t ,s ,...,s =
( ) ( ) ( ) ( )
{ }
11 n n11 mm
P X t x ;...;X t x ;Y s y ;Y s s=< < < <. (5.1.5)
Độc giả cũng có thể dễ dàng mở rộng sang trường hợp có hữu hạn QT.
§5.2. MỘT SỐ LỚP QUÁ TRÌNH NGẪU NHIÊN
5.2.1. Quá trình cấp II
QTNN
( )
{ }
XXt,tI=∈được gọi là QT cấp p (p > 0) nếu với mọi
( )
tI,Xt∈ là biến ngẫu nhiên khả tích cấp p, tức là
()
p
EX t < ∞ .
Từ bất đẳng thức Liapunov (xem [4 ], Phần III tr 127)
()
(
)
()
(
)
1/q 1/p
qp
EX t EX t ,0 q p≤ << (5.2.1)
suy ra nếu QT là cấp p thì nó cũng là cấp q với 0 < q < p.
Trường hợp quan trọng nhất khi p = 2, lúc đó ta có QT cấp hai.
Đối với QT cấp hai
( )
{ }
XXt,tI=∈đặt
36
( )
() ()()
()
X
X
t E (X(t));
Rt,sEXtXs,t,sI
µ=
=∈;
( ) ( ) ( )
( )
X
C t,s Cov X t ,X s , t,s I=∈. (5.2.2)
và gọi
( )
X
tµ là hàm kỳ vọng, R
X
(t,s) là hàm tự tương quan và C
X
(t,s) là hàm tự
hiệp phương sai của quá trình X đã cho.
Khi biết hàm kỳ vọng , hàm tự hiệp phương sai và hàm tự tương quan có
thể biểu diễn qua nhau theo công thức
( ) ( ) ( ) ( )
XXXX
C t,s R t,s t s=−µµ . (5.2.3)
Cũng từ đây, nếu QT là quy tâm, tức là hàm trung bình bằng 0, thì hàm tự
tương quan và hàm tự hiệp phương sai trùng nhau.
Nhiều khi chúng ta cần tìm
() ()
2
EXt Xs⎡ −⎤
⎣ ⎦
là kỳ vọng của bình phương
số gia X(t) – X(s) của quá trình tại hai điểm t, s. Đại lượng này có thể tính thông
qua hàm tự tương quan:
() () ( ) ( ) ( )
2
XXX
E X t X s R t,t 2R t,s R s,s⎡−⎤= − +
⎣⎦
. (5.2.4)
Trong kỹ thuật, thường thì
( )
{ }
Xt là dạng sóng theo thời gian của điện áp
hay dòng trên kháng 1 ôm. Công suất của QT tại thời điểm t là X
2
(t) và công suất
trung bình tại thời điểm này là E(X
2
(t)),
ký
hiệu bởi P
X
(t). Như vậy, trong biểu
thức (5.2.2) cho t = s ta nhận được công suất trung bình
( ) ( ) ( )
2
XX
Pt E[Xt]R t,t== (5.2.5)
và hàm phương sai
() () ()
()
() (
2
22
XX X X X
tC(t,t)EXt t Rt,t tσ= = −µ = −µ
)
. (5.2.6)
Để chuẩn hoá hàm tự hiệp phương sai, người ta dùng hệ số tự tương quan
()
( )
() ()
X
X
XX
Ct,s
t,s
Ct,tCs,s
ρ= . (5.2.7)
Hàm trung bình
và hàm tự tương quan là hai thống kê quan
trọng nhất của QT. Tuy nhiên, để tính chúng phải thông qua trung bình tổng thể,
tức là phải biết mật độ xác suất hai chiều của QT - điều rất khó thực hiện trong
thực tế. Ở bài
§
3.5 tiếp theo chúng ta sẽ giới thiệu cách tính xấp xỉ các hàm này
trong tình huống khi việc lấy trung bình tổng thể không thể làm được.
X
(t)µ
X
R (t,s)
Đối với hai QTNN cùng xác định trên I và không gian xác suất
( )
S, Pℑ
,
, đặt
( ) ( ) ( )
XY
Rt,sE[XtYs= ], (5.2.8)
( )
XY X Y
C t,s E[(X(t) (t))(Y(s) (s))]; t,s I=−µ −µ ∈, (5.2.9)
37
XY
XY
XY XY
C(t,s)
(t,s)
C(t,t)C(s,s)
ρ=
(5.2.10)
và được gọi lần lượt là hàm tương quan chéo, hàm hiệp phương sai chéo và hệ số
tương quan chéo của hai quá trình X và Y.
Dễ thấy quan hệ (5.2.3) có thể mở rộng cho hàm hiệp phương sai chéo:
( ) ( ) ( ) ( )
XY XY X Y
C t,s R t,s t s= −µ µ . (5.2.11)
Hai quá trình X và Y được gọi là không tương quan nếu:
( )
XY
Ct,s0, t,sI= ∀∈. (5.2.12)
Điều này tương đương với
( )
XY
R t,s E[X(t)].E[Y(t)], t ,s I= ∈ .
Hai quá trình X và Y được gọi là trực giao nếu:
( )
XY
R t,s E[X(t)Y(s)] 0, t,s I= =∀∈. (5.2.13)
Rõ ràng, nếu một trong hai QT là quy tâm thì hai khái niện không tương
quan và trực giao là tương đương:
X quy tâm: X,Y không tương quan
⇔ X, Y trực giao.
Ví dụ 5.7.
Ví dụ tầm thường về QTNN là tín hiệu tất định X(t) = f(t), trong
đó f(t) là hàm số cho trước. Đối với trường hợp này,
( ) ( ) ( ) ( ) ( )
XX
tft;Rt,sftfsµ= = .
Ví dụ 5.8.
Xét quá trình
( )
{ }
Xt với
() ( )
0,2 t s
XX
t3;Rt,s94e
− −
µ= =+ .
Hãy tìm kỳ vọng, phương sai, hiệp phương sai của các biến ngẫu nhiên
Z = X(5); W = X(8).
Ta có E[Z] = E[W] = 3
( ) ( )
()
22
XX
X
E[Z ] R 5,5 13; E[W ] R 8,8 13;
E[Z W] R 5,8 11,195.
== =
==
=
Vậy D[Z] = D[W] = 13 -
= 4
2
3
Cov(Z, W) = E[Z W] – E[Z]E[W] = 2,195.
5.2.2. Quá trình số gia độc lập
Định nghĩa.
QTNN
( )
{ }
XXt,tI=∈được gọi là QT số gia độc lập nếu
các số gia của nó trên những khoảng thời gian rời nhau là những BNN độc lập:
Với mọi t
0
, t
1
, …, t
n
trên I: t
0
< t
1
< …< t
n
, các số gia
( )
( )
( )
( ) ( )
01 0 n n
X t ,X t X t ,...,X t X t
1
−
−−
là những BNN độc lập.
38
Thêm vào đó, nếu luật phân bố của X(t) – X(s) chỉ phụ thuộc vào hiệu t – s
thì ta gọi X là quá trình số gia độc lập thuần nhất.
Ví dụ 5.9.
Cho
{ }
n
,n 0,1,...ξ= là dãy BNN độc lập. Dãy tổng riêng {X
n
}
001012012
X ; X ; X ,...=ξ =ξ +ξ =ξ +ξ +ξ
lập thành dãy số gia độc lập (hãy chứng minh !).
Định nghĩa
. Cho
{ }
t
XX,tI=∈là QT cấp hai:
()
2
EXt t I.<∞∀ ∈ Ta
nói X là QT số gia không tương quan nếu hai số gia của nó trên những khoảng thời
gian rời nhau là những BNN không tương quan.
Cụ thể là, với t
0
, t
1
, t
2
, t
3
bất kỳ trên I sao cho t
0
< t
1
< t
2
< t
3
ta có:
1032
Cov(X(t ) X(t ), X(t ) X(t )) 0−−=.
Rõ ràng là, nếu X là QT số gia độc lập và là QT cấp hai thì X là QT số gia
không tương quan. Điều ngược lại nói chung không đúng (có những phản ví dụ
chứng tỏ điều này).
5.2.3. Quá trình dừng
QT dừng có vai trò đặc biệt quan trọng trong vô tuyến điện cũng như nhiều
ngành khác. Về đại thể, quá trình dừng có “dáng điệu” bất biến theo thời gian.
Chúng ta phân QT dừng làm hai loại: theo nghĩa hẹp và theo nghĩa rộng.
a) Quá trình dừng theo nghĩa hẹp
Định nghĩa.
Ta nói QTNN
{ }
t
XX,tI=∈là QT dừng theo nghĩa hẹp (hay
QT dừng mạnh) nếu với số tự nhiên n bất kỳ, với J = {t
1
,…, t
n
} là tập con tùy ý
của I và với số thực h bất kỳ sao cho
{ }
1n
K t h,...,t h I= ++⊂, các VTNN
1n
(X(t ),...,X(t )) và
1n
(X(t h),...,X(t h))+ +
có cùng luật phân bố.
Nói ngắn gọn, đó là quá trình có họ phân bố hữu hạn chiều bất biến với phép
dịch chuyển thời gian.
Thường người ta xét trường hợp I
=
R
; cũng có thể xét các trường hợp
khác, ví dụ
[
)
I0;=+∞ hay
[ ]
Ia;b= .
Thực tế, việc kiểm tra điều kiện dừng nói trên rất khó khăn. Tuy nhiên, lại
có thể phát biểu một loạt điều kiện cần (nhưng không đủ) để một quá trình (QT) là
dừng theo nghĩa hẹp. Nếu vi phạm dù 1 trong các điều kiện này thì khẳng định
rằng QT không là dừng theo nghĩa hẹp.
* Cho n = 1. Chúng ta nhận được
( ) ( )
XX
F x,t F x,t h , x , t,h : t,t h I=+∀∈∀+
R
∈.
Như vậy, đối với QT dừng theo nghĩa hẹp hàm phân bố một chiều không phụ
thuộc vào thời gian.
39
* Nếu QT là cấp k (k nguyên không âm) thì
k
k
E(X (t)) , t I=υ ∀ ∈ .
Đặc biệt, nếu QT là cấp hai thì hàm trung bình và phương sai là hằng số:
( ) ( )
() ()
X
22
X
tE[Xt];
tD[Xt] , t
µ= =µ
σ= =σ ∀∈I.
* Bây giờ chọn n = 2, t
0
cố định tùy ý trên I nhận được:
( ) ( )
( )
X 1 212 X 1 200 2 1
F x ,x ;t ,t F x ,x ;t ,t t t .=+−
Như vậy, một điều kiện đủ là: Hàm phân bố hai chiều chỉ phụ thuộc hiệu
thời gian:
( ) ( )
X1212 X12
Fx,x;t,t Fx,x;= τ với
21
ttτ =−.
Nếu các hàm phân bố có mật độ thì điều kiện này tương đương với
( ) ( )
X1212 X122 1
fx,x;t,t fx,x;t t= − .
* Tương tự, hàm tự tương quan R
X
(t,s) và hàm tự hiệp phương sai C
X
(t,s)
chỉ phụ thuộc vào hiệu thời gian:
( ) ( ) ( ) ( )
XX
Rt,sE[XtXs]Rts==−;
( ) ( ) ( )
( )
( )
XX
Ct,sCovXt,Xs Cts==.−
Thực vậy,
( ) ( ) ( )
X
22
Rt,s xydFx,y;t,s xydFx,y;ts==
∫∫ ∫∫
RR
−
chỉ phụ thuộc vào hiệu t - s. Tương tự cho hàm
( )
X
Ct,s.
Những trình bày về dừng theo nghĩa hẹp nêu trên có thể được mở rộng thành
dừng theo nghĩa hẹp đồng thời của hai QT:
Hai QT
( )
{ }
Xt và
( )
{ }
Yt được gọi là dừng theo nghĩa hẹp đồng thời nếu
các hàm phân bố đồng thời của chúng (xác định theo (5.1.5)) bất biến với phép
dịch chuyển thời gian.
b) Quá trình dừng theo nghĩa rộng
Định nghĩa.
Giả sử
{ }
t
XX,tI=∈ là QT cấp hai. Ta nói rằng X là QT
dừng theo nghĩa rộng nếu:
i) Hàm kỳ vọng là hằng số
( ) ( )
XX
tE[Xt] , tµ= =µ ∈I;
ii) Hàm tự tương quan chỉ phụ thuộc vào hiệu thời gian
( ) ( ) ( ) ( )
XX
Rt,sE[XtXs]R , ts= =ττ=−
trong đó
( )
X
R τ là hàm nào đó của biến
τ
.
40
Để tiện lợi, QT dừng theo nghĩa rộng được gọi tắt là QT dừng.
Lưu ý rằng nếu xảy ra (i) thì điều kiện (ii) tương đương với
ii’)
( ) ( ) ( ) ( ) ( ) ( )
XXXX
Ct,sE[(Xt t)(Xs s)C , ts
= −µ −µ = τ τ= −
là hàm chỉ phụ thuộc vào hiệu t – s.
Người ta cũng gọi hàm
( )
X
R
τ
,
( )
X
C
τ
lần lượt là hàm tự tương quan và tự
hiệp phương sai của quá trình dừng X.
Các điều kiện (ii) và (ii’) được viết dưới dạng tiện lợi sau đây:
( ) ( )
()(
XX
XX
Rt ,tR
Ct ,t C .
+τ = τ
+τ = τ
)
;
Phương sai của QT dừng là hằng số:
( ) ( ) ( )
22
XX
D[X t ] t C 0
=σ = =σ
,t I∀ ∈ .
Người ta gọi
là kỳ vọng chung,
X
µ
2
X
σ là phương sai chung của QT X.
Rõ ràng, mỗi QT dừng theo nghĩa hẹp và là cấp hai sẽ là một QT dừng theo
nghĩa rộng. Ngược lại nói chung không đúng (có những ví dụ minh hoạ điều này).
Sau đây chúng ta nêu ra một số tính chất của hàm tự tương quan.
Định lý 5.1.
Cho
( )
X
R τ là hàm tự tương quan của QT dừng nhận giá trị
thực
( )
{ }
Xt,t∈
R
. Khi đó:
i)
( )
X
R τ là hàm chẵn, tức là
( ) ( )
XX
RR,−τ= τ ∀τ∈
R
.
ii) Hàm
( )
X
R τ đạt cực đại tại
0τ =
:
( ) ( )
XX
RR0,τ≤ ∀τ∈
R
.
iii)
( )
X
R τ là hàm xác định không âm theo nghĩa:
Với mỗi bộ 2n số thực t
1
,…, t
n
, b
1
,…,b
n
bất kỳ luôn xảy ra bất đẳng thức:
()
n
ij X i j
i,j 1
b bR t t 0
=
− ≥
∑
. (5.2.14)
Chứng minh.
i)
( ) ( ) ( ) ( ) ( )
XX X XX
RR0R0,R,0R−τ = − τ = τ = τ = τ .
ii) Áp dụng bất Cauchy-Schwarz, ta có
( ) ( ) ( ) ( )
() ()
(
)
()
XX
1/2
22
X
RR,0EXX0
EX EX 0 R 0.
τ= τ = τ
≤τ =
iii)
() ()
()
2
nn
ii ij i j
i1 i,j1
0E bXt bbE[XtXt]
==
⎛⎞
≤=
⎜⎟
⎝⎠
∑∑
=
41
42
)
(
n
ij X i j
i,j 1
b bR t t
=
=
∑
−.
Câu hỏi tự nhiên đặt ra là, vấn đề “ngược lại” phải chăng cũng đúng? Định
lý không kèm chứng minh sau đây sẽ là câu trả lời cho vấn đề này.
Định lý 5.2.
Hàm số
( )
R,
ττ∈
R
là hàm tự tương quan của một QTNN thực,
dừng khi và chỉ khi
( )
R
τ
là hàm xác định không âm.
Kiểm tra tính xác định không âm của một hàm số cho trước là điều khá khó
khăn. Định lý sau đây (xem [12], tr 404) nêu lên một điều kiện đủ để một hàm cho
trước là hàm tự tương quan.
Định lý 5.3.(Polya).
Hàm chẵn
( )
R,
τ τ∈
R
là hàm tự tương quan của một
QTNN thực, dừng nào đó nếu thoả mãn hai điều kiện sau đây:
i)
( )
R
τ
là hàm lồi trên
( )
0;
+∞
;
ii)
( )
lim R c ;
τ→∞
τ= c - hữu hạn.
Ví dụ 5.10.
Xét dao động điều hoà với biên độ và tần số hằng số, pha ngẫu nhiên:
( ) ( )
Xt Asin t+ , t=ωΘ ∈
R
trong đó A, ω là các hằng số, có phân bố đều trên [0;2π]. Chúng ta có: Θ
()
2
0
A
E[X(t)] sin t + d 0
2
π
= ωθθ=
π
∫
;
( ) ( )
( )
( )
()
X
2
2
Rt ,tEAsin t+ .Asint+
A
Ecos cos2 t+2
2
A
cos ,
2
⎡ ⎤
+τ = ω τ +Θ ω Θ
⎣ ⎦
= ⎡ ωτ − ω Θ + ωτ ⎤
⎣ ⎦
=ωτ
là hàm số chỉ phụ thuộc vào τ.
Vậy X dừng. Hơn nữa chứng minh được (xem [15] tr 90 -91):
Cho ω là hằng số, A và
Θ là hai BNN độc lập;
{ }
X(t),t∈
R
xác định ở Ví
dụ 5.11 là QT dừng mạnh khi và chỉ khi
Θ có phân bố đều trên [0;2π].
Ví dụ 5.11.
Xét sóng sin ngẫu nhiên
( ) ( )
Xt Asin2t, t= π∈
R
trong đó A là biến ngẫu nhiên có phân bố đều trên [0;1]. Dễ thấy
()
X
1
tsin2tcon
2
µ= π≠st, vậy
( )
{ }
X t không là QT dừng (theo nghĩa rộng).
Chúng ta cũng có thể tính được
()
(
) ( )
()
( ) ( )
XX
sin 2 t sin 2 s sin 2 t sin 2 s
Rt,s ;Ct,s
31
ππ ππ
==
2
.
Định nghĩa.
QTNN
( )
{ }
Xt,t∈
R
được gọi là tuần hoàn theo bình phương
trung bình (hay MS - tuần hoàn) nếu tồn tại số thực t
0
sao cho
.
2
0
E[X (t t ) X(t)] 0, t+− = ∀∈
R
Ta gọi t
0
là MS - chu kỳ của quá trình.
Từ định nghĩa suy ra ngay rằng, với xác suất 1,với mọi t
∈ ¡
0
X(t t ) X(t)+ = .
Lưu ý:
Không suy ra
( )
( )
{ }
0
P :Xt t, Xt, , t 1ζ + ζ = ζ ∀=.
Định lý 5.4.
Nếu đối với dừng
( )
{ }
Xt xảy ra đẳng thức
( )
( )
XX
R0 Rt=
0
thì
( )
{ }
X t là MS - tuần hoàn với MS - chu kỳ là t
0
.
Lưu ý rằng hàm tự tương quan của QT dừng có thể có thành phần hằng số
khác không, có thể có thành phần tuần hoàn, có thể có thành phần tắt dần nhanh
hoặc chậm. Hình 5.3 đưa ra các dạng điển hình của hàm tự tương quan.
X
R()τ
X
R()τ
X
R()τ
X
R()τ
Hình 5.3.
Các dạnh điển hình của hàm tự tương quan của QT dừng
Đối với QT dừng
( )
{ }
Xt , hệ số tương quan (5.2.7) trở thành
()
( )
()
X
X
X
C
,
C0
τ
ρτ= τ∈
R
. (5.2.15)
c)Dừng đồng thời.
Định nghĩa.
Ta nói hai QT
{ }
X(t)},{Y(t) là dừng đồng thời nếu mỗi QT
{ }
X(t) ,
{ }
Y(t) là dừng, hơn nữa hàm tương quan chéo của chúng chỉ phụ thuộc
vào hiệu thời gian:
43
XY XY
R (t,s) E[X(t)Y(s)] R (t s).= =−
Đòi hỏi này được viết lại dưới dạng tiện lợi sau đây:
XY XY
R (t ,t) E[X(t )Y(t)] R ( ).+τ = +τ = τ (5.2.16)
Hàm
được gọi là hàm tương quan chéo của hai QT
{
XY
R(τ)
}
X(t)},{Y(t) .
Khi mỗi QT X, Y là dừng, ràng buộc (5.2.16) tương đương với hàm hiệp
phương sai chéo chỉ phụ thuộc vào hiệu thời gian:
C(
XY XY XY X Y
t ,t)C()R() .+τ = τ = τ −µ µ (5.2.17)
Khác với hàm tự tương quan, hàm tương quan chéo nói chung không chẵn.
Sau đây là một số tính chất của hàm tương quan chéo hai QT dừng đồng thời.
Định lý 5.5.
Đối với hai QT thực dừng đồng thời
{ }
X(t)},{Y(t) ta có:
XY YX
(i) R ( ) R ( );−τ= τ
XY X Y
(ii) R ( ) R (0) R (0) ;τ≤
(iii)
XY
XY
R(0) R(0)
R()
2
.
+
τ≤
Chứng minh.
Tính chất (i) trực tiếp suy từ định nghĩa. Từ bất đẳng thức
Cauchy-Schwarz và từ tính dừng suy ra
(
22 2
E[X(t )Y(t)]) E[X (t )]E[Y (t)]+τ ≤ +τ
==
22
XY
E[X (0)].E[Y (0)] R (0) R (0),
chúng ta nhận được (ii). Tính chất (iii) suy ra từ (ii) và bất đẳng thực Cauchy:
XY
XY
R (0) R (0)
R (0) R (0) .
2
+
≤
Một số dạng có thể của hàm tự tương quan chéo thể hiện ở Hình 5.4.
Hình 5.4.Hàm tương quan chéo của hai QT thực, dừng đồng thời
Một lợi ích của hàm tương quan chéo là nhờ đó ta có thể tính được hàm tự
tương quan của tổng hai QT.
Định lý 5.6.
Đối với hai QT dừng đồng thời
{ }
X(t)},{Y(t) ta có
(5.2.18)
X Y X Y XY YX
R () R () R () R () R ().
+
τ= τ+ τ+ τ+ τ
44
Chứng minh.
Ta có
E[X(t ) Y(t )][X(t) Y(t)]+τ + +τ +
= E[X(t )X(t)] E[Y(t )Y(t)] E[X(t )Y(t)] E[Y(t )X(t)]
+ τ + +τ + +τ + +τ
=
X Y XY YX
R()R()R ()R ().τ +τ+τ+τ
5.2.4. Quá trình Gauss
QTNN
( )
{ }
Xt,t I∈ được gọi là quá trình Gauss (hay QT chuẩn) nếu các
phân bố hữu hạn chiều cuả nó là chuẩn. Nói cách khác, đối với mỗi tập con hữu
hạn J = {t
1
,...,t
n
} ⊂ I, véc tơ ngẫu nhiên có phân bố chuẩn.
1
(X(t ),...,X(t ))
n
∈
Theo định nghĩa của VTNN chuẩn, điều kiện này chính là:
1n
a ,...,a∀
R
, BNN
( ) ( )
11 n n
aX t ... a X t+ + có phân bố chuẩn.
Để đơn giản cách viết, giả sử
( )
i
XXt
i
= , đặt
;
11
nn
XE[X]
[X]
X;mE(X)
XE
⎛⎞ ⎛ ⎞
⎜⎟ ⎜ ⎟
===
⎜⎟ ⎜ ⎟
⎜⎟ ⎜ ⎟
⎝⎠ ⎝ ⎠
gg
1
n
x
x;
x
⎛⎞
⎜⎟
=
⎜⎟
⎜⎟
⎝⎠
g
( )
1n
C Cov X ,...,X .=
Hàm mật độ đồng thời của các biến ngẫu nhiên
cho bởi
1
X ,...X
n
()
()
()(
T
1
1n
1
xm C xm
2
X ,...,X 1 n
n/2
n/2
1
f x ,...,x e
2detC
−
)
− −−
=
π
. (5.2.19)
Đặc biệt, phân bố một chiều và phân bố hai chiều là các phân bố chuẩn.
Mật độ đồng thời (5.2.19) hoàn toàn quyết định bởi các phân bố một chiều
(vì
) và các phân bố hai chiều (vì
iiii
m E[X ], C D[X ]==
i
( )
ij i j
CCovX,X= với
i ≠j). Vì vậy, nếu QT đã cho là dừng (theo nghĩa rộng) thì các giá trị
sẽ bất
biến đối với phép dịch chuyển thời gian, và do đó, mật độ đồng thời ở (5.2.19)
cũng sẽ bất biến. Từ đó chúng ta có:
i
m,C
ij
Định lý5.7.
Nếu quá trình Gauss là dừng (theo nghĩa rộng) thì nó cũng là QT
dừng theo nghĩa hẹp.
Hai lớp QTNN đặc biệt quan trọng là QT Poisson và QT Wiener sẽ được
giới thiệu ở
§
5.5.
45
⇓§5.3. TÍNH CHẤT ERGODIC VÀ TRUNG BÌNH THỜI GIAN
5.3.1. Giới thiệu
Ergodic là một tính chất tinh vi, thoạt đầu khó có thể chấp nhận được nó, thế
nhưng lại rất hữu ích và được sử dụng rộng rãi. Khái niệm này được định nghĩa
theo nhiều dạng khác nhau: theo nghĩa bình phương trung bình hay theo nghĩa hầu
chắc chắn; theo kỳ vọng, theo hiệp phương sai hay theo mô men cấp p nào đó; áp
dụng cho quá trình dừng hay cho quá trình bất kỳ. Những định lý ergodic
được
phát hiện đầu tiên vào nửa đầu thế kỷ XX bởi J.Von.Neumann, B.Birkoff (Mĩ),
A.Ia. Khinchin (Nga).
Nói một cách ngắn gọn, tính chất ergodic đảm bảo rằng:
Nếu một tham số thống kê nào đó của QT được tính bằng kỳ vọng, tức là
trung bình tổng thể thì tham số đó cũng có thể được tính theo trung bình thời gian
đối với một quỹ đạo đơn lẻ.
Để hình dung ra tính ergodic, chúng ta xét ví dụ sau đây. Sắp xếp thờ
i gian
trong ngày theo phút ta có thể coi
{ }
t I 0,00; 0,01;...;24,00∈ =
. Giả sử ở phút thứ
t, số gói tin chuyển qua một nút nào đó của một mạng máy tính là N(t). Số gói tin
trung bình chuyển qua nút lúc 10 giờ là E[N(10,00)].
Để tính giá trị này, chúng ta ghi lại kết quả quan sát của N ngày, ví như N
= 100. Theo luật mạnh số lớn ta có thể xấp xỉ
() ()
()
1100
1
E[N(10,00)] N 10,00 ... N 10,00
100
≈++
trong đó N
i
(10,00) là số gói tin chuyển qua nút trong 1 phút vào lúc 10 giờ ở ngày
thứ i.
Nếu quá trình
( )
{ }
Nt
có tính ergodic, chúng ta chỉ cần quan sát trong một
ngày nào đó, với thời đoạn khá lớn nào đó - chẳng hạn N = 100 phút – quanh 10
giờ, ví như từ 9 giờ 00 đến 10 giờ 40. Chúng ta chỉ việc lấy số gói tin chuyển qua
nút trong 100 phút đó chia cho 100 sẽ được xấp xỉ cho giá trị trung bình cần tìm.
Để đơn giản, người ta có thể tiến hành hai thí nghiệm trên theo phương pháp
mô phỏng thống kê. Kể cả khi ấy, chúng ta thấy lợi ích lớn lao của việc l
ấy trung
bình theo thời gian. Tiện ích của việc lấy trung bình thời gian lớn đến mức người
ta cứ tiến hành phương pháp này, dù rằng quá trình có thể không là ergodic.
Chúng ta đưa ra sau đây hai dạng của tính ergodic: ergodic kỳ vọng và
ergodic hiệp phương sai, và hầu như chỉ áp dụng cho QT dừng.
46
5.3.2. Ergodic kỳ vọng
Định nghĩa
. Đối với hàm số f(t),
t ∈ ¡
cho trước, trung bình thời gian của
f(t) xác định bởi
T
T
T
1
lim f (t)dt
2T
→+∞
−
∫
, (5.3.1)
và được ký hiệu là A[ f(t)]. Toán tử A[ . ] được gọi là toán tử trung bình thời gian.
Trường hợp {f(t)} là QTNN, giới hạn đưa ra được hiểu theo bình phương
trung bình.
Định nghĩa
. QTNN dừng nhận giá trị thực
( )
{ }
Xt được gọi là ergodic kỳ
vọng nếu kỳ vọng
µ
của QT bằng trung bình thời gian của một quỹ đạo bất kỳ:
() ()
T
T
T
1
E[Xt] lim Xtdt,
2T
→+∞
−
=
∫
(5.3.2)
giới hạn theo bình phương trung bình.
Đặt
()
T
T
T
1
XX
2T
−
=
∫
tdt
. (5.3.3)
T
X
là giá trị trung bình thời gian trên [- T; T] của
{ }
X(t)
. Khi , giới
hạn
là giá trị trung bình của quỹ đạo trên toàn trục số. Đối với QTNN
tổng quát, giới hạn đã nêu là một BNN, tức là phụ thuộc vào
T→∞
T
t
lim X
→∞
Sζ∈ . Tuy nhiên:
Đối với QT ergodic, chúng ta có thể lấy trung bình thời gian của một quỹ
đạo bất kỳ làm trung bình tổng thể của quá trình :
E[X(t)] A[X(t)]
=
.
Định lý 5.8.
Giả sử
( )
{ }
X t là QTNN dừng, nhận giá trị thực với hàm trung
bình
và hàm tự hiệp phương sai
µ
( )
X
C
τ
. Điều kiện cần và đủ để
( )
{ }
Xt là QT
ergodic kỳ vọng là
()
T
X
T
0
1
lim 1 C d 0
TT
→+∞
τ
⎛⎞
− ττ=
⎜⎟
⎝⎠
∫
. (5.3.4)
Chứng minh.
Theo tính chất của tích phân (xem mục 5.4.3) chúng ta có:
T
T
T
1
E[X ] E[X(t)]dt .
2T
−
==
∫
µ
Từ đó,
( )
T
XT
→µ →∞
theo bình phương trung bình khi và chỉ khi
( )
2
TT
D[X ] 0 T
σ= → →∞
. Lại áp dụng tính chất của tích phân và tính dừng của
( )
{ }
X t chúng ta đi tới
47
()
()
()
()
TT
2
TT
TT
11
D[X ] E X t dt X s ds
2T 2T
−−
⎡ ⎤⎡ ⎤
σ= = −µ −µ
⎢ ⎥⎢ ⎥
⎣ ⎦⎣ ⎦
∫∫
()
()
()
()
TT
2
TT
1
EXt Xs dtds
4T
−−
⎡⎤
=−µ−
⎣⎦
∫∫
µ
()
TT
X
2
TT
1
Ctsdtd
4T
−−
=−
∫∫
s
s
.
Đối với tích phân kép cuối cùng, bằng cách đổi biến
uts,vt= −=+
ta đi tới:
()
2T
X
2T
1
1C
2T 2T
−
⎛⎞τ
d
− ττ
⎜⎟
⎝⎠
∫
.
(Nếu các bạn khó khăn trong việc xác định cận của biến tích phân u, v, trước
48
Bây giờ sử dụng tính chẵn của hàm C(τ) ta được
u2=τ. Cũng có thể dùng lược
đồ vi phân để tính tích phân này).
( ) ( )
uts 2;vts 2=− =+ ,
trong tích phân đơn thu được đặ
t
hết hãy dùng phép quay
s
t
T
T
()
2T
2
TT X
0
1
D[X ] 1 C d
T2T
τ
⎛⎞
σ= = − τ τ
⎜⎟
⎝⎠
∫
. (5.3.5)
Từ đó nhận được kết luận của định lý.
Nhận xét.
Theo quan điểm của thống kê toán, X
T
chính là một ước lượng
không chệch và vững của kỳ vọng
µ . Hơn nữa, theo bất đẳng thức Chebychev
(3.5.1), phương sai tính theo (5.3.5) còn cho phép chúng ta tìm khoảng tin cậy
cho ước lượng này. Chẳng hạn, độ tin cậy để
2
T
σ
( )
TTTT
X 4,47 ; X 4,47µ∈ − σ + σ
( )
TTTT
3;X3)(Xµ∈−σ +σ
T
là lớn hơn 95% (lớn hơn 8/9).
Như vậy khi
là một ước lượng thoả đánh của kỳ vọng µ .
T
,Xσ<<µ
Thực ra, điều kiện ergodic (5.3.2) được đảm bảo bởi điều kiện khá đơn giản
theo định lý sau đây. (Có thể xem chứng minh trong [ 8 ], trang 430).
Định lý 5.9 (Định lý Slutsky).
Quá trình dừng nhận giá trị thực
( )
{ }
Xt với
hàm tự tương quan
( )
X
C là ergodic khi và chỉ khi τ
()
T
X
T
0
1
lim C d 0
T
→+∞
τ τ=
∫
. (5.3.6)
Hai hệ quả sau đây đưa ra những điều kiện cho tính ergodic rất dễ kiểm tra
trong nhiều trường hợp.
Hệ quả.
a) Nếu tích phân hội tụ thì quá trình
()
X
0
C
∞
ττ
∫
d
( )
{ }
X t là ergodic kỳ vọng.
b) Nếu
( ) ( )
2
XX
R τ→µ τ→∞
hay tương đương
( ) ( )
X
C0τ→ τ→∞
thì
( )
{ }
X t là QT ergodic kỳ vọng.
Chứng minh.
a) là hiển nhiên. Để chứng minh b) giả sử 0ε > cho trước. Khi đó tìm được
T
0
> 0 để
( )
Cτ<ε/2 với . Từ đó
0
Tτ>
() ()
T
T
0
XX
00
11
Cd C dτ
TT
ττ= τ
∫∫
()
( )
T
0X
0
X
T
0
TC 0
TT
1
Cd
TT2
−
ε
T
+ ττ≤ + ≤
∫
ε
với T đủ lớn.
Không phải mọi QT dừng đều là ergodic kỳ vọng, xét ví dụ sau đây.
Ví dụ 5.12.
Xét
( )
{ }
Xt với
( )
Xt U= , trong đó U là biến ngẫu nhiên với
E(U) = m; 0 < D[U] < + ∞.
Dễ thấy
( )
{ }
X t là QT dừng, các quỹ đạo đều là những đường thẳng nằm
ngang,
( ) ( )
t
XUζ = ζ với mọi Sζ ∈ .
Bởi vì D[U] > 0 nên biến cố:
( )
{ }
:U mζζ≠ có xác suất dương, và do đó
( ) ( )
T
T
lim X U( ) m E X t
→∞
ζ = ζ ≠= .
Vậy
( )
{ }
X t không là QT ergodic kỳ vọng.
Ví dụ 5.13.
Đối với QT dừng
( )
{ }
Xt với
()
c
X
Cqe
− τ
τ= chúng ta có
()
()
()
TT
ccT
X
00
11q
Cd qed 1e 0T
TTcT
−τ −
ττ= τ= − → →∞
∫∫
.
Theo định lý Slutsky,
( )
{ }
X t là ergodie kỳ vọng. Ngoài ra, theo (5.3.5)
chúng ta tính được phương sai
2
T
σ như sau:
2T
2c
TT
0
1
D[X ] 1 q e d
T2T
−τ
τ
⎛⎞
σ= = − τ
⎜⎟
⎝⎠
∫
()
2cT
q1e
10
cT 2cT
−
⎛⎞
−
T
= −→
⎜⎟
⎜⎟
⎝⎠
→∞
.
Các kết quả kể trên cho QT dừng, thực, thời gian liên tục được mở rộng cho
dãy dừng, thực.
49
Định nghĩa.
Dãy ngẫu nhiên dừng nhận giá trị thực
( )
{ }
Xn được gọi là
ergodic kỳ vọng nếu:
() () ( )
N
N
nN
1
XXnE[Xn],
2N 1
=−
N
= →µ= →∞
+
∑
,
giới hạn theo bình phương trung bình.
Định lý 5.10.
Cho dãy ngẫu nhiên dừng nhận giá trị thực
( )
{ }
Xn với hàm tự
tương quan C
X
(n). Dãy
( )
{ }
X n là ergodic kỳ vọng khi và chỉ khi phương sai
2
N
σ
của X
N
()
N
2
NN X
nN
n
1
D[X ] 1 C n
2N 1 2N 1
=−
⎛⎞
σ= = −
⎜⎟
++
⎝⎠
∑
(5.3.7)
dần đến không khi N →∞.
Đinh lý 5.11 (Định lý Slutsky).
Dãy dừng nhận giá trị thực
( )
{ }
Xn là
ergodic kỳ vọng khi và chỉ khi
()
N
X
N
n0
1
lim C n 0.
N
→∞
=
=
∑
(5.3.8)
Nhận xét.
Nếu dãy dừng
( )
{ }
X n là ergodic kỳ vọng thì
()
N
N
nN
1
XX
2N 1
=−
=
+
∑
n
sẽ là ước lượng không chệch và vững của kỳ vọng
µ
với phương sai được tính
theo (5.3.7).
Ví dụ 5.14.
Xét dãy dừng
( )
{ }
Xn với
()
n
X
Cn Pa= , (0 < a <1). Khi đó
()
N
nn
2
NN
nN n
1P
D[X ] P a a
2N 1 2N 1
P1a
0N.
2N 11 a
+∞
=− =−∞
σ= ≤ ≤
++
+
=→→∞
+−
∑∑
Suy ra
( )
{ }
X n là dãy ergodic kỳ vọng.
5.3.3. Ergodic phương sai
(☼)
Đối với quá trình dừng, thực
( )
{ }
Xt với kỳ vọng
µ
, phương sai V của nó
không phụ thuộc vào thời gian và được tính bởi
( )
22
V D[X t ] E[(X(t) ) ] E[X (t)]==−µ=
2
−µ.
a) Trường hợp kỳ vọng đã biết
50
Định nghĩa.
Quá trình dừng nhận giá trị thực
( )
{ }
Xt được gọi là ergodic
phương sai nếu phương sai V của nó bằng phương sai theo thời gian của một quỹ
đạo bất kỳ, cụ thể là:
()
()
()
()
T
22
T
T
1
VE[Xt ] lim Xt dt
2T
→+∞
−
=−µ= −µ
∫
, (5.3.9)
giới hạn theo bình phương trung bình.
Nói một cách ngắn gọn, đối với QT ergodic phương sai, trung bình tổng thể
và trung bình theo thời gian của bình phương các độ lệch (X(t) -µ )
2
là như nhau:
.
()
()
()
()
22
E[ X t ] A[ X t ]−µ = −µ
Lưu ý rằng trong nhiều trường hợp, ta có thể coi quá trình quy tâm hoá
()
(
{
)
}
2
Xt−µ - ký hiệu là
()
2
X − µ - là QT dừng. Như vậy, điều kiện ergodic
phương sai của QT
( )
{ }
Xt cũng chính là điều kiện ergodic kỳ vọng của QT
()
(
{
)
}
2
Xt−µ , đó là
()
()
T
2
X
T
0
1
lim C d 0
T
−µ
→+∞
τ τ=
∫
. Bằng cách khai triển dễ thấy
2
22
(X )
C ( ) E[(X(t+ )- ) (X(t)- ) ] -
−µ
τ= τ µ µ σ
4
,
điều kiện trở nên đơn giản hơn một chút:
Điều kiện cần và đủ để
( )
{ }
X t là ergodic phương sai là
T
2242
XX
T
0
1
lim E[(X(t+))(X(t))]d= C(0)
T
→∞
τ−µ −µ τ σ =
∫
.
(5.3.10)
Trong hệ thức (3.5.10) chúng ta cần đến những mô men cấp 4. Tuy nhiên,
với quá trình Gauss, vấn đề trở nên đơn giản hơn.
Hệ quả
. Cho
( )
{ }
X t là QT dừng Gauss với kỳ vọng µ đã biết. QT
( )
{ }
Xt
là ergodic phương sai khi và chỉ khi
()
T
2
X
T
0
1
lim C d 0.
T
→+∞
ττ=
∫
(5.3.11)
Khi đó,
( )
{ }
Xt cũng là quá trình ergodic kỳ vọng.
Chứng minh.
Đối với quá trình Gauss, áp dụng hệ thức (1.31) ta có
2
22
X
(X )
C ( ) E[(X(t+ )- ) (X(t)- ) ] -
−µ
τ= τ µ µ σ
4
X
42 4 2
XX
( 2E [(X(t+ )- )(X(t) - )]) - 2C ( )=σ + τ µ µ σ = τ
Bây giờ chỉ việc áp dụng định lý Slutsky. Phần còn lại suy từ khẳng định
() () ( )
2
TT
2
XX
00
11
0Cd Cd0,T
TT
≤ ττ≤ ττ→ →∞
∫∫
.
Nhận xét.
Nếu
( )
{ }
X t là ergodic phương sai thì trung bình thời gian trên
51
52
]
)
[
T;T− của bình phương độ lệch
()
(
2
Xt− µ xác định bởi
()
()
T
2
T
T
1
VXt
2T
−
=−
∫
dt
µ
sẽ là ước lượng không chệch cho phương sai V = D[X(t)] = C
X
(0). Phương sai của
ước lượng này cho bởi (5.3.5), trong đó C
X
(τ) cần phải thay thế bởi
()
( )
2
X
C
−µ
τ .
b) Trường hợp kỳ vọng chưa biết.
Bây giờ chúng ta không quan tâm đến ergodic phương sai nữa, vấn đề là làm
thế nào để ước lượng V. Bởi vì µ chưa biết, chúng ta có thể dùng trung bình thời
gian X
T
theo (5.3.2) để ước lượng, rồi sau đó tính ước lượng
()
()
()
TT
2
2
TT
TT
11
ˆ
VXtXdtXtdt
2T 2T
−−
=−= −
∫∫
2
T
X.
(5.3.12)
Xác định các tính chất thống kê của
khá khó khăn. Để khắc phục, chúng
ta dựa vào nhận xét sau đây. Nói chúng,
là một ước lượng chệch của phương
sai V. Tuy nhiên, khi T lớn, độ chệch có thể bỏ qua. Hơn thế, phương sai
có
thể được xấp xỉ bởi phương sai của V
T
ˆ
V
T
ˆ
V
T
ˆ
V
T
– là ước lượng của V khi đã biết. Trong
nhiều trường hợp, sai số bình phương trung bình
là nhỏ hơn
với giá trị T lớn. Từ đó, dùng
để ước lượng V có thể sẽ tốt hơn
dùng V
µ
2
T
ˆ
E[(V V) ]−
2
T
E[(V V) ]−
T
ˆ
V
T
để ước lượng V kể cả khi µ đã biết.
c) Ergodic tự hiệp phương sai
Nếu
( )
{ }
Xt có kỳ vọng
µ
đã biết, chúng ta có thể xét
( )
{ }
Xt−µ . Nếu
( )
{ }
Xt có kỳ vọng chưa biết, chúng ta có thể dùng X
µ
T
theo (5.3.2) để ước
lượng
µ
và xét
( )
{ }
T
Xt X− với lưu ý rằng kết quả là khá chính xác với T lớn.
Như vậy, chúng ta có thể giả sử rằng QT là quy tâm, tức là E(X
) = 0.
t
Đối với
cố định, quá trình tích
λ∈
R
( ) ( )
{ }
Xt Xt+λ có thể coi là dừng với
kỳ vọng
( )
X
C λ . Áp dụng các kết quả ở mục 5.3.2 để ước lượng
( )
X
C λ , chúng ta
có thể dùng trung bình thời gian
()
()
()
T
X
T
T
1
CZ
2T
−
λ=
∫
tdt,
(5.3.13)
với
( ) ( ) ( )
Zt Xt Xt=+λ .
Đây là ước lượng không chệch của
( )
X
C λ , phương sai của nó cho bởi
(5.3.5), trong đó
( )
X
C τ cần phải được thay thế bởi hàm tự hiệp phương sai của
quá trình
( )
{ }
Zt :
( ) ( ) ( ) ( ) ( ) ( )
2
ZX
C EXt++ Xt+ Xt+ Xt Cτ=⎡λττλ⎤−
⎣⎦
λ.
Áp dụng định lý Slutsky ta đi đến kết luận:
Quá trình
( )
{ }
X t là ergodic tự hiệp phương sai nếu và chỉ nếu
()
T
Z
T
0
1
lim C d 0.
T
→+∞
τ τ=
∫
(5.3.14)
Nếu bây giờ giả thiết thêm
( )
{ }
X t là quá trinh Gauss thì
( ) ( ) ( ) ( )
2
ZX X X
CC C Cτ = λ+τ λ−τ + τ .
Trong trường hợp này (5.3.5) cho ta
()
()
()
()() ()
T
2
XXXX
T
0
2
DC C C C d
T
⎡ ⎤
λ= λ+τ λ−τ+ττ
⎣ ⎦
∫
.
Nếu
( )
X
C0τ→ thì
( ) ( )
Z
C0τ→ τ→∞, từ đó ta nhận được kết quả sau đây:
Hệ quả.
Nếu quá trình dừng Gauss nhận giá trị thực có
( )
C0τ→
( )
τ→∞
thì nó là QT ergodic tự hiệp phương sai.
Tính chất ergodic kỳ vọng và ergodic tự hiệp phương sai hay được sử dụng
hơn cả. Chính vì thế, quá trình có hai tính chất này còn được gọi là ergodic suy
rộng (xem [13] tr 93). Chúng ta xét thêm một loại ergodic nữa liên quan đến hai
quá trình.
d) Ergodic hiệp phương sai chéo.
Hai QT nhận giá trị thực, dừng đồng thời
( )
{ }
Xt và
( )
{ }
Yt được gọi là
ergodic hiệp phương sai chéo nếu từng QT là ergodic tự hiệp phương sai, hơn nữa
hiệp phương sai của chúng
( ) ( )
( )
( )
( )
XY X Y
CE[Xt+ Ytτ= τ−µ −µ ]
có thể được tính thông qua trung bình thời gian
() ()
()
()
(
T
XY X Y
T
T
1
ClimXt Yt
2T
→+∞
−
τ = +τ −µ −µ
∫
)
dt
, (5.3.15)
giới hạn theo bình phương trung bình.
Giống như đã tiến hành ở mục c), bằng cách quy tâm hoá, chúng ta có thể
coi
( )
{ }
Xt và
( )
{ }
Y t là quy tâm. Trung bình thời gian
() ()()
T
XY
T
T
1
ˆ
CXt+
2T
−
τ= τ
∫
Ytdt
, (5.3.16)
là một ước lượng không chệch của
( )
XY
C τ và phương sai của ước lượng này
53
được tính theo (5.3.5), ở đó
( )
X
C τ phải được thay bởi
( )
XY
C τ .
Nếu cả ba hàm
( )
X
C,τ
( ) ( )
YXY
C,Cτ τ đều dần đến 0 khi thì τ→∞
( )
{ }
Xt và
( )
{ }
Y t là ergodic hiệp phương sai chéo.
(
☼
)
5.3.4. Các loại ergodic khác
Xét một quỹ đạo
{ }
X(t, ),t Rζ ∈ của QT X. Với x ∈ ¡ cố định, hàm số
1X(t,)
u(x X(t, ))
0X(t,)
x
x
ζ <
⎧
−ζ=
⎨
ζ ≥
⎩
thể hiện vị trí tương đối của quỹ đạo so với ngưỡng x (Hình 5.5). Đại lượng
T
T
1
u(x X(t, ))dt
2T
−
−ζ
∫
đặc trưng cho tỷ lệ thời gian trung bình trên đoạn [-T; T] quỹ đạo nằm dưới
ngưỡng x. Trên Hình 5.5 đó là
()
12
1
xxx
2T
∆+∆+∆
3
.
54
Hình 5.5.Những thời đoạn trên [-T; T] ở đó quỹ đạo nằm dưới ngưỡng x.
-T
T
X(t)
t
3
x∆
2
x∆
1
x∆
Cho , chúng ta nhận được trung bình thời gian của hàm T →+∞
u(t X(t, ))−
ζ :
[]
T
Au(t X(t, )) lim
→+∞
−ζ=
T
T
1
u(x X(t, ))dt
2T
−
−ζ
∫
.
Định nghĩa.
* Giả sử A[ . ] là toán tử trung bình thời gian, u(x) là hàm bước nhảy đơn
vị, - hàm delta. Xét QT dừng (x)δ
{ }
XX(t)= với hàm phân bố một chiều .
Nếu
X
F(x)
X
F(x) A[u(x-X(t,))]= ζ
với mọi và với mọi quỹ đạo x R∈
{ }
X(t, ),tζ ∈ ¡ thì
{ }
X(t) được gọi là QT
ergodic hàm phân bố.
* Hơn nữa, giả sử hàm phân bố một chiều
có mật độ . Nếu
xảy ra đẳng thức
X
F(x)
X
f(x)
X
f (x) A[ (x -X(t, ))], x R,=δ ζ ∀∈ ∀ζ ∈Ω
thì
{ }
X(t) được gọi là ergodic hàm mật độ.
* Nếu với k > 0,
kk
E(X (t)) A[X (t, )],=ζ∀ζ ∈Ω
thì
{ }
X(t) được gọi là QT ergodic mô men cấp k.
Vấn đề trung bình thời gian và ergodic
Một cách đầy đủ nhất:
Nếu tất cả các đặc trưng xác suất của QT tính thông qua trung bình tổng thể
đều có thể được tính thông qua trung bình thời gian của các đặc trung tương ứng
thì QT đó được gọi là QT ergodic.
Người ta cũng tìm được các điều kiện (gọi là điều kiện egrodic), chủ yếu
với quá trình dừng để có được tính chất đó.
Tính ergodic là một dạng rất hạn chế củ
a tính dừng và thật là khó khăn để
kiểm tra xem trong tình huống vật lý cụ thể nào đó, giả thiết ergodic thoả đáng hay
không. Dù sao, chúng ta vẫn thường giả thiết QT là ergodic để đơn giản hoá bài
toán. Trong thế giới thực, chúng ta vẫn buộc lòng phải làm việc với chỉ một hàm
mẫu của quá trình. Khi ấy, dù muốn hay không, chúng ta vẫn phải tìm giá trị trung
bình, hàm tự tương quan… chỉ từ một hàm dạng sóng theo thời gian. Từ giả thiế
t
ergodic, chúng ta có thể coi những giá trị tính được là những tham số thống kê của
quá trình. Nhiều người cảm thấy khó chấp nhận những lời bàn luận này. Tuy nhiên
cần phải nhớ rằng, lý thuyết của chúng ta chỉ phục vụ để mô hình hoá những điều
xảy ra trong thế giới thực.
5.3.5. Đo hàm tương quan.
Thực tế không bao giờ ta có thể đo được hàm tương quan của hai QT bởi vì
ta không thể nào biết hết các thể hiện của chúng. Nói chung, chúng ta chỉ biết một
đoạn của một quỹ đạo của mỗi quá trình. Như vậy, chúng ta cần phải giả sử rằng,
các QT của chúng ta là ergodic đồng thời (hay ít ra là ergodic tương quan đồng
thời). Thực ra các giải thiết này- gọi là giả thiết ergodic- ít quan trọng, ta vẫn tiến
hành công vi
ệc của ta cho dù các QT không phải là ergodic.
Trên tinh thần đó, người ta tạo ra những thiết bị vật lý để đo hàm tương
quan của các QTNN, gọi là tương quan kế (correlometer) để đo hàm tương quan
chéo của hai QTNN
{ }
X(t),Y(t) .
Sơ đồ khối của tương quan kế thể hiện ở Hình 5.6. Nó bao gồm hai bộ giữ
chậm, bộ nhân và bộ tích phân. Thể hiện x(t) và y(t) của hai QT
{ }
X(t) và
{ }
Y(t)
được giữ chậm lần lượt là T và T đơn vị thời gian; tiếp theo, tích của các hàm
sóng giữ chậm được tạo thành. Sau nữa, tích này được tích luỹ lại qua bộ tích
phân để ở đầu ra là tích phân trên đoạn
−τ
[ ]
11
t;t 2T+ với độ dài 2T.
55
y(t)
x(t)
A
01
R(t 2T)+
B
Giữ chậm
T
Bộ nhân
()
t2T
1
t
1
1
dt
2T
+
∫
g
Giữ chậm
T −τ
Hình 5.6. Sơ đồ khối tương quan kế
Giả sử tín hiệu tồn tại ít ra từ thời điểm – T, còn dương tuỳ ý. Dễ thấy đầu
ra nhận được
1
t
tT
1
01
tT
1
1
R(t 2T) x(t )y(t)dt
2T
+
−
+= +τ
∫
.
Ví dụ, nếu ta chọn
, từ tính ergodic ta được
1
t= 0
T
0X
T
1
YXY
(2T) X(t )y(t)dt A ( ) R ( )
2T
−
=+τ≈τ=τ
∫
R
.
Cho
thay đổi (thông qua các bộ giữ chậm) ta có thể đo xấp xỉ hàm tương
quan chéo của X và Y.
τ
Khi thay đổi các điểm nối A, B và áp dụng cả hai đầu vào là x(t) hoặc cả hai
đầu vào là y(t), ta có thể đo hàm tự tương quan
X
R()
τ
,
Y
R()
τ
.
Cần lưu ý độ dài đoạn lấy tích phân 2T phải đủ lớn. Với một số QT cụ thể,
ta có thể tính được độ dài 2T tối thiểu để sai số tương đối đủ nhỏ, ví dụ
.
5%
≤
Rất nhiều sơ đồ khác được thiết kế để đo hàm tự tương quan. Ví dụ, ngoài
việc giữ nguyên hai bộ giữ chậm, người ta bố trí bộ cộng thay cho bộ nhân. Sau
bộ cộng là bộ lọc bình phương (dùng điôt) rồi mới đến bộ lọc âm tần.
Đáng lưu tâm nhất phải kể đến các tương quan kế quang học của Michelson.
Chi tiết xem [8 ] tr 439 – 441.
5.3.6. Ước lượng dãy tương quan
.
Đối với dãy dừng (và ergodic!) {X(n)}, người ta dùng 2 ước lượng sau đây
cho dãy tự tương quan:
a) Ước lượng tự tương quan không chệch
µµ
Nk
XX
i1
1
R(k) R(k) X(ik)X(i) (0 k N)
Nk
−
=
=−= + ≤≤
−
∑
. (5.3.17)
Vì
nên đây là ước lượng không chệch. Nếu thêm giả
thiết {X(n)} là Gauss, quy tâm thì đây là ước lượng vững. Tuy nhiên, có thể
µ
X
X
E[R (k)] R (k)
=
µ
{ }
X
R(k)
không đạt cực đại tại k = 0, từ đó ma trận tương quan có thể không xác
định không âm.
56