Tải bản đầy đủ (.pdf) (40 trang)

Báo Cáo Tiểu luận tốt nghiệp TIME SERIES

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (400.35 KB, 40 trang )

ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
KHOA TOÁN-TIN HỌC
————oOo————

Báo Cáo
Tiểu luận tốt nghiệp

TIME SERIES

NHÓM THỰC HIỆN : LƯU TẤN LỘC − HUỲNH TẤN PHÁT
GIẢNG VIÊN : GSTS. DƯƠNG MINH ĐỨC

THÀNH PHỐ HỒ CHÍ MINH
2012


Mục lục

2


Chương 1

QUÁ TRÌNH DỪNG ARMA
1.1

Causal and Invertible ARMA process

Định nghĩa 1.1 (Quá trình dừng) Một chuỗi thời gian {Xt , t ∈ Z} được gọi là dừng nếu


thoả các tính chất sau
(i) E |Xt |2 < ∞ ∀t ∈ Z .
(ii) EXt = m ∀t ∈ Z .
(iii) γX (r, s) = γX (r + t, s + t) ∀r, s, t ∈ Z .

trong đó γX (r, s) là ký hiệu của hàm hiệp phương sai của hai biến ngẫu nhiên Xr và Xs
tại thời điểm r, s được tính theo công thức
γX (r, s) = cov(Xr Xs ) = E{[Xr − E(Xr )][Xs − E(Xs )]}

Định nghĩa 1.2 Một quá trình Zt được gọi là White Noise (WN) với trung bình bằng 0

và phương sai σ 2 khi và chỉ khi
(i) EXt = 0 ∀t ∈ Z
(ii) và có hàm tự hiệp phương sai dưới dạng
γ(t, t + h) = γ(h) =

σ2 h = 0
0 h=0

Được ký hiệu là W N ≈ (0, σ 2 )
Định nghĩa 1.3 (Quá trình ARMA(p,q)) Một quá trình {Xt , t = 0, ±1, ...} được gọi là

một quá trình ARMA(p,q) nếu Xt là một quá trình dừng và với mọi t ta có
Xt − φ1 Xt−1 − φ2 Xt−2 − ... − φp Xt−p = Zt + θ1 Zt−1 + θ2 Zt−2 + ... + θq Zt−q (1.1.1)

trong đó {Zt } ≈ W N (0, σ 2 ) và θi , φi là các hệ số cố định.
3


4


Để thuận tiện hơn về mặt ký hiệu cho phương trình (1.1.1) ta định nghĩa khái niệm θ là
đa thức bậc q và φ là đa thức bậc p như sau
φ(z) = 1 − φ1 z − φ2 z 2 − ... − φp z p
θ(z) = 1 − θ1 z − θ2 z 2 − ... − θq z q

(1.1.2)

và B là một toán tử "Backward shift" được định nghĩa là
B j Xt = Xt−j j = 0, ±1, ...

(1.1.3)

Khi đó phương trình (1.1.1) có thể viết dưới dạng rút gọn như sau
φ(B)Xt = θ(B)Zt t = 0, ±1, ...

(1.1.4)

Ví dụ 1.1 (MA(q) Trung bình di động cấp q) Nếu φ(z) ≡ 1 khi đó theo (1.1.2) ta có

(1.1.5)

Xt = θ(B)Zt

Quá trình trên được gọi là quá trình trung bình di động cấp q hay MA(q). Trong trường
hợp này ta thấy rằng Xt là một lời giải duy nhất của phương trình (1.1.5), hơn nữa ta có
thể kiểm tra được Xt là một chuỗi dừng. Để kiểm tra quá trình Xt như trên là một quá
trình dừng ta cần có.
(i) Giá trị hàm trung bình là một hằng số và không phụ thuộc vào t. Ta có
Xt = Zt + θ1 Zt−1 + θ2 Zt−2 + ... + θq Zt−q


lấy trung bình 2 vế ta được
q

E(Xt ) = E(Zt + θ1 Zt−1 + θ2 Zt−2 + ... + θq Zt−q ) =

θi E(Zt−i ) = 0
i=0

với θ0 = 1 và ∀t, E(Xt ) = 0 vậy ta có điều cần cm.
(ii) Chỉ ra rằng hàm hiệp phương sai chỉ phụ thuộc vào sự sai biệt giữa 2 mốc

thời gian, điều này dẫn đến việc ta cần tính giá trị của công thức Cov(Xt+h , Xt ) với
h = 0, ±1, ...

Ta có
Cov(Xt+h , Xt ) = E[(Xt+h − E(Xt+h ))(Xt − E(Xt ))] = E[Xt+h Xt ]

(1.1.6)


5

q

q

θj Zt−j ]

θi Zt+h−i


= E[

j=0

i=0

Để ý rằng vì {Zt } ≈ W N (0, σ 2 ) nên
0 i=j
σ2 i = j

E(Zi Zj ) =

(1.1.7)

•TH1: |h| > q . Ta có
{Zt+h−1 , Zt+h−2 , ..., Zt+h−p }

{Zt−1 , Zt−2 , ..., Zt−p } = ∅

Vậy từ (1.1.6) và (1..1.7) cho ta kết quả
p

E[

p

θj Zt+h−j
j=0


θj Zt−j ] = 0
j=0

•TH2: |h| ≤ q

Ta cần tính
q

E

q

θi Zt+h−i
i=0

q

θj Zt−j =
j=0

q

θi Zt+h−i


i=0

θj Zt−j dµ
j=0


Để ý rằng với tính chất của quá trình W N nên sau khi nhân phân phối biểu thức dưới
dấu tích phân và lấy tích phân vào trong sẽ chỉ còn lại những phần tử mà có cùng chỉ
số của biến ngẫu nhiên Z . Nên khi đó ta được
Với 0 ≤ h ≤ q
2
2
2
V P = θh θ0 E(Zt2 ) + θh+1 θ1 E(Zt−1
) + ... + θq−h−1 θq−1 E(Zt−(q−1)
) + θq−h θq E(Zt−q
)

= θh θ0 σ 2 + θh−1 θ1 σ 2 + ... + θq−h−1 θq−1 σ 2 + θq−h θq σ 2
q−h



2

θi+h θi
i=0

Với −q ≤ h ≤ 0
2
2
2
V P = θ−h θ0 E(Zt2 ) + θ−h−1 θ1 E(Zt−1
) + ... + θq+h−1 θq−1 E(Zt−(q−1)
) + θq−1 θp E(Zt−q
)


= θ−h θ0 σ 2 + θ−h−1 θ1 σ 2 + ... + θq+h−1 θq−1 σ 2 + θq+h θq σ 2
q+h



2

θi−h θi
i=0


6

Vậy cuối cùng ta được công thức tổng quát của hàm tự hiệp phương sai của quá trình
AM(q) là
Cov(Xt+h , Xt ) =




0 |h| > q
q−|h|

 σ2

(1.1.8)

θi θi+|h| |h| ≤ q
i=1


Ta thấy rằng (1.1.8) chỉ phục thuộc vào h và không phụ thuộc vào t, do đó có điều cần
cm.
Trong ví dụ trên ta đã xét trường hợp đơn giản của của một quá trình ARMA(p,q)
là các quá trình MA(q). Ta tiếp tục đi tìm một lời giải cho phương trình sai phân tổng
quát ARMA(p,q) được định nghĩa như trong công thức (1.1.1). Để tìm lời giải cho
phương trình sai phân tổng quát này ta cần giới thiệu khái niệm causality. Ta có định
nghĩa
Định nghĩa 1.4 (Causal funtion)

Một quá trình ARMA(p,q) được cho bởi công thức φ(B)Xt = θ(B)Zt được gọi là causal


|ψj | < ∞

(causal function) theo Zt nếu tồn tại một dãy các hằng số {ψj }j∈N sao cho
j=0




ψj Zt−j t = 0, ±1, ...

Xt =

(1.1.9)

j=0

Điều này có nghĩa là với mọi t trong Z ta đều có thể biểu diễn dưới dạng một tổng vô

hạng của một quá trình WN với cái hệ số. Khi đó với phương trình sai phân φ(B)Xt =
θ(B)Zt thì Xt được biểu diễn như vậy có thể xem như là một nghiệm của quá trình trên,

trong tính toán hồi quy ta cần đi tìm các hệ số ψj để từ đó dự đoán được giá trị hồi quy
của từng Xt . Nhưng trước hết ta cần tìm một số điều kiện để cho quá trình ARMA(p,q)
được cho bởi phương trình (1.1.4) là có nghiệm, để làm được ta cần một số mệnh đề
trung gian.
Mệnh đề 1.1 Nếu {Xt } là một dãy bất kỳ các biến ngẫu nhiên trong (Ω, M, P ) sao cho


sup E |Xt | < ∞ và
t∈Z

|ψj | < ∞, ta đặt chuỗi
j=−∞




ψj B j Xt = ψ(B)Xt

ψj Xt−j =
j=−∞

j=−∞

(1.1.10)


7


khi đó chuỗi sẽ có các tính chất sau
(i) ψ(B)Xt hội tụ tuyệt đối hầu khắp nơi.
(ii) Và nếu sup E|Xt |2 < ∞ chuỗi trên sẽ hội tụ trong L2 .
t∈Z

Nhắc lại: ”B” là toán tử "BACKWARD SHIFT" và ψ(z) là đa thức như định nghĩa
trong công thức (1.1.2) và (1.1.3).
Chứng minh
(i) Đặt




 s(x) =



|ψj | |Xt−j (x)|
j=−∞
n



 sn (x) =

|ψj | |Xt−j (x)|
j=−n

Cần chứng minh rằng

s(x) < ∞

Ta có

(1.1.11)

hkn

lim sn (x) = s(x)
n→∞
sn+1 (x) ≥ sn (x)

∀x ∈ Ω
∀x ∈ Ω

lim sn (x) = s(x) vì giới hạn được xét ở đây là giới hạn được sử đụng trong lý thuyết

n→∞

độ đo có thể tiến ra vô cùng. Khi đó áp dụng định lý hội tụ đơn điệu ta có kết quả sau


n

|ψj | |Xt−j (x)|


j=−∞

|ψj | |Xt−j (x)|dP


dP = lim

n→∞

Ω j=−n
n

|ψj |

= lim

n→∞

j=−n

|Xt−j (x)|dP


n

≤ lim

n→∞

|ψj | sup E |Xt |
t∈T

j=−n



= sup E |Xt |
t∈Z

|ψj | < ∞
j=−∞

Đặt A = {x ∈ Ω|s(x) = ∞} ta cần chứng minh P (A) = 0.
Gọi An = {x ∈ Ω|s(x) ≥ n}


8

Ta thấy rằng
A = An
A1 ⊃ A2 ⊃ A3 ...
P (A1 ) < P (Ω) = 1

Vậy ta suy ra được
P (A) = lim P (An )
n→∞

Mặt khác ta có
ndP ≤

nP (An ) =
An

s(x)dP ≤
An


s(x)dP


Mà ta vừa chứng minh được
s(x)dP < ∞


Vậy tồn tại M > 0 sao cho
nP (An ) ≤ M ⇔ P (An ) ≤

M
n

Cho n tiến ra vô cùng ta thu được kết quả P (A) = 0. Vậy ta có được ψ(B)Xt hội tụ tuyệt
đối hầu khắp nơi.
(ii) Đặt




 s(x) =



ψj Xt−j (x)
j=−∞
n




 sn (x) =

ψj Xt−j (x)
j=−n

Ta cần chứng minh rằng
lim sn (x) − s(x)

n→∞

Ta có
lim sn (x) − s(x)

L2

=0

 21


n→∞

L2

|sn (x) − s(x)|2 dP 

= lim 
n→∞




hay
lim sn (x) − s(x)

n→∞

2
L2





= lim 

|sn (x) − s(x)|2 dP 

n→∞




9

Đến đây ta thấy cần chứng minh rằng





|sn (x) − s(x)|2 dP  = 0

lim 

n→∞

(1.1.12)



Đặt
fn = |sn (x) − s(x)|2






|ψj | |Xt−j (x)|

 g=

j=−∞

Để chứng minh (1.1.12) ta sử dụng định lý hội tụ bị chặn:
• lim fn (x) = 0 hkn (do phần i).
n→∞

• Ta cần tìm hàm h thuộc lớp làm L1 (Ω) sao cho fn ≤ h, ∀n ∈ N.


Ta có
|sn (x) − s(x)| ≤ 2g

Hay
fn = |sn (x) − s(x)|2 ≤ 4g 2

Ta chọn h = 4g 2 . Vậy ta cần chứng minh rằng g 2 là một hàm sô thuộc lớp L1 . Thật
vậy, đặt
2

n

|ψj | |Xt−j |

gn =
j=−n

Ta có
2

n

|ψj | |Xt−j |

lim gn = lim

n→∞

n→∞


2



= g2

|ψj | |Xt−j (x)|

=

j=−n

j=−∞

Do đó theo định lý hội tụ đơn điệu thì
g 2 dP = lim

n→∞



Đặt M = supt∈N E|Xt |2
1
2

gn dP


1
2


< ∞, áp dụng bất đẳng thức Minskovki ta được
1
2

n
2



2

|ψj | |Xt−j | dP
j=−n

Điều này chứng tỏ dãy {

gn dP




g dP }
Ω n

1
2

n


|ψj |

=
j=−n

bị chặn, do đó

Vậy mệnh đề được chứng minh hoàn toàn.

2



|Xt−j | dP


g 2 dP hữu hạn.



≤M

|ψj | := N
j=−∞


10

Mệnh đề 1.2 Nếu {Xt } là một quá trình dừng với hàm tự hiệp phương sai γ(·) và nếu



|ψi | < ∞, khi đó chuỗi ta đặt
i=−∞


ψj Xt−j

Yt =
j=−∞

Yt thoả các tính chất


(i) Chuỗi

ψj Xt−j hội tụ tuyệt đối hầu khắp nơi và hội tụ trong L2 ∀t ∈ Z.

j=−∞

(ii) Quá trình Yt cũng là một quá trình ngẫu nhiên dừng với hàm tự hiệp phương sai là


ψi ψk γ(h − j + k)

γY (h) =
j,k=0

Chứng minh
(i) Áp dụng kết quả của mệnh đề 1.1 ta chỉ cần kiểm tra các điều kiện



 sup E|Xt |2 < ∞
t∈N

 sup E |Xt | < ∞
t∈N

Vì Xt là một quá trình dừng nên ta có
E(Xt ) = m ∀t

(1.1.13)

bên cạnh đó ta có
γ(t, t) = E(Xt2 ) − [E(Xt )]2
⇒ E(Xt2 ) = γ(t, t) + [E(Xt )]2 = γ(0) + m2 < ∞

(1.1.14)


E |Xt | ≤ E Xt2

2

<∞

(1.1.15)

Vậy từ ??, ?? cùng với kết quả của mệnh đề 1 ta có điều cần chứng minh.
(ii) Để kiểm tra Yt là một quá trình dừng ta cần kiểm tra các tính chất:
•Kiểm tra trung bình của các biến ngẫu nhiên trong quá trình Yt không phụ thuộc



11

vào t
Ta có kết quả từ mệnh đề 1.1




|ψj | |Xt−j (x)| dP =
j=−∞ Ω

|ψj | |Xt−j (x)|dP < ∞
Ω i=−∞

Do đó ta có được kết quả




ψj Xt−j (x)

EYt = E
j=0

ψj EXt−j = EXt

=






j=0

ψj < ∞.

ψj = m
j=0

j=0

Vậy trung bình của các biến ngẫu nhiên của dãy biến ngẫu nhiên Yt là hữu hạn và không
phụ thuộc vào t.
• Tìm hàm tự hiệp phương sai của quá trình Yt
γY (h) = E(Yt+h Yt ) − E(Yt+h )E(Yt )

(1.1.16)

Vậy ta cần tính E(Yt+h Yt ), để việc chứng minh được dễ dàng ta cần nhắc lại một số
kết quả của không gian Hilbert. Với không gian xác suất (Ω, M, P ) là tập hợp các biến
X 2 (x)dP < ∞ là

ngẫu nhiên X được định nghĩa trên Ω và thỏa tính chất E(X 2 ) =


một không gian Hilbert với tích vô hướng được định nghĩa là
X, Y = E(XY )


Khi đó ta có ta sử định mệnh đề ?? được giới thiệu trong phần kiến thức cơ bản để tính
E(Yt+h Yt ) = Yt+h , Yt và E(Yt+h )E(Yt )
• Tính E(Yt+h Yt )

Đặt



 sn =

n

ψj Xt+h−j
i=−n
n



 tn =

ψj Xt−j
i=−n

với các tính chất của Yt và do (i) ta có
lim sn − Yt+h

n→∞

lim tn − Yt


n→∞

L2

L2

=0

=0


12

Áp dụng mệnh đề ?? ta được
n

n
n→∞

i=−n

i=−n

n

n

ψj Xt+h−j

= lim


n→∞

i=−n



ψj Xt−j dP
i=−n

n

n

ψj ψk Xt+h−j Xt−k dP

= lim

n→∞

i=−n k=−n



n

n

ψj ψk Xt−k+h−j+k Xt−k dP


= lim

n→∞

i=−n k=−n


n

n

= lim

n→∞

ψj Xt−j

ψj Xt+h−j ,

E(Yt+h Yt ) = Yt+h , Yt = lim

ψj ψk
i=−n k=−n

Xt−k+h−j+k Xt−k dP




=


ψi ψk
j,k=0

(1.1.17)

(Xt−k+h−j+k Xt−k )dP



γ(h − j + k) = E(Xt−k+h−j+k Xt−k ) − E(Xt−k+h−j+k )E(Xt−k )

hay
E(Xt−k+h−j+k Xt−k ) = γ(h − j + k) + E(Xt−k+h−j+k )E(Xt−k )
= γ(h − j + k) + E(Xt2 )

Thay vào (1.1.16) ta được


ψj ψk (γ(h − j + k) − (E(Xt ))2 )

E(Yt+h Yt ) =

(1.1.18)

j,k=0

• Tính E(Yt+h )E(Yt )



E(Yt+h )E(Yt ) = E



ψj Xt+h−j

E

ψj Xt−j

j=−∞

j=−∞

Vì Yt hội tụ tuyệt đối hầu khắp nơi theo chứng minh (i) và Xt là quá trình dừng nên ta




E(Yt+h )E(Yt ) =



ψj EXt+h−j
j=−∞

ψj EXt−j
j=−∞



13





=

EXt2

(1.1.19)

ψj ψk
j=−∞ k=−∞

Từ (1.1.16),(1.1.17) và (1.1.18) ta suy ra được


ψj ψk γ(h − j + k)

γγ (h) = E(Yt+h Yt ) − E(Yt+h )E(Yt ) =
j,k=−∞

Vậy mệnh đề đã được chứng minh hoàn toàn.




ψj B j với


Ta thấy rằng toán tử ψ(B) =
j=−∞


|ψj | < ∞ khi áp dụng vào một quá
j=−∞

ψj Xt−j là một biến ngẫu nhiên và hơn nữa {Yt }t∈Z

trình Xt sẽ được kết quả Yt =
j=−∞



|αj | < ∞,

là một quá trình dừng theo như chứng của mệnh đề trên. Ngoài ra nếu
j=−∞




j=−∞



αj B j , β(B) =

|βj | < ∞, α(B) =
j=−∞




βj B j và ψ(B) =

j=−∞

ψj Xt−j khi đó
j=−∞

ta định nghĩa
(1.1.20)

α(B)β(B)Xt = β(B)α(B)Xt = ψ(B)Xt


trong đó ψ(B) được tính bằng công thức ψ(B) =

ψj Xt−j với các hệ số ψj được
j=−∞

tính như sau



ψj =

αk βj−k
k=−∞




• ψ(B)Xt =
j=−∞

ψj B j Xt =





αk βj−k Xt−j
j=−∞ k=−∞


• α(B) ◦ β(B) (Xt ) = α(B) (β(B)Xt ) = α(B)


Đặt Yt =

βn Xt−n
n=−∞

βn Xt−n khi đó ta được Yt là mợt biến ngẫu nhiên mới và theo chứng
n=−∞

minh trên ta được {Yt } là một quá trình dừng, khi đó ta lại áp dụng toán tử α(B) đối với
Yt ta có



α(B) ◦ β(B) (Xt ) = α(B)Yt =



αm Yt−m =
m=−∞




αm
m=−∞



=

αm βn Xt−m−n
m=−∞ n=−∞

βn Xt−m−n
n=−∞


14

Đặt l = n + m, ta được





α(B) ◦ β(B)Xt =

αm βl−m Xt−l = ψ(B)Xt
l=−∞ m=−∞

Dựa vào kết quả của hai mệnh đề trên, sau đây ta sẽ đưa ra định lý để cho thấy
điều kiện cần và đủ để một quá trình ARMA(p,q) được định nghĩa trong ?? là có
nghiệm.
Định lý 1.1 Cho Xt là một quá trình ARMA(p,q) với θ(·), φ(·) lần lượt là 2 đa thức bậc

q,p và không có nghiệm chung nào. Khi đó Xt là một quá trình causal nếu và chỉ nếu
φ(z) = 0 ∀z ∈ C : |z| ≤ 1

lúc đó dạy hệ số {ψj } trong ?? được biểu diễn dưới dạng


ψ(z) =

ψj z j =

j=0

θ(z)
φ(z)

|z| ≤ 1

Chứng minh
(⇐) Trước hết giả sử rằng φ(z) = 0 ∀z ∈ C : |z| ≤ 1 ta chứng minh rằng Xt là causal,



|ψj | < ∞ và

nghĩa là tồn tại 1 dãy các hằng số {ψj } sao cho
j=0


ψj Xt−j t = 0, ±1, ...

Xt =
j=0

Vì φ(z) = 0 ∀z ∈ C : |z| ≤ 1 nên ∃ε > 0 sao cho φ(z) = 0 ∀z ∈ C : |z| < 1 + ε
Thật vậy, ta giả sử
∀ε > 0, ∃z ∈ C : |z| < 1 + ε ⇒ φ(z) = 0

Chọn εn = n1 , vậy
∀n ∈ N, ∃zn ∈ C : |zn | < 1 + ε ⇒ φ(zn ) = 0

Mà φ(z) = 0 ∀z ∈ C : |z| ≤ 1 suy ra
1 < |zn | < 1 +

1
n

∀n ∈ N

Cho bất đẳng thức trên qua giới hạn, vậy ta xây dựng được một dãy zn và lim |zn | = 1
n→∞


mà φ(zn ) = 0 ∀n ∈ N


15

Mặt khác φ(·) là hàm số liên tục và φ(1) = 0 nên ta có điều mâu thuẫn lim φ(|zn |) =
n→∞

φ(1). Vậy ta được
∃ε > 0, ∀z ∈ C : |z| < 1 + ε ⇒ φ(z) = 0

Do đó theo định lý Cauchy-Taylor, hàm

1
φ(z)

là giải tích trong hình tròn |z − 0| < 1 + ε

nên ta có thể khai triển được hành chuỗi lũy thừa hội tụ trong hình tròn ấy. Vậy ta được
khai triển
1
φ(z)



ζj z j = ζ(z) |z| < 1 + ε

=


(1.1.21)

j=0

Chọn z = 1 + 2ε , theo tính chất của chuỗi hội tụ ta có
lim ζj 1 +

j→∞

ε
2

j

=0

Nghĩa là
∀ε1 > 0, ∃n0 ∈ N : ∀n ≥ n0 ⇒ ζj 1 +

ε
2

j

< ε1

Khi đó ta chọn ε1 = 1 và đặt
K = max{ζ1 1 +

ε

2

1

, ζ2 1 +

ε
2

2

, ..., ζn0 1 +

ε
2

n0

, 1}

Suy ra
ζj 1 +

ε −j
2

< K ∀j ∈ N

hay
|ζj | < K 1 +





K 1+
j=0

ε −j
2

ε −j
2

∀j ∈ N

< ∞, suy ra


|ζj | < ∞
j=0

Hơn nữa, từ ?? ta có ζ(z)φ(z) ≡ 1 |z| ≤ 1 . Vậy áp dụng mệnh đề 1.2 ta áp dụng toán
tử ζ(B) (theo (1.1.20)) vào hai phía của của phương trình ARMA(p,q) ta thu được kết
quả
Xt = ζ(B)θ(B)Zt

vậy ta được biểu diễn của Xt như mong muốn


ψj Zt−j t = 0, ±1, ...


Xt =
j=0


16

với các hệ số ψj được tính theo công thức


ζk θj−k

ψj =
k=−∞

(⇒)Giả sử rằng ta có Xt là causal, ta chứng minh rằng φ(z) = 0 ∀z ∈ C : |z| ≤ 1




ψj Zt−j với {ψj } sao cho

Ta có Xt =
j=0

|ψj | < ∞
j=0

Khi đó, theo định nghĩa , ta có
θ(B)Zt = φ(B)Xt = φ(B)ψ(B)Zt



ηj z j , |z| ≤ 1, khi đó :

Đặt η(z) = φ(z)ψ(z) =
j=0

q



θj Zt−j =
j=0

ηi Zt−i
i=0

Nhân vô hướng 2 vế với Zt−k , k ≥ 0 , do Zt ∼ W N (0, σ 2 ) nên ta có
- ηk = θk với 0 ≤ k ≤ q
- ηk = 0 với k > q

Do đó
θ(z) = η(z) = ψ(z)φ(z), |z| ≤ 1

Do φ(z) và θ(z) không có nghiệm chung , và |ψ(z)| < ∞, |z| ≤ 1 nên φ(z) = 0 với
|z| ≤ 1 Vậy định lý được chứng minh hoàn toàn.
Định nghĩa 1.5 Một quá trình ARMA(p,q) thì được gọi là invertible nếu tồn tại một dãy


các hằng số {πj } sao cho


|πj | < ∞ và
j=0


πj Xt−j t = 0, ±1, ...

Zt =

(1.1.22)

j=0

Định lý 1.2 Cho Xt là một quá trình ARMA(p,q) với θ(·), φ(·) lần lượt là 2 đa thức bậc

q,p và không có nghiệm chung nào. Khi đó Xt là invertible nếu và chỉ nếu
θ(z) = 0 ∀z ∈ C : |z| ≤ 1


17

và lúc đó dãy hệ số {πj } trong (1.21) được biểu diễn dưới dạng


π(z) =

πj Xt−j =
j=0

φ(z)

θ(z)

|z| ≤ 1

Chứng minh
Hoàn toàn tương tự như cách chứng minh định lý với việc khai triễn hàm

1
θ(z)

trên

miền |z| < 1 và áp dụng mệnh đề 1.2 ta thu được kết quả.
Trong định lý (1.1) ở trên ta thấy rằng khi hàm số φ(z) giải tích trên miền |z| ≤ 1
thì với phương pháp khai triển hàm

1
φ(z)

thành chuỗi số phức hội tụ ta có nghiệm của

phương trình sai phân ARMA(p,q). Ta có thể mở rộng hơn kết quả của định lý với điều
kiện φ(z) giải tích trên miền |z| = 1, ta cũng tìm được một lời giải cho phương trình sai
phân ARMA(p,q) được trình bày sau đây
Định lý 1.3 Nếu φ(z) = 0 với mọi z ∈ C sao cho |z| = 1, khi đó tồn tại r > 1 để ta có

được khai triển sau
1
φ(z)




=

ζj z j =ζ(z) r−1 < |z| < r

j=−∞

và phương trình sai phân ARMA(p,q) có duy nhất một lời giải là


ψj Xt−j t = 0, ±1, ...

Xt =
j=−∞

trong đó các hệ số ψj được biểu diễn dưới dạng


ψ(z) =

ψj z j =

j=−∞

θ(z)
φ(z)

r−1 < |z| < r


Chứng minh
Vì φ(z) = 0 ∀z ∈ C : |z| = 1 nên ∃r > 1 : φ(z) = 0 ∀r−1 < |z| < r
Thật vậy, ta giả sử
∀r > 1, ∃z ∈ C : r−1 < |z| < r ⇒ φ(z) = 0

Chọn rn = 1 + n1 , vậy
∀n ∈ N, ∃zn ∈ C : 1 +

1
n

−1

< |zn | < 1 +

1
n

⇒ φ(zn ) = 0


18

Cho bất đẳng thức trên qua giới hạn, ta xậy dựng được một dãy zn và lim |zn | = 1 mà
n→∞

φ(zn ) = 0 ∀n .

Mặt khác ta có được φ(·) là hàm số liên tục nên có điều mâu thuẫn lim φ(|zn |) = φ(1).
n→∞


Do đó ta có được điều cần chứng minh
∃r > 1 : φ(z) = 0 ∀r−1 < |z| < r

Vậy hàm số
hàm số

1
φ(z)

1
φ(z)

là giải tích trên miền r−1 < |z| < r nên ta có thể khai triển Laurent cho

thành một chuỗi hội tụ trên miền đó.
1
φ(z)

1.2



=

ζj z j = ξ(z) r−1 < |z| < r

j=−∞

Computing the Autocovariance Function of an ARMA(p,q) Process


Phần này chúng ta sẽ giới thiệu 2 phương pháp để tính ARMA(p,q).
1.2.1

Phương pháp 1

Trong định lý (3.2.1) chúng ta đã chứng minh được rằng nếu một quá trình MA(∞) là
là một quá trình dừng với trung bình bằng 0 thì lúc đó ta thu được hàm tư hiệp phương
sai của quá trình này được biểu diễn dưới dạng.


γ(k) = σ

2

ψj ψj+|k|

(1.2.1)

θ(z)
φ(z)

(1.2.2)

j=0

trong đó


ψ(z) =

j=0

Nhắc lại:

ψj z j =

|z| ≤ 1

θ(z) = 1 + θ1 z + θ2 z 2 + ... + θq z q
φ(z) = 1 − φ1 z − φ2 z 2 − ... − φp z p

Để tính toán các hệ số ψj ta có thể viết lại (??) dưới dạng ψ(z)φ(z) = θ(z) khi đó ta


19

thu được
p



ψj z

ψ(z)φ(z) =

j

j=1

j=0






j

ψj z −

=

φj z j

1−

φ1 ψj z

j+1

(1.2.3)

j=0

j=0

j=0

φp ψj z j+p

− ... −


=I


Đặt Ik =

φk ψj z j+k , k = 1, p

j=0

Với mỗi k ∈ {1, ..., p} ta đặt jk = j + k khi đó ta có :


φk ψjk −k z jk

Ik =

(1.2.4)

jk =k

(??) trở thành


ψj z j − I1 − I2 − ... − Ip

I=
j=0







j

j1

ψj z −

=
j=0


j1 =1


ψi z i −

=
i=0


jp =p


φ1 ψi−1 z i − ... −

i=1



ai −

=
i=0

φp ψjp −p z jp

φ1 ψj1 −1 z − ... −

(1.2.5)

φp ψi−p z i
i=p



b1i − ... −
i=1

bpi
i=p


Với mỗi k ∈ {1, ..., p} ta đặt bki = 0, ∀i < k , với lưu ý rằng

ψj z j cũng như

j=0


I1 , I2 , ..., Ip đều hội tụ khi |z| < 1,(??) trở thành




ai −

I=
i=0




b1i − ... −
i=0

bpi
i=0

(ai − b1i − ... − bpi )

=
i=0


i

ψi −

=

i=0

(1.2.6)

φk ψi−k
k=1

zi


20

Mặt khác θ(z) = 1 + θ1 z + θ2 z 2 + ... + θq z q và từ kết quả của Mệnh đề ?? ta có.

j


φj ψj−k = θj 0 ≤ j < max(p, q + 1)
 ψj −
k=1
(1.2.7)
p


ψj −
φj ψj−k = 0 j ≥ max(p, q + 1)

k=1

Chúng ta cần giải phương trình sai phân ?? để tìm ra nghiệm là các hệ số ψj , nghiệm

tổng quát của phương trình ?? được trình bày trong mục (3.6)của [?]. Từ đó ta có lời
giải tổng quát của phương trình ?? như sau
k ri −1

ψn =
i=1 j=0

αij nj ζi−n n ≥ max(p, p + 1) − p

(1.2.8)

trong đó ζi , i = 1, 2, ..., k là các nghiệm khác nhau của đa thức φ(z), và ri là bội sộ
của ζi . Ta có p các hệ số αij được trình bày trong các xây dựng nghiệm tổng quát cho
phương trình sai phân ?? và được tính bằng cách giải max(p, q + 1) phương trình điểu
kiện đầu trong ?? và các hệ số này là duy nhất.
Khi tính được các hệ số ψj trong ?? ta thế vào phương trình ?? từ đó ta tính được
hàm tự hiệp phương sai của một quá trình causal ARMA(p,q).

Ví dụ 1.2 : Cho (1 − B + 14 B 2 )Xt = (1 + B)Zt ta đi tìm hàm tự hiệp phương sai cho quá

trình ARMA(2,1) này.
Trước tiên ta cần kiểm tra quá trình ARMA(2,1) trên là một quá trình causal. Thật vậy,
ta có nghiệm của θ(z), φ(z) là khác nhau và φ(z) = 0 với mọi z nằm trong vòng tròn
đơn vị, vậy theo định lý ?? ta có ARMA(2,1) trên là một quá trình causal.
Ta đi tìm dạng ?? của quá trình này
ψ0 = θ0 = 1
ψ1 = θ1 + ψ0 φ1 = θ1 + φ1 = 2
ψj − ψj−1 + 41 ψj−2 = 0 j ≥ 2

Từ ?? ta có nghiệm tổng quát cho phương trình trên như sau

ψn = (α10 + nα11 )2−n n ≥ 0


21

Dựa vào hai điều kiện đầu của ψ0 và ψ1 ta tìm được các hệ số α10 = 1 và α11 = 3. Từ
đó:
ψn = (1 + n3)2−n

Cuối cùng, ta thế ψn vừa mới tìm được vào ?? để tìm ra công thức cụ thể.


γ(k) = σ

(1 + 3j)(1 + 3j + 3k)2−2j−k

2
j=0



(3k + 1)4−j + 3(3k + 2)4−j + 9j 2 4−j

2 −k

=σ 2

j=0

= σ 2 2−k

= σ 2 2−k

1.2.2

4
12
180
(3k + 1) + (3k + 1) +
3
9
27
32
+ 8k
3

Phương pháp 2

Cho quá trình causal ARMA(p,q) φ(B)Xt = θ(B)Zt với hàm tự hiệp phương sai γ(·).
Nhân hai vế của ARMA cho Xt−k và lấy kỳ vọng ta thu được kết quả
γ(k) − φ1 γ(k − 1) − ... − φp γ(k − p) = σ 2
k≤j≤q

θj ψj−k 0 ≤ k < max(p, p + 1)(1.2.9)

γ(k) − φ1 γ(k − 1) − ... − φp γ(k − p) = 0 k ≥ max(p, p + 1)

(1.2.10)

Xem chứng minh ở ??
Phương trình sai phân (??) có nghiệm tổng quát là

k ri −1

γ(h) =
i=1 j=0

βij hj ζi−n h ≥ max(p, q + 1)

(1.2.11)

Tương tự như ở phương pháp đầu tiên, nghiệm của phương trình sai phân (??) được
trình bày ở phần 3.6 theo sách [?]. Trong đó ζi , i = 1, 2, ..., k là các nghiệm khác nhau
của đa thức φ(z), và ri là bội sộ của ζi . Ta có p hệ số βij và các γ(j), 0 ≤ j < max(p, q+1)
tìm được dựa vào max(p, q + 1) phương trình điều kiện đầu (??).


22

Ví dụ 1.3 Cho (1 − B + 41 B 2 )Xt = (1 + B)Zt ta đi tìm hàm tự hiệp phương sai cho quá

trình ARMA(2,1) này.
Như đã làm của ví dụ trên ta thấy đây là quá trình causal và ta có thể dễ dàng tính
được dạng (??) của quá trình ARMA(2,1) này.
γ(k) − γ(k − 1) + 14 γ(k − 2) = 0 k ≥ 2

hơn nữa ta tìm được lời giải tổng quát cho phương trình trên là
γ(n) = (β10 + nβ11 )2−n n ≥ 0

(1.2.12)

Từ (??) ta tìm được các phương trình các điều kiện đầu

1
γ(0) − γ(1) + γ(2) = σ 2 (ψ0 + ψ1 )
4
1
γ(1) − γ(0) + γ(1) = σ 2 ψ0
4

Từ (??) và hai phương trình vừa tìm được ta có được hệ sau
3β10 − 2β11 = 16σ 2
−3β10 + 5β11 = 8σ 2

Từ đây ta có β10 = 8σ 2 và β11 =

32 2
3σ .

Thế vào ?? ta được hàm tự hiệp phương sai của

quá trình ARMA(2,1) cho trên
γ(k) = σ 2 2−k

32
+ 8k
3

Ví dụ 1.4 (Hàm tự hiệp phương sai của quá trình MA(q)). Theo định lý (3.2.1) hàm tự

hiệp phương sai của quá trình MA(q)
q


θj Zt−j Zt ≈ W N (0, σ 2 )

Xt =
j=0

được viết dưới dạng
γ(k) =




q

σ2

θj θj+|k| |k| ≤ q
j=0



0 |k| > q

(1.2.13)


23

trong đó
θ0 = 1
θj = 0 j > 1


Ví dụ 1.5 (Hàm tự hiệp phương sai cho quá trình AR(p)). Quá trình AR(p) có dạng
φ(B)Xt = Zt

và từ phương pháp 2 để tính hàm tự phương sai cho ta hàm tự hiệp phương sai của
AR(p) có dạng như (??) nghĩa là
k ri −1

γ(h) =
i=1 j=0

βij hj ζi−n h ≥ max(p, q + 1) − p

(1.2.14)

Có thể nhận thấy rằng giá trị hội tụ của γ(h) → 0 khi h → ∞ phụ thuộc vào việc
nghiệm ψi của đa thức φ(z) có gần đường tròn đơn vị hay không. Nếu đa thức φ(z) có
nghiệm gần với đường tròn đơn vị, thì hàm tự hiệp phương sai sẽ giảm một cách chậm
về không, và ngược lại nếu đa thức φ(z) có nghiệm càng xa so với đường tròn đơn vị
thì hàm tự hiệp phương sai sẽ giảm nhanh về không khi h → ∞. Ta sẽ làm rõ hơn điều
này với ví dụ về AR(2) ngay sau đây.

Ví dụ 1.6 (Hàm tự hiệp phương sai của quá trình AR(2)). Cho quá trình causal AR(2)
(1 − ζ1−1 B)(1 − ζ2−1 B)Xt = Zt |ζ1 | , |ζ2 | > 1; ζ1 = ζ2

(1.2.15)

Thực hiện việc tính toán như phương pháp thứ 2 đã đưa ra cho AR(2) ta thu được hàm
tự hiệp phương sai như sau
γ(h) =


σ 2 ζ12 ζ22
(ζ1 ζ2 − 1) (ζ2 − ζ1 )

Xem việc tính toán ở ??.

ζ12 − 1

−1 1−h
ζ1

− ζ22 − 1

−1 1−h
ζ2

(1.2.16)


24

1.3

Autocovariance Generating Function

Định nghĩa 1.6 (Hàm sinh của tự hiệp phương sai (Autocovariance Generating Func-

tion)) Cho {Xt } là một chuỗi thời gian dừng, với hàm tự hiệp phương sai γ(.), khi đó
hàm sinh của tự hiệp phương sai của {Xt } được định nghĩa bởi



γ(k)z k

G(z) =

(1.3.1)

k=−∞

theo định nghĩa ?? tồn tại r < R , sao cho G(z) hội tụ tuyệt đối trong A = {z ∈ C|r <
|z| < R}. Nhận xét rằng nếu ta có γ(k) = γ(−k) nên cũng từ định nghĩa ?? ta có
r = lim sup |γ(−k)|1/k = lim sup |γ(k)|1/k =
k→∞

k→∞

1
R

(1.3.2)

Mệnh đề 1.3 Cho {Xt } là một chuỗi thời gian dừng, giả sử {Xt } có dạng:


Xt =

Zt ∼ W N (0, σ 2 )

ψj Zt−j


(1.3.3)

j=−∞

(sự hội tụ của Xt đã được xét trong mệnh đề ??)


r−1 < |z| < r.

|ψj |z j < ∞

Nếu tồn tại r > 1 sao cho
j=−∞

Khi đó, hàm sinh của tự hiệp phương sai của {Xt } được cho bởi :
G(z) = σ 2 ψ(z)ψ(z −1 )


r−1 < |z| < r

(1.3.4)

ψj z j

Với ψ(z) =
j=−∞

Chứng minh
Do {Xt } là quá trình MA(∞) nên hàm tự hiệp phương sai của {Xt } có dạng :



γ(k) = σ

2

ψj ψj+|k|
j=−∞

Khi đó theo định nghĩa, hàm sinh của tự hiệp phương sai của {Xt } có dạng :


G(z) = σ



2

ψj ψj+|k| z k
k=−∞ j=−∞
1



= σ2



ψj ψj−k z k +
k=−∞ j=−∞






ψj2 +
j=−∞

ψj ψj−k z k
k=1 j=−∞


25

Ta tách được như trên là do sự hội tụ tuyệt đối của G(z) theo định nghĩa.
Xem các chuỗi trên như là tích phân trên Z với độ đo đếm µ, ta viết lại :

G(z) = σ 2 
−N Z

ψj ψj+k z k dµ(j) dµ(k) 

ψj2 dµ(j) +

ψj ψj−k z k dµ(j) dµ(k) +

N

Z




Z

2

=σ I
Đặt
ψj ψj−k z k dµ(j) dµ(k)

I1 =
−N Z

ψj ψj+k z k dµ(j) dµ(k)

I2 =
N

Z

Nhận xét rằng I, I1 , I2 đều khả tích nên ta có thể áp dụng công thức đổi biến
Xét I1
Đặt k = −k , j = j
ψj ψj−k z k dµ(j) dµ(k)

I1 =
−N Z

ψj ψj +k z −k dµ(j ) dµ(k )

=

N

Z

Xét I2
ψj ψj+k z k dµ(j) dµ(k)

I2 =
N

Z

Đặt j = j + k
ψj −k ψj z k dµ(j ) dµ(k)

I2 =
N

Z

Đặt k = −k
ψj +k ψj z −k dµ(j ) dµ(k )

I2 =
−N Z

Từ mệnh đề ?? và mệnh đề ?? ta có
ψj2 dµ(j) + I2

I = I1 +

Z

ψj ψj +k z −k dµ(j ) dµ(k ) +

=
N

Z

Z

ψj ψj +k z −k dµ(j ) dµ(k )

=
Z

Z

ψj2 dµ(j) +
−N Z

ψj +k ψj z −k dµ(j ) dµ(k )


×