Bài giảng Dự báo: Mô hình Arima - ThS. Nguyễn Văn Phong

MÔ HÌNH ARIMA
Nguyễn Văn Phong
UFM - 2013
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

1 / 47


Một số quá trình đơn giản
Xét một chuỗi thời gian {Xt , t ∈ Z}. Khi đó,

Định nghĩa
i) IID noise. Xt được gọi là IID noise, nếu chúng độc
lập có cùng phân phối, với trung bình 0, và phương
sai hữu hạn σ 2 , ký hiệu
Xt ∼ IID 0, σ 2
ii) White noise. Xt được gọi là White noise, nếu
chúng không tương quan, với trung bình 0, và
phương sai hữu hạn σ 2 , ký hiệu
Xt ∼ WN 0, σ 2
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

1 / 47

Một số quá trình đơn giản
Xét một chuỗi thời gian {Xt , t ∈ Z}. Khi đó,

Định nghĩa
iii) Random walk. Là một quá trình ngẫu nhiên thỏa
t

ui , ut ∼ WN(0, σ 2 ).

Xt = Xt−1 + ut =
i=1

Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

2 / 47


Các công cụ
i) Toán tử độ trể (Lag Operation)
LXt = Xt−1 và Lm Xt = Xt−m
ii) Trung bình
µt = E (Xt )
iii) Hiệp phương sai, AVCF Autocovariance Function
γ (t, s) = E [(Xt − µt ) (Xs − µs )]

Var (Xt ) = γ (t, t) = E (Xt − µt )2
iv) Hệ số tương quan, ACF (Autocorrelation Function)
γ (t, s)
ρ (t, s) =
γ (t, t) γ (s, s)
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

3 / 47


Một số tính chất

i)
ii)
iii)
iv)

γ (t, s) = γ (s, t)
|γ (t, s)|
γ (t, t) γ (s, s)
γ (t, s) = E [Xt Xs ] − E (Xt ) E (Xs )
|ρ (t, s)| 1

Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

4 / 47


Các công cụ
v) Filter linear (Wold Decomposition)
∞

Xt = µt +

ψi ut−i
i=0

trong đó
ut ∼ WN 0, σ 2
∞

ψ0 = 1

ψi2 < ∞.

và
i=0

Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

5 / 47


Các công cụ
vi) Phương trình sai phân thuần nhất cấp k
k

xn −

ai xn−i = 0, xi = bi , i = 1, k − 1, ∀n ≥ k.
i=1

Cách giải:
+) Giải phương trình đặc trưng: P (λ) = λk −

k

ai λk−i = 0

i=1

+) Với mỗi nghiệm bội m của PTĐT, ta có m nghiệm của PTSP có
dạng
xn = nr λn , 0 ≤ r ≤ m − 1
+) Nghiệm tổng quát của PTSP là tổ hợp tuyến tính của các
nghiệm.
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

6 / 47


Ví dụ
Ví dụ 1. Xét phương trình sau:
xn + 3xn−1 − 4xn−2 = 0,
x0 = 2, x1 = 1

n≥2

Ta có, phương trình đặc trưng: λ2 + 3λ − 4 = 0, có 2
nghiệm bội 1 là: λ1 = 1, λ2 = −4. Do đó, nghiệm tổng
quát của PTSP:
xn = 1n A + (−4)n B, n ≥ 0
Sử dụng các điều kiện đầu, ta tìm được nghiệm của
PTSP là:
9 1
xn = + (−4)n
5 5
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

7 / 47

Ví dụ
Ví dụ 2. Xét phương trình sau:
xn − 3xn−2 − 2xn−3 = 0,
x0 = 0, x1 = 1, x2 = 4

n≥3

Ta có, phương trình đặc trưng: λ3 − 3λ − 2 = 0, có 1
nghiệm bội 1 là: λ = 2 và một nghiệm bội 2 là λ = −1.
Do đó, nghiệm tổng quát của PTSP:
xn = 2n A + (−1)n B + n(−1)n C
Sử dụng các điều kiện đầu, ta tìm được nghiệm của
PTSP là:
2
2
xn = 2n − (−1)n + n(−4)n
3
3
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

8 / 47


Ví dụ

Ví dụ 3. Xét phương trình sau:
xn+2 + 4xn+2 + 8xn = 0,
x0 = 0, x1 = 2

n≥0

Ta có, phương trình đặc trưng: λ2 √
+ 4λ + 8 = 0, có 2
3π
nghiệm phức là: λ = −2 ± 2 i = 2 2 cos 3π
4 + i sin 4 .
Do đó, nghiệm tổng quát của PTSP:
√ n
3π
xn = 2 2
M cos 3π
4 + N sin 4
Sử dụng các điều kiện đầu, ta tìm được nghiệm của
PTSP là:
√ n
3nπ
xn = 2 2 sin
4
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

9 / 47

Tính dừng của chuỗi thời gian
Định nghĩa
Một chuỗi thời gian Xt được gọi là dừng nếu
i) E (Xt ) = µt = µ, với mọi t
ii) var (Xt ) = E (Xt − µt )2 = σ 2 , và hữu hạn với mọi t
iii) cov (Xt , Xs ) = E (Xt − µt ) (Xs − µs ) = γ (|t − s|),
i.e., chỉ phụ thuộc vào độ trể
Chú ý rằng, khái niệm dừng bên trên theo nghĩa (weak
stationary)
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

10 / 47


Tính dừng của chuỗi thời gian
Nếu Xt là một chuỗi dừng, khi đó ta ký hiệu
1) γ(h) = cov (Xt , Xt+h ) = E [(Xt − µ) (Xt+h − µ)]
2) γ(0) = E (Xt − µ)2
Khi đó, ta có một số tính chất sau
i) γ(0) 0
ii) |γ(h)| γ0
iii) γ(h) = γ(−h)
γ(h)
iv) ρh =

, ρ0 = 1
γ(0)
v) |ρh | 1, ρh = ρ−h
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

11 / 47


Các ước lượng
Nếu Xt , t = 1, 2, . . . , n là một dãy các dữ liệu quan sát,
khi đó ta có
1 n−h
¯ Xt − X
¯ , h = 1, n − 1
i) γˆ (h) =
Xt+h − X
n t=1
γˆ (h)
ii) rh =
γˆ (0)
1 n
¯
Trong đó, X =
Xt
n t=1

Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

12 / 47


Một số ví dụ về tính dừng
1) Chuỗi Xt ∼ IID(0, σ 2 ) là chuỗi dừng vì
E (Xt ) = 0, ∀t
σ2 t = s
γ (t, s) = E (Xt Xs ) =
0 t=s
2) Chuỗi Xt ∼ WN(0, σ 2 ) là chuỗi dừng vì
E (Xt ) = 0, ∀t
σ2 t = s
γ (t, s) = E (Xt Xs ) =
0 t=s
t

3) Chuỗi Xt = Xt−1 + ut =

ut , với ut ∼ wn 0, σ 2 ,

j=1

thì Xt là chuỗi không dừng vì
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

13 / 47


Một số ví dụ về tính dừng
E (Xt ) = E

t
i=1 ui

=

t
i=1 E

(ui ) = 0, ∀t

γ (t, s) = E (Xt Xs ) = min {t, s} σ 2
4) Chuỗi Xt = 13 (ut−1 + ut + ut+1 ) ∼ MA(3) là chuỗi
dừng vì
E (Xt ) = 0, ∀t

3/9
t=s




2/9 |s − t| = 1
γ (t, s) = E (Xt Xs ) =
1/9 |s − t| = 2



0 |s − t| ≥ 3
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

14 / 47


Một số ví dụ về tính dừng
∞

5) Xét bộ lọc tuyến tính, Xt = µt +

ψj ut−j , là một
j=0

quá trình dừng vì
E (Xt ) = µt , ∀t
γ (t, t) = σ

2

∞

ψj2 = γ (0)

j=0

γ (t, t + h) = σ

2

∞

ψj ψj+h = γ (h)
j=0
∞

γ (h)
ρ (h) =
=
γ (0)

ψj ψj+h
j=0
∞
j=0

Nguyễn Văn Phong (BMT - TK)

ψj2

MÔ HÌNH ARIMA

UFM - 2013

15 / 47


Quá trình tự hồi quy bậc 1, AR(1)
Quá trình AR(1), có dạng
Xt = δ + φXt−1 + ut , ut ∼ WN(0, σ 2 ).

(1)

Phương pháp bộ lọc tuyến tính.
Biểu diễn (1) dưới dạng
h

h
j

h

φj ut−j

φ + φ Xt−h +

Xt = δ
j=0

j=0

Với |φ| < 1, cho h → ∞. Khi đó
δ
Xt =
+
1−φ
Nguyễn Văn Phong (BMT - TK)

∞

φj ut−j
j=0

MÔ HÌNH ARIMA

UFM - 2013

16 / 47


Quá trình tự hồi quy bậc 1, AR(1)
Phương pháp toán tử Lag
Biểu diễn (1) dưới dạng
(1 − φL) Xt = δ + ut ⇔ Xt =
Với

δ
ut
+

1 − φL 1 − φL

1
= 1 + φL + (φL)2 + . . ..Khi đó
1 − φL
δ
Xt =
+
1−φ

Nguyễn Văn Phong (BMT - TK)

∞

φj ut−j
j=0

MÔ HÌNH ARIMA

UFM - 2013

17 / 47


Quá trình tự hồi quy bậc 1, AR(1)
Trung bình của AR(1)
E (Xt ) =

δ
=µ

1−φ

ACVF của AR(1)
σ2
γ (h) = φ
1 − φ2
h

ACF của AR(1)
ρ (h) = φh , h = 0, 1, 2, . . .
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

18 / 47


Phương pháp Moment
Lấy kỳ vọng hai vế của (1), ta được
E [Xt ] = E [δ + φXt−1 + ut ] = δ + φE [Xt−1 ] + E [ut ]
δ
1−φ
Đặt Xt = Xt − µ, thì (1) trở thành
Nếu E [Xt ] = µ, thì µ =

Xt = φXt−1 + ut

(2)

Khi đó, E [Xt ] = 0
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

19 / 47


Phương pháp Moment
Nhân hai vế của (2) cho Xt+h , h ≥ 0 và lấy kỳ vọng hai
vế, ta được
E [Xt Xt+h ] = φE [Xt−1 Xt+h ] + E [ut Xt+h ]
Chú ý rằng
E [ut Xt+h ] =

σ2 h = 0
0 h>0

Khi đó, ta có
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

20 / 47

Phương pháp Moment
Với h = 0
E [Xt2 ] = φE [Xt−1 Xt ] + σ 2
hay
γ (0) = φγ (1) + σ 2
Với h ≥ 1
E [Xt Xt+h ] = φE [Xt−1 Xt+h ]
hay
γ (h) = φγ (h − 1) ⇔ ρ (h) = φρ (h − 1)
Với

σ2
γ(0) =
⇔ ρ (0) = 1
1 − φ2

Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

21 / 47


Quá trình tự hồi quy bậc 2, AR(2)
Quá trình AR(2), có dạng
Xt = φ1 Xt−1 + φ2 Xt−2 + ut , ut ∼ WN(0, σ 2 ).

(3)

Áp dụng phương pháp moment cho AR(2), ta cũng có

h = 0 : γ (0) =
φ1 γ (1)
+
φ2 γ (2)
+ σ2



h = 1 : γ (1) =
φ1 γ (0)
+
φ2 γ (1)
h = 2 : γ (2) =
φ1 γ (1)
+
φ2 γ (0)



h ≥ 2 : γ (h) = φ1 γ (h − 1) + φ2 γ (h − 2)
Hay
ρ(h) = φ1 ρ(h − 1) + φ2 ρ(h − 2), h ≥ 2
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

22 / 47


Quá trình tự hồi quy bậc 2, AR(2)
Ví dụ. Xét quá trình
Xt = 1 + 1.5Xt−1 − 0.56Xt−2 + ut , ut ∼ WN(0, 1)
1
Ta có, E [Xt ] =
= 16.67, và
1 − 1.15 + 0.56

γ (0) =
1.5γ (1)
−
0.56γ (2)
+ 1



γ (1) =
1.5γ (0)
−
0.56γ (1)
γ (2) =
1.5γ (1)
−
0.56γ (0)




γ (h) = 1.5γ (h − 1) − 0.56γ (h − 2) h ≥ 2
Ta có phương trình sai phân cho ACF là
ρ(h) − 1.5ρ(h − 1) + 0.65ρ(h − 2) = 0, h ≥ 2
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

23 / 47


Quá trình tự hồi quy bậc 2, AR(2)
Ví dụ. Xét quá trình
Xt = 1.4Xt−1 − 0.85Xt−2 + ut , ut ∼ WN(0, 1)
Ta có, E [Xt ] = 0, và

γ (0) =
1.4γ (1)



γ (1) =
1.4γ (0)
γ (2) =
1.4γ (1)




γ (h) = 1.4γ (h − 1)

−
0.85γ (2)
+ 1
−
0.85γ (1)
−
0.85γ (0)
− 0.85γ (h − 2) h ≥ 2

Ta có phương trình sai phân cho ACF là
ρ(h) − 1.4ρ(h − 1) + 0.85ρ(h − 2) = 0, h ≥ 2
Nguyễn Văn Phong (BMT - TK)

MÔ HÌNH ARIMA

UFM - 2013

24 / 47