Tải bản đầy đủ (.pdf) (82 trang)

Về quá trình phân nhánh và quá trình phân nhánh cạnh tranh trong không gian liên tục

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (612.3 KB, 82 trang )

ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
——————————

Trần Thị Thu Hiền

VỀ QUÁ TRÌNH PHÂN NHÁNH
VÀ QUÁ TRÌNH PHÂN NHÁNH CẠNH TRANH
TRONG KHÔNG GIAN LIÊN TỤC

LUẬN VĂN THẠC SĨ CAO HỌC

Hà Nội - 2019


ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN
——————————

Trần Thị Thu Hiền

VỀ QUÁ TRÌNH PHÂN NHÁNH
VÀ QUÁ TRÌNH PHÂN NHÁNH CẠNH TRANH
TRONG KHÔNG GIAN LIÊN TỤC

Chuyên ngành: Lý thuyết xác suất và thống kê toán học
Mã số: 8460112.02

LUẬN VĂN THẠC SĨ CAO HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC : TS. LÊ VĨ



Hà Nội - 2019


Lời cảm ơn
Lời đầu tiên của luận văn này tôi xin gửi lời cảm ơn sâu sắc tới thầy giáo hướng
dẫn TS. Lê Vĩ - người thầy đã tận tình giúp đỡ, chỉ bảo, định hướng nghiên cứu cho tôi
để hoàn thành luận văn này. Qua đây, tôi cũng xin chân thành cám ơn sự giúp đỡ của
các thầy giáo trong Khoa Toán - Cơ - Tin học, Bộ môn Xác suất thống kê trường Đại
học Khoa học tự nhiên - Đại học quốc gia Hà Nội, những người đã giúp đỡ, giảng dạy
và truyền đạt kiến thức cho tôi trong suốt quá trình học tập và nghiên cứu tại trường.
Mặc dù đã có nhiều cố gắng, do hạn chế về thời gian thực hiện nên luận văn
không thể tránh khỏi những thiếu sót. Tôi kính mong nhận được ý kiến đóng góp quý
báu của quý thầy cô và các bạn để luận văn được hoàn thiện hơn. Xin trân trọng cảm
ơn!
Hà Nội, tháng 3 năm 2019
Học viên
Trần Thị Thu Hiền.

i


Mục lục
Mở đầu

1

1 Kiến thức chuẩn bị

2


Kiến thức chuẩn bị
1.1 Không gian xác suất và biến ngẫu nhiên . . . . . . . . . . .
Không gian xác suất và biến ngẫu nhiên . . . . . . . . . . . . . .
1.1.1 Không gian xác suất . . . . . . . . . . . . . . . . . .
1.1.2 Biến ngẫu nhiên và kỳ vọng . . . . . . . . . . . . . .
1.2 Quá trình ngẫu nhiên . . . . . . . . . . . . . . . . . . . . .
1.2.1 Quá trình Markov . . . . . . . . . . . . . . . . . . .
1.2.2 Quá trình Levy . . . . . . . . . . . . . . . . . . . . .
1.2.3 Quá trình ngẫu nhiên thích nghi với một bộ lọc . . . .
1.2.4 Kỳ vọng có điều kiện lấy đối với một σ trường . . . .
1.2.5 Xác suất có điều kiện . . . . . . . . . . . . . . . . . .
1.2.6 Martingale . . . . . . . . . . . . . . . . . . . . . . .
1.3 Tích phân ngẫu nhiên . . . . . . . . . . . . . . . . . . . . .
1.3.1 Một số khái niệm liên quan đến quá trình ngẫu nhiên
1.3.2 Tích phân ngẫu nhiên Ito . . . . . . . . . . . . . . .
1.3.3 Công thức Ito . . . . . . . . . . . . . . . . . . . . . .
1.4 Phương trình vi phân ngẫu nhiên . . . . . . . . . . . . . . .
1.5 Bài toán martingale . . . . . . . . . . . . . . . . . . . . . .

2
2
2
2
5
7
10
24
28
30

31
32
35
37
37
38
39
46

2 Quá trình phân nhánh
2.1 Quá trình phân nhánh thời gian rời rạc . . . . . . . . . . . .
2.1.1 Hàm sinh . . . . . . . . . . . . . . . . . . . . . . . .

48
49
50

ii


2.2

2.1.2 Tính cộng tính . . . . . . . . . . . . . . . . . . . . . 51
2.1.3 Moment . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.1.4 Các tính chất cơ bản của hàm sinh . . . . . . . . . . 52
2.1.5 Xác suất tuyệt chủng . . . . . . . . . . . . . . . . . . 53
Quá trình phân nhánh trong không gian liên tục - CBP (continuousstate branching process) . . . . . . . . . . . . . . . . . . . . 54
2.2.1 Biến đổi Lamperti . . . . . . . . . . . . . . . . . . . 55
2.2.2 Động thái dài hạn . . . . . . . . . . . . . . . . . . . 58
2.2.3 Quá trình bảo toàn . . . . . . . . . . . . . . . . . . . 59

2.2.4 Xác suất tuyệt chủng . . . . . . . . . . . . . . . . . . 60
2.2.5 Hàm sinh . . . . . . . . . . . . . . . . . . . . . . . . 64
2.2.6 Dạng phương trình vi phân của CBP . . . . . . . . . 67

3 Quá trình phân nhánh cạnh tranh
3.1 Định nghĩa . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2 Hàm sinh . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.3 Định lý tồn tại và duy nhất nghiệm . . . . . . . . . . . . . .

69
69
70
71

Kết luận

75

Tài liệu tham khảo

76

iii


MỞ ĐẦU
Quá trình ngẫu nhiên có lịch sử bắt nguồn từ nghiên cứu của GaltonWalson về sự tuyệt chủng của quần thể. Trong đó, quá trình phân nhánh là
một quá trình ngẫu nhiên quan trọng trong toán lý thuyết và toán ứng dụng.
Quá trình phân nhánh mô tả diễn biến theo thời gian của một quần thể giống
loài, nơi mà các cá thể sinh sản và chết đi độc lập với nhau. Tuy nhiên, trong

thực tế, điều kiện độc lập là lý tưởng. Chính vì vậy, mô hình phân nhánh
cạnh tranh đã bắt đầu được quan tâm nghiên cứu. Luận văn "Về quá trình
phân nhánh và quá trình phân nhánh cạnh tranh trong không gian liên tục"
gồm :

• Chương 1: Kiến thức chuẩn bị.
• Chương 2: Quá trình phân nhánh.
• Chương 3: Quá trình phân nhánh cạnh tranh trong không gian liên tục.

1


Chương 1
Kiến thức chuẩn bị
Trong chương này, ta trình bày một số định nghĩa, kết quả về không
gian xác xuất, biến ngẫu nhiên và một số quá trình ngẫu nhiên cơ bản để
làm cơ sở cho việc trình bày nội dung chính của luận văn ở các chương sau.

1.1

Không gian xác suất và biến ngẫu nhiên

1.1.1

Không gian xác suất

Tập hợp các kết quả có thể của phép thử ngẫu nhiên (mà kết quả không
dự đoán được) được gọi là không gian mẫu và được ký hiệu là Ω. Mỗi tập
hợp A ⊂ Ω là một biến cố. Ta giả định Ω là tập khác rỗng.
• Một họ các biến cố F được gọi là trường (đại số) nếu:

(i) F chứa không gian mẫu, hay Ω ∈ F .
(ii) F kín đối với phép lấy phần bù. Tức là A ∈ F → Ac ∈ F , trong đó

Ac = Ω \ A.
(iii) F kín đối với phép lấy hợp hữu hạn. Tức là Ak ∈ F, k = 1, 2, . . . , n thì
n

Ak ∈ F.
k=1

• Một họ các biến cố F được gọi là một σ - đại số nếu:
2


(i) F chứa không gian mẫu, Ω ∈ F .
(ii) F kín đối với phép lấy phần bù. A ∈ F thì Ac ∈ F , trong đó Ac = Ω\A.
(iii) F kín đối với phép lấy hợp đếm được. Tức là nếu An ∈ F, n = 1, 2, . . .
thì


An ∈ F.
n=1

• Không gian đo là cặp (Ω, F), trong đó Ω là không gian mẫu nào đó, F
là σ - đại số.
• Giả sử C là tập mà mỗi phần tử của nó là tập con của Ω. Khi đó ta nói C
là một lớp. Ta ký hiệu 2Ω là lớp gồm tất cả các tập con của Ω. Đó là σ - đại
số lớn nhất. Trong khi đó lớp gồm hai tập: (Ω, ∅) là σ - đại số bé nhất. Giao
của các σ - đại số chứa C cũng là σ - đại số chứa C . Vì thế, tồn tại σ - đại
số bé nhất chứa C . Ta ký hiệu σ - đại số này là σ(C), và gọi đó là σ - đại số

sinh ra từ C .
• Ta nói rằng dãy (hữu hạn hoặc vô hạn) các tập (An ) là phân hoạch của
Ω, nếu hợp của chúng bằng Ω và chúng rời nhau từng cặp, tức là,
Ai ∩ Aj = ∅, ∀i = j.
Trong trường hợp như thế ta viết

Ω=

An .
n

Dễ dàng thấy, σ - đại số sinh ra từ phân hoạch này là lớp tất cả các tập dạng

An ,
n ∈ I

trong đó I là tập con của {1, 2, . . . }.
• Cho An là dãy các tập con của Ω. Ký hiệu




lim sup An =
n



Ak ,




lim inf An =
n

n=1 k=n

Nếu

lim sup An = lim inf An
n

n

3

Ak .
n=1 k=n


thì ta nói (An ) có giới hạn, và ký hiệu các tập bằng nhau này bởi lim An .
• Khi Ω là không gian metric, ta ký hiệu B là σ - đại số sinh ra từ các tập
mở, và gọi B là σ - đại số Borel.
• Độ đo trên σ - đại số F là ánh xạ µ : F → [0, ∞] sao cho tồn tại
A = ∅, A ∈ F với µ(A) < ∞ và nếu An ∈ F, n = 1, 2, . . . là dãy các tập
rời nhau từng cặp thì




µ


An

=

n=1

µ(An ).
n=1

Độ đo µ là hữu hạn nếu µ(Ω) < ∞. Độ đo µ là σ - hữu hạn hay hữu hạn
đếm được nếu


Ω=

An ,

An ∈ F,

µ(An ) < ∞,

∀n = 1, 2, . . .

n=1

Tập B ⊂ Ω được gọi là tập có µ - độ đo không nếu tồn tại A ∈ F sao cho

B ⊂ A,


µ(A) = 0.

Độ đo µ được gọi là đủ nếu F chứa tất cả các tập có µ - độ đo không.
σ - đại số bổ sung của F đối với µ được định nghĩa theo công thức sau :

Fµ = C ⊂ Ω|tồn tại A1 , A2 ∈ F, A1 ⊂ C ⊂ A2 , µ(A1 \ A2 ) = 0 .
• Giả sử F là σ - đại số nào đó các tập con của F . Mỗi phần tử của F được
gọi là một biến cố. Nếu A là một biến cố thì A xảy ra khi và chỉ khi kết quả
của phép thử thuộc vào A. Không gian mẫu Ω là biến cố chắc chắn và tập ∅
là biến cố không thể. Ánh xạ P : F → R thỏa mãn các điều kiện:
(i) 0 ≤ P (A) ≤ 1,
(ii) P (Ω) = 1; P (∅) = 0,
(iii) Nếu dãy (An ) là các biến cố đôi một xung khắc với nhau thì :


P



An
n=1

=

P (An ).
n=1

4



• Khi đó P là một độ đo chuẩn hóa, tức là P(Ω) = 1. Ta gọi P (A) là xác
suất của biến cố A. Bộ ba (Ω, F, P) gọi là một không gian xác suất.
Như vậy, một không gian xác suất là một không gian có độ đo, trong đó độ
đo P(A) thỏa mãn P(Ω) = 1. Độ đo P(A) như vậy gọi là một độ đo xác suất
trên (Ω, F).
Xác suất có điều kiện được định nghĩa theo công thức :
P(A|B) =

1.1.2

P(A ∩ B)
,
P(B)

P(B) > 0.

Biến ngẫu nhiên và kỳ vọng
Biến ngẫu nhiên

Là đại lượng mà giá trị của nó phụ thuộc vào các kết quả của phép thử.
Biến ngẫu nhiên là ánh xạ X : Ω → R sao cho

(X ≤ x) = {ω ∈ Ω|X(ω) ≤ x} ∈ F,

∀x ∈ R.

• Hàm phân phối xác suất của biến ngẫu nhiên X được xác định theo
công thức F (x) = P {X ≤ x} , x ∈ R với các tính chất sau:
(i) Không giảm.
(ii) Liên tục bên phải.

(iii) lim F (x) = 0 và lim F (x) = 1.
x→−∞

x→+∞

Biến ngẫu nhiên X được gọi là rời rạc nếu tập tất cả các giá trị của nó là hữu
hạn hay đếm được. Ký hiệu (x1 , x2 , . . . ) là các giá trị của X.
Dãy phân phối xác suất của X là pn = P(X = xn ) với n = 1, 2, . . . . Dãy
này có các tính chất :
(i) Không âm, pn ≥ 0, ∀n = 1, 2, . . . .

pn = 1.

(ii)
n

Biến ngẫu nhiên X được gọi là liên tục nếu hàm phân phối xác suất của nó
có đạo hàm. Khi đó, f (x) = F (x), x ∈ R là hàm mật độ. Hàm số này có
tính chất:
5


(i) Không âm, f (x) ≥ 0, ∀x ∈ R.
+∞

f (x)dx = 1.

(ii)
−∞


• Giả sử (Ω, F) và (E, B) là hai không gian đo được. Ánh xạ X : Ω → E
được gọi là (F, B)- đo được nếu
X −1 (B) ∈ F,

∀B ∈ B.

Nếu (Ω, F, P) là không gian xác suất, ta đặt:
PX (B) = P(X −1 (B)),

B ∈ B.

Khi đó PX là độ đo xác định trên (E, B).
Khi lấy không gian trạng thái E là Rn , B = B(Rn ), thì X = (X1 , . . . , Xn )
được gọi là vecto ngẫu nhiên và PX được gọi là phân phối đồng thời của
các biến ngẫu nhiên X1 , . . . , Xn .
Kỳ vọng và phương sai
Giả sử (Ω, F, P) là không gian xác suất, X là biến ngẫu nhiên.

• Trường hợp rời rạc.
Kỳ vọng của X là số thực xác định theo công thức
EX =

x n pn =
n

xn P(X = xn ),
n

nếu chuỗi hội tụ tuyệt đối.
Kỳ vọng có điều kiện của X khi biến cố B đã cho là số thực xác định

theo công thức

xn P(X = xn |B).

E(X|B) =
n

Phương sai của X là số thực không âm xác định theo công thức
2

V arX = E [X − EX]

= EX 2 − (EX)2
6


2

pn x2n

=



pn xn

n

.


n

Phương sai có điều kiện của X khi biến cố B đã cho là số thực xác định
theo công thức
2

V ar(X|B) = E [(X − E(X|B))|B] = E(X 2 |B) − (E(X|B))2 .
• Trường hợp liên tục.
Kỳ vọng của X là số thực xác định theo công thức
+∞

EX =

xf (x)dx.
−∞

Phương sai của X là số thực không âm xác định theo công thức:
2

V arX = E [X − EX]

= EX 2 − (EX)2
+∞

x f (x)dx −

=
−∞

1.2


2

+∞
2

xf (x)dx

.

−∞

Quá trình ngẫu nhiên

Quá trình ngẫu nhiên là mô hình toán học của rất nhiều bài toán thực
tiễn xuất hiện trong đời sống. Nó mô tả sự tiến hóa theo thời gian của một
hệ chịu sự tác động của các yếu tố ngẫu nhiên.
Đối tượng nghiên cứu của quá trình ngẫu nhiên là họ vô hạn các biến
ngẫu nhiên phụ thuộc tham số t ∈ T nào đó.
Giả sử T là tập vô hạn bất kỳ. Nếu với mỗi t ∈ T, Xt là biến ngẫu nhiên thì
ta ký hiệu X = {Xt , t ∈ T } và gọi X là hàm ngẫu nhiên.

• Nếu T là tập đếm được thì ta gọi X = {Xt , t ∈ T } là quá trình ngẫu
nhiên với tham số rời rạc.

• Nếu T = N thì ta gọi X = {Xt , t ∈ N} là dãy các biến ngẫu nhiên (một
phía).
7



• Nếu T = Z thì ta gọi X = {Xt , t ∈ Z} là dãy các biến ngẫu nhiên hai
phía.

• Nếu T là một khoảng của đường thẳng thực, thì ta gọi X = {Xn , n ∈ T }
là quá trình ngẫu nhiên với tham số liên tục. Trong trường hợp này, tham
số t đóng vai trò thời gian.

• Nếu T là tập con của Rd , thì ta gọi X = {Xt , t ∈ T } là trường ngẫu
nhiên.
Ta thường nghiên cứu các quá trình ngẫu nhiên với tham số liên tục. Khi ấy,
tham số t thường đóng vai trò thời gian.

Định nghĩa 1. Giả sử X = {Xt , t ∈ T } là quá trình ngẫu nhiên, và I =
(t1 , . . . , tn ) là tập con các chỉ số thời gian hữu hạn của T. Hàm phân phối
đồng thời của Xt1 . . . Xtn :

FI (x1 , . . . , xn ) = F (x1 , . . . , xn ; t1 , . . . , tn )
= P {Xt1 ≤ x1 , . . . , Xtn ≤ xn }
được gọi là phân phối hữu hạn chiều của X ứng với I, và tập {FI } được
gọi là họ các phân phối hữu hạn chiều của X.
Họ các phân phối hữu hạn chiều thỏa mãn các điều kiện:
(i) Điều kiện đối xứng: F (x1 , . . . , xn ; t1 , . . . , tn ) không thay đổi khi hoán
vị các cặp (xk , tk ).
(ii) Điều kiện nhất quán:

lim F (x1 , . . . , xn ; t1 , . . . , tn ) = F (x1 , . . . , xn−1 ; t1 , . . . , tn−1 ).

xn →∞

Định nghĩa 2. Cho quá trình ngẫu nhiên X = {Xt , t ∈ T } trên không gian

xác suất (Ω, F, P). Khi cố định ω ∈ Ω, thì X(ω) = X• (ω) : T → R là hàm
số của t ∈ T . Ta gọi X• (ω) là quỹ đạo hay hàm chọn của quá trình ngẫu
nhiên X = {Xt , t ∈ T } ứng với ω .

8


Các tính chất của quỹ đạo cho phép ta phân loại quá trình ngẫu nhiên.
Chẳng hạn khi T là khoảng nào đó:

• X = {Xt , t ∈ T } là quá trình liên tục, nếu hầu hết các quỹ đạo của
nó là hàm liên tục.

• X = {Xt , t ∈ T } là quá trình bước nhảy, nếu hầu hết các quỹ đạo
của nó là hàm bậc thang.
Định nghĩa 3. Ta ký hiệu RT là không gian của các hàm thực xác định trên
T . Mỗi phần tử của RT được ký hiệu là (x• , • ∈ T ). Khi đó mọi quỹ đạo của
quá trình ngẫu nhiên {Xt , t ∈ T } đều thuộc RT , nên ta còn gọi RT là không
gian quỹ đạo. Ta có thể xem quá trình ngẫu nhiên X = {Xt , t ∈ T } trên
không gian xác suất (Ω, F, P) là ánh xạ từ Ω vào không gian quỹ đạo:
X : Ω → RT , X(ω) = X• (ω).
Miền giá trị của ánh xạ này là một không gian con của RT .
Định nghĩa 4. Giả sử I = (t1 , . . . , tn ) là tập con hữu hạn của T.
Ký hiệu ΠI là phép chiếu chính tắc từ RT lên RI , hay

ΠI (x• ) = (xt1 , . . . , xtn ).
Giả sử B I là σ - đại số Borel của RI . Với mỗi B ∈ B I ta đặt

CI (B) = x• ∈ RT |ΠI (x• ) ∈ B .
Khi đó, ta gọi CI (B) là tập trụ với đáy B ứng với các tọa độ I = (t1 , . . . , tn ).

Như vậy, khi cố định I, tập các tập trụ là nghịch ảnh của B I qua phép chiếu
ΠI . Đặt
I
CI := Π−1
I (B ).

Hiển nhiên, CI là σ -đại số trên RT . Đặt

C=

CI .
I

trong đó hợp lấy theo tất cả các tập con hữu hạn I của T. Khi đó C là một
trường. Nhưng khi T vô hạn, C không phải là σ - đại số. Ta ký hiệu σ - đại
số bé nhất chứa C là σ(C).
9


Định nghĩa 5. Cho quá trình ngẫu nhiên X = {Xt , t ∈ T } trên không gian
xác suất (Ω, F, P). Ta có X = X• là ánh xạ từ không gian mẫu Ω vào không
gian quỹ đạo:
X(ω) = X• (ω).
Hơn nữa, với mỗi tập trụ CI (B) ta có:

{ω ∈ Ω|X(ω) ∈ CI (B)} = {ω ∈ Ω| (Xt1 , . . . , Xtn ) ∈ B} ∈ F.
Từ đó suy ra X là ánh xạ đo được từ (Ω, F) vào (RT , σ(C)), tức là ,
X−1 (C) ∈ F,

∀C ∈ σ(C).


Do đó, hàm tập :
PX (C) = P X−1 (C) ,

∀C ∈ σ(C)

là độ đo xác suất trên σ(C).
Ta gọi PX là phân phối xác suất trên không gian quỹ đạo của quá
trình X = {Xt , t ∈ T }.
Định lý 1.2.1 (Định lý tồn tại Kolmogorov). Tồn tại không gian xác suất
(Ω, F, P) và quá trình X = {Xt , t ∈ T } xác định trên (Ω, F, P) nhận {PI }
làm họ các phân phối hữu hạn chiều của nó.

1.2.1

Quá trình Markov
Xích Markov

Giả sử E là một tập hữu hạn. Xét một hệ gồm các quan sát X0 , X1 , . . .
tại các thời điểm rời rạc 0, 1, 2, . . . nhận giá trị trên E . Khi đó ta có một
dãy các đại lượng ngẫu nhiên (Xn ) trong đó Xn là trạng thái của hệ tại thời
điểm n. Giả sử mỗi Xn (n = 0, 1, . . . ) là một đại lượng ngẫu nhiên rời rạc.
Ta gọi E là không gian trạng thái của dãy. Mỗi phần tử i ∈ E được gọi là
một trạng thái.
Định nghĩa 6. Ta nói rằng dãy các đại lượng ngẫu nhiên (Xn ) là một
xích Markov nếu với mọi n1 < · · · < nk < nk+1 và với mọi k ∈ N ,
i1 , . . . , ik , ik+1 ∈ E có
P Xnk+1 = ik+1 |Xnk = ik , . . . Xn1 = i1 = P Xnk+1 = ik+1 |Xnk = ik .
10



Ta coi thời điểm nk+1 là tương lai, nk là hiện tại còn n1 , . . . , nk−1 là quá
khứ. Như vậy xác suất có điều kiện của một sự kiện B nào đó trong tương
lai nếu biết hiện tại và quá khứ giống như xác suất có điều kiện của B nếu
chỉ biết trạng thái hiện tại của hệ. Đó chính là tính Markov của hệ. Đôi khi
tính Markov còn phát biểu dưới dạng : Nếu biết trạng thái hiện tại của hệ
thì tương lai và quá khứ là độc lập với nhau.
Giả sử P {Xm+n = j|Xm = i} là xác suất để xích tại thời điểm m ở trạng
thái i sau n bước, tại thời điểm m + n chuyển sang trạng thái j . Đây là
một con số nói chung phụ thuộc vào i, j, m, n. Nếu đại lượng này không phụ
thuộc m ta nói xích thuần nhất.
Trong khóa luận, ta sẽ chỉ xét xích Markov thuần nhất, tức là xác suất chuyển
không phụ thuộc m.
Ký hiệu

pij (n) = P {Xm+n = j|Xm = i} = P {Xm = j|X0 = i}
là xác suất chuyển sau n bước.
Ta có:

pij (n) = 1.
j∈E

Ký hiệu pij = pij (1) là xác suất chuyển sau 1 bước.
Phân bố của X0 được gọi là phân bố ban đầu. Ta ký hiệu pi = P(X0 = i).
Định lý 1.2.2. Phân bố đồng thời của (X0 , X1 , . . . , Xn ) được hoàn toàn xác
định từ phân bố ban đầu và xác suất chuyển:
n

P(X0 = i0 , X1 = i1 , . . . , Xn = in ) = pi


pik−1 ik .
k=1

Chứng minh. Theo công thức nhân xác suất, ta có :
P(X0 = i0 , X1 = i1 , . . . , Xn = in )

= P(X0 = i0 )P (X1 = i1 |X0 = i0 ) × . . .
×P(Xk = ik |X0 = i0 , . . . Xk−1 = ik−1 ) × . . .
×P(Xn = in |X0 = i0 , . . . Xn−1 = in−1 ).
11


Theo tính Markov ta có :
P(Xk = ik |X0 = i0 , . . . Xk−1 = ik−1 ) = P(Xk = ik |Xk−1 = ik−1 )

= pik−1 ik .
Áp dụng tính chất này, ta có :
n

P(X0 = i0 , X1 = i1 , . . . , Xn = in ) = pi

pik−1 ik .
k=1

Định lý 1.2.3. Phương trình Chapman-Kolmogorov .

pij (n + m) =

pik (n)pkj (m).
k∈E


Chứng minh. Theo công thức xác suất đầy đủ và tính Markov, ta có :

pij (n + m) = P(Xn+m = j|X0 = i)
=

P(Xn = k|X0 = i)P(Xn+m = j|Xn = k, X0 = i)
k∈E

pik (n)pkj (m).

=
k∈E

Trong trường hợp E có d phần tử, ta ký hiệu:

p = (pij ), p(n) = (pij (n))
là các ma trận vuông cấp d × d. P được gọi là ma trận xác suất chuyển,
P (n) được gọi là ma trận xác suất chuyển sau n bước. Khi đó, từ phương
trình Chapman-Kolmogorov tương đương với

P (n + m) = P (n)P (m).
Vì P = P (1) nên bằng quy nạp dễ thấy

P (n) = P n .
Gọi pi (n) = P(Xn = i). Ký hiệu vector Π(n) = (p1 (n), ..., pd (n)) là vector
hàng d - chiều mô tả phân bố của Xn , Π = Π(0) = (p1 , p2 , ..., pd ) là vector
hàng d - chiều mô tả phân bố ban đầu.
12



Định lý 1.2.4. Ta có

Π(m + n) = Π(m)P n .

Chứng minh. Thật vậy, theo công thức xác suất đầy đủ, ta có
d

pj (m + n) = P(Xm+n = j) =

P(Xm = i)P(Xm+n = j|Xm = i)
i=1
d

=

pi (m)pij (n).
i=1

Định nghĩa 7. Phân bố ban đầu Π = (pi ), i ∈ E được gọi là phân bố dừng
nếu ta có Π(n) = Π với mọi n, tức là pi (n) = pi , ∀i ∈ E, n = 1, 2, . . . .
Khi đó, dãy (Xn ) có cùng phân bố.
Ta thấy rằng Π = (pi ) là phân bố dừng nếu và chỉ nếu :
(i) pi ≥ 0 và

pi = 1.
i∈E

(ii) pj =


pj pij

∀j ∈ E .

i∈E

Định lý 1.2.5. Giả sử (Xn ) là xích Markov với không gian trạng thái E =
{1, 2, . . . } với ma trận xác suất chuyển sau n bước là P (n) = (Pij (n)). Giả
sử rằng với mọi i, j ∈ E tồn tại giới hạn

lim pij (n) = πj

n→∞

và giới hạn này không phụ thuộc i. Khi đó :

πj ≤ 1 và πj =

(i)
j∈E

πi pij .
i∈E

(ii) Hoặc πj = 0 với mọi j ∈ E , hoặc

πj = 1.
j∈E

πj = 1 thì Π = (π1 , π2 , . . . ) là phân bố dừng duy nhất. Nếu


(iii) Nếu
j∈E

πj = 0 với mọi j ∈ E thì phân bố dừng không tồn tại.
13


Chứng minh.
1. Theo bổ đề Fatou, ta có :

lim pij (n) ≤ lim inf

πj =
j∈E

n→∞

j∈E

n→∞

pij (n) = 1.
j∈E

Sử dụng bổ đề Fatou và phương trình C-K, ta có:

πi pij =
i∈E


lim pki (n)pij

i∈E

n→∞

≤ lim inf
n→∞

Đặt sj = πj −

pki (n)pij = lim inf pkj (n + 1) = πj .
n→∞

i∈E

πi pij ≥ 0 ∀j ∈ E . Ta có :
i∈E

πj −

sj =
j∈E

j∈E

πi pij
j∈E i∈E

πj −


=
j∈E

πi pij
i∈E j∈E

πj −

=
j∈E

πi
i∈E

πj −

=
j∈E

pij
j∈E

πi
i∈E

= 0.
Vậy sj = 0 ∀j ∈ E hay πj =

πi pij ∀i ∈ E.

i∈E

2. Ta có :

πj =

πi pij
i∈E

=

πk pki pij
i∈E

=

k∈E

πk
i∈E

k∈E

=

pki pij

πk pkj (2).
k∈E


14


Bằng quy nạp, dễ thấy với mọi n

πk pkj (n), ∀n ≥ 1.

πj =
k∈E

Vì chuỗi hội tụ đều đối với n nên

πj = lim

n→∞

=

πk pkj (n)
k∈E

πk lim pkj (n)
n→∞

k∈E

= πj

πk .
k∈E


Suy ra

πj 1 −

πk

∀j ∈ E.

= 0,

k∈E

πk < 1 thì πj = 0 với mọi j ∈ E.

Vậy nếu
k∈E

πk = 1 thì Π = (π1 , π2 , . . . ) là phân bố dừng.

3. Nếu
k∈E

Ta cần đi chứng minh phân bố dừng là duy nhất.
Giả sử rằng Π là phân bố dừng, ta có pj =
pk pkj (n), ∀n ≥ 1.
k∈E

Vì chuỗi hội tụ đều đối với n nên


pi =

pk lim pkj (n) =
k∈E

n→∞

pk π j = π j .
k∈E

πj < 1 thì phân bố dừng không tồn tại.

Do đó nếu
j∈E

πj = 1 thì phân bố dừng là duy nhất.

Nếu
j∈E

Định nghĩa 8. Giả sử (Xn ) là xích Markov với không gian trạng thái E =
{1, 2, . . . },ma trận xác suất chuyển sau n bước là P (n) = (pij (n)). Ta nói
rằng xích có phân bố giới hạn nếu với mọi i, j ∈ E tồn tại giới hạn

lim pij (n) = πj .

n→∞

Giới hạn này không phụ thuộc i ∈ E và


πj = 1.
j∈E

15


Nếu phân bố giới hạn tồn tại thì phân bố dừng cũng tồn tại và duy
nhất. Hơn nữa, hai phân bố này trùng nhau. Tuy nhiên, điều ngược lại không
đúng. Tức là có những xích Markov tồn tại phân bố dừng nhưng không tồn
tại phân bố giới hạn.
Phân loại trạng thái xích Markov
Định nghĩa 9. Ta nói rằng trạng thái i đến được trạng thái j và ký hiệu là
i → j nếu tồn tại n ≥ 0 sao cho pij (n) > 0.
Hai trạng thái i và j được gọi là liên lạc được nếu i → j và j → i. Trong
trường hợp đó, ta viết i ↔ j .
Định nghĩa 10. Xích Markov được gọi là tối giản nếu hai trạng thái bất kỳ
là liên lạc được.
Nếu xích không tối giản được thì E được phân hoạch thành các lớp rời nhau
E = E1 ∪ E2 ∪ · · · ∪ Ek , trong đó mỗi Ek là không gian trạng thái của các
xích Markov tối giản. Như vậy việc nghiên cứu xích Markov có thể quy về
việc nghiên cứu các xích tối giản.
Định nghĩa 11. Chu kỳ của trạng thái i ký hiệu là d(i) là ước chung lớn
nhất của tất cả các số nguyên dương n ≥ 1 mà Pii (n) > 0. Nếu Pii (n) = 0
với mọi n ≥ 1 thì ta đặt d(i) = 0.
Nếu d = 1 ta nói rằng xích không có chu kỳ.
Định lý 1.2.6. Nếu i ↔ j thì d(i) = d(j). Vậy các trạng thái cùng một lớp
có cùng một chu kỳ d và ta coi đó là chu kỳ của lớp.
Định nghĩa 12. Ký hiệu fii (n) là xác suất để hệ xuất phát từ i lần đầu tiên
quay lại i ở thời điểm n. Nghĩa là


fii (n) = P(Xn = i, Xn−1 = i, . . . , X1 = i|X0 = i).
Ký hiệu


fii∗

=

fii (n)
n=1

là xác suất để hệ xuất phát từ i quay trở lại i sau một số hữu hạn bước.
- Nếu fii∗ = 1 ta nói i là trạng thái hồi quy.
16


- Nếu fii∗ < 1 ta nói i là trạng thái không hồi quy.
Định lý 1.2.7. Trạng thái i là hồi quy khi và chỉ khi


pii (n) = ∞.
n=1

Định lý 1.2.8. Nếu i ↔ j và j hồi quy thì i hồi quy.
Định lý 1.2.9. Ký hiệu qii là xác suất để hệ xuất phát từ i quay lại i vô số
lần, qij là xác suất để hệ xuất phát từ i đi qua j vô số lần. Khi đó
(i) Nếu i hồi quy thì qii = 1, nếu i không hồi quy thì qii = 0.
(ii) Nếu i hồi quy và i ↔ j thì qij = 1. Nói riêng, với xác suất 1 thì hệ xuất
phát từ i sau một số bước hữu hạn sẽ đi qua j .
Định lý 1.2.10. Cho (Xn ) là xích tối giản không hồi quy. Khi đó với mọi


i, j



pij (n) < ∞.
n=1

Nói riêng

lim pij (n) = 0

n→∞

và xích không tồn tại phân bố dừng.
Định lý 1.2.11. Cho (Xn ) là xích tối giản hồi quy không có chu kỳ. Khi đó
với mọi i, j

lim pij (n) =

n→∞

trong đó

1
µj



µj =


kfjj (k).
k=1

Định nghĩa 13. Trạng thái hồi quy i được gọi là trạng thái hồi quy dương
nếu µi < ∞ và được gọi là trạng thái hồi quy không nếu µi = ∞.
Định lý 1.2.12. Giả sử i → j . Nếu i hồi quy dương thì j hồi quy dương.
Nếu i hồi quy không thì j hồi quy không.
17


Định lý 1.2.13. Giả sử (Xn ) là xích tối giản không có chu kỳ với không gian
trạng thái đếm được E . Khi đó sẽ xảy ra một trong ba khả năng sau đây:
(i) Mọi trạng thái là không hồi quy. Khi đó với mọi i, j

lim pij (n) = 0.

n→∞

Vậy xích không có phân bố dừng.
(ii) Mọi trạng thái là hồi quy không. Khi đó với mọi i, j

lim pij (n) = 0.

n→∞

Vậy xích không có phân bố dừng.
(iii) Mọi trạng thái là hồi quy dương. Khi đó với mọi i, j

lim pij (n) = πj > 0.


n→∞

và π = (π1 , π2 , . . . ) là phân bố giới hạn và phân bố dừng của xích.
Định lý 1.2.14. Giả sử (Xn ) là xích tối giản không có chu kỳ với không gian
trạng thái hữu hạn E = {1, 2, . . . , d}. Khi đó mọi trạng thái đều hồi quy
dương và xích có phân bố giới hạn π = (π1 , π2 , . . . , πd ). Phân bố này cũng là
phân bố dừng duy nhất của xích.
Định lý 1.2.15. Giả sử Xn là xích tối giản với không gian trạng thái E đếm
được. Khi đó
(i) Với mỗi i, j ∈ E
n

lim n

n→∞

−1

pij (k) =
k=1

1
.
µj

Nói cách khác dãy pij (n) hội tụ theo trung bình Cesaro tới π =
phụ thuộc i.
(ii) Dãy π = (πj ) thỏa mãn





j=1

• πj =

πj ≤ 1

i=1

πi pij .
18

1
µj

không


Định lý 1.2.16. Cho Xn là xích Markov tối giản. Khi đó
(i) Nếu E hữu hạn có d phần tử thì (π1 , . . . , πd ) là phân bố dừng duy nhất .
(ii) Chỉ có các khả năng sau :
– Mọi trạng thái của E là không hồi quy.
– Mọi trạng thái của E là hồi quy không.
– Mọi trạng thái của E là hồi quy dương.
(iii) Nếu E là vô hạn đếm được thì xích có phân bố dừng khi và chỉ khi mọi
trạng thái của E là hồi quy dương. Trong trường hợp này phân bố dừng
là duy nhất.
Quá trình Markov

Xét họ các đại lượng ngẫu nhiên rời rạc (Xt ), t ≥ 0 với tập chỉ số t là các số
thực không âm t ∈ [0, ∞). Ký hiệu E = Xt (Ω) là tập giá trị của Xt . Khi
đó E là một tập hữu hạn hay đếm được, các phần tử của nó được ký hiệu
là i, j, k, . . . . Ta gọi (Xt ) là một quá trình ngẫu nhiên với không gian trạng
thái E.
Định nghĩa 14. Ta nói rằng (Xt ) là một quá trình Markov nếu với mọi
t1 < · · · < tk < t và với mọi i1 , i2 , . . . , ik , i ∈ E.
P {Xt = i|Xt1 = i1 , Xt2 = i2 , . . . , Xtk = ik } = P {Xt = i|Xtk = ik } .
Trường hợp không gian trạng thái hữu hạn
Giả sử E = {1, 2, . . . , d}. Khi đó từ phương trình C-K P (t), t > 0 là một
họ các ma trận thỏa mãn đẳng thức:

P (t + s) = P (t)P (s).
Họ (P (t), t > 0) lập thành một nửa nhóm các ma trận với các giả thiết :
1. pij (0) = δij .

19


2. lim pij (t) = δij
t→0

với δij là kí hiệu Kronecke :


1 nếu i = j
δij =

0 nếu i = j
Trường hợp không gian trạng thái vô hạn đếm được

Trong trường hợp không gian trạng thái E là vô hạn đếm được ta gặp những
khó khăn về toán học khi muốn mở rộng các kết quả trong trường hợp hữu
hạn.
Định lý 1.2.17.
1. Với mọi i = j giới hạn

pij (0) = lim
t→0

pij (t)
= aij
t

luôn tồn tại hữu hạn.
2. Với mỗi i giới hạn

pii (0) = lim
t→0

pii (t) − 1
= aii = −ai
t

tồn tại nhưng có thể bằng vô cùng.
Trường hợp tổng quát
Xét quá trình Markov với không gian trạng thái E bất kỳ. Cho (E, F) là một
không gian đo. Quá trình ngẫu nhiên Xt được gọi là quá trình Markov nếu
P (Xt+s ∈ B|F≤t ) = P (Xt+s ∈ B|Ft ) .
Ký hiệu
P (s, x, t, B) = P (Xt ∈ B|Xs = x)

là xác suất để hệ tại thời điểm s đang ở trạng thái x sang thời điểm t rơi
vào tập B . Ta gọi P (s, x, t, B) là xác suất chuyển. Họ các xác suất chuyển
có tính chất sau:
20


×