Một số mô hình xác suất trong khoa học máy tính

ĐAI HOC QUOC GIA HÀ N®I
TRƯèNG ĐAI HOC KHOA HOC TU NHIÊN
-----------------------

PHAM TH± THU HANG

M®T SO MƠ HÌNH XÁC SUAT
TRONG KHOA HOC MY TNH

LUÔN VN THAC S KHOA HOC

H Nđi - Năm
2015


PHAM TH± THU HANG

M®T SO MƠ HÌNH XÁC SUAT
TRONG KHOA HOC MÁY TÍNH
Chuyên ngành: Lý thuyet Xác suat và Thong kê tốn hoc
Mã so:
60406106

LU¾N VĂN THAC SĨ KHOA HOC

NGƯèI HƯéNG DAN KHOA HOC:
GS.TSKH. Đ¾NG HÙNG THANG


Mnc lnc
Lài nói đau....................................................................................................3

1

Xác suat trong lý thuyet to hap
và đo th%
1.1 Các ví du . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.1.1 Đo th% ngau nhiên . . . . . . . . . . . . . . . . . . . . . . .
1.1.2 Thu¾t tốn Tìm kiem và Sap xep nhanh . . . . . . . . . .
1.1.3 Mơ hình danh sách tn tő chúc . . . . . . . . . . . . . . . .
1.1.4 Sinh hoán v% ngau nhiên. . . . . . . . . . . . . . . . . . .
1.2 Phương pháp xác suat . . . . . . . . . . . . . . . . . . . . . . . . .
1.2.1 Lịi giói thi¾u . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2.2 Úng dung xác suat đe chúng minh sn ton tai . . . . . . .
1.2.3 Xác đ%nh c¾n tù kỳ vQNG . . . . . . . . . . . . . . . . . . .
1.2.4 Bài toán tắp hop đc lắp cú TRQNG so toi a: Thuắt tốn
c¾n biên và ngau nhiên . . . . . . . . . . . . . . . . . . . . .
1.2.5 Bài tốn phn t¾p hop . . . . . . . . . . . . . . . . . . . . .
1.2.6 Phan xích . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2.7 Bő đe rút GQN Lovasz . . . . . . . . . . . . . . . . . . . . .
1.2.8 Thu¾t tốn ngau nhiên đe tính phân hoach cnc tieu cna
m®t đo th% . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5
5
5
11
16
18
26
26
26

28
31
36
38
39
43

2 Xích Markov và mơ phong MCMC
46
2.1 Xích Markov...................................................................................46
2.1.1 Giói thi¾u...........................................................................46
2.1.2 Phương trình Chapman-Kolmogorov.................................48
2.1.3 Phân loai trang thái............................................................49
2.1.4 Xác suat giói han và xác suat dùng...................................58
2.1.5 Úng dung............................................................................65
Lu¾n văn tot nghi¾p

Pham Th% Thu Hang
1


2.1.6 Xích Markov vói thịi gian đao ngưoc..................................75
2.2 Mơ phong.......................................................................................85
2.2.1 Mơ phong Monte Carlo.......................................................85
2.2.2 Tao các bien ngau nhiên rịi rac..........................................88
2.2.3 Tao các bien ngau nhiên liên tuc: Phương pháp bien đői ngh
%ch.........................................................................................................90
2.3 Mơ phong MCMC...........................................................................92
3

Q trình Poisson
98
3.1 Q trình Poisson khơng dùng.......................................................98
3.2 Q trình Poisson dùng................................................................101
3.3 M®t so tính tốn q trình Poisson..............................................104
3.4 Phân loai bien co cna m®t q trình Poisson khơng dùng...........110
3.5 Phân phoi có đieu ki¾n cna các thòi điem đen............................113

2


LèI NÓI ĐAU

Trong nhung năm gan đây, xác suat đã phát trien đa dang và có nhieu úng
dung quan TRQNG trong lĩnh vnc khoa hQc máy tính. Ví du, các chn đe liên quan
đen thu¾t tốn như thu¾t tốn ngau nhiên, thu¾t tốn ưóc lưong và phân tích
xác suat cna thu¾t tốn đeu su dung phương pháp xác suat.
Trong lu¾n văn này, tơi muon giói thi¾u các loai mơ hình và phân tích
xác suat huu dung nhat trong khoa HQc máy tính. Gia su vói m®t hàm mo đau
trong xác suat, tơi trình bày m®t so đe tài quan TRQNG như phương pháp xác
suat, xích Markov, mơ phong MCMC và q trình Poisson khơng dùng. Lu¾n
văn này cung cap nhieu ví du và bài t¾p mơ ta các đe tài như thu¾t tốn sap
xep, thu¾t tốn tìm kiem và bieu đo ngau nhiên, bài toán tn sap xep theo danh
sách, phan xích, phân hoach cnc đai và cnc tieu trong đo th% và nhieu đe tài
khác.
Cau trúc lu¾n văn đưoc chia làm 3 chương chính:
• Chương 1 đưa ra các ví du hay trong khoa HQc máy tính, đong thịi
trình bày phương pháp xác suat và m®t so cách úng dung phương
pháp này.
• Chương 2 viet ve xích Markov trên khơng gian trang thái rịi rac,

phương pháp Monte Carlo và xớch Markov Monte Carlo (MCMC).
ã Chng 3 giúi thiắu mđt so lóp q trình Poisson, tù đó nghiên cúu
bài tốn phân loai bien co cna m®t q trình Poisson khơng dùng và
bài tốn xác đ%nh phân phoi có đieu ki¾n cna thịi điem đen.
Trong khn khő cna lu¾n văn này, do sn han hep ve thòi gian cũng
như năng lnc cna ban thân, vì v¾y khơng the tránh khoi nhung han che ve nđi
dung cng nh viắc trỡnh bay. Tụi nh¾n thay xác suat trong khoa HQc máy
tính cịn rat nhieu đieu thú v% khác nua và tôi rat mong có d%p trình bay đay
đn hơn.
3


Lu¾n văn đưoc hồn thành dưói sn hưóng dan t¾n tâm cna GS.TSKH Đ¾ng
Hùng Thang. Tơi xin đưoc bày to lịng biet ơn và kính TRQNG sâu sac cna mình
đen thay. Qua đây tơi xin chân thành gui lịi cam ơn tói các thay cơ trong Tő

4


Luắn vn tot nghiắp

Pham Th% Thu Hang

bđ mụn Xỏc suat thong kê và Ban Chn nhi¾m khoa Tốn - Cơ - Tin HQc Trưòng
Đai HQc Khoa HQc Tn nhiên - Đai HQc Quoc gia Hà N®i đã chi bao và hưóng
dan t¾n tình giúp tơi hồn thành lu¾n văn này!
Rat mong nh¾n đưoc ý kien đóng góp cna các thay cơ và các ban!
Hà N®i, tháng 11/2015
Pham Th% Thu Hang

4


Chương 1
Xác suat trong lý thuyet to hap
và đo th%
1.1

Các ví dn

1.1.1

Đo th% ngau nhiên

Moi đo th% bao gom hai yeu to: t¾p V là t¾p hop các đinh (hay
nút) và A là t¾p hop các c¾p đinh GQI là canh (ho¾c cung). Ta thưịng
khoanh trịn so hi¾u cna moi inh v noi cỏc inh boi mđt ũng thang
hoắc cong neu có canh tao boi hai đinh đó. Ví du, m®t đo th% có V =
{1, 2, 3, 4, 5, 6} và A={(1, 2), (1, 4), (1, 5), (2, 3), (2, 5), (3, 5), (5, 6)} đưoc
mơ ta trong Hình 1.1. e đây
ta chi xét các đo th% khơng có hưóng, túc là ta khơng đ%nh hưóng các
canh cna đo th%.
M®t chuoi các đinh i, i1, i2, . . . , ik, j trong đó (i, i1), (i1, i2), . . . , (ik−1, ik),
(ik, j)

là các canh đưoc GQI là m®t đưịng đi tù đinh i tói đinh j . Hình 1.2 bieu th% m®t
đưịng đi tù đinh 1 tói đinh 6.
M®t đo th% đưoc coi là liên thơng neu cú mđt ũng i giua MQI cắp inh cna
o th%. Đo th% như trong Hình 1.1 và 1.2 là đo th% liên thơng cịn đo th% trong
Hình 1.3 khơng phai đo th% liên thơng.

Giị hãy xem xét đo th% vói t¾p hop đinh V = {1, 2, . . . , n} và t¾p hop
canh
A = {(i, X(i)), i = 1, . . . , n} trong đó X(i) l cỏc bien ngau nhiờn đc lắp thoa
món

n
P{X(i) = j} =
Pj,

5

Pj = 1
j=1


Nói cách khác, tù moi đinh i ta cHQN ra ngau nhiên m®t đinh trong so n đinh
cịn lai cna đo th% (bao gom ca i), trong đó xác suat đe đinh j đưoc cHQN là Pj ,

6


Lu¾n văn tot
nghi¾p

Pham Th% Thu Hang

Hình 1.1: Đo th%

Hình 1.2: Đưịng đi tù 1 tói 6: 1, 2, 3, 5, 6.

Hình 1.3

sau đó ta noi đinh i vói đinh vùa chQN boi m®t cung. Đo th% vùa xây dnng là
m®t đo th% ngau nhiên. Chúng ta se tính xác suat đe đo th% ngau nhiên này là

6


đo th% liên thơng. Đe tìm đưoc xác suat này, ta cHQN m®t đinh, gia su đinh 1
và lan theo chuoi các đinh 1, X(1), X 2 (1), . . . , trong đó X n (1) = X(X n−1 (1)) đe
xác đ%nh giá tr% cna bien ngau nhiên N là chi so k nho nhat sao cho X k (1)
khơng là m®t đinh mói. Túc là,
N = min(k : Xk(1) ∈ {1, X(1), . . . , Xk−1(1)})

Đong thòi, GQI
N−1
Σ

W = P1 +

i=1

PX i (1)

Nói cách khác, N là so đinh tiep xúc trong chuoi 1, X(1), X2(1), . . . trúc
khi mđt inh xuat hiắn hai lan cũn W là tőng các xác suat cna các đinh này.
(xem Hình 1.4).

Hình 1.4

Đe tính tốn xác suat đo th% này liên thơng, ta lay đieu ki¾n vói N :
n
Σ

Xác suat đo th% liên thông =

P (đo th% liên thông|N = k)P (N = k).

k=1

Bây giị, vói đieu ki¾n N = k, các đinh 1, X(1), . . . , Xk−1(1) liên thơng vói nhau
và khơng cịn canh nào khác xuat phát tù các đinh này tói các đinh cịn lai
cna đo th%. Nói cách khác, ta có the hop k đinh này lai làm m®t siêu đsnh.
Khơng có canh nào xuat phát tù siêu đinh này và xác suat đe m®t đinh o
ngồi đi vào siêu đinh này là W . Ta se can đen ket qua sau.
Bo đe 1.1.1. Xét m®t đo th% ngau nhiên gom các đsnh 0, 1, . . . , r, và các canh
(i, Yi), i = 1, . . . , r, trong đó Yi l cỏc bien ngau nhiờn đc lắp v
P{Y i = j} = Q j, j = 0, ...,
r,

Khi đó,

r
Σ
j=0

Qj = 1


P{đo th% liên thông} = Q0.

Đo th% ngau nhiên o trên bao gom r đinh thơng thưịng (đánh so tù 1
en r) v mđt inh ắc biắt (ỏnh so 0); cỳ moi inh thụng thũng cú mđt
canh đc lắp i qua đinh j vói xác suat Qj; khơng có canh nào xuat phát tù
đinh đ¾c bi¾t.
Chúng minh. : Đe chúng minh, ta su dung phương pháp quy nap theo r, bő đe
hien nhiên đúng khi r = 1, gia su bő đe đúng vói MQI giá tr% nho hơn r.
Xem xét Y1 neu Y1 = 1 thì de thay đo th% là khơng liên thơng. Neu Y1 = 0 thì
đinh 1 và 0 có the coi là m®t đinh đơn le và trưịng hop này khơng thay đői
neu ta có r 1 inh thụng thũng v mđt inh ắc biắt, trong ú cỳ moi
inh thụng thũng cú mđt canh đi qua đinh đ¾c bi¾t vói xác suat Q0 + Q1 . Neu
Y1 = j ƒ= 0, 1 thì bang cách coi đinh 1 và j là m®t đinh đơn le, ket qua này
van khơng thay đői neu ta có r 1 inh thụng thũng v mđt inh ắc biắt,
trong ú moi inh thụng thũng cú mđt canh i qua đinh đ¾c bi¾t vói xác suat
Q0 . Do v¾y, tù gia thiet quy nap, chúng ta thay:


P{ đo th% là liên thông|Y1 = j} 0,
neu j = 1
=
Q0 + Q1, neu j = 0



Lay xác suat vói đieu ki¾n vói Y1 ta có:
P{ đo th% là liên thơng}
=

r
Σ

Q 0,

neu j ƒ=
0, 1

P{ đo th% là liên thông|Y1 = j}Qj

j=0

= (Q0 + Q1)Q0 + Q0(1 − Q0 − Q1)
= Q0

và gia thiet quy nap là đúng.
Tro lai vói đo th% ngau nhiên ban đau, coi t¾p hop đinh 1, . . . , XN1(1) l
mđt inh ắc biắt cna B đe 1.1.1 ta có:
P{đo th% là liên thơng|N, 1, . . . , XN−1(1)} = W

Lay kỳ vQNG thu đưoc ket qua sau:
M¾nh đe 1.1.1. P{đo th% liên thơng} = E[W]
Tù l¾p lu¾n o trên ta nh¾n thay neu thnc hiắn mđt dóy cỏc phộp thu a thỳc
đc lắp vúi xác suat P1 , . . . , Pn thì vói đieu ki¾n ket qua ban đau là 1, kỳ vQNG


cna tőng các xác suat cna tat ca ket qua riờng biắt thu oc en trúc khi cú
mđt ket qua b% l¾p lai bang vói xác suat đe đo th% ngau nhiên liên thông. Đieu
này van đúng neu ta thay ket qua bân đau là 1 boi m®t ket qua ban đau bat
kì khác (khi phân tích đo th% ngau nhiên, chúng ta đã có the bat đau bang bat
cú chuoi đinh i, X(i), X 2 (i), . . . nào), vì the, vói moi dãy phép thu đa thúc ta
có kì vQNG cna tőng các xác suat cna các ket qua thu đưoc cho đen trưóc khi

có m®t ket qua lắp lai l đc lắp vúi ket qua au tiờn. õy l mđt phỏt hiắn
khụng hien nhiờn chỳt no.
Trong phan cịn lai cna muc này, chúng ta se t¾p trung phân tích trưịng
hop đ¾c bi¾t trong đó canh xuat phát tù moi đinh có the đen MQI đinh cna đo
th%
vói cùng xác suat
.

1
Pj = , j = 1, . . . , n
n

H¾ qua sau cho ta cơng thúc tính xác suat đo th% liên thơng trong trưịng
hop đ¾c bi¾t này.
H¾ qua 1.1.1. Khi Pj =
n−1
(n − 1)!
1/n,
P{đo th% là liên thơng} =
Σ n
nn

j=0

Chúng minh. Vì W = N/n, ta có: 1E[N
E[W ] = n
=

]

1

n−1

Σ
P (N > i)

n

i=0
n−
1 1Σ

= n
− i)

i=0
n−1

(n − 1)...(n
ni

1 Σ (n − 1)!
=
n
(n n−
− i − 1)!
i=
i
nn−1−i

n
1
0
Σ
(n − i −
(n
=
n
1)!
n
i=
− 1)!
0
n−
1

=

j

(n − 1)! Σ j n
!
j=
0

n

j

j!

Đe thu đưoc ưóc lưong đơn gian xác suat đe đo th% là liên thơng khi n
lón, ta thay neu X là m®t bien Poisson ngau nhiên vói tr% so trung bình n thì
P{X < n} = e

n−1
Σ

−n

n

i=
0

i

i
!

Tuy nhiên, vì m®t bien Poisson ngau nhiên có tr% so trung bình n có the
đưoc coi là tőng cna n bien Poisson ngau nhiờn đc lắp vúi tr% so trung
bỡnh bang 1, đieu này đưoc suy ra tù đ%nh lý giói han trung tâm rang m®t
bien ngau nhiên có m®t phân phoi xap xi chuan vói tr% so trung bình n. Xác
suat cna bien ngau nhiên thơng thưịng nho hơn tr% so trung bình cna nó là
1/2, hay :
P{X < n} ~
n−
1

Σ

Do đó vói n lón

n

i=0

i

1
2

n

e
i! ~ 2

Tù H¾ qua 1.1.1 ta thay vói n lón,
P{ đo th% là liên thơng}

~

(n − 1)!en
2nn

n!en
=

2nn+1

Do v¾y, bang cách su dung cơng thúc ti¾m c¾n Stirling trong đó chi ra
rang:
√
n! ~ nn+1/2e−n 2π

ta thay, vói n lón

√

2
P{đo th% là liên thơng} ~ π √
2 n

Tù đó chúng ta thu đưoc H¾ qua sau.
H¾ qua 1.1.2. Vái n lán, P{đo th% là liên thơng} ~ √π/2n
M®t đo th% đưoc coi là bao gom r thành phan neu các đinh cna nó có
the đưoc phân chia vào r t¾p hop con sao cho moi t¾p hop con liên thơng
và khơng có canh nào đưoc tao thành boi cỏc inh thuđc cỏc tắp hop con
khỏc nhau. (Do ú, đo th% liên thơng là đo th% có m®t thành phan đơn le.)


GQI C là so thành phan trong đo th% ngau nhiên ta đang xem xét, chúng ta se
tính giá tr% kỳ vQNG cna nó. Trưóc het, chúng ta se chúng minh rang moi thành
phan phai chúa đúng m®t chu trình, trong ú chu trỡnh l mđt canh cna cắp


(i, i) hoắc mđt chuoi cna canh cna cắp (i, i1), (i1, i2), . . . , (ik, i) vói các đinh
riêng bi¾t i, i1 , i2 , . . . , ik . Ví du, đo th% trong Hình 1.5 là m®t chu trình.

De dàng thay m®t đo th% liên thơng có so canh bang so đinh chi chúa
duy nhat m®t chu trình. Vì trong đo th% ngau nhiên xuat phát tù moi đinh có
duy nhat m®t canh nên m®t thành phan chúa k đinh chi có đúng k canh và
do đó chi có duy nhat m®t chu trình. Vói S ⊂ {1, . . . , n} thì S là m®t chu trình
neu ton tai m®t chu trình mà các đinh cna nó là đinh cna S. Do đó, neu ta
lay
.
I(S) =

neu S là 1 chu trình
ngưoc lai

1,
0,

thì
Σ

E[C] = E so cna chu trình

ΣΣ

= EΣ

Σ

=

I(S)Σ

s

E[I(S)]

s

Neu S gom m®t đinh đơn le, túc là S = {1}, thì S se là m®t chu trình neu
E[I({1})] = P{X(1) = 1} = 1/n
X(1) = 1. Do
đó,
Neu S gom k > 1 đinh, túc là S = {1, . . . , k}, thì S se tao thành m®t chu
trình neu 1, X(1), . . . , Xk−1(1) là các giá tr% khác nhau trong S và Xk(1) = 1.
Do v¾y,
−1 −2
E[I(S)] =
1
...

Ket qua là, do có
Σ

1.1.2

. Σ
n
k

k

=

n

n

(k − 1)!
nk

n

t¾p hop con kích thưóc k, ta thay rang

. Σ

n (k − 1)!

k

n

E[C]
=

k
k=
1

n
k

Thu¾t tốn Tìm kiem và Sap xep nhanh

Gia su chúng ta muon sap xep mđt tắp hop n giỏ tr% khỏc nhau cho trưóc
x1 , x2 , . . . , xn . Thu¾t tốn sap xep nhanh đưoc xác đ%nh theo cách như sau : Khi
n = 2, thu¾t tốn so sánh hai giá tr% và xep chúng theo thú tn thích hop.


Khi n > 2, GQI xi là giá tr% đưoc cHQN, khi đó tat ca các giá tr% khác đưoc so
sánh vói


xi. nhung giá tr% nho hơn xi đưoc đ¾t vào mđt nhúm phõn cỏch boi dau

ngoắc bờn trỏi xi cũn nhung giá tr% lón hơn xi thì đ¾t bên phai, l¾p lai thu¾t
tốn vói moi nhóm này cho tói khi tat ca các giá tr% đưoc sap xep. Ví du, gia
su chúng ta muon sap xep 10 giá tr% khác nhau như sau:
5, 9, 3, 10, 11, 14, 8, 4, 17, 6

M®t trong nhung giá tr% này đưoc lna cHQN, gia su là 10. Chúng ta se so
sánh tùng giá tr% vói 10, đ¾t nhung giá tr% nho hơn 10 vo mđt nhúm bờn trỏi
10 v ắt nhung giỏ tr% lón hơn 10 vào bên phai 10 ta đưoc
{5, 9, 3, 8, 4, 6}, 10, {11, 14, 17}

Giò chúng ta hãy nhìn vào m®t nhóm chúa nhieu hơn m®t giá tr%, gia su nhóm
bên trái và cHQN m®t giá tr% trong đó như 6 chang han. So sánh tùng giá tr%
trong ngo¾c vói 6 và xep các giá tr% nho hơn vào m®t nhóm bên trái 6 và giá tr
% lón hơn và bên phai 6
{5, 3, 4}, 6, {9, 8}, 10, {11, 14, 17}

Neu chúng ta xem xét nhóm ngoài cùng bên trái và cHQN giá tr% 4 đe so sánh thì
thu đưoc

{3}, 4, {5}, 6, {9, 8}, 10, {11, 14, 17}

Thu¾t tốn tiep tuc cho tói khi khơng cũn tắp hop no chỳa nhieu hn mđt
giỏ tr%.
Bang trnc giác có the thay đưoc trưịng hop xau nhat xay ra khi giá tr% so
sánh đưoc cHQN là m®t giá tr% tuy¾t đoi, ho¾c là giá tr% nho nhat, ho¾c là giá tr%
lón nhat trong nhóm. Trong trưịng hop này, de thay so lưong phép so sánh can
thiet là n(n − 1)/2. Tuy nhiên, thu¾t tốn se huu dung hơn bang cách xác đ
%nh so lưong so sánh trung bình can thiet khi giá tr% so sánh đưoc cHQN ngau
nhiên. Gia su moi giá tr% so sánh đưoc cHQN trong ngo¾c có the là bat cú giá tr
% nào . GQI X là so phép so sánh can su dung. Đe tính E[X], trưóc het ta
bieu dien X thành tőng các bien ngau nhiên khác theo cách sau. Đau tiên, ta
đánh dau cho các giá tr% đưoc sap xep: 1 bieu th% giá tr% nho nhat, 2 bieu th%
giá tr% nho nhì, cú như v¾y cho tói het. Khi đó, vói 1 ≤ i < j ≤ n, lay I(i, j)
bang 1, neu i và j đưoc so sánh trnc tiep và bang 0 neu i và j không đưoc so
sánh trnc tiep. Tính


tőng các bien này vói i < j cho ta tőng so phép so sánh. Đó là
n j−1

X=

Σ Σ
I(i, j)

j=
2
n j−1

túc là

E[X] = E[

i=
1

ΣΣ
I(i, j)]

j= i=
n j−1

=

Σ 2Σ1

E[I(i, j)]
j=2
i=1 n
j−1

= Σ Σ P{ i và j đưoc so sánh }
i= so sánh, chú ý rang giá tr% i, i + 1, . . . , j −
Đe tính xác suat đe i và jj=đưoc
2
1
1, j ban đau cùng nam trong m®t nhóm (vì tat ca các giá tr% ban đau
đeu cùng trong nhóm) và se van cùng nhóm neu giá tr% so sánh đưoc cHQN đau
tiên không nam giua i và j . Ví du, neu so đưoc so sánh lón hơn j thì tat ca

các giá tr% i, i + 1, . . . , j − 1, j se cùng nam trong nhóm bên trái so đó cịn
neu so đưoc so sánh nho hơn i thì tat ca se cùng nam trong nhóm bên phai.
Do đó, tat ca các giá tr% i, i + 1, . . . , j − 1, j se van cùng nhóm cho tói khi
m®t trong so các giá tr% này đưoc cHQN làm giá tr% so sánh. Neu giá tr% so sánh
này khơng phai là i và j thì khi so sánh vói nó, i se nam trong nhóm bên trái
cịn j thì thu®c nhóm bên phai, do đó i và j se khơng bao giị đưoc so sánh. Biet
rang giá tr% so sánh là m®t trong các giá tr% nam giua i và j nên nó có the là bat
cú giá tr% nào trong j − i + 1 giá tr% cịn lai, do đó xác suat đe ho¾c i ho¾c j
đưoc so sánh là 2/(j − i + 1). Ta có the rút ra ket lu¾n:

2
P{i và j đưoc so sánh} =

j−i+1


Tù đó ta thay,
E[X] =

Σ
n j−1Σ
j=2
n i=
1

2

j− i+ 1
j

Σ
Σ
= 21

bang cách cho k=j-i+1

k

j=2 k=2
n
n

Σ
Σ
= 21

qua vi¾c trao đői thú tn cna tőng

k=2
j=k n

k

Σn − k + 1

= 2

k=2

= 2(n + 1)

k
n

Σ 1
k=2

k

− 2(n − 1)

Áp dung cơng thúc ti¾m c¾n cho n lón
n
Σ
1~
k=2

k

log(n)

Ta thay (bo qua giói han tuyen tính 2(n − 1) thu¾t tốn sap xep nhanh
u cau trung bình khoang 2n log(n) phép so sánh đe sap xep n giá tr%.
1.1.2.1 Thu¾t tốn tìm kiem

Tiep tuc gia su mđt tắp hop gom n giỏ tr% khỏc nhau x1 , x2 , . . . , xn nhưng lan
này, muc đích cna chúng ta là tìm giá tr% nho thú k trong so đó. Thu¾t tốn tìm
kiem khá giong vói thu¾t tốn sap xep nhanh, ca hai cùng bat đau bang cách
cHQN ngau nhiên m®t giá tr% roi so sánh tùng giá tr% cịn lai vói nó và đ¾t các giá
tr% nho hơn vào trong nhóm bên trái và giá tr% lón hơn vào nhóm bên phai. Gia

su r − 1 giá tr% đưoc đ¾t trong nhóm bên trái, có ba kha năng xay ra :
1. r=k
2. r3. r>k


Trong trưòng hop (1), giá tr% nho thú k là giá tr% so sánh và thu¾t tốn
ket thúc. Trong trưịng hop (2), vì giá tr% nho thú k là giá tr% nho thú (k − r)
trong


(n − r) giá tr% trong nhóm bên phai nên q trình bat đau lai vói m®t giá tr

% trong nhóm này. Trong trưịng hop (3), q trình bat đau lai bang cách tìm
kiem giá tr% nho thú k trong r − 1 giá tr% o nhóm bên trái.
Đ¾t X là so so sánh thu¾t tốn su dung. Như trong phân tích thu¾t tốn
sap xep nhanh o trên, coi 1 là giá tr% nho nhat,2 là giá tr% nho thú hai,. . .
và quy ưóc I(i, j) bang 1 neu i và j đưoc so sánh trnc tiep và bang 0 neu i và
j không đưoc so sánh trnc tiep. Khi đó
n j−1
Σ Σ
X=

và

n j−1

E[X] =

Σ Σ

j=
2

I(i, j)
j=
2

i=1

P{ i và j đưoc so sánh }

i=
1

Đe tìm đưoc xác suat đe i và j đưoc so sánh, chúng ta xem xét các trưòng
hop sau :
Trưàng hap 1: i < j ≤ k
Trong trưòng hop này, i, j, k se van cùng nhóm cho tói khi m®t trong các
giá tr% i, i + 1, . . . , k đưoc cHQN làm giá tr% so sánh. Neu giá tr% đưoc cHQN
ho¾c là i ho¾c là j thì c¾p giá tr% se đưoc so sánh, neu khơng, chúng se
khơng đưoc so sánh. Vì giá tr% so sánh có the là bat cú giá tr% nào trong k − i
+ 1 giá tr% này, chúng ta thay :
P{i và j đưoc so sánh} =

2

k−i+1

Trưàng hap 2: i ≤ k < j
Trong trưòng hop này, i, j, k van nam trong cùng nhóm cho tói khi m®t

trong j − i + 1 giá tr% i, i + 1, . . . , j đưoc cHQN làm giá tr% so sánh. Neu giá tr%
đưoc cHQN là i ho¾c j thì c¾p giá tr% se đưoc so sánh và ngưoc lai. Do đó,
P{i và j đưoc so sánh} =

Trưàng hap 3: k < i < j
Trong trưòng hop này,

2

j−i+1

2

P{i và j đưoc so sánh} =

Tù đó ta có
1
2

k

E[X] =

j−1

Σ Σ

j=

n

k

j−k+1
n

j−1

Σ
1 Σ Σ
1
Σ
1
−
j
k
k− i+
j − i + + j=k+2 i=k+1
1 +
j=k+1 1
+1
i=


Đe ưóc lưong giá tr% trên khi n và k lón, đ¾t k = αn vói 0 < α < 1.
Có
k

j−1

k−1

Σ Σ
j=2 i=
1

1
k− i+
1

k

Σ Σ

=

i=1 j=i+1

1
k−i+1

k−
Σ
k− i
1

=

i= k
1

Σ
k

=

j=2

−i+1

j−1
j

~ k − log(k)
~ k = αn
Tương
tn,
n
k
Σ
Σ

j=k+1
i=1

1

Σ

.

n

=

j−i+
1

~

Σ

1
j

(log(j) − log(j − k))

j=k+1
∫n
k

Σ

+ ... +

j−k+1

j=k+
1n

~

1

log(x)dx −

∫ n− log(x)dx
k

1

~ n log(n) − n − (αn log(αn) − αn)
−(n − αn) log(n − αn) + (n − αn)

~ n[−α log(α) − (1 − α) log(1 − α)]
Tương tn như
trên

j−1
n
Σ
Σ

j=k+2 i=k+1

1

~ n − k = n(1 − α)

j−k+1

Ta thay
E[X] ~ 2n[1 − α log(α) − (1 − α) log(1 − α)]

Do đó, so phép so sánh trung bình thu¾t tốn tìm kiem can là cơng thúc
tuyen tính cna so giá tr%.

1.1.3

Mơ hình danh sách tE to chÉc


Xem xét n phan tu e1, . . . , en ban au oc sap xep theo mđt trắt tn. Tai
moi thịi điem có m®t u cau đoi vói m®t trong so các phan tu này; ei đưoc
yêu cau


đc lắp vúi trúc ú, xỏc suat Pi. Sau khi đáp úng đưoc yêu cau, phan tu
này đưoc chuyen lên đau danh sách. Ví du, neu tr¾t tn hi¾n tai là e1, e2, e3,
e4 và e3 đưoc yêu cau thì tr¾t tn sau đó là e3, e1, e2, e4.
Chúng ta se xác đ%nh v% trí kỳ vQNG cna phan tu đưoc u cau vói gia thiet
q trình này dien ra trong thịi gian dài. Đ¾t R là v% trí phan tu đưoc yêu cau,
ta se tìm E[R] phan tu đưoc cHQN bang cách kiem tra đieu ki¾n vói Y . Ta có
n
Σ
E[R] =

E[R|Y = ei]Pi

i=
1n

Σ

= E[ v% trí cna ei | Y = ei]Pi
i=
1n

=

Σ

E[ v% trí cna ei]Pi

(1.1)

i=1

Dau bang cuoi cùng dna trên cơ so v% trí cna ei và bien co ei oc yờu
cau đc lắp vúi nhau. ieu này có đưoc do xác suat đe ei đưoc yêu cau là
Pi cho dù hi¾n tai ei có o v% trí nào đi nua. Tuy nhiên, ta thay
Σ
v% trí cna ei = 1 + Ii,j
jƒ=i

trong đó

ta thu đưoc

I

.i,j

1, neu ej đúng trưóc ei
= 0, ngưoc lai

Σ

E[v% trí cna ei ] = 1 +

E[Ii,j ]

jƒ=i

Σ

=1+

P{e j đúng trưóc ei}

(1.2)

jƒ=i

Đe xác đ%nh P{ej đúng trưóc ei}, ta thay ej đúng trưóc ei neu lan u cau
cuoi cùng vói m®t trong hai phan tu này là lan yêu cau vói ej. Tuy nhiên, biet
rang mđt lan yờu cau cú the yờu cau hoắc ei ho¾c ej nên xác suat đe ej
đưoc yêu cau là
P (e | e ho¾c e ) = Pj
j

i

j

Pi + Pj

Do đó, P{ej đúng trưóc ei} = Pj/(Pi + Pj). Tù ket qua (1.1) và (1.2) ta có
n
Σ Σ
E[R] = 1 +
Pi

jƒ=i
i=1

Pj
Pi + Pj