Tiểu luận khai phá dữ liệu Các thuật toán tìm luật kết hợp xuất phát từ Apriori





 !"#!$!%%
&
M
'(()))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))*
+,-,.))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))*
),+,,/01/1)))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))2
&)03450,61/1))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))2
*)'7,8,+,,/01/1))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))2
9)0:03,+,,/01/1))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))2
;)'0<,+,,/01/1))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))=
),+,,/01/1,))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&&
&),+,,/01/1,))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&&
*)'7>03,+,,/01/1?,))))))))))))))))))))))))))))))))))))))))))))))))))))))&&
9)0:03,+,,/01/1?,)))))))))))))))))))))))))))))))))))))))))))))))))))))))&*
;)@,1AB,1)))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&*
C)'0<,+,,/01/1?,)))))))))))))))))))))))))))))))))))))))))))))))))))))&9
2)D/D0,+,,/01/1EF1/1?,))))))))))))))))))))))))))))))))))&C
),+,,/01/1?4G1))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&2
E),+,,/0HI31/J,))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&=
&)G80@,)))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&K
*),+,,/0LM4N03M4H))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&K
9)'7>03GBOP,+,,/0))))))))))))))))))))))))))))))))))))))))))))))))&K
;)'0<,+,,/0))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))&Q
C)M0,RR,+,,/0,S/M4H)))))))))))))))))))))))))))))))))))))))*&
2),R0@,PH?,1TT)))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))**
=)03-,U8,N03'))))))))))))))))))))))))))))))))))))))))))))))))))*;
,F,'8/))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))))*C


V!WXYZ[!!Y%\]^_X`$
X_a _bWXYca a_X%_dZeWXYffZghig
 !iZ[ad_jViVk#%lmjn_XV!cga _%_dZe
WXY_VidZeWXYjVYi]X_^_)
^ngjVYo_XVp`%_! !
WXYqojV)
BodyrsConsequenttSupportiConfidenceu
,%_cqi
&) i]%vBodyw)
*)  !"i]!nvConsequentw)
9) #$%ifZgvx%_yVo!f%zWXYX_ce]%
]]!n{_"nk%V|w)
*
;) $&'()(icpkvx]%"nk%VqyVonz_]!n
"nk%V|w)
*+',,}V~'rsD_V%t•)9i•)Qu
€ xV,%]VD•V-Vca‚_%_Q•ƒ%a‚_ !),%i
Z•V]ca‚_ca V_%_9•ƒW„_WXY)|
./ 0)0 1
€ 3…r†
&
i
*
i
9
i)))i

‡!%a‚__…}Zv!!f•WXYw)
,!ˆV_‰k!f•WXYca _…k-ItemSet)

€ !_VvTransactionwiecqŠ_V,p!Item ,⊆
i]Š_Vqp_%‹c‹WV,)
€ ,V_…_V,\VLL⊆,iL!]}%_)
€ 3V,\VLL ⊆,i]bL!]Item%_),ŒY!f%z
_XVZga __V\V!}L%o•_Zg_V%_d
ZeWXYca _…ZgsupportˆV!itemcqi\
€  !pgjVYo_XVV!!f•WXYL
]4}WŽ_if X then Yi]•YL⇒4i
L⊂i4⊂]L∩4r∅)
€ L⇒4qZgsupports,qZƒZg_V%_\VL∪4)Eb
Z!!%ˆVp!}Zg_Vq\V!}cq)
€ Lrs4qcpkvconfidencewciy•‹Zg!f%z_Vq
\V^L∪4%oZgX__Vq\VL)
9
(D) Card
(X) Card
(X)support
=
s%
(D) Card
(X Card
Y) (Xsupport
=
∪
=⇒
wY
)
support(X)
Y)support(X
(Xconfidence

∪
=⇒
uwit csY
€ EYV !$dZeWXY`]Y#n
qcpŠ% ]cpkbd_a‘_Š% vcpŠ% g•w]_a‘_
kvcpkg•wW_a‚Z•W’_"c‹%ab)0_a‘_Š% ]
_a‘_kfa ca •Yminsup]minconf)
€ ,!ItemSetqsupportbdVky“_minsupca _…Large ItemSet)
ItemSet „Žca _…Small ItemSet)
2/ 3#45678
€ 9dZeWXYq%a‚_”TIDiitemsi]b,c‹WVˆV_V
)
€ #:(Zga _}%_!ItemSet)
€ );.<=);2<=///);<•Yp!k-ItemSetqItemyV_‰t&uit*ui)))i
tui]bt&ust*us)))stu)
€ 0rL)4]4m-ItemSetiV•__…4m-extension ˆVL)
€ 'ŠItemSetq%a‚_countc•aZgsupportItemSetcq),%a‚_count
ca eŽ_%‹y“_•ItemSetca Žfcf)
€ Ebp!_ViZ–"mkW[_pc•!Z%VX_
 !q—ZgcpŠ% ]cpkbdcpŠ% ˜#
vZ!w]cpk˜#v™w)
€ ,#n !q•ca !m`Vyab
>?@).,#n!}v}Z}ZwZ!!%ˆVqbdZ!)
cq!}qZ!!%g•k_…!V%_}}Z}iX_!„
Ž_…DV}Z})
>?@)2D•W’_!V%_}}c•!ZX__g)EbŠ
!V%_}}Z}i#n!%Š_ˆV_…i]bŠ!
a]kVq⇒v€wi—Y_XVZ!!%vw]bZ!!%vw
bd™)
A/ BCD53EFGHI

;
€ W„__VW‹v%VZVw]!fWXYv}wV
cq
• Dg !q•q/v*
?&
w
• p!\Ž!`/v*

w
€ ad_!!#nhv!V}%wW[V%oZ[%_ypˆVcpŠ
% vD!!%w
•  0†iG‡qcpD!!%g• α n]GZ–cqcp
D!!%g•α
• 0šGqcpD!!%˜dα†iG‡qcpD!!%˜
dα)
• D•W’_hˆV?&}c•!YhˆV})
C
/ JKJK
!%%ca 1V}Z_%V›Vi,VZœ}Zi%D›Vc
"#fcf]z&QQ9)Gca !y•,qcpŠ% Z˜V•Z≥
Z
•
]cpk≥
•
vZ
•
i
•
V_a‘_W_a‚W{_"c‹]Z
•

rZ!!i
•
r™w)•Y

!!?’!•yi

!!?’\_]o)
Gcš%V
1) Tìm tất cả các tập mục phổ biến với minsupp nào đó.
2) Sử dụng các tập mục phổ biến để sinh ra các luật kết hợp với độ tin cậy
minconf nào đó.
 
€ Zga _ˆV$_}i}"#Y#)
€ ,š!\_]oš!rsš!}"#Y#)
€ ,ypyV\_]oypyVrsypyV}"#Y#)E
!’]byp;iypCiž
€ 0_koŸˆk'…!ˆV!!•y!n!!•y)
 


€ >?@).ZgZ!!%Š!_‰p!f•]"}l_ap
V%_}}Z})D!!%ˆVl_Z!)
€ >?@)2EbŠ!V%_}}y•Z_}]]ŽpV%_}}Z}
bi!kca _…!\_]ovVWWV}}Z}?w)ZgZ!!%
Š!%odZeWXYi$cqjkc‹!Large Item[
Z[i]VW{_Ž_g_yab!)
€ >?@)Aš!Žyab*c^_„#koip!V%_}
}Z}XV)
 
,!_VW‹i_a‘_Z!!%g•Z!

J?!’!•y%_
($'
&) 
&
rLarge_1_ItemSetsvw
2
*)
&$%vr* 
?&
≠∅ ¡¡w'$
9) L(M
;) 

rV!%%?_}v
?&
w

C) &$%vŠp_VW‹,
∈
w'$
2) L(M
=) 
,
rZyZ}v

i,w 
K) &$%vŠp\_•]o
∈

,

w'$
Q) )¡¡ 
&•) ('N
&&)


r†∈

¢)≥Z!‡
&*) ('N
&9)
%}%∪



€  Large_1_ItemSetsvw %n ]  Item qZg support b d Vk y“_
Z!)
&)
for alltransaction∈do
*)
for allitem∈do
9) )count¡¡
;)
&r{¢)count ≥minsup}
€ Apriori_Genv
?&
w[Y]Yš!vk-1wItemSetc•!Z
!k_ItemSetb),VZgˆV
?&
€!#nvk-1w?ItemSet]

jn%n]ˆV!k-ItemSet)
&) Join
?&
with 
?&

*) Insert into

9) select!)}
&
i!)}
*
i)))!)}
?&
ij)}
?&
;) from
?&
as!i
?&
asj
C)
wherev!)}
&
rj)}
&
w∧)))∧v!)}
?*
rj)}
?*

w∧v!)}
?&
”j)}
?&
w
Yv!)}
?&
”j)}
?&
wZ–yncn^_!Zyp%{_
V)
 


OP.p]`W’!_VW‹$qVcdV_aZV
9 0)1QRM?)1PS(1T
& †yi i i k‡
* †yi ‡
9 †!i Zi ‡
=
; †Vi yi i W‡
C †Vi y‡
2 †}i i k‡
= †Vi yi ‡
Min Support = 30%,Min Confidence = 60%
+P%M(.U(1=P)QV.
(1 #WXYZ[ 
†V‡ 9
†y‡ C
†‡ 9

†‡ 9
£yab,$H&%oVq!*_‰š!*?}
††Viy‡i†Vi‡i†Vi‡i†yi‡i†yi‡i†i‡‡
+P%M(2U(1=P)QV2
(1 #WXYZ[ 
†Viy‡ 9
†Vi‡ &
†Vi‡ •
†yi‡ 9
†yi‡ &
†i‡ &
—#kš!*?}ZqD!!%s'D!!%vr9•ƒw_‰†Viy‡]†yi‡
0\X
V→yqcp™W}}9¤9r&••ƒ
y→Vqcp™W}}9¤Cr2•ƒ
y→qcp™W}}9¤Cr2•ƒ
→yqcp™W}}9¤9r&••ƒ
£yaba y˜VqH*r††Viy‡i†yi‡‡
£yab,$H*Vq!9_‰š!9?}†∅‡
K
$0])/
Q
OP2L¥dZeWXYhaZV
9 (1
& ii,iJ
* iiJ
9 ii,iJ
; iiiJ
C iii,iJ
2 ii,

&•
minSupr2•ƒ
minConf = 80%
(1\$;
2;,;JC
(1\$;2
;,;JC

&
&
9(1\&ii,iJ*ii
J9ii,iJ;iiiJCi
ii,iJ2ii,
Quyét CSDL
Chọn Items có support >=minSup
(1\$;
*,*J;;
,;JC,*J9,
J9
0g
*
(1\$;J
;;,;JC
Chọn Items có support >=minSup
*
(1\$J;
9
Kết nối
(1\$
J;

9
;r∅
0\X
→Jqcp™W}};¤;r&••ƒ
J→qcp™W}};¤;r&••ƒ
J→qcp™W}};¤CrK•ƒ
/ JKJK9
3n%$%9!fe%p_}ab_!dynˆV_n
!%%),Vk]W[V]dZeWXY^_n!%%,y•W¦yo%_
Š_Vye\_]oY)
 
€ , AprioriTID Z•W’_Apriori_Gen c•Ž! ItemSet \_
]o),k^_W{_dZeWXYc•csupport•$yab
\ViVk]cqZ•W’_!

’c`k)'Š]oˆV!


qWŽ_”,i{L

}s]bL

!k-ItemSet•Yp!f_Vq
•,iVkVq•]”),i{∈

¢q%_}s)
€ 0p_V^_\Vy#§p!k-ItemSet\_]oi_V
k^_ca caV]
k
C

)cqiZga _\_]oca caV]
k
C
q
•˜dZga __V%_dZeWXY)
  

!
€ >?@).U¥#n_VW‹c•#n}qcpD!!%bd
'D!!%]caV!V%_}&?}]H&
€ >?@)2aVyp,WˆV_VW‹{_}Z]¨&WabWŽ_
”,Wi†L&‡s
€ >?@)ALmkW[_š!*?}Z$H&caV]!\_]o*)U¥#n
_VW‹%_¨&c•#n!V%_}*?}$*caV]¨*
WabWŽ_”,Wi†L*‡sic‰_‚caV!V%_}*?}\_]o]H*)
€ >?@)^Z)LmkW[_š!}Z$H?&caV]!\_]o
)U¥#n_VW‹%_¨?&c•#n!V%_}?}$
]caV]¨WabWŽ_”,Wi†L‡sic‰_‚caV!V%_}?}
]H)š!ŽGab;c\_]ob)
&&
*/ JVq7KJr
0aVc•y!%%pyabcp!]V!
’a‚_"koy“_Z•W’_«—Vc•%l_…`abˆV
!’\_•),koi%_%a‚_ !Zg!’i!’Wš
_a‘_cpŠ% ˜_š!!nV!`b
€ D%VZga _•_‰!’\_•)dXVic•!Y%V!
’a‚_"koq`abi!n•%V*?*!’
a‚_"ko¬)
€ nWkYjVdZeWXYf)DgfWkYdZeWXYˆV
!%%y“_cpWˆV!’a‚_"koW#ca ),%_%a‚_

 !!’a‚_"koW]dZeWXYb^_•[Yca )
,!%%!{ !]bdZeWXYaVi„]bdZeWXYWk
¥Yjn)
€ •Ÿ!’X_!`bˆV!%%z*•••-V›}Vi
-V!}]4›}4c•caV%Vbca _…HI_%›c•
!’a‚_"koy“_^_Z!’\_•$!’
a‚_"ko%ab]hYjny“_Z•W’_yV«ZV
• ,\#iZ•W’_#%lmkha‚_"ko
HI,%}}c•¥WXY)#%lHI,%}}e%p_ˆV#%lmk
!%}™")0X_l%_mk’qcpW&ica _•ye
o’]ca ZŸ!"!}fZ#"#YˆV’c•’q
Zgf"#YZ–VZ®d)
• ,\ViV!%•$_cŽhW[V%oHI,%}}iyŸ
cf$ha‚_"koq`ab&]—•%V%odZeh
!’pvWV!V}%yVZ}wieŽHI,%}}ˆVh!’pi
[YVcYjk%omkk)'hjnca jV]Y
ghg]bhbca Z%V$HI,%}}!’p)
• ,\yViW{_«!mŽ^__V
]Vc•%‹c•VY]’VX_Y]’˜d]
_bŽŽh_n^__V)
&=
 ,"
€ V!!•y^_Z•W’_Ž\_]o)
€ 0¥dZeWXYWŽ_#%lmkHvH%}j}V}%w)
€ kYcYjmkHc•Ž!!•y)
 -./
€ >?@).kYDi#k%V!}!•yH]`cp!•yˆV
l_)DŸ!"!}%_!H}\[_nWfˆVcp!•yiV
ca !jn)
€ >?@)2,Žl_gmk,i]oˆVl_gZ–0)

DVcqWkYDf\V)¯_]bŠ_V%_D[Y*
^_]YZV
• …}!•y%__V]ZŸ!"!l_}
\[_nWfcp!•y%_!
• 3…Z}%I%}}vt!¢ui,wc•caV}]%_mk,
€ p,)i1)0)1,)?sMZ_ieR$)k_Vq%((
& %}W%}Z}%I,%}}vZ%_t!¢ui,%}},w†
* ¤¤,%_cq!’cfoˆVW•k]!f„ŽˆVW•k
9 ™mk,ql00)}IV}r!,}0)¡¡
; TZ}
C ,Žlb0
2 0)}IV}r! 0)r&
= ,Vkc•lo!
K
™!≠∅}
Q Z}%I,%}}v!i0w
&• ‡
  ,%01
>?@).
&K
9_ #9
[_%PtL
vyV_‰}!•y}\[_nWfˆVcp!•yw
>?@)2
\(%q%((S;u<=T
†
v&w 0,ql0ZV0)}?V}r!)}?V}
,z_0)o&)
0_ ŽŽplb]b}›W})r&io]bl V,i
]W}?ˆVqoclq•_g_q%o mk)

v*w 3…cYjZ}%I%}}^_%g_
‡
 


dZeWXY]b_V]’a‚_"ko%_Š_V
ca ZŸ!"!_nWf}cpŠ% vZ!r2•ƒwca •Y%_yn_
ZV
&Q
v$]MW))$)k_
9_ )w\x'yX 
O.MP$0)%$M)w\x'yX 
O(1tL%$M)0)MP$0)z
\{Z($h|M"1'Y`tL
7OR1\(%q%((S;u<=T
o1%P
MP$0))?P}
„
])

9 (1\
&•• ™iViiWi_iii!
*•• Viyii™iii
9•• yi™ii°i
;•• yiiiZi!
C•• Vi™ii}ii!ii
,VqpWVZš_!•y
”v™;wiv;wivV9wivy9wiv9wiv!9ws
š_c•ca ZŸ!\[_nWf}cp!•y
9 (1\ J%'(%('

&•• ™iViiWi_iii! ™iiVii!
*•• Viyii™iii ™iiViyi
9•• yi™ii°i ™iy
;•• yiiiZi! iyi!
C•• Vi™ii}ii!ii ™iiVii!
,$!WXYyVcfiV"mkW[_}VW}%Vy}ˆVmkHaZV
*•
kYjVdZeWXYc•!’a‚_"ko]ZŸ!"!_nWf}
cpŠ% 
(1 $
™ ;
 ;
V 9
y 9
 9
! 9
kYjVdZeWXYf\Vi]bŠ_VŽy˜’^_
a‚_"koi’„ŽZŸ!"!_nWf}Zgf"#YiW•k
’!•ycqca o]mk]Vkc•Zgc!{ !)
jnca HI,%}}cfkcˆaZV
' 223/
€ ¯_]b%ol_Vf`"*fj¥jV#n
_VˆVdZeWXY)
€ !`caVp_V,%VZ]%_mk/v¢,%VZ¢w)
với |Trans| là số lần xuất hiện của các item trong giao tác Trans này.
*&
( 2"1/!44
+)[.EbŠ!f•!•yVi#n!!•yq\V!f
•kq•ca y“_W„}loyŸcf$V)
,`#kqdZe%[!$"mkW[_H?%}})0q!¥!W¦

W_%V#n!!•yq\VV

y“_WkYH?%}}pf
}lo]bV

)
+)[2để tìm ra các tập phổ biến từ một nút ai trên đuờng đi P, chỉ
cần đến đường đi con trước nút ai trên P. Và số lần phổ biến của mỗi nút
trên đường đi con này phải bằng với số lần phổ biến của nút ai.
Dựa trên các tính chất trên, chúng ta có thuật toán tìm các tập phổ
biến trên cây FP-tree.
&) $0P$0M)0)1~tL\•',M)k_V
mkH?%}}
J!h!•y
($'_…H?_%›vH?%}}iw
Procedure FP-growth(Tree, α){t toánaáng các mẫu ụng cây
FP
(1) Nếu Tree có ột đường đi đơn P
(2) Thì với mỗi cách kết hợp γ của các nút trong đường đi P
thực hiện
(3) phát sinh tập mẫu γUα, support = min(support của các nút
trong γ);
(4) ngược lại ứng với mỗi a
i
trong thành phần của Tree thực
hiện {
(5) phát sinh tập mẫu β=a
i
Uα với độ phổ biến
support = a

i
.support;
(6) xây dựng cơ sở điều kiện cho β và sau đó xây dựng cây FP
Treeβ
theo điều kiện của β;
(7) Nếu Treeβ ≠ ∅
(8) thì gọi lại hàm FP-growth(Treeβ, β) }
}
**
*9
5 6789.:
€ DZ]b!%%i%o[%#qcšH?%}}]Z[!\Ž!
ˆV#%lmkH)
€ ,%_%a‚_ !DbiH?%}}Z•W’_gdc•h!•y
_Ÿ]Wye]H?_%›Žd!%%)k•o
_a‘_Z!!%Ž"g_)
€ H?%}}c ŽW[_}hqcp!•yVd“_f
_gdv!f%ow)E]k}jVc•||]|WkY|%#W¦
…%Vh]b_a‘_Vy“_y˜jV!f#!dˆVmk)
*;
TÀI LIỆU THAM KHẢO
t&u-V›}Vi-V}iVW4›}4v*•••w)'_H%}j}V}%Z›
VWWV}3}}%V),}0V%VD}}ZVWT_}}%_1}Z}V%™
VVWV)
t*u)V_iL)JiVW1)1}}v*••*w)ZZVVVkZZ›}ZV™
WVVyVZ}Z)TTT}%VV™}%}}VV'_i!V_}Z2*Q?292)
t9u-)i4)Vi)JV_iVW-)Vv*••*w)'_™%}j}}Z}Zyk
!!Z!%°})T_'D3}%VV™)›}W_}
Z]}%kVWVV'_i!V_}Z**Q?*9KiTWiy}%V)
t;uH)H%V}i)VZVViVWL)JV_v*•••w)T™™}_™Z%V}W

%%}V}WZ}Z)T¨••)
tCu?0_k}DVi0_k}_D?3%V_WXYtŽ
…^_0_Yu
t2u?)DV]V}%}iT/}ZVWD)0V]V}v&QQCwi}™™}V_%™%
_VZZV%}ZV%_}WVVyVZ}Zi*&
Z
EG±)
t=u?_%V›VVW-)DV™}%v&QQ2wiV%V}_™VZZV%}ZiTTT
,%VZi›}W_}VWVVT__i!V_}ZKv2wQ2*€Q2Q)
tKu?i_v&QQKwi'_ZZV1}ZJJ}_}W}Zi
,}}Z}]}%Zk™__i_Z)
tQu?)'VVi),]}VW)E}%Vv&QQ;wi}™™}V_%Z™%
WZ]}%_VZZV%}ZiJZ!i›}W_}Z]}%%k
VVyVZ}Zi-k)
t&•u 1)  _%V›V VW  1) D%V)  HVZ V_%Z  ™%_ VZZV%}Z)
EG²Q;;K=?;QQiDVV_i})
*C