báo cáo môn môn xử lý ngôn ngữ tự nhiên

Mục lục

Chương 1 : Mở đầu

 !"#$%"&'()!
$$)*+,-)./)-,0/
'12$%*3456$78*9$*9#$
)0/0:$$8*97;$<$'
=>$$$"8/$?)$'=*9>$
)03)$@AB3)$C$9),*9*5/)8'
?)$.>$*9)::$:A/;
$DAE*8#3"*9#F3A5$FGHIJJ
>$0:A*94$-DE*8F3A5
A$$$FGKIJJ
=7*ALM23)$$/7$#*N-
&/,:<C./OP$QRST'UALE*5D!:
7$:.@- :8$.P$$!:-$
FV3A)J3)$D*W!:$:-$G3
<X  $3A:*9:$8'?-:,):)O
Y7$Z&.-:56E)$YO)
.$8>*-*9*A$53:$M8@
3)$3#$/&/,-[535\B@$E>**9&$
&/
]]]F]A5B]5]J$!#!7*,0
E-7*)0A!#$:.^*9!)&L
7#-A)_)8)!>5Y6$*#<
*9)_)'KWA`aBbP$L;!3N3"*34
56/$:-O<>M8PZ3)$
*#<`.9)'?)$*A3>0:A*+$
_A_A:F>$0:A*+$*9$-DJ
'?)$<:!*3456"*7

'U#*3456$3)$<A@0$:N$/7
 &-L@- Y$/>$@WX&-D$"
$&*+3"EFHAJ^Y3)$A8$
X3"*93)$*9 $N#'A"Ecd=
 $P$aeef$%-A0fg$3)$*9)::
feh*9$$3)$D<A3"Teh'KA5*985,

iEjF)$JV3)$$9
8'A3"Qeeeee$3)$)::WD$$-)0j- 
k)).D*
l PZ3)$7A@:;::<;
): >M8)<A@$:3)$$C>
*A3)$)::L^X$$@:*9:@'K
!>:3)$$>*"3)$m`!)5n5*
*-j!'N!A/D-$)*+):)6"
3)$>,/D!'

Chương 2 : Tổng quan
2.1 Các cách thức con người xử lý với spam
!#-7;): 7:;: 
0!/73)$'K-7,"*9&<5N3o$[53:\
FH3J;:$7$O-3)$*9A)::5M:
$!O:$7AAY-FAAJ'p3",P;A
5E$F>**+FqA$J7F3rJsJAt>
$-YW&/):O>3)$$F*)::3)$J'U,":
X$!$A5E$>5/!A/-3NjE3)$
u$-:75/3">:*9!A7$:/X
*s
:3)$$X!:M85 "3)$
^)0*90!.>0!L:3)$$

$+sv!0*,:$3)$D*"#$
$*'$3)$-$7A0
/E-'H0/-.$60:A30)w$5Y6'=-+3
A)*+):)@$5N5FA35xJ'A-L
"k):,:>0:AF33B)JXLy!:
W3"E$u*-AD&/,>[e&&&z\s{
p7@D)0<k!@3)$::)00@
3'=!$@O"8D!:$4!AZ:5/$$8
3N@A-3)$X7-`,+0,8/0$3)$*9
4!'=*9!-:7$3)$*9*9@X|@A
,0:);*9DE*3456'

2.2 Các phương pháp tiếp cận
2.2.1 Complaining to Spammers' ISPs :
Ý tưởng:
X$:$P).43)$E:3)$$2>)7
)0:!:+/)5Y}6$F?~A5B?~J'vL
!.&:>$3)$N3N*94!O5Y6?~A3•)0
:#5Y6-5Y63•O"/)5Y6A:3)$$5
43)$'
Đặc điểm :
l<^0):)"3)$D'=>)7^-:
56E-'=>+43)$3•Y,--:3)$$)0Py
$A0$##/)5Y6?~ - !)6):::$3)$
E$X'dD5D, +/)5Y63•$:3)$$"7).
L):,3#$X).E:3)$$P7
 K:^Z))0>-P- !.&:>
$3)$N3N!O<5A:3)$$_A_A/)D5
E$ wj"'dA-D)0 !75E$  |
$3)$83N!<'

2 2.2.Mail Blacklists /Whitelists
Ý tưởng :
p53:FH3J:YW$:$:E$F$3J
5E:3)$$3•*9!8)5NA-- PZ$
3)$*9)<:O>+'
U,!8)53::YW$$:E4$3•5A$
-$X,&:8'p3"/)5Y6$?~3•553:
 NO"8$O>$:E$A53:-'
=*8>$3)$3•*9)<AZ$:E8$'
Đặc điểm :
~*+):)*#DA*9A0Teh$3)$

v! $E)*+):)L *+D#+$4
3"3$3)$3456,'U!&:853:,5
-jM#,t$*9#$9),'
~*+):)- Y$Z!*:3)$$4$
$$:E?p~F?$)$3q~AAAJ-j"9)):) 
A53:[H3\'
=A53:WO"8$O:YW~F
~AAAJO>+543)$$-`O"0>$$
-$72$A53:[H3\'
K:*9:)56$;/)5Y6$F?~J8>56
#*5!@3456$?~:8'
=*9#,!8)$53:[H3\`- !8)
$53:[]3\'U#>YW4$FAZ$75A$3J2$
A53:3•*9:?~N/)8$4O-'pZY/0
>$:3•YO"'
=!:3)$$4$3)$#)D[35\E$-$7
*9/)8A[]3\X$3)$m- !*9*8'
2.2.3.Mail volume

Ý tưởng :
H@3•;568A:  $3*9$8*9O$$:E
FA3J6 A:D!"3F:*9@?)$35Ev
3456=!3"*9$8*9#+$*€A-X:$-3•
*9)<A3)$J
Đặc điểm :
H@t,0A,)<AL/0:$9),A7
,#$*€)<AEA'=!@*93456A:<q-A
/,0'K- &$<$* $E@X#$:<X
>i4$0:A)0!8)7!"+ 4$3"*9$
"'l7$A:$0:A-5n5Y):,5N,
)<.3"*9$'
pZ!E@W,/)8)<A3•‚ƒFq3)
JE-`:A'
•‚ƒ„

…?"$3)$$@8AB3)$e
…?"$3)$N3N!@
2.2.4.Genetic Algorithms
Ý tưởng :
H@5N8A:57F†‚A$3J3456:8
5Z*Fq5A3J  $A$%$'N!>q
5A3$8):8*9&<5N5N:,$-
F$)3J:)56A$%$ 7$:Y3"
8A:57*9 5n><F3J*9!9)#
$8)/,#$$.9)x33qA'
K+!!-FIAA$3$JE8A:…8A:N,
A:+0)_)A33A!$A'p6.!X
X$*9$:Y3At/5N$x33qA'†:Y3A3-3•
*93456 )<A$3)$AB3)$

Đặc điểm :
l<*#!)8)<A$5N5'1*#!)8,
0/A@$;?~*9::5N8A:57†
‚A$3
l $89E8A:57`t0P&4y)0#
1*#!)8*9;56AX@3)$?)$3333'=-A
5/,0$;?~*97*::$A>@
A,0/$;?~
l $!EX@?)$3333A#,0*A$;
*5:<'
2.2.5.Rule-Based (hay là Heuristic)
Ý tưởng :
dNA8X$!$:$m-5/,3)$*:O>&:Y
A:>A5//$)D5E$3Y5
A$*+AZ:;'l-:D!)D#:X@3)$
AP$aeea
Đặc điểm

1,3/EX@5N8FB35x3J:/7'K:
+0/At:$$-;>O&/A-'=*<^
 $! :3)$$- 956 $Z:@ 2:"
k:3456>O&/2>O"C*934567A
$AB3)$'A-:$AB3)$XYAt!X;$
O&/5'l75m!0P@3`A
p7/9::857M'v:3)$$X$
*9$)*+):)$# *9X>*!X@)0!>
8$# @:3)$'=>3)$$,)X-  $*9>
$:,@5N8*#4L
=!@*9&<5N5N8);)Xm)::56@
3)$,0'U.56*X@?)$3333@!ReBRTh3)$

p789@5N8MX5nZ'
2.2.6. Machine Learning (Máy học )
Ý tưởng :
‡)56:)*+):)$:@A:A:)<AZ,)<
AP0AA:)<A$:8A:$:@*=H3
‚5HA33?))AUAps*93456AMN)<AP0
85s#,0A'ˆ*X$:&<5N$)<A2$
)<AA$$m$#2:/,>$m-3o
Đặc điểm
~*+):)- :)56$;?K'
1!D)0-$A>,FA)3J/,D A$:@,
/,$/7'p!>,0)<A)6AA
>,5 /,'

Chương 3 : Phương pháp phân loại
Naïve Bayesian và ứng dụng phân loại
email
3.1. Một số khái niệm sác xuất có liên quan
†A$j7$$Z)u…-$)_)4
v!0- &0Aj7…\‰/,$Z3/)\AZ[&<,$Z4\
[‰/,$Z3/)\Cl-$!"
[‰/$Z4\Bl-$!"
3.1.1.Đinh nghĩa xác suất
d …
‰:3/E!"‚$3"<$y,~F‚J Y0P&0
!"‚*9&:Y*3
~F‚J„„?"*9)89A‚Š?"*9)- -)_)4N
,
F=>0PAZ:!"3+/)C!L&0X3‚&0C
@>*9)89A‚J

lYM&:3/A)*+):)"…
($$$)_)4A-D$-$D!"‚&/,XW3"
$Š@D3/E!"‚
vD3<$Š^*-5A$3""
YA-'?""Y/*9@&:3/E!"‚AM'
N!E#&/)&W~F‚J$Š

3.1.2.Xác suât có điều kiện , công thức xác suất đầy đủ -
công thức xác suất Bayes
b'Q'a'Q'‰:3/-7,
‰:3/-7,E!"‚#7,!"H&0$A3"
<$*9y,)F‚ŠHJ- Y0P&0!"‚A."
!"H&0
~F‚ŠHJ„
?…~F‚ŠHJ&~FHJ„~FHŠ‚J&~F‚J„~F‚HJ
b'Q'a'a'K;&:3<DE
†034s$-$DE:!"'‰_!"‚3AA‚&0W
$A:!"s&0
v-…
~F‚J„
K;*9@;&:3/DE
b'Q'a'b'K;&:3/H3
O:;-…
~FŠ‚J„„
3.2.Phương pháp phân loại Naïve Bayesian
~<AH3)*+):))<A3456;:3:&/
/,'~*+):).9)#>#)A:`t)05NA:
.&:#)E$mD $5N>O8)/,D
AK3IAs:.#::Y*95 
5NA:$#),KA$8)$m8):#)$$m- 7K

„‹sŒ'KA$$m/,#:Y:.*+;&Qs&5NA:
$m7#)•K&:3/~FK„Š‰Q„&QŽ‰a„&aŽsŽ‰„&J-:Y#/'
?456;&:3/H3-…

~FK„Š‰Q„&QŽ‰a„&aŽsŽ‰„&J„~FK„J
‰:3/~FK„J*9.5n5O8)5>,/,'‰:3/~F‰Q„&QŽ‰a„&aŽs
Ž ‰„&J.9) 5A,!Y#)KX:Y*
"#$%#)'=*8P; 5NA:#)EK5NA&:3/
~F‰Q„&QŽ‰a„&aŽsŽ‰„&ŠK„J',.A:&:3//);)'p
)*+):)+0*9*3#$/)*+):))<A=
H3A-0!2$%‰8)#:‰rF•rJ*83•-…
~F‰Q„&QŽ‰a„&aŽsŽ‰„&ŠK„J„
3.3. Phân loại email bằng phương pháp Naive Bayesian
•<$%$m$&_.$%$$8):#)$$"$- 
7K„‹3)$AB3)$Œ
v8*9$$!!$X7-5A---
 !Y.&:$3)$
=*-$Z $.A-E$X- <
A,08*9$3)$'p$-7Z $*…7
5-.‘$8)s- 5NA: <A
,0)<A$3)$'p.56+0…!!*92RTh$
$$3)$8*9$$$*8- 5NA&:3/
!*#RTh$$$3)$ .*9&:3/$$8*9
3)$!&:3/#+&:3/$-AB3)$- 82$
-3)$8.&:k$'=*!-*97&:
3/!*#*8X!83•:8+'l -*9:&:3/
!*#3456)*+):)=H3/,8)$mF$J
D3-3•3456:&:3/;56A)<A$$mF$J$#'
3.3.1 Phân loại email dựa trên thuật toán Naive
Bayesian

†0!$%$$*95,$A.Z*„F&Q&a
s&J#&Q&as&:YE:.‰Q‰as‰*+;A
AZ*'Ap?$3456::YY)<‰„Q!:Z
 $E‰-A$*9‰„e
.:Y*+%pF‰KJFpqA$AJ$$%$5,E‰
7AK*3…
pF‰KJ„'A


?-@:.-:YpA/'K:&:3/~F‰J~FKJ~F‰KJ*9
.5N5>,@
dNA;&:3/H3;&:3/DE-*9&:3/$
$#AZ*7A…
~FK„’J„
U#K$*9&_
N!/-.*9&:3/~FJX:Y3"*9A/7
7A!$8$.&/,A8)5>,/,'=*
-)*+):)=H30!2‰Q‰as‰>!"8)5A
-L- .*9&:3/*3…
~FK„’‰„&J„
U#~F‰’KJ~FKJ*9.5N5>,@,.5NA8)/r
D
O&:3/3A3:#$:Y*€$A*€ )<
A$3)$!&:3/++A$-3)$*9
&$$-AB3)$'
3.3.2. Chọn ngưỡng phân loại email
A)<A$-A3D$…3D$8$$3)$$Z5
N!-AB3)$Fq3)A3J3D$;8$$AB3)$
$Z5-3)$Fq3J'ƒ|3D$;/$@+
X*3456- /)8$$3)$*9@*/)

8$$9),@Y@Z'
†034=B“??B“=*+;#%3<'?4568!Y
H35N).0342%=B“?-)./)D%?B“=L)<
A$$3)$5NA<3…
p~FK„3)$’J„QB~FK„AB3)$’J
=-…
~FK„3)$’J“#„

=*8*€)<A*9@A:Y'

Chương 4 : Cài đặt chương trình phân
loại email dựa trên phương pháp
phân loại Naive Bayesian
4.1. Khái niệm Token
l &$&_56$$5:,$A
K:A- &$*:OD&$&_$:O5E$
'U#:.N>.N3".N”•{.N”B{.N5*#”–{.N:
+”{>.N/AA'K`>.N`*A0k.
N—.N…s*9&$.N :)<::O'U#>O:*9$
j$A.N3"X*9&$AF.56…QabfTJ
U.56-:A3…
˜)eefT5$&BeT•STeeb5eSaT)$'
=!-$%3…)…ŠŠVVV'aS$'A$ŠqAAX3•-:A*+;…
)VVVaS$A$qAA
4.2. Vector thuộc tính
 $%$$3$A„F&Q&as&J#&Q&as&:Y:
.‰Q‰as‰AAZ*'K:.- $
A-$:AsA*9)+0/$%$.*9 
,$A+/0:.-Y<.FAAJ*8‰„Q
!$;A*9)*9‰„e

I$@.A+*X:YE:.:Y
<.FAAJ$@&:3/3)$E$%A'‰:3/3)$E$%A
3•-:YAA™eQš'‰:3/A7+3A#:Y<y'U.
56…&_A•&/,A$!3456:Y8yE+3 
$$3)$!$:5X-!82-
3)$'3456&:3/- !*90P$-3)$
A79)y+W3456:YeQ'U#AZ
*@3":.E 4,$D*9QeQTae'K@3A
A:#!#-0P>.)0Z**
83•$n0P)<AL'=*9!@:t3•-
*93"D!:.

4.3. Chọn ngưỡng phân loại
!4,$#:YD*9QRRRR*8*€)<
A&:Y$$3)$D*9e'Te'Re'RRR

†A5,*+X
K:;P.E*+X…
(N@xA*$6…*9N/A
HAV3
v $x3)$…*9N,/
AK

‰-$X…*9N,/AK

Tài liệu tham khảo
vA5>,*9/O:j…

 !""
#$ %%"&%'%

( )*
" "
   "*+,"
*--*."*
  /0"1/234565
