Khai phá tập mục thường xuyên đóng trong cơ sở dữ liệu và ứng dụng

i
Số hóa bởi Trung tâm Học liệu



ĐẠI HỌC THÁI NGUN
TRƢỜNG ĐẠI HỌC CƠNG NGHỆ THƠNG TIN & TRUYỀN THƠNG








LÊ THỊ TUYẾT NHUNG


Tên đề tài:
KHAI PHÁ TẬP MỤC THƢỜNG XUN ĐĨNG
TRONG CƠ SỞ DỮ LIỆU VÀ ỨNG DỤNG

Chun ngành: KHOA HỌC MÁY TÍNH
Mã số : 60.48.01


LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH


Hƣớng dẫn khoa học: TS. NGUYỄN HUY ĐỨC

ii
Số hóa bởi Trung tâm Học liệu


Thái Ngun - 2013



LỜI CẢM ƠN

Trước hết em xin gửi lời cảm ơn đến TS. Nguyễn Huy Đức, người thầy đã
hướng dẫn em rất nhiều trong suốt q trình tìm hiểu, nghiên cứu và hồn thành
luận văn tốt nghiệp từ lý thuyết đến ứng dụng. Sự hướng dẫn của thầy đã giúp em
có thêm được những hiểu biết khai phá dữ liệu và ứng dụng của nó.
Đồng thời em cũng xin chân thành cảm ơn các thầy cơ trong trường cũng như
các thầy cơ ở Viện Khoa học và cơng nghệ Việt Nam đã tận tình giảng dạy, trang bị
cho em những kiến thức cơ bản cần thiết để em có thể hồn thành tốt luận văn.
Em xin gửi lời cảm ơn đến gia đình, bạn bè đã tạo mọi điều kiện thuận lợi để
em có thể xây dựng thành cơng luận văn này.

Thái Ngun, tháng 06 năm 2013
Học viên

Lê Thị Tuyết Nhung
iii
Số hóa bởi Trung tâm Học liệu

LỜI CAM ĐOAN

Tơi xin cam đoan đề tài “Khai phá tập mục thường xun đóng trong cơ sở dữ
liệu và ứng dụng ” là cơng trình nghiên cứu của bản thân tơi. Các số liệu và kết quả
nghiên cứu nêu trong luận văn này là trung thực, được các tác giả cho phép sử dụng
và các tài liệu tham khảo như đã trình bày trong luận văn. Tơi xin chịu trách nhiệm
về luận văn của mình.
iv
Số hóa bởi Trung tâm Học liệu

MỤC LỤC
Lời cảm ơn
i
Lời cam đoan
ii
MỤC LỤC
iii
DANH MỤC CÁC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT
v
DANH MỤC CÁC BẢNG
vi
DANH MỤC HÌNH VẼ
vii
MỞ ĐẦU
1
Chƣơng 1: Tổng quan về khai phá dữ liệu và khai phá tập mục thƣờng
xun
1.1 Khái niệm về khai phá tri thức và khai phá dữ liệu
1.2 Kiến trúc của hệ thống khai phá dữ liệu

1.3 Q trình khai phá dữ liệu
1.4 Một số kỹ thuật khai phá dữ liệu
1.4.1 Phân lớp và dự đốn (Classification & Prediction)
1.4.2 Luật kết hợp (Association Rules)
1.4.3 Khai thác mẫu tuần tự (Sequential/ Temporal patterns)
1.4.4 Phân nhóm - đoạn (Clustering/ Segmentation)
1.4.5 Hồi quy (Regression)
1.4.6 Tổng hợp hóa (Summarization)
1.4.7 Mơ hình hóa sự phụ thuộc (dependency modeling)
1.4.8 Phát hiện sự biến đổi và độ lệch (Change and deviation detection)
1.5 Các cơ sở dữ liệu phục vụ cho khai phá dữ liệu
1.6 Một số ứng dụng của khai phá dữ liệu
1.7 Khai phá luật kết hợp
1.7.1 Bài tốn phát hiện luật kết hợp
1.7.2 Các khái niệm
1.7.3 Các cách tiếp cận khai phá tập mục thường xun
1.7.4 Một số thuật tốn điển hình tìm tập mục thường xun

2
2
4
5
8
8
11
11
11
12
12
12

13
13
14
14
14
15
18
19
v
Số hóa bởi Trung tâm Học liệu

1.7.4.1 Thuật tốn Apriori (Phương pháp sinh ứng viên)
1.7.4.2 Thuật tốn FP-Growth
1.8 Kết luận chương 1
19
23
31
Chƣơng 2: Khai phá tập mục thƣờng xun đóng trong cơ sở dữ liệu
2.1 Cơ sở tốn học của tập mục thường xun đóng
2.1.1 Ánh xạ đóng
2.1.2 Tập đóng
2.1.3 Kết nối Galois
2.1.4 Bao đóng của tập mục dữ liệu
2.2 Khái niệm, tính chất tập mục thường xun đóng
2.3 Một số thuật tốn điển hình khai phá tập mục thường xun đóng
2.3.1 Thuật tốn CHARM (Phương pháp dựa trên cây IT-Tree)
2.3.1.1 Giới thiệu thuật tốn CHARM
2.3.1.2. Cây tìm kiếm và lớp tương đương
2.3.1.3 Các tính chất cơ bản của cặp tập mục – tập định danh
2.3.1.4 Thiết kế thuật tốn

2.3.2 Thuật tốn Closet +
2.4 Kết luận chương 2
32
32
32
32
32
33
34
35
35
35
35
36
37
41
45
Chƣơng 3: Chƣơng trình thực nghiệm ứng dụng trong lĩnh vực y tế
3.1 Bài tốn phát hiện luật kết hợp trong dữ liệu y tế
3.2 Xây dựng chương trình
3.3 Kết quả thực nghiệm
3.4 Nhận xét
KẾT LUẬN
TÀI LIỆU THAM KHẢO
PHỤ LỤC
46
46
50
57
58

59
60
62
vi
Số hóa bởi Trung tâm Học liệu

Ký hiệu
Diễn giải
C
k

Tập các k tập mục ứng viên
BFS
Breadth First Search
CSDL
Cơ sở dữ liệu
CHARM
Closed Asociation RuleMning
DB
Cơ sở dữ liệu giao tác
DFS
Depth First Search
FP -growth
Frequent -Pattern Growth
FP -tree
Frequent pattern tree
IT-tree
Itemset-Tidset tree
I
Tập các mục dữ liệu

k-itemset
Tập mục gồm k mục
KPDL
Khai phá dữ liệu
Minsup
Ngưỡng hỗ trợ tối thiểu
L
k

Tập các k-tập mục thường xun
Supp
Độ hỗ trợ (support)
TID
Định danh của giao tác
T
Giao tác (transaction)
DL
Dữ liệu
TX
Thường xun
TTHN
Tình trạng hơn nhân


DANH MỤC CÁC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT

vii
Số hóa bởi Trung tâm Học liệu

DANH MỤC CÁC BẢNG

Bảng 1.1 Cơ sở dữ liệu giao tác minh họa thực hiện thuật tốn Apriori
Bảng 1.2: CSDL giao tác minh họa cho thuật tốn FP-Growth
Bảng 2.1: a) CSDL giao tác biểu diễn ngang b) CSDL giao tác biểu diễn dọc
Bảng 3.1 : Dữ liệu bệnh hen suyễn
Bảng 3.2: Lựa chọn thuộc tính
Bảng 3.3: Thuộc tính “Tuổi” sau khi phân hoạch
Bảng 3.4: Dữ liệu tìm kiếm sau khi thực hiện phân loại dữ liệu
Bảng 3.5: Chuyển đổi dữ liệu
Bảng 3.6: Dữ liệu cho khai phá
viii
Số hóa bởi Trung tâm Học liệu

DANH MỤC HÌNH VẼ

Hình 1.1: Kiến trúc của một hệ thống khai phá dữ liệu
Hình 1.2: Q trình khám phá tri thức
Hình 1.3: Q trình khai phá dữ liệu
Hình 1.4: Cây FP-tree được xây dựng dần khi thêm các giao tác t1 ÷ t6
Hình 1.5: Cây FP-tree của CSDL DB trong bảng 1.5
Hình 2.1: Kết nối Galois
Hình 2.2: Cây IT-tree dùng Tidset với minSup =3
Hình 2.3: Cây IT-tree tìm tập mục thường xun đóng thỏa mãn ngưỡng minsup =
50%
Hình 2.4: Áp dụng tính chất của tập thường xun đóng
Hình 2.5: Minh họa xây dựng cây kết quả
Hình 3.1: Mơ hình khai phá cho dữ liệu y tế
Hình 3.2: Giao diện chính chứa dữ liệu gốc
Hình 3.3: Hiển thị dữ liệu chuyển đổi
Hình 3.4: Giao diện thêm mới bản ghi

1
Số hóa bởi Trung tâm Học liệu

MỞ ĐẦU
Khai phá dữ liệu (Data Mining), hiện nay đang được rất nhiều người chú ý. Nó
thực sự đã đem lại những lợi ích đáng kể trong việc cung cấp những thơng tin tiềm
ẩn trong các cơ sở dữ liệu lớn, giúp người sử dụng thu được những tri thức hữu ích
từ những cơ sở dữ liệu hoặc các kho dữ liệu khổng lồ khác. Những “tri thức” chiết
xuất từ nguồn cơ sở dữ liệu đó phục vụ các u cầu trợ giúp quyết định ngày càng
có ý nghĩa quan trọng và là nhu cầu to lớn trong mọi lĩnh vực hoạt động kinh doanh,
quản lý. Tiến hành cơng việc như vậy chính là thực hiện q trình phát triển tri thức
trong cơ sở dữ liệu (Knowledge Discovery in Database) mà trong đó kỹ thuật khai
phá dữ liệu (Data Mining) cho phép phát hiện những tri thức tiềm ẩn.
Một trong các nội dung cơ bản trong khai phá dữ liệu là khai phá luật kết hợp.
Khai phá luật kết hợp gồm hai bước: Bước thứ nhất, tìm tất cả các tập mục thường
xun, đòi hỏi sự tính tốn lớn. Bước thứ hai, dựa vào các tập mục thường xun
tìm các luật kết hợp, đòi hỏi tính tốn ít hơn, song gặp phải một vấn đề là có thể
sinh ra q nhiều luật, vượt khỏi sự kiểm sốt của người khai phá hoặc người dùng,
trong đó có nhiều luật khơng cần thiết. Để giải quyết vấn đề đó, trong bước thứ
nhất, khơng cần thiết khai phá tất cả các tập mục thường xun mà chỉ cần khai phá
các tập mục thường xun đóng. Khai phá luật kết hợp dựa trên tập mục thường
xun đóng cho hiệu quả cao hơn, nó đảm bảo khơng tìm ra các tập mục thường
xun khơng cần thiết, khơng sinh ra các luật dư thừa.
Với ý nghĩa đó và mục đích tìm hiểu về bài tốn tìm tập mục thường xun
trong cơ sở dữ liệu lớn, em đã quyết định lựa chọn đề tài “Khai phá tập mục thường
xun đóng trong cơ sở dữ liệu và ứng dụng”.
Nội dung luận văn gồm 3 chương:
Chương 1: Tổng quan về khai phá dữ liệu và khai phá tập mục thường xun
Chương 2: Khai phá tập mục thường xun đóng trong cơ sở dữ liệu
Chương 3: Chương trình thực nghiệm ứng dụng trong lĩnh vực y tế

2
Số hóa bởi Trung tâm Học liệu

CHƢƠNG 1: TỔNG QUAN VỀ KHAI PHÁ DỮ LIỆU
VÀ KHAI PHÁ TẬP MỤC THƢỜNG XUN

1.1 Khái niệm về khai phá tri thức và khai phá dữ liệu
"Khám phá tri thức là q trình tìm ra những tri thức, đó là những mẫu tìm ẩn,
trước đó chưa biết và là thơng tin hữu ích đáng tin cậy". Còn khai phá dữ liệu
(KPDL) là một bước quan trọng trong q trình khám phá tri thức, sử dụng các
thuật tốn KPDL chun dùng với một số qui định về hiệu quả tính tốn chấp nhận
được để chiết xuất ra các mẫu hoặc các mơ hình có ích trong dữ liệu. Nói một cách
khác, mục đích của khám phá tri thức và KPDL chính là tìm ra các mẫu hoặc mơ
hình đang tồn tại trong các cơ sở dữ liệu (CSDL) nhưng vẫn còn bị che khuất bởi hàng
núi dữ liệu.
Khám phá tri thức từ CSDL là một q trình sử dụng các phương pháp và cơng
cụ tin học, trong đó con người là trung tâm của q trình. Do đó, con người cần phải
có kiến thức cơ bản về lĩnh vực cần khám phá để có thể chọn được tập con dữ liệu tốt,
từ đó phát hiện các mẫu phù hợp với mục tiêu đề ra. Đó chính là tri thức, được rút ra
từ CSDL, thường để phục vụ cho việc giải quyết một loạt nhiệm vụ nhất định trong
một lĩnh vực nhất định. Tuy vậy, q trình khám phá tri thức mang tính chất hướng
nhiệm vụ vì khơng phải là mọi tri thức tìm được đều áp dụng vào thực tế được.
Để có được những thơng tin q báu chúng ta phải tìm ra các mẫu có trong tập
CSDL trước. Việc đánh giá các mẫu được tìm thấy cũng là một điều thú vị và tất
yếu có tính chất quyết định đến sự sử dụng hay khơng sử dụng chúng. Đầu ra của
một chương trình là khám phá những mẫu có ích được gọi là tri thức. Tri thức được
khám phá có các đặc điểm chính:
- Kiến thức cao cấp: Ngày càng có nhiều câu hỏi mang tính chất định tính cần
phải trả lời dựa trên một khối lượng dữ liệu khổng lồ đã có. Q trình để tìm ra
kiến thức như vậy khơng phải từ những phương pháp thống kê cổ điển mà mà

nó được được đúc kết từ các kinh nghiệm đã có, được thể hiện trong dữ liệu, những
kết quả đó có thể lĩnh hội được.
3
Số hóa bởi Trung tâm Học liệu

- Độ chính xác: Dù cho những mẫu khai phá thật sự có trong CSDL hay khơng
thì việc đo lường trị giá của chúng là bắt buộc phải có. Chúng ta sẽ chỉ sử dụng
những mẫu nào có độ chính xác càng cao thì hiệu quả cơng việc đạt được càng
lớn, những mẫu có độ chính xác chưa được xác định rõ ràng hoặc khơng cao thì
khơng nên sử dụng chúng.
- Tính hấp dẫn: Khám phá tri thức được coi là lý thú vì nó có thể vạch ra các
xu hướng một cách hồn thiện. Đó là những điều mới lạ hay những quy trình
tìm năng, hữu ích ẩn chứa từ trong dữ liệu trước đó.
- Tính hiệu quả: thời gian chạy của thuật tốn khám phá tri thức trên CSDL
lớn có thể dự tính và chấp nhận được.
Dữ liệu là tập hợp những bộ thơng tin chính xác và q trình khám phá tri thức
được xem là sự lọc bỏ các dư thừa, được rút gọn tới mức tối thiểu chỉ để lại các đặc
trưng cơ bản cho dữ liệu. Tri thức được tìm thấy là các thơng tin tích hợp, bao gồm các
sự kiện và các mối quan hệ trong chúng. Các mối quan hệ này có thể được hiểu ra, có
thể được phát hiện, hoặc có thể được học.
Nếu khám phá tri thức là tồn bộ q trình chiết xuất tri thức từ các CSDL thì
KPDL là giai đoạn chủ yếu của q trình đó. KPDL là một q trình phát hiện các
mẫu mới, thường bao gồm việc thử tìm mơ hình phù hợp với tập dữ liệu và tìm
kiếm các mẫu từ tập dữ liệu theo mơ hình đó. Sử dụng các kỹ thuật và các khái niệm
của các lĩnh vực đã được nghiên cứu từ trước như: học máy, nhận dạng, thống kê, hồi
quy, xếp loại, phân nhóm, các mơ hình đồ thị, các mạng Bayes, Hầu hết các CSDL
đều chứa rất nhiều các mẫu mới và có ích, tuy nhiên mẫu có giá trị với mục tiêu đặt ra
phải là những mẫu khơng tầm thường. Để các mẫu trở nên khơng tầm thường, hệ
thống phải làm nhiều hơn là chỉ mò mẫm thống kê vì kết quả của việc tính tốn trực
tiếp qua cơng tác thống kê là đã có đối với người dùng. Một hệ thống tìm kiếm cần

phải có khả năng quyết định cần thực hiện tính tốn nào và kết quả là có đáng quan
tâm để tạo nên tri thức trong ngữ cảnh hiện tại hay khơng.
KPDL được sử dụng để tạo ra giả thuyết. Ví dụ như để xác định các yếu tố rủi
ro khi cho vay tín dụng, kỹ thuật KPDL phải phát hiện được những người có thu
4
Số hóa bởi Trung tâm Học liệu

nhập thấp và nợ nhiều là những người sẽ có mức rủi ro cao. Ngồi ra kỹ thuật cũng
có thể phát hiện ra những quy luật mà nhà phân tích có thể chưa tìm ra ví dụ như tỷ
lệ giữa thu nhập trên nợ và tuổi cũng là các yếu tố xác định mức rủi ro. Để làm được
điều này, KPDL sử dụng các thơng tin trong q khứ để học. Nó sẽ tìm kiếm các
thơng tin này trong các CSDL và sử dụng chúng để tìm ra các mẫu đáng quan tâm.
Nếu xét về mặt ý tưởng và mục đích ứng dụng, KPDL là một nhu cầu tất yếu, một
sự nhạy cảm đáp lại sự mong mỏi của giới kinh doanh thì về mặt kỹ thuật, đó thực
sự là một khó khăn và là cả sự thách thức đối với những nhà khoa học. KPDL được
xây dựng dựa trên việc sử dụng các giải thuật mới, được định hướng theo như cầu
kinh doanh để có thể giải quyết tự động các bài tốn kinh doanh bằng các kỹ thuật dễ
dùng và có thể hiểu được. Các kỹ thuật đang được nghiên cứu và sử dụng hiện nay bao
gồm cây quyết định (CART, CHAID, AID), mạng neuron, phương pháp láng giềng
gần nhất, các luật suy diễn, KPDL khơng thuộc một ngành cơng nghiệp nào. Nó sử
dụng các kỹ thuật thơng minh để khai phá các tri thức tiềm ẩn trong dữ liệu.
1.2 Kiến trúc của hệ thống khai phá dữ liệu
Kiến trúc của một hệ thống KPDL điển hình có thể có các thành phần như hình
1.1 [8]:

Hình 1.1: Kiến trúc của một hệ thống khai phá dữ liệu
Dữ liệu thực
Mẫu ước lượng
Cơng cụ khai thác
DL
Cơ sở tri thức
Kho dữ liệu
Cơ sở tri thức
Kho dữ liệu
Nơi chứa
DL khác
5
Số hóa bởi Trung tâm Học liệu

- CSDL, kho dữ liệu hoặc nơi lưu trữ thơng tin khác (Databases, Data
warehouse, ): Đây là một hay một tập các CSDL, các kho dữ liệu, các trang tính
hay các dạng lưu trữ thơng tin khác. Các kỹ thuật làm sạch dữ liệu và tích hợp dữ
liệu có thể được thực hiện trên những dữ liệu này.
- Máy chủ CSDL hay máy chủ kho dữ liệu (Database or warehouse server):
Máy chủ này có trách nhiệm lấy những dữ liệu thích hợp dựa trên các u cầu khai
phá của người dùng.
- Cơ sở tri thức (Knowledge base): Đây là miền tri thức được dùng để hướng
dẫn việc tìm kiếm hay đánh giá độ quan trọng của các hình mẫu kết quả.
- Máy KPDL (Data mining engine): Một hệ thống KPDL cần phải có một tập
các mơđun chức năng để thực hiện cơng việc như: đặc trưng hóa, kết hợp, phân lớp,

phân cụm, phân tích sự tiến hóa.
- Mơđun đánh giá mẫu (Pattern evaluation): Bộ phận này tương tác với các
mơđun KPDL để duyệt tìm các mẫu đáng được quan tâm. Nó có thể dùng các
ngưỡng về độ quan tâm để lọc mẫu đã khám phá được. Cũng có thể mơđun đánh giá
mẫu được tích hợp vào mơđun khai phá, tùy theo sự cài đặt của phương pháp khai
phá được dùng.
- Giao diện đồ họa người dùng (Graphical user interface): Bộ phận này cho
phép người dùng giao tiếp với hệ thống KPDL. Ngồi ra, bộ phận này còn cho phép
người dùng xem các lược đồ CSDL, lược đồ kho dữ liệu (hay các cấu trúc dữ liệu),
các đánh giá mẫu và hiển thị các mẫu trong khn dạng khác nhau.
1.3 Q trình khai phá dữ liệu
Hình 1.2: Q trình khám phá tri thức
6
Số hóa bởi Trung tâm Học liệu

Q trình khám phá tri thức từ CSDL là một q trình có sử dụng nhiều phương
pháp và cơng cụ tin học nhưng vẫn là một q trình mà trong đó con người là trung
tâm. Do đó, nó khơng phải là một hệ thống phân tích tự động mà là một hệ thống bao
gồm nhiều hoạt động tương tác thường xun giữa con người và CSDL, tất nhiên là
với sự hỗ trợ của các cơng cụ tin học. Người sử dụng hệ thống ở đây phải là người
có kiến thức cơ bản về lĩnh vực cần phát hiện tri thức để có thể chọn được đúng các
tập con dữ liệu, các lớp mẫu phù hợp và đạt tiêu chuẩn quan tâm so với mục đích. Tri
thức mà ta nói ở đây là các tri thức rút ra từ các CSDL, thường để phục vụ cho việc
giải quyết một loạt nhiệm vụ nhất định trong một lĩnh vực nhất định. Do đó, q trình
phát hiện tri thức cũng mang tính chất hướng nhiệm vụ, khơng phải là phát hiện mọi
tri thức bất kỳ mà là phát hiện tri thức nhằm giải quyết tốt nhiệm vụ đề ra.
(1) Gom dữ liệu (Gathering): Tập hợp dữ liệu là bước đầu tiên trong q trình khai
phá dữ liệu. Đây là bước được khai thác trong một CSDL, một kho dữ liệu và thậm
chí các dữ liệu từ các nguồn ứng dụng Web.
(2) Trích lọc dữ liệu (Selection): Ở giai đoạn này lựa chọn những dữ liệu phù hợp

với nhiệm vụ phân tích trích rút từ CSDL.
(3) Làm sạch, tiền xử lý và chuẩn bị trước dữ liệu (Cleansing, Pre-processing and
Preparation)
Giai đoạn thứ ba này là giai đoạn hay bị sao lãng, nhưng thực tế nó là một bước rất
quan trọng trong q trình khai phá dữ liệu. Một số lỗi thường mắc phải trong khi
gom dữ liệu là tính khơng đủ chặt chẻ, logic. Vì vậy, dữ liệu thường chứa các giá trị
vơ nghĩa và khơng có khả năng kết nối dữ liệu, ví dụ: điểm = -1. Giai đoạn này sẽ
tiến hành xử lý những dạng dữ liệu khơng chặt chẽ nói trên. Những dữ liệu dạng
này được xem như thơng tin dư thừa, khơng có giá trị. Bởi vậy, đây là một q trình
rất quan trọng vì dữ liệu này nếu khơng được "làm sạch" sẽ gây nên những kết quả
sai lệch nghiêm trọng.
(4) Chuyển đổi dữ liệu (Transformation): Tiếp theo là giai đoạn chuyển đổi dữ liệu,
dữ liệu được chuyển đổi hay được hợp nhất về dạng thích hợp cho việc khai phá.
7
Số hóa bởi Trung tâm Học liệu

(5) Khai phá dữ liệu (Data Mining): Đây là một tiến trình cốt yếu. Ở giai đoạn này
nhiều thuật tốn khác nhau đã được sử dụng một cách phù hợp để trích xuất thơng
tin có ích hoặc cá mẫu điển hình trong dữ liệu.
(6) Đánh giá kết quả mẫu (Evaluation of Result): Đây là giai đoạn cuối trong q
trình khai phá dữ liệu. Ở giai đoạn này, các mẫu dữ liệu được chiết xuất, khơng phải
bất cứ mẫu dữ liệu nào cũng đều hữu ích, đơi khi nó còn bị sai lệch. Vì vậy, cần phải
ưu tiên những tiêu chuẩn đánh giá để chiết xuất ra các tri thức cần thiết.
Từ q trình khám phá tri thức trên chúng ta thấy được sự khác biệt giữa khám
phá tri thức và khai phá dữ liệu. Trong khi khám phá tri thức là nói đến q trình
tổng thể phát hiện tri thức hữu ích từ dữ liệu. Còn KPDL chỉ là một bước trong q
trình khám phá tri thức, các cơng việc chủ yếu là xác định được bài tốn khai phá,
tiến hành lựa chọn phương pháp KPDL phù hợp với dữ liệu có được và tách ra các tri
thức cần thiết.
Q trình khai phá dữ liệu được thể hiện bởi mơ hình sau:

Hình 1.3: Q trình khai phá dữ liệu
- Xác định nhiệm vụ: Xác định chính xác vấn đề cần giải quyết.
- Xác định các dữ liệu liên quan dùng để xây dựng giải pháp.
- Thu thập các dữ liệu có liên quan và xử lý chúng thành dạng sao cho giải thuật
KPDL có thể hiểu được. Ở đây có thể gặp một số vấn đề: Dữ liệu phải được sao ra
nhiều bản (nếu được chiết suất vào các tệp), quản lý tập các tệp dữ liệu, phải lặp đi
lặp lại nhiều lần tồn bộ q trình (nếu mơ hình dữ liệu thay đổi, ).
- Chọn thuật tốn KPDL thích hợp và thực hiện việc KPDL: nhằm tìm được các
mẫu (pattern) có ý nghĩa dưới dạng biểu diễn tương ứng với các ý nghĩa đó.


Xác định
nhiệm vụ
Xác định
dữ liệu
liên quan
Thu thập
và tiền xử
lý dữ liệu
Thống kê
tóm tắt
DL trực tiếp
Giải thuật
khai phá

dữ liệu

Mẫu
8
Số hóa bởi Trung tâm Học liệu

1.4 Một số kỹ thuật khai phá dữ liệu
Các kỹ thuật KPDL được có thể chia làm 2 nhóm chính:
- Kỹ thuật KPDL mơ tả: có nhiệm vụ mơ tả về các tính chất hoặc các đặc tính
chung của dữ liệu trong CSDL hiện có. Nhóm kỹ thuật này gồm các phương pháp:
phân nhóm (Clustering), tổng hợp hóa (Summerization), phát hiện sự biến đổi và độ
lệch (Change and deviation detection), phân tích luật kết hợp (Association Rules),
- Kỹ thuật KPDL dự đốn: có nhiệm vụ đưa ra các dự đốn dựa vào các suy
diễn trên dữ liệu hiện thời. Nhóm kỹ thuật này gồm các phương pháp: phân lớp
(Classification), hồi quy (Regression),
1.4.1 Phân lớp và dự đốn (Classification & Prediction)
Là đặt các mẫu vào các lớp được xác định trước. Nhiệm vụ chính là tìm các hàm ánh
xạ các mẫu dữ liệu một cách chính xác vào trong các lớp.Ví dụ một ngân hàng
muốn phân loại các khách hành của họ vào trong hai nhóm có nợ hay khơng nợ, từ
đó giúp họ ra quyết định cho vay hay khơng cho vay. Q trình phân lớp dữ liệu
thường gồm 2 bước: xây dựng mơ hình và sử dụng mơ hình để phân lớp dữ liệu.
- Bước 1: Một mơ hình sẽ được xây dựng dựa trên việc phân tích các mẫu dữ
liệu sẵn có. Mỗi mẫu tương ứng với một lớp, được quyết định bởi một thuộc tính
gọi là thuộc tính lớp. Các mẫu dữ liệu này còn được gọi là tập dữ liệu huấn luyện
(training data set). Các nhãn lớp của tập dữ liệu huấn luyện đều phải được xác định
trước khi xây dựng mơ hình, vì vậy phương pháp này còn được gọi là học có giám
sát (supervised learning) khác với phân nhóm dữ liệu là học khơng có giám sát
(unsupervised learning).
- Bước 2: Sử dụng mơ hình để phân lớp dữ liệu. Trước hết chúng ta phải tính
độ chính xác của mơ hình. Nếu độ chính xác là chấp nhận được, mơ hình sẽ được sử

dụng để dự đốn nhãn lớp cho các mẫu dữ liệu khác trong tương lai.
Trong kỹ thuật phân lớp chúng ta có thể sử dụng các phương pháp như: Cây quyết
định (Decision Tree), K-Láng giềng gần nhất (k-Nearest Neighbor), Mạng Nơron
(Neural networks), Giải thuật di truyền (Genetic algorithms), Mạng Bayesian
(Bayesian networks), Tập mờ và tập thơ (Rough and Fuzzy Sets).
9
Số hóa bởi Trung tâm Học liệu

a) Cây quyết định (Decision Tree)
Các kỹ thuật phân lớp sử dụng cây quyết định để phân tách các dữ liệu cho đến
khi mỗi phần chứa đựng hầu hết các mẫu từ một lớp đặc trưng, kết quả của q trình
sẽ cho ra một cây quyết định. Điểm phân tách trong cây quyết định là một nút
(khơng phải là nút lá) sẽ sử dụng một số điều kiện để quyết định dữ liệu sẽ được
phân tách như thế nào. Các nút cuối cùng trong cây quyết định chứa đựng các bộ
mẫu giống nhau. Lợi thế của cây quyết định là các thuật tốn chạy khá nhanh, với kết
quả khá tốt và có thể giải thích được rõ ràng. Tuy nhiên, bất lợi mà các thuật tốn của
cây quyết định có thể gặp phải đó là chúng có thể tìm ra các điểm tới hạn cục bộ, đưa
ra các kết quả khơng đúng.
b) K-láng giềng gần nhất (k-Nearest Neighbor)
Thuật tốn này tìm ra các láng giềng gần nhất của mẫu thử nghiệm và quy về các
nhãn lớp của chúng dựa trên các nhãn đa số, điều đó có nghĩa là các mẫu được quy
về cùng lớp khi chúng là lân cận của nhau. Kỹ thuật này cho rằng vị trí trong khơng
gian đặc trưng hàm ý một quan hệ họ hàng gần gũi ở giữa các nhãn lớp.
Lợi thế của các thuật tốn K-Láng giềng gần nhất là dễ thực thi, và kết quả mà nó
đem lại khả năng dễ dàng giải thích. Nhưng một điểm bất lợi là các thuật tốn này
đưa ra các mơ hình rất lớn với một tập dữ liệu nhỏ.
c) Mạng nơron (Neural networks)
Mạng nơron là mạng được mơ phỏng theo bộ não của con người. Đó là một cấu
trúc dữ liệu của các hàm với một hoặc nhiều trọng số đầu vào, với kết quả đầu ra là
một nhãn các lớp. Từng phần riêng biệt của dữ liệu được đưa vào mạng nơron và

các hàm - các trọng số trong mạng nơron bị thay đổi (học - huấn luyện) tùy theo tỷ
lệ lỗi của đầu ra. Phương pháp này thường đưa đến một khoảng thời gian huấn
luyện dài ngay cả khi tập dữ liệu nhỏ.
Lợi thế của mạng nơron là đưa đến các kết quả khá chính xác, nhưng bất lợi của
nó là thường đòi hỏi thời gian huấn luyện dài và đưa ra các kết quả khó hiểu, cứng
nhắc, bị bao bọc trong một hộp đen, khó giải thích tường minh.

10
Số hóa bởi Trung tâm Học liệu

d) Giải thuật di truyền (Genetic algorithms)
Các giải thuật di truyền được sử dụng để đưa ra cơng thức giả thuyết về sự phụ
thuộc giữa các biến. Đối với một giải thuật di truyền phải sử dụng các giải pháp như
cạnh tranh, lựa chọn và kết hợp giữa các tập hợp cá thể.
Lợi thế của Giải thuật di truyền là thường đưa đến các kết quả kiểm tra khá chính
xác, nhưng bất lợi của nó là kết quả có được thơng qua việc lập trình tiến hóa và các
kết quả cũng thường cứng nhắc, khó hiểu.
e) Mạng Bayesian (Bayesian networks)
Trong mạng Bayesian sử dụng các đồ thị có hướng, khơng có chu trình để miêu
tả sự phân lớp có thể được. Các đồ thị này cũng có thể được sử dụng để miêu tả các
tri thức chun gia. Các nút miêu tả các biến thuộc tính và các trạng thái (sự kiện)
và mỗi một cạnh miêu tả khả năng sự phụ thuộc giữa chúng. Kết hợp với mỗi nút là
các lớp cục bộ có thể và các cung được vẽ từ nút ngun nhân đến nút bị ảnh
hưởng. KPDL trong mạng Bayesian bao gồm việc sử dụng đầu vào các tri thức
chun gia và sau đó sử dụng một CSDL để cập nhật, lọc và cải tiến tri thức đó trong
mạng. Các đồ thị mới có thể là kết quả từ các cải tiến này và ngun nhân của các
mối quan hệ giữa các nút kết quả có thể được giải thích một cách dễ dàng.
Lợi thế của mạng Bayesian là thường đưa ra các kết quả dễ hiểu, nhưng bất lợi
của nó là cần thu thập được các tri thức chun gia truyền thống.
f) Tập mờ và tập thơ (Rough and Fuzzy Sets)

Lý thuyết về tập mờ và tập thơ dựa trên một sơ sở tốn học khơng chắc chắn.
Đối với các mơ hình tập thơ, một giới hạn trên và giới hạn dưới sẽ được xác định.
Một tập thơ định nghĩa một lớp C là một xấp xỉ bởi hai tập. Tập cận dưới (lower)
của C bao gồm tất cả các mẫu dữ liệu, mà dựa vào tri thức của các mẫu dữ liệu có thể
quyết định một mẫu bất kỳ thuộc phân lớp C một cách rõ ràng. Tập cận trên của C bao
gồm tất cả các mẫu với giá trị của thuộc tính được mơ tả khơng thể thuộc vào phân
lớp C. Mơ hình tập mờ khơng dốc về cực đại cục bộ bằng các thuật tốn cây quyết
định, và cũng giống như mơ hình tập thơ, chúng dùng để đối phó với những điều
khơng chắc chắn tốt hơn bất kỳ một thuật tốn nào khác.
11
Số hóa bởi Trung tâm Học liệu

1.4.2 Luật kết hợp (Association Rules)
Luật kết hợp là dạng luật biểu diễn tri thức ở dạng tương đối đơn giản. Mục tiêu
của phương pháp này là phát hiện và đưa ra các mối liên hệ giữa các giá trị dữ liệu
trong CSDL. Mẫu đầu ra của giải thuật KPDL là tập luật kết hợp tìm được.
Tuy luật kết hợp là một dạng luật khá đơn giản nhưng lại mang rất nhiều ý
nghĩa. Thơng tin mà dạng luật này đem lại rất có lợi trong các hệ hỗ trợ ra quyết
định. Tìm kiếm được những luật kết hợp đặc trưng và mang nhiều thơng tin từ
CSDL tác nghiệp là một trong những hướng tiếp cận chính của lĩnh vực khai phá dữ
liệu.
1.4.3 Khai thác mẫu tuần tự (Sequential/ Temporal patterns)
Tương tự như khai thác luật kết hợp nhưng có thêm tính thứ tự và tính thời
gian. Một luật mơ tả mẫu tuần tự có dạng tiêu biểu X -> Y phản ánh sự xuất hiện
của biến cố X sẽ dẫn đến việc xuất hiện kế tiếp biến cố Y. Hướng tiếp cận này có tính
dự báo cao.
1.4.4 Phân nhóm - đoạn (Clustering/ Segmentation)
Mục tiêu chính của việc phân nhóm dữ liệu là nhóm các đối tượng tương tự
nhau trong tập dữ liệu vào các nhóm sao cho mức độ tương tự giữa các đối tượng
trong cùng một nhóm là lớn nhất và mức độ tương tự giữa các đối tượng nằm trong

các nhóm khác nhau là nhỏ nhất. Các nhóm có thể tách nhau hoặc phân cấp gối lên
nhau và số lượng các nhóm là chưa biết trước. Một đối tượng có thể vừa thuộc
nhóm này, nhưng cũng có thể vừa thuộc nhóm khác. Khơng giống như phân lớp dữ
liệu, phân nhóm dữ liệu khơng đòi hỏi phải định nghĩa trước các mẫu dữ liệu huấn
luyện. Vì thế, có thể coi phân nhóm dữ liệu là một cách học bằng quan sát (learning
by observation), trong khi phân lớp dữ liệu là học bằng ví dụ (learning by example).
Trong phương pháp này bạn sẽ khơng thể biết kết quả các nhóm thu được sẽ như thế
nào khi bắt đầu q trình. Vì vậy, thơng thường cần có một chun gia về lĩnh vực
đó để đánh giá các nhóm thu được. Phân nhóm còn được gọi là học khơng có giám
sát (unsupervised learning). Phân nhóm dữ liệu được sử dụng nhiều trong các ứng
dụng về phân đoạn thị trường, phân đoạn khách hàng, nhận dạng mẫu, phân loại
12
Số hóa bởi Trung tâm Học liệu

trang Web, Ngồi ra phân nhóm dữ liệu còn có thể được sử dụng như một bước tiền
xử lý cho các thuật tốn KPDL khác.
1.4.5 Hồi quy (Regression)
Hồi quy là việc học một hàm ánh xạ từ một mẫu dữ liệu thành một biến dự đốn
có giá trị thực. Nhiệm vụ của hồi quy tương tự như phân lớp, điểm khác nhau chính
là ở chỗ thuộc tính để dự báo là liên tục chứ khơng rời rạc. Việc dự báo các giá trị
số thường được làm bởi các phương pháp thống kê cổ điển chẳng hạn như hồi quy
tuyến tính. Tuy nhiên phương pháp mơ hình hóa cũng có thể được sử dụng như cây
quyết định.
1.4.6 Tổng hợp hóa (Summarization)
Là cơng việc liên quan đến các phương pháp tìm kiếm một mơ tả tập con dữ
liệu. Kỹ thuật mơ tả khái niệm và tổng hợp hóa thường áp dụng trong việc phân tích
dữ liệu có tính thăm dò và báo cáo tự động. Nhiệm vụ chính là sản sinh ra các mơ tả
đặc trưng cho một lớp. Mơ tả loại này là một kiểu tổng hợp, tóm tắt các đặc tính chung
của tất cả hay hầu hết các mục của một lớp. Các mơ tả đặc trưng thể hiện theo luật có
dạng sau: "Nếu một mục thuộc về lớp đã chỉ trong tiền đề thì mục đó có tất cả các

thuộc tính đã nêu trong kết luận".
1.4.7 Mơ hình hóa sự phụ thuộc (dependency modeling)
Là việc tìm kiếm một mơ hình mơ tả sự phụ thuộc giữa các biến, thuộc tính theo
hai mức. Mức cấu trúc của mơ hình mơ tả (thường dưới dạng đồ thị), trong đó, các
biến phụ thuộc bộ phận vào các biến khác. Và mức định lượng mơ hình mơ tả mức
độ phụ thuộc. Những phụ thuộc này thường được biểu thị dưới dạng theo luật "nếu -
thì" - nếu tiền đề đúng thì kết luận đúng. Về ngun tắc, cả tiền đề và kết luận đều
có thể là sự kết hợp logic của các giá trị thuộc tính. Trên thực tế, tiền đề thường là
nhóm các giá trị thuộc tính và kết luận chỉ là một thuộc tính. Hơn nữa, hệ thống có
thể phát hiện các luật phân lớp trong đó tất cả các luật cần phải có cùng một thuộc
tính do người dùng chỉ ra trong kết luận. Quan hệ phụ thuộc cũng có thể biểu diễn
dưới dạng mạng tin cậy Bayes. Đó là đồ thị có hướng, khơng chu trình. Các nút biểu
diễn thuộc tính và trọng số của liên kết phụ thuộc giữa các nút đó.
13
Số hóa bởi Trung tâm Học liệu

1.4.8 Phát hiện sự biến đổi và độ lệch (Change and deviation detection)
Tập trung vào khám phá hầu hết sự thay đổi có nghĩa dưới dạng độ đo đã biết
trước hoặc giá trị chuẩn, phát hiện độ lệch đáng kể giữa nội dung của tập con dữ liệu
thực và nội dung mong đợi. Hai mơ hình độ lệch hay dùng là lệch theo thời gian và
lệch theo nhóm. Độ lệch theo thời gian là sự thay đổi có ý nghĩa của dữ liệu thời gian.
Độ lệch theo nhóm là sự khác nhau của dữ liệu trong hai tập con dữ liệu, ở đây xét
cả trường hợp tập con dữ liệu này thuộc tập con kia. Nghĩa xác định dữ liệu trong
một nhóm con của đối tượng có khác đáng kể so với tồn bộ đối tượng khơng? Theo
cách này, sai sót dữ liệu hay sai lệch so với giá trị thơng thường sẽ được phát hiện.
1.5 Các cơ sở dữ liệu phục vụ cho khai phá dữ liệu
Dựa vào những kiểu dữ liệu mà kỹ thuật khai phá áp dụng, có thể chia dữ liệu
thành các loại khác nhau.
Cơ sở dữ liệu quan hệ (relational databases): là những CSDL được tổ chức theo
mơ hình quan hệ. Hiện nay, các hệ quản trị CSDL đều hỗ trợ mơ hình này như: MS

Access, MS SQL Server, Oracle, IBM DB2,
Cơ sở dữ liệu đa chiều (multidimention structures, data warehouse, data mart):
còn được gọi là nhà kho dữ liệu, trong đó dữ liệu được chọn từ nhiều nguồn khác
nhau và chứa những đặc tính lịch sử thơng qua thuộc tính thời gian tường minh hoặc
ngầm định.
Cơ sở dữ liệu giao tác (transaction databases): là loại dữ liệu được sử dụng
nhiều trong siêu thị, thương mại, ngân hàng,
Cơ sở dữ liệu quan hệ - hướng đối tượng (object relational databases): mơ hình
CSDL này là lai giữa mơ hình hướng đối tượng và mơ hình CSDL quan hệ.
Cơ sở dữ liệu khơng gian và thời gian (spatial, temporal, and time - series data):
chứa những thơng tin về khơng gian địa lý hoặc thơng tin theo thời gian.
Cơ sở dữ liệu đa phương tiện (Multimedia database): là loại dữ liệu có nhiều
trên mạng, bao gồm các loại như âm thanh, hình ảnh, video, văn bản và nhiều kiểu
dữ liệu định dạng khác.

14
Số hóa bởi Trung tâm Học liệu

1.6 Một số ứng dụng của khai phá dữ liệu [13]
KPDL có nhiều ứng dụng trong thực tế, một số ứng dụng điển hình như:
- Bảo hiểm, tài chính và thị trường chứng khốn: phân tích tình hình tài chính và dự
báo giá của các loại cổ phiếu trong thị trường chứng khốn. Danh mục vốn và giá, lãi
suất, dữ liệu thẻ tín dụng, phát hiện gian lận,
- Điều trị y học và chăm sóc y tế: một số thơng tin về chẩn đốn bệnh lưu trong các
hệ thống quản lý bệnh viện. Phân tích mối liên hệ giữa triệu chứng bệnh, chẩn đốn
và phương pháp điều trị (chế độ dinh dưỡng, thuốc, ).
- Sản xuất và chế biến: qui trình, phương pháp chế biến và xử lý xử cố
- Text mining & Web mining: phân lớp văn bản và các trang web, tóm tắt văn bản,
- Lĩnh vực khoa học: quan sát thiên văn, dữ liệu gene, dữ liệu sinh vật học, tìm
kiếm, so sánh các hệ gene và thơng tin di truyền, mối liên hệ gene và các bệnh di

truyền,
- Lĩnh vực khác: viễn thơng, mơi trường, thể thao, âm nhạc, giáo dục,
1.7 Khai phá luật kết hợp [3]
1.7.1 Bài tốn phát hiện luật kết hợp
B
B
à
à
i
i


t
t
o
o
á
á
n
n


đ
đ
ư
ư
ợ
ợ
c
c

A
A
g
g
r
r
a
a
w
w
a
a
l
l


t
t
h
h
u
u
ộ
ộ
c
c

n
n
h
h
ó
ó
m
m


n
n
g
g
h
h
i
i
ê
ê
n
n


c
c
ứ
ứ
u
u

c
c
ủ
ủ
a
a


I
I
B
B
M
M


đ
đ
ư
ư
a
a


r
r
a
a

v
v
à
à
o
o


n
n
ă
ă
m
m


1
1
9
9
9
9
4
4
.
.
Bài tốn giỏ mua hàng trong siêu thị.
Giả định chúng ta có rất nhiều mặt hàng, ví dụ như “bánh mì”, “sữa. Khách

hàng khi đi siêu thị sẽ bỏ vào giỏ mua hàng của họ một số mặt hàng nào đó, và
chúng ta muốn tìm hiểu các khách hàng thường mua các mặt hàng nào đồng thời.
Nhà quản lý dùng những thơng tin này để điều chỉnh việc nhập hàng về siêu thị, hay
đơn giản là để bố trí sắp xếp các mặt hàng gần nhau, hoặc bán các mặt hàng đó theo
một gói hàng, giúp cho khách hàng đỡ mất cơng tìm kiếm.
Bài tốn trên hồn tồn có thể áp dụng trong các lĩnh vực khác. Ví dụ:
- Giỏ hàng = văn bản. Mặt hàng = từ. Khi đó, những từ hay đi cùng nhau sẽ giúp
ta nhanh chóng tìm ra các lối diễn đạt, hay các khái niệm có mặt trong văn bản.
15
Số hóa bởi Trung tâm Học liệu

- Giỏ hàng = văn bản. Mặt hàng = câu. Khi đó, những văn bản có nhiều câu
giống nhau giúp phát hiện ra sự đạo văn, hay những “website đúp” (mirror website).
Khai phá luật kết hợp được mơt tả như sự tương quan của các sự kiện - những sự
kiện xuất hiện thường xun một cách đồng thời. Nhiệm vụ chính của khai phá luật
kết hợp là phát hiện ra các tập con cùng xuất hiện trong một khối lượng giao dịch
lớn của một cơ sở dữ liệu cho trước. Nói cách khác, thuật tốn khai phá luật kết hợp
cho phép tạo ra các luật mơ tả các sự kiện xảy ra đồng thời (một cách thường
xun) như thế nào.
1.7.2 Các khái niệm
Cho I = {I
1
, I
2
, ,I
n
} là tập hợp của n mục dữ liệu. Giả sử D là CSDL, với
các bản ghi chứa một tập con T các mục dữ liệu, T I, các bản ghi đều có chỉ số
riêng. Một luật kết hợp là một mệnh đề kéo theo có dạng X → Y, trong đó X, Y
I, thỏa mãn điều kiện

YX
. Các tập hợp X và Y được gọi là các tập mục dữ
liệu (itemset). Tập X gọi là tiền đề, tập Y gọi là kết luận.
Có 2 độ đo quan trọng đối với luật kết hợp: Độ hỗ trợ (support) và độ tin cậy
(confidence) được định nghĩa như phần dưới đây.
* Khái niệm: Độ hỗ trợ
Định nghĩa 1.1: Độ hỗ trợ của một tập mục X trong CSDL D là tỷ số giữa các bản
ghi T D có chứa tập X và tổng số bản ghi trong D (hay là phần trăm của các bản
ghi trong D có chứa tập mục X), ký hiệu là support(X) hay supp(X)

Ta có:
1)(sup0 Xp
với mọi tập hợp X.
Định nghĩa 1.2: Độ hỗ trợ của một luật kết hợp XY là độ hỗ trợ của tập
YX
.
Supp(XY) = Supp(X U Y)
Khi chúng ta nói rằng độ hỗ trợ của một luật là 50%, nghĩa là có 50% tổng số
bản ghi chứa
YX
. Như vậy, độ hỗ trợ mang ý nghĩa thống kê của luật.
16
Số hóa bởi Trung tâm Học liệu

Trong một số trường hợp, chúng ta chỉ quan tâm đến những luật có độ hỗ trợ cao (ví
dụ như luật kết hợp xét trong cửa hàng tạp phẩm). Nhưng cũng có trường hợp, mặc
dù độ hỗ trợ của luật thấp, ta vẫn cần quan tâm (ví dụ luật kết hợp liên quan đến
ngun nhân gây ra sự đứt liên lạc ở các tổng đài điện thoại).
* Khái niệm: Độ tin cậy
Định nghĩa 1.3: Độ tin cậy của một luật kết hợp XY là tỷ lệ giữa số lượng các bản

ghi trong D chứa
YX
với số bản ghi trong D có chứa tập hợp X. Kí hiệu độ tin
cậy của một luật là conf(XY).
Conf(XY) = supp(
YX
)/supp(X)
Nhận xét:
+ Ta có 0 ≤ conf(XY) ≤ 1.
+ Độ hỗ trợ và độ tin cậy có xác suất sau:
Supp(XY) = P(
YX
)
Conf(XY) = P(
)/ XY

Nói rằng độ tin cậy của một luật là 90%, nghĩa là có tới 90% số bản ghi chứa X
chứa ln cả Y. Hay nói theo ngơn ngữ xác suất là: “Xác suất để xảy ra sự kiện Y
với điều kiện có X đạt 90%”.
Việc khai thác các luật kết hợp từ cơ sở dữ liệu chính là việc tìm tất cả các luật
có độ hỗ trợ và độ tin cậy do người sử dụng xác định trước. Các ngưỡng của độ hỗ
trợ và độ tin cậy được ký hiệu là minsup và mincof.
Ví dụ: Khi phân tích dữ liệu bán hàng của siêu thị ta được luật: 85% khách hàng
mua sữa thì cũng mua bánh mì, 30% thì mua cả hai thứ. Trong đó: “mua sữa” là tiền
đề còn “mua bánh mì ” là kết luận của luật. Con số 30% là độ hỗ trợ của luật còn
85% là độ tin cậy của luật.
Chúng ta nhận thấy rằng tri thức đem lại bởi luật kết hợp dạng trên có sự khác
biệt rất nhiều so với những thơng tin thu được từ các câu lệnh truy vấn dữ liệu thơng
thường trong SQL. Đó là những tri thức, những mối liên hệ chưa biết trước và mang
tính dự báo, tiềm ẩn trong dữ liệu. Những tri thức này khơng đơn giản là kết quả của

phép nhóm, tính tổng hay sắp xếp mà là của một q trình tính tốn khá phức tạp.
17
Số hóa bởi Trung tâm Học liệu

* Khái niệm: Tập mục thường xun
Định nghĩa 1.4: Tập mục X được gọi là tập mục thường xun (Frenquent Itemset)
nếu supp(X) ≥ minsup, với minsup là ngưỡng độ hỗ trợ cho trước. Kí hiệu các tập
này là FI.
Tính chất tập mục thường xun:
Tính chất 1.1: Giả sử A, B I với A B thì supp(A) ≥ supp(B).
Tính chất 1.2: Tập con của tập mục thường xun là tập mục thường xun.
Tức là: với A, B I, nếu A B và B là tập mục thường xun thì A cũng là tập
mục thường xun.
Tính chất 1.2 có thể phát biểu lại như sau: nếu A B và A là tập mục khơng
thường xun thì B cũng là tập mục khơng thường xun.
Định nghĩa 1.5: Một tập mục X được gọi là tập mục thường xun đóng (closed)
nếu khơng có tập cha nào của X có cùng độ hỗ trợ với nó. Ký hiệu tập các tập mục
thường xun đóng là FCI.
Định nghĩa 1.6: Nếu X là tập mục thường xun và khơng tập cha nào cuả X là
thường xun, ta nói rằng X là một tập thường xun cực đại (Maximally Frequent
Itemset). Ký hiệu tập tất cả các tập mục thường xun cực đại là MFI. Dễ thấy MFI
FCI FI.
Bài tốn khai phá luật kết hợp được chia thành hai bài tốn con. Bài tốn thứ
nhất là tìm tất cả các tập mục thỏa mãn độ hỗ trợ tối thiểu cho trước, tức là tìm tất
cả các tập mục thường xun. Bài tốn thứ hai là sinh ra các luật kết hợp từ các tập
mục thường xun đã tìm được thỏa mãn độ tin cậy tối thiểu cho trước.
Bài tốn thứ hai được giải quyết như sau : giả sử đã tìm được X là tập mục
thường xun, ta sinh ra các luật kết hợp bằng cách tìm
YX
, kiểm tra độ tin

cậy của luật
\X Y Y
có thỏa mãn độ tin cậy tối thiểu khơng. Bài tốn thứ hai này
đơn giản, mọi khó khăn nằm ở bài tốn thứ nhất, hầu hết các nghiên cứu về luật kết
hợp đều tập trung giải quyết bài tốn thứ nhất là tìm các tập mục thường xun.