Hcmute phát hiện motif trên chuỗi thời gian dựa vào cấu trúc chỉ mục đa chiều và ý tưởng từ bỏ sớm

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH

CƠNG TRÌNH NGHIÊN CỨU KHOA HỌC CẤP TRƯỜNG

PHÁT HIỆN MOTIF TRÊN CHUỖI THỜI GIAN
DỰA VÀO CẤU TRÚC CHỈ MỤC ĐA CHIỀU VÀ
Ý TƯỞNG TỪ BỎ SỚM
S

K

C

0

0

3

9

5

9

MÃ SỐ: T2014-20TĐ

S KC 0 0 4 7 8 9

Tp. Hồ Chí Minh, 2014

Luan van


TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH
KHOA CÔNG NGHỆ THÔNG TIN

BÁO CÁO TỔNG KẾT

ĐỀ TÀI KH&CN CẤP TRƯỜNG TRỌNG ĐIỂM

PHÁT HIỆN MOTIF TRÊN CHUỖI THỜI GIAN
DỰA VÀO CẤU TRÚC CHỈ MỤC ĐA CHIỀU VÀ
Ý TƯỞNG TỪ BỎ SỚM.
Mã số: T2014-20TĐ

Chủ nhiệm đề tài: Nguyễn Thành Sơn

TP. HCM, 12/2014

Luan van


MỤC LỤC
DANH MỤC CÁC HÌNH ẢNH...................................................................................... 1
DANH MỤC CÁC TỪ VIẾT TẮT ................................................................................. 3
PHẦN MỞ ĐẦU ............................................................................................................. 7
PHẦN NỘI DUNG........................................................................................................ 10

CHƯƠNG 1. Các kiến thức cơ sở.................................................................................. 10
1.1

Tổng quan về đề tài. ......................................................................................... 10

1.2

Các cơng trình liên quan. ..................................................................................12

1.2.1 Các độ đo tương tự. ...................................................................................... 12


Độ đo Minkowski......................................................................................... 13



Độ đo xoắn thời gian động. ..........................................................................14

1.2.2 Thu giảm số chiều chuỗi thời gian. .............................................................. 15


Điều kiện chặn dưới. ....................................................................................16

1.2.3 Các phương pháp thu giảm số chiều dựa vào rút trích đặc trưng. ...............16
1.3

Rời rạc hóa chuỗi thời gian. .............................................................................22

1.4

Cấu trúc chỉ mục R-tree....................................................................................23

1.5

Phát hiện motif trên dữ liệu chuỗi thời gian. ....................................................24

1.5.1 Các khái niệm cơ bản về motif. ...................................................................24
1.5.2 Tổng quan về một số phương pháp phát hiện motif tiêu biểu. ....................28
CHƯƠNG 2. Phương pháp đề xuất. .............................................................................. 35
2.1

Độ đo khoảng cách. .......................................................................................... 35

2.2

Kỹ thuật từ bỏ sớm. .......................................................................................... 38

2.3

Mô tả giải thuật. ................................................................................................ 38

CHƯƠNG 3. Kết quả thực nghiệm. ............................................................................... 41
CHƯƠNG 4. Kết luận và hướng phát triển. .................................................................. 45


Đóng góp của đề tài. ......................................................................................... 45



Hạn chế của đề tài. ........................................................................................... 45



Hướng phát triển. .............................................................................................. 45

TÀI LIỆU THAM KHẢO ............................................................................................. 46

i

Luan van


DANH MỤC CÁC HÌNH ẢNH
Hình 1.1 Đường biểu diễn một chuỗi thời gian ........................................................... 10
Hình 1.2 Ví dụ về motif là chuỗi con xuất hiện ba lần trong chuỗi thời gian dài hơn 11
Hình 1.3 Minh họa hai chuỗi thời gian giống nhau. .................................................... 13
Hình 1.4 Khoảng cách giữa hai đường biểu diễn rất giống nhau về hình dạng
nhưng lệch nhau về thời gian. ...................................................................... 14
Hình 1.5 Minh họa cách tính khoảng cách theo DTW. ............................................... 15
Hình 1.6 Minh họa phương pháp DFT ........................................................................ 17
Hình 1.7 Minh họa phương pháp Haar Wavelet ......................................................... 18
Hình 1.8 Minh họa phương pháp PAA ........................................................................ 19
Hình 1.9 Các trường hợp hai đoạn có cùng giá trị trung bình
nhưng khoảng cách Euclid khác nhau. ...................................................... 19
Hình 1.10 Minh họa quá trình nhận dạng các điểm PIP .............................................. 21
Hình 1.11 Minh họa kỹ thuật xén dữ liệu một chuỗi thời gian có chiều dài 64 .......... 21
Hình 1.12 Minh họa phương pháp SAX với a = 3 ...................................................... 23
Hình 1.13 Minh họa R-tree. ......................................................................................... 24
Hình 1.14 Một ví dụ về các chuỗi tương tự tầm thường ............................................. 25
Hình 1.15 A) Một ví dụ về hai motif có chung một số đối tượng và (B) minh họa hai

motif thỏa DISTANCE(Ci, Ck) > 2R ......................................................... 26
Hình 1.16 Giải thuật brute-force dùng phát hiện motif bậc nhất theo định nghĩa căn
bản. ............................................................................................................. 28
Hình 1.17 Ví dụ minh họa một chuỗi thời gian T và biểu diễn SAX của các chuỗi con
của T ............................................................................................................ 30
Hình 1.18 Ví dụ minh họa lần lặp thứ nhất của giải thuật chiếu ngẫu nhiên .............. 30
Hình 1.19 Một ví dụ minh họa ý tưởng sử dụng điểm tham chiếu ............................. 32
Hình 2.1 Một ví dụ về cách tính Dregion(s, R). .......................................................... 36
Hình 2.2 Minh họa trực quan ý tưởng của kỹ thuật từ bỏ sớm ................................... 38
Hình 2.3 Thuật tốn phát hiện những motif bậc k hàng đầu (theo Định nghĩa 1.5) với
sự hỗ trợ của R*-tree. ................................................................................. 39
Hình 2.4 Minh họa thuật tốn tính khoảng cách Euclid kết hợp với ý tưởng từ bỏ sớm.
..................................................................................................................... 40
1

Luan van


Hình 3.1 Các kết quả thực nghiệm về thời gian thực hiện và độ hữu hiệu của ba thuật
toán trên tập dữ liệu Stock với chiều dài motif khác nhau và kích thước tập
dữ liệu được chọn cố định (10000 chuỗi). ................................................. 42
Hình 3.2 Các kết quả thực nghiệm về thời gian thực hiện và độ hữu hiệu của ba thuật
tốn trên tập dữ liệu Stock với kích thước khác nhau và chiều dài motif cố
định là 512. ................................................................................................. 43
Hình 3.3 Các kết quả thực nghiệm về thời gian thực hiện và độ hữu hiệu của ba thuật
toán trên các tập dữ liệu khác nhau với kích thước cố định (10000 chuỗi) và
chiều dài motif cố định là 512. ................................................................... 44

2

Luan van


DANH MỤC CÁC TỪ VIẾT TẮT
APCA

Adaptive Piecewise Constant Approximation

DTW

Dynamic Time Warping

DFT

Discrete Fourier Transform

DWT

Discrete Wavelet Transform

EP

Extreme Points

ESAX

Extended Symbolic Aggregate approximation

iSAX

indexable SAX

k-NN

k-Nearest Neighbors

MBR

Minimum Bounding Rectangle

MK

Mueen Keogh

MrMotif

Multi-resolution Motif

PAA

Piecewise Aggregate Approximation

PIP

Perceptually Important Point

SAX

Symbolic Aggregate approXimation

3

Luan van


TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT
THÀNH PHỐ HỒ CHÍ MINH

CỘNG HOÀ XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập - Tự do - Hạnh phúc

KHOA CNTT
Tp. HCM, Ngày 1 tháng 11 năm 2014

THƠNG TIN KẾT QUẢ NGHIÊN CỨU
1. Thơng tin chung:
- Tên đề tài: Phát hiện motif trên chuỗi thời gian dựa vào cấu trúc chỉ mục đa chiều
và ý tưởng từ bỏ sớm việc tính khoảng cách Euclid.
- Mã số: T2014-20TĐ
- Chủ nhiệm: Nguyễn Thành Sơn
- Cơ quan chủ trì: Trường Đại học SPKT Tp. HCM
- Thời gian thực hiện: 6/2013- 10/2014
2. Mục tiêu:
Đề xuất một phương pháp mới cho bài tốn phát hiện motif trong chuỗi thời gian
có thể phân tích trực tiếp trên dữ liệu chuỗi thời gian dạng số mà không cần phải qua
giai đoạn rời rạc hóa như một số phương pháp phát hiện motif đã được giới thiệu và
phương pháp này đạt hiệu quả về mặt thời gian lẫn khơng gian lưu trữ.
3. Tính mới và sáng tạo:
Phương pháp phát hiện motif dựa vào cấu trúc chỉ mục đa chiều và ý tưởng từ bỏ
sớm việc tính khoảng cách Euclid sẽ giúp thực hiện bài toán phát hiện motif đạt hiệu

quả về mặt thời gian lẫn khơng gian lưu trữ. Ngồi ra, phương pháp này có thể phân
tích trực tiếp trên dữ liệu chuỗi thời gian dạng số mà không cần phải qua giai đoạn rời
rạc hóa dữ liệu.
4. Kết quả nghiên cứu:
Đề xuất được một phương pháp mới cho bài toán phát hiện motif trên dữ liệu chuỗi
thời gian dựa vào cấu trúc chỉ mục đa chiều và ý tưởng từ bỏ sớm việc tính khoảng
cách Euclid.
5. Sản phẩm:
Một bài báo đăng trên tạp chí Khoa học Cơng nghệ, báo cáo và chương trình
demo.

4

Luan van


6. Hiệu quả, phương thức chuyển giao kết quả nghiên cứu và khả năng áp dụng:
Có thể áp dụng trong giảng dạy sau đại học về chuyên đề chuỗi thời gian, sử
dụng làm cơ sở cho việc phát triển các ứng dụng trong các lĩnh vực liên quan khác.
Trưởng Đơn vị
(ký, họ và tên)

Chủ nhiệm đề tài
(ký, họ và tên)

5

Luan van

INFORMATION ON RESEARCH RESULTS

1. General information:
Project title: Discovering approximate k-motifs in a long time series with the
support of R*-tree and the idea of early abandoning.
Code number: T2014-20TĐ.
Coordinator: Nguyen Thanh Son
Implementing institution: HCM City University of Technical Education.
Duration: from 6/2013 to 10/2014
2. Objective(s):
Propose a new method for discovering time series motif with the support of R*-tree
and the idea of early abandoning. This method can work directly on numerical time
series data but without applying some discretization process and be disk efficient.
3. Creativeness and innovativeness:
A new method for discovering time series motif with the support of R*-tree and the
idea of early abandoning. This approach employs the index structure to speed up the
search for matching neighbors of a subsequence and is disk efficient. It can work directly on numerical time series data but without applying some discretization process.
4. Research results:
We proposed a new method for discovering time series motif with the support of
R*-tree and the idea of early abandoning.
5. Products:
A paper published in Journal of Science and Technology, a technical report and a
demo.
6. Effects, transfer alternatives of reserach results and applicability:
It can be used to lecture for the major course of time series at postgraduate level or
as a base for developing application softwares in some other relevant areas

6

Luan van

PHẦN MỞ ĐẦU
1. Tình hình nghiên cứu trong và ngồi nước.
Từ khi được hình thức hóa vào năm 2002, phát hiện motif trong dữ liệu chuỗi
thời gian đã và đang được dùng để giải quyết các bài toán trong nhiều lĩnh vực ứng
dụng khác nhau ví dụ như dùng motif để kiểm tra chữ ký [14], dùng motif để phát hiện
những hình ảnh lặp trong cơ sở dữ liệu hình dạng [42], dùng motif để dự báo giá
chứng khoán [18], và cũng được dùng như bước tiền xử lý trong nhiều cơng việc khai
phá dữ liệu cao cấp hơn, ví dụ như gom cụm chuỗi thời gian [33], phân lớp chuỗi thời
gian [3].
Hiển nhiên, độ phức tạp của phương pháp phát hiện chính xác motif theo kiểu
brute-force là bậc hai theo số chuỗi trong cơ sở dữ liệu chuỗi thời gian hay chiều dài
của chuỗi thời gian mà từ đó các chuỗi con được trích ra. Vì lý do đó, có nhiều thuật
tốn phát hiện motif xấp xỉ đã được giới thiệu ([6], [2], [28], [29], [36], [43]). Các
cách tiếp cận này thường có độ phức tạp tính tốn là O(n) hay O(nlogn), với n là số
chuỗi trong cơ sở dữ liệu chuỗi thời gian hay chiều dài của chuỗi thời gian mà từ đó
các chuỗi con được trích ra. Độ phức tạp của các giải thuật này giảm hơn so với
phương pháp tìm kiếm chính xác. Tuy nhiên, chúng yêu cầu một số lớn các tham số
cần xác định trước.
Một số thuật toán phát hiện motif xấp xỉ thường dựa trên các kỹ thuật xử lý chuỗi
ký tự. Điều này đã khuyến khích các nhà nghiên cứu tìm kiếm các phương pháp biến
đổi khác nhau để chuyển chuỗi thời gian thành chuỗi ký tự, sau đó sử dụng các kỹ
thuật xử lý chuỗi đã có để phát hiện motif. Trong số các thuật toán đã được đề xuất,
thuật toán thông dụng là phương pháp chiếu ngẫu nhiên do Chiu và các cộng sự giới
thiệu [6]. Thuật tốn này có thể phát hiện motif trong thời gian tuyến tính. Đây là thuật
tốn được trích dẫn nhiều và là cơ sở cho nhiều cách tiếp cận hiện nay trong việc giải
bài toán phát hiện motif trên dữ liệu chuỗi thời gian ([43], [39]). Tuy nhiên, các kỹ
thuật xử lý chuỗi ký tự chưa thật sự hữu hiệu khi làm việc trên chuỗi thời gian dạng số.
2. Tính cấp thiết của đề tài.

Dữ liệu chuỗi thời gian là loại dữ liệu được sử dụng phổ biến trong các lĩnh vực
khoa học, công nghệ, y học và thương mại. Chẳng hạn, trong y khoa người ta có thể sử
7

Luan van


dụng các bài toán về chuỗi thời gian để xây dựng chương trình dị tìm tự động trên
điện não đồ của bệnh nhân để phát hiện bệnh, hoặc trong lĩnh vực chứng khốn ta có
thể ứng dụng các bài tốn về chuỗi thời gian để xây dựng chương trình dự báo xu thế
biến động của chứng khoán trong thời gian sắp tới, v.v… . Từ khi được hình thức hóa
vào năm 2002, bài toán phát hiện motif trên dữ liệu chuỗi thời gian đã nhận được
nhiều quan tâm nghiên cứu vì tầm quan trọng của nó trong nhiều ứng dụng của các
lĩnh vực khác nhau như dùng motif để kiểm tra chữ ký, dùng motif để phát hiện những
hình ảnh lặp trong cơ sở dữ liệu hình dạng, dùng motif để dự báo giá chứng khoán, và
cũng được dùng như bước tiền xử lý trong nhiều công việc khai phá dữ liệu cao cấp
hơn, ví dụ như gom cụm chuỗi thời gian, phân lớp chuỗi thời gian., … .
3. Ý nghĩa lý luận và thực tiễn.
3.1 Ý nghĩa lý luận.
Bài tốn phát hiện motif dựa trên bài tốn tìm kiếm tương tự. Sử dụng cấu trúc
chỉ mục đa chiều và ý tưởng từ bỏ sớm sẽ giúp giảm thiểu thời gian tìm kiếm tương tự
và thời gian tính tốn khoảng cách Euclid. Ngồi ra, phương pháp đề xuất cịn có thể
tính tốn trực tiếp trên dữ liệu chuỗi thời gian dạng số mà không cần phải trải qua giai
đoạn rời rạc hóa dữ liệu.
3.2 Ý nghĩa thực tiễn.
Nghiên cứu này sẽ là nền tảng cho những nghiên cứu tiếp theo về các bài toán
khác trong khai phá dữ liệu chuỗi thời gian. Ngồi ra, cịn có thể áp dụng giảng dạy
như một chuyên đề cho sinh viên sau đại học.
4. Các đối tượng nghiên cứu.
Dữ liệu chuỗi thời gian, motif trên dữ liệu chuỗi thời gian và các kết quả nghiên

cứu đã công bố về phát hiện motif trên dữ liệu chuỗi thời gian.
5. Phạm vi và các phương pháp nghiên cứu.
5.1 Phạm vi nghiên cứu.
 Cấu trúc chỉ mục đa chiều sử dụng cho bài tốn tìm kiếm tương tự.
 Phương pháp tìm kiếm motif trên dữ liệu chuỗi thời gian.

8

Luan van


5.2 Các phương pháp nghiên cứu.
 Tổng kết các kết quả nghiên cứu liên quan trước đây. Đánh giá hiệu quả của
các phương pháp. Thực nghiệm để kiểm tra kết quả.
 Nghiên cứu tài liệu, ứng dụng mơ hình lý thuyết và chứng minh bằng thực
nghiệm.

9

Luan van


PHẦN NỘI DUNG
CHƯƠNG 1.

Các kiến thức cơ sở.

1.1 Tổng quan về đề tài.
Một chuỗi thời gian (time series) là một chuỗi các điểm dữ liệu được đo theo
từng khoảng thời gian liền nhau theo một tần suất thời gian thống nhất. Hình 1.1 minh

họa một ví dụ về chuỗi thời gian biểu diễn tỉ giá chuyển đổi trung bình hàng tháng
giữa đô la Úc và đô la Mỹ (đơn vị đơ la Úc) từ 7/1969 đến 8/1995.

Hình 1.1 Đường biểu diễn một chuỗi thời gian ([16]).

Các bài toán thường được nghiên cứu trong khai phá dữ liệu chuỗi thời gian gồm
tìm kiếm tương tự (similarity search), gom cụm (clustering), phân lớp (classification),
phát hiện motif (motif discovery), khai phá luật (rule discovery), phát hiện bất thường
(anomaly detection), trực quan hóa (visualization), dự báo (forecast).
Những khó khăn và thách thức khi nghiên cứu về dữ liệu chuỗi thời gian [19]:
-

Dữ liệu thường rất lớn. Chẳng hạn, trong 1 giờ, dữ liệu điện tâm đồ (ECG) có thể
lên đến 1GB.

-

Phụ thuộc nhiều vào yếu tố chủ quan của người dùng và tập dữ liệu khi đánh giá
mức độ tương tự giữa các chuỗi thời gian.

-

Dữ liệu không đồng nhất: định dạng của dữ liệu khác nhau, tần số lấy mẫu khác
nhau. Ngoài ra, dữ liệu có thể bị nhiễu, thiếu một vài giá trị hoặc không sạch.
10

Luan van


Bài tốn tìm kiếm tương tự (so trùng) trong cơ sở dữ liệu chuỗi thời gian đã được

nhiều nhà nghiên cứu quan tâm trong những năm qua vì đây là bài toán cơ bản và là
một thành phần nền tảng của nhiều bài toán khác trong khai phá dữ liệu chuỗi thời
gian. Đây là bài tốn khó vì kích thước dữ liệu chuỗi thời gian thường lớn và vì chúng
ta không thể lập chỉ mục dữ liệu chuỗi thời gian một cách dễ dàng như trong hệ thống
cơ sở dữ liệu truyền thống. Một vài thí dụ về ứng dụng của tìm kiếm tương tự trên
chuỗi thời gian có thể nêu ra như sau:
-

Tìm trong quá khứ, những giai đoạn mà số lượng sản phẩm bán được như tháng
vừa rồi.

-

Tìm những sản phẩm có chu kỳ doanh số giống nhau.

-

Tìm những đoạn nhạc trong một bài hát giống một đoạn nhạc đã có bản quyền.

-

Tìm những tháng trong q khứ mà có lượng mưa giống như tháng vừa rồi.

-

Tìm những năm khô hạn mà mực nước các sông đều ở mức thấp.
Motif trong chuỗi thời gian là mẫu xuất hiện với tần suất cao nhất. Hình 1.2 minh

họa ví dụ về motif là chuỗi con xuất hiện ba lần trong chuỗi thời gian dài hơn.

Hình 1.2 Ví dụ về motif là chuỗi con xuất hiện ba lần trong chuỗi thời gian dài hơn ([6])

Từ khi được hình thức hóa vào năm 2002, phát hiện motif trong dữ liệu chuỗi
thời gian đã và đang được dùng để giải quyết các bài tốn trong nhiều lĩnh vực ứng
dụng khác nhau ví dụ như dùng motif để kiểm tra chữ ký [14], dùng motif để phát hiện
những hình ảnh lặp trong cơ sở dữ liệu hình dạng [42], dùng motif để dự báo giá
chứng khoán [18], và cũng được dùng như bước tiền xử lý trong nhiều công việc khai
phá dữ liệu cao cấp hơn, ví dụ như gom cụm chuỗi thời gian [33], phân lớp chuỗi thời
gian [3].
11

Luan van


Hiển nhiên, độ phức tạp của phương pháp phát hiện chính xác motif theo kiểu
brute-force là bậc hai theo số chuỗi trong cơ sở dữ liệu chuỗi thời gian hay chiều dài
của chuỗi thời gian mà từ đó các chuỗi con được trích ra. Vì lý do đó, có nhiều thuật
toán phát hiện motif xấp xỉ đã được giới thiệu ([6], [2], [28], [29], [36], [43]). Các
cách tiếp cận này thường có độ phức tạp tính tốn là O(n) hay O(nlogn), với n là số
chuỗi trong cơ sở dữ liệu chuỗi thời gian hay chiều dài của chuỗi thời gian mà từ đó
các chuỗi con được trích ra. Độ phức tạp của các giải thuật này giảm hơn so với
phương pháp tìm kiếm chính xác. Tuy nhiên, chúng u cầu một số lớn các tham số
cần xác định trước.
Một số thuật toán phát hiện motif xấp xỉ thường dựa trên các kỹ thuật xử lý chuỗi
ký tự. Điều này đã khuyến khích các nhà nghiên cứu tìm kiếm các phương pháp biến
đổi khác nhau để chuyển chuỗi thời gian thành chuỗi ký tự, sau đó sử dụng các kỹ
thuật xử lý chuỗi đã có để phát hiện motif. Trong số các thuật tốn đã được đề xuất,
thuật tốn thơng dụng là phương pháp chiếu ngẫu nhiên do Chiu và các cộng sự giới
thiệu [6]. Thuật tốn này có thể phát hiện motif trong thời gian tuyến tính. Đây là thuật
tốn được trích dẫn nhiều và là cơ sở cho nhiều cách tiếp cận hiện nay trong việc giải

bài toán phát hiện motif trên dữ liệu chuỗi thời gian ([43], [39]). Tuy nhiên, các kỹ
thuật xử lý chuỗi ký tự chưa thật sự hữu hiệu khi làm việc trên chuỗi thời gian dạng số.
1.2 Các cơng trình liên quan.
Trong phần này, chúng tơi giới thiệu tóm tắt cơ sở lý thuyết về các độ đo tương
tự, các phương pháp thu giảm số chiều, các cấu trúc chỉ mục thường dùng và các cơng
trình liên quan tới bài tốn được nghiên cứu.
1.2.1 Các độ đo tương tự.
Trong các bài toán về chuỗi thời gian, để so sánh 2 chuỗi người ta sử dụng các
độ đo tương tự. Hai đối tượng được xem là giống nhau khi độ đo tương tự giữa chúng
bằng 0, được xem là tương tự nếu độ đo tương tự giữa chúng nhỏ hơn một giá trị 
được qui ước trước đó. Để có thể tính tốn và so sánh, độ đo này được biểu diễn thành
các số thực và phải thỏa các tính chất sau:
-

D(x,y) = 0 nếu và chỉ nếu x = y

-

D(x, y) = D(y, x)
12

Luan van


-

D(x, y)  0 với mọi x, y

-

D(x, y) < D(x, z) + D(y, z)

Dưới đây là các độ đo thường được sử dụng
 Độ đo Minkowski.
Ký hiệu là Sim(X,Y) (độ tương tự giữa hai chuỗi X và Y có chiều dài n) và được
định nghĩa như sau:
n

Sim( X , Y )  P  xi  yi 

P

, với xi  X, yi  Y, i = 1, …, n

(1.1)

i 1

Trong đó, p = 2 (Euclid) là độ đo thường được sử dụng.

(1.1)

(1.1)
Độ đo này có ưu điểm tính tốn dễ dàng. Tuy nhiên nó cũng có một số nhược
điểm là do phương pháp này tính tốn dựa trên các cặp giá trị tương ứng trong hai
chuỗi nên đối với các trường hợp tính chất của hai mẫu là giống nhau nhưng giá trị
khác nhau (có đường căn bản khác nhau hay có biên độ dao động khác nhau) thì
khoảng cách hai mẫu sẽ rất khác nhau. Hình 1.3 minh họa trường hợp này.

(b)

(a)

Hình 1.3 Minh họa hai chuỗi thời gian giống nhau.
nhưng (a) đường cơ bản khác nhau và (b) biên độ giao động khác nhau ([20]).

Để khắc phục trường hợp này trước khi áp dụng các giải thuật ta cần thực hiện
chuẩn hóa dữ liệu. Các phương pháp chuẩn hóa thường được dùng là:
- Chuẩn hóa trung bình zero (Zero-Mean normalization) [17]
Chuỗi Q được biến đổi thành chuỗi Q’ theo công thức
Q’[i] = (Q[i]- mean(Q)) / var(Q)

(1.2)

Với mean(Q) là giá trị trung bình của Q và var(Q) là độ lệch chuẩn của Q. (1.2)
- Chuẩn hóa nhỏ nhất-lớn nhất (Min-Max normalization) [17]
Chuỗi Q được biến đổi thành chuỗi Q’ theo công thức

13

Luan van


Q'[i] 

Q[i]  Minold
( Maxnew  Minnew )  Minnew
Maxold  Minold

Với Minold và Maxold là giá trị nhỏ nhất và lớn nhất của chuỗi ban đầu.

(1.3)
(1.3)

Minnew và Maxnew là giá trị nhỏ nhất và lớn nhất của chuỗi sau khi được chuẩn hóa.
 Độ đo xoắn thời gian động.
Trong trường hợp hai mẫu cần so sánh có hai đường biểu diễn khơng hồn tồn
giống nhau nhưng hình dạng biến đổi rất giống nhau thì khi so sánh độ tương tự giữa
hai mẫu bằng cách so sánh từng cặp điểm 1-1 (so điểm thứ i của đường thứ nhất và
điểm thứ i của đường thứ hai) là không phù hợp. Hình 1.4 minh họa hai đường biểu
diễn rất giống nhau về hình dạng nhưng lệch nhau về thời gian.
Trong trường hợp này, nếu tính khoảng cách bằng cách ánh xạ 1-1 giữa hai
đường thì kết quả rất khác nhau và có thể dẫn đến kết quả cuối cùng khơng giống như
mong muốn. Vì vậy để khắc phục nhược điểm này, một điểm có thể ánh xạ với nhiều
điểm và ánh xạ này không thẳng hàng. Phương pháp này gọi là xoắn thời gian động
(Dynamic Time Warping - DTW) [5].

Hình 1.4 Khoảng cách giữa hai đường biểu diễn rất giống nhau về hình dạng
nhưng lệch nhau về thời gian.
(a) tính theo độ đo Euclid và (b) tính theo độ đo DTW ([20]).

Cách tính DTW
Cách đơn giản nhất để tính DTW của hai đường X và Y là ta xây dựng ma trận
Dm x n với m = |X| và n= |Y|. Khi đó, Dij = d(xi , yj ).
Sau khi xây dựng ma trận D , ta tìm đường đi từ ô (0,0) đến ô (m,n) thỏa mãn
những ràng buộc sau:
-

Không được đi qua trái hay đi xuống
Đường đi phải liên tục

Ô (i,j) thuộc đường đi phải thỏa |i - j| <= w

Giả sử có K ơ đi từ ơ (0,0) đến ô (m,n) thỏa mãn những điều kiện trên,
14

Luan van


khi đó:
Tuy nhiên, ta có thể dùng quy hoạch động để giải quyết bài tốn này. Trong đó,
cơng thức truy hồi để tính D(i, j):

Độ đo tương tự DTW có ưu điểm là cho kết quả chính xác hơn so với độ đo Euclid và cho phép nhận dạng mẫu có hình dạng giống nhau nhưng chiều dài hình dạng
về thời gian có thể khác nhau. Độ đo tương tự này có nhược điểm là thời gian chạy
lâu, tuy nhiên gần đây đã có những cơng trình tăng tốc độ tìm kiếm tương tự dùng độ
đo DTW, tiêu biểu nhất là cơng trình của Keogh và các cộng sự, năm 2002 [21].
Hình 1.5 minh họa cách tính khoảng cách theo DTW.

Hình 1.5 Minh họa cách tính khoảng cách theo DTW.

1.2.2

Thu giảm số chiều chuỗi thời gian.

Thu giảm số chiều là phương pháp biểu diễn chuỗi thời gian n chiều X = {x1, x2,
…, xn} thành chuỗi thời gian có N chiều Y = {y1, y2, …, yN} với N << n, nhưng vẫn phải
giữ được các đặc trưng của chuỗi thời gian ban đầu. Với N càng lớn thì sự khơi phục
càng chính xác.
Dữ liệu chuỗi thời gian thường rất lớn nên việc tìm kiếm trực tiếp trên dữ liệu
chuỗi thời gian gốc sẽ không hiệu quả. Để khắc phục vấn đề này, cách tiếp cận chung

thường được sử dụng bao gồm các bước sau:

15

Luan van


1. Áp dụng một số phương pháp biến đổi xấp xỉ để thu giảm độ lớn của dữ liệu sao cho
vẫn giữ được các đặc trưng của dữ liệu. Các phương pháp biến đổi xấp xỉ này
thường được gọi là những phương pháp thu giảm số chiều (dimensionality reduction).
2. Thực hiện bài toán trên dữ liệu xấp xỉ, ta thu được tập kết quả xấp xỉ.
3. Dựa trên tập kết quả xấp xỉ này, thực hiện truy cập đĩa để thực hiện hậu kiểm trên
dữ liệu gốc nhằm loại bỏ các chuỗi tìm sai trong tập kết quả xấp xỉ.
 Điều kiện chặn dưới.
Do khi xấp xỉ dữ liệu sẽ gây ra mất mát thông tin, nên khi thực hiện trên dữ liệu
xấp xỉ có thể xảy ra lỗi tìm sót (false dismissal) và/hoặc tìm sai (false alarm). Để đảm
bảo có kết quả chính xác, lỗi tìm sót khơng được phép xảy ra. Mặt khác, lỗi tìm sai
cũng nên thấp để giảm chi phí trong q trình hậu kiểm.
Một kết quả quan trọng đã được Faloutsos và các cộng sự chứng minh là để
khơng xảy ra lỗi tìm sót thì độ đo khoảng cách sử dụng trong không gian xấp xỉ (đặc
trưng) phải là chặn dưới của độ đo khoảng cách sử dụng trong không gian gốc [11].
Nghĩa là, dfeature (X’, Y’) ≤ d(X, Y) với dfeature (X’, Y’) là độ đo khoảng cách giữa hai
chuỗi xấp xỉ của hai chuỗi ban đầu X, Y và d(X, Y) là độ đo khoảng cách giữa hai chuỗi
X, Y. Điều kiện này được gọi là bổ đề chặn dưới (lower bounding lemma).
1.2.3 Các phương pháp thu giảm số chiều dựa vào rút trích đặc trưng.
Có nhiều phương pháp thu giảm số chiều đã được đề xuất. Dưới đây chúng tơi sẽ
trình bày một số phương pháp tiêu biểu.
 Phương pháp biến đổi Fourier rời rạc.
Kỹ thuật thu giảm số chiều áp dụng phương pháp DFT do Agrawal và các cộng
sự đề xuất đầu tiên năm 1993 [1]. Ý tưởng cơ bản của phương pháp này là để thu

giảm số chiều một chuỗi thời gian X có chiều dài n vào khơng gian đặc trưng N chiều
(N << n), chuỗi thời gian ban đầu được biến đổi thành tập các hệ số (gọi là hệ số
Fourier), các hệ số này có dạng sóng hình sin (và/hoặc cosin) và được tính theo cơng
thức sau:

Ck 

1
n

n 1

x e
t 0

 j 2kt

t

(1.4)
(1.4)

16

Luan van


Trong đó, Ck là số phức với k = 0, …, n-1, xt là giá trị thứ t của chuỗi thời gian,
t = 0, …, n-1 và j   1.

Hình 1.6 Minh họa phương pháp DFT ([22]).

Sau đó tổ hợp tuyến tính các sóng này ta có được dạng biểu diễn mong muốn
(Hình 1.6). Một chuỗi thời gian được biến đổi theo cách này gọi là biến đổi vào miền
tần số. Độ phức tạp của phép biến đổi Fourier nhanh (Fast Fourier Transform-FFT) là
O(nlogn) với n là số lượng điểm và phương pháp này thích hợp với các loại đường
biểu diễn dữ liệu khác nhau, tuy nhiên chúng cũng có nhược điểm là khó giải quyết khi
các chuỗi có chiều dài khác nhau.
 Phương pháp biến đổi Wavelet rời rạc.
Phương pháp DWT do Chan và Fu đề xuất năm 1999 [8]. Phương pháp này
giống như DFT, tuy nhiên trong khi hàm cơ sở của phương pháp DFT có dạng hình sin
và các hệ số Fourier ln biểu diễn sự phân bố tồn cục của dữ liệu, thì hàm cơ sở
thường được dùng trong phương pháp DWT là hàm Haar như trong Hình 1.7 và các hệ
số Wavelet là những đoạn con cục bộ theo thời gian của dữ liệu được nghiên cứu.
Ngoài sử dụng hàm Haar, phương pháp DWT có thể sử dụng các hàm cơ sở khác như
Daubechies, Coiflet, Symmlet, … . Tuy nhiên, Haar Wavalet đã được sử dụng rất nhiều
trong khai phá dữ liệu chuỗi thời gian [35].

17

Luan van


Hình 1.7 Minh họa phương pháp Haar Wavelet ([22]).

Phương pháp DWT rất hiệu quả vì nó mã hóa đơn giản và nhanh. Phương pháp
này cũng thích hợp với những dữ liệu tĩnh ít thay đổi do đường Haar khơng thay đổi
liên tục. Độ phức tạp của phép biến đổi DWT là O(n), với n là chiều dài của chuỗi thời
gian. Nhược điểm của phương pháp này là chiều dài chuỗi dữ liệu ban đầu phải là một
số lũy thừa 2.

 Phương pháp xấp xỉ gộp từng đoạn.
Phương pháp xấp xỉ gộp từng đoạn (PAA) do Keogh và cộng sự đề xuất năm
2000 [22]. Theo phương pháp này, chuỗi thời gian ban đầu được chia thành N đoạn
con có kích thước bằng nhau, sau đó tính trung bình của các điểm dữ liệu nằm trong
mỗi đoạn con. Như vậy, chuỗi thời gian được xấp xỉ bằng N giá trị trung bình đó. Kết
quả cuối cùng là đường thẳng có dạng bậc thang.
Cho chuỗi dữ liệu thời gian X = (x1, x2,…, xn ), phương pháp PAA sẽ biến đổi chuỗi
này thành chuỗi X  ( x1 , x2 ,..., xN ) với (N<N
xi 
n

n
i
N



xj

n
j  ( i 1) 1
N

(1.5)
(1.5)

Ưu điểm của phương pháp này là đơn giản, thời gian tính tốn rất nhanh và cách
biểu diễn của nó hỗ trợ nhiều phương pháp tính khoảng cách (Euclid, DTW). Nhưng
nhược điểm của nó là phương pháp có thể bỏ qua những điểm đặc biệt trong từng đoạn

xấp xỉ của chuỗi thời gian. Vì vậy, trong nhiều trường hợp các đoạn có giá trị trung
bình bằng nhau nhưng về khoảng cách Euclid rất khác nhau.
Hình 1.8 minh họa phương pháp này.

18

Luan van


Hình 1.8 Minh họa phương pháp PAA ([22]).
Hình 1.9 là hai ví dụ minh họa cho các trường hợp này. Nhược điểm này làm cho

PAA khơng thích hợp với một số dữ liệu chuỗi thời gian trong lĩnh vực tài chính [26].
Ngồi ra, chặn dưới của phương pháp PAA cũng chưa thật sự chặt.
Đường trung bình

Đường trung bình

(b)
(a)
Hình 1.9 Các trường hợp hai đoạn có cùng giá trị trung bình
nhưng khoảng cách Euclid khác nhau.

Năm 2001, Keogh và các cộng sự đưa ra một cách tiếp cận tổng quát hơn so với
PAA. Phương pháp này được gọi là xấp xỉ hằng số từng đoạn thích nghi (APCA –
Adaptive Piecewise Constant Approximation) [23], nó cho phép các đoạn con có chiều
dài khác nhau nhằm xấp xỉ tốt hơn chuỗi thời gian.
 Phương pháp điểm cực trị.
Năm 2003, Fink and Pratt đã đề xuất một kỹ thuật thu giảm số chiều dựa trên
việc trích các điểm quan trọng trong chuỗi thời gian [12]. Các điểm quan trọng được

lấy là các điểm cực đại và cực tiểu quan trọng và bỏ qua các điểm biến đổi nhỏ. Tỉ số
nén được kiểm soát bằng tham số R > 1. Khi tăng R sẽ có ít điểm được lấy hơn. Các
điểm cực trị quan trọng được định nghĩa như sau:
Điểm am trong chuỗi a1,…, an được gọi là một cực tiểu quan trọng nếu có một
cặp chỉ số i, j sao cho i  m  j, mà: am là cực tiểu trong đoạn ai…aj và ai /am  R và
aj /am  R.
19

Luan van


Tương tự, điểm am trong chuỗi a1,…, an được gọi là một cực đại quan trọng nếu
có một cặp chỉ số i, j sao cho i  m  j, mà: am là cực đại trong đoạn ai…aj và am /ai  R
và am /aj  R.
Fink và Gandhi [13] đã đề xuất giải thuật trích ra những điểm cực trị quan trọng,
giải thuật này có độ phức tạp O(n). Nó qt qua chuỗi thời gian một lần và khơng cần
qua giai đoạn tiền xử lý.
 Phương pháp PIP.
Năm 2001, Chung và các cộng sự đưa ra kỹ thuật thu giảm số chiều dựa vào các
điểm PIP (Perceptually Important Points) [9]. Giải thuật xác định các điểm PIP như
sau:
Với một chuỗi thời gian T đã được chuẩn hóa, hai điểm PIP đầu tiên được chọn
là điểm đầu tiên và điểm cuối cùng của chuỗi T. Điểm PIP thứ ba được chọn là điểm
trong T có khoảng cách lớn nhất so với hai điểm PIP đầu tiên. Điểm PIP thứ tư được
chọn là điểm trong T có khoảng cách lớn nhất so với hai điểm PIP kế cận đã chọn (có
thể là điểm đầu và điểm thứ ba hoặc điểm thứ ba và điểm cuối). Tiến trình xác định
các điểm PIP tiếp tục cho đến khi số điểm PIP đạt được số điểm yêu cầu. Khoảng cách
giữa một điểm trong T với hai điểm PIP kế cận đã chọn là khoảng cách thẳng đứng
(Vertical Distance) từ điểm cần tính tới đường nối hai điểm PIP kế cận đã chọn.
Những ưu điểm của phương pháp thu giảm số chiều dựa vào điểm quan trọng là

(1) phù hợp với trực giác, (2) các chuỗi thời gian có chiều dài khác nhau có thể so
trùng và (3) có thể thu giảm số chiều ở nhiều mức phân giải khác nhau. Thông qua
thực nghiệm các tác giả cho thấy rằng cách tiếp cận dựa vào các điểm quan trọng là
hiệu quả. Tuy nhiên, họ chưa chứng minh về mặt lý thuyết tính chính xác của phương
pháp này, tức là thỏa được điều kiện chặn dưới. Ngoài ra, các phương pháp thu giảm
số chiều dựa vào điểm quan trọng cịn có một nhược điểm khác là không đề xuất được
cấu trúc chỉ mục đa chiều nào hỗ trợ.
Hình 1.10 minh họa quá trình nhận dạng các điểm PIP trên một chuỗi thời gian.

20

Luan van


Hình 1.10 Minh họa quá trình nhận dạng các điểm PIP ([9]).

 Phương pháp xén dữ liệu.
Phương pháp xén dữ liệu (Clipping) do Ratanamahatana và các cộng sự đề xuất
năm 2005 [37]. Xén dữ liệu là một tiến trình biến đổi các giá trị số thực của một chuỗi
thời gian C = (c1, …, cn) thành một chuỗi bit b tùy thuộc giá trị đó nằm trên hay dưới
đường trung bình của chuỗi. Quá trình biến đổi được thực hiện theo công thức sau:

1
bt  
0

nếu ct > 
ngược lại

(1.6)

(1.6)
trong đó,  là giá trị trung bình của chuỗi. Khơng mất tính tổng quát, tác giả giả định
rằng  = 0. Hình 1.11 minh họa kỹ thuật xén dữ liệu một chuỗi thời gian.
Ưu điểm của kỹ thuật xén dữ liệu là (1) giữ được đặc trưng về hình dạng xấp xỉ
của chuỗi thời gian, (2) có tỉ số nén cao tối thiểu là 32:1, (3) cho phép so sánh trực tiếp
giữa chuỗi truy vấn gốc và biễu diễn xấp xỉ đồng thời vẫn thỏa điều kiện chặn dưới,
(4) có thể sử dụng các phép toán chuyên dụng trên chuỗi bit. Tuy nhiên, kỹ thuật này
có một số nhược điểm là (1) không hỗ trợ người dùng tùy chọn tỉ lệ thu giảm số chiều,
(2) khơng có cấu trúc chỉ mục đa chiều hỗ trợ cho bài tốn tìm kiếm tương tự trong cơ
sở dữ liệu chuỗi thời gian lớn.

Hình 1.11 Minh họa kỹ thuật xén dữ liệu một chuỗi thời gian có chiều dài 64 ([37]).

21

Luan van


1.3 Rời rạc hóa chuỗi thời gian.
Rời rạc hóa (discretization) chuỗi thời gian là quá trình biến đổi chuỗi thời gian
thành một chuỗi các ký tự. Phương pháp rời rạc hóa tiêu biểu là phương pháp xấp xỉ
gộp ký hiệu hóa (Symbolic Aggregate approXimation - SAX) [27] và các biến thể của
nó như phương pháp xấp xỉ gộp ký hiệu hóa mở rộng (Extended SAX - ESAX) [26],
phương pháp xấp xỉ gộp ký hiệu có thể được lập chỉ mục (indexable SAX - iSAX)
[38].
Phương pháp xấp xỉ gộp ký hiệu hóa do Lin và cộng sự đã đề xuất năm 2003.
Phương pháp này được thực hiện như sau: đầu tiên dữ liệu chuỗi thời gian được thu
giảm số chiều theo phương pháp PAA. Sau đó, dựa trên giá trị trung bình cộng của
từng đoạn, phương pháp này sẽ ánh xạ chúng thành một chuỗi các ký hiệu rời rạc bằng

cách sử dụng các điểm ngắt (breakpoint). Các giá trị điểm ngắt được lựa chọn dựa trên
bảng xác suất của phân bố Gauss nhằm có một xác suất bằng nhau cho mỗi ký hiệu
được sử dụng trong bộ ký hiệu được dùng để rời rác hóa chuỗi thời gian. Giả sử, gọi a
là kích thước bộ ký hiệu được dùng để rời rạc hóa chuỗi thời gian, cho αi là ký hiệu
thứ i trong bộ ký hiệu và ta đã tìm được các điểm ngắt có giá trị 1, 2,…, a-1 với 1
<2 <…<a-1. Chuỗi thời gian T = t1,…, tw sẽ được rời rạc hóa thành chuỗi ký hiệu C
=c1c2…cw. Trong đó mỗi phần tử ci được ánh xạ thành một ký hiệu trong bộ ký hiệu
theo công thức sau:

1

ci   a

 k

ti ≤ 1
ti > a-1
k-1 < ti ≤ k

Phương pháp này biểu diễn dữ liệu chuỗi thời gian thành dạng chuỗi nên từ đó có
thể áp dụng các kỹ thuật xử lý trên dữ liệu chuỗi ký tự để thực hiện xử lý, phân tích dữ
liệu chuỗi thời gian. Tuy nhiên phương pháp này không hỗ trợ tốt việc tính khoảng
cách Euclid và dữ liệu chuỗi thời gian được giả định là phải thỏa phân bố xác suất
Gauss. Hình 1.12 minh họa phương pháp SAX.

22

Luan van