Một số kỹ thuật tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn và gợi ý truy vấn hướng ngữ cảnh TT

BỘ GIÁO DỤC VÀ ĐÀO TẠO

VIỆN HÀN LÂM KHOA HỌC
VÀ CÔNG NGHỆ VIỆT NAM

HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ

-----------------------------

Trần Lâm Quân

MỘT SỐ KỸ THUẬT TÌM KIẾM THỰC THỂ DỰA TRÊN QUAN HỆ NGỮ NGHĨA ẨN VÀ
GỢI Ý TRUY VẤN HƯỚNG NGỮ CẢNH

Chuyên ngành: Cơ sở toán học cho tin học
Mã số: 9.46.01.10

TĨM TẮT LUẬN ÁN TIẾN SĨ TỐN HỌC

Hà Nội - 2020


Cơng trình được hồn thành tại: Học viện Khoa học và Công nghệ - Viện Hàn lâm Khoa học và Công nghệ Việt
Nam.

Người hướng dẫn khoa học: TS. Vũ Tất Thắng

Phản biện 1: …
Phản biện 2: …
Phản biện 3: ….

Luận án sẽ được bảo vệ trước Hội đồng đánh giá luận án tiến sĩ cấp Học viện, họp tại Học viện Khoa học và
Công nghệ - Viện Hàn lâm Khoa học và Công nghệ Việt Nam vào hồi … giờ ..’, ngày … tháng … năm 202….

Có thể tìm hiểu luận án tại:
- Thư viện Học viện Khoa học và Công nghệ
- Thư viện Quốc gia Việt Nam


1
MỞ ĐẦU
1. Tính cấp thiết của luận án
Trong kỷ nguyên big-data, trên không gian Internet, lượng dữ liệu mới sinh ra không ngừng, Search Engine
là cốt lõi để đáp ứng nhu cầu tìm kiếm thơng tin của người sử dụng. Theo thống kê, xấp xỉ 71% câu tìm kiếm trên
web có chứa tên thực thể [7], [8]. Khi xét truy vấn chỉ gồm tên thực thể: “Việt Nam”, “Hà Nội”, “Pháp”, về trực
quan, ta thấy ngữ nghĩa tiềm ẩn sau truy vấn này. Nói cách khác, tiềm ẩn một quan hệ tương tự giữa cặp tên thực
thể “Việt Nam”:“Hà Nội” và cặp tên thực thể “Pháp”:“?”. Nếu chỉ xét trực quan, đây là một trong những khả năng
“tự nhiên” của con người - khả năng suy ra thông tin/tri thức chưa biết bằng suy diễn tương tự.
Với truy vấn trên, con người có khả năng
đưa ra đáp án tức thời, nhưng máy tìm kiếm Search
Engine (SE) chỉ tìm được những tài liệu chứa các từ
khóa nói trên, SE khơng đưa ngay ra được câu trả
lời “Paris”. Cũng như vậy, thế giới thực tồn tại
những câu hỏi dạng: “nếu Fansipan cao nhất Việt
Nam, thì đâu là đỉnh của Tây Tạng?”, “biết
Elizabeth là nữ hồng Anh thì quốc vương Nhật Bản
là ai?”, .v.v. Đối với những truy vấn tồn tại quan hệ
tương đồng như trên, cơ chế tìm kiếm theo từ khóa
khó khăn trong việc đưa ra đáp án, trong khi con
người có thể dễ dàng suy luận tương tự.
Hình 1.1: Danh sách trả về từ Keyword-SE ứng với query=”Việt Nam”, “Hà Nội”, “Pháp”.

Nghiên cứu, mô phỏng khả năng tự nhiên của con người khi suy diễn từ một miền ngữ nghĩa quen thuộc
(“Việt Nam”, “Hà Nội”) sang một miền ngữ nghĩa khơng quen thuộc (“Pháp”, “?”) - là mục đích của bài toán thứ
nhất.
Bài toán thứ 2 về gợi ý truy vấn. Cũng theo thống kê, các câu truy vấn người dùng đưa vào thường ngắn,
mơ hồ, đa nghĩa [1-6]. Trong các phiên tìm kiếm, lượng kết quả trả về nhiều nhưng phần lớn khơng thích hợp với
ý định tìm kiếm của người sử dụng1. Từ đó, có rất nhiều hướng nghiên cứu đặt ra nhằm cải thiện kết quả, hỗ trợ
người tìm kiếm. Các hướng nghiên cứu này bao gồm: gợi ý truy vấn (query suggestion), viết lại truy vấn (rewriting
query), mở rộng truy vấn (query expansion), đề xuất cá nhân hóa (personalized recommendations), phân hạng kết
quả (ranking/re-ranking search results), .v.v.
Hướng nghiên cứu gợi ý truy vấn thường áp dụng các kỹ thuật truyền thống như gom cụm, đo độ tương
đồng, .v.v. của các truy vấn [9], [10]. Tuy nhiên, các kỹ thuật truyền thống có ba nhược điểm: Thứ nhất, chỉ đưa
ra được các gợi ý tương tự hoặc có liên quan với truy vấn vừa nhập - mà chất lượng chưa chắc đã tốt hơn truy vấn
vừa nhập. Thứ hai, không đưa ra được xu hướng mà tri thức số đông thường hỏi sau truy vấn hiện hành. Thứ ba,
những cách tiếp cận này không xét chuỗi truy vấn một cách liền mạch từ người sử dụng để nắm bắt ý định tìm
kiếm của người dùng. Chẳng hạn, trên các Search Engine (SE) thông dụng, gõ 2 truy vấn liên tiếp q1: “Joe Biden

1

/>

2
là ai”, q2: “Ông ấy bao nhiêu tuổi”, q1, q2 có liên quan ngữ nghĩa. Tuy nhiên kết quả trả về cho q1, q2 là 2 tập kết
quả rất khác nhau. Điều này cho thấy nhược điểm của cơ chế tìm kiếm theo từ khóa.

Hình 1.2: Danh sách trả về từ SE ứng với q1, q2.
Nắm bắt chuỗi truy vấn liền mạch, nói cách khác, nắm bắt được ngữ cảnh tìm kiếm, SE sẽ “hiểu” được ý
định tìm kiếm của người sử dụng. Hơn nữa, nắm bắt chuỗi truy vấn, SE có thể gợi ý truy vấn theo chuỗi, chuỗi
gợi ý này là tri thức số đông, cộng đồng thường hỏi sau q1, q2. Đây là mục đích của bài toán thứ hai.
2. Mục tiêu nghiên cứu của luận án
Mục tiêu tổng quát của luận án là tập trung nghiên cứu, xác định và thực nghiệm các phương pháp, các

nguyên lý nhằm giải quyết 2 bài toán nêu trên. Cài đặt thực nghiệm các phương pháp và áp dụng các đề xuất cải
thiện kỹ thuật. Phân tích, đánh giá kết quả sau thực nghiệm. So sánh với các kỹ thuật khác:
3. Các nội dung nghiên cứu chính của luận án
Thuộc lớp bài toán khai phá dữ liệu, khai phá ngữ nghĩa và xử lý ngôn ngữ tự nhiên, đối tượng nghiên cứu
trong luận án gồm:
-

Phương pháp tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn.

-

Phương pháp gợi ý truy vấn hướng ngữ cảnh
CHƯƠNG 1: TỔNG QUAN

1.1.

Bài tốn tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn
Xét truy vấn gồm các thực thể: “Kinh Qur’an”:“Đạo Hồi”, “sách Phúc Âm”:”?”, con người có khả năng

suy diễn tức thời cho dấu “?”, nhưng SE chỉ đưa ra kết quả là những tài liệu có chứa các từ khóa trên, không đưa
ngay được câu trả lời “Kitô giáo”. Do chỉ tìm thực thể, các kỹ thuật mở rộng hoặc viết lại câu truy vấn không áp
dụng với dạng quan hệ có ngữ nghĩa ẩn trong cặp thực thể. Từ đó, một hình thái tìm kiếm mới được nghiên cứu,
motive của truy vấn tìm kiếm có dạng: {(A, B), (C, ?)}, trong đó (A, B) là cặp thực thể nguồn, (C, ?) là cặp thực
thể đích. Đồng thời, hai cặp (A, B), (C, ?) có quan hệ tương đồng về ngữ nghĩa. Cụ thể, khi người sử dụng nhập
vào truy vấn gồm 3 thực thể {(A, B), (C, ?)}, máy tìm kiếm có nhiệm vụ liệt kê, tìm kiếm trong danh sách ứng
viên các thực thể D (thực thể dấu ?), mỗi thực thể D thỏa điều kiện có quan hệ ngữ nghĩa với C, đồng thời cặp (C,
D) có quan hệ tương đồng với cặp (A, B). Quan hệ ngữ nghĩa - theo nghĩa hẹp và dưới góc nhìn từ vựng - được
biểu diễn bởi ngữ cảnh gồm các từ/cụm từ (terms/patterns/context) xung quanh (trước, giữa và sau) cặp thực thể

3
đã biết2. Vì quan hệ ngữ nghĩa, quan hệ tương đồng không nêu tường minh trong truy vấn (câu truy vấn chỉ gồm
3 thực thể: A, B, C), nên hình thái tìm kiếm theo motive được gọi là mơ hình tìm kiếm thực thể dựa trên ngữ nghĩa
ẩn (Implicit Relational Entity Search hay Implicit Relational Search, ngắn gọn: IRS)
Xét input query chỉ gồm 3 thực thể q = “Mê Kông”:“Việt Nam”, “?”:“Trung Quốc”. Truy vấn q chỉ gồm
3 thực thể (“Mê Kông”:“Việt Nam”, “?”:“Trung Quốc”). Truy vấn q không mô tả quan hệ ngữ nghĩa (“sông dài
nhất” hay “lớn nhất” hay “lưu vực rộng nhất”, .v.v.). Mơ hình tìm kiếm thực thể dựa trên ngữ nghĩa có nhiệm vụ
tìm ra thực thể “?”, thỏa điều kiện có quan hệ ngữ nghĩa với thực thể “Trung Quốc”, đồng thời cặp “?”:“Trung
Quốc” tương đồng với cặp “Mê Kơng”:“Việt Nam”.
Tìm/tính tốn độ tương đồng quan hệ giữa 2 cặp thực thể là một bài tốn khó, khó vì:
Thứ nhất, độ tương đồng quan
hệ biến đổi theo thời gian, xét 2 cặp thực
thể (Joe Biden, tổng thống Mỹ) và
(Elizabeth, nữ hoàng Anh), độ tương
đồng quan hệ biến đổi theo nhiệm kỳ.
Thứ hai, khó do nội tại thực thể có tên
(tên cá nhân, tổ chức, địa danh, ..) vốn
không phải các từ thông dụng hoặc có
trong từ điển.

Hình 1.3: Input query: ”Cuba”, “José Marti”, “Ấn Độ” (ngữ
nghĩa ẩn: “anh hùng dân tộc”)

Thứ ba, trong một cặp thực thể, có thể có nhiều quan hệ ngữ nghĩa khác nhau, như: “Ổ dịch Corona khởi
phát từ Vũ Hán”; “Corona cô lập thành phố Vũ Hán”; “Số ca lây nhiễm Corona giảm dần ở Vũ Hán”; .v.v. Thứ
tư, do yếu tố thời gian, 2 cặp thực thể có thể khơng chia sẻ hoặc chia sẻ rất ít ngữ cảnh xung quanh cặp thực thể,
như: Apple:iPod (vào 2010s) và Sony:Walkman (vào 1980s), dẫn đến kết quả 2 cặp thực thể khơng tương đồng.
Thứ năm, cặp thực thể chỉ có một quan hệ ngữ nghĩa nhưng có hơn một cách biểu đạt: “X was acquired by Y” và
“X buys Y”. Và cuối cùng, khó do thực thể D chưa biết, thực thể D đang trong tiến trình tìm kiếm.
Motive tìm kiếm của câu truy vấn có dạng: q = {(A, B), (C, ?)}, truy vấn chỉ gồm 3 thực thể: A, B, C. Xác

định mối quan hệ tương đồng giữa cặp thực thể (A, B), (C, ?) là điều kiện cần để xác định thực thể cần tìm. Thuộc
lớp bài tốn xử lý ngơn ngữ tự nhiên, độ tương đồng quan hệ là một trong những tác vụ quan trọng nhất của tìm
kiếm dựa trên ngữ nghĩa. Do đó, luận án liệt kê các hướng nghiên cứu chính về độ tương đồng quan hệ.
Các nghiên cứu liên quan đến tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn

1.2.

1.2.1. Lý thuyết ánh xạ cấu trúc (Structure Mapping Theory – SMT)
SMT [12] coi độ tương đồng là ánh xạ “tri thức” (mapping of knowledge) từ miền nguồn vào miền đích,
theo luật ánh xạ: Loại bỏ các thuộc tính của đối tượng nhưng vẫn duy trì được ánh xạ quan hệ giữa các đối tượng
từ miền nguồn vào miền đích.

2



Luật ánh xạ (Mapping rules): M: si  ti; (trong đó s: source, t: target).



Loại bỏ thuộc tính: HOT(si) ↛HOT(ti); MASSIVE(si) ↛MASSIVE(ti); ...



Duy trì ánh xạ quan hệ: Revolves(Planet, Sun)  Revolves(Electron, Nucleus).

Birger Hjorland. Link: .


4

Hình 1.5 cho thấy do cùng cấu trúc s
(subject), o (object), SMT xét các cặp: (Planet,
Sun) và (Electron, Nucleus) là tương đồng quan
hệ, dù cặp đối tượng nguồn và đích: (Sun,
Nucleus), (Planet, Electron) khác nhau về thuộc
tính: HOT, MASSIVE, …Tham chiếu với mục
tiêu nghiên cứu, nếu truy vấn là: ((Planet, Sun),
(Electron, ?)), SMT sẽ kết xuất câu trả lời chính
xác: “Nucleus”.

Hình 1.5: Ánh xạ cấu trúc SMT.

Nhưng SMT khơng khả thi với cấu trúc bậc thấp (thiếu quan hệ). Vì vậy SMT khơng khả thi với tìm
kiếm thực thể dựa vào quan hệ ngữ nghĩa ẩn.
1.2.2. Tương đồng quan hệ dựa trên hệ thống phân loại tương đồng Wordnet
Cao [20] và Agirre [21] đề xuất độ đo tương đồng quan hệ dựa trên hệ phân loại tương đồng trong Wordnet,
tuy nhiên như các phương pháp trên, Wordnet không chứa thực thể có tên (Named Entity), vì vậy Wordnet khơng
thích hợp với mơ hình tìm kiếm thực thể.
1.2.3. Mơ hình khơng gian vector (Vector Space Model - VSM)
Áp dụng mơ hình không gian vector, Turney [13] đưa ra khái niệm mỗi vector được tạo thành bởi mẫu
(pattern) chứa cặp thực thể (A, B) và tần suất xuất hiện của mẫu. VSM thực hiện phép đo độ tương đồng quan hệ
như sau: Các mẫu được tạo thủ công, query đến Search Engine (SE), số kết quả trả về từ SE là tần suất xuất hiện
của mẫu. Từ đó, độ tương đồng quan hệ của 2 cặp thực thể được tính bởi Cosine giữa 2 vector.
1.2.4. Phân tích quan hệ tiềm ẩn (Latent Relational Analysis - LRA)
Turney lai ghép VSM với LRA nhằm xác định mức tương đồng quan hệ [14-16]. Như VSM, LRA sử dụng
vector được tạo thành bởi mẫu (pattern/context) chứa cặp thực thể (A, B) và tần suất của mẫu, mẫu xét theo ngrams. Đồng thời, LRA áp dụng từ điển đồng nghĩa để mở rộng các biến thể của: A bought B, A acquired B; X
headquarters in Y, X offices in Y, ... LRA áp dụng tìm n-grams thường xuyên nhất để gắn mẫu với cặp thực thể
(A, B). Sau đó xây dựng ma trận mẫu - cặp thực thể, trong đó mỗi phần tử của ma trận biểu diễn tần suất xuất hiện
cặp (A, B) thuộc mẫu. Nhằm giảm chiều ma trận, LRA áp dụng SVD (Singular Value Decomposition) để giảm số
cột trong ma trận. Cuối cùng, LRA áp dụng phép đo Cosine để tính độ tương đồng quan hệ giữa 2 cặp thực thể.

Tuy là cách tiếp cận hiệu quả để xác định độ tương đồng quan hệ, LRA địi hỏi thời gian tính tốn, xử lý
khá dài, tham khảo [17] cho biết LRA cần 8 ngày để thực hiện 374 SAT analogy questions. Điều này không khả
thi với một hệ tìm kiếm đáp ứng thời gian thực.
1.2.5. Ánh xạ quan hệ tiềm ẩn (Latent Relation Mapping Engine - LRME)
Để cải thiện việc dựng các luật ánh xạ, các cấu trúc s (subject), o (object) một cách thủ công trong SMT,
Turney áp dụng phép ánh xạ quan hệ tiềm ẩn LRME [11], bằng cách kết hợp SMT và LRA. Mục đích: Tìm mối
quan hệ giữa 2 terms A, B (xét terms như là thực thể). Với đầu vào (bảng 1.1) là 2 danh sách các terms từ 2 miền
(nguồn và đích), đầu ra (bảng 1.2) là kết quả ánh xạ 2 danh sách.


5

1.2.6. Quan hệ ngữ nghĩa tiềm ẩn (Latent Semantic Relation – LSR)
Bollegala, Duc [17-18], Kato [19] sử dụng giả thuyết phân phối (Distributional hypothesis) ở mức context:
Trong corpus, nếu 2 context pi, pj khác nhau nhưng thường đồng hiện với các cặp thực thể wm, wn thì 2 context pi,
pj tương tự về ngữ nghĩa. Khi pi, pj tương tự về ngữ nghĩa, các cặp thực thể wm, wn tương đồng về quan hệ.
Giả thuyết phân phối đòi hỏi các cặp thực thể phải luôn “đồng hiện” với các context, đồng thời giải thuật
gom cụm Bollega đề xuất ở mức context (mức câu) chứ không thực hiện gom cụm ở mức terms trong câu. Độ
tương đồng chỉ dựa trên giả thuyết phân phối mà không dựa trên tương đồng về term sẽ ảnh hưởng không nhỏ đến
chất lượng của kỹ thuật gom cụm, từ đó ảnh hưởng đến chất lượng của hệ tìm kiếm.
1.2.7. Mơ hình học biểu diễn vector từ Word2Vec
Mơ hình Word2Vec do Mikolov và các đồng sự đề xuất [22], là mơ hình học biểu diễn mỗi từ thành một
vector (ánh xạ một từ thành one-hot vector), Word2Vec diễn tả mối quan hệ (xác suất) giữa từ với ngữ cảnh của
từ. Mơ hình Word2Vec có 2 kiến trúc mạng nơ-ron đơn giản: Continous Bag-Of-Words (CBOW) và Skip-gram.
Áp dụng Skip-gram, ở mỗi bước huấn
luyện, mơ hình Word2Vec dự đốn các ngữ cảnh
trong vịng skip-gram nhất định. Giả sử từ huấn
luyện input là “banking”, với cửa sổ trượt skip = m
= 2, output ngữ cảnh trái sẽ kết xuất là “turning
into”, output ngữ cảnh phải là “crises as”.

Hình 1.6: Quan hệ giữa từ mục tiêu và ngữ cảnh trong mơ hình Word2Vec.
Để dự đốn, hàm mục tiêu trong Skip-gram thực hiện tối đa hóa xác suất. Với một chuỗi từ huấn luyện
w1, w2, …, wT, Skip-gram áp dụng Maximum Likelihood:
𝑇

1
𝐽(𝜃) = ∑
𝑇

∑

log 𝑝(𝑤𝑡+𝑗 |𝑤𝑡 )

𝑡=1 −𝑚≤𝑗≤𝑚,𝑗≠0

trong đó:

T: số lượng từ có trong data-set; t: từ được huấn luyện;
m: window-side (skip); 𝜃: vector biểu diễn;

Quá trình huấn luyện áp dụng giải thuật lan truyền ngược (back-propagation), Xác suất đầu ra p(wt+j|wt)
xác định bởi hàm kích hoạt softmax:
𝑝(𝑜|𝑐) =

exp⁡(𝑢𝑜𝑇 ⁡𝑣𝑐 )
𝑇
∑𝑊
𝑤−1 exp⁡(𝑢𝑤 ⁡𝑣𝑐 )

6
trong đó:

W: Vocabulary; c: từ được huấn luyện (input/center); o: output của c;
u: Vector biểu diễn của o; v: Vector biểu diễn của c;

Trong thực nghiệm, Mikolov et al.
[22-25] xử lý cụm từ như một từ đơn, loại
bỏ các từ lặp lại thường xuyên, sử dụng
hàm Negative Sampling loss function chọn
ngẫu nhiên n từ để xử lý tính tốn thay vì
tồn bộ các từ trong data-set, giúp cho
thuật tốn huấn luyện nhanh hơn so với
hàm softmax nói trên.
Hình 1.7: Word2Vec “học” quan hệ “ẩn” giữa từ mục tiêu và ngữ cảnh của từ3.
Các phép toán vector như: vec(“king”) - vec(“man”) ≈ vec(“queen”) - vec(“woman”) cho thấy mơ hình
Word2Vec phù hợp với truy vấn dạng “A:B :: C:?”, nói cách khác, mơ hình Word2Vec khá gần với hướng nghiên
cứu của luận án. Điểm khác biệt: đầu vào Word2Vec (theo mơ hình Skip-gram) là một từ, đầu ra là một ngữ cảnh.
Đầu vào của mơ hình tìm kiếm thực thể dựa trên ngữ nghĩa là 3 thực thể (A:B :: C:?), đầu ra là thực thể cần tìm
kiếm (D).
Về tìm kiếm thực thể dựa trên ngữ nghĩa, từ các vấn đề còn tồn tại, để tiệm cận đến một “trí thơng minh
nhân tạo” trong máy tìm kiếm, luận án nghiên cứu, áp dụng các kỹ thuật mô phỏng khả năng tự nhiên của con
người: khả năng suy ra thông tin/tri thức không xác định bằng suy diễn tương tự.
1.3.

Bài toán gợi ý truy vấn hướng ngữ cảnh
Đối với SE, khả năng “hiểu” ý định tìm kiếm trong câu truy vấn của người sử dụng là một thách thức. Tập

dữ liệu được sử dụng để khai phá là Query Log (nhật ký truy vấn, QLogs). Tập truy vấn trong quá khứ QLogs ghi
lại các truy vấn và “tương tác” của người dùng với cơng cụ tìm kiếm, do vậy QLogs chứa các thơng tin giá trị về

nội dung truy vấn, mục đích, hành vi, thói quen, sở thích cũng như các phản hồi ngầm (implicit feedback) của
người sử dụng trên tập kết quả mà SE trả về.
Khai phá tập dữ liệu QLogs có ích trong nhiều ứng
dụng: Phân tích truy vấn, quảng cáo, xu hướng, cá nhân hóa,
gợi ý truy vấn, .v.v. Đối với gợi ý truy vấn, các kỹ thuật truyền
thống như Explicit Feedback [30-32], Implicit Feedback [3336], User profile [37-39], Thesaurus [40-42], … chỉ đưa ra
các gợi ý tương tự với input query của người dùng:
Hình 1.12: Gợi ý truy vấn bằng các kỹ thuật truyền thống với input query “điện thoại di động”.
1.4.

Các nghiên cứu liên quan đến gợi ý truy vấn
Xoay quanh hạt nhân là Qlogs, có thể nói việc gợi ý truy vấn theo các kỹ thuật truyền thống thực hiện 2

chức năng chính:

3

/>

7
 Kỹ thuật dựa trên cụm áp dụng phép đo độ tương đồng nhằm gom các truy vấn tương tự nhau
thành từng cụm (nhóm).
 Kỹ thuật dựa trên phiên với phiên tìm kiếm là một chuỗi liên tục các câu truy vấn.
1.4.1. Kỹ thuật gợi ý truy vấn dựa trên phiên (Session)
a) Dựa vào các câu truy vấn đồng hiện (co-occurrence) hay liền kề (adjacency) thuộc các sessions trong
Qlog: Trong cách tiếp cận dựa trên Session, các cặp truy vấn liền kề (adjacency) hoặc đồng hiện (co-occurrence)
thuộc cùng một phiên đóng vai trị danh sách ứng viên cho đề xuất truy vấn.
b) Dựa vào đồ thị (Query Flow Graph - QFG): Trên đồ thị QFG, 2 truy vấn qi, qj cùng thuộc ý đồ tìm kiếm
(search mission) được biểu diễn như một cạnh có hướng từ qi tới qj. Mỗi node trên đồ thị tương ứng với một truy
vấn, bất kỳ cạnh nào trên đồ thị cũng được xem như 1 hành vi tìm kiếm (searching behavior).

Cấu trúc tổng quát phiên trong CFG được biểu diễn: QLog = <q, u, t, V, C>;
Boldi et al. [50, 51] sử dụng cấu trúc phiên rút gọn QLog = <q, u, t> để thực hiện gợi ý truy vấn, theo một
dãy các bước:
 Xây dựng đồ thị QFG với đầu vào là tập các phiên trong Query Logs.
 Hai truy vấn qi và qj được nối với nhau nếu tồn tại ít nhất một phiên mà qi, qj xuất hiện liên tiếp.
 Tính trọng số w(qi, qj) trên mỗi cạnh:
𝑓(𝑞𝑖 ,⁡𝑞𝑗 )

w(qi, qj) = {
trong đó:

𝑓(𝑞𝑖 )

, 𝑖𝑓⁡(𝑤(𝑞𝑖 , 𝑞𝑗 ) > 𝜃) ∨ (𝑞𝑖 = 𝑠) ∨ (𝑞𝑖 = 𝑡)

0, 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒

(1.6)

f(𝑞𝑖 ,⁡𝑞𝑗 ): số lần xuất hiện qj ngay sau qi trong phiên;
f(qi): số lần xuất hiện qi trong QLogs; 𝜃: threshold;
s, t: 2 node trạng thái bắt đầu, kết thúc của chuỗi truy vấn trong phiên;

 Xác định các chuỗi thỏa điều kiện (1.6) để phân tích ý đồ của người dùng: Khi truy vấn mới đưa
vào, dựa vào đồ thị, đưa ra các gợi ý truy vấn lần lượt có trọng số cạnh lớn nhất.
1.4.2. Kỹ thuật gợi ý truy vấn dựa trên cụm (Cluster)


K-means;



Hierarchical;



DB-SCAN;

…

Hình 1.9: Các phương pháp phân cụm [54].
Gợi ý truy vấn hướng ngữ cảnh (Context-aware Query Suggestion) là một nét mới, Context-aware xét các
truy vấn đứng ngay trước truy vấn hiện hành như một ngữ cảnh tìm kiếm, nhằm “nắm bắt” ý định tìm kiếm của
người dùng. Kế tiếp, khai phá các truy vấn đứng ngay sau truy vấn hiện hành - như danh sách gợi ý. Đây là ưu
điểm riêng của cách tiếp cận này - so với cách tiếp cận chỉ gợi ý những truy vấn tương tự. Lớp truy vấn đứng ngay
sau truy vấn hiện hành, một cách hình thức, phản ánh những vấn đề mà người dùng thường hỏi sau truy vấn hiện


8
hành. Đồng thời, lớp truy vấn ngay sau truy vấn hiện hành thường gồm những câu truy vấn (chuỗi truy vấn) tốt
hơn, phản ánh rõ hơn ý đồ tìm kiếm.
CHƯƠNG 2: TÌM KIẾM THỰC THỂ DỰA TRÊN QUAN HỆ NGỮ NGHĨA ẨN
2.1. Bài toán
Trong tự nhiên, tồn tại mối quan hệ giữa 2 thực thể, như: Khuê Văn các – Văn miếu; Stephen Hawking –
Nhà vật lý; Thích Ca – phái Đại thừa; Apple – iPhone; ... Trong thế giới thực, tồn tại những câu hỏi dạng: “biết
Fansipan là ngọn núi cao nhất Việt Nam thì ngọn núi nào cao nhất Ấn Độ?”, “nếu Biden là tổng thống đắc cử Hoa
Kỳ thì ai là người quyền lực nhất Thụy Điển?”, …
Trong cơ chế tìm kiếm theo từ khóa, theo thống kê, các truy vấn thường ngắn, mơ hồ và đa nghĩa [1-6].
Cũng theo thống kê, xấp xỉ 71% câu tìm kiếm trên web có chứa tên thực thể [7], [8]. Nếu người sử dụng nhập vào
các thực thể: “Việt Nam”, “Hà Nội”, “Pháp” thì máy tìm kiếm chỉ đưa ra được kết quả là những tài liệu có chứa

các từ khóa trên chứ khơng đưa ngay được câu trả lời “Paris”. Do chỉ tìm thực thể, các kỹ thuật mở rộng, viết lại
câu truy vấn không áp dụng với dạng quan hệ có ngữ nghĩa ẩn trong cặp thực thể. Từ đó, một hình thái tìm kiếm
mới được nghiên cứu, motive của câu truy vấn tìm kiếm có dạng: {(A, B), (C, ?)}, trong đó (A, B) là cặp thực thể
nguồn, (C, ?) là cặp thực thể đích. Đồng thời, hai cặp (A, B), (C, ?) có quan hệ tương đồng về ngữ nghĩa. Nói cách
khác, khi người sử dụng nhập vào truy vấn {(A, B), (C, ?)}, máy tìm kiếm có nhiệm vụ liệt kê danh sách các thực
thể D, mỗi thực thể D thỏa điều kiện có quan hệ ngữ nghĩa với C, đồng thời cặp (C, D) có quan hệ tương đồng
với cặp (A, B). Với đầu vào chỉ gồm 3 thực thể: “Việt Nam”, “Hà Nội”, “Pháp”, quan hệ ngữ nghĩa “là thủ đô”
không được chỉ ra trong câu truy vấn.
2.2. Phương pháp tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn
2.2.1. Kiến trúc – Mơ hình
Khái niệm tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn là phân biệt rõ nhất đối với cơ chế tìm kiếm
theo từ khóa. Hình 2.1 mô phỏng câu truy vấn chỉ gồm 3 thực thể, query = {(Việt Nam, Mê Kông), (Trung Quốc,
?)}, viết quy ước: q = {(A, B), (C, ?)}. Trong đó (Việt Nam, Mê Kông) là cặp thực thể nguồn, (Trung Quốc, ?) là
cặp thực thể đích.
Máy tìm kiếm có nhiệm vụ tìm ra thực thể
(“?”) có quan hệ ngữ nghĩa với thực thể “Trung
Quốc”, đồng thời cặp thực thể (Trung Quốc, ?)
phải tương đồng quan hệ với cặp thực thể (Việt
Nam, Mê Kông). Lưu ý rằng câu truy vấn trên
không chứa một cách tường minh quan hệ ngữ
nghĩa giữa 2 thực thể. Việc không tường minh
quan hệ ngữ nghĩa bởi trên thực tế - quan hệ ngữ
nghĩa được biểu đạt dưới nhiều cách khác nhau
xung quanh cặp thực thể (Việt Nam, Mê Kơng),
ví dụ như “sơng dài nhất”, “sơng lớn nhất”, “lưu
vực rộng nhất”…
Hình 2.1: Tìm kiếm dựa trên quan hệ ngữ nghĩa với đầu vào gồm 3 thực thể.


9

Do câu truy vấn chỉ gồm 3 thực thể không bao gồm quan hệ ngữ nghĩa, nên mơ hình được gọi là mơ hình
tìm kiếm thực thể dựa trên ngữ nghĩa ẩn.
Máy tìm kiếm có nhiệm vụ tìm ra thực thể (“?”) có quan hệ ngữ nghĩa với thực thể “Trung Quốc”, đồng
thời cặp thực thể (Trung Quốc, ?) phải tương đồng quan hệ với cặp thực thể (Việt Nam, Mê Kông). Lưu ý rằng
câu truy vấn trên không chứa một cách tường minh quan hệ ngữ nghĩa giữa 2 thực thể. Việc không tường minh
quan hệ ngữ nghĩa bởi trên thực tế - quan hệ ngữ nghĩa được biểu đạt dưới nhiều cách khác nhau xung quanh cặp
thực thể (Việt Nam, Mê Kơng), ví dụ như “sơng dài nhất”, “sông lớn nhất”, “lưu vực rộng nhất”…: Do o câu truy
vấn chỉ gồm 3 thực thể không bao gồm quan hệ ngữ nghĩa, nên mơ hình được gọi là mơ hình tìm kiếm thực thể
dựa trên ngữ nghĩa ẩn.
Mơ hình tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn (IRS) gồm 3 thành phần chính:
Thành phần rút trích quan hệ ngữ nghĩa: Từ corpus, rút trích các mẫu (câu gốc chứa cặp thực thể và
context), như: A sông dài nhất B, với A, B là 2 tên thực thể (Named Entity). Tập mẫu thu được gồm: các mẫu thực
sự khác nhau, các mẫu giống nhau, các mẫu có độ dài và terms khác nhau nhưng biểu đạt cùng ngữ nghĩa, chẳng
hạn: A là sông lớn nhất của B, A là sơng thuộc B có lưu vực rộng nhất, hay B có sơng dài nhất là A, .v.v.
Thành phần gom cụm các quan hệ ngữ nghĩa: Từ tập mẫu thu được, thực hiện gom cụm để xác định các
cụm chứa các mẫu (context), trong đó mỗi context thuộc cùng cụm có quan hệ tương đồng về ngữ nghĩa. Lập chỉ
mục các mẫu và cặp thực thể tương ứng.
Thành phần tính tốn quan hệ tương đồng giữa 2 cặp thực thể: Thuộc phase online của mơ hình IRS. Đón
truy vấn q = {(A, B), (C, ?)}, IRS tìm kiếm trong bảng chỉ mục cặp thực thể (A, B) và tập quan hệ ngữ nghĩa (mẫu)
tương ứng. Từ tập quan hệ ngữ nghĩa thu được, thực hiện tìm các cặp thực thể (C, Di) gắn với quan hệ. Áp dụng
hạng để trả lời truy vấn.
Xét truy vấn q = {(Việt Nam, Mê
Kơng), (Trung Quốc, ?)}, IRS tìm được cụm

Corpus

chứa cặp thực thể (Việt Nam, Mê Kông) và

Tập kết quả trả về
được phân hạng

quan hệ ngữ nghĩa tương ứng: “sông dài nhất”
(từ câu gốc: “Mê Kông là sông dài nhất Việt
Nam”). Cụm này đồng thời chứa một quan hệ

Rút trích quan
hệ ngữ nghĩa

ngữ nghĩa tương tự: “sơng lớn nhất”, trong đó
quan hệ “sông lớn nhất” gắn với gặp thực thể
(Trung Quốc, Trường Giang) (từ câu gốc:
“Trường Giang là sông lớn nhất Trung Quốc”).

Tính độ tương
đồng quan hệ
(RelSim)

Cặp thực thể Quan hệ ngữ
nghĩa

Tập kết quả ứng
viên

Gom cụm quan
hệ ngữ nghĩa

Chỉ mục đảo Inverted
Index for IRS

IRS sẽ đưa “Trường Giang” vào danh sách ứng

viên, xếp hạng quan hệ ngữ nghĩa theo phép đo
độ tương đồng, trả kết quả về người tìm kiếm.

Query: {(Việt Nam, Mê Kơng), (Trung Quốc, ?)}

độ đo Cosine tính tốn, xếp hạng mức tương đồng giữa (A, B) và (C, Di), đưa ra danh sách các thực thể Di đã xếp

Hình 2.2: Kiến trúc tổng qt mơ hình tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa.


10
2.2.2. Thành phần rút trích quan hệ ngữ nghĩa
Nhận truy vấn q = {(A, B), (C, ?}, kiến trúc tổng qt của IRS được mơ hình hóa:
 Hàm Filter-Entities (Fe) lọc/tìm tập ứng viên S chứa các cặp thực thể (C, Di); trong đó (C, Di)
quan hệ tương đồng với cặp thực thể đầu vào (A, B):
1, 𝑖𝑓⁡𝑅𝑒𝑙𝑒𝑣𝑎𝑛𝑡(𝑞, 𝐷)
Fe(q, D) = Fe({(A, B), (C, ?)}, D) = {
0, 𝑒𝑙𝑠𝑒

(2.1)

 Hàm Rank-Entities (Re) tính RelSim, xếp hạng các thực thể Di, Dj trong tập ứng viên S theo phép
đo RelSim (Relational Similarity), thực thể nào có RelSim cao hơn được xếp thứ tự thấp hơn (theo nghĩa gần
top hơn, hay rank cao hơn):
∀ Di, Dj ∊ S, nếu:
RelSim((A, B),(C, Di)) > RelSim((A, B),(C, Dj)) : Re(q, Di) < Re(q, Dj)

(2.2)

2.2.3. Thành phần gom cụm các quan hệ ngữ nghĩa

Tiến trình gom cụm thực hiện gom các phần tử “tương tự” nhau vào thành cụm. Trong mơ hình tìm kiếm
thực thể dựa trên ngữ nghĩa, các phần tử trong cụm là các câu context tương đồng về ngữ nghĩa. Độ tương đồng
là một đại lượng dùng để so sánh 2 hay nhiều phần tử với nhau, phản ánh mối tương quan giữa 2 phần tử. Do đó,
luận án khái quát các phép đo độ tương đồng về terms, độ tương đồng dựa trên không gian vector, độ tương đồng
ngữ nghĩa – của 2 context.
a) Các phép đo độ tương đồng giữa 2 context
 Độ tương đồng về terms
Hàm Zaro: Winkler4. Khoảng cách Zaro tính độ tương đồng giữa 2 xâu ký tự a, b:
0,⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡⁡𝑖𝑓⁡𝑚 = 0
SimZaro(a,b) = {1 𝑚 𝑚 𝑚−𝑠𝑘𝑖𝑝
( + |𝑏| + 𝑚 ) ⁡⁡⁡⁡⁡⁡𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
3 |𝑎|

(2.6)

Constrast model: Do Tversky đề xuất (“Features of similarity”, Psychological Review, 1977)5, áp
dụng mơ hình tương phản để tính độ tương đồng giữa 2 câu a, b:
Sim(a, b)⁡=⁡α*f(a∩b) − 𝛽*f(a-b) − γ*f(b−a)
Khoảng cách Jaccard:

|𝑎∩𝑏|

Sim(a, b) = |𝑎∪𝑏|

(2.8)
(2.9)

 Độ tương đồng dựa trên không gian vector: Euclidean, Manhattan, Cosine.
 Độ tương đồng ngữ nghĩa
Theo Giả thuyết phân phối [17]: Các từ xảy ra trong cùng ngữ cảnh thì có xu hướng tương đồng ngữ

nghĩa. Do tiếng Việt chưa có hệ thống Vietwordnet để tính tốn độ tương đồng ngữ nghĩa giữa 2 terms, luận
án sử dụng độ tương hỗ PMI để đo, đánh giá độ tương đồng ngữ nghĩa giữa 2 câu (context).
Phương pháp PMI (Pointwise Mutual Information): Được đề xuất bởi Church and Hanks [1990].
Dựa vào xác suất đồng xảy ra giữa 2 terms t1, t2 trong kho ngữ liệu, độ tương hỗ t1, t2 được tính theo cơng
thức:
𝑷(𝒕𝟏 ,𝒕𝟐 )
)
𝑷(𝒕𝟏 ).𝑷(𝒕𝟐 )

PMI(t1, t2) = log2(

4
5

/> />
(2.16)


11
b) Thành phần gom cụm các quan hệ ngữ nghĩa
 Áp dụng PMI cải tiến độ đo tương đồng theo giả thuyết phân phối:
SimDH(p,q) = Cosine(PMI(p, q)) =⁡

∑𝑖(𝑃𝑀𝐼(𝑤𝑖 ,𝑝)∙𝑃𝑀𝐼(𝑤𝑖 ,𝑞))

||𝑃𝑀𝐼(𝑤𝑖 ,𝑝)||||𝑃𝑀𝐼(𝑤𝑖 ,𝑞)||

(2.25)

 Độ tương đồng theo terms của 2 context p, q:

Simterm (p, q) = ⁡

∑n
i=1(weighti (p)∙weighti (q))
||weight(p)||⁡||weight(q)||

(2.26)

 Độ đo tương đồng kết hợp:
Sim(p,q) = Max(SimDH(p, q),Simterm(p, q))

(2.27)

c) Giải thuật gom cụm:
- Đầu vào: Tập P = {p1, p2, …, pn}; Ngưỡng phân cụm θ1, ngưỡng heuristic θ2; Dmax: Đường kính cụm;
Sim_cp: Kết quả hàm đo độ tương đồng kết hợp, áp dụng theo công thức (2.27).
- Đầu ra: Tập cụm Cset (ClusterID, context, trọng số mỗi context. cặp thực thể tương ứng).
Program Clustering_algorithm
01.
Cset = {}; iCount=0;
02.
for each context pi ∈ P do
03.
Dmax = 0; c* = NULL;
04.
for each cluster cj ∈ Cset do
05.
Sim_cp=Sim(pi,Centroid(cj))
06.
if (Sim_cp > Dmax) then

07.
Dmax = Sim_cp; c* ← cj;
08.
end if
09.
end for
10.
if (Dmax > θ1) then
11.
c*.append(pi)
12.
else
13.
Cset ∪= new cluster{c*}
14.
end if
15.
if (iCount > θ2) then
16.
iCount++;
17.
exit Current_Proc_Cluster_Alg();
18.
end if
19.
end for
20.
Return Cset;
@CallMerge_Cset_from_OtherNodes()
2.2.4. Thành phần tính tốn độ tương đồng giữa 2 cặp thực thể

Thành phần tính tốn độ tương đồng quan hệ giữa 2 cặp thực thể thực hiện 2 tác vụ: Lọc (tìm) và Phân
hạng. Nhận vào q={(A, B), (C, ?)}, thông qua chỉ mục inverted index, IRS gọi hàm Filter-Entities Fe đặt lọc (tìm)
tập ứng viên chứa các cặp thực thể (C, Di) và quan hệ ngữ nghĩa (context) tương ứng, với điều kiện (C, Di) tương
đồng với (A, B). Kế tiếp, gọi hàm Rank-Entities Re để xếp hạng các thực thể Di, Dj trong tập ứng viên theo phép
đo RelSim (Relational Similarity), trả về danh sách các {Di} đã xếp hạng.
Giải thuật Filter-Entities: Lọc tìm tập ứng viên chứa câu trả lời:
Đầu vào: Query q = (A, B)(C, ?)
Đầu ra: Tập ứng viên S (gồm các thực thể Di và context tương ứng);
Program Filter_Entities


12
01.
02.
03.
04.
05.
06.
07.

S = {};
P(w) = EntPair_from_Cset.Context();
for each context pi ∈ P(w) do
W(p) = Context(pi).EntPairs();
If (W(p) contains (C:Di)) then S ∪= W(p);
end for
retufn S

Sau thực thi Filter-Entities, thu được tập con gồm các thực thể Di và context tương ứng. Tiến trình RelSim
chỉ thực hiện xử lý, tính tốn trên tập con này, đồng thời áp dụng ngưỡng α để loại các thực thể Di có giá trị RelSim

thấp.
Với: Fe(q,D) = Fe({(A, B),(C,?)}, D):
𝐹𝑒 (𝑞, 𝐷𝑖 ) = {

1, 𝑖𝑓⁡𝑅𝑒𝑙𝑆𝑖𝑚((𝐴, 𝐵), (𝐶, 𝐷𝑖 )) > α
0, 𝑒𝑙𝑠𝑒

Giải thuật Rank-Entities: Giải thuật Rank-Entities có nhiệm vụ tính RelSim:
Đầu vào gồm: Tập ứng viên S và:
-

Cặp thực thể nguồn (A, B), ký hiệu s; Các thực thể ứng viên (C, Di), ký hiệu c;

-

Các context tương ứng với s, c; Tập cụm thu được: Cset;

-

Các thực thể A, B, C đã biết  tập cụm tương ứng chứa A, B, C được xác định;

-

Ngưỡng α (so giá trị RelSim); Ngưỡng α xác định trong kiểm thử chương trình.

-

Khởi tạo tích vơ hướng (β); tập used-context (γ);

Đầu ra: Danh sách câu trả lời (danh sách thực thể được xếp hạng) Di;

Ký hiệu:
-

P(s), P(c) được nêu trong công thức (2.19), (2.20);

-

f(s, pi), f(c, pi), ɸ(s), ɸ(c) nêu trong (2.21), (2.22);

-

γ: Biến (dạng tập hợp) giữ các context đã xét;

-

q: Biến trung gian (Context);

Ω: Cụm;
Program Rank_Entities
-

01. for each context pi ∈ P(c) do
02.
if (pi ∈ P(s)) then
03.
β ← β + f(s, pi)·f(c, pi)
04.
γ ← γ ∪ {p}
05.
else

06.
Ω ← cluster contains pi
07.
max_co-occurs = 0;
08.
q← NULL;
09.
for each context pj ∈ (P(s)\P(c)\γ) do
10.
if (pj ∈ Ω) & (f(s, pj) > max_co-occurs)
11.
max_co-occurs ← f(s, pj);
12.
q ← pj;
13.
end if
14.
end for
15.
if (max_co-occurs > 0) then
16.
β ← β + f(s, q)·f(c, pi)

(2.29)


13
17.
γ ← γ ∪ {q}
18.

end if
19.
end if
20. end for
21. RelSim ← β/L2-norm(ɸ(s), ɸ(c))
22. if (RelSim ≥ α) then return RelSim
Diễn giải giải thuật: Trường hợp 2 cặp thực thể nguồn và đích cùng một quan hệ ngữ nghĩa (cùng chia
sẻ chung một context, câu lệnh 1-2): pi ∊ P(s) ∩ P(c), tính tích vơ hướng tương tự như cơng thức Cosine tính độ
tương đồng.
Trường hợp pi ∊ P(c) nhưng pi ∉ P(s), giải thuật tìm context pj (hay biến trung gian q, dịng 12), trong đó
pi, pj thuộc cùng một cụm đã biết. Thân vòng lặp (từ lệnh 10-13) chọn ra context pj có số lần đồng hiện (co-occurs)
với s lớn nhất. Theo giả thuyết phân phối, 2 context pi, pj đồng hiện trong càng nhiều cặp thực thể, độ tương đồng
Cosine giữa 2 vector càng cao. Khi giá trị Cosine càng cao, pi, pj càng tương tự. Nói cách khác, cặp (C, Di) càng
chính xác và nhất quán ngữ nghĩa với cặp thực thể nguồn (A, B).
Dãy câu lệnh từ 15-18 tính tích vơ hướng. Các câu lệnh 21-22 tính giá trị RelSim. Từ tập RelSim thu được,
sắp xếp để thực thể Di nào có RelSim cao hơn được xếp thứ tự thấp hơn (theo nghĩa gần top hơn, hay rank cao
hơn). Tập kết quả Di là danh sách câu trả lời cho truy vấn mà người dùng muốn tìm.
2.3. Kết quả thực nghiệm – Đánh giá
2.3.1. Dataset
Tập dataset được xây dựng từ tập dữ liệu mẫu trong thực nghiệm, dựa vào 4 phân lớp thực thể có tên:
PER; ORG; LOC và TIME;
2.3.2. Kiểm thử - Điều chỉnh tham số
Để đánh giá hiệu quả của thuật toán phân
cụm và thuật toán xếp hạng ứng viên
Rank_Entities, Chương 2 thực hiện thay đổi các
giá trị θ1 và α, sau đó tính các độ đo Precision,
Recall, F-Score tương ứng với mỗi giá trị thay đổi
của α, θ1. Hình 2.3 cho thấy tại α = 0.5, θ1 = 0.4,
điểm F-Score đạt giá trị cao nhất.
Hình 2.3: Giá trị F-Score tương ứng với mỗi giá trị thay đổi của α, θ1.

Giải thuật Rank_Entities dòng 22 (if (RelSim ≥ α) return RelSim) cũng cho thấy, khi α nhỏ thì số lượng
ứng viên tăng, có thể có nhiễu, đồng thời thời gian xử lý real-time tốn chi phí thời gian, do hệ thống xử lý nhiều
truy vấn ứng viên. Ngược lại khi α lớn thì giá trị Recall nhỏ, kéo theo F-Score giảm đáng kể.
2.3.3. Đánh giá với độ đo MRR (Mean Reciprocal Rank)
Đối với bộ truy vấn Q, nếu thứ hạng câu trả lời đúng đầu tiên trong truy vấn q ∈ Q là rq, thì độ đo MRR
của Q được tính:
1

1

MRR(Q) = |𝑄| ∑𝑞∈𝑄 𝑟

𝑞

(2.33)

Với 4 phân lớp thực thể: PER; ORG; LOC và TIME; phương pháp dựa trên tần suất đồng hiện (f) đạt giá
trị trung bình MRR ≈ 0.69; trong khi đó, phương pháp dựa trên PMI đạt 0,86. Điều này cho thấy PMI giúp cải
thiện độ chính xác về tương đồng ngữ nghĩa tốt hơn tần suất đồng hiện của context-cặp thực thể.


14

Hình 2.4: So sánh PMI với f: tần suất (số lần đồng hiện) dựa trên MRR.
2.3.4. Hệ thống thực nghiệm
Tập dữ liệu mẫu trong thực nghiệm được download từ các nguồn Viwiki (7877 files) và Vn-news (35440
files). Mục đích chọn nguồn Viwiki và Vn-news vì các dataset này chứa các mẫu gồm các thực thể có tên (Named
Entity). Tiến trình đọc, lấy nội dung file, tách đoạn, tách câu (main-sentences, sub-sentences), thu được 1572616
câu.
Các nhãn tổng quát của NER (Named Entity Recognition) gồm: PER: Tên người; ORG: Tên tổ chức;

LOC: Địa danh; TIME: Kiểu thời gian; NUM: Kiểu số; CUR: Kiểu tiền tệ; PCT: Kiểu phần trăm; MISC: Kiểu
thực thể khác; O: Khơng phải thực thể.
Giải thuật rút trích patterns lưu vào database, sau khi thực hiện các bước xử lý và các điều kiện giới hạn,
Database còn lại 404507 câu context. Từ tập context này, giải thuật gom cụm các quan hệ ngữ nghĩa gom được
124805 cụm.

Hình 2.5: Thực nghiệm IRS với nhãn thực thể B-PER.
Để đánh giá độ chính xác, thực nghiệm thực hiện 500 queries để kiểm thử, kết quả cho thấy độ chính xác
đạt khoảng 92%.
ID

Bảng 2.3: Các ví dụ kết quả thực nghiệm với input q = {A, B, C} và output D
A
B
C
D

..

German

Angela Merkel

Israel

Benjamin Netanyahu

..

Harry Kane

Tottenham

Messi

Barca


15
..

Hồng Cơng Lương

Hịa Bình

Thiên Sơn

RO

2.4. Kết luận chương
Khả năng suy ra thông tin/tri thức không xác định bằng suy diễn tương tự là một trong những khả năng tự
nhiên của con người. Chương 2 trình bày mơ hình tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn (IRS) nhằm
mơ phỏng khả năng trên. Mơ hình IRS tìm kiếm thông tin/tri thức từ một miền không quen thuộc và khơng cần
biết trước từ khóa, bằng cách sử dụng ví dụ tương tự (quan hệ tương đồng) từ một miền quen thuộc. Đóng góp
chính của Chương 2: Xây dựng kỹ thuật tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa ẩn sử dụng phương pháp
phân cụm nhằm nâng cao hiệu quả tìm kiếm. Đồng thời, luận án đề xuất độ đo tương đồng kết hợp - theo terms và
theo giả thuyết phân phối; Từ độ đo đề xuất, đồng thời áp dụng heuristic vào giải thuật gom cụm để cải thiện chất
lượng cụm.
CHƯƠNG 3: GỢI Ý TRUY VẤN HƯỚNG NGỮ CẢNH
3.1. Bài toán

Trong lĩnh vực gợi ý truy vấn (query suggestion), các tiếp cận truyền thống như session-based, documentclick based, .v.v. thực hiện khai phá tập truy vấn trong quá khứ (Query Logs) để kết xuất gợi ý. Cách tiếp cận “Gợi
ý truy vấn hướng ngữ cảnh bởi khai phá dữ liệu phiên và các tài liệu chọn đọc” (gọi ngắn gọn: “cách tiếp cận
hướng ngữ cảnh” của Huanhuan Cao cùng cộng sự [9], [10]) là một hướng đi mới - hướng này xét các truy vấn
đứng ngay trước truy vấn vừa đưa vào (truy vấn hiện hành) như một ngữ cảnh tìm kiếm, nhằm “nắm bắt” ý định
tìm kiếm của người dùng, nhằm đưa ra các gợi ý xác đáng hơn. Rõ ràng, lớp truy vấn đứng ngay trước có mối liên
hệ ngữ nghĩa với truy vấn hiện hành. Kế tiếp, thực hiện khai phá các truy vấn đứng ngay sau truy vấn hiện hành như một danh sách gợi ý. Phương pháp này tận dụng được “tri thức” của cộng đồng, vì lớp truy vấn đứng ngay
sau truy vấn hiện hành phản ánh những vấn đề mà người dùng thường hỏi sau truy vấn hiện hành.
Đóng góp chính của chương 3 gồm:
1) Ứng dụng kỹ thuật hướng ngữ cảnh, xây dựng máy tìm kiếm chuyên sâu áp dụng hướng ngữ cảnh
trong miền cơ sở tri thức riêng (dữ liệu hàng không).
2) Đề xuất độ đo tương đồng tổ hợp trong bài toán gợi ý truy vấn theo ngữ cảnh nhằm nâng cao chất
lượng gợi ý.
Ngoài ra, chương 3 cũng có các đóng góp bổ sung trong thực nghiệm: i) Tích hợp nhận dạng và tổng hợp
tiếng nói tiếng Việt như một tùy chọn vào máy tìm kiếm để tạo thành một hệ tìm kiếm có tương tác tiếng nói. ii)
Áp dụng cấu trúc dàn khái niệm để phân lớp tập kết quả trả về.
3.2. Phương pháp hướng ngữ cảnh
3.2.1. Định nghĩa – Thuật ngữ


Phiên tìm kiếm: Là chuỗi liên tục các câu truy vấn. Chuỗi truy vấn được biểu diễn với thứ tự thời

gian. Mỗi phiên tương ứng với một người dùng.


Cấu trúc phiên tổng quát: {sessionID; queryText; queryTime; URL_clicked}



Ngữ cảnh: đặc tả chuỗi lân cận trước truy vấn hiện hành. Trong phiên tìm kiếm của một người

dùng, ngữ cảnh là chuỗi truy vấn đứng ngay trước truy vấn vừa nhập.
Lớp queries trước của qcurrent ↔ ngữ cảnh) .. qcurrent .. (Lớp queries sau)


16
3.2.2. Kiến trúc – Mơ hình
Phương pháp hướng ngữ cảnh
dựa trên 2 phases: online và offline,
khái quát: Trong 1 phiên tìm kiếm
(online phase), tiếp cận gợi ý truy vấn
hướng ngữ cảnh đón câu truy vấn hiện
hành và xét chuỗi truy vấn đứng ngay
trước truy vấn hiện hành như một ngữ
cảnh. Chính xác hơn, diễn dịch chuỗi
truy vấn đứng trước current query thành
chuỗi khái niệm - chuỗi khái niệm này
biểu đạt ý định tìm kiếm của người sử
dụng.

Hình 3.4: Mơ hình Gợi ý truy vấn hướng ngữ cảnh.

Khi có được ngữ cảnh tìm kiếm, hệ thống thực hiện so khớp với tập ngữ cảnh dựng sẵn (phase offline, tập
ngữ cảnh dựng sẵn được xử lý tính tốn sẵn trên tập truy vấn trong quá khứ - Query Logs. Về cấu trúc dữ liệu và
lưu trữ, tập ngữ cảnh dựng sẵn được lưu trên cấu trúc dữ liệu cây hậu tố). Tiến trình so khớp (maximum matching)
kết xuất danh sách ứng viên, danh sách này gồm các vấn đề mà đa số người dùng thường hỏi sau truy vấn vừa
nhập. Sau bước ranking, danh sách ứng viên trở thành danh sách gợi ý.
3.2.4. Phase Offline - Giải thuật Gom cụm
Ý tưởng của giải thuật gom cụm: Giải thuật quét toàn bộ các queries trong Query Logs một lần, các cụm
sẽ được tạo ra trong tiến trình quét. Ban đầu, mỗi cụm được khởi tạo bằng một truy vấn, rồi mở rộng dần bởi các
truy vấn tương tự. Quá trình mở rộng dừng khi đường kính cụm vượt ngưỡng Dmax. Do mỗi cụm (cluster) được

xem như một khái niệm (concept), nên tập cụm là tập khái niệm.
Đầu vào: Tập Query Logs Q, ngưỡng Dmax;
Đầu ra: Tập cụm Cset;
program Context_Aware_Clustering_alg
// Khởi tạo mảng dim_array[d] = Ø, ∀d (d: document được click)
// Mảng dim_array chứa số chiều các vectors.
01.
02.
03.
04.
05.
06.
07.
08.
09.

10.

for each query qi ∈ Q do
θ = Ø;
for each nonZeroDimension d of ⃗⃗⃗
𝑞𝑖 do
θ ∪= dim_array[d];
C = arg minC’∈C-Setdistance(qi, C’);
if (diameter(C∪{qi}) ≤ Dmax)
C ∪= qi; cập nhật lại đường kính và tâm cụm C;
else
C = new cluster({qi}); Cset ∪= C;
for each nonZeroDimension d of ⃗⃗⃗
𝑞𝑖 do

if (C ∉ dim_array[d])
dim_array[d] ∪= C;
end for
return Cset;

3.3.6. Phân tích ưu nhược điểm


17
Ưu điểm:
Với bài toán gợi ý truy vấn - đây là cách tiếp cận mới. Thực hiện gợi ý truy vấn, các tiếp cận kinh điển

-

cũ thường lấy các truy vấn đã có trong Query Logs để đề xuất. Các đề xuất này chỉ tương tự hoặc có
liên quan với truy vấn hiện hành, chứ không đưa ra được xu hướng mà tri thức số đông thường hỏi sau
câu truy vấn hiện hành. Cũng như vậy, chưa có một tiếp cận nào đặt chuỗi truy vấn ngay trước truy vấn
hiện hành vào một ngữ cảnh tìm kiếm - như một thể hiện liền mạch ý đồ tìm kiếm của người sử dụng.
Kỹ thuật hướng ngữ cảnh, trên hết là ý tưởng gợi ý bằng những vấn đề mà người dùng thường hỏi sau
truy vấn hiện hành, là một điểm độc đáo, hiệu quả, là “nét thông minh” trong lĩnh vực gợi ý truy vấn.
Nhược điểm:
Khi người dùng đưa vào truy vấn đầu tiên hay một vài truy vấn là mới (mới so với các truy vấn trong

-

quá khứ) hoặc thậm chí khơng mới - theo nghĩa khơng có mặt trong chuỗi khái niệm thường xuyên
(chẳng hạn, trong tập dữ liệu mẫu, với 2 chuỗi khái niệm c2c3 và c1c2c3, giải thuật xác định chuỗi
thường xuyên thu được là c2c3, trong trường hợp này - người sử dụng đưa vào c1). Tiếp cận hướng
ngữ cảnh không đưa ra được gợi ý dù c1 đã có trong quá khứ (đã tồn tại trong QLogs).
Mỗi cụm (khái niệm) gồm một nhóm các truy vấn tương đồng. Độ đo tương đồng chỉ dựa trên URL

-

click mà không dựa trên tương đồng về term, điều này có thể ảnh hưởng khơng nhỏ đến chất lượng của
kỹ thuật gom cụm.
Ràng buộc mỗi truy vấn chỉ thuộc một cụm (khái niệm): quan điểm này không hợp lý và không tự nhiên

-

đối với câu truy vấn đa nghĩa như “tiger” hoặc “gladitor”, hay rất nhiều từ đa nghĩa khác trong tiếng
Việt, .v.v.
Chỉ xét đến gợi ý truy vấn (query suggestion) mà không xét đến gợi ý tài liệu (gợi ý URL - URL

-

recommendation). Đồng thời, định hướng “click-through” nhưng không sử dụng các thông tin clicked
Urls trong ngữ cảnh tìm kiếm (khi tìm kiếm trên cây hậu tố, Concept sequence đầu vào chỉ gồm các
queries).
Trên đồ thị 2 phía, phía tập đỉnh Q các vector khá thưa (số chiều thấp), phía tập đỉnh URLs click cũng

-

gặp phải vấn đề dữ liệu thưa (URL click thưa), khi các vectors thưa, chất lượng gom cụm sẽ bị ảnh
hưởng.
-

Trong thuật giải gom cụm, khi Query Logs lớn, hoặc số chiều của mỗi vector lớn, mảng dim_array[d]
sẽ có kích thước rất lớn, đòi hỏi cấp phát một lượng bộ nhớ lớn khi thực thi.
Thực tế, trong một phiên tìm kiếm bất kỳ, người sử dụng nhập vào một hoặc khá nhiều truy vấn, cũng như

vậy, người sử dụng có thể khơng hoặc click rất nhiều URL kết quả, trong đó mặc nhiên có những URL click khơng
như ý, được xem như nhiễu (noise). Phương pháp hướng ngữ cảnh cần có chuỗi truy vấn liên tiếp mới hình thành
ngữ cảnh khơng phản ảnh thực tế, khi người dùng chỉ nhập vào 1 truy vấn. Tuy nhiên, việc phụ thuộc vào URL
click và không xét đến tính tương đồng term là nhược điểm rõ nhất của phương pháp này.
3.3.7. Các đề xuất kỹ thuật
Khai phá Query Logs, bước gom cụm trong ứng dụng của luận án không đơn thuần dựa vào click-through
mà tập trung vào ba thành phần cố định và chắc chắn, gồm: Câu truy vấn; Top N kết quả trả về; Tập URLs click.
Đây là ba thành phần quan trọng nhất của tác vụ khai phá dữ liệu, với các tiền đề:


Nếu giao các từ khóa (terms) trong 2 truy vấn đạt tỷ lệ nhất định thì 2 truy vấn đó tương đồng.


18


Nếu giao trong top N kết quả của 2 truy vấn đạt tỷ lệ nhất định thì 2 truy vấn đó tương đồng.



Nếu giao tập các URLs click của 2 truy vấn vượt ngưỡng tương đồng thì 2 truy vấn tương đồng.

Xét đồng thời tổ hợp các tiền đề nêu trên, kết hợp với các ngưỡng rút ra từ thực nghiệm, đảm bảo độ đo
tương đồng chính xác, luận án liệt kê các công thức sau:


Độ tương đồng (Similarity) theo từ khóa của 2 truy vấn p, q:
Simkeywords (p, q) = ⁡

∑n

i=1 w(ki (p))+w(ki (q))

(3.9)

2×MAX(kn(p),kn(q))

trong cơng thức trên:
- kn(.): tổng trọng số các terms trong p, trong q;
- w(ki(.)): trọng số term chung thứ i của p và q;


Độ tương đồng theo top50 URL kết quả của 2 truy vấn p, q:
Simtop50URL (p, q) = ⁡

∧(topUp,top⁡Uq)
2×MAX(kn(p),kn(q))

(3.10)

ký hiệu:  (topUp, topUq): phần giao trong top50URL kết quả của p và q;


Độ tương đồng theo clickedUrls của 2 truy vấn p, q:
∧(U_click_p,U_click_q)

SimURLsClicked (p, q) = ⁡ 2×MAX(kn(p),kn(q))

(3.11)

ký hiệu:  (U_Clickp, U_Clickq): số URLs click chung của p và q;

U_Clickp: số URL clicked trong 1 query;


Từ (3.9), (3.10), (3.11), đề xuất đẳng thức tính độ tương đồng tổ hợp:
Sim(p, q) = α. Sim(p, q) + β. Sim(p, q) + γ. Sim(p, q)⁡
𝑐𝑜𝑚𝑏𝑖𝑛𝑎𝑡𝑖𝑜𝑛

keywords

𝑡𝑜𝑝50𝑈𝑅𝐿

URLsclicked

(3.12)

Với α + β + γ = 1; α, β, γ là các tham số ngưỡng rút ra trong quá trình thực nghiệm. Trong ứng dụng máy
tìm kiếm, α = 0,4; β = 0,4; γ = 0,2.
3.2.8. Kỹ thuật phân lớp kết quả tìm kiếm dựa trên Dàn khái niệm (Concept Lattice)
Cấu trúc dàn có khả năng tự động phân nhóm tập kết quả trả về từ máy tìm kiếm. Việc phân nhóm tập kết
quả vào các chủ đề giúp người sử dụng dễ dàng quan sát, đưa ra quyết định tài liệu nào thích hợp, hạn chế việc
thơng tin phù hợp bị vùi lấp bởi một danh sách quá dài. Phân tích khái niệm hình thức (Formal Concept Analysis
- FCA) là một trong những kỹ thuật chính áp dụng trên dàn. FCA được ứng dụng để lập bảng với dịng mơ tả đối
tượng, cột mơ tả thuộc tính, từ đó dựng lên dàn [88]. Trong tìm kiếm thơng tin, FCA xét tương quan đối tượng thuộc tính như tương quan tài liệu - thuật ngữ. Tiến trình dựng dàn, FCA quy ước mỗi nút trong dàn là một khái
niệm. Thuật toán dựng dàn cài đặt vào mỗi khái niệm một cặp đơi: tập tài liệu có chung các thuật ngữ; tập thuật
ngữ cùng xuất hiện trong các tài liệu. Mở rộng, có thể xem mỗi khái niệm (mỗi nút trong dàn) như một cặp câu
hỏi, câu trả lời. Phép duyệt dàn bottom-up sẽ duyệt lên hoặc duyệt xuống trên dàn để đi đến khái niệm tổng quát
hoặc khái niệm chi tiết. Tương ứng với khái niệm tổng quát sẽ là số lượng tài liệu kết quả nhiều hơn, và ngược lại.
Với bộ dữ liệu thử (chuyên ngành hàng không), luận án sử dụng dàn để phân lớp tập kết quả trả về theo
chủ đề định sẵn.
a) Bài toán minh họa

19
Để nhìn trực quan về dàn khái niệm, luận án trình bày bài tốn (ví dụ) minh họa trong tự nhiên về dàn khái
niệm (tập đối tượng, tập thuộc tính). Từ bảng ngữ cảnh, dàn được hình thành một cách trực quan bởi lược đồ
Hasse:
Bảng 3.2: Bảng ngữ cảnh 1

Hình 3.10: Dựng dàn khái niệm từ bảng ngữ
cảnh 1.
Tương ứng với truy vấn: “cho biết lồi nào có cánh, bay được và đẻ con?”, phép duyệt và tìm kiếm trên
dàn trả về kết quả là một khái niệm C={G, M}=({Dơi}, {Bay được, Có cánh, Đẻ con}). Tuy nhiên, đặc điểm của
kỹ thuật FCA nằm ở phân lớp kết quả tìm kiếm. Nếu truy vấn đưa vào là “dơi”, tập kết quả thu được sẽ phân lớp
các chủ để: loài động vật “bay được”, “có cánh”, “đẻ con”. Tương tự, nếu truy vấn đưa vào là “jaguar”, tập kết
quả thu được sẽ được phân thành các chủ đề: “car”, “big cat”, “MAC OS”, …
Có thể thấy, việc phân hạng của thuật toán
dựa trên đặc trưng của cấu trúc dàn, tập khái niệm
cha chứa nhiều đối tượng (tài liệu) hơn, tập khái
niệm con chứa nhiều thuộc tính (terms) hơn. Khi
kết xuất, những kết quả đầu chứa tất cả các terms
cần tìm, các kết quả sau chứa một phần các terms
trong câu truy vấn, theo số lượng giảm dần. Hình
3.11 minh họa việc tìm kiếm và phân lớp tập kết
quả trả trên cấu trúc dàn [92]. Về phân lớp kết quả
tìm kiếm, trong quá trình duyệt dàn, tập phủ trên
(biến upper cover của hàm Locate_Pivot) chứa các
nhãn, các nhãn này mô tả chủ đề các phân lớp.

Hình 3.11: Tìm kiếm và phân lớp kết quả
với truy vấn “jaguar”.

b) Phép tạo và duyệt dàn
Tạo dàn: Với giải thuật AddIntent, thời gian của giải thuật được tính tốn trong trường hợp tốt nhất được
đánh giá bằng O(|L||G|2max(|g’|)). Trong đó L là dàn khái niệm, G là tập đối tượng của L, max(g’) là số thuộc tính
lớn nhất của một concept trong L.


20
Có thể nói, trong các giải thuật
tạo dàn, AddIntent là kỹ thuật thêm dần
các khái niệm vào dàn, nói cách khác,
giả sử tập dữ liệu mẫu có N tài liệu,
AddIntent sẽ thêm dần các tài liệu 1, 2,
…i, i+1, …, N vào dàn Li, Li+1, … L.
AddIntent có đoạn giả mã chính:
CreateLatticeIncrementally.
Diễn giải giải thuật:

Thủ tục CreateLatticeIncrementall
01: CreateLatticeIncrementally(G, M, I)
02: BottomConcept := (Ø, M)
03: L := {BottomConcept}
04: For each g in G
05:
ObjConcept=AddIntent(g’,BottomConcept,L)
06:
Add g to the extent of ObjConcept
and all concepts above
07: End For

Thủ tục CreateLatticeIncrementally(G, M, I) nhận vào toàn bộ tập dữ liệu mẫu (tập đối tượng G gồm các
files, tập thuộc tính M gồm các terms trong files, và tương quan I thuộc G, M). AddIntent là giải thuật theo hướng
Bottom-Up, được khởi gán bằng {0, M}. Nói cách khác, khái niệm BottomConcept chứa toàn bộ terms của dàn L
(dịng 02). Tiến trình bắt đầu với việc cập nhật khái niệm BottomConcept vào đáy của dàn (dòng 03).
Với mỗi đối tượng g thuộc tập đối tượng G (với mỗi file thuộc tập files), thủ tục gọi hàm AddIntent để
thêm dần các khái niệm vào dàn khái niệm, truyền vào AddIntent ba tham biến: g’ (intent, tập terms trong một
file), khái niệm BottomConcept (tập terms trong các files) và dàn L (dòng 04, 05). Trong thân thủ tục, hàm
AddIntent tạo khái niệm (và các nối kết ràng buộc với khái niệm khác), vòng lặp For .. End For của thủ tục lần
lượt lấy từng khái niệm của tập khái niệm được tạo - để cập nhật vào Extent, dòng 06. Thủ tục kết thúc là dàn được
tạo xong.
Duyệt dàn: Xét mối quan hệ giữa các truy vấn có thể xem như mối quan hệ giữa các khái niệm trên dàn.
Khi tìm kiếm, hệ thống phân tích câu truy vấn, tìm ra các khái niệm hình thức (terms), duyệt dàn và so khớp với
các khái niệm thuộc dàn. Cốt lõi của việc duyệt dàn trên thực tế nằm ở hàm AddIntent. Có thể nói AddIntent là
hàm “xương sống” của hai tiến trình tạo dàn và tìm kiếm trên dàn. Tư tưởng của giải thuật duyệt và tìm kiểm trên
dàn như sau (BR-Explorer [95]): Sử dụng hàm AddIntent để đưa câu truy vấn (intent) vào dàn (nhằm thỏa quan
hệ thứ tự ≤). Sau đó tiến hành tìm khái niệm trụ (Locate_Pivot) ứng với intent của câu truy vấn.
Hàm Locate_Pivot
Cuối cùng tập kết quả gồm các tài liệu trong
khái niệm trụ + tài liệu trong các khái niệm cha của
khái niệm trụ là tập kết quả cần tìm. Nói cách khác,
nút cha Locate_Pivot sẽ chứa các chủ đề chung của
các nút con. Trong giải thuật BR-Explorer, đoạn giả
mã Locate_Pivot xác định tập phủ trên (tập chủ đề).
Diễn giải giải thuật: Tương ứng với truy vấn được
đưa vào từ phía người dùng, hàm Locate_Pivot sẽ:
- Trả về một khái niệm (khái niệm này nằm trong tập
phủ trên upper-cover của các khái niệm có intent (tập
terms) chứa hoặc bằng tập terms truy vấn q (dịng
04-13).
- Nếu khơng, trả về BottomConcept.

01: found := false
// ⊥ is the BottomConcept in B(Gq,Mq,Iq)
02: SUBS := {⊥}
03: while !found do
04: for each C = (A,B) ∈ SUBS do
05:
if x’ = B then
06:
Pivot P:=C; found:=true
07:
break
08:
else if x′ ⊂ B then
09:
SUBS:=upper-cover(SUBS)
10:
break
11:
end if
12: end for


21
Quá trình duyệt dàn, tập phủ trên (biến upper cover của hàm Locate_Pivot) chứa các nhãn, các nhãn này
mô tả chủ đề các phân lớp thuộc tập kết quả tìm kiếm.
c) Nhận xét
Việc phân hạng của thuật toán dựa trên đặc trưng của cấu trúc dàn, tập khái niệm cha chứa nhiều đối tượng
(tài liệu) hơn, tập khái niệm con chứa nhiều thuộc tính (terms) hơn. Kết quả tìm được sẽ được xếp hạng, những
kết quả đầu chứa tất cả các thuật ngữ cần tìm, các kết quả phía sau chứa một phần các thuật ngữ trong yêu cầu tìm

kiếm, theo số lượng giảm dần.
Luận án cài
đặt thực nghiệm trên
dữ liệu mẫu là các tài
liệu về các chuyến bay
[98], [99]. Hình 3.12
minh họa việc duyệt và
tìm kiếm trên dàn
tương ứng với truy vấn
“Hãng nào bay đến
US, Europe, Canada,
Mexico, Carribean ?”.

Hình 3.12: Tìm kiếm, phân lớp trên dàn.

Trong thực nghiệm máy tìm kiếm hướng ngữ cảnh (mục 3.4), các thủ tục tạo dàn và duyệt dàn được áp
dụng trong việc phân lớp kết quả tìm kiếm.
Ưu điểm: Dàn khái niệm thích hợp với kỹ thuật gom cụm (theo các chủ đề), phân lớp các khái niệm; Mối
quan hệ khái niệm cha - khái niệm con của cấu trúc dàn thỏa quan hệ thứ tự ≺ , do đó, người tìm kiếm có thể khai
thác thơng tin tại các node lân cận thuộc dàn mà khơng mất thời gian tìm kiếm lại trên toàn tập cơ sở dữ liệu văn
bản lớn.
Nhược điểm: Khi truy vấn được đưa vào dàn, phải gọi lớp AddIntent. AddIntent thực hiện đệ qui, dẫn
đến tăng đáng kể thời gian tìm kiếm. Hàm BR-Explorer có nhược điểm về thời gian tính, nội hàm gọi các hàm
khác (để tính toán lan truyền trên dàn) và phải đệ qui (khi thêm câu truy vấn vào dàn thông qua AddIntent).
3.4. Kết quả thực nghiệm – Đánh giá

Hình 3.13: Mơ hình tìm kiếm hướng ngữ cảnh tích hợp tương tác giọng nói tiếng Việt.


22

Ứng dụng máy tìm kiếm chuyên
sâu khác SE tổng quát ở 3 điểm: Dữ liệu
đầu vào phụ thuộc miền, Query Logs đặc
thù, gợi ý truy vấn hướng ngữ cảnh, phân
nhóm kết quả trả về, hình thành nên một
máy tìm kiếm khác với các máy tìm kiếm
tổng quát. Việc bổ sung thêm nhận dạng,
tổng hợp tiếng nói vào máy tìm kiếm
hình thành 1 máy tìm kiếm hướng ngữ
cảnh & tương tác giọng nói [34], [76].

Hình 3.17: Tìm kiếm hướng ngữ cảnh..

Đánh giá, so sánh: Để đánh giá hiệu quả của phương pháp hướng ngữ cảnh, luận án lập bảng đối sánh
giữa SE hướng ngữ cảnh và Lucene (Nutch), đồng thời so sánh kỹ thuật gợi ý truy vấn với 2 phương pháp baselines:
Adjacency và N-Gram. Tiêu chí so sánh dựa vào:


Tính thích đáng (quality - độ đo chất lượng) và



Tính đa dạng (coverage - độ phủ) của tập gợi ý truy vấn.

Tập dữ liệu mẫu áp dụng trong thử nghiệm được thực hiện trên một phần của tập dữ liệu gốc với khoảng
20000 tài liệu lĩnh vực Hàng không, thuộc các định dạng phổ biến: html, pdf, doc, xls, txt, .v.v, mỗi tài liệu có độ
dài biến đổi từ 1 đến 4500 trang A4.
Bảng 3.3: Bảng so sánh tìm kiếm hướng ngữ cảnh và Lucene-Nutch
Lucene - Nutch
Tập dữ liệu mẫu

Thời gian tìm kiếm

SE hướng ngữ cảnh
Chung tập dữ liệu

milliseconds

Milliseconds

Có

Có

Thơng dụng

Áp dụng trên mạng VNA

Khả năng gợi ý nhanh

Khơng

Có

Phân loại tập kết quả trả về

Khơng

Có

Gợi ý truy vấn

Khơng

Có

Xếp hạng kết quả (ranking)
Tính thực tiễn

Tiêu chí so sánh
Độ đo chất lượng phản ánh đúng đắn nhu cầu thông tin đồng thời giúp người sử dụng tìm được những gì
họ quan tâm. Độ phủ phản ánh tính đa dạng, bao phủ nhiều khía cạnh tìm kiếm khác nhau. Để thực hiện đánh giá,
luận án so sánh kỹ thuật gợi ý hướng ngữ cảnh với 2 phương pháp baselines: Adjacency và N-Gram.
Phương pháp Adjacency nhận vào chuỗi truy vấn q1, q2, .., qi - trên tất cả các phiên tìm kiếm - Adjacency
xếp hạng theo tần suất xuất hiện các truy vấn ngay sau 1 truy vấn qi. Kết xuất topN (N=5) truy vấn có tần suất xuất
hiện cao nhất như danh sách gợi ý.
Tương tự, N-Gram nhận chuỗi đầu vào query sequence qs = q1, q2, .., qi. Trên các phiên tìm kiếm, N-Gram
thực hiện xếp hạng theo tần suất xuất hiện các truy vấn ngay sau chuỗi qs, trả về topN truy vấn có tần suất xuất
hiện cao nhất như danh sách gợi ý.


23
60
50
40
30
20
10
0

1

0.9
0.8

Adjacency N-Gram

Hướng
ngữ cảnh

0.7
Adjacency N-Gram

Hướng
ngữ cảnh

Hình 3.14: (a): Độ đo tính đa dạng; (b): Độ đo tính thích đáng.
Độ phủ được đo bằng tỷ lệ số test cases có khả năng đưa ra gợi ý truy vấn trên tổng số test cases. Hình a
minh họa kết quả phép đo độ phủ của 3 phương pháp. Như giả thiết, khi nhận vào test case qs = q1, q2, .., qi, phương
pháp N-Gram chỉ đưa ra được danh sách gợi ý nếu tồn tại trong dữ liệu huấn luyện phiên tìm kiếm dạng qs1= q1,
q2, .., qi, qi+1, .., qj. Rõ ràng, phương pháp Adjacency có tỷ lệ đa dạng vượt trội so với phương pháp N-gram, vì chỉ
cần tồn tại chuỗi dạng qs2= .., qi, qi+1, .., qj thuộc dữ liệu huấn luyện. Nói cách khác, qs1 là một trường hợp đặc
biệt của qs2. Tuy nhiên, xét theo trình tự thời gian trong một phiên tìm kiếm, phương pháp N-Gram có ưu điểm khi gợi ý, sẽ gợi ý thành chuỗi (cả chuỗi gợi ý). So với 2 phương pháp N-Gram và Adjacency, trường hợp “vắng
mặt” cả qs1 lẫn qs2, phương pháp hướng ngữ cảnh chứng minh tính hiệu quả trội hơn 2 phương pháp trên, bởi chỉ
cần chuỗi truy vấn dạng qs2’= .., qi’, qi+1, .., qj mà qi và qi’ tương đồng (thuộc cùng một cụm), ký thuật hướng ngữ
cảnh vẫn thực hiện cung cấp danh sách gợi ý.
Độ đo chất lượng được tính điểm bằng cách lấy ý kiến chuyên gia (con người). Đối chiếu với truy vấn
hiện hành, nếu câu gợi ý trong danh sách được đánh giá là thích đáng, phương pháp được cộng 1 điểm. Nếu danh
sách gợi ý có hai hoặc nhiều hơn các câu gợi ý gần trùng lặp, phương pháp chỉ được cộng 1 điểm. Nếu test case
không đưa ra được gợi ý, thử nghiệm không đếm test case này. Tổng điểm của một phương pháp ứng với một test
case cụ thể bằng tổng điểm cộng được chia cho tổng số câu gợi ý truy vấn. Điểm trung bình của mỗi phương pháp
bằng thương số giữa tổng điểm và tổng số test cases đếm được.

Trên tất cả các mẫu thử nghiệm, trên cả 2 phép đo về tính thích đáng và tính đa dạng, thang điểm đánh giá
của 3 phương pháp được minh họa trong hình b, cho thấy gợi ý hướng ngữ cảnh tối ưu so với 2 phương pháp
baselines. Thay vì gợi ý ở mức truy vấn đơn lẻ, phương pháp hướng ngữ cảnh xác định ý đồ tìm kiếm của người
sử dụng ở mức cụm (mức khái niệm).
CHƯƠNG 4: KẾT LUẬN VÀ KIẾN NGHỊ
4.1. Kết luận
Áp dụng phân tích khái niệm hình thức (FCA – Formal Concept Analysis) và cấu trúc dàn khái niệm để
khai phá và tìm kiếm dữ liệu văn bản. Dàn có một cấu trúc đẹp về mặt tốn học, thích hợp với khai phá, phân tích
và gom cụm dữ liệu, nhưng dàn khơng hồn tồn thích hợp trong lĩnh vực tìm kiếm. Do đó, luận án chun sâu
hai hướng nghiên cứu chính: i) Tìm kiếm thực thể dựa trên quan hệ ngữ nghĩa, nhằm mô phỏng khả năng suy ra
thông tin/tri thức chưa biết bằng suy diễn tương tự, như một khả năng “tự nhiên” của con người; và ii) Gợi ý truy
vấn hướng ngữ cảnh - xét chuỗi truy vấn liền mạch nhằm nắm bắt ý định tìm kiếm, sau đó đưa ra xu hướng mà tri
thức số đông thường hỏi sau truy vấn hiện hành.