Bài Giảng Kỹ Thuật Lập Trình Hook

Win32 Programming Tutorials 
Kỹ thuật lập trình Hook

Kỹ thuật lập trình Hook

s

NhatPhuongLe

For more updated
info, please check
www.reaonline.net
Reverse Engineering Association


Trang 1


Kỹ thuật lập trình Hook

MỤC LỤC
I.

Các khái niệm cơ bản .................................................................................................................... 3
1. Sự khác biệt giữa lập trình Windows và DOS........................................................................... 3
2. Lập trình Windows .................................................................................................................... 3
a) Thông điệp và hàng đợi thông điệp ....................................................................................... 3
b) Lập trình sự kiện .................................................................................................................... 4
II. Tìm hiểu về Hook.......................................................................................................................... 7
1. Hook là gì?................................................................................................................................. 7
2. Phân loại Hook .......................................................................................................................... 9

a) Phân loại theo phạm vi hoạt động.......................................................................................... 9
b) Phân loại theo thông điệp xử lý ........................................................................................... 10
3. Thủ tục Hook – Chuỗi Hook ................................................................................................... 12
a) Thủ tục Hook ....................................................................................................................... 12
b) Chuỗi Hook.......................................................................................................................... 13
III.
Minh họa cách lập trình Hook ................................................................................................. 15
1. Cài đặt thủ tục Hook................................................................................................................ 15
2. Chuyển thông điệp đến thủ tục Hook kế tiếp .......................................................................... 16
3. Hủy bỏ cài đặt Hook................................................................................................................ 17

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 2


Kỹ thuật lập trình Hook
I. Các khái niệm cơ bản
1. Sự khác biệt giữa lập trình Windows và DOS

Windows

DOS

Lập trình sự kiện dựa vào thông điệp

Thực hiện tuần tự theo chỉ định

Đa nhiệm

Đơn nhiệm

Hỗ trợ 32 bits hay hơn nữa

Ứng dụng 16 bits

Hỗ trợ nhiều công nghệ DLL, OLE, DDE,

Không có

COM, OpenGL, DirectX
.......

.......

2. Lập trình Windows
a) Thông điệp và hàng đợi thông điệp
Nhắc đến Windows, người ta thường nghĩ về nó như một hệ điều hành (HĐH)
dễ sử dụng, ở đó, sự tương tác giữa người dùng với các ứng dụng cũng như với các
thành phần tiện ích của Windows thông qua giao diện đồ họa (GUI) bằng các thao tác
trên bàn phím và chuột vô cùng đơn giản. Một câu hỏi được đặt ra là: “Các ứng dụng
làm thế nào để phân loại, lưu giữ cũng như phản hồi lại những tương tác đó cho người
dùng?”. Đối với Windows vấn đề này được giải quyết một cách trọn vẹn: HĐH đưa ra
cơ chế thông điệp (message) và hàng đợi thông điệp (message queue) cùng với tập
hợp các cấu trúc dữ liệu và các hàm API hỗ trợ ứng dụng trong việc giao tiếp với
người dùng.
Windows có 2 loại hàng đợi thông điệp: Hàng đợi hệ thống (system queue) và

hàng đợi ứng dụng (application queue). Hàng đợi hệ thống là hàng đợi duy nhất và
được dùng chung cho toàn hệ thống, mọi tiến trình đang chạy đều chia sẻ hàng đợi
này. Nhiệm vụ của hàng đợi hệ thống là nó ghi lại những sự kiện phần cứng (chuột,
bàn phím, …) khi chúng xảy ra.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 3


Kỹ thuật lập trình Hook
Mỗi sự kiện sẽ được nhanh chóng chuyển thành thông điệp, sau đó Windows sẽ
lần lượt lấy thông điệp từ hàng đợi hệ thống để xem xét và chuyển những thông điệp
đó đến chương trình ứng dụng tương ứng. Những thông điệp này khi được chuyển đến
ứng dụng, chúng tạo thành hàng đợi ứng dụng.
b) Lập trình sự kiện
Mỗi ứng dụng có một hàng đợi ứng dụng khác nhau. Một ứng dụng nhận các
thông điệp từ hàng đợi ứng dụng bằng cách gọi hàm GetMessage, sau đó lại gọi tiếp
TranslateMessage để dịch thông điệp, cuối cùng gọi hàm DispatchMessage để trả lại
thông điệp cho Windows. Việc lấy thông điệp này cứ lặp đi lặp lại, tạo thành vòng lặp
thông điệp. Vòng lặp này kết thúc khi hàm GetMessage trả về giá trị 0 nếu thông điệp
có định danh là WM_QUIT (0x0012).

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 4


Kỹ thuật lập trình Hook
Thông thường, chúng ta chỉ chặn để xử lý các thông điệp có liên quan đến chức năng
của ứng dụng, các thông điệp khác thì giao cho hàm xử lý mặc định làm việc (hàm
DefWindowsProc). Để dễ tưởng tượng, ta sẽ lấy một ví dụ khi chương trình xử lý
thông điệp bàn phím. Khi đó, sơ đồ của quá trình xử lý sự kiện bàn phím như sau:

Trình điều khiển bàn phím (Keyboard Device Driver) sẽ thông dịch mã quét và
chuyển nó thành mã phím ảo (vitual-key code), một giá trị độc lập thiết bị, được định
nghĩa bởi hệ thống. Sau đó, trình điều khiển tạo một thông điệp bao gồm scancode,
virtual-key code cùng một số thông tin khác (sự lặp phím, trạng thái các phím Alt,
Ctrl...) , đặt vào hàng đợi hệ thống. Hệ thống lấy thông điệp này ra khỏi hàng đợi hệ
thống và gửi đến hàng đợi thông điệp của ứng dụng. Cuối cùng, vòng lặp thông điệp
(Message Loop) sẽ lấy thông điệp ra khỏi hàng đợi ứng dụng và chuyển nó đến hàm
xử lý thông điệp thích hợp để xử lý.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 5


Kỹ thuật lập trình Hook
Ta có sơ đồ của hàng đợi thông điệp như sau:

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 6


Kỹ thuật lập trình Hook
II. Tìm hiểu về Hook
1. Hook là gì?
Hook là một cơ chế trong lập trình sự kiện, cho phép ứng dụng có thể cài đặt một
hàm giám sát vào quá trình lưu chuyển các thông điệp. Hay nói cách khác hook là 1 cơ chế
cho phép chặn các sự kiện (chuột, bàn phím, thông điệp) trước khi chúng được gửi tới hàng
đợi của ứng dụng.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 7


Kỹ thuật lập trình Hook
Các hàm này có thể được dùng để xử lý các sự kiện và trong nhiều trường hợp, chúng cũng
có thể thay đổi hoặc huỷ bỏ các sự kiện đó. Một điểm quan trọng cần lưu ý là các hàm này
được hệ điều hành gọi chứ không phải là chương trình ứng dụng của ta gọi. Các hàm nhận sự
kiện được gọi là hàm lọc (filter function) và được phân loại theo loại sự kiện mà chúng chặn.
Ví dụ: 1 hàm lọc chặn các sự kiện chuột khác với hàm lọc chặn các sự kiện bàn phím.

Trước khi Windows gọi 1 hàm lọc, hàm lọc đó phải được cài đặt, nghĩa là phải được
gắn với hook của Windows (ví dụ như hook bàn phím). Gắn 1 hay nhiều hàm lọc vào 1 hook
được gọi là thiết lập hook (setting a hook). Nếu hook có hơn 1 hàm lọc thì Windows tạo ra 1
dãy các hàm lọc (hook chain). Khi 1 hook có nhiều hàm lọc và có 1 sự kiện xảy ra bị hook
bắt được, Windows sẽ gọi hàm lọc đầu tiên trong dãy hàm lọc. Hành động này được gọi là
“gọi hook”.
Ví dụ: nếu 1 hàm lọc được gắn vào hook CBT và có 1 sự kiện bị bắt được (ví dụ: tạo 1
cửa sổ), Windows sẽ gọi hook CBT bằng cách gọi hàm đầu tiên trong dãy hàm lọc. Như vậy,
ta có sơ đồ hook như sau:

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 8


Kỹ thuật lập trình Hook
Hook có khả năng can thiệp rất sâu vào trong hệ thống, nó có thể làm cho hệ thống
hoạt động chậm chạp hơn hoặc thậm chí có thể làm treo hệ thống nếu không được xử lý tốt.
Bới vậy, ta chỉ nên dùng hook trong trường hợp cần thiết và phải huỷ bỏ ngay hook khi
không cần dùng đến. Để cài đặt và gỡ cài đặt hook, chương trình cần dùng các hàm
SetWindowsHookEx và UnhookWindowsHookEx.

2. Phân loại Hook
a) Phân loại theo phạm vi hoạt động
 Hook cục bộ (Thread Hook hay Local Hook): hàm giám sát được cài đặt
vào sau hàng đợi thông điệp ứng dụng (Thread message Queue hay
Application Queue), chỉ kiểm soát các thông điệp trong một tiến trình hay

một ứng dụng cụ thể nào đó được xác định lúc cài đặt thủ tục Hook
 Hook toàn cục (Global Hook): hàm giám sát được cài đặt vào sau hàng đợi
thông điệp hệ thống, kiểm soát toàn bộ các tiến trình trong hệ thống
 Thủ tục hook toàn cục phải được khai báo ở một DLL tách biệt.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 9


Kỹ thuật lập trình Hook
b) Phân loại theo thông điệp xử lý
Loại Hook

Công dụng
 Cho phép giám sát các thông điệp được gởi tới một
cửa

WH_CALLWNDPROC

sổ.

Hệ

thống

gọi

thủ

tục

Hook

của

WH_CALLWNDPROC trước khi gởi thông điệp đến
cửa sổ đích và gọi WH_CALLWNDPROCRET sau
khi thủ tục ở cửa sổ đích xử lý xong thông điệp.

và

 Hook WH_CALLWNDPROCRET truyền một con trỏ

WH_CALLWNDPROCRET

có cấu trúc CWPRETSTRUCT tới thủ tục Hook. Cấu
trúc này chứa giá trị trả về của thủ tục cửa sổ đã xử
lý thông điệp
Windows gọi hàm Hook CBT trước khi tạo lập, kích
hoạt, hủy, thu nhỏ, phóng to, di chuyển, thay đổi kích
thước, ... của cửa sổ giao diện; hoặc trước khi hoàn
thành một lệnh của hệ thống; hoặc trước khi hủy bỏ một
sự kiện chuột hay bàn phím khỏi hàng đợi hệ thống;
hoặc trước khi đặt một điều khiển vào 1 input nào đó;

WH_CBT

hoặc trong lúc đồng bộ hàng đợi thông điệp hệ thống.
Giá trị trả về của thủ tục hook cho biết hệ thống sẽ chấp
nhận hay là hủy bỏ những hành động đó hay không.
Hook WH_CBT thường được dùng cho các chương
trình đào tạo trên máy tính.
Hệ thống gọi thủ tục WH_DEBUG trước khi gọi các thu
tục hook khác trong hệ thống. Ta có thể dùng hook này

WH_DEBUG

để xác định xem có cho phép gọi các thủ tục hook khác
hay không.
Hook này cho phép ta thực thi các tác vụ với mức ưu
tiên thấp khi các tiến trình chạy nền của nó được đặt ở

WH_FOREGROUNDIDLE

trạng

thái

nghỉ

ngơi.

Hệ

thống

gọi

thủ

tục

WH_FOREGROUNDIDLE khi chương trình chạy nền
chuẩn bị chuyển sang chế độ nghỉ ngơi (idle).

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 10


Kỹ thuật lập trình Hook

hook này cho phép một chương trình giám sát các
thông điệp được trả về bởi các hàm GetMessage và
PeekMessage.

WH_GETMESSAGE

Ta

có

thể

dùng

hook

WH_GETMESSAGE để giám sát sự kiện chuột và bàn
phím và các sự kiện khác được gửi đến hàng đợi thông
điệp.
cho phép một chương trình có thể chèn thông điệp vào
hàng đợi thông điệp hệ thống. Ta có thể dùng hook này
để chạy lại (play back) các sự kiện chuột và bàn phím
được

ghi

lại

(record)

trước

WH_JOURNALRECORD.

đó

bởi

Khi

hook

hook

WH_JOURNALPLAYBACK được cài đặt, chuột và bàn
WH_JOURNALPLAYBACK

phím sẽ bị đóng băng. Hook này chỉ dành riêng để hook
hệ thống, ta không thể dùng để cài đặt hook cục bộ.
Hook này trả về một giá trị time-out. Giá trị này cho hệ
thống biết phải đợi bao nhiêu mili-giây trước khi xử lý
thông

điệp

hiện

tại

nhận

được

từ

hook

WH_JOURNALPLAYBACK. Điều này cho phép hook có
thể điều khiển khoảng thời gian của sự kiện mà nó play
back.
Cho phép giám sát và ghi lại các sự kiện vào (input
event). Hook này thường được dùng để ghi lại chuỗi các

WH_JOURNALRECORD

sự kiện chuột và bàn phím để sau đó được phát lại nhờ
hook WH_JOURNALPLAYBACKHOOK. Hook này chỉ
dành riêng để hook hệ thống, ta không thể dùng để cài
đặt hook cục bộ.

WH_KEYBOARD_LL
WH_KEYBOARD
WH_MOUSE_LL

Cho phép giám sát sự kiện vào của bàn phím được gửi
tới hàng đợi ứng dụng.
Hook giám sát thông điệp từ bàn phím WM_KEYDOWN,
WM_KEYUP
Cho phép giám sát sự kiện vào của chuột được gửi tới
hàng đợi ứng dụng.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 11


Kỹ thuật lập trình Hook

Cho phép giám sát thông điệp của chuột được trả về
bới hàm GetMessage hoặc PeekMessage. Ta có thể

WH_MOUSE

dùng hàm này để theo dõi sự kiện nhập từ chuột
(mouse input) được gửi tới hàng đợi thông điệp.
Xử lý hoặc thay đổi tất cả các thông điệp cho hộp thoại
cửa sổ, hộp thoại thông điệp hoặc là menu của chương

WH_MSGFILTER

trình
WH_SYSMSGFILTER

Xử lý hoặc thay đổi tất cả các thông điệp cho hộp thoại
cửa sổ, hộp thoại thông điệp hoặc là menu của hệ thống
Một chương trình shell có thể dùng hook WH_SHELL để
nhận các thông báo quan trọng. Hệ thống gọi một thủ
tục WH_SHELL khi chương trình shell được kích hoạt

WH_SHELL

và khi một cửa sổ mức cao (top-level) được khởi tạo
hoặc huỷ bỏ.

3. Thủ tục Hook – Chuỗi Hook
a) Thủ tục Hook
 Là một thủ tục được cài đặt để xử lý cho một loại hook nào đó. Thủ tục này được
gọi bởi HĐH, nó là hàm CallBack.
 Dạng chung của Hook Function:
LRESULT CALLBACK HookProc(int nCode, WPARAM wParam, LPARAM lParam);

Trong đó:
 nCode: tham số này thường được gọi là “hook code”, thủ tục Hook sử dụng giá trị
này để quyết định cách thức xử lý đối với sự kiện. Việc xử lý với mỗi sự kiện như
thế nào là hoàn toàn phụ thuộc vào người lập trình. Giá trị của hook code tùy
thuộc vào từng loại hook cụ thể, và mỗi loại hook sẽ có tập hợp những giá trị
hook code đặc trưng của riêng mình. Khi Windows truyền cho hàm giá trị hook
code âm, thủ tục không được xử lý sự kiện mà phải gọi hàm CallNextHookEx với

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 12


Kỹ thuật lập trình Hook
chính những tham số mà HĐH truyền cho nó. Sau đó, nó phải trả về giá trị được
trả về bởi hàm CallNextHookEx.
 wParam, lParam: Đây là những thông tin cần thiết cho thủ tục Hook trong quá
trình xử lý sự kiện. Các giá trị này sẽ có ý nghĩa khác nhau tuỳ thuộc vào từng loại
hook.
Ví dụ: thủ tục gắn với hook WH_KEYBOARD sẽ nhận mã phím ảo (Virtual-Key
Code) từ wParam, đồng thời có được từ lParam thông tin mô tả trạng thái của bàn
phím khi sự kiện gõ phím xảy ra.
 Mỗi loại Hook cần có cách xử lý khác nhau khi xây dựng thủ tục Hook.
 Có thể cài đặt nhiều thủ tục Hook bằng cách dùng hàm SetWindowsHook hay
SetWindowsHookEx
 Thủ tục Hook cài sau sẽ luôn nằm ở vị trí đầu tiên trong chuỗi Hook

b) Chuỗi Hook
Là một dãy các thủ tục Hook được liên kết theo thứ tự ưu tiên thực hiện giảm dần

 Đặc điểm Chuỗi Hook:
 Hệ thống có khả năng hỗ trợ nhiều loại hook khác nhau, mỗi loại được quy
định một cách thức truy nhập khác nhau  Hệ thống duy trì từng chuỗi Hook
riêng biệt cho mỗi loại hook
 Khi có một message được sinh ra thuộc một loại hook nào đó, nó sẽ được hệ
thống đẩy vào hàm hook đầu tiên trong chuỗi, sau đó được chuyển lần lượt đến
các thủ tục Hook kế tiếp nhờ xử lý trong thủ tục Hook.
 Một chuỗi hook là một danh sách các con trỏ đặc biệt, nó được trỏ tới các hàm
CallBack gọi là hook procedure (thủ tục hook). Như vậy khi một sự kiện xuất
hiện, hệ thống sẽ chuyển sự kiện đó tới các thủ tục hook được tham chiếu bới
chuỗi hook theo thứ tự lần lượt. Vì thế phải thực hiện xong thủ tục này mới
được gọi thủ tục kế tiếp.

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 13


Kỹ thuật lập trình Hook

Sơ đồ Hook Chain

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 14


Kỹ thuật lập trình Hook
III. Minh họa cách lập trình Hook
1. Cài đặt thủ tục Hook
 Một ứng dụng cần phải thực hiện việc Cài đặt thủ tục Hook khi muốn giám sát
thông điệp
 Hàm SetWindowsHookEx sẽ cài đặt thủ tục Hook vào điểm bắt đầu của chuỗi
Hook
HHOOK SetWindowsHookEx(
int hookMsg, HOOKPROC hookProc,
HINSTANCE hIns, DWORD threadId);
Trong đó,
 hookMsg: loại Hook
 hookProc: con trỏ đến thủ tục Hook. Trường hợp Hook toàn cục, thủ tục
Hook phải lưu trong DLL; với Thread Hook, thủ tục Hook có thể chứa
trong chính thread tương ứng
 hIns: handle của module chứa thủ tục Hook
 threadId: ID của thread. Nếu là 0, Hook sẽ là Global
Ví dụ 1: Cài đặt Keyboard Hook toàn cục (load-time)
SetWindowsHookEx(WH_KEYBOARD, KeyboardProc, hInstDLL, 0);

Ví dụ 2: Cài đặt Keyboard Hook toàn cục (run-time)
HOOKPROC fnKeyboardProc;
static
HINSTANCE hInstDLL;

static
HHOOK hHook;
hInstDLL = LoadLibrary((LPCTSTR) “myKBDLL.dll");
fnKeyboardProc = (HOOKPROC)GetProcAddress(hInstDLL, “KeyboardProc");
hHook = SetWindowsHookEx(WH_KEYBOARD, fnKeyboardProc, hInstDLL, 0);

Ví dụ 3: Cài đặt Keyboard Hook cục bộ
SetWindowsHookEx(WH_KEYBOARD, KeyboardProc, NULL,GetCurrentThreadId());

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 15


Kỹ thuật lập trình Hook
Ví dụ 4: Thủ tục hook cho Keyboard
LRESULT CALLBACK KeyboardProc(int nCode, WPARAM wParam, LPARAM lParam)
{
if (nCode >= 0 && nCode == HC_ACTION)
{
pMsg = (MSG *)lParam;
if (pMsg->message == WM_KEYDOWN)
{
char s[] = {LOBYTE(wParam),’\0’};
MessageBox(NULL, s, “Hook”, 0);
}
}

return CallNextHookEx(hHook, nCode,wParam, lParam);
}

Ví dụ 5: Hàm hook cho Mouse
LRESULT CALLBACK MouseProc(int nCode, WPARAM wParam, LPARAM lParam)
{

}

if (nCode < 0) // không xử lý message
return CallNextHookEx(hHook, nCode,wParam, lParam);
// xử lý message
char szBuf[128];
sprintf(szBuf, “MOUSE – Msg: %d, x: %d, y: %d”,
wParam, LOWROD(lParam), HIWORD(lParam));
MessageBox(NULL, szBuf, “MouseHook”, MB_OK);
return CallNextHookEx(hHook, nCode, wParam, lParam);

2. Chuyển thông điệp đến thủ tục Hook kế tiếp
Sau khi thực hiện xong, thủ tục Hook sẽ gọi hàm CallNextHookEx để chuyển
message đến thủ tục Hook kế tiếp trong chuỗi Hook
LRESULT CallNextHookEx(
HHOOK hHook, int code,
WPARAM wParam, LPARAM lParam);
 Tham số đầu tiên là handle của hook hiện hành, giá trị này có thể lấy được từ hàm
SetWindowsHookEx khi cài đặt hook.
 Ba tham số tiếp theo là những giá trị mà thủ tục Hook hiện tại truyền cho thủ tục
Hook kế tiếp trong chuỗi Hook .

NhatPhuongLe

www.reaonline.net

Reverse Engineering Association

Trang 16


Kỹ thuật lập trình Hook
Trong một số tình huống, thủ tục Hook hiện hành có thể không muốn chuyển
sự kiện cho thủ tục Hook kế tiếp khác trong cùng một chuỗi Hook. Lúc này, nếu loại
hook ta đang cài đặt cho phép huỷ bỏ sự kiện, và thủ tục của ta cũng có cùng quyết định
là hủy bỏ, nó sẽ không phải gọi hàm CallNextHookEx.
Trong thực tế, người lập trình sẽ không thể biết được vị trí thủ tục Hook của
mình trong chuỗi các hook. Bởi vì khi ta gọi hàm CallNextHookEx, Windows mới là
đối tượng quyết định xem phải chọn hàm nào để bàn giao sự kiện, và quá trình này dĩ
nhiên đã được HĐH giấu kín. Do đó, người lập trình phải tuân thủ các nguyên tắc của
Hệ điều hành khi cài đặt và sử dụng một hook.

3. Hủy bỏ cài đặt Hook
 Sử dụng kỹ thuật Hook sẽ làm giảm khả năng thực thi của hệ thống
 Do đó, khi không sử dụng Hook nữa nên hủy bỏ Hook khỏi hệ thống
BOOL UnhookWindowsHooks(HHOOK hHook);

NhatPhuongLe
www.reaonline.net

Reverse Engineering Association

Trang 17