Tải bản đầy đủ (.pdf) (13 trang)

đOì‚Ì€ aìn ie224 nhoìm 13

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (737.8 KB, 13 trang )

ĐẠI HỌC QUỐC GIA TP. HỒ CHÍ MINH
TRƯỜNG ĐẠI HỌC CƠNG NGHỆ THƠNG TIN
🙤🙧🟍🙥🙦

DỰ ĐỐN GIÁ Ơ TƠ CŨ DỰA TRÊN DỮ LIỆU
TỪ WEBSITE CHỢ TỐT

Sinh viên thực hiện:
STT
Họ tên
1
Nguyễn Thanh Hiếu
2
Hồ Nguyễn Gia Huy

MSSV
20521328
20521386

TP. HỒ CHÍ MINH – 12/2023

Ngành
CNCL2020
CNCL2020


Đồ án mơn học Phân tích Dữ liệu – IE224
1.

GIỚI THIỆU


Đề tài này sẽ xây dựng một mơ hình dự đốn giá xe ơ tơ cũ trên trang web Chợ
tốt () dựa trên các yếu tố quan trọng như Giá bán, Hãng sản xuất,
Năm sản xuất, Số kilomet đã đi, Loại hộp số, Loại nhiên liệu, Xuất xứ, Kiểu dáng, Số
chỗ. Mục tiêu là nắm bắt thông tin về thị trường mua bán ô tô cũ trực tuyến.
Để thực hiện việc thu thập dữ liệu, nhóm đã sử dụng thư viện Selenium để tự
động trích xuất thơng tin từ trang web Chợ tốt. Sau đó nhóm tiến hành phân tích làm
sạch dữ liệu và sử dụng các công cụ hồi quy như Hồi quy tuyến tính (Linear
Regression), Rừng ngẫu nhiên (Random Forest) và Mạng Neural để tiến hành dự đoán
và đưa ra nhận xét.
Kết quả nhận được đó là thuật tốn Mạng Neural đạt kết quả tốt nhất sau đó đến
Hồi quy tuyến tính và cuối cùng là Rừng ngẫu nhiên.
Nhóm cam kết rằng bộ dữ liệu và đồ án này là kết quả mà nhóm đã tự phân tích
và không phải là sự hợp nhất từ các nguồn dữ liệu khác.
Bộ dữ liệu và đề tài do nhóm tự phân tích thiết kế, khơng dựa trên đề tài khác.
2.

MƠ TẢ BỘ DỮ LIỆU

Bộ dữ liệu này là một tập hợp thông tin về mua bán ô tô cũ trên 30 trang đầu của
trang web Chợ tốt.
Bộ dữ liệu phân tích tự thu thập tại />Bộ dữ liệu này được nhóm tự thu thập từ trang web Chợ tốt, khơng dựa trên bất
kì nguồn dữ liệu bên ngồi nào khác.

2.1.

Phương pháp thu thập dữ liệu
Thu thập dữ liệu bằng cách sử dụng thư viện Selenium:
− Đầu tiên sử dụng Google Chrome để truy cập trang web Chợ tốt.
− Tiếp theo, lấy danh sách các liên kết đến các bài đăng về mua bán ơ tơ cũ.
Nhóm nhận thấy các liên kết ơ tơ có chung class name với các liên kết của

những người bán ơ tơ nên nhóm đã lọc ra chỉ lấy mỗi dữ liệu về ô tô.
− Sau khi thu thập danh sách các liên kết, nhóm đã sử dụng Selenium để truy
cập từng liên kết. Khi truy cập vào một liên kết, đã thu thập thông tin về ơ tơ
cụ thể đó, bao gồm Tên đăng bán, Giá bán, Hãng sản xuất, Dòng xe, Năm
sản xuất, Số kilomet đã đi, Tình trạng, Loại hộp số, Loại nhiên liệu, Xuất
xứ, Kiểu dáng, Số chỗ, Chính sách bảo hành, Trọng lượng và Trọng tải.
− Dữ liệu thu thập được đã được xử lý và lưu trữ vào một tệp CSV.
− Sau khi thu thập xong dữ liệu nhóm nhận thấy bộ dữ liệu có nhiều chỗ bị
rỗng và bị trùng vậy nên đã tiến hành lọc ra và lưu trữ lại vào tệp CSV.

2.2.

Tiền xử lí dữ liệu
Sau khi thu thập được bộ dữ liệu nhóm tiến hành tiền xử lý dữ liệu:
− Tìm và loại bỏ các dịng bị khuyết hoặc trùng.

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 1


Đồ án mơn học Phân tích Dữ liệu – IE224
− Tìm và loại bỏ các cột khơng mang ý nghĩa cho việc dự đốn giá xe (Tên
đăng bán, Dịng xe)
− Xóa các cột chỉ có 1 giá trị duy nhất vì nó sẽ khơng làm ảnh hưởng đến giá
xe dự đốn (Tình trạng, Chính sách bảo hành, Trọng lượng, Trọng tải).
− Chỉnh sửa kiểu của Giá bán (chuyển sang dạng số)
− Hộp số (đồng nhất xe số sàn 5 cấp về “Số sàn”).
− Thêm Tuổi xe thay cho Năm sản xuất để dự đoán rõ hơn.
Bộ dữ liệu ban đầu gồm có 15 cột 590 dòng, sau khi lọc ra 93 dòng bị khuyết

dữ liệu (trong đó 89 dòng bị thiếu dữ liệu và 4 dòng trùng nhau) và lọc các cột
không cần thiết thì còn lại 497 dòng dữ liệu và 8 thuộc tính. Thơng tin về các
thuộc tính được mơ tả ở bảng bên dưới:
STT

Tên thuộc tính

Ý nghĩa

Kiểu dữ
liệu

1

Giá bán

Giá mà chủ ơ tơ
mong muốn có thể
bán được ở thời điểm
đăng bài

int64

755000000,
1990000000,.

2

Hãng xe


Hãng sản xuất của ô
tô được đăng bán

object

Mazda,
Mercedes
Benz,...

3

Năm sản xuất

Năm sản xuất của ô
tô được đăng bán

int64

2015, 2016,
2017,..

4

Số Km đã đi

Xe đăng bán đã đi
được bao nhiêu km

int64


2, 38000,
55000,..

5

Hộp số

Xe thuộc loại số sàn,
tự động hay bán tự
động

object

Số sàn, Tự động
hoặc Bán tự
động

6

Nhiên liệu

Nhiên liệu mà ô tô
sử dụng)

object

Xăng, Dầu hoặc
Động cơ hybrid

7


Xuất xứ

Nơi xuất xứ của xe

object

Đức, Nhật, Mĩ,...

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Minh họa dữ
liệu

Trang 2


Đồ án mơn học Phân tích Dữ liệu – IE224
STT

Tên thuộc tính

Ý nghĩa

Kiểu dữ
liệu

Minh họa dữ
liệu


8

Kiểu dáng

Kiểu dáng hoặc loại
hình của ô tô

object

SUV / Cross
over, Sedan,...

9

Số chỗ

Số chỗ ngồi trong xe

int64

4, 5, 7,...

Hình 1. Dữ liệu đã được xử lý
Thống kê

Giá trị

Số cột

8


Số dòng

497

Biến phân loại

5

Biến số

3

Số lượng khuyết

93

Giá bán trung bình

865.75 (tám trăm sáu mươi lăm triệu)

Giá bán cao nhất

8299 (tám tỷ hai trăm chín mươi chín
triệu)

Giá bán thấp nhất

88


Tuổi xe trung bình

5

Số km đã đi trung bình

52957 km

Hình 2. Thống kê dữ liệu
3.

PHƯƠNG PHÁP PHÂN TÍCH

Hình 3. Quy trình PTDL

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 3


Đồ án mơn học Phân tích Dữ liệu – IE224
3.1.

Crawl dữ liệu bằng Selenium

Nhóm sử dụng Selenium để crawl dữ liệu vì đây là một framework có khả năng
tương tác với nhiều trình duyệt khác nhau, có thể xử lí các kịch bản phức tạp so với
các framework khác.
3.2.


Tiền xử lí dữ liệu

Nhóm đã lọc và loại bỏ các giá trị, thuộc tính khơng có ích trong việc dự đốn
giá bán xe.
3.3.

Khai phá dữ liệu

Từ bộ dữ liệu đã được xử lý, nhóm đã sử dụng các kĩ thuật phân tích để tìm hiểu
và lấy ra các dữ liệu quan trọng, đồng thời trực quan hóa các dữ liệu đó để có thể đưa
ra các đánh giá, nhận xét chính xác cho việc dự đốn.

3.4.

Chuẩn hóa dữ liệu

Chuẩn hóa các dữ liệu của các thuộc tính đầu vào về khoảng [-1, 1] bằng cách
chuẩn hóa theo giá trị trung bình (Mean Normalization) để đảm bảo cho các thuật toán
tối ưu được hiệu quả.

3.5.

Xây dựng mơ hình

Khi đã có cái nhìn tổng quát, nhóm tiến hành xây dựng, đánh giá để làm ra mơ
hình tốt nhất. Các thuật tốn xây dựng mơ hình được lựa chọn là những cơng cụ mạnh
mẽ, phù hợp với bài toán hồi quy, bao gồm: Hồi quy tuyến tính, Rừng ngẫu nhiên,
Mạng Neural.

3.6.


Đánh giá

Sau khi training tập dữ liệu nhóm tiến hành sử dụng metric hồi quy là Mean
Squared Error (MSE) để đánh giá hiệu suất của mơ hình.

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 4


Đồ án mơn học Phân tích Dữ liệu – IE224
4.

PHÂN TÍCH THĂM DỊ/SƠ BỘ

Hình 4. Phân phối giá bán
Hiện nay ô tô cũ trên thị trường tập trung nhiều nhất ở phân khúc từ 1 tỷ đổ
xuống.
Tuy nhiên, ta thấy có một số ô tô cũ có giá rất cao tầm 8 tỷ, thì đây hầu như là
các ô tô ở phân khúc xe sang xe xịn. Bên cạnh đó các xe ô tô giá rẻ chiếm đa số trên
thị trường.
4.1.

Phân tích dữ liệu định lượng
Biểu đồ phân tán so với Giá bán

Hình 5. Biểu đồ phân tán giữa Số Km đã đi, Tuổi xe so với Giá bán
Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy


Trang 5


Đồ án mơn học Phân tích Dữ liệu – IE224
=> Giá bán ô tô phụ thuộc vào nhiều yếu tố:
− Giá càng cao khi năm sản xuất gần, số km đã đi, tuổi xe ít.
− Giá càng thấp khi năm sản xuất xa, số km đã đi, tuổi xe cao.
Mức độ tương quan tuyến tính

Hình 6. Bản độ nhiệt tương quan
Dựa vào bản đồ nhiệt tương quan, ta có thể đưa ra một số nhận xét:
− Tương quan nghịch nhẹ giữa Tuổi xe và Giá bán (tuổi xe càng thấp, giá bán
càng cao).
− Có sự tương quan nghịch nhẹ giữa Số Km đã đi và Giá bán (đi càng nhiều
giá bán càng thấp).
4.2.

Phân tích dữ liệu định tính

Lần lượt so sánh Giá bán với Hãng xe, Dòng xe, Hộp số, Nhiên liệu, Xuất xứ,
Kiểu dáng:

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 6


Đồ án mơn học Phân tích Dữ liệu – IE224

Hình 8. Biểu đồ phân tích định tính

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 7


Đồ án mơn học Phân tích Dữ liệu – IE224
So sánh Giá bán với Hãng:
− Ta có thể thấy giá cả đối với những hãng xe sang trọng như Bentley, Rover,
Lexus, Porsche,... có giá trị cao hơn nhiều với những hãng cịn lại.
− Có thể thấy sự phổ biến của những xe ô tô giá rẻ hơn so với những ô tô mắc.
− Sẽ có 1 vài ngoại lệ rằng hãng xe giá rẻ có những loại ơ tơ có phân khúc giá
cao hơn.
So sánh Giá bán với Hộp số:
− Ta có thể thấy hộp số tự động chiếm ưu thế hơn so với số sàn và số bán tự
động => phản ánh sự ưa chuộng của người mua đối với hộp số tự động.
So sánh Giá bán với Nhiên liệu:
− Có thể thấy xăng chiếm ưu thế hơn so với dầu và động cơ Hybrid, có thể vì
xăng là nhiên liệu phổ biến hơn.
So sánh Giá bán với Xuất xứ:
− Nhật và Mỹ có những loại xe sang và giá trị cao hơn. Xe từ Nhật Bản và Mỹ
thường được đánh giá cao về chất lượng và độ tin cậy.
So sánh Giá bán với Kiểu dáng:
− Các kiểu xe Sedan, SUV và coupe đang thể hiện sự ưa chuộng đặc biệt từ
phía người tiêu dùng. Có thể do đẹp hoặc do sự tiện lợi từ kiểu dáng đó.
=> Ta thấy Hãng và xuất xứ có ảnh hưởng nhiều nhất đến giá xe cịn lại thì đều
chỉ ở mức giao động nhẹ.
5.

KẾT QUẢ PHÂN TÍCH


5.1.

Mơ hình sử dụng

Bộ dữ liệu chia thành ba phần: tập huấn luyện (training set), tập kiểm thử (test
set), và tập validation (validation set) có tỷ lệ là (8 - 1 - 1)
Các mơ hình máy học sử dụng:
− Hồi quy tuyến tính
− Rừng ngẫu nhiên
− Mạng Neural
Để đánh giá tất cả các mơ hình, ta sẽ sử dụng trung một tham số đó là MSE
(Mean Squared Error), tham số đo trung bình về độ lệch bình phương giữa các giá trị
dự đốn với giá trị thực tế của chúng.
5.2.

Kết quả

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 8


Đồ án mơn học Phân tích Dữ liệu – IE224

Hình 9. Biểu đồ đánh giá
Mơ hình

Kết quả

Hồi quy tuyến tính


0.241

Rừng ngẫu nhiên

0.144

Mạng Neural

0.311
Hình 10. Bảng đánh giá

− Mô hình cho kết quả tốt nhất là Mạng Neural
− Kết quả ở những mô hình máy học khác chưa được tốt bằng.
6.

CHỈNH SỬA SAU BÁO CÁO
Chỉnh sửa bảng mơ tả thuộc tính
Thêm bảng thống kê thuộc tính.
Thêm bảng phân phối giá bán
Thêm bảng kết quả có số liệu cụ thể

7.

KẾT LUẬN

7.1.

Kết quả đạt được
− Trong dự án này, nhóm đã đạt được những mục tiêu quan trọng từ đầu, bao

gồm việc tự thu thập và xây dựng, phân tích và trực quan hóa hiệu quả bộ
dữ liệu.
− Xây dựng được các mô hình áp dụng cho bộ dữ liệu
− Tìm hiểu, sử dụng được một số phương pháp tiền xử lý, phân tích và trực
quan, cũng như xây dựng các mô hỉnh máy học áp dụng cho bộ dữ liệu đã
xây dựng.

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 9


Đồ án mơn học Phân tích Dữ liệu – IE224
− Nắm được kiến thức cơ bản, có cái nhìn cơ bản tổng thể về Phân tích và trực
quan dữ liệu cũng như về Machine Learning.
7.2.

Khó khăn gặp phải



− Chưa có kinh nghiệm giải quyết các vấn đề gặp phải khi tự thực hiện thu thập
dữ liệu



− Chưa có kinh nghiệm trong việc tìm hiểu các thư viên mới, các cách xử lý
mới trong phân tích và trực quan dữ liệu




− Chưa có kinh nghiệm trong bài toán xử lý dữ liệu có nhiều thuộc tính nói
riêng và các bài toán Machine Learning nói chung dẫn đến việc gặp nhiều khó
khăn trong quá trình thu thập cũng như xử lý dữ liệu.



− Bộ dữ liệu chưa đủ lớn, dẫn đến kết quả mô hình chưa cao như mong muốn.
Nhiều mô hình chạy demo cho kết quả sai.

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 10


Đồ án mơn học Phân tích Dữ liệu – IE224

TÀI LIỆU THAM KHẢO
[1] K.Samruddhi, Dr R.Ashok Kumar2, Used Car Price Prediction using
K-Nearest Neighbor Based Model, 2020.
[2] Pattabiraman Venkatasubbu, Mukkesh Ganesh, Used Cars Price
Prediction using Supervised Learning Techniques, 2019.
[3] Studocu.com. Link: bc khai phá dữ liệu (5/11/2023).
[4] Youtube.com. Link: Crawl Data Using Selenium (1/9/2023).

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy


Đồ án mơn học Phân tích Dữ liệu – IE224


PHỤ LỤC PHÂN CÔNG NHIỆM VỤ
STT
1

Thành viên
Nguyễn Thanh Hiếu

2

Hồ Nguyễn Gia Huy

Nhiệm vụ
- Crawl dữ liệu
- Code EDA, phân tích EDA
- Training models
- Đánh giá models
- Tiền xử lý dữ liệu
- Hỗ trợ code EDA
- Chuẩn hoá bộ dữ liệu
- Viết báo cáo
- Làm slide báo cáo

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy



×