Tải bản đầy đủ (.pdf) (13 trang)

đÁ»“ ã¡n ie224 nhã³m 13

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (876.54 KB, 13 trang )

ĐẠI HỌC QUỐC GIA TP. HỒ CHÍ MINH
TRƯỜNG ĐẠI HỌC CƠNG NGHỆ THƠNG TIN
🙤🙧🟍🙥🙦

DỰ ĐỐN GIÁ Ơ TƠ CŨ DỰA TRÊN DỮ LIỆU
TỪ WEBSITE CHỢ TỐT

Sinh viên thực hiện:
STT
Họ tên
1
Nguyễn Thanh Hiếu
2
Hồ Nguyễn Gia Huy

MSSV
20521328
20521386

TP. HỒ CHÍ MINH – 12/2023

Ngành
CNCL2020
CNCL2020


MỤC LỤC
1. GIỚI THIỆU................................................................................................................1
2. MÔ TẢ BỘ DỮ LIỆU.................................................................................................1
3. PHƯƠNG PHÁP PHÂN TÍCH...................................................................................2
3.1. Tiền xử lí dữ liệu.................................................................................................2


3.2. Khai phá dữ liệu..................................................................................................3
3.3. Chuẩn hóa dữ liệu............................................................................................... 3
3.4. Xây dựng mơ hình.............................................................................................. 3
3.5. Đánh giá.............................................................................................................. 3
4. PHÂN TÍCH THĂM DỊ/SƠ BỘ................................................................................3
4.1. Phân tích dữ liệu định lượng...............................................................................4
5. KẾT QUẢ PHÂN TÍCH............................................................................................. 8
6. KẾT LUẬN................................................................................................................. 8


Đồ án mơn học Phân tích Dữ liệu – IE224
1.

GIỚI THIỆU

Đề tài này sẽ xây dựng một mơ hình dự đốn giá xe ơ tơ cũ trên trang web Chợ
tốt () dựa trên các yếu tố quan trọng như Giá bán, Hãng sản xuất,
Năm sản xuất, Số kilomet đã đi, Loại hộp số, Loại nhiên liệu, Xuất xứ, Kiểu dáng, Số
chỗ. Mục tiêu là nắm bắt thông tin về thị trường mua bán ô tô cũ trực tuyến.
Để thực hiện việc thu thập dữ liệu, nhóm đã sử dụng thư viện Selenium để tự
động trích xuất thơng tin từ trang web Chợ tốt. Sau đó nhóm tiến hành phân tích làm
sạch dữ liệu và sử dụng các công cụ hồi quy như Hồi quy tuyến tính (Linear
Regression), Rừng ngẫu nhiên (Random Forest) và Mạng Neural để tiến hành dự đoán
và đưa ra nhận xét.
Kết quả nhận được đó là thuật tốn Mạng Neural đạt kết quả tốt nhất sau đó đến
Hồi quy tuyến tính và cuối cùng là Rừng ngẫu nhiên.
Nhóm cam kết rằng bộ dữ liệu và đồ án này là kết quả mà nhóm đã tự phân tích
và không phải là sự hợp nhất từ các nguồn dữ liệu khác.
Bộ dữ liệu và đề tài do nhóm tự phân tích thiết kế, khơng dựa trên đề tài khác.
2.


MƠ TẢ BỘ DỮ LIỆU

Bộ dữ liệu này là một tập hợp thông tin về mua bán ô tô cũ trên 30 trang đầu của
trang web Chợ tốt.
Bộ dữ liệu phân tích tự thu thập tại />Bộ dữ liệu này được nhóm tự thu thập từ trang web Chợ tốt, khơng dựa trên bất
kì nguồn dữ liệu bên ngồi nào khác.
Phương pháp thu thập dữ liệu bằng cách sử dụng Selenium:
− Sử dụng Google Chrome để truy cập trang web Chợ tốt.
− Lấy danh sách các liên kết đến các bài đăng về mua bán ơ tơ cũ trên Chợ tốt.
Nhóm nhận thấy các liên kết ơ tơ có chung class name với các liên kết của
những người bán ô tô nên nhóm đã lọc ra chỉ lấy mỗi dữ liệu về ô tô.
− Sau khi thu thập danh sách các liên kết, nhóm đã sử dụng Selenium để truy
cập từng liên kết. Khi truy cập vào một liên kết, đã thu thập thơng tin về ơ tơ
cụ thể đó, bao gồm Tên đăng bán, Giá bán, Hãng sản xuất, Dòng xe, Năm
sản xuất, Số kilomet đã đi, Tình trạng, Loại hộp số, Loại nhiên liệu, Xuất
xứ, Kiểu dáng, Số chỗ, Chính sách bảo hành, Trọng lượng và Trọng tải.
− Dữ liệu thu thập được đã được xử lý và lưu trữ vào một tệp CSV.
− Sau khi thu thập xong dữ liệu nhóm nhận thấy bộ dữ liệu có nhiều chỗ bị
rỗng và bị trùng vậy nên đã tiến hành lọc ra và lưu trữ lại vào tệp CSV.
Ý nghĩa các cột dữ liệu:
− Tên đăng bán xe: Tiêu đề mà chủ xe ghi khi đăng bán.
− Giá bán: Giá mà chủ ơ tơ mong muốn có thể bán được ở thời điểm đăng bài.
− Hãng xe: Hãng sản xuất của ô tô được đăng bán.

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 1



Đồ án mơn học Phân tích Dữ liệu – IE224
− Dịng xe: Dịng xe của ơ tơ được đăng bán.
− Năm sản xuất: Năm sản xuất của ô tô được đăng bán.
− Số km đã đi: Xe đăng bán đã đi được bao nhiêu km.
− Tình trạng: Tình trạng của ô tô được đăng bán (đã sử dụng,...).
− Hộp số: Xe thuộc loại số sàn, tự động hay bán tự động.
− Nhiên liệu: Nhiên liệu mà ô tô sử dụng (xăng, dầu hoặc động cơ hybrid).
− Xuất xứ: Nơi xuất xứ của xe.
− Kiểu dáng: Kiểu dáng hoặc loại hình của ô tô.
− Số chỗ: Số chỗ ngồi trong xe.
− Chính sách bảo hành: Thơng tin về chính sách bảo hành của ô tô.
− Trọng lượng: Xe nặng bao nhiêu.
− Trọng tải: Trọng tải tối đa mà ơ tơ có thể chở.
Biến phân loại (categorical variables): Hãng, Dịng xe, Tình trạng, Hộp số, Nhiên
liệu, Xuất xứ, Kiểu dáng.
Biến số (numeric variables): Giá bán, Năm sản xuất, Số Km đã đi, Số chỗ, Trọng
lượng, Trọng tải.
Bộ dữ liệu ban đầu gồm có 15 cột 590 dòng, sau khi lọc ra 93 dòng bị khuyết dữ
liệu (trong đó 89 dòng bị thiếu dữ liệu và 4 dòng trùng nhau) thì còn 497 dòng.
3.

PHƯƠNG PHÁP PHÂN TÍCH

Hình 1. Quy trình PTDL
3.1.

Tiền xử lí dữ liệu

Vì đã xử lí các vấn đề trước cho bộ dữ liệu nên nhóm chỉ tập trung vào việc xử lí
dữ liệu như sau:

− Tìm và loại bỏ các cột khơng mang ý nghĩa cho việc dự đốn giá xe (Tên
đăng bán, Dịng xe)
− Xóa các cột chỉ có 1 giá trị duy nhất vì nó sẽ khơng làm ảnh hưởng đến giá
xe dự đốn (Tình trạng, Chính sách bảo hành, Trọng lượng, Trọng tải).
− Chỉnh sửa kiểu của Giá bán (chuyển sang dạng số)
Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 2


Đồ án mơn học Phân tích Dữ liệu – IE224
− Hộp số (đồng nhất xe số sàn 5 cấp về “Số sàn”).
− Thêm Tuổi xe thay cho Năm sản xuất.

Hình 2. Dữ liệu đã được xử lý
3.2.

Khai phá dữ liệu

Từ bộ dữ liệu đã được xử lý, nhóm đã sử dụng các kĩ thuật phân tích để tìm hiểu
và lấy ra các dữ liệu quan trọng, đồng thời trực quan hóa các dữ liệu đó để có thể đưa
ra các đánh giá, nhận xét chính xác cho việc dự đốn.

3.3.

Chuẩn hóa dữ liệu

Chuẩn hóa các dữ liệu của các thuộc tính đầu vào về khoảng [-1, 1] bằng cách
chuẩn hóa theo giá trị trung bình (Mean Normalization) để đảm bảo cho các thuật tốn
tối ưu được hiệu quả.


Hình 3. Dữ liệu đã được chuẩn hố

3.4.

Xây dựng mơ hình

Khi đã có cái nhìn tổng qt, nhóm tiến hành xây dựng, đánh giá để làm ra mơ
hình tốt nhất. Các thuật tốn xây dựng mơ hình được lựa chọn là những cơng cụ mạnh
mẽ, phù hợp với bài toán hồi quy, bao gồm: Hồi quy tuyến tính, Rừng ngẫu nhiên,
Mạng Neural.

3.5.

Đánh giá

Sau khi training tập dữ liệu nhóm tiến hành sử dụng metric hồi quy là Mean
Squared Error (MSE) để đánh giá hiệu suất của mơ hình.
4.

PHÂN TÍCH THĂM DỊ/SƠ BỘ

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 3


Đồ án mơn học Phân tích Dữ liệu – IE224

Hình 4. Phân phối giá bán sau khi đã chuẩn hoá

4.1.

Phân tích dữ liệu định lượng

Hình 5. Giá trị định lượng
=> Giá ô tô tăng giảm tùy thuộc vào năm sản xuất, số km đã đi và số chỗ ngồi.
Biểu đồ phân tán so với Giá bán

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 4


Đồ án mơn học Phân tích Dữ liệu – IE224

Hình 6. Biểu đồ phân tán giữa Số Km đã đi, Năm sản xuất, Tuổi xe so với Giá bán
=> Giá bán ô tô phụ thuộc vào nhiều yếu tố:
− Giá càng cao khi năm sản xuất gần, số km đã đi, tuổi xe ít.
− Giá càng thấp khi năm sản xuất xa, số km đã đi, tuổi xe cao.
Mức độ tương quan tuyến tính

Hình 7. Bản độ nhiệt tương quan

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 5


Đồ án mơn học Phân tích Dữ liệu – IE224
Dựa vào bản đồ nhiệt tương quan, ta có thể đưa ra một số nhận xét:

− Tương quan nghịch giữa Tuổi xe và Giá bán (năm sản xuất càng cao, tuổi xe
càng thấp, giá bán càng cao).
− Có sự tương quan nghịch giữa Số Km đã đi và Giá bán (đi càng nhiều giá
bán càng thấp).
4.2.

Phân tích dữ liệu định tính

Lần lượt so sánh Giá bán với Hãng xe, Dòng xe, Hộp số, Nhiên liệu, Xuất xứ,
Kiểu dáng:

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 6


Đồ án mơn học Phân tích Dữ liệu – IE224

Hình 8. Biểu đồ phân tích định tính
So sánh Giá bán với Hãng:
− Ta có thể thấy giá cả đối với những hãng xe sang trọng như Bentley, Rover,
Lexus, Porsche,... có giá trị cao hơn nhiều với những hãng còn lại.
− Có thể thấy sự phổ biến của những xe ơ tô giá rẻ hơn so với những ô tô mắc.
− Sẽ có 1 vài ngoại lệ rằng hãng xe giá rẻ có những loại ơ tơ có phân khúc giá
cao hơn.
So sánh Giá bán với Dịng xe:
− Có thể thấy dịng xe GLC có giá trị cao hơn so với những dòng xe còn lại.
So sánh Giá bán với Hộp số:
− Ta có thể thấy hộp số tự động chiếm ưu thế hơn so với số sàn và số bán tự
động => phản ánh sự ưa chuộng của người mua đối với hộp số tự động.

So sánh Giá bán với Nhiên liệu:
− Có thể thấy xăng chiếm ưu thế hơn so với dầu và động cơ Hybrid, có thể vì
xăng là nhiên liệu phổ biến hơn.
So sánh Giá bán với Xuất xứ:
− Nhật và Mỹ có những loại xe sang và giá trị cao hơn. Xe từ Nhật Bản và Mỹ
thường được đánh giá cao về chất lượng và độ tin cậy.
So sánh Giá bán với Kiểu dáng:
− Các kiểu xe Sedan, SUV và coupe đang thể hiện sự ưa chuộng đặc biệt từ
phía người tiêu dùng. Có thể do đẹp hoặc do sự tiện lợi từ kiểu dáng đó.
=> Ta thấy dịng xe có sự chênh lệch khá nhiều về giá trung bình, đồng thời,
dịng xe ln thuộc về một hãng xe, do đó khi xây dựng mơ hình dự báo về giá xe, ta
có thể loại đi thuộc tính về dịng xe.
Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 7


Đồ án mơn học Phân tích Dữ liệu – IE224
5.

KẾT QUẢ PHÂN TÍCH

5.1.

Mơ hình sử dụng

Bộ dữ liệu chia thành ba phần: tập huấn luyện (training set), tập kiểm thử (test
set), và tập validation (validation set) có tỷ lệ là (8 - 1 - 1)
Các mơ hình máy học sử dụng:
− Hồi quy tuyến tính

− Rừng ngẫu nhiên
− Mạng Neural
Để đánh giá tất cả các mơ hình, ta sẽ sử dụng trung một tham số đó là MSE
(Mean Squared Error), tham số đo trung bình về độ lệch bình phương giữa các giá trị
dự đoán với giá trị thực tế của chúng.
5.2.

Kết quả

Hình 9. Biểu đồ đánh giá
− Mô hình cho kết quả tốt nhất là Mạng Neural
− Kết quả ở những mô hình máy học khác chưa được tốt bằng.
6.

KẾT LUẬN

6.1.

Kết quả đạt được
− Trong dự án này, nhóm đã đạt được những mục tiêu quan trọng từ đầu, bao
gồm việc tự thu thập và xây dựng, phân tích và trực quan hóa hiệu quả bộ
dữ liệu.
− Xây dựng được các mô hình áp dụng cho bộ dữ liệu

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 8


Đồ án mơn học Phân tích Dữ liệu – IE224

− Tìm hiểu, sử dụng được một số phương pháp tiền xử lý, phân tích và trực
quan, cũng như xây dựng các mô hỉnh máy học áp dụng cho bộ dữ liệu đã
xây dựng.
− Nắm được kiến thức cơ bản, có cái nhìn cơ bản tổng thể về Phân tích và trực
quan dữ liệu cũng như về Machine Learning.
6.2.

Khó khăn gặp phải



− Chưa có kinh nghiệm giải quyết các vấn đề gặp phải khi tự thực hiện thu thập
dữ liệu



− Chưa có kinh nghiệm trong việc tìm hiểu các thư viên mới, các cách xử lý
mới trong phân tích và trực quan dữ liệu



− Chưa có kinh nghiệm trong bài toán xử lý dữ liệu có nhiều thuộc tính nói
riêng và các bài toán Machine Learning nói chung dẫn đến việc gặp nhiều khó
khăn trong quá trình thu thập cũng như xử lý dữ liệu.



− Bộ dữ liệu chưa đủ lớn, dẫn đến kết quả mô hình chưa cao như mong muốn.
Nhiều mô hình chạy demo cho kết quả sai.


Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy

Trang 9


Đồ án mơn học Phân tích Dữ liệu – IE224

TÀI LIỆU THAM KHẢO
[1] K.Samruddhi, Dr R.Ashok Kumar2, Used Car Price Prediction using
K-Nearest Neighbor Based Model, 2020.
[2] Pattabiraman Venkatasubbu, Mukkesh Ganesh, Used Cars Price
Prediction using Supervised Learning Techniques, 2019.
[3] Studocu.com. Link: bc khai phá dữ liệu (5/11/2023).
[4] Youtube.com. Link: Crawl Data Using Selenium (1/9/2023).

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy


Đồ án mơn học Phân tích Dữ liệu – IE224

PHỤ LỤC PHÂN CÔNG NHIỆM VỤ
STT
1

Thành viên
Nguyễn Thanh Hiếu

2

Hồ Nguyễn Gia Huy


Nhiệm vụ
- Crawl dữ liệu
- Code EDA, phân tích EDA
- Training models
- Đánh giá models
- Tiền xử lý dữ liệu
- Hỗ trợ code EDA
- Chuẩn hoá bộ dữ liệu
- Viết báo cáo
- Làm slide báo cáo

Nguyễn Thanh Hiếu – Hồ Nguyễn Gia Huy



×