Công nghệ deepface

Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (1.58 MB, 67 trang )

Trang 1<div class="page_container" data-page="1">

NGUYỄN VĂN THOAN (2121050829) LÊ VĂN HÙNG (2121050870)

LÊ ANH TRUNG (2121050833)

NGUYỄN VIỆT HOÀNG (2121050485)

ĐẠO ĐỨC AI–TRÁCH NHIỆM CỦASINH VIÊN VÀ CÔNG TY CÔNG NGHỆ

CÔNG NGHỆ DEEPFAKE

BÀI TẬP LỚN

MƠN: ĐẠO ĐỨC MÁY TÍNH – 7080105

</div>Trang 2<div class="page_container" data-page="2">

MỤC LỤC

MỤC LỤC...IIDANH MỤC CÁC HÌNH VẼ...III

1.4.1. Trong lĩnh vực nghệ thuật và sáng tạo...7

1.4.2. Trong lĩnh truyền thông và quảng cáo...8

1.4.3. Trong lĩnh vực y tế và y học...9

1.4.4. Trong linh vực an ninh và phòng chống tội phạm...10

1.5.Rủi ro và hậu quả của deepfake...11

CHƯƠNG 2 CƠ SỞ LÝ THUYẾT...14

1.6.Vấn đề đạo đức trong sử dụng AI...15

1.7.Cách chèn nhãn cho bảng biểu và hình vẽ...17

1.8.Hướng dẫn chèn cơng thức và nhãn...21

CHƯƠNG 3 CÁC BIỆN PHÁP KIỂM SOÁT VÀ NGĂN CHẶN DEEPFAKE....25

3.1 Phát triển công nghệ phát hiện deepfake:...25

3.1.1. Các nhà nghiên cứu của tập đoàn Intel đã phát triển công nghệ như thếnào?...25

</div>Trang 3<div class="page_container" data-page="3">

3.1.2. Nâng cao quyền riêng tư và đạo đức trong môi trường trực tuyến:...26

1.9.4.2. Quy định pháp lý về việc sử dụng deepfake...28

1.9.1. 4.2.1. Công nghệ deepfake tiềm ẩn nhiều nguy cơ cho xã hội:...28

1.9.2. 4.2.2. Công nghệ đằng sau deepfake...29

1.9.3. 4.2.3. Lợi dụng công nghệ deepfake...30

1.9.4. 4.2.4. Ảnh hưởng của công nghệ deepfake với hoạt động thực thi phápluật311.9.5. 4.2.5. Phát hiện của các bên liên quan đối với deepfake...32

1.9.6. 4.2.6. Kết luận...33

1.10.5.3. Tăng cường giáo dục và nhận thức công chúng...34

1.10.1.5.3.1. Lợi ích của cơng nghệ deepfake:...34

1.10.2.5.3.2. Nguy cơ và rủi ro của nó:...35

1.10.3.5.3.3. Đối mặt với những nguy cơ và rủi ro trên, cần có các biệnpháp và giải pháp để bảo vệ, phòng tránh lừa đảo từ công nghệ Deepfake:....36

CHƯƠNG 4 HƯỚNG PHÁT TRIỂN VÀ TƯƠNG LAI CỦA DEEPFAKE...38

4.1 Ứng dụng tiềm năng của deepfake trong nghiên cứu và giáo dục...40

4.2 Cần thiết có quy định rõ ràng về việc sử dụng deepfake...42

4.3 sự phát triển của công nghệ AI và tác động tới đạo đức...43

CHƯƠNG 5...45

KẾT LUẬN...47

Tài liệu tham khảo...49

PHỤ LỤC...51

</div>Trang 4<div class="page_container" data-page="4">

DANH MỤC CÁC HÌNH VẼ

Hình 1.1-1 Thay đổi khn mặt bằng cơng nghệ deepfake...4

Hình 1.1-2. Eternity - nhóm nhạc ảo được tạo ra bởi cơng nghệ deepfake...5

Hình 1.3-1: Deepfake tạo nên bản thay thế của một đối tượng dựa trên một bản mẫuchất lượng cao...8

Hình 1.4-1 Deepfake tái hiện lại diễn viên Peter Cushing trong vai Grand MoffTarkin...8

Hình 1.4-2 Bruce Willis, cựu diễn viên người Mĩ (bên trái) xuất hiện trong mộtvideo quảng cáo của Nga nhờ cơng nghệ Deepfake...9

Hình 1.4-3 Thương hiệu có thể dễ dàng điều chỉnh sao cho phù hợp với trảinghiệm, sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu dacủa họ...10

Hình 1.4-4.Hình ảnh minh họa áp dụng deepfake trong y tế và y học...11

Hình 1.5-1. Một người nổi tiếng là nạn nhân của trí tuệ nhân tao...13

Hình 1.5-2. Giả mạo công an để lấy thông tin, số điện thoại người dân...14

MỞ ĐẦU

Lý do chọn đề tài

Khi mà đời sống vật chất của con người ngày càng đầy đủ hơn thì cái người taquan tâm sau đó chính là yếu tố tinh thần. Cùng với sự phát triển không ngừng của cáclĩnh vực như văn hóa, cơng nghệ, khoa học kỹ thuật. Đặc biệt trong cuộc cách mạngchuyển đổi số các công nghệ hiện đại tiên tiến được áp dụng vào đời sống của con

</div>Trang 5<div class="page_container" data-page="5">

người đã làm thay đổi đi rất nhiều về cả hai mặt là mặt tốt cũng như mặt xấu. Trong đóDeepfake là ví dụ điển hình .

Deepfake (một từ ghép của “deep learning” và “fake”) là một kỹ thuật để tổnghợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Nó được sử dụng để kết hợp vàchồng các hình ảnh và video hiện có lên các hình ảnh hoặc video nguồn bằng cách sửdụng một kỹ thuật học máy (machine learning) được gọi là Generative AdversarialNetwork (tạm dịch là mạng chống đối tạo sinh). Cụm từ Deepfake đã được đặt ra vàonăm 2017.Nói nơm na, dễ hiểu thì deepfake là những nội dung giả được tạo ra từ AI, cóthể là hình ảnh, video, thậm chí là âm thanh mà rất khó phân biệt thật giả bằng mắt/taitheo cách thông thường..[CITATION Placeholder1 \l 1033 ]

ảnh 1 giả mạo bằng deepfake[CITATION Placeholder1 \l 1033 ]

Xuất phát từ thực tế, nhóm em xin chọn đề tài “Deepfake” làm đề tài nghiên cứu

Tình hình nghiên cứu

</div>Trang 6<div class="page_container" data-page="6">

Deepfake ln là một chủ đề nóng bỏng trong cuộc sống hàng ngày ở trên thế giớinói chung và Việt Nam nói riêng. Do vậy, trong thời gian ở Việt Nam chủ đề deepfake đãđược đưa vào nghiên cứu. Tính đến đầu năm 2023 Việt Nam có rất nhiều bài báo cũng nhưbài luận xoay quanh về đề tài này. Trong những bài luận, cơng trình nghiên cứu này cónhững sự khai thác khác nhau, nhìn nhận vấn đề dưới những góc độ khác nhau. Do đócơng trình nghiên cứu của chúng tơi nhằm hệ thống hóa một cách tổng qt lại một số vấnđề cơ bản của kết hôn.

Phương pháp nghiên cứu

Trong q trình nghiên cứu nhóm chúng tơi đã dùng những phương pháp sau:  Phương pháp thu thập dữ liệu.

 Phương pháp thống kê.  Phương pháp phân tích.  Phương pháp đưa ra kết luận.

Nội dung nghiên cứu

Mục đích nghiên cứu:

- Hiểu rõ deepfake qua góc nhìn của giới trẻ

- Đưa ra những dữ liệu thực tế

- Đề xuất ý kiến nhằm hiểu rõ về những cái deepfake mang lại

Nhiệm vụ nghiên cứu: Để thực hiện được mục đích nghiên cứu trên chúng em cầntìm hiểu những vấn đề lý luận cơ bản, thu thập số liệu thống kê của đối tượng vàtrình bày nội dung trong phạm vi nghiên cứu.

Đối tượng nghiên cứu: deepfake trong thực tại của đời sống con người.

Phạm vi nghiên cứu: deepfake và những ứng dụng của nó, những ảnh hưởng xấu mànó đem lại và cách phịng chống.

</div>Trang 7<div class="page_container" data-page="7">

CHƯƠNG 1 GIỚI THIỆU VỀ DEEPFAKE

1.1 Định nghĩa deepfake

Deepfake là một từ ghép giữa "deep learning" - học sâu và "fake" - giả mạo.Deepfake là một kỹ thuật trong lĩnh vực trí tuệ nhân tạo cho phép tạo ra những hình ảnh,video giả mạo bằng cách sử dụng các mơ hình deep learning. Các mơ hình này đã đượchuấn luyện với một lượng lớn dữ liệu để có khả năng ghép đầu người này lên cơ thể ngườikhác hoặc tạo ra những hành động giả mạo một cách chân thật nhất. Deepfake đã tạo ranhững công cụ mạnh mẽ cho việc chỉnh sửa hình ảnh và video, từ đó dẫn đến nhiều tácđộng lớn đến xã hội và vấn đề an ninh.

Hình 1.1-1 Thay đổi khuân mặt bằng cơng nghệ deepfake

</div>Trang 8<div class="page_container" data-page="8">

Hình 1.1-2. Eternity - nhóm nhạc ảo được tạo ra bởi cơng nghệ deepfake

1.2. Lịch sử phát triển công nghệ deepfakeGiái đoạn đầu tiên (2014-2017)

Giai đoạn này đánh dấu sự ra đời của công nghệ deepfake. Năm 2014, hai nhà nghiêncứu của Đại học California, Berkeley đã phát triển một thuật tốn có thể ghép khuôn mặtcủa hai người khác nhau trong một video. Tuy nhiên, thuật tốn này vẫn cịn nhiều hạn

</div>Trang 9<div class="page_container" data-page="9">

chế, và các video deepfake được tạo ra trong giai đoạn này thường có chất lượng thấp vàdễ dàng nhận biết.

Năm 2017, một người dùng có tên "deepfakes" trên diễn đàn Reddit đã đăng tải mộtsố đoạn video deepfake có chất lượng cao, trong đó khn mặt của các ngôi sao nổi tiếngnhư Gal Gadot, Taylor Swift, Scarlett Johansson được thay thế bằng khuôn mặt của nhữngdiễn viên khiêu dâm. Những đoạn video này đã gây ra một làn sóng phản ứng mạnh mẽ, vàtừ đó, thuật ngữ "deepfake" bắt đầu được sử dụng rộng rãi.

Giai đoạn thứ hai (2018-2022)

Giai đoạn này đánh dấu sự phát triển nhanh chóng của cơng nghệ deepfake. Nhờ sựphát triển của các mơ hình học máy, các video deepfake được tạo ra trong giai đoạn này cóchất lượng ngày càng cao, khó phân biệt được với video thật.

Năm 2018, một nhóm nghiên cứu của Đại học Washington đã phát triển một thuậttốn deepfake có thể ghép khn mặt của hai người khác nhau trong một video với độphân giải cao. Thuật toán này đã được sử dụng để tạo ra một số video deepfake có chấtlượng rất cao, khiến nhiều người tin rằng chúng là video thật.

Năm 2020, một nhóm nghiên cứu của Đại học Stanford đã phát triển một thuật tốndeepfake có thể thay đổi giọng nói của một người trong một video. Thuật toán này đã đượcsử dụng để tạo ra một số video deepfake trong đó các nhân vật nổi tiếng nói những điều màhọ chưa từng nói.

Giai đoạn thứ ba (2023 – nay)

Giai đoạn này đánh dấu sự phát triển phức tạp và đa dạng của công nghệ deepfake.Các video deepfake không chỉ được sử dụng để ghép khn mặt hoặc thay đổi giọng nói,mà cịn được sử dụng để tạo ra các video hoàn toàn mới, trong đó nhân vật khơng tồn tạitrong thực tế.

</div>Trang 10<div class="page_container" data-page="10">

Năm 2023, một nhóm nghiên cứu của Đại học Carnegie Mellon đã phát triển mộtthuật tốn deepfake có thể tạo ra một video hồn tồn mới, trong đó nhân vật có thể nói vàcử động giống như một người thật. Thuật toán này đã được sử dụng để tạo ra một số videodeepfake trong đó các nhân vật lịch sử như Abraham Lincoln hay Martin Luther King Jr.được tái hiện lại.

Sự phát triển của công nghệ deepfake đã đặt ra nhiều thách thức cho xã hội, đặc biệtlà trong lĩnh vực truyền thơng, chính trị và an ninh. Các video deepfake có thể được sửdụng để lan truyền thơng tin sai lệch, gây tổn hại đến uy tín của các cá nhân và tổ chức.Chúng cũng có thể được sử dụng để thực hiện các hành vi tội phạm, như lừa đảo, đe dọahoặc khủng bố.

Để ứng phó với những thách thức này, các chính phủ và doanh nghiệp đang nỗ lựcphát triển các công nghệ để phát hiện và ngăn chặn các video deepfake. Tuy nhiên, đây làmột vấn đề phức tạp, và khơng có giải pháp đơn giản.

1.3.Cách thức hoạt động deepfake

Công nghệ deepfake hoạt động dựa trên các thuật toán học máy, cụ thể là các mạngneural. Các mạng neural là các mơ hình tốn học được thiết kế để mô phỏng hoạt động củanão bộ.

Để đưa ra một video deepfake, các thuật toán học máy sẽ thực hiện các bước sau:

-Thu thập dữ liệu: Đầu tiên, các thuật toán cần thu thập một lượng lớn dữ liệu hình

ảnh và video của người mà họ muốn ghép khn mặt. Dữ liệu này có thể được thu thập từcác nguồn công khai, chẳng hạn như mạng xã hội hoặc các trang web chia sẻ video.

-Phân tích dữ liệu: Sau khi thu thập dữ liệu, các thuật tốn sẽ phân tích dữ liệu để

tìm ra các đặc trưng khn mặt của người đó. Các đặc trưng này bao gồm các điểm đầumắt, mũi, miệng, v.v.

</div>Trang 11<div class="page_container" data-page="11">

-Huấn luyện mơ hình: Các đặc trưng khn mặt được phân tích ở bước 2 sẽ được

sử dụng để huấn luyện một mơ hình mạng neural. Mơ hình này sẽ học cách tái tạo khnmặt của người đó từ các đặc trưng này.

-Tạo video deepfake: Khi mơ hình đã được huấn luyện, các thuật tốn có thể sử

dụng mơ hình này để tạo ra một video deepfake. Trong video này, khuôn mặt của ngườiđược ghép sẽ được thay thế bằng khn mặt của người mà mơ hình đã được huấn luyện.

Cơng nghệ deepfake có thể được sử dụng để khn mặt của một người vào videohoặc hình ảnh có sẵn. Nó cũng có thể được sử dụng để thay đổi giọng nói của một ngườitrong một video.

Hình 1.3-3: Deepfake tạo nên bản thay thế của một đối tượng dựa trên một bản mẫu chấtlượng cao.

</div>Trang 12<div class="page_container" data-page="12">

1.4. Ứng dụng của deepfake

1.4.1. Trong lĩnh vực nghệ thuật và sáng tạo

Deepfake có thể được sử dụng để tạo ra những hiệu ứng đặc biệt cho phim ảnh, hoặcđể tái hiện lại những diễn viên đã qua đời hoặc già đi. Ví dụ, trong bộ phim Star Wars:Rogue One (2016), người ta dùng deepfake để tái hiện lại diễn viên Peter Cushing trongvai Grand Moff Tarkin.

Hình 1.4-4 Deepfake tái hiện lại diễn viên Peter Cushing trong vai Grand Moff Tarkin.

1.4.2. Trong lĩnh truyền thông và quảng cáo

Tiết kiệm chi phí: Với các chiến dịch video của thương hiệu, có những trường

hợp sử dụng diễn viên người đóng là khơng cần thiết. Lúc này Deepfake có thể là mộtgiải pháp mới khi doanh nghiệp chỉ cần mua giấy phép sử dụng hình ảnh diễn viên,tạo hoặc sử dụng lại một video quảng cáo, sau đó chèn hình ảnh và lời thoại thích hợpđể tạo ra một sản phẩm quảng cáo mới hồn tồn. Thậm chí, doanh nghiệp có thể tiếtkiệm được nhiều chi phí hơn nếu sử dụng chính nhân sự nội bộ để làm video. Nói tómlại Deepfake sẽ cực kì hữu ích cho các nhà tiếp thị có ngân sách eo hẹp nhưng vẫnmuốn sản xuất nội dung chất lượng cao cho các chiến dịch.

</div>Trang 13<div class="page_container" data-page="13">

Hình 1.4-5 Bruce Willis, cựu diễn viên người Mĩ (bên trái) xuất hiện trong một videoquảng cáo của Nga nhờ cơng nghệ Deepfake.

Dễ dàng tiếp thị đa kênh: Vì khơng sử dụng diễn viên thật, thương hiệu có thể

dễ dàng điều chỉnh/sản xuất video để phù hợp với tính chất từng kênh tiếp thị. Ví dụ,vẫn là gương mặt đó nhưng thương hiệu có thể dùng Deepfake để hợp nhất nó trongnhiều nền tảng khác nhau như video đăng Youtube, TikTok, hay Reels trênInstagram…. Chưa kể, quy trình này khơng hề đắt đỏ và mất nhiều thời gian bằngviệc thuê diễn viên để quay lại một lần nữa.

“Siêu” cá nhân hóa nội dung: Deepfake sẽ mở ra một kỷ nguyên mới cho các

nội dung/chiến dịch cá nhân hóa. Với cơng nghệ này, thương hiệu có thể dễ dàng điềuchỉnh video/hình ảnh sao cho phù hợp với trải nghiệm, sở thích và đặc điểm củakhách hàng mục tiêu - chẳng hạn như màu da của họ. Nếu doanh nghiệp hướng tớimột tệp khách thuộc nhóm người yếu thế, hoặc thuộc nhóm dân tộc khác khơng giốngvới đại sứ/người mẫu của thương hiệu, vậy thì Deepfake sẽ giúp họ giải quyết đượchạn chế này. Thậm chí, cũng sẽ khơng q khó thực hiện với Deepfake nếu thương

</div>Trang 14<div class="page_container" data-page="14">

hiệu cần một video sử dụng một loại ngôn ngữ hồn tồn khác. Thế nhưng, phải thừanhận rằng khơng dễ để “tẩy trắng” Deepfake sau những tai vụ vướng phải trong 5năm qua. Khi quyết định sử dụng công nghệ này, thương hiệu cũng cần lường trướcmột số hạn chế của nó.

Hình 1.4-6 Thương hiệu có thể dễ dàng điều chỉnh sao cho phù hợp với trải nghiệm,sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu da của họ.

1.4.3. Trong lĩnh vực y tế và y học

Công nghê deepfake cung cấp nhiều lợi ích đáng kể trong lĩnh vực y tế và y học. Đầutiên, nó có thể được sử dụng để đào tạo các bác sĩ chuyên nghiệp. Với deepfake, họ có thểthực hành và trải nghiệm các kịch bản khó khăn và hiếm gặp mà không cần tới bệnh nhânthực tế.

</div>Trang 15<div class="page_container" data-page="15">

Cơng nghệ deepfake cũng có thể giúp trong việc ứng phó với tình huống khẩn cấp vàkiểm tra tác động của các phương pháp điều trị mới. Bằng cách tạo ra các mô phỏng giả,các nhà nghiên cứu y tế có thể dự đốn được kết quả, phản ứng và tác động của các liệupháp trước khi thực hiện trên người thật.

Bằng cách sử dụng công nghệ deepfake trong lĩnh vực y tế và y học, chúng ta có thểnâng cao khả năng đào tạo, phục vụ khẩn cấp và nghiên cứu y tế. Ngoài ra, việc áp dụngdeepfake cũng có thể giúp tối ưu hóa quy trình chẩn đốn và điều trị bệnh. Các bác sĩ vànhân viên y tế có thể sử dụng các mơ phỏng deepfake để kiểm tra hiệu quả của các phươngpháp khác nhau và tìm ra những giải pháp tối ưu cho từng trường hợp. Điều này giúp tăngcường khả năng chẩn đoán đồng thời giảm thiểu rủi ro và chi phí.

Hình 1.4-7.Hình ảnh minh họa áp dụng deepfake trong y tế và y học

Như vậy, công nghệ deepfake mang đến nhiều ứng dụng hữu ích trong lĩnh vực y tếvà y học. Từ việc đào tạo bác sĩ, ứng phó tình huống khẩn cấp, mơ phỏng dữ liệu y học đếntối ưu hóa quy trình chẩn đốn và điều trị bệnh, deepfake đóng vai trị quan trọng trong

</div>Trang 16<div class="page_container" data-page="16">

việc cải thiện chất lượng dịch vụ y tế. Việc sử dụng deepfake đã và đang mở ra nhiều cơhội cho ngành y tế, góp phần nâng cao khả năng đào tạo, phục vụ chuẩn đoán và điều trị,cũng như tạo ra những bước tiến đáng kể trong nghiên cứu y tế.

1.4.4. Trong linh vực an ninh và phòng chống tội phạm

Công nghệ deepfake đã được áp dụng rộng rãi trong lĩnh vực an ninh với nhiều lợiích và tiềm năng phát triển. Một trong những ứng dụng đáng chú ý của deepfake trong lĩnhvực an ninh là khả năng nhận diện gương mặt và giọng nói, mang lại tính bảo mật và antồn cao hơn trong các hệ thống kiểm soát truy cập. Deepfake cũng được sử dụng để tạo racác bằng chứng giả mạo hết sức hiệu quả trong các vụ án hình sự, giúp cơ quan chức năngthu thập thông tin và làm rõ vụ án một cách nhanh chóng và hiệu quả hơn. Ngồi ra, cơngnghệ deepfake cịn có thể đóng vai trị quan trọng trong việc phát hiện và ngăn chặn các vụlừa đảo và tội phạm trực tuyến, từ đó đảm bảo sự an tồn và trật tự trong mơi trường sốngvà làm việc của mọi người.

Tuy vậy, việc sử dụng deepfake cũng đồng thời đặt ra những thách thức và rủi ro vềquyền riêng tư. Việc tạo ra những bằng chứng giả mạo có thể gây ra sự đánh đồng và nhầmlẫn, ảnh hưởng đến danh dự và thể diện của cá nhân. Do đó, cần phải có những biện phápkiểm sốt và đối phó hiệu quả để đảm bảo an ninh và trách nhiệm trong việc sử dụng côngnghệ này. Điều này có thể bao gồm việc thiết lập các quy tắc và quy định rõ ràng về việcsử dụng deepfake, đảm bảo tính trung thực và minh bạch trong việc sử dụng cơng nghệnày. Ngồi ra, cần cung cấp đào tạo và nâng cao nhận thức cho công chúng về cơng nghệdeepfake và tác động của nó, giúp mọi người nhận biết và phịng ngừa những tình huốngtiềm tàng.

1.5.Rủi ro và hậu quả của deepfake

Bên cạnh những lợi ích to lớn mà deepfake mang lại trong nhiều lĩnh vực, nhưngcũng đi kèm nhiều rủi ro và hậu quả. Dưới đây là một số nguy cơ của deepfake:

</div>Trang 17<div class="page_container" data-page="17">

-Sự đe dọa đến quyền riêng tư và danh dự cá nhân: Việc tạo ra những video giả mạovà lan truyền chúng có thể gây hại và làm hỏng sự đồng thuận trong các mối quan hệ cánhân. Những ảnh hưởng này gây lo ngại về việc lộ thông tin riêng tư và tạo ra sự khơng antồn khi chia sẻ hình ảnh và video cá nhân trên mạng. Với khả năng biến đổi và phổ biếnnhững video gây xấu hổ hoặc phản cảm, deepfake có thể làm tổn thương danh dự và uy tíncủa một người. Những video giả mạo có thể tạo ra những hình ảnh sai lệch về một ngườivà lan truyền thơng tin khơng chính xác, gây ảnh hưởng đến thể diện và sự tôn trọng trongxã hội.

Hình 1.5-8. Một người nổi tiếng là nạn nhân của trí tuệ nhân tao

- Lừa đảo và gian lận: Công nghệ deepfake mang đến nguy cơ sử dụng vào việc lừađảo và gian lận thơng tin. Deepfake có thể tạo ra những bằng chứng giả mạo và làm sailệch sự thật, từ đó tạo ra sự nhầm lẫn và lừa dối người xem. Việc lan truyền những video

</div>Trang 18<div class="page_container" data-page="18">

giả mạo và thơng tin khơng chính xác có thể gây ảnh hưởng lớn đến sự tin tưởng và ảnhhưởng của một cá nhân hoặc tổ chức. Ngoài ra có thể thay đổi được khuân mặt giống nhưngười thật để vay tiền, chiếm đoạt tài sản.

Hình 1.5-9. Giả mạo công an để lấy thông tin, số điện thoại người dân

-Đe dọa an ninh quốc gia: tội phạm lợi dụng các khả năng thay đổi khuân mặt tạo racác video giả mạo những người có chức quyền cao của một quốc gia để tung tin bịa đặt saisự thật gây rối loạn an ninh quốc gia.

</div>Trang 20<div class="page_container" data-page="20">

HƯƠNG 3VẤN ĐỀ ĐẠO ĐỨC TRONG SỬ DỤNG AI

Trong thời đại Cơng nghệ 4.0, AI (trí tuệ nhân tạo ) ngày càng phát triểnvà trở thành một lĩnh vực đầy tiềm năng . Việc sử dụng nó mang lại nhiều lợiích cho con người, nhưng cũng đặt ra nhiều vấn đề đối với đạo đức và tráchnhiệm trong phát triển AI của chúng ta.

Đạo đức và trách nhiệm trong phát triển. nguồn: internet.

[CITATION Jef18 \l 1033 ], AI ngày càng dễ sử dụng hơn đối với nhữngngười không phải là chuyên gia. Một số dịch vụ và ứng dụng AI hiện có giaodiện người dùng trực quan và chức năng kéo và thả—khác xa so với mã hóalõi cứng. Những đổi mới này mang lại khả năng mạnh mẽ cho các cơng ty vàđang góp phần gia tăng số lượng và triển khai AI.

Tuy nhiên, có một nhược điểm đối với sự phổ biến của những công cụnày. Con người có sử dụng cơng nghệ cho mục đích xấu cũng như mục đích

</div>Trang 21<div class="page_container" data-page="21">

tốt. Điều này chắc chắn đúng với AI. Bằng cách sử dụng các công cụ AInguồn mở, bất kỳ ai cũng có thể tạo ra những hình ảnh và video giả mạo cóđộ chân thực cao chỉ bằng vài cú click chuột. Cho dù là hành vi giải trí hay ácý, bạn cũng có thể dễ dàng tạo một video trong đó giám đốc điều hành cơngty hoặc chính trị gia dường như nói điều gì đó mang tính kích động. Việc giảmạo video thực tế có thể đưa “tin giả” lên một tầm cao mới về độ tin cậy vàkhả năng tiếp cận lan truyền.

Ảnh tham khảo (nguồn: internet) 1

Chính vì vậy cơng nghệ Ai Deepfakes đưa ra những tình huống khó xửnghiêm trọng về mặt đạo đức xung quanh quyền riêng tư, sự đồng ý và độ tincậy của thơng tin, định hình bối cảnh đạo đức của truyền thơng và cơng nghệhiện đại. Việc giải quyết các tình huống khó xử về đạo đức liên quan đếndeepfake địi hỏi các khuôn khổ mạnh mẽ và sự cảnh giác về công nghệ. Cânbằng sự đổi mới và đạo đức là rất quan trọng để giải quyết một cách có tráchnhiệm những thách thức nhiều mặt.[ CITATION Jef18 \l 1033 ]

</div>Trang 22<div class="page_container" data-page="22">

1.6. Trách nhiệm của nhà phát triển AI deepfakes

[CITATION Pla23 \l 1033 ][ CITATION Nei23 \l 1033 ], Đạo đức tráchnhiệm trong phát triển AI đóng một vai trò quan trọng trong phát triển AI .Chúng ta cần đảm bảo rằng AI được phát triển dựa trên các giá trị đạo đức vàtuân thủ các quy định pháp luật . Chúng ta cần sử dụng AI để giải quyết cácvấn đề phức tạp để nó mang lại lợi ích người, khơng làm hại họ.

Deepfakes là các video, hình ảnh hoặc âm thanh được tạo ra bằng cơngnghệ trí tuệ nhân tạo (AI) để giả mạo hoặc thay đổi khn mặt, giọng nóihoặc hành động của một người. Deepfakes có thể được sử dụng cho nhiềumục đích, từ giải trí, nghệ thuật, giáo dục cho đến tội phạm, lừa đảo, xâmphạm quyền riêng tư hoặc gây ảnh hưởng tiêu cực đến chính trị và xã hội.

</div>Trang 23<div class="page_container" data-page="23">

Trách nhiệm của nhà phát triển AI. (nguồn: Neil Sahota)

Trách nhiệm của nhà phát triển AI deepfakes là một vấn đề đạo đức phứctạp và khó giải quyết. Một số quan điểm cho rằng nhà phát triển AI deepfakescó trách nhiệm đảm bảo rằng các sản phẩm của họ được sử dụng một cáchhợp pháp, đạo đức và minh bạch, và phải tuân thủ các quy định, tiêu chuẩnhoặc nguyên tắc ứng xử của ngành.

Nhà phát triển sẽ phải chịu trách nhiệm đảm bảo công nghệ có tính minhbạch trong việc tạo ra các nội dung deepfakes để cho người xem có thể nhậnbiết được tính chất nhân tạo của nó, giúp người xem phân biệt được giữa nội

</div>Trang 24<div class="page_container" data-page="24">

dung thật và được chỉnh sửa. Tránh tạo ra và phổ biến các nội dung có thể gâyhại cho cá nhân, lừa dối cơng chúng hoặc được sử dụng cho mục đích ác ýnhư lan truyền thông tin sai lệch.

Nhà phát triển cũng nên nhận thức về các hậu quả và tiềm năm của côngnghệ của họ và đưa ra các biện pháp để ngăn chặn việc sử dụng sai mục đích.Từ đó giáo dục công chúng nâng cao nhận thức và tăng cường khả năngtruyền thông về sự tồn tại, nguy cơ tiềm ẩn do deepfakes gây ra.

Nhà phát triển nên chia sẻ kiến thức và chun mơn, tích cực hợp tác vớicác nhà nghiên cứu, nhà lập luận chính sách và các bên liên quan khác để giảiquyết những thách thức do deepfakes gây ra cùng nhau phát triển các chiếnlược và công nghệ để phát hiện, giảm thiểu và đối phó với những tác độngtiêu cực của deepfakes.

1.7. Ảnh hưởng đến quyền riêng tư và danh dự

[CITATION Pla23 \l 1033 ] Sự nguy hiểm của deepfake cịn vượt xa sựlan truyền của thơng tin sai lệch. Deepfake cũng có thể làm suy yếu niềm tincủa cơng chúng vào các tổ chức quan trọng. Nếu người dân khơng cịn phânbiệt được đâu là truyền thơng thật và giả, họ có thể vỡ mộng và mất lịng tinvào những người cầm quyền.

Sự lan rộng của deepfake đã tác động sâu sắc đến diễn ngôn công khai,sự ổn định chính trị và các mối quan hệ cá nhân. Việc thao túng nội dung này

</div>Trang 25<div class="page_container" data-page="25">

đặt ra một thách thức đáng kể, định hình lại nhận thức về thông tin và niềmtin trong xã hội.

2.2.1. Các mối quan hệ cá nhân:

[CITATION Pla23 \l 1033 ]Deepfakes xâm phạm quyền riêng tư của mộtcá nhân bằng cách sử dụng hình ảnh của họ mà khơng có sự đồng ý, có khảnăng dẫn đến hành vi lợi dụng hoặc quấy rối khơng chính đáng. Nội dung bịađặt được tạo mà khơng được phép có thể xâm phạm ranh giới cá nhân và gâyđau khổ về mặt tinh thần.. Ví dụ: một video deepfake về cuộc trị chuyệnriêng tư có thể được tạo và chia sẻ mà khơng có sự đồng ý, gây tổn hạinghiêm trọng đến danh tiếng.

</div>Trang 26<div class="page_container" data-page="26">

Kẻ lừa đảo có thể sử dụng AI để tái tạo khuôn mặt và giọng nói củangười khác. (nguồn: vtcnews)

Các cá nhân có thể phát hiện ra mình được mơ tả trong nội dungdeepfake mà khơng có bất kỳ sự kiểm sốt nào, gây ra mối lo ngại về sự đồngý và quyền tự chủ đối với danh tính của chính họ. Việc sử dụng sai mục đíchdeepfake có thể ép buộc các cá nhân tỏ ra nói hoặc làm những điều trái với ýmuốn của họ, có khả năng gây tổn hại hoặc lợi dụng danh tiếng.

Deepfakes nhắm mục tiêu vào các cá nhân có thể gây mất lịng tin vànghi ngờ trong các mối quan hệ cá nhân, có khả năng tạo ra rạn nứt. Tác độngtinh thần của nội dung bị bóp méo, đặc biệt khi được sử dụng để quấy rối

</div>Trang 27<div class="page_container" data-page="27">

hoặc phỉ báng, có thể nghiêm trọng đối với các cá nhân và gia đình, gây tổnhại đáng kể.

Ảnh hưởng rộng rãi của deepfake thách thức niềm tin và sự thật của xãhội. Việc chống lại những tác động này đòi hỏi nỗ lực tập thể, kết hợp côngnghệ, hiểu biết về truyền thông và các ngun tắc đạo đức để bảo vệ tính tồnvẹn của các tương tác xã hội trong bối cảnh kỹ thuật số đang phát triển.[CITATION Pla23 \l 1033 ]

2.2.2. Buổi đàm luận công cộng

[CITATION Pla23 \l 1033 ] Sự lan truyền rộng rãi của deepfake tháchthức độ tin cậy của các nguồn thông tin và ảnh hưởng đến niềm tin của côngchúng. Nội dung gây hiểu lầm hoặc bị thao túng có thể bóp méo các cuộc trịchuyện, cản trở các cuộc thảo luận có ý nghĩa về các vấn đề xã hội quantrọng.

Việc sử dụng rộng rãi các tác phẩm làm mờ ranh giới giữa thực tế và hưcấu, làm xói mịn niềm tin vào truyền thơng và gây khó khăn cho việc phânbiệt nội dung thật với tài liệu bị thao túng. Điều này có nguy cơ làm suy yếuđộ tin cậy của các nguồn hợp pháp do khả năng phổ biến thông tin bịa đặt,ảnh hưởng đến diễn ngơn và q trình ra quyết định của công chúng.

</div>Trang 28<div class="page_container" data-page="28">

Ảnh tham khảo. Nguồn: internet.

Việc giải quyết các tình huống khó xử về đạo đức liên quan đếndeepfake địi hỏi các khn khổ mạnh mẽ và sự cảnh giác về công nghệ. Cânbằng sự đổi mới và đạo đức là rất quan trọng để giải quyết một cách có tráchnhiệm những thách thức nhiều mặt mà chúng đặt ra trong bối cảnh kỹ thuật sốngày nay. [CITATION Pla23 \l 1033 ]

2.2.3. Ổn định chính trị

[CITATION Pla23 \l 1033 ] Deepfakes cũng có thể bịa đặt các bài phátbiểu hoặc hành động, ảnh hưởng đến dư luận và có khả năng gây bất ổn chobối cảnh chính trị thơng qua các chiến dịch thơng tin sai lệch. Sự phổ biến củanội dung chính trị bị thao túng có thể làm xói mịn niềm tin vào các nhân vậthoặc thể chế chính trị, ảnh hưởng đến các quá trình dân chủ và niềm tin vàoquản trị.

</div>Trang 29<div class="page_container" data-page="29">

Người nổi tiếng đang là mục tiêu để người xấu dùng Deepfake lợi dụng.Nguồn: Aaj Tak.

Ảnh hưởng rộng rãi của deepfake thách thức niềm tin và sự thật của xãhội. Việc chống lại những tác động này đòi hỏi nỗ lực tập thể, kết hợp côngnghệ, hiểu biết về truyền thông và các nguyên tắc đạo đức để bảo vệ tính tồnvẹn của các tương tác xã hội trong bối cảnh kỹ thuật số đang phát triển.[CITATION Pla23 \l 1033 ]

</div>Trang 30<div class="page_container" data-page="30">

1.8. Ảnh hưởng đến quyền riêng tư và danh dự

Việc tạo và phân phối deepfake có thể có những tác động nghiêm trọngvề mặt đạo đức, gây ra những mối đe dọa nghiêm trọng đối với quyền riêng tưvà danh tiếng của cá nhân. Nhiều người đã bày tỏ lo ngại về tác hại mà cơngnghệ deepfake có thể gây ra, bao gồm cả khả năng tạo ra nội dung gây tổn hạivà sai sự thật, khó có thể phân biệt được với thực tế.

2.3.1 Sự đồng thuận của cộng đồng

[ CITATION VũC23 \l 1033 ] Deepfake, một sản phẩm của công nghệ tiêntiến kết hợp “học sâu” và sáng tạo nội dung, sử dụng các thuật tốn phức tạpđể thay đổi hình ảnh hoặc video một cách thuyết phục, tạo ra sự giống nhaukỳ lạ giữa các cá nhân. Khả năng tái tạo nét mặt và phong cách của công nghệnày làm mờ đi ranh giới giữa thực tế và sự bịa đặt.

Các ứng dụng của nó bao gồm từ việc nâng cao trải nghiệm giải trí chođến việc định hình lại các sự kiện lịch sử. Ứng dụng của nó trải rộng trênnhiều lĩnh vực khác nhau. Về khả năng sáng tạo và giải trí, deepfake cũng cóthể được sử dụng trong ngành cơng nghiệp phim ảnh để tạo ra các cảnh quayhoặc các nhân vật mới, cho phép các diễn viên tích hợp liền mạch vào cáccảnh hoặc hồi sinh các nhân vật lịch sử cho mục đích kể chuyện giúp giảm chiphí và thời gian sản xuất phim ảnh.

</div>Trang 31<div class="page_container" data-page="31">

Hình .3 nhân vật Brian O'Conner. (nguồn:internet) 1

Chắc bạn vẫn còn nhớ nhà sản xuất Fast and Furious 7 đã phải sử dụngDeepfake lên chính người em của cố nam diễn viên Paul Walker để giúp chonhân vật Brian O'Conner có thể hồn thành cái kết thật trọn vẹn đúng khôngnào? [ CITATION VũC23 \l 1033 ]

</div>Trang 32<div class="page_container" data-page="32">

Nhân vật Luke Skywalker. Nguồn: internet.

( CITATION Nei23 \l 1033 ] Sự xuất hiện của Luke Skywalker trong phầncuối của The Mandalorian mùa hai đã khơi dậy cộng đồng người hâm mộ StarWars. Tuy nhiên, người xem đã nhanh chóng chỉ trích việc tái tạo kỹ thuật sốcủa Mark Hamill thời trẻ.

[ CITATION Anh23 \l 1033 ]Ngoài những lĩnh vực này, tiềm năng củadeepfake còn mở rộng sang cả các lĩnh vực đổi mới và liên quan. Trongnghiên cứu và giáo dục, deepfakes cung cấp các công cụ đầy hứa hẹn để môphỏng các sự kiện lịch sử hoặc hỗ trợ việc học ngôn ngữ. Trong y tế,deepfakes góp phần thúc đẩy những tiến bộ trong việc tạo ra các bộ phận giảvà thiết bị hỗ trợ thực tế, mang đến sự thể hiện chính xác hơn các đặc điểmtrên khuôn mặt. Điều này hỗ trợ tùy chỉnh tốt hơn và phù hợp với bệnh nhân.

</div>Trang 33<div class="page_container" data-page="33">

Tuy nhiên, nguy cơ lạm dụng là rõ ràng, với việc deepfake được sử dụng đểđánh lừa, thao túng hoặc gây tổn hại đến danh tiếng.

2.3.2. Sự phản đối của cộng đồng.

[ CITATION Nei23 \l 1033 ]Tính linh hoạt của deepfake thể hiện một tìnhthế khó xử phức tạp về mặt đạo đức, cân bằng giữa hứa hẹn đổi mới với nguycơ thao túng và thông tin sai lệch. Khi công nghệ này phát triển, việc hiểu rõkhả năng và hạn chế của nó ngày càng trở nên quan trọng.

Sự phát triển của công nghệ deepfake đã mang lại những rủi ro và nguyhiểm đáng kể cho bối cảnh kỹ thuật số của chúng ta. Deepfake có thể được sửdụng để:

 Truyền bá thơng tin sai lệch và tun truyền Thao túng diễn ngơn chính trị

 Làm tổn hại danh tiếng.

[ CITATION Anh23 \l 1033 ]Hơn nữa, deepfake có thể được sử dụng chocác mục đích độc hại như tống tiền, tạo ra những video khiêu dâm giả mạocủa những người nổi tiếng và lừa đảo. Ví dụ: một video deepfake có thể đượcsử dụng để mạo danh ai đó và tống tiền hoặc thơng tin nhạy cảm.

Điều này có thể gây ra tổn thương tinh thần hoặc xâm phạm quyền riêngtư của các cá nhân, đặc biệt là phụ nữ và trẻ em.

Deepfake còn được sử dụng để tạo ra những video giả mạo của các sựkiện quan trọng. Chẳng hạn như cuộc bầu cử hay biểu tình với mục đích lan

</div>