Số lượng video deepfake tăng gấp đôi trong gần 1 năm

Enternews.vn Deeptrace, một công ty an ninh mạng chuyên phát hiện các video do AI tạo ra, cho biết số lượng video deepfake đã tăng 84% lên 14.678 video trong gần 1 năm.

Deepfake có thể được sử dụng vào mục đích chính trị.

Deepfake có thể được sử dụng vào mục đích chính trị.

Theo đó, báo cáo của Deeptrace cho thấy sự tăng đột biến về số lượng video deepfake trực tuyến từ 7.964 vào tháng 12/2018 lên 14.678 vào tháng 7/ 2019. Tương đương tăng nhảy vọt 84% trong chưa đầy 1 năm.

Deepfake là từ kết hợp của "deep learning" (học sâu) và "fake" (giả mạo) nhằm miêu tả công nghệ trí tuệ nhân tạo (AI) có khả năng học hỏi từ con người, và hành động, nói những điều họ chưa từng làm.

Các video deepfake đầu tiên được tung ra trên Reddit năm 2017, có nội dung là người nổi tiếng hoán đổi gương mặt vào các ngôi sao phim cấp ba. Và từ đó đến nay, công nghệ này liên tục phát triển và việc thực hiện một video giả ngày càng trở nên dễ dàng hơn bao giờ hết.

Điều đáng báo động hiện nay là theo phân tích của báo cáo Deeptrace, có đến 96% video deepfake là chứa nội dung khiêu dâm, thường sử dụng hình ảnh của người nổi tiếng do máy tính tạo ra để thay thế cho diễn viên thật trong cảnh phim. Đối tượng thường bị nhắm đến là các nữ diễn viên đến từ các nước phương Tây và các ca sĩ nhạc pop Hàn Quốc.

Với sự phổ biến và khả năng tiếp cận của công nghệ deepfake, không có gì ngạc nhiên khi số lượng các video deepfake lưu hành trực tuyến tăng đột biến. Đầu năm nay, ứng dụng Zao của Trung Quốc đã gây sốt vì khả năng "nhét" hình của người dùng vào các cảnh phim nổi tiếng.

Trong khi hầu hết các ứng dụng và phần mềm deepfake có sẵn chủ yếu phục vụ mục đích giải trí, có thể có sự phân nhánh chính trị nghiêm trọng. Một số doanh nghiệp và cá nhân cũng đã bắt đầu cung cấp dịch vụ deepfake. Cụ thể, có một bên cung cấp dịch vụ quảng cáo rằng họ có thể tạo ra video giả mạo trong hai ngày nếu khách hàng đưa cho họ 250 ảnh nhân vật mà họ muốn xuất hiện trong phim. Giá của mỗi video như vậy được rao bán từ 3 USD.

Nhận thấy những nguy hiểm tiềm tàng từ các video deepfake, chính phủ các nước trên thế giới đã có những biện pháp đối phó với deepfake. Tại Mỹ, bang California đã ban hành luật cấm phân phối video deepfake trong vòng 60 ngày kể từ ngày bầu cử. Lệnh cấm thứ hai cho phép cư dân California kiện bất cứ ai phân phối nội dung khiêu dâm deepfake mà không có sự đồng ý của họ.

Tuy nhiên, liệu hành lang pháp lý thôi liệu đã đủ để ngăn chặn các video deepfake khi mà công nghệ của nó ngày càng phát triển. Sự phát triển của deepfake đã tạo ra một cuộc chạy đua vũ trang giữa những người tạo ra deepfake và những người cố gắng phát hiện ra các video này.

Trao đổi với Reuters, Siddharth Garg, giáo sư trợ lý kỹ thuật máy tính tại Trường Tandon của Đại học New York cho biết: "Đây là một trò chơi mèo vờn chuột”.

15.000 video deepfake thực chất chỉ là số nhỏ trong vô số nội dung trực tuyến. Tuy vậy, khi cuộc bầu cử tổng thống Mỹ năm 2020 đang đến gần, các quan chức chính phủ cũng như chính trị gia của Mỹ lo ngại liệu những video này có được sử dụng để đánh lừa cử tri, gây ảnh hưởng đến phiếu bầu hay không.

Sam Gregory, Giám đốc của tổ chức bảo vệ nhân quyền phi lợi nhuận Witness, cho biết sự gia tăng của nội dung deepfake là vấn đề đáng lo ngại. "Dù chúng không tăng lên theo cấp số nhân, số lượng vẫn rất đáng kể", ông nói.

Trong khi đó, Bobby Chesney, Giáo sư luật tại Đại học Luật Texas, nhận định trên Data and Society rằng con người sẽ không thể tránh khỏi nguy cơ trở thành nạn nhân của deepfake. Bất kỳ ai công khai hồ sơ cá nhân lên mạng xã hội đều có thể bị giả mạo.

“Chúng ta cần bàn về các biện pháp nhằm hạn chế tác hại của deepfake, chứ không phải giải quyết triệt để bởi nó sẽ không bao giờ biến mất hoàn toàn”, ông nói.

Các công ty như Facebook hay Google cũng cảnh báo nguy cơ deepfake bị phát tán rộng rãi trên mạng xã hội. Vì vậy, họ đã tạo ra các kho dữ liệu deepfake với hy vọng hỗ trợ các nhà nghiên cứu tìm cách chống lại loại nội dung giả mạo.

Để chống lại deepfake, Google thậm chí còn sử dụng chiến lược "Gậy ông đập lưng ông". Theo đó, Google đã công khai bộ dữ liệu chứa 3.000 video giả mạo để hỗ trợ các nhà nghiên cứu tìm cách ngăn chặn vấn nạn chỉnh sửa hình ảnh nhờ AI. Công ty đã sản xuất cơ sở dữ liệu với hy vọng nó sẽ giúp các nhà nghiên cứu xây dựng các tính năng để loại bỏ các video giả mạo.

Trong khi đó, Facebook sẽ trao khoản tiền lên đến 10 triệu USD cho bất kỳ cá nhân hoặc nhóm nào có thể xây dựng công cụ phát hiện công nghệ này.

Đây là dự án do Facebook khởi xướng, hợp tác với Công ty Microsoft, Partnership on AI và một số học giả đến từ các trường đại học như Cornell Tech, MIT, Oxford, UC Berkeley... nhằm phát hiện và xử lý các video deepfakes, được mệnh danh là "bóng ma mới của thế giới Internet".

Với những động thái từ Facebook và Google, các ông lớn trong nhóm Big Tech, đã cho thấy việc "tiêu diệt" các nội dung giả sẽ còn rất nhiều việc phải làm, nhất là khi đây là một cuộc chạy đua công nghệ. Và để dập tắt nạn video giả mạo, sẽ cần rất nhiều thời gian, công sức và tiền bạc đổ vào để có thể thành công trong cuộc chiến này.

 

Mời các bạn tham gia vào group Diễn đàn doanh nghiệp để thảo luận và cập nhật tin tức cùng cơ hội nhận quà tặng hàng tháng.
Bạn đang đọc bài viết Số lượng video deepfake tăng gấp đôi trong gần 1 năm tại chuyên mục Khoa Học - Công nghệ của Báo Diễn đàn doanh nghiệp. Liên hệ cung cấp thông tin và gửi tin bài cộng tác: email toasoan@dddn.com.vn, hotline: (024) 3.5771239,
Bình luận
Bạn còn /500 ký tự
Xếp theo: Thời gian | Số người thích