Mạng xã hội đang trở thành công cụ không thể thiếu để kẻ xấu lợi dụng tuyên truyền hành vi cực đoan.

Mạng xã hội đang trở thành công cụ không thể thiếu để kẻ xấu lợi dụng tuyên truyền hành vi cực đoan.

Mới đây, một vụ nổ súng hôm thứ Tư vừa qua tại thành phố Halle, miền đông nước Đức, bên ngoài một giáo đường đã được phát trực tiếp trên dịch vụ Twitch của Amazon. Đoạn video dài 35 phút. Hai người đã thiệt mạng trong vụ tấn công, cảnh sát Đức cho biết.

Twitch là một nền tảng được xây dựng để cho phép các game thủ video phát trực tiếp các trò chơi của họ trong khi trò chuyện với khán giả của họ. Các công ty khác đã xử lý các vấn đề tương tự.

Đại diện Twitch bày tỏ lấy làm thương tiếc và gửi lời chia buồn sâu sắc nhất đến những người bị ảnh hưởng bởi cuộc tấn công.

Đối với việc để cho kẻ tấn công livestream trên nền tảng của mình, Twitch tuyên bố rằng nền tảng có chính sách không khoan nhượng đối với hành vi tiêu cực và bất kỳ hành vi bạo lực nào đều được xử lý cực kỳ nghiêm túc. “Chúng tôi đang nỗ lực để xóa nội dung này và đình chỉ vĩnh viễn bất kỳ tài khoản nào bị phát hiện đăng hoặc đăng lại nội dung của hành động ghê tởm này” – đại diện Twitch cho hay.

Trên Twitter, Twitch khẳng định chỉ có 5 người theo dõi vụ xả súng trực tiếp và khoảng 2.200 người xem video trong 30 phút trước khi bị báo cáo và gỡ bỏ.Công ty cũng cho biết tài khoản đã được tạo ra hai tháng trước khi phát trực tiếp vụ nổ súng.

“Video này không xuất hiện trong bất kỳ đề xuất hoặc thư mục nào; thay vào đó, cuộc điều tra của chúng tôi cho thấy mọi người đang phối hợp và chia sẻ video thông qua các dịch vụ nhắn tin trực tuyến khác, công ty cho biết. Sau khi video bị xóa, chúng tôi đã chia sẻ hàm băm với một tập đoàn công nghiệp để giúp ngăn chặn sự phổ biến của nội dung này. Chúng tôi rất coi trọng vấn đề này và cam kết hợp tác với các đồng nghiệp trong ngành, thực thi pháp luật và bất kỳ bên liên quan nào để bảo vệ cộng đồng của chúng tôi” – đại diện Twitch khẳng định.

Đánh giá về việc tại sao các nền tảng mạng xã hội vẫn còn để lọt những nội dung livestream tiêu cực, trao đổi với báo Diễn Đàn Doanh nghiệp,  ông Nguyễn Quang Trung – chuyên gia tư vấn Sở hữu trí tuệ về truyền thông cho biết:

Mỗi mạng xã hội đều có công cụ bảo về bản quyền sở hữu trí tuệ khác nhau (Content ID) để các nền tảng quản lý riêng như YouTube, Facebook, Twitch. Khi đã phát tán trên một trong những nền tảng trên người dùng có thể copy để post lên nền tảng khác. Đây là vấn đề thứ nhất liên quan về mặt kỹ thuật không có sự thống nhất công cụ kiểm soát nội dung trên các trang mạng xã hội, một vấn nạn chung trên toàn cầu. Chính vì vậy các clip nội dung xấu không thể kiểm soát được.

Chính vì vậy trừ khi các hiệp hội, các công ty chủ sở hữu của các nền tảng cùng ngồi lại với nhau thống nhất một công cụ kiểm soát bản quyền liên thông với nhau thì mới kiểm soát được người dùng. Nhưng đây là thách thức rất lớn về mặt kỹ thuật và một mặt các công ty có những big data riêng, rất khó liên thông với nhau. Content ID liên quan đến bí mật kinh doanh của các công ty nên rất khó để họ có thể ngồi lại với nhau để tìm ra công cụ kiểm soát.

Công cụ kiểm duyệt mà hiện nay các công ty đang sử dụng đều là thủ công dựa vào con người. Như Facebook sử dụng các nhóm kiểm duyệt của bên thứ ba để thay họ quản lý hình ảnh, video, bài đăng... bị cấm hoặc bất hợp pháp.

Tuy nhiên sức người cũng có hạn, những người kiểm duyệt nội dung được cho là phải xem ít nhất 1.000 nội dung trong suốt 8 tiếng làm việc mỗi ngày. Trong đó, cứ 30 giây sẽ xuất hiện một vấn đề. Với tần suất như vậy, chắc chắn không thể kiểm duyệt tất cả ngay lập tức và sẽ để lộ lọt.

“AI không thể quét hết nội dung trên các nền tảng, nó có hạn chế nhất định khi chỉ quét được tối đa 80% nội dung, vẫn còn đến 20% thông tin nằm ngoài kiểm duyệt. Công cụ không thể rà quét được hết các nội dung người dùng đăng tải” – ông Trung cho hay.

Rất đáng tiếc, đây không phải lần đầu tiên một nền tảng mạng xã hội bị lợi dụng để tuyên truyền các hành vi bạo lực, khủng bố. Trước đó, vào hồi tháng 3/2019, một kẻ khủng bố đã livestream xả súng tại New Zealand. Sau vụ việc này, Facebook đã đưa ra lệnh cấm streaming nội dung cực đoan. 

CEO Mark Zuckerberg thừa nhận trang mạng xã hội phải được điều chỉnh sau cuộc tấn công. Vụ thảm sát nhà thờ Hồi giáo ở New Zealand, đã cướp đi 50 mạng sống, đã được phát trực tiếp lên Facebook vào tháng 3. Facebook cho biết họ đã làm việc để loại bỏ 1,5 triệu video về cuộc tấn công được đăng trong 24 giờ sau khi nó được phát trực tiếp và 1,2 triệu trong số đó đã bị chặn khi tải lên, bởi Facebook. YouTube, Twitter và Reddit cũng đã xóa các phiên bản phát trực tiếp của New Zealand khỏi trang web của họ.

Và giờ đây là vụ việc tại Đức, nó đã cho thấy vấn đề ngày càng tăng mà các nền tảng phát trực tuyến đang phải đối mặt: Khi mọi người muốn phạm tội ác, họ có thể phát trực tiếp tội ác của mình cho khán giả bằng cách sử dụng mạng xã hội, có thể khuếch đại phạm vi ảnh hưởng của họ.

Hiện tại, hơn ai hết, chính các mạng rất muốn ngăn chặn hoàn toàn nội dung bạo lực trên nền tảng của họ, ít nhất là để tránh các tai tiếng liên tiếp. Nhưng những vụ nổ súng như ở New Zealand hay ở Đức vừa qua có thể chứng minh rằng, một khi phương tiện truyền thông xã hội tồn tại, chắc chắn sẽ có những vụ việc tương tự vượt khỏi tầm kiểm soát.

Bạn đang đọc bài viết Khi nền tảng mạng xã hội “bất lực” trước các vụ bạo lực tại chuyên mục Khoa Học - Công nghệ của Báo Diễn đàn doanh nghiệp. Liên hệ cung cấp thông tin và gửi tin bài cộng tác: email toasoan@dddn.com.vn, hotline: (024) 3.5771239,