Tin giả từ công nghệ deepfake đang lan tràn trên mạng xã hội

0
0

Các bản tin giả mạo nhà báo và các hãng thông tấn hàng đầu đang được lan truyền một cách chóng mặt trên Internet.

"Chúng tôi đang phỏng vấn TikToker Krishna Sahay, người sống sót duy nhất trong vụ xả súng trường học mới đây", Anne-Marie Green, MC của kênh CBS News, nói trong video đăng bởi TikToker Sahay. Trong một video khác, người dẫn chương trình của CNN hỏi Sahay về cách sống sót trong vụ xả súng. Cả hai video nhanh chóng thu hút hàng trăm nghìn lượt xem và trở thành hiện tượng trên mạng xã hội.

Tuy nhiên, theo Forbes, Sahay chỉ là một trong nhiều TikToker và YouTuber đang sử dụng công nghệ deepfake để tung tin giả. Nhờ hỗ trợ của AI, họ tạo MC với khuôn mặt và giọng nói giống người dẫn chương trình từ các hãng thông tấn lớn, sau đó xây dựng kịch bản giật gân, sai sự thật, nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các nguồn tin này đã được xác thực.

Ảnh: Google
Ảnh: Google

Trong tuần vừa qua, phóng viên CNN - Clarissa Ward cũng là nạn nhân của deepfake khi đưa tin về tình hình ở gần biên giới giữa Gaza và Israel. Video hiển thị cảnh cô tránh tên lửa đã được chỉnh sửa âm thanh giả, gây hiểu nhầm về tình hình thực tế của cuộc xung đột. Đầu tháng 10, Gayle King, MC của chương trình CBS This Morning, bất ngờ xuất hiện trong một video được tạo bởi AI, trong đó cô giới thiệu một sản phẩm mà cô chưa bao giờ sử dụng. Trên mạng xã hội Truth Social, cựu Tổng thống Donald Trump cũng đề cập đến một video deepfake, trong đó các tuyên bố mà ông chưa từng phát biểu được trích dẫn bởi Anderson Cooper, người dẫn chương trình của CNN.

Các bản tin được dẫn bởi MC giả do deepfake tạo ra đang xuất hiện tràn lan và thường thu hút nhiều tương tác hơn nội dung đăng trên tài khoản chính chủ. Ví dụ, một video của TikToker Krishna Sahay về Margaret Brennan, người dẫn chương trình Face The Nation, đã nhận được 300.000 lượt thích. Trong khi đó, video phổ biến nhất trên kênh TikTok chính thức của Face The Nation chỉ đạt 7.000 lượt thích. Tài khoản Sahay và nhiều TikToker khác đã bị xóa do vi phạm quy định, nhưng các nội dung deepfake của họ vẫn còn tồn tại trên mạng vì được nhiều người chia sẻ.

Tạo tin giả bằng deepfake đã tồn tại từ lâu. Tuy nhiên, các chuyên gia cho biết khi kết hợp với hình ảnh của MC nổi tiếng, chúng có tác động lan truyền mạnh và gây ra hậu quả khôn lường. "Video trên các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình là những gương mặt quen thuộc và được khán giả tin tưởng. Giao diện bản tin cũng làm cho nội dung trở nên thân thuộc và đáng tin cậy hơn", giáo sư Hany Farid tại Đại học UC Berkeley giải thích.

Ariane Selliers, đại diện của TikTok, khẳng định nền tảng luôn cấm video sử dụng deepfake để tạo chân dung cá nhân với mục đích xấu. Công ty yêu cầu nhà sáng tạo gắn nhãn riêng cho nội dung AI để cảnh báo người xem. Nếu không tuân thủ, TikTok sẽ xóa video với lý do "nội dung gây hiểu nhầm" hoặc "mạo danh cá nhân để gây hại".

theo viettimes.vn

https://viettimes.vn/tin-gia-tu-cong-nghe-deepfake-dang-lan-tran-tren-mang-xa-hoi-post170779.html


Ý kiến bạn đọc


Lời cảm ơn của gia đình Tổng Bí thư Nguyễn Phú Trọng

Chiều 26/7, ông Nguyễn Trọng Trường, đại diện gia đình Tổng Bí thư Nguyễn Phú Trọng đọc Lời cảm ơn của gia đình Tổng Bí thư tại Lễ Truy điệu.

Bức tâm thư của Phu nhân Tổng Bí thư Lào gửi Phu nhân Tổng Bí thư

(VnMedia) - VnMedia xin đăng tải toàn văn bức tâm thư của Phu nhân Tổng Bí thư Lào Naly Sisoulith gửi Phu nhân Tổng Bí thư Nguyễn Phú Trọng, Ngô Thị Mận.

Nhớ về một người Cộng sản chân chính

(VnMedia)- Mỗi khi nghĩ về Tổng Bí thư Nguyễn Phú Trọng là trong tôi hiện lên hình ảnh một người Cộng sản chân chính. Và, lúc này, tôi lại nhớ đến câu chuyện mẹ tôi vẫn kể trong những năm tháng bà còn sống về cha tôi - một người Cộng sản...

Cảnh báo chiêu trò lừa đảo tuyển người mẫu, cầu thủ nhí trên không gian mạng

(VnMedia) - Bộ Công an vừa phát đi cảnh báo về chiêu trò lừa đảo tuyển mẫu nhí, cầu thủ nhí, người đại diện thương hiệu nhằm chiếm đoạt tài sản qua không gian mạng.

Giá vàng đảo chiều tăng mạnh

(VnMedia) - Chốt phiên giao dịch rạng sáng nay (24/7), giá vàng giao ngay tại thị trường New York đã đảo chiều tăng mạnh hơn 13 USD/ounce. Trong nước, chiều qua, giá vàng miếng SJC vẫn duy trì ở mốc gần 80 triệu đồng/lượng ở chiều bán ra.