Thế giới tràn ngập những tác phẩm giả mạo: video, âm thanh hoặc hình ảnh, gây ra nhiều mối đe dọa.
Nhiều video deepfake đều là những video và hình ảnh được tạo ra bằng cách ánh xạ khuôn mặt của một người nổi tiếng lên cơ thể của người khác. Một số được sử dụng để lừa đảo người tiêu dùng hoặc làm tổn hại đến danh tiếng của các chính trị gia và những người khác trong mắt công chúng. Những tiến bộ trong trí tuệ nhân tạo (AI) mà với chỉ vài cú chạm trên bàn phím là có thể tạo ra những nội dung giả mạo. Để ngăn chặn mối đe dọa từ deefake, các chính phủ trên thế giới đang nỗ lực triển khai nhiều giải pháp.
 |
Nỗ lực ngăn chặn deepfake
Ngày 8/2, Ủy ban Truyền thông Liên bang Mỹ (FCC) đã quy định việc các công ty sử dụng giọng nói do AI tạo ra trong các cuộc gọi tự động là bất hợp pháp. Lệnh cấm được đưa ra 2 ngày sau khi FCC ban hành lệnh ngừng hoạt động đối với công ty chịu trách nhiệm về âm thanh giả mạo của Tổng thống Joe Biden.
Người dân New Hampshire đã nhận được một cuộc gọi tự động trước cuộc bầu cử tổng thống của bang, có vẻ như ông Biden đang kêu gọi họ ở nhà và “để dành phiếu bầu cho cuộc bầu cử tháng 11”.
Giọng nói đó thậm chí còn thốt ra một trong những cụm từ đặc trưng của ông Biden: “Thật là một lũ khốn nạn”. Hiện tại chưa có luật liên bang Mỹ cấm deepfake.
Một số tiểu bang đã thực thi luật liên quan đến nội dung khiêu dâm deepfake, nhưng việc áp dụng chúng không nhất quán trên toàn quốc. Đạo luật AI của Liên minh châu Âu được đề xuất sẽ yêu cầu các nền tảng gắn nhãn cho các deepfake như vậy.
Deefake được tạo ra như thế nào?
Những hình ảnh deepfake rõ ràng của ngôi sao nhạc pop Taylor Swift đã được chia sẻ rộng rãi trên các trang mạng xã hội vào cuối tháng 1, khiến vô số người hâm mộ của cô phẫn nộ. Vụ việc đã thu hút sự bày tỏ quan ngại từ Nhà Trắng.
Cũng đầu tháng 1, nữ diễn viên 17 tuổi của loạt phim Marvel Xochitl Gomez đã lên tiếng về việc tìm thấy những bức ảnh giả mạo rõ ràng về tình dục với khuôn mặt của cô ấy trên mạng xã hội và không thành công trong việc gỡ tài liệu xuống, NBC News đưa tin.
Deepfake thường được tạo bằng thuật toán AI để nhận dạng các mẫu trong bản ghi video thực của một người cụ thể, một quá trình được gọi là học sâu. Sau đó, có thể hoán đổi một phần tử của một video, chẳng hạn như khuôn mặt của một người, thành một phần nội dung khác mà không trông giống như một bản dựng phim thô thiển.
Các thao tác này dễ gây hiểu lầm nhất khi được sử dụng với công nghệ sao chép giọng nói, công nghệ này sẽ chia đoạn âm thanh của một người nào đó nói thành các đoạn nửa âm tiết có thể được tập hợp lại thành các từ mới có vẻ như được người đó nói trong bản ghi âm gốc.
Sự phát triển của công nghệ deepfake
Công nghệ này ban đầu là lĩnh vực nghiên cứu của các học giả và nhà nghiên cứu. Tuy nhiên, Motherboard, một ấn phẩm của Vice, đã báo cáo vào năm 2017 rằng một người dùng Reddit có tên là “deepfakes” đã nghĩ ra thuật toán tạo video giả bằng mã nguồn mở.
Reddit đã cấm người dùng này, nhưng hành vi này vẫn lan rộng. Ban đầu, deepfake yêu cầu video đã tồn tại và giọng nói thực sự cùng với kỹ năng chỉnh sửa thành thạo. Các hệ thống AI tiên tiến ngày nay cho phép người dùng tạo ra hình ảnh và video thuyết phục từ những văn bản đơn giản.
Các hành vi giả mạo kỹ thuật số ngày càng khó phát hiện hơn khi các công ty AI áp dụng các công cụ mới cho lượng tài liệu khổng lồ có sẵn trên web, từ YouTube đến các thư viện hình ảnh và video có sẵn.
Một số ví dụ khác về deepfake?
Đã có những kẻ lan truyền những hình ảnh bịa đặt về vụ cháy rừng vào tháng 8/2023 trên đảo Maui của Hawaii để khiến mọi người tin rằng cúng là do một “vũ khí thời tiết” bí mật đang được Mỹ thử nghiệm gây ra.
Vào tháng 5/2023, chứng khoán Mỹ sụt giảm trong thời gian ngắn sau khi một hình ảnh lan truyền trên mạng cho thấy Lầu Năm Góc đang bốc cháy. Các chuyên gia cho biết bức ảnh giả có dấu hiệu được tạo ra bởi AI.
Vào tháng 2/2023, một đoạn âm thanh được sản xuất đã xuất hiện với nội dung giống như ứng cử viên tổng thống Nigeria Atiku Abubakar đang âm mưu gian lận cuộc bầu cử tháng đó. Vào năm 2021, một đoạn video dài một phút được đăng tải trên mạng xã hội xuất hiện cho thấy Tổng thống Ukraine Volodymyr Zelensky yêu cầu các binh sĩ của ông hạ vũ khí và đầu hàng Nga.
Nguy hiểm từ deepfake
Điều đáng lo ngại là những tác phẩm deepfake cuối cùng sẽ trở nên thuyết phục đến mức không thể phân biệt được đâu là thật đâu là giả. Hãy tưởng tượng những kẻ lừa đảo thao túng giá cổ phiếu bằng cách tạo ra các video giả mạo về các giám đốc điều hành đưa ra các thông tin cập nhật của công ty hoặc video giả mạo về những người lính phạm tội ác chiến tranh.
Các chính trị gia, lãnh đạo doanh nghiệp và người nổi tiếng đặc biệt gặp rủi ro vì có rất nhiều bản ghi âm về họ. Công nghệ này khiến cái gọi là khiêu dâm trả thù có thể xảy ra ngay cả khi không có ảnh hoặc video khỏa thân thực tế nào tồn tại, thường nhắm đến phụ nữ. Một khi một video lan truyền trên Internet thì gần như không thể ngăn chặn được.
Mặt khác, việc lan truyền deepfake sẽ giúp những người thực sự bị ghi hình đang làm hoặc nói những điều phản cảm hoặc bất hợp pháp dễ dàng tuyên bố rằng bằng chứng chống lại họ là không có thật. Một số người đã sử dụng phương pháp bào chữa deepfake trước tòa.
Có thể làm gì khác để ngăn chặn deepfake?
Một số công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia cũng như nhiều công ty công nghệ lớn của Mỹ đang phát triển công nghệ phát hiện deefake.
Intel đã ra mắt sản phẩm FakeCatcher vào tháng 11/2022. Intel cho biết sản phẩm này có thể phát hiện video giả với độ chính xác 96% bằng cách quan sát những thay đổi màu sắc tinh tế trên da của đối tượng do lưu lượng máu gây ra. Các công ty bao gồm Microsoft đã cam kết nhúng hình mờ kỹ thuật số vào hình ảnh được tạo bằng công cụ AI của họ để phân biệt chúng là giả.
theo ictvietnam.vn
https://ictvietnam.vn/tai-sao-deepfake-ngay-cang-pho-bien-lieu-co-the-ngan-chan-62840.html
