ChatGPT có thể lan truyền tin tức giả mạo trên quy mô lớn

0
0

ChatGPT có thể được sử dụng để phổ biến và lan truyền tin tức giả trên quy mô lớn và thậm chí là trở thành công cụ giúp tin tặc viết mã độc.

ChatGPT là chatbot AI mà OpenAI phát hành vào tháng 11/2022 nhằm trình diễn và thử nghiệm những gì một hệ thống AI lớn, mạnh mẽ có thể thực hiện. Người dùng đặt câu hỏi và có thể nhận được câu trả lời hữu ích.

ChatGPT có thể trò chuyện, thiết lập văn bản theo yêu cầu và thậm chí tạo ra những hình ảnh và video mới lạ dựa trên những gì ứng dụng này đã học được từ cơ sở dữ liệu sách số khổng lồ, bài luận trực tuyến và các phương tiện khác.

Không giống như các công cụ ngôn ngữ trước đây như GPT-3 của OpenAI, ra mắt vào năm 2020, ChatGPT được thiết kế thân thiện với người dùng hơn.

Sự phát triển của các công cụ AI tổng quát như ChatGPT thể hiện một tiến bộ công nghệ quan trọng. Tuy nhiên, như với bất kỳ công nghệ mới nào, bên cạnh những ưu điểm mà nó mang lại, chúng ta cũng cần phải xem xét đến cả những rủi ro và nhược điểm tiềm ẩn của ChatGPT. Một trong số đó là ChatGPT có khả năng phát tán tin giả trên quy mô lớn.

 

Việc phát tán tin giả, thông tin sai lệch có thể mang lại những hậu quả nghiêm trọng, từ việc gây ảnh hưởng đến dư luận cho đến làm suy yếu lòng tin vào các tổ chức, doanh nghiệp. Với khả năng tạo ra một lượng lớn văn bản một cách nhanh chóng và thuyết phục, các công cụ AI tổng quát như ChatGPT có thể được sử dụng để phổ biến tin tức giả mạo trên quy mô lớn. Cụ thể, công cụ này có thể được sử dụng là tạo ra những video hoặc bản ghi âm giả sâu (deep fake) về những câu chuyện tin tức giả mạo có vẻ hợp pháp, khiến mọi người càng khó phân biệt được sự khác biệt giữa thực tế và hư cấu.

Bên cạnh đó, một vấn đề khác cũng thực sự đáng lo ngại là việc sử dụng các công cụ AI tổng quát để tạo các tài khoản mạng xã hội giả mạo hoặc bot truyền bá thông tin sai lệch. Những tài khoản này có thể được sử dụng để lan truyền những tin tức giả mạo một cách nhanh chóng trên các nền tảng mạng xã hội, khiến mọi người khó tìm được nguồn thông tin đáng tin cậy.

Điều này có thể tác động đặc biệt tiêu cực đến những phát ngôn công cộng, khiến mọi người khó có được những cuộc thảo luận mang tính xây dựng và đầy đủ thông tin về các vấn đề quan trọng. Các công cụ AI để tạo tin giả cũng có thể được sử dụng để tạo các câu chuyện giả ủng hộ hoặc phản đối các ứng cử viên hoặc một chính sách cụ thể nào đó nhằm gây ảnh hưởng đến dư luận và có thể có tác động đáng kể đến kết quả bầu cử và thậm chí được sử dụng để phá hoại tiến trình dân chủ.

Đặc biệt, bên cạnh những rủi ro trên, OpenAI cũng cảnh báo rằng ChatGPT đôi khi có thể tạo ra thông tin không chính xác hoặc gây hiểu lầm, vì vậy người dùng nên cẩn thận. Các câu trả lời nghe có vẻ hợp lý và thậm chí có căn cứ, nhưng chúng có thể hoàn toàn sai.

Với những mặt trái đó, theo Analytics Insight, một trong những cách có thể giúp hạn chế những tác động tiêu cực là phát triển và triển khai các hệ thống có khả năng phát hiện và gắn cờ những nội dung có khả năng giả mạo do các công cụ này tạo ra. Bên cạnh đó, các cơ quan chức năng cũng cần có những quy định về tính minh bạch và trách nhiệm giải trình cao hơn về việc sử dụng các công cụ này để giúp giảm nguy cơ lan truyền tin giả.

theo ictvietnam.vn

https://ictvietnam.vn/chatgpt-co-the-lan-truyen-tin-tuc-gia-mao-tren-quy-mo-lon-55400.html


Ý kiến bạn đọc


VNPT và hành trình bền bỉ vì Nhân tài Việt Nam

(VnMedia) - Nhân tài Đất Việt là Giải thưởng duy nhất do một Tập đoàn Kinh tế Nhà nước đồng tổ chức và tài trợ chính trong suốt gần 20 năm qua - Tập đoàn Bưu chính Viễn thông Việt Nam (VNPT).

Chỉ số ít tổ chức tại Việt Nam sẵn sàng đối phó với rủi ro về an ninh mạng ngày càng gia tăng

(VnMedia) - Chỉ có 6% tổ chức tại Việt Nam đạt được mức độ sẵn sàng ‘trưởng thành’ cần thiết để đối phó với những rủi ro về an ninh mạng ngày nay, theo Chỉ số Sẵn sàng An ninh mạng 2024 của Cisco.

Chuyển đổi số trong chi trả an sinh xã hội: Nhiều lợi ích thiết thực cho người dân

(VnMedia) - Ngân hàng Nhà nước đã chỉ đạo các tổ chức cung ứng dịch vụ thanh toán thường xuyên nâng cấp hệ thống, tiện ích để cung ứng các nền tảng thanh toán liên thông, cho phép xử lý tức thời và vận hành 24/7 để đáp ứng nhu cầu của người dân, doanh nghiệp...

Bài học quan trọng từ vụ hack mật khẩu của Microsoft: Bảo mật mọi tài khoản!

(VnMedia) - Vụ hack vào Microsoft như một lời cảnh tỉnh cho các tổ chức ưu tiên triển khai bảo mật cho mọi tài khoản người dùng, nó cũng chỉ ra sự cần thiết của các biện pháp bảo vệ mật khẩu.

Thủ tướng: Có cơ sở dữ liệu lớn thì mới có trí tuệ nhân tạo

(VnMedia) - Trao đổi, đối thoại với thanh niên về giải pháp thể chế, công nghệ để thực hiện đồng bộ cải cách thủ tục hành chính và chuyển đổi số, Thủ tướng Phạm Minh Chính nhấn mạnh: Cơ sở dữ liệu rất quan trọng với chuyển đổi số, có cơ sở dữ liệu lớn thì mới có trí tuệ nhân tạo.