- Meta hôm qua (29/5), cho biết họ đã tìm thấy nội dung "có thể do AI tạo ra" được sử dụng một cách lừa đảo trên nền tảng Facebook và Instagram của mình, bao gồm các bình luận ca ngợi cách Israel xử lý cuộc chiến ở Gaza được đăng bên dưới các bài đăng từ các tổ chức tin tức toàn cầu và các nhà lập pháp Mỹ.

Công ty truyền thông xã hội Meta trong một báo cáo bảo mật hàng quý đã cho biết các tài khoản được coi là sinh viên Do Thái, người Mỹ gốc Phi và những công dân có liên quan khác, nhắm mục tiêu vào khán giả ở Mỹ và Canada. Meta cho rằng chiến dịch này là do công ty tiếp thị chính trị STOIC có trụ sở tại Tel Aviv thực hiện.

STOIC đã không trả lời ngay lập tức yêu cầu bình luận về các cáo buộc nói trên.

Mặc dù Meta đã tìm thấy những bức ảnh hồ sơ cơ bản do trí tuệ nhân tạo (AI) tạo ra trong các hoạt động gây ảnh hưởng kể từ năm 2019, nhưng báo cáo này là báo cáo đầu tiên tiết lộ việc sử dụng công nghệ AI tạo ra dựa trên văn bản kể từ khi nó xuất hiện vào cuối năm 2022.

Các nhà nghiên cứu lo ngại rằng AI tạo sinh có thể tạo ra văn bản, hình ảnh và âm thanh giống con người một cách nhanh chóng và rẻ tiền, có thể dẫn đến các chiến dịch đưa thông tin sai lệch hiệu quả hơn và gây ảnh hưởng đến các cuộc bầu cử.

Trong một cuộc họp với báo chí, các giám đốc điều hành an ninh của Meta cho biết họ đã sớm loại bỏ chiến dịch của Israel và không nghĩ rằng các công nghệ AI mới đã cản trở khả năng của họ trong việc phá vỡ các mạng lưới gây ảnh hưởng, vốn là những nỗ lực phối hợp để truyền tải thông điệp.

Các nhà điều hành Meta cho biết họ chưa thấy những mạng lưới như vậy triển khai hình ảnh do AI tạo ra về các chính trị gia đủ chân thực để bị nhầm lẫn với những bức ảnh thật.