- Một loạt các công ty công nghệ lớn, tổng cộng có 200 công ty, đã tham gia nỗ lực của chính phủ Mỹ nhằm thúc đẩy các hoạt động AI có trách nhiệm.

Hiệp hội Viện An toàn AI Mỹ (AISIC) sẽ có Meta, Google, Microsoft và Apple là thành viên. Bộ trưởng Thương mại Mỹ Gina Raimondo vừa công bố nhiều thành viên mới của hiệp hội và nói rằng họ sẽ được giao nhiệm vụ thực hiện các hành động được chỉ định bởi lệnh điều hành sâu rộng của Tổng thống Biden về trí tuệ nhân tạo (AI).

Bộ trưởng Raimondo cho biết trong một tuyên bố rằng: “Chính phủ Mỹ có vai trò quan trọng trong việc thiết lập các tiêu chuẩn và phát triển các công cụ chúng ta cần để giảm thiểu rủi ro và khai thác tiềm năng to lớn của trí tuệ nhân tạo”.

Lệnh điều hành vào tháng 10 của Tổng thống Biden có tầm ảnh hưởng sâu rộng, vì vậy hiệp hội AISIC sẽ tập trung phát triển các hướng dẫn về việc “thành lập đội đỏ, đánh giá năng lực, quản lý rủi ro, an toàn và bảo mật cũng như kỹ thuật watermarking (tạm dịch là thủy vân số nhúng thông tin cần giấu)”.

Red team là sự mô phỏng tấn công bao quát và đa tầng, được thiết kế để đo lường mức độ mà con người và hệ thống mạng của một doanh nghiệp, các ứng dụng và bộ điều khiển vật lý dùng trong bảo mật có thể chịu được sự tấn công từ một kẻ thù ngoài đời thực.

Nhóm đỏ là một thuật ngữ an ninh mạng có từ thời Chiến tranh Lạnh. Nó đề cập đến các mô phỏng trong đó kẻ thù được gọi là “đội đỏ”. Trong trường hợp này, kẻ thù sẽ là một AI hoạt động xấu. Những người tham gia vào hoạt động này sẽ cố gắng lừa AI làm những điều xấu, chẳng hạn như tiết lộ số thẻ tín dụng, thông qua việc hack nhanh chóng. Một khi mọi người biết cách phá vỡ hệ thống, họ có thể xây dựng các biện pháp bảo vệ tốt hơn.

Tạo hình mờ cho nội dung tổng hợp là một khía cạnh quan trọng khác trong lệnh ban đầu của Tổng thống Biden. Các thành viên của hiệp hội sẽ phát triển các hướng dẫn và hành động để đảm bảo rằng người dùng có thể dễ dàng xác định các tài liệu do AI tạo ra. Điều này hy vọng sẽ làm giảm các thủ thuật deepfake và thông tin sai lệch do AI tăng cường. Hình mờ kỹ thuật số vẫn chưa được áp dụng rộng rãi, mặc dù chương trình này sẽ "tạo điều kiện thuận lợi và giúp tiêu chuẩn hóa" các thông số kỹ thuật cơ bản đằng sau hoạt động này.

Công việc của hiệp hội AISIC chỉ mới bắt đầu, mặc dù Bộ Thương mại cho biết họ đại diện cho tập hợp các nhóm thử nghiệm và đánh giá lớn nhất trên thế giới. Lệnh điều hành của Tổng thống Biden và hiệp hội liên kết này gần như là tất cả những gì Mỹ có hiện tại. Quốc hội Mỹ liên tục không thông qua được luật AI có ý nghĩa dưới bất kỳ hình thức nào.