- Một nhóm người trong nội bộ OpenAI đang yêu cầu các công ty trí tuệ nhân tạo (AI) minh bạch nhiều hơn nữa về “những rủi ro nghiêm trọng” gây ra bởi AI – đồng thời yêu cầu các công ty AI bảo vệ những nhân viên dũng cảm lên tiếng bày tỏ lo ngại về công nghệ mà họ đang xây dựng.

“Các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả,” bức thư ngỏ được đăng tải trên báo chí ngày hôm qua (4/6) đã viết như vậy. Bức thứ này có chữ ký của các nhân viên hiện tại và cựu nhân viên tại các công ty AI, bao gồm OpenAI, người tạo ra công cụ ChatGPT lan truyền.

Họ cũng kêu gọi các công ty AI nuôi dưỡng “văn hóa phê bình cởi mở”, chào đón thay vì trừng phạt những người lên tiếng bày tỏ mối quan ngại của họ, đặc biệt là khi luật pháp đang nỗ lực để bắt kịp với công nghệ tiến bộ nhanh chóng này.

Các công ty đã thừa nhận “những rủi ro nghiêm trọng” do AI gây ra – từ thao túng đến mất kiểm soát, được gọi là “điểm cực cùng (singularity)”, có khả năng dẫn đến sự tuyệt chủng của loài người – nhưng họ nên làm nhiều hơn để giáo dục công chúng về những rủi ro và các biện pháp bảo vệ , nhóm tác giả của bức thư đã nói như vậy. Thuật ngữ singularity đang được nói đến nhiều nhất hiện nay là về công nghệ trí tuệ nhân tạo (AI). Ở đây, singularity được hiểu là điểm cực cùng khi AI vượt qua toàn bộ trí tuệ của loài người và trở thành siêu AI.

Theo luật hiện hành, các nhân viên AI cho biết, họ không tin rằng các công ty AI sẽ tự nguyện chia sẻ thông tin quan trọng về công nghệ.

Do đó, điều cần thiết là các nhân viên hiện tại và cựu nhân viên phải lên tiếng – và điều cần thiết nữa là các công ty không thực thi các thỏa thuận “phỉ báng” hoặc trả đũa những người nêu lên mối lo ngại liên quan đến rủi ro. Nhóm viết: “Các biện pháp bảo vệ người tố cáo thông thường là không đủ vì họ tập trung vào hoạt động bất hợp pháp, trong khi nhiều rủi ro mà chúng tôi lo ngại vẫn chưa được quy định”.

Bức thư trên được đưa ra khi các công ty nhanh chóng triển khai hàng loạt công cụ AI tạo sinh vào những sản phẩm của họ, trong khi các cơ quan quản lý chính phủ, các công ty và người tiêu dùng đang vật lộn với việc sử dụng công nghệ này một cách có trách nhiệm. Trong khi đó, nhiều chuyên gia công nghệ, các nhà nghiên cứu và giới lãnh đạo đã kêu gọi tạm dừng cuộc đua AI hoặc yêu cầu chính phủ can thiệp vào và đưa ra lệnh tạm dừng.

Phản hồi của OpenAI

Trả lời bức thư, người phát ngôn của OpenAI nói với CNN rằng họ “tự hào về thành tích cung cấp các hệ thống AI có khả năng và an toàn nhất, đồng thời tin tưởng vào cách tiếp cận khoa học của chúng tôi để giải quyết rủi ro”. OpenAI nói thêm rằng công ty nhất trí với quan điểm rằng, “tranh luận nghiêm túc là rất quan trọng vì tầm quan trọng của công nghệ này.”

OpenAI nhấn mạnh rằng họ có một đường dây nóng liêm chính ẩn danh cũng như Ủy ban An toàn và Bảo mật do các thành viên hội đồng quản trị và các nhà lãnh đạo an toàn của công ty lãnh đạo. Công ty không bán thông tin cá nhân, xây dựng hồ sơ người dùng hoặc sử dụng dữ liệu đó để nhắm mục tiêu vào bất kỳ ai hoặc bán bất cứ thứ gì.

Tuy nhiên, Daniel Ziegler, một trong những người chủ trì soạn thảo bức thư cảnh báo nói trên và là kỹ sư máy học đầu tiên làm việc tại OpenAI từ năm 2018 đến năm 2021, cho rằng điều quan trọng là vẫn phải hoài nghi về cam kết minh bạch của công ty.

Ông Ziegler cho biết: “Thật khó để nói từ bên ngoài rằng họ thực hiện nghiêm túc các cam kết đánh giá an toàn và tìm ra các tác hại xã hội như thế nào, đặc biệt là khi có áp lực thương mại mạnh mẽ phải tiến rất nhanh”. “Điều thực sự quan trọng là phải có văn hóa và quy trình phù hợp để nhân viên có thể lên tiếng theo những cách có chủ đích khi họ có mối quan ngại.”

Ông Ziegler hy vọng sẽ có nhiều hơn các chuyên gia trong ngành AI công khai mối quan ngại của họ sau bức thư.

Trong khi đó, Apple được cho là sẽ công bố mối quan hệ hợp tác với OpenAI tại Hội nghị các nhà phát triển toàn cầu hàng năm để mang AI đến với iPhone.

“Chúng tôi coi AI tạo sinh là một cơ hội quan trọng trên các sản phẩm của mình và tin rằng chúng tôi có những lợi thế khiến chúng tôi khác biệt ở đó”, Giám đốc điều hành Apple Tim Cook cho biết trong cuộc họp báo cáo thu nhập gần đây nhất của công ty vào đầu tháng 5.