Nhật Bản sẽ thành lập cơ quan mới có nhiệm vụ xây dựng các tiêu chuẩn an toàn về Trí tuệ Nhân tạo (AI) nhằm ứng phó với các rủi ro như lạm dụng AI để tạo ra các nội dung giả mạo, lan truyền thông tin sai lệch đang trở nên phổ biến.

Thông tin trên được Thủ tướng Fumio Kishida công bố tại cuộc họp của Hội đồng chiến lược AI diễn ra ngày 21/12 tại Tokyo.

Dự kiến, tổ chức mới sẽ được thành lập vào tháng 1/2024 với tên gọi “Viện An toàn AI” (AISI), trực thuộc Cơ quan Xúc tiến công nghệ thông tin (IPA), Bộ Kinh tế, Thương mại và Công nghiệp Nhật Bản (METI).

AISI sẽ bao gồm các chuyên gia về AI và an ninh mạng, chịu trách nhiệm thiết lập các tiêu chuẩn đánh giá an toàn cho các công ty phát triển AI và xác minh nguy cơ AI bị lạm dụng.

Cũng tại cuộc họp, hội đồng AI đã thảo luận về “Hướng dẫn về AI” bao gồm 10 nguyên tắc, trong đó kêu gọi các công ty trong nước lấy con người làm trung tâm khi phát triển hoặc sử dụng AI.

Theo kế hoạch, bản “Hướng dẫn về AI” sẽ được chính thức thông qua vào tháng 3/2024, áp dụng cho các nhà phát triển, nhà cung cấp dịch vụ AI và cả người sử dụng.

Các nguyên tắc trong bản “Hướng dẫn về AI” được xây dựng dựa trên “Tiến trình AI Hiroshima” của Nhóm các nước công nghiệp phát triển (G7) để xây dựng các quy tắc quốc tế.

Theo nguyên tắc lấy con người làm trung tâm, bản hướng dẫn kêu gọi các công ty tôn trọng quyền con người và sự đa dạng, thực hiện các biện pháp chống lại thông tin sai lệch và tuyệt đối không tham gia phát triển, cung cấp và sử dụng các dịch vụ AI nhằm thao túng tiêu cực việc ra quyết định và cảm xúc của con người. Ngoài ra, bản hướng dẫn còn có các nguyên tắc khác như vệ quyền riêng tư, đảm bảo sự công bằng, an ninh và minh bạch.

Trước đó, tháng 10, Thủ tướng Anh Rishi Sunak tuyên bố, nước này sẽ thành lập Viện an toàn trí tuệ nhân tạo đầu tiên trên thế giới, nhằm kiểm tra, đánh giá và thử nghiệm các loại hình mới của trí tuệ nhân tạo. Từ đó, cơ quan quản lý có thể nắm bắt khả năng của từng mô hình mới, xác định tất cả các rủi ro từ những tác hại đối với xã hội như quan điểm thiên vị và thông tin sai lệch cho đến những nguy cơ cao nhất.

Ngay sau đó, Bộ trưởng Thương mại Mỹ Gina Raimondo thông báo, Mỹ sẽ thành lập Viện an toàn trí tuệ nhân tạo trên cơ sở làm việc với Viện Tiêu chuẩn và công nghệ quốc gia để đảm bảo an toàn, tin cậy của trí tuệ nhân tạo.

Thời gian qua, những công cụ trí tuệ nhân tạo đã tạo ra bước đột phá mới trong làn sóng đầu tư vào công nghệ. Tuy nhiên, các chuyên gia công nghệ lưu ý, trí tuệ nhân tạo đang tiềm ẩn rất nhiều rủi ro và thách thức với những lo ngại về mức độ tin cậy liên quan đến dữ liệu, thuật toán và ứng dụng.

Vì vậy, để tối ưu hóa những lợi ích của trí tuệ nhân tạo, điều quan trọng là phải khiến công chúng tin tưởng rằng công nghệ này đang được phát triển và sử dụng một cách có trách nhiệm.

Mới đây, 18 quốc gia gồm Mỹ, Anh, Đức, Italy, Cộng hòa Séc, Ba Lan, Australia, Chile, Singapore....đã ký kết một thỏa thuận thúc đẩy doanh nghiệp tạo ra các hệ thống trí tuệ nhân tạo an toàn ngay từ khâu thiết kế trước nguy cơ bị lạm dụng.

Đây được xem là sáng kiến mới nhất trong một loạt sáng kiến của các chính phủ trên khắp thế giới nhằm định hình sự phát triển của trí tuệ nhân tạo, vốn đang có sức ảnh hưởng ngày càng lớn trong ngành công nghiệp và xã hội nói chung.