Singapore ra mắt bộ công cụ đánh giá sự minh bạch của AI

0
0

Các DN ở Singapore giờ đây sẽ có thể sử dụng bộ công cụ và khuôn khổ kiểm tra quản trị để chứng minh việc sử dụng công nghệ AI "khách quan và có thể kiểm chứng" của họ.

Động thái này là một phần trong nỗ lực của chính phủ Singapore nhằm thúc đẩy tính minh bạch trong việc triển khai AI thông qua kiểm tra kỹ thuật và quy trình.

Bộ công cụ A.I. Verify được \Cơ quan Phát triển Truyền thông Infocomm (IMDA) và Ủy ban Bảo vệ Dữ liệu Cá nhân (PDPC), cơ quan quản lý Đạo luật Bảo vệ dữ liệu cá nhân Singapore, phát triển.

Bộ công cụ này cung cấp thử nghiệm kỹ thuật dựa trên ba nguyên tắc về "tính công bằng, khả năng giải thích và tính mạnh mẽ".

Các cơ quan chính phủ Singapore cho biết, ngày càng có nhiều sản phẩm và dịch vụ được nhúng với AI để mang lại trải nghiệm được cá nhân hóa hơn cho người dùng hoặc đưa ra quyết định mà không cần sự can thiệp của con người, do đó người tiêu dùng cần được biết các hệ thống AI đó là "công bằng, có thể giải thích được và an toàn" hay không. Họ cần được đảm bảo rằng các tổ chức triển khai các dịch vụ như vậy phải có trách nhiệm giải trình và minh bạch.

A.I Verify sẽ cho phép những nhà cung cấp các dịch vụ AI chứng minh cho các bên liên quan thấy việc họ triển khai AI có trách nhiệm thông qua các bài kiểm tra được tiêu chuẩn hóa.

Ảnh minh họa
Ảnh minh họa

Bộ công cụ thí điểm cũng có thể cung cấp báo cáo cho các nhà phát triển, quản lý, và các đối tác kinh doanh về các lĩnh vực chính có thể ảnh hưởng đến hiệu suất của AI, kết quả thử nghiệm mô hình AI.

Chẳng hạn như, sản phẩm được hỗ trợ bởi AI sẽ được kiểm tra về cách mô hình đưa ra quyết định và liệu quyết định được dự đoán có mang thành kiến ngoài ý muốn hay không. Hệ thống AI cũng có thể được đánh giá về tính bảo mật và khả năng phục hồi của nó.

Hiện nay, bộ công cụ có thể hoạt động với một số mô hình AI phổ biến như thuật toán phân loại nhị phân và thuật toán hồi quy từ các khuôn khổ phổ biến như scikit-learning, Tensorflow và XGBoost.

Theo IMDA, khung thử nghiệm và bộ công cụ sẽ cho phép các nhà phát triển hệ thống AI tiến hành tự kiểm tra không chỉ để duy trì các yêu cầu thương mại của sản phẩm mà còn cung cấp một nền tảng chung để hiển thị các kết quả kiểm tra này.

Thay vì xác định các tiêu chuẩn đạo đức, A.I. Verify sẽ xác thực các thông tin, số liệu của các nhà phát triển hệ thống AI về việc sử dụng AI cũng như hiệu suất của các sản phẩm AI của họ.

IMDA nhấn mạnh bộ công cụ sẽ không cung cấp chức năng đảm bảo hệ thống AI được thử nghiệm không có thành kiến hoặc rủi ro bảo mật. Tuy nhiên, nó có thể tạo điều kiện thuận lợi cho khả năng tương tác của các khuôn khổ quản trị AI và có thể giúp các tổ chức lấp đầy khoảng cách giữa các khuôn khổ và quy định.

IMDA cũng cho biết thêm, họ đang làm việc với các tổ chức quy định và tiêu chuẩn để ánh xạ A.I. Verify tới các khuôn khổ AI đã được thiết lập, vì vậy, các DN có thể cung cấp các sản phẩm và dịch vụ hỗ trợ AI trên các thị trường toàn cầu khác nhau. Bộ Thương mại Hoa Kỳ là một trong số các cơ quan mà Singapore đang làm việc để đảm bảo khả năng tương tác giữa các khuôn khổ quản trị AI của họ.

Theo IMDA, 10 tổ chức đã thử nghiệm và đưa ra phản hồi về bộ công cụ mới này, bao gồm Google, Meta, Microsoft, Singapore Airlines và Standard Chartered Bank...

IMDA khẳng định Singapore sẽ tiếp tục phát triển A.I. Verify để kết hợp các tiêu chuẩn quản trị AI quốc tế và các điểm chuẩn của ngành. Nhiều chức năng hơn cũng sẽ dần được bổ sung với sự đóng góp và phản hồi của ngành.

Trước đó, vào tháng 2, quốc gia này cũng đã phát hành một bộ công cụ phần mềm nhằm giúp các tổ chức tài chính đảm bảo rằng họ đang sử dụng AI một cách có trách nhiệm, cũng như các bản tài liệu để hướng dẫn họ đánh giá việc triển khai dựa trên các nguyên tắc được xác định trước.

Cơ quan tiền tệ Singapore (MAS) cho biết các tài liệu hướng dẫn chi tiết các phương pháp luận để kết hợp các nguyên tắc FEAT - Công bằng, Đạo đức, Trách nhiệm giải trình và Minh bạch - vào việc sử dụng AI trong lĩnh vực dịch vụ tài chính.

Theo ictvietnam.vn

https://ictvietnam.vn/singapore-ra-mat-bo-cong-cu-danh-gia-su-minh-bach-cua-ai-20220528164508484.htm


Ý kiến bạn đọc


Đội U19 Việt Nam đã sẵn sàng cho giải U19 Đông Nam Á 2022

(VnMedia) - Tối 1/7, U19 Việt Nam đã có buổi tập cuối cùng để làm quen việc thi đấu dưới ánh đèn. Có thể nói đến thời điểm này, thầy trò ông Đinh Thế Nam đã sẵn sàng bước vào trận đầu tiên của giải U19 Đông Nam Á 2022.

Thủ tướng: Tập trung hoàn thiện thể chế, chính sách phát triển Tây Nguyên

(VnMedia) - Tại Hội nghị về về phát triển kinh tế - xã hội và bảo đảm quốc phòng an ninh vùng Tây Nguyên, Thủ tướng nêu rõ cần tập trung hoàn thiện thể chế, chính sách phát triển và đẩy mạnh liên kết vùng.

Mách bạn các gói cước D15P VinaPhone chu kỳ dài ưu đãi cực khủng

(VnMedia) - Để đáp ứng nhu cầu gọi thoại và lướt web ngày càng gia tăng, VinaPhone đã triển khai các gói D15P VinaPhone chu kỳ dài. Sử dụng gói cước này, bạn sẽ có 1000 phút gọi nội mạng mỗi tháng, 500MB data tốc độ cao mỗi ngày với chỉ từ 66 ngàn đồng/1 tháng.

Bắc Bộ ngày nóng 35 độ C, chiều tối mưa rất to

(VnMedia) - Ngày cuối tuần (2/7), nhiệt độ ở Bắc Bộ tăng trở lại, với mức cao nhất dự báo khoảng 35 độ C tại Hà Nội, nhiệt độ thấp nhất từ 25-27 độ, chiều tối có mưa to đến rất to. Trong mưa dông có khả năng xảy ra lốc, sét và gió giật mạnh...

Công dân được cấp quyền khai thác thông tin về nhà ở và thị trường bất động sản

(VnMedia) - Nghị định 44 quy định: Trong thời hạn không quá 07 ngày làm việc kể từ khi nhận được yêu cầu, Bên cung cấp xem xét cấp quyền truy cập quyền khai thác, sử dụng thông tin, dữ liệu về nhà ở và thị trường bất động sản hợp lệ…