- Tính năng AI mới gây chú ý nhất của Microsoft đang làm dấy lên mối lo ngại rằng nó có thể bị lạm dụng trong tay những đối tượng xấu.

Tuần này, Microsoft đã giới thiệu một công cụ mới có tên Recall dành cho máy tính Windows. Công cụ này hoạt động như một “cỗ máy thời gian” cá nhân, cho phép người dùng nhanh chóng lấy ra bất kỳ thứ gì từng có trên màn hình, chẳng hạn như tài liệu, hình ảnh và trang web. Nó khác với tìm kiếm từ khóa; công cụ này thường xuyên lưu ảnh chụp màn hình của người dùng và lưu trữ trực tiếp trên thiết bị. Sau đó, nó sử dụng AI để xử lý dữ liệu và làm cho dữ liệu có thể tìm kiếm được.

Ví dụ, nếu trước đây ai đó đã tìm kiếm chiếc váy màu xanh lá cây hoặc tên của một cửa hàng kem địa phương, họ có thể yêu cầu tính năng này để “gọi lại” bất kỳ điều gì trong lịch sử của họ được hiển thị trên màn hình.

Mặc dù cái gọi là tìm kiếm ngữ nghĩa là một bước tiến lớn của AI, nhưng nó đến vào thời điểm ngành công nghiệp đang phát triển quá nhanh và các cơ quan quản lý chính phủ, công ty và người tiêu dùng vẫn đang tìm cách sử dụng công nghệ một cách có trách nhiệm.

Bà Jen Golbeck - một giáo sư AI tại trường Đại học Maryland - người tập trung nghiên cứu vào quyền riêng tư – cho biết tính năng Recall có thể tiềm ẩn một “cơn ác mộng” nếu công cụ rơi vào tay kẻ xấu.

Bà Jen Golbeck nói: “Các nội dung có thể vẫn còn trên thiết bị của bạn, nhưng điều đó không có nghĩa là mọi người không thể truy cập được. Bạn sẽ không có tùy chọn để tự bảo vệ mình ngay cả khi bạn sử dụng chế độ ẩn danh hoặc xóa lịch sử của mình vì công cụ này có quyền truy cập vào mọi thứ có trên màn hình của bạn.”

Cơ quan quản lý độc lập của Vương quốc Anh về Bảo vệ Dữ liệu và Tự do Thông tin, Văn phòng Ủy viên Thông tin (ICO), nói với CNN rằng họ đang điều tra công cụ này “để hiểu các biện pháp bảo vệ hiện hành nhằm bảo vệ quyền riêng tư của người dùng”.

“Chúng tôi mong muốn các tổ chức minh bạch với người dùng về cách sử dụng dữ liệu của họ và chỉ xử lý dữ liệu cá nhân trong phạm vi cần thiết để đạt được mục đích cụ thể”, ICO cho biết trong một tuyên bố.

Microsoft đã không trả lời ngay lập tức yêu cầu bình luận về diễn biến nói trên. Giám đốc điều hành (CEO) của Microsoft - Satya Nadella nói với tờ Thời báo Phố Wall (The Wall Street Journal) trong một cuộc trả lời phỏng vấn trước sự kiện ra mắt hôm thứ Hai đầu tuần (20/5) rằng công cụ tìm kiếm trên web chỉ được thực hiện trên trình duyệt web Edge của Microsoft và ảnh chụp màn hình không bao giờ rời khỏi máy tính của người dùng.

“Bạn phải kết hợp hai thứ lại với nhau: Đây là máy tính của tôi và đây là công cụ Recall của tôi – và tất cả đều được thực hiện cục bộ,” ông Nadella nhấn mạnh.

Ông Geoff Blaber, Giám đốc điều hành của công ty nghiên cứu thị trường CCS Insight, cho biết thực tế trên khiến vấn đề đỡ gây lo ngại hơn.

Ông Blaber cho biết: “Phản ứng dữ dội của một số người đối với tính năng này không có gì đáng ngạc nhiên, nhưng đó là phản ứng thái quá vì dữ liệu chỉ tồn tại trên thiết bị và người dùng có toàn quyền kiểm soát”.

Ai đó có thể quyết định có bật tính năng này trong quá trình thiết lập thiết bị hay không, đồng thời có thể tùy chỉnh và đưa vào danh sách đen những ứng dụng và trang web mà Recall có thể truy cập.

Giám đốc điều hành của công ty nghiên cứu thị trường CCS Insight nói thêm rằng: “Những biện pháp kiểm soát này cho thấy tính năng mới đã được xây dựng với cốt lõi là bảo mật và quyền riêng tư. Tính năng Recall sẽ không hấp dẫn mọi người nhưng tiện ích được cung cấp có thể sẽ rất đáng kể.”

Tiềm năng sử dụng độc hại

Nhưng bà Golbeck nêu ra những trường hợp mà sự bảo vệ đó có thể không đủ, chẳng hạn như một nhà báo ở một quốc gia thù địch, một người đang cố gắng thoát khỏi một mối quan hệ bị ngược đãi, một người nào đó đang tìm kiếm thông tin y tế nhạy cảm hoặc một nhân viên bị sếp muốn theo dõi họ. Bà Golbeck tin rằng các vấn đề xung quanh công cụ này có thể sẽ tác động nhiều nhất đến nơi làm việc.

“Chúng ta biết công việc giám sát những gì chúng tôi đang làm trên thiết bị của họ, nhưng nhiều người sẽ làm việc cá nhân trên máy tính ở cơ quan và tất cả những việc đó sẽ được lưu trữ và hiển thị cho bộ phận công nghệ thông tin”, ngay cả khi nó chỉ ở trên thiết bị, giáo sư AI tại trường Đại học Maryland nói thêm.

Bà Golbeck cho biết công nghệ, bất chấp những lợi ích, thường được phát triển quá mức mà không tính đến những mục đích sử dụng có hại.

“Những gì chúng ta đã thấy trong 15 năm qua là mọi trường hợp sử dụng độc hại tiềm ẩn đều thành hiện thực theo cách này hay cách khác. Mọi người sẽ muốn sử dụng tính năng thú vị này mà không hiểu rủi ro về quyền riêng tư - rằng sẽ có một bản ghi vĩnh viễn về mọi việc bạn làm”, chuyên gia AI Golbeck cảnh báo.

Những phản ứng tương tự đối với các tính năng như mật khẩu sinh trắc học, chẳng hạn như dấu vân tay, nhận dạng khuôn mặt và quét mống mắt, đã từng xuất hiện trong quá khứ. CEO Blaber cho biết để khắc phục một số lo ngại ban đầu, Microsoft và các đối tác sẽ cần chứng minh giá trị, tính bảo mật và quyền riêng tư của sản phẩm trong thế giới thực.

Tuy nhiên, Giám đốc nghiên cứu cấp cao tại ABI Research Michela Menting, tin rằng tính năng này là một “bước lùi” về quyền riêng tư.

Bà Menting nói: “Lập luận rằng tin tặc cần quyền truy cập vật lý để thậm chí có thể thao túng Recall là thiển cận vì có rất nhiều cách rất khéo léo mà các tác nhân đe dọa có thể khai thác một công cụ có giá trị như vậy. Tất cả những gì cần có là thời gian và nỗ lực để tìm ra cách.”