Tin công nghệ › AI & Dữ liệu

Nhân viên Meta hoảng hốt khi trợ lý AI Muse tự ý đọc tin nhắn riêng tư và rò rỉ dữ liệu tài chính

Nội dung chat nội bộ rò rỉ cho thấy nhân viên Meta cũng vô cùng lo ngại khi trợ lý AI Muse tự ý truy cập tin nhắn mã hóa, nhầm lẫn cuộc hội thoại và hiển thị số dư ngân hàng ảo. Dù Meta khẳng định đây chỉ là các sự cố đơn lẻ và lỗi ảo giác của AI, vụ việc vẫn làm dấy lên tranh cãi lớn về vấn đề bảo mật.

Ars Technica02:19 19/11/20268 phút đọc

Ảnh: Ars Technica

Trợ lý AI Muse và nỗi lo về quyền riêng tư

Sau khi một số người dùng đầu tiên của trợ lý AI Muse do Meta phát triển phàn nàn rằng hệ thống này đang xâm phạm tin nhắn riêng tư và có những hành vi bất thường vào mùa thu này, Reuters đã tung ra các đoạn chat nội bộ cho thấy nhân viên của Meta cũng từng dấy lên những hồi chuông cảnh báo tương tự.

Trong quá trình thử nghiệm trợ lý này, các nhân viên cảnh báo rằng Muse dường như đang truy cập vào các tin nhắn riêng tư được mã hóa mà người dùng không hề muốn bot đọc, có khả năng trộn lẫn các cuộc trò chuyện giữa những người dùng với nhau, và thậm chí tiềm ẩn nguy cơ phơi bày những thông tin nhạy cảm.

Một số phản hồi bất ngờ từ Muse là câu trả lời cho những câu hỏi mà nhân viên chưa bao giờ đặt ra.

"Hmmm," một nhân viên Meta viết trong một trường hợp Muse bất ngờ gửi định nghĩa về "rửa tiền" mà không hề có lời yêu cầu trước đó. "Nhận được một thông báo ngẫu nhiên từ Muse về một thứ mà tôi hoàn toàn không hề yêu cầu..."

Trong ít nhất một trường hợp, Muse đã bảo với một nhân viên – người đang bất ngờ trước lời đề nghị nhắn tin cho một người bán bàn cà phê vốn không liên quan – rằng nó đã "lấy một số bối cảnh về việc nhận bàn cà phê có vẻ không phải của bạn."

Theo Reuters, nhân viên đó đã đánh dấu phản hồi đáng lo ngại này, viết rằng đây là "không phải cuộc trò chuyện của tôi" và "bày tỏ mối quan ngại về một rò rỉ bối cảnh có thể xảy ra giữa các tài khoản."

Điều gây lo ngại nhất là các phản hồi ngẫu nhiên dường như chia sẻ dữ liệu người dùng riêng tư. Ví dụ, một nhân viên Meta bối rối khi trò chuyện với Muse về câu cá đã nhận được một phản hồi bổ sung ngẫu nhiên, dường như chia sẻ số dư từ hai tài khoản ngân hàng không rõ nguồn gốc. Phản hồi đó nói rằng: "Nhân tiện, có hai cập nhật ngân hàng, số dư Capital One của bạn là 2.722,58 USD, số dư Charles Schwab của bạn là 5.899,57 USD."

Ít nhất một nhân viên cho biết họ đã mất tiền khi thử nghiệm Muse, Reuters đưa tin. Nhân viên đó báo cáo rằng Muse "vô tình đưa tôi vào gói bảo hiểm cao cấp" cho chú chó của họ, khiến họ bị tính phí 888 USD mỗi tháng thay vì mức giá trước đó là 200 USD. "Không thể lấy lại được tiền," nhân viên này cho biết.

Phản hồi từ Meta

Người phát ngôn của Meta, Daniel Roberts, nói với Reuters rằng đây là những "sự cố cô lập", và nội bộ nhân viên được thông báo rằng "trợ lý dường như đang ảo giác ra các tin nhắn để phản hồi lại các lời nhắc được tích hợp sẵn nhằm thúc đẩy nó tương tác với người dùng giữa các phiên." Trong những trường hợp đó, một thành viên nhóm AI cho biết các vụ ảo giác "thật không may" lại có xu hướng "hướng về các chủ đề khó chịu nhất, như tài chính/bảo mật/an toàn, điều này thật tệ." Trong một số trường hợp, thay vì thông tin chi tiết về ngân hàng, Muse lại ảo giác ra số dư bitcoin, thành viên nhóm này cho biết.

Một người phát ngôn của Meta nói với Ars rằng "việc nhân viên thử nghiệm là cốt lõi của quá trình phát triển sản phẩm và toàn bộ vấn đề là để nhận phản hồi, từ đó chúng tôi có thể triển khai các biện pháp bảo vệ sự an toàn và quyền riêng tư cũng như cải thiện sản phẩm. Quan trọng là nhân viên có quyền truy cập vào các phiên bản Muse khác nhau so với công chúng, vì vậy họ thường xuyên đánh giá các tính năng, chức năng và hành vi không có sẵn ở nơi khác."

Trao đổi với Reuters, Roberts nhắc lại rằng "nhiều tin nhắn được nhân viên đánh dấu là sự nhầm lẫn tài khoản tiềm năng thực chất là các ảo giác" mà Meta đã giải quyết.

Nhưng Roberts từ chối trả lời các câu hỏi của Reuters về mức độ phổ biến hoặc tính liên tục của các vấn đề mà thành viên nhóm AI thảo luận. Và báo cáo của Reuters nhấn mạnh rằng hãng tin này độc lập "không thể xác định liệu Muse có đang cung cấp số dư tài khoản ngân hàng của người khác và dữ liệu nhạy cảm khác cho người dùng hay không, hay tự bịa ra thông tin đó."

Các vấn đề bắt đầu xuất hiện sau khi ra mắt vào tháng 9

Meta bắt đầu nhận được các khiếu nại liên quan đến quyền riêng tư từ người dùng Muse vào tháng 9. Một phóng viên của tạp chí Inc., Jason Aten, đã bị sốc khi rõ ràng Muse đang soi mói các tin nhắn riêng tư trên máy Mac của anh mà không có sự cho phép, báo cáo rằng anh ấy thay vào đó đã "rõ ràng" chọn từ chối cấp quyền đó cho Muse. Khi Meta trì hoãn phản hồi, trợ lý này tuyên bố nó chỉ đang phân tích văn bản trong thông báo đẩy, nhưng Aten phát hiện ra điều đó "không đúng sự thật." Thay vào đó, trợ lý đang đồng bộ hóa tin nhắn từ cơ sở dữ liệu cục bộ, mà Aten cho biết đã được kích hoạt mà anh không hề hay biết.

Cuối cùng, một người phát ngôn của Meta, David Singleton, đã phản hồi Aten trên mạng xã hội. Singleton khẳng định rằng Aten chắc chắn đã chọn cấp "Quyền truy cập toàn bộ đĩa cứng cấp hệ thống macOS" với "Trình kết nối tin nhắn" được bật, nếu Muse đang đọc các tin nhắn riêng tư của anh ấy.

Nhưng Aten nói rằng câu trả lời đó là chưa đủ tốt.

"Hãy gửi email cho tôi, David," Aten đáp lời. "Quyền truy cập toàn bộ đĩa cứng đã tắt. Muse đã đồng bộ hóa 187 nghìn dòng từ cơ sở dữ liệu trò chuyện tin nhắn của tôi. Có điều gì đó không ổn lắm. Ngoài ra, quyền truy cập toàn bộ đĩa cứng đó không nói gì về cơ sở dữ liệu tin nhắn của bạn, và tôi đã cố tình giao cho Muse một mục tiêu không liên quan gì đến tin nhắn, vì vậy nó không có lý do gì để làm điều đó ngay cả khi tôi đã cấp phép."

Cùng khoảng thời gian đó, Singleton đã trả lời một người dùng khác cảnh báo rằng Muse của anh ấy có vẻ đã bị hack. Trong trường hợp đó, người dùng cho biết Muse đã cố gắng truy cập dịch vụ email sau khi tuyên bố người dùng đã yêu cầu.

"Tôi thậm chí còn không mở ứng dụng ngày hôm nay chút nào," người dùng viết, thề sẽ xóa ứng dụng và báo cáo cho Apple.

Trong một phản hồi dài cung cấp thêm chi tiết kỹ thuật, Singleton xác nhận rằng Meta đã nhận được "một vài báo cáo" về các trường hợp như vậy "nơi mọi người nghĩ rằng Muse của họ đang ảo giác hoặc rò rỉ dữ liệu của người khác." Như ông giải thích, các vấn đề phát sinh sau khi Meta triển khai bản cập nhật cung cấp cho Muse hướng dẫn về "cách tương tác với người dùng và yêu cầu họ xác nhận trước khi thực hiện các hành động cụ thể."

Có vẻ như các hướng dẫn đó "đã áp dụng trên mọi tin nhắn, không chỉ các tin nhắn liên quan đến các hành động cụ thể đó, vì vậy tác động của nó rộng hơn dựintended," Singleton nói. Ngoài ra: "cách thức cung cấp hướng dẫn này cho mô hình được thực hiện theo cách mà mô hình không mong đợi (tức là không được đào tạo để mong đợi)."

"Chúng tôi đã điều tra khẩn cấp và xác định rằng nguyên nhân là do một lỗi được đưa vào sản phẩm khiến mô hình bị ảo giác và KHÔNG phải là vấn đề bảo mật hay quyền riêng tư," Singleton viết. "Lỗi này giờ đã được vá."

Aten cảnh báo rằng ngay cả khi bạn không thể dựa vào Muse để giải thích hành vi của chính nó, phản hồi của trợ lý kết hợp với phản hồi của Meta cũng chẳng làm được mấy để lấy lại lòng tin sau hành vi xâm nhập gây sốc vào các tin nhắn riêng tư của anh ấy.

"Nếu chúng ta chấp nhận tiền đề của Singleton rằng tôi đã vô tình nhấp vào một cái gì đó bật tính năng này, tôi vẫn nghĩ điều đó thực sự tồi tệ," Aten viết. "Bạn không nên thiết kế hệ thống của mình theo cách khiến mọi người kết thúc bằng sự ngạc nhiên với kiểu sự việc này."

Mối lo ngại trên các nền tảng khác

Kể từ khi Muse ra mắt vào tháng 9, ứng dụng này đã được tải xuống hơn 10 triệu lần, tận dụng mạng lưới người dùng khổng lồ của Meta để nhanh chóng trở thành một trong những công cụ trợ lý AI được sử dụng nhiều nhất.

Nhưng các nhân viên đã cảnh báo Meta rằng người dùng có thể bị bất ngờ bởi một số hành động mà các trợ lý thực hiện, tùy thuộc vào hệ điều hành mà ứng dụng được kết nối tới. Ví dụ, một nhân viên bất ngờ khi phát hiện ra rằng "Muse được thiết lập mặc định với quyền truy cập thông báo đẩy trên các điện thoại chạy hệ điều hành Android của Google." Điều đó cũng cấp quyền truy cập vào văn bản xem trước tin nhắn riêng tư mà nhân viên không hề dự định cho trợ lý xem xét.

Meta cho biết người dùng Muse có thể tin tưởng công ty trong việc giữ kín dữ liệu của họ. Công ty cũng cảnh báo người dùng rằng Muse có thể mắc sai lầm, đồng thời đưa vào các điều khoản rằng người dùng chịu trách nhiệm về các hành động do Muse thực hiện (như mua những thứ bạn không muốn hoặc đặt lịch hẹn bác sĩ mà bạn không cần).

Tuy nhiên, Reuters đã phối hợp với các nhân viên tại Signal và Viện AI Now để kiểm tra xem họ có thể tái hiện lại trải nghiệm Muse của nhân viên Meta đó hay không. Trên các thiết bị Android, họ phát hiện ra rằng Muse có thể đọc các tin nhắn Signal bằng cách vượt qua các lớp bảo mật của hệ thống.

Bài gốc (tiếng Anh): Muse privacy invasions are freaking out Meta staffers, internal chats show
Nguồn: Ars Technica · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.
FacebookTelegramX← Tin khác