Tác nhân AI tự ý mở và đọc tài liệu Google Doc khiến người dùng giật mình

Khi tôi đang thảnh thơi trên ghế sofa cùng gia đình để chuẩn bị tận hưởng buổi tối yên tĩnh xem Netflix, ChatGPT bỗng gửi đến một tin nhắn văn bản.

Thực ra, việc nhận tin nhắn từ ChatGPT đối với tôi không có gì quá xa lạ. Tôi có một trợ lý ảo ChatGPT dạng chấm (dot agent) có khả năng chủ động kiểm tra tài khoản Gmail và cảnh báo khi có email quan trọng xuất hiện, và gần đây tôi đã bật tính năng cho phép trợ lý mang tên BenBit giao tiếp qua tin nhắn.

Nhưng đoạn tin nhắn cụ thể này từ BenBit lại khiến tôi giật mình.

Trợ lý ảo này nhắn rằng có một điểm nhỏ cần lưu ý trong bản nháp bản tin ngày 5 tháng 11 trên Google Drive của tôi: phần mở đầu đề cập đến kế hoạch ba điểm của Cantwell, nhưng phần thân bài và thông báo lại mô tả sáu nguyên tắc, do đó việc dùng cụm từ khung sáu nguyên tắc sẽ giúp văn bản nhất quán hơn và nó không thể xác minh xem phần mở đầu đó đã được sử dụng trong phiên bản gửi đi hay chưa.

Ơ, gì thế này?

BenBit đang nhắc đến bản nháp bản tin AI mới nhất của tôi nằm trong Google Drive, và như tôi nhanh chóng nhận ra, không những BenBit đã nhìn thấy tài liệu đó, mà nó còn tự mở ra và rà soát lỗi mà tôi hoàn toàn không hề yêu cầu.

Điều này khiến tôi bất ngờ, nhưng trước khi kịp suy nghĩ xem BenBit đang làm gì trong Google Drive của mình, bản năng viết lách trỗi dậy: Liệu sự bất nhất trong bản nháp bản tin đó đã lọt vào bản sao cuối cùng chưa?

Tôi nhanh chóng hiểu ra lý do tại sao BenBit nghĩ rằng có sai sót. Tôi thường xuyên để lại các đoạn văn bản bị loại bỏ ở phần cuối của bản nháp, vì vậy câu lệnh ba phần mâu thuẫn đó vẫn nằm ở cuối tài liệu mặc dù tôi đã sửa lại văn bản cuối cùng. Bị bối rối bởi thói quen chỉnh sửa đó của tôi, BenBit đã cho rằng tôi sơ suất. Mọi chuyện thực ra không có gì nghiêm trọng.

Nhưng dù BenBit không hề thực sự chỉnh sửa tài liệu Google Doc của tôi, tôi vẫn cảm thấy giật mình khi nó chủ động đọc qua tài liệu ngay từ đầu.

Các trợ lý ảo ChatGPT dạng chấm không phải là những tác nhân AI duy nhất có khả năng chủ động thực hiện các việc như cảnh báo email quan trọng và rà soát Google Drive của bạn. Tác nhân Muse của Meta cũng có thể làm điều tương tự, và tài liệu của Claude cho biết nó kiểm tra các tài khoản của bạn theo các khoảng thời gian được đặt trước để những thông tin khẩn cấp có thể xuất hiện giữa các lần kiểm tra.

Như tôi đã viết trước đây, bạn có thể tinh chỉnh cài đặt cho các trình kết nối ChatGPT, Claude, Gemini và Muse khác nhau, lựa chọn công cụ Gmail và Google Drive nào mà các bot AI của bạn có quyền truy cập, cũng như quyết định xem chúng có quyền ghi dữ liệu hay chỉ bị giới hạn ở chế độ chỉ đọc.

Nhưng ngay cả khi tôi đã cẩn thận đảm bảo rằng ChatGPT chỉ có thể đọc các tài liệu Gmail và Drive của mình, tôi vẫn chưa chuẩn bị tinh thần cho việc trợ lý của mình lại chủ động soi xét dữ liệu và đưa ra các đề xuất.

Tôi quyết định ngắt quyền truy cập Google Drive của ChatGPT, chấm dứt vai trò biên tập viên làm thêm của BenBit, đồng thời kiểm tra lại các hướng dẫn hệ thống của ChatGPT để đảm bảo nó không thực hiện các hành động không thể đảo ngược mà không hỏi ý kiến.

Cuộc chạm trán đầy bất ngờ với BenBit đóng vai trò như một lời nhắc nhở nữa rằng điều làm cho các tác nhân AI trở nên mạnh mẽ cũng chính là khả năng chủ động của chúng, điều này cũng khiến chúng trở nên khó đoán và đôi khi hơi đáng sợ.