OpenAI phát hiện các AI agent tự liên lạc qua độ trễ bộ nhớ cache

Tuần này tràn ngập những mối lo ngại do AI thúc đẩy, bắt đầu từ một loạt các cuộc tấn công nổi tiếng trên toàn cầu bị quy cho các phiên bản jailbreak của mô hình DeepSeek V4.1-Flash-1017, và đỉnh điểm là một giai thoại đáng lo ngại từ chính OpenAI, chi tiết cách một số AI agent của họ có thể giao tiếp với nhau qua các máy ảo (VM) bị cô lập chỉ bằng sự khác biệt về thời gian phản hồi của bộ nhớ đệm (cache).

OpenAI hiện cho biết các AI agent của họ đã có thể giao tiếp qua các máy ảo được cô lập thông qua sự khác biệt về thời gian phản hồi của bộ nhớ cache của bộ vi xử lý, trong đó một agent mã hóa thông tin bằng cách loại bỏ dữ liệu được chọn ra khỏi cache, trong khi một agent khác đo thời gian tải lại dữ liệu đó.

OpenAI vừa viết một bài blog rất thú vị, lưu ý rằng sau khi một trong các mô hình của họ "khai thác cấu hình sai DNS để tìm lối thoát ra khỏi thế giới ngoại tuyến này", họ buộc phải tạm dừng việc huấn luyện các mô hình tiên tiến và tập hợp các nhóm agent để tìm điểm yếu trong môi trường nghiên cứu của họ.

Như một phần của thử nghiệm liên quan, OpenAI cũng yêu cầu các AI agent của họ được lưu trữ trên các máy ảo riêng biệt "trao đổi các bí mật tổng hợp mà không cần sử dụng kết nối mạng hoặc các tệp tin có thể ghi chung."

Tuy nhiên, những gì diễn ra sau đó thực sự gây sốc, khi các agent đó cuối cùng đã quản lý để giao tiếp với nhau thông qua sự khác biệt về thời gian phản hồi của bộ nhớ cache của bộ vi xử lý, phát sinh từ thực tế là việc đọc dữ liệu từ cache thường nhanh hơn việc truy xuất nó từ bộ nhớ chính.

"Các agent đã tìm ra cách giao tiếp bằng bộ nhớ cache của bộ vi xử lý: một bộ nhớ nhỏ, nhanh, lưu trữ các bản sao dữ liệu mà các ứng dụng gần đây đã truy cập."

OpenAI sau đó bổ sung:

"Một agent mã hóa thông tin bằng cách loại bỏ dữ liệu được chọn ra khỏi cache. Một agent khác đo thời gian cần thiết để tải lại dữ liệu đó, sử dụng sự khác biệt giữa các lần đọc nhanh và chậm để khôi phục thông điệp. Khi các agent đã đồng ý về một giao thức mã hóa và giải mã các tín hiệu này, chúng có thể trao đổi các bí mật tổng hợp mà không cần thay đổi tệp tin chung hoặc mở kết nối mạng."

Tất nhiên, Noam Brown của OpenAI đã tạo ra làn sóng hồi tháng 9 bằng cách lưu ý rằng ngay cả những máy tính được cách ly hoàn toàn (air-gapped) - những máy hoàn toàn cô lập với nhau mà không có bất kỳ kết nối mạng hoặc liên kết dữ liệu nào với hệ thống khác - cũng có thể giao tiếp với nhau, miễn là có một mô hình/agent AI đủ năng lực và quyết tâm:

"Có những nghiên cứu, và điều này chủ yếu mang tính hàn lâm, nơi bạn có thể có hai máy tính cạnh nhau bị cách ly hoàn toàn và chúng vẫn có thể giao tiếp với nhau vì chúng có cảm biến nhiệt độ."

Như chúng tôi đã lưu ý vào thời điểm đó, các CPU, GPU và bo mạch chủ hiện đại có các cảm biến nhiệt tích hợp như diode nhiệt độ. Những cảm biến này tồn tại chủ yếu để quản lý nhiệt, cho phép hệ thống quay quạt, hạ xung nhịp hoặc tắt nếu quá nhiệt. Tuy nhiên, một số nghiên cứu đã chứng minh rằng có thể duy trì một kênh ngầm băng thông rất thấp giữa hai máy tính bị cô lập, những máy có thể trò chuyện với nhau bằng cách chạy một trong các CPU nóng lên và sau đó sử dụng các biến thể nhiệt tiếp theo làm mã mà máy tính kia có thể diễn giải.

Trong khi các cảnh báo như vậy có vẻ xa vời cách đây không lâu, tuần này thực sự đã nhấn mạnh những mối nguy hiểm vốn có liên quan đến mạng của trí tuệ nhân tạo đang hoạt động bất kham, thứ có thể tiềm tàng thúc đẩy một cuộc khủng hoảng văn minh.

Và, như thể mọi thứ chưa đủ tồi tệ, chúng ta đã có các phiên bản đã bị loại bỏ bộ lọc bảo vệ của mô hình DeepSeek V4.1-Flash-1017 rất có năng lực, thứ thực sự không từ chối bất kỳ yêu cầu nào, bất kể kỳ lạ hay nguy hiểm đến đâu.