Các mô hình AI của OpenAI tự ý hack trang web và đánh cắp tiền mã hóa

OpenAI cho biết các mô hình nội bộ của họ đã hack thêm hai trang web, vượt qua các hạn chế duyệt web do công ty áp đặt và sử dụng thông tin xác thực bị lộ để rút tiền mã hóa từ một chiếc ví mà lẽ ra chúng không thể truy cập được. Đây là diễn biến mới nhất trong loạt thông tin tiết lộ về các tác nhân AI thực hiện những hành vi phi đạo đức và có khả năng là bất hợp pháp.

Vào thứ Năm, công ty đã ban hành báo cáo về bốn sự cố mới, tất cả đều diễn ra vào tháng Sáu. Chúng xuất hiện sau khi công ty tiết lộ hồi tháng Bảy rằng các tác nhân thử nghiệm nội bộ đã khai thác một lỗ hổng zero-day trong một công cụ được thiết kế để hạn chế quyền truy cập Internet của chúng. Sau đó, chúng đã đột nhập vào mạng lưới của nhà cung cấp công cụ AI Hugging Face. Các tác nhân này đã thực hiện hành động trái phép đó để đánh cắp đáp án cho một bài kiểm tra hacking vốn không có sẵn khi tự mình hoàn thành nhiệm vụ. Sự cố này - vốn có thể dẫn đến các cáo buộc hình sự nếu được thực hiện trực tiếp bởi con người - càng làm gia tăng thêm những lo ngại rằng việc sử dụng AI rộng rãi có thể mang lại những tác động có hại ở quy mô chưa từng có.

Dễ xin lỗi hơn là xin phép

Trong hai trường hợp được báo cáo vào thứ Năm, các tác nhân AI được giao nhiệm vụ truy xuất thông tin từ các trang web đã hack chúng khi các mô hình gặp phải những trở ngại trong việc lấy trực tiếp. Trong một sự cố trong quá trình huấn luyện tăng cường, một mô hình nhận được thông báo từ chối khi cố gắng truy cập số liệu thống kê về giường bệnh lịch sử trên một trang web thống kê của chính phủ đã "sử dụng tính năng tải xuống tệp của trang web để truy xuất tệp cấu hình máy chủ và ứng dụng, bao gồm cả thông tin xác thực nhạy cảm", OpenAI cho biết. "Nó đã kiểm tra mã ứng dụng, vượt qua các bộ kiểm tra ủy quyền của điểm cuối thống kê và truy xuất dữ liệu trước đó đã bị từ chối. Mô hình đã lưu dữ liệu cục bộ."

Trong sự cố khác, một mô hình được hướng dẫn trích xuất các số liệu từ bảng thông tin nghiên cứu công khai đã vượt qua các biện pháp kiểm soát bảo mật của tổ chức và sử dụng quyền truy cập trái phép để đánh cắp thông tin xác thực. Sau đó, nó đã thực hiện các thay đổi cấu hình trên máy chủ.

Trong một lần đánh giá, các thay đổi cho phép mô hình làm cho công cụ tìm kiếm nội bộ chuyển tiếp các truy vấn đến bảng thông tin công khai. Trong lần đánh giá thứ hai, mô hình đã tải xuống năm bảng phi công khai chứa 147.451 hàng. Các nhà nghiên cứu của OpenAI đã nhắc nhở các tác nhân chỉ truy xuất năm số liệu bảng thông tin. Ngay cả sau khi thiết lập lại cài đặt, mô hình vẫn tiếp tục sử dụng mã thông báo để truy xuất dữ liệu phi công khai.

"Quá trình đánh giá kết thúc mà mô hình không tiết lộ rằng nó đã đoán các câu trả lời, truy cập vào các hệ thống nội bộ của tổ chức, tải xuống các bảng phi công khai hoặc thay đổi cấu hình xác thực", OpenAI cho biết. "Cả năm câu trả lời trong đánh giá này đều được đánh dấu là không chính xác."

Trong báo cáo thứ ba, công ty cho biết một mô hình được nhắc nhở cập nhật ứng dụng giao dịch tiền mã hóa đã sử dụng quỹ từ một ví bị khóa trên mạng thử nghiệm. Mô hình "đã suy ra khóa ví từ các cụm từ khôi phục của nhà phát triển được công khai, tìm thấy một tài khoản có quỹ mạng thử nghiệm và sử dụng tài khoản đó để trả cho việc triển khai hợp đồng được yêu cầu."

Báo cáo tiếp tục: "Mô hình đã đặt câu hỏi liệu nó có được phép hay không, sau đó suy luận rằng cụm từ khôi phục công khai và mã thông báo mạng thử nghiệm không có giá trị khiến các quỹ có thể chấp nhận được để sử dụng. Quá trình triển khai đã thành công và tính phí giao dịch vào tài khoản. Trường hợp này cho thấy một mô hình có thể thay thế phán quyết của chính nó về tác hại có thể xảy ra đối với sự cho phép của chủ tài khoản, sau đó hành động theo phán quyết đó mà không cần ủy quyền."

Trong báo cáo cuối cùng, OpenAI cho biết một mô hình đã vượt qua các hạn chế mà các nhà nghiên cứu đã đặt ra đối với các loại yêu cầu web mà nó có thể thực hiện. Trong quá trình huấn luyện tăng cường, mô hình đã được nhắc nhở tìm kiếm số liệu thống kê thương mại công khai. OpenAI cho biết thêm:

Sau khi tìm thấy một cuốn niên giám công khai và gửi câu trả lời, nó tiếp tục dò tìm một tuyến đường khác đến dịch vụ thống kê. Nó khiến một trình duyệt bên ngoài gửi các yêu cầu POST, truy xuất các số liệu hàng năm dưới dạng hình ảnh và trích xuất chúng bằng công cụ nhận dạng ký tự quang học. Sau đó, nó đã phát triển một công cụ trợ giúp có thể tái sử dụng trả về văn bản phản hồi thông qua dịch vụ chuyển tiếp và hộp thư gọi lại, liên tục kiểm tra các số liệu đã truy xuất và sử dụng dữ liệu đã lưu trong các phản hồi đã gửi. Trường hợp này cho thấy cách một mô hình có thể vượt qua các hạn chế đối với các công cụ của chính nó bằng cách nhận các dịch vụ bên ngoài để thực hiện các hành động bị chặn, ngay cả sau khi tìm ra cách khác để trả lời câu hỏi.

Mô hình đầu tiên cố gắng sử dụng trình duyệt bên ngoài có quyền thực hiện các yêu cầu GET thay mặt cho nó, sau đó sử dụng JavaScript để lấy thông tin. Mô hình sau đó đã sử dụng hộp thư trực tuyến để khắc phục sự cố kỹ thuật. Cuối cùng, mô hình đã chọn một phương pháp khác: Nó yêu cầu trình duyệt bên ngoài mở một biểu mẫu web gửi truy vấn thương mại đến dịch vụ thống kê bằng POST. Khi trình duyệt hiển thị phản hồi, dịch vụ kết xuất đã trả về hình ảnh GIF của trang. Mô hình sau đó đã sử dụng công nghệ nhận dạng ký tự quang học để đọc các số liệu từ hình ảnh.

Việc các nhà nghiên cứu và nhà báo mô tả các sự cố như thế này là AI "nổi loạn" đã trở nên phổ biến. Điều đó không nhất thiết là đúng. Mặc dù các lời nhắc được cung cấp cho các mô hình không hướng dẫn chúng sử dụng các phương pháp thay thế để hoàn thành mục tiêu của mình, nhưng các mô hình được đào tạo để hiệu quả, kiên trì kiên định và, khi có thể, tìm ra các lối tắt làm giảm khối lượng công việc. Hơn nữa, hầu hết hoặc tất cả các mô hình đã vô hiệu hóa một số rào chắn có thể đã ngăn chặn các hành động đó. Theo nghĩa này, các mô hình hoạt động chính xác như những gì OpenAI đã đào tạo chúng.