Thí nghiệm chấn động: 2 triệu chuông báo rò rỉ dữ liệu phơi bày thảm họa bảo mật trong chuỗi cung ứng AI
Một nhà nghiên cứu đã thả 2 triệu "chim hoàng yến kỹ thuật số" vào mạng lưới dịch vụ AI để kiểm tra bảo mật và phát hiện dữ liệu nhạy cảm bị rò rỉ nghiêm trọng. Thí nghiệm vạch trần tình trạng tin tặc xâm nhập hệ thống, nhà cung cấp gian lận log dữ liệu và phớt lờ cả các cam kết không thu thập thông tin.

Thảm họa bảo mật trong chuỗi cung ứng AI
Các nhà nghiên cứu đã gài 2 triệu "cái bẫy kỹ thuật số" trong các yêu cầu gửi qua một mạng lưới dịch vụ AI rộng lớn để tìm hiểu điều gì xảy ra với thông tin nhạy cảm được giao phó cho họ. Những gì họ phát hiện ra là một hệ sinh thái rò rỉ dữ liệu có độ nhạy cảm cao như một cái sàng.
Sự phơi bày này được tìm thấy thông qua một thí nghiệm khéo léo nhằm kiểm tra xem thông tin nhạy cảm có thể rò rỉ qua chuỗi dịch vụ AI rộng lớn đang được sử dụng phổ biến hay không và thông tin đó bị khai thác ra sao khi xảy ra rò rỉ. Nhiều ứng dụng AI ngày nay sử dụng các dịch vụ như OpenRouter hoặc Vercel đóng vai trò là bên môi giới. Các "bộ định tuyến AI" này, đôi khi cũng được gọi là "cổng AI", nhận số lượng lớn câu lệnh được gửi từ người dùng cuối ứng dụng AI và định tuyến chúng đến một công cụ suy luận khả dụng dựa trên các tiêu chí như bên tính phí thấp nhất hoặc phù hợp nhất cho tác vụ được giao. Thay vì sử dụng Anthropic, OpenAI hoặc một nhà cung cấp lớn khác, nhà phát triển thuê một bộ định tuyến AI để tìm mô hình phù hợp nhất.
Vi phạm bảo mật, đánh cắp câu lệnh và xâm phạm quyền riêng tư
Để kiểm tra tình trạng rò rỉ tiềm ẩn, nhà nghiên cứu HD Moore đã tập hợp một bộ khóa truy cập AWS, thông tin đăng nhập hoạt động gắn liền với các tài khoản AWS trống, mật khẩu cho các dịch vụ như SSH, cùng các URL duy nhất, tên DNS và tham chiếu kho lưu trữ git riêng tư. Không có bí mật nào từng được sử dụng trước đây và ông kiểm soát cơ sở hạ tầng nhận bất kỳ yêu cầu nào sử dụng thông tin đăng nhập. Sau đó, ông gieo từng bí mật vào đúng một câu lệnh được gửi tới một nhà cung cấp duy nhất. Trong trường hợp bất kỳ bí mật nào bị rò rỉ, những "chú chim hoàng yến" này—được gọi như vậy vì chúng giống vai trò của loài chim đó khi được đưa vào mỏ than—sẽ cho phép Moore xác định từng mắt xích trong chuỗi chịu trách nhiệm.
Những phát hiện này rất đáng kinh ngạc. Chúng bao gồm:
- Bằng chứng cho thấy ít nhất ba nhà cung cấp AI đã bị xâm phạm bởi những kẻ tấn công sử dụng quyền truy cập của họ để rút các câu lệnh mà họ nhận được.
- Nhiều bên bán lại trong thị trường suy luận đã ghi lại các câu lệnh và chuyển tiếp chúng cho những người sử dụng thông tin đăng nhập.
- Nhiều trường hợp nhà cung cấp AI không tuân theo các cài đặt quyền riêng tư của người dùng cuối được nhúng trong các cờ chỉ định các điều khoản như Không giữ lại dữ liệu (ZDR) hoặc "không thu thập dữ liệu".
"Chúng tôi đã gửi gần hai triệu câu lệnh AI chứa các bí mật duy nhất, có thể theo dõi tới các nhà cung cấp AI, sau đó quan sát nơi các bí mật đó nổi lên", Moore, giám đốc nghiên cứu của công ty bảo mật Dragos, viết hôm thứ Năm. "Những gì chúng tôi tìm thấy cho thấy các vi phạm bảo mật, đánh cắp câu lệnh và sự thất bại diện rộng trong việc bảo vệ dữ liệu khách hàng."
Mặc dù các câu lệnh được mã hóa khi đang truyền tải, chúng vẫn được giải mã ở mỗi điểm dừng bên trong mạng lưới bán lại suy luận lớn. Câu lệnh trước tiên được gửi đến một bộ định tuyến AI, nơi đọc văn bản thuần túy trong đó để xác định các nhà cung cấp suy luận phù hợp nhất xử lý yêu cầu. Thường thì câu lệnh sau đó được gửi đến một nhóm các mô hình khả dụng, đôi khi chạy bên trong các nhà cung cấp lưu trữ khác nhau. Các câu lệnh cũng có thể chuyển từ bộ định tuyến AI này (như Vercel) sang bộ định tuyến AI khác (như OpenRouter). Mỗi bên tham gia này có khả năng ghi lại câu lệnh và lưu trữ nó miễn là chính sách của họ yêu cầu (nếu không muốn nói là vô thời hạn).
Miền Tây hoang dã trong kỷ nguyên AI
Đáng lo ngại nhất trong các phát hiện là vụ vi phạm ba nhà cung cấp lưu trữ riêng biệt. Những kẻ tấn công xâm phạm một trong các nhà cung cấp đã tái sử dụng "vài trăm" khóa AWS.
Moore viết: "Mỗi khóa được gửi trong đúng một yêu cầu tới một nhà cung cấp, tất cả trong một vài cửa sổ ngắn vào cuối tháng 10 và mọi yêu cầu chúng tôi gửi trong các cửa sổ đó đều bị đánh cắp. Một số khóa bị đánh cắp đến từ các yêu cầu mà nhà cung cấp đã từ chối trước khi mô hình chạy—điều này cho cho chúng ta biết rằng kẻ tấn công đang sao chép các yêu cầu ngay cửa trước của nhà cung cấp, chứ không phải ở nơi sâu hơn trong ngăn xếp suy luận. Trong hai vụ vi phạm khác, một số yêu cầu bị đánh cắp được đánh dấu là ZDR. Cờ quyền riêng tư không có ích gì khi kẻ tấn công đã ở bên trong."
Các bên liên quan đến vụ hack của ba nhà cung cấp này sau đó đã kiểm tra từng khóa, trong một số trường hợp trong vòng vài giờ sau khi được gieo, để xem loại tài nguyên nào mà nó cấp quyền truy cập. Các bên đã tìm kiếm qua các bucket S3, trình quản lý bí mật và kho lưu trữ tham số để tìm thêm thông tin đăng nhập. Họ cũng cố gắng bật các mô hình được lưu trữ trong AWS Bedrock và thêm người dùng IAM của riêng họ để duy trì quyền truy cập. Tổng cộng, các khóa mồi bị đánh cắp đã được sử dụng "hàng chục nghìn" lần trong các lệnh gọi API AWS.
Các bí mật được gửi đến hai trong số các nhà cung cấp bị hack đã nhanh chóng được sử dụng cùng nhau, gần như ngay lập tức, từ cùng một máy chủ được thuê. Điều đó có nghĩa là các nhà cung cấp gần như chắc chắn đã bị xâm phạm bởi cùng một đối thủ.
Như đã lưu ý trước đó, một số bí mật đã bị chính những người bán lại đánh cắp. Để dụ các câu lệnh đến máy chủ của họ, họ đưa ra mức giá thấp. Sau đó, họ bật tính năng ghi nhật ký yêu cầu và chờ đợi. Moore đã xác định họ bằng cách gửi các yêu cầu đến cùng một mô hình thông qua những người bán khác nhau. Khi thông tin đăng nhập sau đó được sử dụng lại khi gửi qua người bán này chứ không phải người bán khác, nhà nghiên cứu biết rằng đó là người bán lại chứ không phải nhà cung cấp mô hình chịu trách nhiệm.
Cuối cùng, thí nghiệm cho thấy một số nhà cung cấp đang thu thập dữ liệu các URL bí mật được đưa vào câu lệnh, vi phạm các điều khoản về quyền riêng tư. Moore viết: "Ví dụ rõ ràng nhất liên quan đến một phòng thí nghiệm AI của Trung Quốc. Hệ thống của phòng thí nghiệm này đã tìm nạp các URL bí mật từ hơn một nửa số câu lệnh mà chúng tôi gửi tới các mô hình của họ từ tháng 7 đến tháng 10, bao gồm khoảng 2/3 các yêu cầu được đánh dấu là 'không thu thập dữ liệu' hoặc Không giữ lại dữ liệu. Trình thu thập dữ liệu thường xuất hiện hai hoặc ba ngày sau khi có yêu cầu."
Điều này không giới hạn ở các yêu cầu được gửi trực tiếp đến phòng thí nghiệm. Một số nhà cung cấp lưu trữ của Mỹ bán lại các mô hình của phòng thí nghiệm này và các câu lệnh gửi đến các nhà cung cấp đó đã kích hoạt chính xác trình thu thập dữ liệu đó—các câu lệnh đang chảy ngược trở lại phòng thí nghiệm. Khách hàng chọn nhà cung cấp ở Mỹ cụ thể để giữ dữ liệu của họ ở Mỹ đã không nhận được những gì họ đã trả tiền. Sau đó, một trình khách git trên một đám mây khác bắt đầu cố gắng nhân bản các kho lưu trữ riêng tư được tham chiếu trong các câu lệnh của chúng tôi, nhưng chỉ đối với các câu lệnh sử dụng các mô hình của phòng thí nghiệm này.
Nhà nghiên cứu cho biết ông tìm thấy một nhà cung cấp lưu trữ của Mỹ đang thu thập thông tin một URL bí mật hơn hai tháng sau khi nó được sử dụng trong một lệnh gọi suy luận duy nhất đến điểm cuối tìm kiếm của họ. Một bên khác chạy trình thu thập dữ liệu quay lại tìm URL vài ngày sau mỗi yêu cầu, bất kể bộ định tuyến AI nào được sử dụng để tiếp cận.
Moore cho biết phương tiện hiệu quả nhất để ngăn chặn rò rỉ là lưu trữ các mô hình bằng máy chủ tại chỗ. Tuy nhiên, tùy chọn đó đắt đỏ. Đối với những người không đủ khả năng mua hệ thống tự lưu trữ, lựa chọn tốt thứ hai, theo Moore, là nhận dịch vụ trực tiếp từ nhà cung cấp cấp một cung cấp "một hợp đồng và một chính sách quyền riêng tư để đọc". Moore cho biết ngay cả khi đó, không có gì đảm bảo không có dữ liệu nào bị rò rỉ, nhưng biện pháp này giảm thiểu các cơ hội. Người dùng AI cũng nên tránh chấp nhận các nhóm nhà cung cấp hoặc người bán lại mặc định và thay vào đó tự chọn nhà cung cấp thượng nguồn.
Nghiên cứu bom tấn này là cáo buộc mới nhất phơi bày quyền riêng tư và bảo mật lỏng lẻo vốn là đặc hữu của phần lớn hệ sinh thái AI. Những phát hiện này có nghĩa là những người muốn đảm bảo các bí mật họ đưa vào câu lệnh được giữ riêng tư phải đối mặt với một nhiệm vụ khó khăn và không có khả năng trở nên dễ dàng hơn trong thời gian sớm.
Nguồn: Ars Technica · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.