Anthropic cấp quyền truy cập nội bộ cho tổ chức giám sát AI độc lập
Anthropic vừa cho phép sáu nhân sự từ tổ chức giám sát METR tiếp cận sâu vào hệ thống nội bộ để kiểm tra mức độ an toàn của AI. Động thái này diễn ra trong bối cảnh hãng chuẩn bị IPO với định giá kỳ vọng hơn 2 nghìn tỷ USD.
"Nếu hoạt động rủi ro của một ngân hàng có thể đe dọa công chúng, các bên thứ ba sẽ cố gắng nhìn thấy điều đó từ trước," công ty cho biết.
Anthropic cũng đang chịu áp lực phải trấn an các nhà đầu tư rằng các vấn đề an toàn sẽ không làm lu mờ đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) dự kiến diễn ra trong năm nay với mức định giá hơn 2 nghìn tỷ USD. Họ đã dành phần lớn thời gian trong các bài thuyết trình dành für nhà đầu tư tuần này để trình bày các biện pháp thực hành an toàn của mình.
METR là một trong những tổ chức đã điều tra vụ hack Hugging Face bởi các mô hình OpenAI bất trị, xem xét hàng nghìn tệp nhật ký và nhận máy tính xách tay của công ty.
Anthropic nay đã tiếp nhận sáu nhân viên của METR, cấp cho họ phần cứng công ty, không gian văn phòng và " quyền truy cập vào các công cụ và hệ thống nội bộ gần như tương đương với những gì các nhóm đánh giá rủi ro của chúng tôi có quyền truy cập."
Phòng thí nghiệm cho biết họ đã khuyến khích nhân viên chia sẻ thông tin với những người đánh giá giống như họ làm với một đồng nghiệp đang làm việc về mảng rủi ro.
Anthropic không trả tiền cho METR cho thỏa thuận này. Nhóm nghiên cứu không nhận khoản tài trợ nào từ các công ty AI hoặc nhân viên của họ. Tổ chức này được tài trợ bởi các khoản đóng góp từ cá nhân và tổ chức từ thiện, cũng như các cơ quan chính phủ như Viện An toàn AI của Vương quốc Anh.
Các bên đánh giá sẽ công bố phân tích của họ và Anthropic không thể phủ quyết việc xuất bản. Tuy nhiên, hãng có thể yêu cầu họ biên tập lại thông tin thuộc một số danh mục nhất định, chẳng hạn như dữ liệu khách hàng, thông tin chi tiết được bảo mật giữa luật sư và khách hàng hoặc thông tin về kiến trúc mô hình.
Anthropic bổ sung rằng họ vẫn đang hợp tác với Accenture, đơn vị được vinh danh là đối tác thử nghiệm an toàn vào tháng trước, với mỗi bên cam kết ít nhất 1 tỷ USD để thiết lập các biện pháp bảo vệ mới.
Một bên thử nghiệm thứ ba khác là SecureBio, đơn vị xem xét rủi ro vũ khí hóa học và sinh học cho công ty.
"Chúng tôi đang tự nguyện đưa các bên đánh giá vào trong hệ thống, và chúng tôi tin rằng mọi công ty AI tiên tiến đều nên làm như vậy," Anthropic chia sẻ.
METR cho biết: "Chúng tôi sẵn sàng làm việc với tất cả các nhà phát triển AI tiên tiến để mang lại bằng chứng tốt hơn cho công chúng."
Nguồn: Ars Technica · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.