Báo cáo mới hé lộ Anthropic đang dùng AI để tự tăng tốc phát triển trí tuệ nhân tạo

Anthropic đang sử dụng AI để xây dựng các hệ thống AI mạnh mẽ hơn. Và dường như phương pháp này đang mang lại hiệu quả đáng kinh ngạc, khi các mô hình của công ty cải thiện với tốc độ nhanh gấp khoảng hai lần so với một năm trước, và hầu như chưa có dấu hiệu chững lại.

Đó là kết quả từ một báo cáo mới do tổ chức nghiên cứu an toàn AI METR công bố vào thứ Năm, sau cuộc điều tra kéo dài 11 tuần bên trong công ty, như một phần của báo cáo đánh giá hoạt động nghiên cứu và phát triển AI của hãng. Cuộc thăm dò này tách biệt với chương trình cung cấp cho các nhà nghiên cứu an toàn quyền truy cập "giống như nhân viên" vào các hệ thống sau các sự cố tấn công mạng hồi mùa hè.

Những phát hiện này cung cấp một số bằng chứng rõ ràng nhất từ trước đến nay về việc AI đang tự thúc đẩy sự phát triển của chính nó, đặt ra câu hỏi về tốc độ tiến 📉 của công nghệ hướng tới tương lai mà các hệ thống AI có thể tự cải thiện với ít hoặc không cần sự tham gia của con người. Chúng cũng xuất hiện vào thời điểm quan trọng đối với Anthropic, công ty đang chuẩn bị phát hành cổ phiếu ra công chúng (IPO) ngay cả khi CEO Dario Amodei từng công khai kêu gọi các phòng thí nghiệm kìm hãm sự phát triển của AI.

Nhưng mặc dù báo cáo mang lại cái nhìn hiếm hoi về hoạt động bên trong của các phòng thí nghiệm AI hàng đầu thế giới, những gì bị loại bỏ cũng mang ý nghĩa tiết lộ không kém. Anthropic được phép biên tập các phần của báo cáo cuối cùng như một phần thỏa thuận với METR, và họ dường như đã sử dụng quyền lực đó một cách rộng rãi, dấy lên câu hỏi về việc công chúng thực sự biết bao nhiêu về tốc độ cũng như rủi ro của việc phát triển AI tiên tiến.

Dưới đây là một số điểm quan trọng nhất.

AI đang thúc đẩy mạnh mẽ hoạt động R&D của Anthropic

Một trong những phát hiện đáng chú ý nhất của METR là các mô hình AI của Anthropic đang cải thiện nhanh gấp đôi so với một năm trước, với điểm số chuẩn cho thấy "Anthropic đã tạo ra khoảng hai năm tiến bộ lịch sử trong năm qua." Quan trọng hơn, các nhà nghiên cứu của METR cho biết họ "tự tin" rằng sự gia tăng tốc độ này không đơn thuần là do mở rộng sức mạnh tính toán dùng để đào thay mô hình, yếu tố vốn là động lực chính thúc đẩy tiến bộ AI trong quá khứ.

Thay vào đó, các nhà nghiên cứu cho biết phần lớn sự gia tăng tốc độ tính đến tháng 10 "là do AI đóng góp," với tỷ trọng ngày càng tăng theo thời gian. Phát hiện đó được củng cố bởi các cuộc khảo sát phi chính thức trên Slack và các cuộc phỏng vấn với nhân viên Anthropic, chỉ ra năng suất tăng lên đáng kể. METR viết rằng nhân viên sử dụng mô hình nội bộ có năng lực nhất của Anthropic tự báo cáo có năng suất cao gấp khoảng 12 lần trong công việc tương ứng so với khi không có sự hỗ trợ của AI, cao gấp đôi so với những gì nhân viên báo cáo chỉ vài tháng trước đó khi sử dụng Mythos 5.

Hiện tại, phần lớn sự gia tăng tốc độ đó dường như đến từ việc AI hỗ trợ các nhà nghiên cứu con người, thay vì AI hoạt động độc lập, mặc dù METR cảnh báo rằng "có một số dấu hiệu cho thấy sự đóng góp tự động hoàn hảo sẽ sớm đóng vai trò lớn hơn." Đáng chú ý, các nhà nghiên cứu cho biết họ không tìm thấy dấu hiệu rõ ràng nào về việc hiệu suất giảm dần hoặc điểm nghẽn có thể cản trở "tốc độ tăng trưởng thậm chí còn nhanh hơn."

Ba mô hình AI mới nhất của Anthropic vẫn được giữ kín

Các nhà nghiên cứu của Anthropic đang sử dụng các mô hình AI tiên tiến hơn phần còn lại của chúng ta, với phần lớn tốc độ gia tăng và năng suất mà METR mô tả xuất phát từ các mô hình nội bộ chưa phát hành.

Trong sáu tháng qua, Anthropic đã hoàn thành việc đào tạo ba mô hình mà họ chưa phát hành, theo METR. Tốc độ phát triển rất nhanh, với các mô hình mang tên mã Model 2, Model 3 và Model 4 lần lượt hoàn thành quá trình huấn luyện vào tháng 7, tháng 8-9 và tháng 9-10. METR cũng xác định một mô hình chưa phát hành có từ năm 2022 mang tên Unreleased 2022. "Đây là những tên mã được chia sẻ với chúng tôi; chúng tôi hiểu rằng họ có các tên mã nội bộ khác nhau," các nhà nghiên cứu viết.

Anthropic giữ bí mật thông tin quan trọng

Anthropic đã cấp cho METR quyền tiếp cận nhiều thông tin không công khai, bao gồm nghiên cứu mật, dữ liệu hiệu suất mô hình và phỏng vấn nhân viên như một phần của quá trình nghiên cứu. Họ không có nghĩa vụ phải làm điều đó và theo chính thừa nhận của METR, phòng thí nghiệm AI đã "chia sẻ nhiều thông tin hơn dự kiến ban đầu cho dự án này, vượt quá mong đợi của chúng tôi."

Điều này rất đáng ghi nhận, nhưng cần lưu ý rằng Anthropic không cấp cho các nhà nghiên cứu quyền truy cập không giới hạn, cũng như không cấp quyền truy cập "giống như nhân viên" mà họ hứa hẹn với các nhà nghiên cứu an toàn METR khác như một phần của chương trình riêng biệt được công bố vào tháng trước. Đó là một sự khác biệt quan trọng, xét đến những lợi ích về danh tiếng mà các công ty có thể thu được từ các đánh giá độc lập, ngay cả khi chúng đi kèm với các hạn chế đáng kể.

Và có những hạn chế đáng kể. Anthropic có quyền biên tập thông tin từ báo cáo cuối cùng của METR và họ đã sử dụng quyền đó một cách triệt để. "Chúng tôi đã gửi một báo cáo đầy đủ khoảng 100 trang về đánh giá của mình cho Anthropic. Đối với phiên bản công khai, Anthropic đã biên tập phần lớn các bằng chứng mà chúng tôi thấy là có tính thông tin nhất," METR viết trên X.

METR lặp lại những lo ngại đó xuyên suốt báo cáo, làm nổi bật các hạn chế khác đối với quyền truy cập của họ. "Đường thông tin của chúng tôi tương đối hẹp và một số ít yêu cầu dữ liệu của chúng tôi đã bị từ chối."

METR liên tục nhấn mạnh tác động từ các quyết định biên tập của Anthropic đối với khả năng truyền 💡 các phát hiện của họ và để những người khác đánh giá những gì đang diễn ra tại công ty. Họ lưu ý rằng phần lớn bằng chứng bị biên tập có thể có "nhiều cách giải thích hợp lý," khiến công chúng khó đánh giá các phát hiện, hiểu rõ sự không chắc chắn xung quanh chúng và tự phán xét bằng chứng. "Do hậu quả [của việc biên tập], công chúng phải dựa vào phán đoán của METR nhiều hơn mức lý tưởng, xét đến sức nặng của các câu hỏi được trả lời ở đây," báo cáo cho biết.

Trong báo cáo, METR cho biết Anthropic biện minh cho việc biên tập với lý do việc tiết lộ thông tin có thể mang lại lợi ích cho các đối thủ cạnh tranh. Tuy nhiên, METR cho biết "hầu hết thông tin bị biên tập đều ở cấp độ rất cao," mặc dù họ nói rằng họ không ở vị trí để bình luận xem việc biên tập có được justified về mặt thương mại hay không.

"Chúng tôi đã biên tập rất nhiều, và tôi thừa nhận điều này làm cho việc kiểm tra công việc của METR trở nên khó khăn hơn đối với người khác," đồng sáng lập Anthropic Sam McCandlish thừa nhận trong một bài đăng dài trên X trả lời các phát hiện của METR. "Nhưng chúng tôi đã xác định rằng việc chia sẻ chính xác những gì đang thúc đẩy sự tăng tốc không phải là điều nên làm, cả vì nó nhạy cảm về mặt thương mại và vì nó có nguy cơ trao bản đồ hướng dẫn cho những người khác đi nhanh hơn," ông nói, đồng thời cho biết thêm rằng việc làm đó sẽ làm cho các rủi ro mà METR quan tâm trở nên "tồi tệ hơn."

McCandlish cho biết đó là sự đánh đổi, nhưng vẫn khẳng định Anthropic đã đưa ra "quyết định đúng đắn" khi quyết định biên tập thông tin. Ông cho biết công ty có kế hoạch công bố báo cáo của riêng mình về tốc độ tiến bộ của AI "trong vài tuần tới," cũng như các bước mới mà họ đang thực hiện để tăng cường an toàn.

Anthropic đang thúc đẩy chính công nghệ mà họ cảnh báo là nguy hiểm, nhanh hơn nhiều người dự kiến

Việc xuất bản báo cáo của METR đã vấp phải phản ứng dữ dội từ các nhà nghiên cứu và bình luận viên về an toàn AI, tập trung phần lớn vào một nghịch lý rõ ràng cốt lõi trong cách tiếp cận AI của Anthropic: Công ty là một trong những người lên tiếng mạnh mẽ nhất về an toàn và phát triển có trách nhiệm, nhưng báo cáo lại cho thấy họ đang giúp đẩy nhanh công nghệ tiến tới ngưỡng mà nhiều người coi là nguy hiểm, trong khi dường như không thực hiện đúng các cam kết của chính mình về sự minh bạch và giải trình.

Đối với một số người, các phát hiện cho thấy ngay cả những dự đoán hung hăng nhất trong lĩnh vực về tiến bộ AI cũng có thể quá thận trọng. Chúng chỉ ra rằng việc tự cải thiện đệ quy — các hệ thống AI có thể tự động phát triển các hệ thống kế thừa ngày càng mạnh mẽ mà không cần sự can thiệp của con người, có khả năng đẩy nhanh sự phát triển một cách kịch tính — có thể đến gần hơn suy nghĩ trước đây, dấy lên lo ngại về việc liệu các biện pháp an toàn hiện tại có thể bắt kịp hay không. Mặc dù báo cáo của METR chỉ đề cập đến Anthropic, OpenAI cho biết vào tháng 9 rằng họ đang "tiến bộ mạnh mẽ" hướng tới việc xây dựng một nhà nghiên cứu AI có thể "thúc đẩy thêm tiến bộ về học sâu và tinh chỉnh" vào tháng 3 năm 2028.