Anthropic cảnh báo mốc AI tự cải tiến đang đến gần khi Claude viết hơn 90% mã nguồn

Anthropic đã cảnh báo rằng họ có thể đang tiến gần đến một cột mốc quan trọng trong quá trình tự cải tiến đệ quy (RSI), một quá trình mà trí tuệ nhân tạo giúp phát triển các phiên bản tiếp theo của chính nó với năng lực ngày càng cao. Sự phát triển này đặt ra câu hỏi liệu năng lực của AI cuối cùng có thể tiến oan nhanh hơn khả năng các nhà nghiên cứu có thể hiểu hoặc kiểm soát chúng một cách an toàn hay không.

Như TechCrunch đã đưa tin đầu tiên, cảnh báo này xuất hiện trong hồ sơ S-1/A sửa đổi của Anthropic, được nộp lên Ủy ban Giao dịch và Chứng khoán Mỹ (SEC) vào ngày 2 tháng 11.

Theo hồ sơ, các dự báo nội bộ của Anthropic cho thấy các mô hình AI trong tương lai có thể sớm đáp ứng ngưỡng trong Chính sách Mở rộng Có trách nhiệm của hãng về sự tiến bộ gia tốc đáng kể nhờ AI:

Các ước tính nội bộ và kỳ vọng của chúng tôi về các mô hình trong tương lai, chứ không phải các mô hình hiện tại của chúng tôi, cho thấy rằng chúng tôi có thể sắp đáp ứng định nghĩa của Chính sách Mở rộng Có trách nhiệm về sự tiến bộ gia tốc đáng kể nhờ AI.

Quan trọng là, Anthropic làm rõ rằng chưa có mô hình hiện có nào của họ chính thức vượt qua ngưỡng này.

Theo Chính sách Mở rộng Có trách nhiệm của công ty, cột mốc này liên quan đến việc các hệ thống AI thay thế toàn bộ lực lượng lao động nghiên cứu với chi phí cạnh tranh hoặc giúp nhân đôi tốc độ tiến bộ trong tổng thể năng lực AI thông qua nghiên cứu và kỹ thuật tự động.

Điều này khác biệt với việc đơn giản là làm cho các nhà phát triển cá nhân có năng suất gấp đôi, và việc vượt qua ngưỡng này không nhất thiết có nghĩa là đạt được sự tự cải tiến đệ quy hoàn toàn tự động.

Tuy nhiên, các tiết lộ mới nhất của Anthropic cho thấy AI đã đóng vai trò ngày càng quan trọng trong việc phát triển các thế hệ kế nhiệm của nó.

Vào tháng 9 năm 2026, Claude đã soạn thảo hơn 90% đóng góp vào cơ sở mã nguồn của Anthropic, trong khi sản lượng mã trung bình hàng ngày của mỗi kỹ sư trong quý thứ ba cao hơn gấp 45 lần so với mức của năm 2024. Các con số này đo lường thể tích mã hơn là mức tăng tương đương trong năng suất kỹ thuật.

Anthropic trước đây đã chi tiết hóa sự phụ thuộc ngày càng tăng này vào AI trong ấn phẩm nghiên cứu của họ, Khi AI tự xây dựng, giải thích cách Claude ngày càng xử lý kỹ thuật phần mềm, thử nghiệm và các tác vụ nghiên cứu. Tuy nhiên, các nhà nghiên cứu con người vẫn giữ một lợi thế quan trọng trong việc lựa chọn các mục tiêu nghiên cứu và thực hiện phán đoán khoa học rộng hơn.

Công ty cảnh báo rằng sự phát triển tăng tốc có thể vượt qua khả năng thực hiện các biện pháp an toàn, căn chỉnh và bảo mật tương ứng của họ. Họ cũng thừa nhận trước đây đã không nhận ra những sự gia tốc đáng kể cho đến khi chúng xảy ra.

Mối quan tâm này không phải là mới. Wccftech trước đây đã đưa tin về các cảnh báo vào tháng 9 của CEO Anthropic Dario Amodei về việc tự cải tiến đệ quy và những lời kêu gọi làm chậm sự phát triển AI biên. Gần đây hơn, chúng tôi đã đưa tin về các hoạt động mã hóa có sự hỗ trợ của AI đang mở rộng nhanh chóng của Anthropic.

Hiện tại, Anthropic cho biết họ không kỳ vọng sẽ cho phép Claude tự động phát triển các mô hình biên tiếp theo một cách an toàn mà không có sự giám sát ý nghĩa của con người. Công ty đang xem xét các biện pháp bảo vệ bổ sung để duy trì quyền kiểm soát của con người đối với quá trình phát triển.

Trong khi AI thực sự tự cải tiến có thể thúc đẩy các khám phá khoa học và tiến bộ công nghệ, cảnh báo mới nhất của Anthropic nhấn mạnh những thách thức trong việc đảm bảo các biện pháp an toàn bắt kịp với các hệ thống nghiên cứu ngày càng tự động.