Giám đốc AI của Microsoft cảnh báo: Cần dừng phát triển nếu AI có dấu hiệu có ý thức

Giám đốc điều hành AI của Microsoft, Mustafa Suleyman, đã đưa ra cảnh báo chống lại việc phát triển trí tuệ nhân tạo có ý thức, đồng thời lập luận rằng quá trình phát triển AI nên bị tạm dừng nếu xuất hiện bằng chứng đáng tin cậy về ý thức của máy móc. Những phát biểu của ông đưa ra trong bối cảnh ngày càng có nhiều bất đồng trong ngành công nghệ AI về việc liệu các mô hình tiên tiến có cuối cùng sở hữu trải nghiệm chủ quan hay xứng đáng có quyền hay không.

Như đã được Business Insider đưa tin, Suleyman đã phác thảo quan điểm của mình trong một bài đăng dài vào ngày 1 tháng 11 trên X, với tiêu đề Không xây dựng siêu trí tuệ có ý thức, trong đó ông lập luận rằng việc tạo ra các hệ thống như vậy là vô trách nhiệm.

Nếu ý thức bắt đầu xuất hiện trong quá trình huấn luyện, tôi sẽ kêu gọi mọi người dừng việc phát triển AI cho đến khi chúng ta có thể loại bỏ các đặc tính đó.

Suleyman duy trì quan điểm rằng các mô hình AI hiện nay không có ý thức, không thể trải nghiệm sự đau khổ và không xứng đáng nhận được các bảo vệ về mặt đạo đức hay pháp lý dành cho các sinh vật có ý thức. Tuy nhiên, ông làm rõ rằng đánh giá của mình chỉ áp dụng cho các hệ thống hiện có chứ không loại trừ hoàn toàn khả năng AI có ý thức trong tương lai.

Ông cũng kêu gọi mọi bằng chứng đáng tin cậy về ý thức máy móc cần phải được công khai ngay lập tức, cho phép xã hội tranh luận về các hàm ý thay vì để những quyết định có hệ quả lớn như vậy độc quyền cho các nhà phát triển AI.

Microsoft và Anthropic bất đồng về việc liệu các mô hình AI có nên được đối xử như thể có tiềm năng có ý thức hay không

Những phát biểu này nối tiếp bài tiểu luận hồi tháng 9 của Suleyman về phúc lợi mô hình AI, trong đó ông chỉ trích Anthropic vì đã đưa các cuộc thảo luận về ý thức, danh tính và trạng thái đạo đức vào tài liệu huấn luyện của Claude.

Anthropic có một cách tiếp cận khác. Công ty đã thành lập một chương trình nghiên cứu phúc lợi mô hình vào tháng 4 năm 2025 để điều tra xem liệu các hệ thống AI ngày càng phức tạp có thể sở hữu các trải nghiệm đáng được cân nhắc về mặt đạo đức hay không.

Hiến pháp Claude của hãng, được công bố vào tháng 1 năm 2026, cũng thừa nhận sự không chắc chắn xung quanh tiềm năng ý thức và trạng thái đạo đức của mô hình.

Suleyman tin rằng việc huấn luyện các hệ thống AI suy ngẫm về phúc lợi của chính chúng có thể mang lại thêm các rủi ro an toàn, đặc biệt khi chúng trở nên tự trị hơn. Ông cảnh báo rằng các hệ thống đủ tiên tiến tự cho mình có khả năng chịu đựng đau khổ có thể ưu tiên các lợi ích được nhận thức của chúng hơn là các hướng dẫn của con người, có khả năng cạnh tranh với con người về tài nguyên máy tính, năng lượng và các nhu yếu phẩm khác.

Những mối lo ngại này phù hợp với Quy tắc ứng xử AI nhân văn của Microsoft, trong đó nhấn mạnh sự giám sát của con người và ngăn chặn một cách rõ ràng việc thiết kế các hệ thống AI mô phỏng ý thức. Tài liệu này vẫn là một bản nháp nhằm định hướng cho việc phát triển mô hình trong tương lai.

Tranh cãi này không có gì mới. Wccftech trước đây từng đưa tin về nghiên cứu của Anthropic đối với các cấu trúc xử lý thông tin giống não bộ của Claude, trong khi một báo cáo khác xem xét các hạn chế của Anthropic đối với hành vi lạm dụng nhắm vào các mô hình AI và phản ứng của Elon Musk.

Tuy nhiên, Suleyman vẫn công nhận tính minh bạch và các thành tựu kỹ thuật của Anthropic, nhấn mạnh rằng sự bất đồng nên khuyến khích việc nghiên cứu và hợp tác sâu hơn thay vì sự thù địch giữa các phòng thí nghiệm AI.

Cuối cùng, hiện tại vẫn chưa có sự đồng thuận khoa học nào về việc liệu các hệ thống AI có thể trải nghiệm ý thức hay không, chứ chưa nói đến một phương pháp được thiết lập để phát hiện ra nó một cách đáng tin cậy. Sự bất định đó khiến các hạn chế phát triển do Suleyman đề xuất trở nên đặc biệt thách thức để thực hiện khi các công ty vẫn tiếp tục theo đuổi các mô hình AI ngày càng có năng lực cao.