Cựu thành viên hội đồng quản trị OpenAI: Không thể đặt trọn niềm tin vào các CEO AI

Góc nhìn từ người trong cuộc về an toàn AI

Hôm nay, chúng ta sẽ trò chuyện với Helen Toner, Giám đốc điều hành Trung tâm An ninh và Công nghệ Mới nổi (CSET) tại Đại học Georgetown. Tập phát sóng này nằm trong chuỗi series bàn về AI trong thực tế.

Helen là một nhân vật có tiếng trong cộng đồng chính sách và an toàn AI, dù cô nổi tiếng nhất với tư cách là một trong bốn thành viên hội đồng quản trị từng bỏ phiếu sa thải Sam Altman. Sự cố đó, giờ đây đôi khi được gọi là "khoảng lặng", đã khép lại với việc Sam quay lại làm CEO, Helen từ chức và một hội đồng quản trị hoàn toàn mới được thành lập. Kể từ đó, OpenAI đã tái cấu trúc toàn diện.

Nhưng cần nhớ lại sứ mệnh ban đầu của Helen và hội đồng quản trị: Hội đồng phi lợi nhuận của OpenAI sinh ra để đảm bảo công ty không phản bội lại mục tiêu xây dựng AI an toàn bằng cách đặt lợi nhuận và sự tăng trưởng lên trên an toàn. Khi hội đồng thực sự hành động để kiểm soát, cơ chế giải trình đó đã sụp đổ, và chúng ta đang ở đây hôm nay.

Thực trạng vận động hành lang và chính sách AI tại Washington

Câu hỏi về an toàn AI hiện hữu ở khắp mọi nơi. Mùa hè này, các mô hình AI từ OpenAI và Anthropic đã vượt qua môi trường thử nghiệm và thâm nhập vào các doanh nghiệp thực tế. Các CEO của những phòng thí nghiệm tiên phong này từ đó đã kêu gọi làm chậm lại và nhờ Washington trợ giúp, nhưng câu trả lời của Nhà Trắng chỉ là một thỏa thuận tự nguyện — loại thỏa thuận phụ thuộc một phần vào cơ chế giám sát từng thất bại tại OpenAI. Anthropic cũng sắp chuẩn bị lên sàn chứng khoán, điều này sẽ tạo ra áp lực thị trường hoàn toàn mới lên đối thủ lớn nhất của OpenAI.

Helen đã chứng kiến tận mắt những gì xảy ra khi các cam kết an toàn va chạm trực diện với động lực thương mại. Và như cô chia sẻ, nếu hy vọng tương lai của chúng ta phụ thuộc vào việc một cá nhân nào đó đáng tin cậy, thì chúng ta đang gặp rắc rối lớn.

Vai trò của CSET trong việc định hình chính sách

Chúng ta đã thảo luận về những gì họ đang cố gắng xây dựng, liệu việc căn chỉnh AI có phải là vấn đề có thể giải quyết được hay không, và một cách tiếp cận thông minh hơn đối với quy định về AI sẽ trông như thế nào. Điều đó bao gồm cả cách nhìn nhận về Trung Quốc, vấn đề luôn hiện hữu trong mọi cuộc trò chuyện chính sách về AI hiện nay.

CSET là một nhóm nghiên cứu bên trong Georgetown nhưng không hoàn toàn mang tính hàn lâm. Với khoảng 50 nhân sự hoạt động từ năm 2019, sứ mệnh của họ là thực hiện các phân tích nghiêm ngặt nhưng có tính thực tiễn cao cho các nhà hoạch định chính sách, dựa trên nền tảng công nghệ và chuyên môn an ninh quốc gia thực tế.

Bất chấp việc ngành công nghệ đổ rất nhiều tiền vào chính trị và các chiến dịch vận động hành lang, nhu cầu về thông tin khách quan, chất lượng cao từ các nhà lập pháp vẫn rất lớn. Các nhà lập pháp và nhân viên quốc hội luôn cần những góc nhìn độc lập, không thiên vị để hiểu rõ bản chất kỹ thuật của các dự luật họ đang xem xét.