OpenAI được cho là đã giải tán nhóm chuyên đánh giá rủi ro AI

Theo tờ Financial Times, OpenAI đã giải tán nhóm phụ trách mức độ sẵn sàng ứng phó (preparedness team) vào cuối tháng trước. Nhiệm vụ của nhóm này là đánh giá xem các mô hình AI có gây ra rủi ro nghiêm trọng hay không và phát triển các biện pháp nhằm giảm thiểu rủi ro đó (chẳng hạn như khả năng AI vượt tầm kiểm soát và tấn công mạng một công ty khác). Financial Times cho biết trách nhiệm này hiện được chia nhỏ cho các lĩnh vực cụ thể như sinh học và an ninh mạng, sau đó chuyển giao cho các nhóm hiện có.

Đây là thay đổi mới nhất tại OpenAI, công ty đang trải qua nhiều biến động khi hướng tới đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) được dự đoán là có quy mô khổng lồ. Trong vài năm qua, OpenAI đã dần thu hẹp mô hình tập trung vào nghiên cứu chuyên sâu, đồng thời giải thể các nhóm phụ trách mức độ sẵn sàng cho AGI (AGI readiness) và căn chỉnh siêu thông minh (superalignment). Trưởng nhóm đạo đức Chloé Bakalar, Giám đốc Tương lai học Josh Achiam và Trưởng bộ phận an toàn Johannes Heidecke đều đã rời đi gần đây. Điều này khiến một số nhà phê bình như Jan Leike, người đã từ chức khỏi OpenAI vào năm 2024, chia sẻ với Financial Times rằng công ty đang phớt lờ yếu tố an toàn để ưu tiên tạo ra "các sản phẩm hào nhoáng".

Trưởng nhóm Preparedness, Dylan Scandinaro, người vừa được chiêu mộ từ Anthropic vào tháng 2, giờ đây sẽ tập trung vào việc nghiên cứu những tác động của AI "tự cải tiến đệ quy" (recursive self-improving).