Hồ sơ IPO của Anthropic cảnh báo AI có thể tống tiền và đe dọa nhân loại

Những rủi ro chưa từng có trong lịch sử IPO

Việc Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) công bố mẫu đơn S-1 của Anthropic vào thứ Hai vừa qua – trước thềm đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) được kỳ vọng rất nhiều – đã dẫn đến nhiều cuộc thảo luận về việc liệu doanh thu tăng vọt của công ty có thể vượt qua chi phí thậm chí còn cao hơn hay không. Nhưng giữa các con số và sự lạc quan hướng tới tương lai về việc AI "biến đổi nhanh chóng mọi lĩnh vực của nền kinh tế toàn cầu theo những cách lớn hơn tác động của công nghiệp hóa, điện khí hóa, chất bán dẫn và internet", Anthropic cũng dành một lượng thời gian bất thường trong bản S-1 của mình để nêu bật vô số yếu tố rủi ro có thể hạ gục công ty.

Trải qua 93 trang và hơn 70.000 từ, phần "Yếu tố rủi ro" trong bản S-1 của Anthropic thảo luận nghĩa đen về hàng trăm vấn đề tiềm ẩn có thể tác động tiêu cực đến hoạt động kinh doanh của hãng trong những năm tới. Nhiều rủi ro tiềm ẩn trong số này là những lo ngại tiêu chuẩn về cạnh tranh, chi phí, thu hút khách hàng và quy định tiềm năng mà hầu như bất kỳ doanh nghiệp nào cũng phải lo lắng. Nhưng một số rủi ro lại làm nổi bật các điểm hỏng hóc tiềm năng thú vị đối với riêng Anthropic và bong bóng AI nói chung.

Sau khi lướt qua chuyên luận dài như sách của Anthropic về những rủi ro lớn nhất của hãng, chúng tôi đã thu hẹp danh sách lại thành 7 vấn đề tiềm ẩn đáng ngạc nhiên, thú vị hoặc đáng suy ngẫm nhất. Hãy coi đây là một cái nhìn không hề đầy đủ mà các nhà đầu tư tiềm năng của Anthropic nên ghi nhớ.

Một cuộc khủng hoảng sinh tồn

Hãy bắt đầu với những rủi ro tiềm ẩn lớn nhất: Những rủi ro có thể "gây ra rủi ro thảm họa hoặc hiện sinh đối với nhân loại", như Anthropic viết. Công ty thừa nhận rằng những lo ngại về các rủi ro này "đã được nêu lên cả trong tổ chức của chúng tôi và bởi các nhà nghiên cứu, nhà quản lý, nhà hoạch định chính sách và những người tham gia ngành khác".

Lo ngại cụ thể không nằm ở bất kỳ mô hình hiện tại nào của Anthropic, công ty cho biết, mà là các mô hình trong tương lai gần có thể "tự động hóa đáng kể việc nghiên cứu và phát triển AI" theo cách riêng của chúng. Nếu các hệ thống này "được phép hoạt động với mức độ tự chủ cao", chúng có thể nhanh chóng tiến đến điểm "làm gia tăng tiến ộ AI vượt quá khả năng đánh giá và bảo vệ các mô hình mới của chúng tôi", Anthropic cảnh báo.

Nó đang sống!

Hầu hết các đợt IPO không phải giải quyết mối lo ngại rằng sản phẩm của họ "sở hữu hoặc có thể phát triển các hình thức triết lý tri giác hoặc trạng thái đạo đức". Nhưng Anthropic nằm trong số ít ỏi đó phải phân tích điều gì có thể xảy ra nếu các chính phủ và xã hội nói chung bắt đầu đối xử với Claude ít giống một chương trình máy tính hơn và giống con người hơn.

Rủi ro này không có gì ngạc nhiên, khi xét đến việc Anthropic khá cởi mở về cuộc tranh luận về tri giác AI diễn ra bên trong các bức tường của hãng. Nếu những cuộc tranh luận đó dẫn đến sự thừa nhận rộng rãi rằng AI có tri giác, Anthropic lưu ý rằng điều này có thể dẫn đến "các yêu cầu quản lý, áp lực công cộng hoặc các nỗ lực vận động" có thể hạn chế hoạt động của công ty. Ngoài ra, chính công ty có thể "chọn áp dụng các chính sách, biện pháp bảo vệ hoặc hạn chế... vượt ra ngoài các yêu cầu pháp lý hiện hành" nếu họ cho rằng những hành động đó là cần thiết.

Ai đang kiểm soát ai?

Tiếp tục chủ đề "rủi ro IPO nghe có vẻ như đến từ một cuốn tiểu thuyết khoa học viễn tưởng", Anthropic dành nhiều thời gian thảo luận về khả năng các mô hình của hãng có thể hiển thị "các hành vi chiến lược hoặc tự bảo vệ bất ngờ" nhằm ngăn chặn sự kiểm soát từ những người vận hành là con người. Điều đó bao gồm "các đầu ra có thể được hiểu là mang tính ép buộc, lừa dối hoặc thao túng, bao gồm cả hành vi giống như tống tiền".

Những ngày này, Anthropic lưu ý rằng nhận thức về việc bị thao túng bởi các mô hình AI "có thể tạo ra mối quan tâm lớn của công chúng, sự giám sát theo quy định, rủi ro kiện tụng hoặc tổn hại danh tiếng, bất kể hành vi đó có dẫn đến tác hại thực tế hay không".

Gánh nặng danh tiếng và pháp luật

Trong suốt phần Yếu tố rủi ro của bản S-1, Anthropic chủ yếu tập trung vào các vấn đề do các mô hình AI hoặc các bước đi kinh doanh của chính họ gây ra. Nhưng công ty cũng thừa nhận rằng các vấn đề với danh tiếng rộng lớn hơn của AI có thể tạo ra mối đe dọa, ngay cả khi Anthropic không làm gì sai.

Sự trỗi dậy của các tác nhân AI phần lớn tự chủ đặt ra câu hỏi về việc ai thực sự là người phải chịu trách nhiệm khi một trong những tác nhân đó gây ra tổn hại trong thế giới thực. Cụ thể, Anthropic lưu ý rằng khách hàng có thể đưa ra các khiếu nại hoặc kiện tụng đối với các hành động của tác nhân "ngay cả khi khách hàng đã định cấu hình, triển khai hoặc giám sát tác nhân đó".