Chiến lược đặc biệt của Anthropic để bảo vệ sứ mệnh AI an toàn trước áp lực Phố Wall

Anthropic muốn có tất cả. Với đợt IPO sắp tới, họ muốn khai thác nguồn tài nguyên khổng lồ từ thị trường đại chúng nhưng vẫn khẳng định không muốn thỏa hiệp với sứ mệnh cốt lõi là phát triển AI một cách an toàn vì lợi ích của nhân loại. Tuy nhiên, năng lực mô hình lớn hơn đi kèm với rủi ro lớn hơn, và các cổ đông khao khát lợi nhuận có thể sẽ thiếu kiên nhẫn với các biện pháp an toàn tốn kém làm chậm quá trình đưa sản phẩm ra thị trường.

Sam Altman, CEO của đối thủ lớn nhất từ Anthropic là OpenAI, từng viện dẫn áp lực từ nhà đầu tư là một trong những lý do khiến công ty không theo đuổi việc IPO trong năm nay. Anthropic hy vọng họ có thể chống lại áp lực từ nhà đầu tư bằng một cấu trúc quản trị vô cùng kỳ lạ.

Giáo sư luật Elizabeth Pollman của Đại học Pennsylvania chia sẻ với The Verge rằng Anthropic đã đề xuất lên sàn với một "cấu trúc quản trị độc đáo, phức tạp chưa từng được sử dụng trước đây" và được "thiết kế sáng tạo dành cho công ty do nhà sáng lập dẫn dắt và định hướng bằng sứ mệnh này". Các chuyên gia cho biết cấu trúc này sẽ mang lại cho Anthropic sự tự do theo đuổi lợi nhuận mà không để cổ đông ép họ đi đường tắt về an toàn hoặc vội vã tung ra các hệ thống trước khi chúng được thử nghiệm đầy đủ. Tuy nhiên, ngay cả những biện pháp bảo vệ pháp lý mạnh mẽ nhất cũng chỉ có giới hạn, và không có cấu trúc doanh nghiệp nào, dù được thiết kế tốt đến đâu, có thể cách ly hoàn toàn một công ty đại chúng khỏi các yêu cầu của thị trường.

Trước hết, Anthropic là một công ty ích lợi công cộng (public benefit corporation). Nói một cách đơn giản, họ có nghĩa vụ pháp lý phải tập trung vào nhiều thứ hơn là chỉ tối đa hóa lợi nhuận cho cổ đông, cân bằng giữa các mục tiêu này với sứ mệnh xã hội đã công bố và lợi ích của các bên liên quan như nhân viên và cộng đồng cụ thể. Patagonia và Kickstarter là những cái tên nổi tiếng hơn trong nhóm này, với sứ mệnh tập trung lần lượt vào bảo tồn môi trường và hỗ trợ cộng đồng sáng tạo.

Một biện pháp bảo vệ quan trọng khác nhằm bảo vệ sứ mệnh của Anthropic bằng cách hạn chế ảnh hưởng của cổ đông đối với một trong những đòn bẩy quyền lực doanh nghiệp lớn nhất: hội đồng quản trị của công ty. Các giám đốc giám sát công ty và bổ nhiệm lãnh đạo, bao gồm cả CEO. Các giám đốc cũng có thể giữ các vai trò điều hành, như trường hợp của Anthropic, với CEO Dario Amodei và chủ tịch Daniela Amodei đều nằm trong hội đồng quản trị.

Cổ đông thường có trọng lượng đáng kể đối với việc ai ngồi trong hội đồng quản trị, tạo cho họ phương tiện để thay thế giám đốc hoặc thúc đẩy thay đổi nếu họ không hài lòng với cách công ty được vận hành. Ví dụ, nếu cổ đông không hài lòng trước những gì họ cho là sự chậm trễ không cần thiết khi đưa sản phẩm ra thị trường do quá trình kiểm tra an toàn tùy chọn, họ có thể bãi nhiệm các giám đốc và thay thế bằng những người phù hợp hơn với lợi ích của họ, chẳng hạn như kiếm tiền và ít thận trọng hơn.

Dưới cấu trúc quản trị đề xuất của Anthropic, các cổ đông phổ thông sẽ không có nhiều tiếng nói về việc ai nằm trong hội đồng quản trị. Thay vào đó, 4 trong số 7 giám đốc của hội đồng sẽ được chọn bởi một cơ quan đặc biệt gọi là quỹ tín thác lợi ích dài hạn, theo Jens Dammann, giáo sư luật kinh doanh và thương mại tại Trường Luật Đại học Texas. Đây là một thiết lập vô cùng bất thường đối với một công ty công nghệ lớn.

Quỹ tín thác này được tạo thành từ "năm ủy viên biểu quyết không có lợi ích tài chính" với chuyên môn về "an toàn AI, an ninh quốc gia, chính sách công và doanh nghiệp xã hội". Thông qua một loại cổ phiếu đặc biệt gọi là cổ phiếu Class T, các ủy viên có thể bổ nhiệm hoặc bãi nhiệm giám đốc nhằm theo đuổi mục đích đã nêu của họ: đảm bảo "rằng Anthropic cân bằng một cách có trách nhiệm lợi ích tài chính của cổ đông với lợi ích của những người bị ảnh hưởng bởi hành vi của Anthropic và mục đích lợi ích công cộng của chúng tôi". Quỹ tín thác được thiết kế để hoạt động độc lập với áp lực thương mại của công ty, cho phép nó, về mặt lý thuyết, đặt sứ mệnh của Anthropic lên hàng đầu.

Các cổ đông phổ thông về mặt kỹ thuật vẫn có tiếng nói trong ba ghế còn lại của hội đồng quản trị. Tuy nhiên, Anthropic đã tạo ra một biện pháp bảo vệ khác giữ quyền lực chắc chắn trong tay các nhà sáng lập của mình, gọi là "Founder LLC", sẽ kiểm soát 50,1% quyền biểu quyết trong các vấn đề của cổ đông. Với việc nhiều cuộc bỏ phiếu của cổ đông được quyết định bởi đa số phiếu đơn giản, Founder LLC cơ bản trao cho các nhà sáng lập Anthropic khả năng chặn hoặc ép thông qua các quyết định, bất kể các cổ đông khác bỏ phiếu ra sao. Điều này có nghĩa là họ sẽ thực sự chọn ra ba giám đốc còn lại, giáo sư Dorothy Lund của Trường Luật Columbia nói với The Verge.

Bản cáo bạch cho biết Founder LLC "ban đầu" sẽ gồm bảy nhà sáng lập của Anthropic: Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish và Christopher Olah. "Bảy người đồng sáng lập của chúng tôi ban đầu sẽ là những thành viên duy nhất." Đáng chú ý là sự vắng mặt của một người đồng sáng lập khác, Ben Mann, người đồng lãnh đạo bộ phận Anthropic Labs thử nghiệm của công ty, theo báo cáo của The San Francisco Standard.

Nhìn chung, các thỏa thuận này sẽ mang lại cho các nhà sáng lập Anthropic và quỹ tín thác "quyền lực to lớn" đối với định hướng của công ty, bảo vệ công ty khỏi nhiều "áp lực liên quan đến việc trở thành một công ty đại chúng", Dammann nói với The Verge. "Với cấu trúc quản trị bất thường mà Anthropic đã chọn, tôi không thấy việc lên sàn, tự nó, có thể làm suy yếu khả năng ưu tiên an toàn hơn lợi ích thương mại của họ như thế nào."

Ann Lipton, giáo sư tại Trường Luật Đại học Colorado, đồng tình khi chia sẻ với The Verge rằng, xét về mặt pháp lý, "Anthropic hoàn toàn được cách ly khỏi các áp lực tìm kiếm lợi nhuận, theo nghĩa là các cổ đông phổ thông không có khả năng chọn hội đồng quản trị hoặc đưa ra quyết định kinh doanh". Nhưng Lipton lưu ý rằng bản thân các nhà sáng lập có lợi ích tài chính trong công ty, điều này có thể ảnh hưởng đến quyết định của họ.

Và có một sự khác biệt lớn giữa các biện pháp bảo vệ pháp lý và quyền miễn dịch trước áp lực thị trường. Anthropic, giống như tất cả các công ty AI, "rất cần vốn", Lipton nói. "Tôi không chắc liệu cấu trúc quản trị nào có thể bảo vệ chống lại thực tế thị trường rằng trừ khi Anthropic tận dụng các cơ hội kiếm tiền với tốc độ nhanh hơn đối thủ cạnh tranh, họ sẽ không thể tài trợ cho hoạt động của mình". Lund cũng bày tỏ những lo ngại tương tự. Anthropic sẽ vẫn "cần duy trì thiện cảm với các nhà đầu tư của họ", bà nói thêm rằng "áp lực cạnh tranh và nhu cầu vốn có thể xói mòn các cam kết an toàn theo thời gian". Anthropic không trả lời yêu cầu bình luận của The Verge về việc liệu họ có cảm thấy công ty thực sự có thể chống lại áp lực của nhà đầu tư nhằm tăng tốc AI ồ ạt phải trả giá bằng sự an toàn hay không.

Một điểm yếu tiềm ẩn khác xuất hiện nếu các nhà sáng lập của Anthropic bắt đầu rời đi. Trong bản cáo bạch, công ty cho biết sự thành công của họ "phụ thuộc rất lớn vào sự phục vụ liên tục" của đội ngũ cấp cao, đặc biệt là các nhà sáng lập. Dario và Daniela được chỉ ra là đặc biệt "quan trọng" trong việc thúc đẩy nghiên cứu và sứ mệnh của công ty. Nhưng ngoài việc mất đi sự lãnh đạo, việc họ ra đi có thể châm ngòi cho những thay đổi đáng kể trong cách cấu trúc công ty, có khả năng tước bỏ một số biện pháp bảo vệ ngăn chặn Anthropic theo đuổi lợi nhuận thay vì an toàn.

Dưới cấu trúc đề xuất, Founder LLC sẽ "hoạt động đến hoàng hôn" (hết hiệu lực) nếu phần lớn các thành viên của họ rời đi hoặc nhóm chọn giải thể. Một khi điều đó xảy ra, các cổ đông phổ thông có thể có được quyền làm suy yếu các biện pháp bảo vệ của quỹ tín thác, ngay cả khi trái với mong muốn của các ủy viên, và không có sự hỗ trợ của các nhà sáng lập hoặc nhân viên, những người nắm giữ các loại cổ phiếu khác nhau, Dammann nói với The Verge. Các phương thức khác để lật đổ quỹ tín thác cũng tồn tại, ông giải thích, bao gồm hành động phối hợp bởi các cổ đông đại chúng, cổ đông nhân viên và nhà sáng lập.

Hiện tại, có vẻ như Anthropic có thể vừa có cả hai thứ. Nhưng các biện pháp bảo vệ được thiết kế để duy trì cam kết của họ đối với an toàn AI còn lâu mới hoàn hảo, và phần lớn phụ thuộc vào áp lực thị trường, việc các nhà sáng lập có gắn bó hay không và định hướng của quỹ tín thác. Dammann cho biết ông nhìn thấy một "tình thế tiến thối lưỡng nan cơ bản không thể được giải quyết một cách hoàn toàn thỏa đáng" giữa sứ mệnh của Anthropic và các yêu cầu của nhà đầu tư. Chừng nào mọi thứ còn suôn sẻ, căng thẳng này có thể vẫn trong tầm kiểm soát. "Các nhà đầu tư có thể không bận tâm đến việc họ thiếu tiếng nói chừng nào mọi thứ còn tốt đẹp," Dammann nói. "Nhưng nếu mọi thứ trở nên tồi tệ, họ có thể trở nên khá thất vọng."