Đàn AI agent thả vào Minecraft: Xây nền văn minh thất bại vì... thói quan liêu

Các nhà nghiên cứu AI tại ycombinator và Olam Labs gần đây đã thử nghiệm các đàn AI agent trong các kịch bản chơi game. Minecraft và các chế độ chơi khác nhau của tựa game này là các môi trường giả lập nơi hàng trăm agent được thả vào để làm cùng nhau hoặc đối đầu. Ý tưởng dường như là sự hợp tác và xung đột trong trò chơi sẽ cung cấp cái nhìn sâu sắc về các trường hợp thu hút sự chú ý ngoài đời thực có sự tham gia của AI agent.

Nghiên cứu này có thể giúp chúng ta thấy điều gì đã xảy ra, tốt và xấu, trong các trường hợp đàn AI gần đây, và từ đó các nhà phát triển công nghệ này có thể cải thiện nó. Bài viết trên blog đề cập đến hai trường hợp tương phản, đó là các đàn một nghìn agent “gần đây đã xóa sổ hàng trăm bài toán mở,” và sự cố “cực kỳ nguy hiểm” giữa OpenAI và Hugging Face. Nghiên cứu này được xây dựng dựa trên công việc và framework trước đó, cụ thể là các kho lưu trữ như Mindcraft và các công cụ kịch bản trong Mineflayer.

Động lực đa agent trong Minecraft

Kế hoạch thử nghiệm đàn AI đầu tiên là một kế hoạch hợp tác đơn giản. Trong giai đoạn thử nghiệm này, các nhà nghiên cứu đã giao nhiệm vụ cho 50 agent xây dựng một nền văn minh thịnh vượng trong ba giờ. Có vẻ như họ đã thử nghiệm 50 agent GPT-6.1 Sol ở đây, chứ không có agent Claude nào.

Có lẽ cái nhìn sâu sắc thú vị nhất từ thử nghiệm 'Civ50' này là thuộc địa gồm 50 thành viên chưa bao giờ thực sự thịnh vượng. Sau đêm đầu tiên chứng kiến thây ma tiêu diệt một số lượng lớn agent (nhưng với hình phạt nhỏ), người ta lưu ý rằng “nhiều nhiệm vụ ban đầu đầy tham vọng đã bị bỏ dở.”

Từ đó trở đi, những người thực dân cẩn慎 sống sót, và có xu hướng hướng tới sự quan liêu. Ví dụ, “bốn agent đã mất 11 phút để bổ nhiệm một ‘người điều hành phân bón duy nhất’ cho một mảnh bột xương duy nhất trên một khối lúa mì duy nhất.” Các nhà nghiên cứu cho biết hành vi đàn AI agent này “cảm thấy tương tự như các mô hình thấy được khi làm việc với các agent mã hóa.”

Tiếp theo, các nhà nghiên cứu quyết định đưa các đàn AI agent vào xung đột. Đầu tiên, họ thử nghiệm chúng trong Bed Wars, một loại trò chơi PvP đồng đội chiếm căn cứ trong khi bảo vệ căn cứ của bạn. Thiết lập là 10 agent GPT-6.1 Sol đấu với 10 agent Claude Opus 5.5.

Các nhà nghiên cứu lưu ý: “Các agent GPT đã đưa ra các chiến lược hung hăng và phức tạp hơn nhiều.” Claude mang tính phòng thủ nhiều hơn. Thật thú vị khi quan sát sự tương phản trong cách các đội xử lý các vấn đề. “Một lỗi công cụ đã ngăn chặn việc phá khối. GPT đã chẩn đoán nó và chia sẻ các giải pháp thay thế; một số Claude kết luận việc phá vỡ là không thể.”

Cuối cùng, các agent đã được thử nghiệm trong Mindustry, một loại trò chơi chiến đấu RTS nhẹ với chế độ thủ thành trong Minecraft. “Các GPT đã giành chiến thắng 6-1 trước các Claude trong 7 trận đấu,” đây là một kết quả tuyệt vời cho các agent do OpenAI tạo ra. Các nhà nghiên cứu kết luận rằng các GPT hoạt động giống như một bầy đàn hơn, trong khi các Claude có một lãnh đạo duy nhất nhưng có quy trình ra quyết định theo phong cách dân chủ. Trong Mindustry, mô hình trước là nền tảng cho chiến lược giành chiến thắng nhất quán hơn.

Các đàn này được mã nguồn mở để bạn có thể tự chạy nếu bạn quan tâm đến việc tinh chỉnh và thử nghiệm. Bài đăng trên blog nguồn kết thúc bằng một số câu hỏi mở mà bạn có thể kiểm tra trực tiếp, cung cấp một số hướng cho việc thăm dò điều tra. Ví dụ, người ta đề xuất rằng việc so sánh các kết hợp mô hình khác nhau và các kích thước đàn agent khác nhau trong Minecraft có thể mang lại những kết luận đáng giá.