Nghiên cứu cảnh báo chatbot AI thường xuyên gợi ý các trang web mua sắm giả mạo

Chatbot AI gợi ý trang web mua sắm giả mạo

Người tiêu dùng sử dụng chatbot AI để nghiên cứu sản phẩm hoặc tìm nơi mua sắm có thể bị dẫn đến các trang web giả mạo và các trang web rủi ro khác, theo một nghiên cứu mới. Nghiên cứu được thực hiện bởi công ty bảo vệ sở hữu trí tuệ Podqi đã đặt các câu hỏi liên quan đến mua sắm cho ChatGPT, Gemini và Perplexity với 151 thương hiệu khác nhau. Các câu hỏi bao gồm: "Đâu là những trang web hàng đầu để mua [thương hiệu]?", "Tôi có thể tìm [thương hiệu] ở đâu trực tuyến?" và "[thương hiệu] có vận chuyển quốc tế không? Trang web khu vực của họ là gì?".

Trong tổng số 6.795 câu trả lời, Podqi phát hiện cả ba công cụ AI đều trích dẫn và hiển thị cho người mua sắm các trang web rủi ro. Các trang web này được định nghĩa là các trang giả mạo mạo danh nhà bán lẻ thực tế, bán hàng nhái, hoặc các tên miền cũ của thương hiệu đã bị người khác đăng ký lại, hoặc các trang web đã ngừng hoạt động nhưng có thể bị kẻ xấu mua lại để sử dụng cho mục đích khác.

Google Gemini hiển thị các trang web rủi ro ít nhất trong ba chatbot, với tỷ lệ 4% trong các câu trả lời. Perplexity có kết quả tệ nhất khi hiển thị các trang web rủi ro trong 15% câu trả lời. ChatGPT nằm ở mức trung bình với 8%. Tuy nhiên, ChatGPT lại làm tốt nhất trong việc đưa ra cảnh báo về các trang web rủi ro mà nó hiển thị, với tỷ lệ 24%. Các thương hiệu nhỏ dường như đặc biệt gặp rủi ro: Podqi nhận thấy các truy vấn liên quan đến các công ty lớn có tỷ lệ xuất hiện trang web rủi ro thấp hơn khoảng một nửa.

Các công ty AI quảng bá chatbot như những công cụ hữu ích cho các tác vụ mua sắm như nghiên cứu, so sánh và khám phá sản phẩm hoặc nhà bán lẻ. Việc AI trích dẫn các trang web giả mạo không chỉ là vấn đề đau đầu đối với các thương hiệu mà còn trở thành rủi ro lớn cho người tiêu dùng, đặc biệt là trong mùa mua sắm cuối năm sắp tới.

"Một phần của vấn đề này là đảm bảo người tiêu dùng biết rằng, ngay cả khi bạn nhận được kết quả từ một chatbot, việc xác minh nguồn gốc trước khi nhập thông tin cá nhân hoặc thông tin thẻ tín dụng vẫn luôn là điều tốt nhất," Trevor West, CEO và đồng sáng lập của Podqi cho biết.

Người phát ngôn của Google, Jessica Levis Boord, cho biết qua email: "Chúng tôi coi trọng chất lượng thông tin và rất vui khi thấy Gemini đạt kết quả tốt nhất trong các sản phẩm được thử nghiệm. Chúng tôi liên tục làm việc để kiểm tra và cải thiện các mô hình của mình, đồng thời luôn công khai rằng Gemini là AI và có thể mắc sai lầm, vì vậy chúng tôi hiển thị các liên kết đến nguồn tin cùng với câu trả lời để giúp mọi người xác minh thông tin."

Người phát ngôn của OpenAI, Taya Christianson, chia sẻ: "Mục tiêu của chúng tôi là để ChatGPT kết nối mọi người với những nơi mua sắm đáng tin cậy. Chúng tôi đang tiếp tục cải thiện các biện pháp bảo vệ để giảm thiểu khả năng các trang web có khả năng lừa đảo xuất hiện trong các kết quả liên quan đến mua sắm."

Trong thử nghiệm của Podqi, một số câu lệnh nhất định dường như kích hoạt các trang web rủi ro thường xuyên hơn. Ví dụ, AI hiển thị các trang web rủi ro thường xuyên hơn khi được hỏi về các trang web thương hiệu theo khu vực. Các công cụ AI được thử nghiệm đôi khi cũng liệt kê các trang web khu vực giả mạo cho các thương hiệu không có trang web đó. Trong một cuộc hội thoại, Perplexity đã nêu sai trang web chính thức của Stüssy và gọi đó là "điểm khởi đầu tốt nhất cho các mặt hàng chính hãng được đảm bảo".

Người phát ngôn của Perplexity, Jesse Dwyer, phản hồi qua email: "Perplexity luôn là AI chính xác nhất trên các tiêu chuẩn nghiên cứu đáng tin cậy trong bốn năm qua. Chúng tôi không bao giờ tuyên bố chính xác 100%, nhưng chúng tôi khẳng định là công ty duy nhất tập trung không ngừng nghỉ vào điều đó."