Tin công nghệ › Di động

Apple, Google và Meta đối mặt áp lực từ Thượng viện Mỹ về ứng dụng lột đồ bằng AI

Ba thượng nghị sĩ Mỹ vừa gửi thư chỉ trích Apple, Google và Meta vì để lọt các ứng dụng tạo ảnh khỏa thân giả mạo bằng AI. Các nhà lập pháp cáo buộc những hãng này buông lỏng kiểm duyệt và thậm chí kiếm lời từ các nội dung độc hại.

9to5Mac03:05 19/11/20267 phút đọc

Ảnh: 9to5Mac

The Guardian đưa tin ba thượng nghị sĩ Mỹ đã gửi thư tới CEO của Apple, Google và Meta, yêu cầu giải thích về việc họ không ngăn chặn được quyền truy cập vào các ứng dụng 'lột đồ' (nudify) hỗ trợ bởi AI. Dưới đây là các chi tiết.

Đôi nét bối cảnh

Tháng trước, Apple đã cập nhật quy định trên App Store nhằm trấn áp các ứng dụng cho phép người dùng tạo ra hình ảnh khỏa thân không có sự đồng thuận.

Theo các quy định mới, những ứng dụng cho phép người dùng tạo nội dung bằng AI phải đi kèm các biện pháp bảo vệ chống lạm dụng, bao gồm công cụ lọc tài liệu phản cảm, báo cáo nội dung xúc phạm và chặn người dùng lạm dụng.

Apple cũng cảnh báo rằng các ứng dụng chủ yếu dùng cho nội dung khiêu dâm hoặc khách quan hóa người thật có thể bị xóa khỏi App Store mà không cần báo trước.

Dù mang thiện chí rõ ràng, những thay đổi của Apple diễn ra giữa lúc ngày càng có nhiều báo cáo về các ứng dụng nudify chạy bằng AI, vốn cho phép người dùng dễ dàng tạo ra ảnh thân mật không có sự đồng thuận.

Hai tháng trước những thay đổi này, Apple đã gỡ bỏ một ứng dụng cho phép tạo deepfake khiêu dâm về người thật sau khi WIRED liên hệ để lấy ý kiến, việc này diễn ra một tháng sau khi Luật sư Thành phố San Francisco David Chiu yêu cầu Apple và Google gỡ bỏ một số ứng dụng nudify khỏi kho ứng dụng của họ.

Apple cũng gỡ bỏ một số ứng dụng sau các cuộc điều tra của Tech Transparency Project (TTP), nơi công bố các báo cáo vào tháng 1 và tháng 4 tiết lộ rằng các ứng dụng như vậy xuất hiện phổ biến trên App Store, đôi khi còn hiển thị trong kết quả tìm kiếm được tài trợ.

Trong suốt các cuộc điều tra này, Apple vẫn giữ quan điểm rằng các ứng dụng nudify từ lâu đã bị cấm theo Nguyên tắc Đánh giá Ứng dụng của họ, và hãng chủ động từ chối cũng như gỡ bỏ các ứng dụng vi phạm chính sách của mình, bao gồm cả những ứng dụng bị gắn cờ thông qua báo cáo của người dùng.

Tất nhiên, Apple không phải là đơn vị duy nhất đối mặt với thử thách này khi Google cũng vấp phải chỉ trích tương tự về sự xuất hiện của chúng trên Play Store, còn Meta chịu sự soi xét vì cho phép nhà quảng cáo chạy quảng cáo cho các ứng dụng này trên Facebook và Instagram, như báo cáo của WIRED đã nêu bật ở trên.

Điều này đưa chúng ta đến bản báo cáo hôm nay từ The Guardian.

Thượng nghị sĩ Dân chủ đòi câu trả lời

Theo bài báo độc quyền của The Guardian, ba thượng nghị sĩ Dân chủ đã gửi thư tới các CEO công nghệ nói rằng các biện pháp bảo vệ chống lại các ứng dụng lột đồ trên nền tảng của họ là chưa đủ.

Trích từ bản báo cáo:

Ba Thượng nghị sĩ Mỹ cho biết Apple và Google đang thất bại trong việc phát hiện và gỡ bỏ hiệu quả các ứng dụng có thể dùng để tạo ra hình ảnh khỏa thân hoặc khiêu dâm không có sự đồng thuận. Họ cũng cho biết Meta tiếp tục kiếm lời từ quảng cáo cho các ứng dụng gọi là lột đồ này, thứ đã làm nạn nhân cho phụ nữ và trẻ em gái trên toàn thế giới.

Các thượng nghị sĩ gồm Ron Wyden (bang Oregon), Ed Markey (bang Massachusetts) và Ben Luján (bang New Mexico) cáo buộc rằng ngoài việc không gỡ bỏ các ứng dụng này, các công ty thậm chí còn đang kiếm lời từ việc phân phối và quảng bá chúng.

Bình luận về bức thư, cả Google và Meta đều cho biết họ cấm các ứng dụng hoặc hoạt động quảng bá như vậy, đồng thời nỗ lực phát hiện và gỡ bỏ các vi phạm khỏi nền tảng của mình, phản ánh rộng rãi những gì Apple từng nhiều lần tuyên bố khi được liên hệ để bình luận về các vấn đề tương tự trước đây.

Tuy nhiên, văn phòng của Thượng nghị sĩ Wyden lập luận rằng việc đơn thuần tái khẳng định, hoặc trong trường hợp của Apple là cập nhật các chính sách này, sẽ chẳng có ý nghĩa gì nếu các công ty tiếp tục chật vật trong khâu thực thi.

Trích từ bài báo của The Guardian:

Keith Chu, cố vấn truyền thông trưởng kiêm phó giám đốc chính sách của Wyden, cho biết việc làm rõ chính sách không giống với việc thi hành chúng. Mặc dù các công ty tái khẳng định lệnh cấm đối với các ứng dụng này, chúng vẫn tiếp tục sinh sôi nảy nở trên các kho ứng dụng của Apple và Google hoặc được quảng cáo trên các nền tảng của Meta, ông bổ sung.

Trong cuộc điều tra mới nhất được công bố vào tháng trước, TTP đã tìm thấy 135 ứng dụng có khả năng tạo ra hình ảnh khỏa thân hoặc khiêu dâm trên App Store và Play Store, sử dụng các tài khoản được đăng ký bởi trẻ em trai 13 tuổi.

Thêm vào đó, các nhà nghiên cứu phát hiện ra rằng ngay cả các tài khoản được cấu hình với tính năng kiểm soát của phụ huynh vẫn có thể tải xuống các ứng dụng này mà không cần sự phê duyệt của cha mẹ.

Mặc dù Apple và Google đã gỡ bỏ các ứng dụng được xác định trong cuộc điều tra, The Guardian lưu ý rằng các ứng dụng này vẫn tiếp tục hoạt động trên những thiết bị mà chúng đã được cài đặt trước đó.

Giờ đây, Thượng nghị sĩ Wyden cảnh báo rằng Quốc hội có thể cần phải can thiệp nếu các công ty không làm tốt hơn trong việc trấn áp các ứng dụng này.

Phản hồi của Apple

Trong một tuyên bố gửi tới 9to5Mac, Apple cho biết:

Chúng tôi thiết kế App Store để trở thành một nơi an toàn và đáng tin cậy cho người dùng. Một số ứng dụng trong báo cáo của TTP là các công cụ chỉnh sửa ảnh và video chủ lực với tính năng hợp pháp, được sử dụng rộng rãi, và không có khả năng lột đồ hay deepfake. Chúng tôi cấm các ứng dụng nudify trên App Store và xóa bỏ những nhà phát triển bổ sung các tính năng tương tự sau quá trình Đánh giá Ứng dụng – một chiến thuật độc hại được gọi là đánh tráo khái niệm (bait-and-switch). Chúng tôi đã gỡ bỏ trước đó 28 ứng dụng được nhắc đến trong báo cáo này trước khi nó được chia sẻ với chúng tôi và đã xử lý các ứng dụng còn lại được phát hiện vi phạm quy tắc của mình. Báo cáo này cũng dựa trên việc thử nghiệm từ phần mềm cũ không phản ánh các tính năng an toàn hiện tại của Apple, bao gồm các biện pháp bảo vệ mở rộng cho thanh thiếu niên và tính năng kiểm soát của phụ huynh trong Thời gian sử dụng (Screen Time) giúp các gia đình có khả năng chặn trẻ em và thanh thiếu niên tải xuống các ứng dụng có độ tuổi vượt quá giới hạn của họ.

Mở rộng về các tính năng an toàn được đề cập trong tuyên bố, Apple lưu ý rằng thanh thiếu niên từ 13 đến 17 tuổi hiện được bật sẵn một số biện pháp bảo vệ theo mặc định, bao gồm các bộ lọc nội dung web, ngay cả khi cha mẹ họ chưa định cấu hình bất kỳ hạn chế nào.

Công ty bổ sung rằng trẻ em dưới 13 tuổi bắt buộc phải sử dụng Tài khoản Trẻ em và báo cáo trên dựa vào hệ thống phân loại độ tuổi 17+ trước đây, vốn đã được thay thế vào năm ngoái bằng một hệ thống chi tiết hơn bao gồm các mức 13+, 16+ và 18+.

Apple cũng lưu ý rằng trong báo cáo của mình, TTP đã tính cả các ứng dụng mô tả người mặc đồ bơi hoặc đồ lót, điều mà công ty cho rằng không cấu thành hành vi lột đồ hoặc bản thân nó không vi phạm nguyên tắc của hãng.

Đối với tính năng kiểm soát của phụ huynh, Apple giải thích rằng mặc dù các ứng dụng vượt quá giới hạn độ tuổi được định cấu hình của trẻ sẽ không xuất hiện trong các phần tuyển chọn của App Store, chúng vẫn có thể được tìm thấy thông qua tìm kiếm, cho phép trẻ em gửi yêu cầu xin phép tải xuống thông qua tính năng Yêu cầu mua (Ask to Buy). Nếu không có sự chấp thuận của phụ huynh, việc tải xuống sẽ vẫn bị chặn.

Apple bổ sung rằng Yêu cầu mua dự kiến sẽ phải yêu cầu sự phê duyệt của phụ huynh ngay cả đối với các giao dịch mua thực hiện bằng số dư thẻ quà tặng, bao gồm cả các gói đăng ký. Công ty cho biết nếu một giao dịch mua không kích hoạt yêu cầu phê duyệt, đó sẽ là hành vi bất thường và hãng đang tiếp tục điều tra thêm.

Bài gốc (tiếng Anh): Apple among the companies facing pressure from US senators over ‘nudify’ apps [U: Apple responds]
Nguồn: 9to5Mac · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.
FacebookTelegramX← Tin khác