Tin công nghệ › Chính sách

Học sinh kiện trường và cảnh sát sau khi túi snack Doritos bị AI nhận nhầm là súng

Bốn học sinh trung học tại Mỹ vừa đệ đơn kiện nhà trường và cảnh sát sau khi hệ thống AI nhận diện vũ khí hiểu nhầm một gói snack Doritos thành súng thật. Sự việc khiến các em bị còng tay, chĩa súng đe dọa dù nhà trường đã hủy báo động giả từ trước đó.

Ars Technica03:19 20/11/20268 phút đọc1 lượt đọc

Ảnh: Ars Technica

"Hãy cẩn thận với túi snack của các em"

Vào tháng 10 năm 2025, bốn học sinh trung học người Mỹ gồm Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. và Keith Winfield III đang cùng nhau chia sẻ gói snack khoai tây vị Cool Ranch Doritos sau giờ tập bóng đá, tận hưởng khoảng thời gian thư giãn khi chờ người nhà đến đón. Đúng vào khoảnh khắc bình yên đó, hệ thống AI phát hiện súng của nhà trường đã đột ngột gắn cờ một em đang cầm gói snack là tay súng tiềm năng.

Chỉ trong vòng hai phút, các quan chức thuộc Trường công lập Hạt Baltimore (BCPS) xem xét đoạn băng camera an ninh liên kết với cảnh báo đã xác định rằng không có mối đe dọa thực tế nào. Họ nhận ra đó chỉ là gói snack Doritos và hủy bỏ cảnh báo vốn thông báo cho cả nhân viên nhà trường lẫn Sở Cảnh sát Hạt Baltimore rằng không cần sự can thiệp nào.

Lẽ ra cảnh báo giả có thể kết thúc tại đó - trước khi xảy ra cuộc đụng độ đầy ám ảnh với cảnh sát tại khuôn viên trường - nhưng sự việc lại diễn ra theo một chiều hướng khác.

Theo đơn kiện do nhóm học sinh hiện tại và cựu học sinh đệ trình, do cả "lỗi công nghệ lẫn lỗi con người", các quan chức nhà trường vẫn gọi cảnh sát đến hiện trường và lực lượng chức năng đã phản ứng bằng vũ lực.

Ít nhất sáu xe tuần tra đã đến nơi với đèn chớp liên tục, một số cảnh sát bước ra với súng trên tay. Đơn kiện cho biết các học sinh đã đứng chết trân và hợp tác trong sự hoang mang, sợ hãi tột độ cho tính mạng của mình.

Đơn kiện viết: "Không ai thông báo cho các em biết mình đang bị nghi ngờ điều gì". "Cảnh sát tách các học sinh ra, ra lệnh quỳ xuống mặt đường bê tông, còng tay và lục soát người cùng tư trang".

Chỉ sau khi cảnh sát không tìm thấy khẩu súng nào, các em mới biết rằng hệ thống AI phát hiện súng của trường mang tên Omnilert chính là thủ phạm gây ra vụ việc. Theo cáo buộc, một cảnh sát có mặt đã lẩm bẩm: "camera AI ngớ ngẩn" và "lũ Omnilert chết tiệt", trong khi một người khác nói với các học sinh rằng "AI không phải là thứ tốt nhất". Cuối cùng, khi thả các em ra, một cảnh sát dường như thừa nhận rằng họ đã đặt các thiếu niên vào tình thế nguy hiểm.

Cảnh sát nọ nói: "Này, cảm ơn vì đã không bỏ chạy, điều đó sẽ rắc rối lắm đấy". Khi bước đi, một người khác còn đùa rằng các nam sinh nên nhớ phải "cẩn thận với túi snack của mình".

Học sinh bị tổn thương tâm lý

Cảnh sát không chỉ nhắm vào nam sinh bị nghi ngờ mang súng mà dường như còn khẳng định với những học sinh khác rằng các em có tội "do liên đới" khi họ thắc mắc lý do bị lục soát.

Đứng đơn kiện nhằm ngăn chặn bất kỳ học sinh nào khác phải đối mặt với tình huống ngàn cân treo sợi tóc do sự tin tưởng mù quáng của giới chức vào AI, các em yêu cầu lệnh cấm BCPS sử dụng Omnilert cho đến khi họ thiết lập được các quy trình hiệu quả nhằm ngăn chặn cảnh sát phản ứng với các cảnh báo giả.

Đơn kiện cáo buộc quyền hiến pháp của học sinh đã bị xâm phạm khi các em bị lục soát và giam giữ trái pháp luật.

Damon Hewitt, Chủ tịch kiêm Giám đốc điều hành Ủy ban Luật sư vì Quyền Dân sự Theo Luật pháp - một tổ chức phi lợi nhuận độc lập đại diện cho các học sinh trong vụ kiện - cho biết "việc quá phụ thuộc vào công nghệ trí tuệ nhân tạo kết hợp với sự yếu kém trong giao tiếp và phối hợp giữa các quan chức chủ chốt tạo ra một hỗn hợp độc hại".

Đơn kiện lưu ý rằng BCPS là một trong những đơn vị áp dụng Omnilert sớm nhất, và các quan chức từng ca ngợi đây là "việc triển khai AI nhận diện súng bằng hình ảnh lớn nhất" nhằm bảo vệ học sinh. Tuy nhiên, họ cáo buộc Omnilert đang tiếp thị một sản phẩm lỗi, tự nhận có "tỷ lệ báo động giả gần như bằng không" nhưng lại không thiết lập quy trình kiểm duyệt thủ công đầy đủ vốn là điều kiện tiên quyết cho tuyên bố đó.

Hewitt chia sẻ: "Chúng ta cần phải nhìn nhận lại cách AI đang được sử dụng, đặc biệt là liên quan đến an toàn công cộng và trẻ em. Chúng ta đang chiến đấu để mang lại công lực trong vụ việc này, nhưng nó cũng để lại bài học cho các nhà giáo dục và cảnh sát trên toàn quốc, những người nên suy nghĩ kỹ trước khi đặt số phận con cái chúng ta vào tay AI".

Tất cả các học sinh đều cảm thấy ít an toàn hơn trong khuôn viên trường và ít tin tưởng hơn vào cảnh sát sau sự việc. Các em cũng chịu những nỗi đau thể xác - bao gồm "vết hằn đỏ sâu" trên cổ tay do còng tay - cũng như "sự tổn thương cảm xúc cấp tính và kéo dài, nỗi sợ hãi, sự lo lắng" và "sự sỉ nhục". Hơn nữa, các em cho biết những lời đồn thổi vẫn đeo bám, phao tin sai sự thật rằng có súng và làm tổn hại đến danh dự.

Việc đón con trước cổng trường sẽ không bao giờ như trước nữa. Taki Allen, học sinh bị gắn nhãn nhầm là tay súng, "không còn cảm thấy an toàn khi chờ xe đón hay đứng bên ngoài trường sau giờ học" và "thường xuyên phải trả tiền cho các dịch vụ xe riêng để về nhà nhằm tránh việc phải đứng chờ bạn bè hay người thân". Nhà của Keith Winfield rất gần trường, nhưng mẹ anh, bà Frieda Winfield, cho biết sự lo lắng nghiêm trọng đến mức cậu gọi cho bà "nhiều lần sau khi buổi tập bóng đá kết thúc để xác nhận rằng bà đang trên đường đến đón".

Frieda Winfield đã kêu gọi sự thay đổi sau tương tác lạnh lùng mà con trai Keith phải trải qua.

Frieda Winfield phát biểu: "Cảnh sát nói với con trai tôi rằng chuyện này suýt chút nữa đã trở thành một vấn đề thực sự nghiêm trọng. Không đứa trẻ nào ở Hạt Baltimore phải đối mặt với loại nguy hiểm này khi đang đứng đợi mẹ đón về nhà ngay bên ngoài trường học của mình".

Chuyện gì đã xảy ra?

Đơn kiện của nhóm học sinh nhắm vào Omnilert cùng các sĩ quan Sở Cảnh sát Hạt Baltimore có mặt tại hiện trường. Đơn kiện cũng thách thức Trường công lập Hạt Baltimore và các quan chức nhà trường cá nhân đã không thiết lập các quy trình thích hợp để ngăn chặn việc gọi cảnh sát đối với một cảnh báo đã bị hủy.

Trong một cuộc điều tra sau đó, Văn phòng Tổng thanh tra (OIG) về Giáo dục kết luận rằng hệ thống của Omnilert không có "sự thiên vị". Nhưng OIG thừa nhận rằng quá trình "ủy quyền" mà Trường Trung học Kenwood thiết lập đã không ngăn được hiệu trưởng Kate Smith nhìn thấy cảnh báo, bỏ sót việc nó đã bị hủy và nhắn tin cho một sĩ quan an ninh trường học để triển khai lực lượng cảnh sát 15 phút sau đó - trong khi chính bà cũng thừa nhận trong đoạn tin nhắn rằng vật thể trong cảnh báo đó "có lẽ không phải" là súng. Báo cáo của OIG chỉ ra rằng Hiệu trưởng Smith dường như chưa từng được đào tạo về hệ thống Omnilert.

OIG đồng tình với các học sinh rằng mọi thứ cần phải thay đổi. Ngay sau sự cố, một đường dẫn đào tạo nội bộ về Omnilert đã được chia sẻ với nhân viên BCPS, và OIG khuyến nghị các trường nên tổ chức các buổi đào tạo nửa năm một lần trong thời gian tới.

họ cũng khuyến nghị Bộ phận An toàn Trường học BCPS "xem xét lại quy trình" và giảm số lượng cá nhân nhận cảnh báo súng trong khuôn viên trường. Điều này có thể giúp đảm bảo rằng "các quy tắc thông báo nội bộ được tuân thủ" và cảnh sát "được thông báo đầy đủ về mối đe dọa đã được xác minh", theo OIG.

Nếu không có sự thay đổi, OIG thừa nhận rằng "việc mất kiểm soát thông báo cảnh báo có thể đặt không chỉ nhân viên và học sinh BCPS vào thế rủi ro mà còn đẩy lực lượng thực thi pháp luật phản ứng vào một tình huống có thể dẫn đến thảm kịch".

Một thay đổi khác đưa ra giải pháp kỹ thuật có lẽ đã ngăn chặn được sự kiện bi thảm này. OIG khuyến nghị các quan chức nhà trường chuyển sang sử dụng ứng dụng Omnilert. Do Hiệu trưởng Smith mở cảnh báo trong cửa sổ tin nhắn văn bản trên điện thoại của mình, họ gợi ý rằng bà có thể đã dễ dàng bỏ qua tin nhắn văn bản hủy bỏ nếu bản năng đầu tiên của bà là phóng to hình ảnh hoặc xem lại đoạn phim camera.

Những khuyến nghị này vẫn chưa đủ đối với các học sinh hiện tại và cựu học sinh đứng đơn kiện, trong đó có một em vẫn đang đi học và khẳng định vị hiệu trưởng chưa từng xin lỗi mà thay vào đó lại đùa cợt về các sự cố bằng biểu tượng cảm xúc cười ra nước mắt trong tin nhắn với các quan chức nhà trường khác.

Đơn kiện cáo buộc rằng Hiệu trưởng Smith đáng lẽ phải biết rằng hơn "99% cảnh báo của OGD tại các Trường công lập Hạt Baltimore là báo động giả không cần cảnh sát can thiệp", theo báo cáo của OIG, và bà nên đặt sự an toàn của học sinh lên hàng đầu để xác minh mối đe dọa trước khi gọi cảnh sát.

Đơn kiện khẳng định: "Những thất bại của BCPS cấu thành sự thờ ơ có chủ ý đối với các quyền hiến pháp của học sinh mình".

Các học sinh đã yêu cầu tòa án ban hành lệnh cấm sử dụng Omnilert cho đến khi nhân viên BCPS và cảnh sát được đào tạo đầy đủ. Trong đơn kiện, họ cáo buộc rằng không có sĩ quan nào tại hiện trường xem xét đoạn phim camera trước khi phản ứng.

Bài gốc (tiếng Anh): Traumatized teens sue school, cops after Doritos bag triggers AI gun alert
Nguồn: Ars Technica · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.
FacebookTelegramX← Tin khác