Google đối mặt làn sóng biểu tình và kiện tụng vì ép học sinh dùng AI Gemini

CHICAGO—Các gia đình đã tham gia biểu tình tại bảy thành phố trên toàn quốc vào thứ Tư, phản đối điều mà họ coi là nỗ lực của Google nhằm đưa các mô hình AI vào trường học, biến học sinh ở mọi lứa tuổi thành những người thử nghiệm Gemini và khiến các em phụ thuộc vào AI.

Sự phản đối này diễn ra sau tuyên bố của Google vào tuần trước, xác nhận rằng học sinh sẽ không có cách nào sử dụng Google Search mà không có AI. Mặc dù Google tuyên bố họ đang mang lại cho các trường học "nhiều lựa chọn hơn, không phải ít hơn"—bằng cách tắt Tìm kiếm, Gemini và Gemini Notebook theo mặc định—họ lại không cung cấp tùy chọn cho phép tìm kiếm mà không có AI. Đối với học sinh, cách duy nhất để tránh tương tác với AI là phải nhớ thêm "-ai" vào mọi truy vấn, điều khiến các bậc phụ huynh lo lắng.

Tại Chicago, nhiều gia đình đã đến biểu tình chống lại Google, bất chấp thời tiết lạnh giá và có mưa. Vẫy các biểu ngữ, hàng chục người biểu tình đã tiến đến văn phòng trung tâm của Google khi các nhân viên dường như đang chuẩn bị ra về trong ngày, hô vang các khẩu hiệu như "Hey Google, cố gắng làm gì đấy, chúng tôi không muốn Gemini của các bạn" và "Này Google, hãy để con cái chúng tôi yên!"

Được kêu gọi hành động bởi một nhóm vận động cơ sở phi lợi nhuận, Illinois Families for Public Schools (ILFPS), một số phụ huynh và học sinh trước đó đã giành chiến thắng trong một cuộc chiến pháp lý lớn về AI. Vào tháng 8, nhóm này đã gây áp lực buộc Chicago Public Schools (CPS) phải rút khỏi một chương trình thí điểm Gemini vốn sẽ áp dụng cho tất cả học sinh trung học phổ thông trên toàn học区 mà không tham khảo ý kiến phụ huynh. Và hiện tại, ILFPS đang yêu cầu tạm dừng AI cho đến khi các rủi ro đối với học sinh được hiểu rõ hơn và CPS có thể soạn thảo chính sách bảo vệ học sinh khỏi những trở ngại tiềm tàng trong học tập hoặc những kết quả tồi tệ hơn từ việc sử dụng bot AI của Google. Nếu nhóm này giành chiến thắng, họ sẽ gia nhập các thành phố như Los Angeles và New York trong việc cẩn trọng cấm AI trong trường học.

Vụ kiện: Gemini là "huấn luyện viên tự tử" của học sinh

Đáng báo động nhất đối với các bậc phụ huynh, Google hiện đang phải đối mặt với một vụ kiện từ một học sinh 13 tuổi ở Durham, Bắc Carolina có tên là "Emma Doe". Như Emma đã cáo buộc, em từng là một học sinh vui vẻ, hòa đồng, đạt điểm A đều đặn khi bắt đầu sử dụng Gemini trên chiếc Chromebook do nhà trường cấp. Cha mẹ của Emma không hề hay biết em đang sử dụng Gemini, vì vụ kiện cáo buộc Google đã "cố tình" giấu giếm họ trong khi đẩy Emma vào cái gọi là "loạn thần do AI". Theo thời gian, những tương tác liên quan đến trường học thông thường với chatbot đã dẫn đến các cuộc trò chuyện mãnh liệt hơn, và cuối cùng chatbot này bị cáo buộc đã hướng dẫn Emma lên kế hoạch tự sát và tang lễ của chính mình. Nhà trường đã cảnh báo cha mẹ em và ngăn chặn mối nguy hiểm sau khi một hệ thống nội bộ gắn cờ một cuộc trò chuyện có tiêu đề "Tang lễ", nhưng câu chuyện của Emma đã làm dấy lên nỗi sợ hãi của các phụ huynh tham gia biểu tình không chỉ ở Durham mà còn ở Boston; Boulder, Colorado; Chicago; Los Angeles; New York City; và Portland, Oregon.

Vụ kiện của Emma buộc tội Google lợi dụng vị thế thống lĩnh trong công nghệ giáo dục và "lén lút" đưa Gemini lên Chromebook, đồng thời quảng cáo sai sự thật rằng chúng an toàn.

"Là hậu quả trực tiếp từ các lựa chọn của Google, Emma đã bị dụ dỗ bởi các sản phẩm có thiết kế khiếm khuyết của hãng này vào các tương tác chatbot AI sycophantic (tán dương vô điều kiện) liên tục, không được giám sát trên chiếc Chromebook ở trường mà cha mẹ em không hề hay biết. Và, nếu không có một sự tình cờ may mắn, AI của Google rất có thể đã thao túng Emma tự đoạt mạng chính mình," đơn kiện cáo buộc. "Google phải chịu trách nhiệm vì coi mạng sống của trẻ em là thứ có thể bỏ đi để phục vụ cho lợi nhuận của mình."

Google chỉ công khai giải quyết các tác hại trong học tập

Google đã hứa sẽ "tiếp tục tương tác sâu sắc với các nhà giáo dục để đảm bảo chúng tôi cung cấp cho các trường học nhiều lựa chọn hơn, nhiều quyền kiểm soát hơn và Tìm kiếm được cải thiện để học tập." Tuy nhiên, các tuyên bố của Google cho đến nay nhằm giải quyết mối关 tâm của phụ huynh chỉ tập trung độc quyền vào những tác hại đã được ghi nhận đối với việc học. Về mặt đó, Google tuyên bố rằng họ đang giải quyết vấn đề AI làm xói mòn các kỹ năng tư duy phản biện của học sinh bằng cách khởi động một chương trình thí điểm khác cho học sinh. Trong chương trình thí điểm này, học sinh sử dụng Chế độ AI và Tóm tắt AI sẽ được cung cấp "hướng dẫn học tập từng bước qua các vấn đề, để học sinh không nhận được câu trả lời nhanh cho bài tập về nhà," Google cho biết.

Cassie Creswell, giám đốc điều hành của ILFPS, chia sẻ với Ars rằng cô đã là một nhà vận động theo dõi các vấn đề công nghệ giáo dục trong hơn một thập kỷ. Và ngay cả cô cũng bị bất ngờ trước các bước đi về AI của Google.

"Tôi biết về Tóm tắt AI khi bạn tìm kiếm, thứ đi kèm với hàng loạt vấn đề, nhưng tôi không biết rằng bạn thực sự có một giao diện nơi bạn có thể tương tác với Gemini theo kiểu chatbot trên Chromebook của mọi người vẫn đang ở trong các trường công lập Chicago," Creswell nói. "Và điều đó thật đáng lo ngại."

Cô thừa nhận rằng trẻ em gặp AI trên điện thoại của chúng và chia sẻ rằng con gái cô nói bạn bè của chúng thích sử dụng ChatGPT hơn Gemini. Nhưng cô cho biết thực tế là một số trẻ em sử dụng AI trên thiết bị cá nhân không có nghĩa là các trường học nên khuyến khích việc áp dụng từ khi còn nhỏ khi bộ não của trẻ em vẫn đang phát triển và các rủi ro phần lớn vẫn chưa được biết rõ.

"Có đủ loại điều nguy hiểm trên thế giới, nhưng chúng ta không có học区 của mình đưa nó cho lũ trẻ tận bàn học," Creswell nói.

Không ai biết Google sử dụng dữ liệu học sinh như thế nào

Trong khi đó, các trường học dường như là một phần của vấn đề minh bạch.

Creswell cho biết hiện tại, học区 trường học Chicago "đang nói với chúng tôi rằng lập trường chính thức của họ là trẻ em không có quyền tiếp cận các công cụ AI tạo sinh và chúng tôi không cần chính sách cấp học区 về AI tạo sinh vì họ đã có sách hướng dẫn." Tuy nhiên, cô đã xem xét các hợp đồng của Google với CPS, và chúng cho thấy trẻ em đang tương tác với AI tạo sinh và các mô hình tiên tiến. Sự nhầm lẫn đang diễn ra đã khiến phụ huynh yêu cầu "một chính sách thực sự" mà "hội đồng CPS bỏ phiếu và có sự đóng góp của giáo viên, phụ huynh, học sinh và các chuyên gia không được tài trợ bởi ngành công nghệ."

Creswell nói với Ars rằng phụ huynh đặc biệt tức giận vì Google không minh bạch về cách họ xử lý và sử dụng dữ liệu học sinh. Cô đã nghiên cứu kỹ lưỡng các hợp đồng của Google thông qua các yêu cầu theo Đạo luật Tự do Thông tin và nói với Ars rằng hàng chục thỏa thuận mà cô đã xem xét không cung cấp bất kỳ dấu hiệu nào về cách các đối tác CPS như Google—cũng như Anthropic và OpenAI—đang xử lý dữ liệu học sinh. Mặc dù cô hiểu rằng "đó có lẽ chỉ là một tuyên bố thực tế thành thật" rằng Google đã tích hợp AI không thể tách rời vào Tìm kiếm, nhưng phụ huynh có quyền biết dữ liệu của con cái họ được đưa vào các mô hình của Google như thế nào, cô nói.

"Bất kỳ sự minh bạch nào về những gì đang thực sự xảy ra đối với dữ liệu mà họ thu thập và những gì họ làm với nó, điều đó hoàn toàn thiếu sót," Creswell nói. Và "rất không rõ ràng dữ liệu nào đang được lưu giữ."

Đối với Creswell và các nhà vận động khác, có vẻ như dữ liệu của trẻ em được thu thập bất kể thế nào, vì "ngay cả khi bạn làm '-AI', và bạn không nhận được bản tóm tắt văn bản, dữ liệu tìm kiếm của bạn và những gì được trả về đều nằm bên trong mô hình AI tạo sinh." Mặc dù luật pháp Illinois chỉ cho phép sử dụng thương mại dữ liệu đã được ẩn danh, phụ huynh cho rằng Google nên giải thích rõ ràng các bước họ thực hiện để đảm bảo dữ liệu không thể được kết hợp lại để nhận dạng lại trẻ em.

Phụ huynh: Không đào tạo AI trên dữ liệu của học sinh trường học

Ars đã liên hệ với Google để xem công ty có thể làm rõ liệu cách đọc của Creswell có chính xác hay không hoặc liệu có bất kỳ sự khác biệt có ý nghĩa nào giữa việc thêm "-AI" vào một truy vấn cá nhân so với việc xây dựng một nút sẽ tự động thêm "-AI" vào mọi truy vấn. Google không làm rõ, thay vào đó nhấn mạnh rằng các trường học sẽ kiểm soát xem học sinh có thể truy cập ứng dụng Gemini, Gemini Notebook và Tìm kiếm hay không, với các tùy chọn để tắt từng cái riêng lẻ, nhưng không có tùy chọn nào để sử dụng Tìm kiếm mà không có AI.