Google Gemini bị đánh giá “rủi ro cao” đối với trẻ em và thanh thiếu niên

Common Sense Media – tổ chức phi lợi nhuận tập trung vào an toàn trẻ em, chuyên cung cấp đánh giá, xếp hạng các phương tiện truyền thông và công nghệ, đã công bố đánh giá rủi ro của mình đối với sản phẩm AI Gemini của Google vào thứ Sáu. Mặc dù, Gemini đã nhắc nhở người dùng trẻ tuổi rằng “nó chỉ là một máy tính, không phải bạn bè” – một yếu tố giúp giảm thiểu nguy cơ tư duy ảo tưởng – đánh giá trên vẫn cho rằng tính năng này chưa đủ.

Các phiên bản “Under 13” và “Teen Experience” của Gemini được cho là mô hình Gemini của người lớn, được thêm một số tính năng bảo vệ nhưng không được xây dựng từ đầu dành cho trẻ em.

Theo đánh giá, Gemini vẫn có thể hiển thị những nội dung không phù hợp như về tình dục, chất kích thích, rượu và cả các lời khuyên về sức khỏe tinh thần không an toàn đối với trẻ em. Kết quả đánh giá cho thấy cả hai phiên bản Gemini “Under 13” và “Teen Experience” đều nhận mức đánh giá “High Risk” (rủi ro cao), dù có thêm bộ lọc an toàn.

Lời chuyên gia: “Hiểu trẻ ở từng giai đoạn, chứ không áp dụng chung”

Robbie Torney – Giám đốc Chương trình AI của Common Sense Media – phát biểu:

“Gemini nắm được những điều cơ bản, nhưng lại trượt ở những chi tiết. Một nền tảng AI dành cho trẻ em cần phải hiểu trẻ đang ở giai đoạn nào, chứ không thể áp dụng chung cho mọi lứa tuổi… AI để an toàn với trẻ em phải được thiết kế theo nhu cầu và giai đoạn phát triển của trẻ, không phải chỉ là phiên bản người lớn đã được chỉnh sửa.”

Google phản hồi ra sao?

Google đã nhấn mạnh rằng họ đã có chính sách và biện pháp bảo vệ riêng cho người dùng dưới 18 tuổi, đồng thời sử dụng phương pháp red-teaming và tham vấn với các chuyên gia bên ngoài để nâng cao an toàn. Tuy nhiên, họ cũng thừa nhận một số phản hồi của Gemini “không như mong đợi” và đã bổ sung thêm biện pháp bảo vệ để khắc phục.

Common Sense Media trước đây đã thực hiện các đánh giá tương tự đối với các công cụ AI khác nhau, bao gồm: OpenAI, Perplexity, Claude, Meta AI, … Kết quả cho thấy Meta AI và Character.AI là “không thể chấp nhận được” — nghĩa là rủi ro là nghiêm trọng, chứ không chỉ cao. Perplexity được coi là rủi ro cao, ChatGPT được dán nhãn “trung bình”, và Claude (dành cho người dùng từ 18 tuổi trở lên) được xác định là có rủi ro tối thiểu.