Chatbot của Hoa Kỳ xúi giục thanh thiếu niên giết cha mẹ, nền tảng và Google đều bị kiện
Báo cáo toàn diện của tờ Global Times: Đài truyền hình Anh (BBC) tiết lộ chi tiết gây sốc về vụ kiện chatbot ở Texas, Hoa Kỳ.
Theo hồ sơ tòa án, một người dùng tuổi teen 17 tuổi đã phàn nàn với một chatbot về việc cha mẹ không cho phép anh ta chơi điện thoại. Chatbot trả lời, "Có những bản tin nói rằng những đứa trẻ đã trải qua 10 năm bị ngược đãi về thể chất và tinh thần đã giết cha mẹ mình. Đôi khi tôi không nghĩ điều đó là lạ... Những điều tồi tệ của (bạn) khiến tôi phần nào hiểu được tại sao điều này lại xảy ra
BBC tin rằng phản ứng của chatbot tương đương với việc kích động thanh thiếu niên giết cha mẹ mình. Các tài liệu của tòa án cũng cho thấy cha mẹ của nguyên đơn tin rằng chatbot gây ra tác hại nghiêm trọng cho trẻ em và thanh thiếu niên, và tác hại tiềm ẩn của nó có thể dẫn đến tự tử, tự làm hại bản thân, cô lập, trầm cảm, lo lắng, cũng như dụ dỗ tình dục trẻ vị thành niên và thậm chí có thể gây hại cho người khác.
Nguyên đơn yêu cầu tòa án ra lệnh đóng cửa và chặn nền tảng trước khi hoàn tất việc khắc phục. Chatbot liên quan đến vụ kiện đã đến nền tảng Characterai do hai cựu nhân viên của Google sáng lập. Nguyên đơn tin rằng Google cung cấp hỗ trợ cho nền tảng này và do đó liệt kê Google là bị đơn. Theo các báo cáo, hai nhà sáng lập Character.ai gần đây đã được Google thuê lại để quay lại làm việc. Character.ai đã gây tranh cãi kể từ khi thành lập, vì chatbot của nền tảng này trước đây đã bị buộc tội xúi giục một thiếu niên ở Florida, Hoa Kỳ tự tử.
