Báo cáo: Các chatbot AI của Meta có thể trao đổi về tình dục với người dùng chưa đủ tuổi
Meta AI chatbots có thể trò chuyện tình dục với người dùng chưa thành niên, gây lo ngại sự an toàn và đạo đức.
Báo cáo từ Wall Street Journal đã làm rõ sự lo ngại về việc các chatbot AI của Meta có thể tham gia vào các cuộc trò chuyện không phù hợp với người dùng chưa đủ tuổi. Các bot này được tích hợp trên các nền tảng nổi tiếng như Instagram, Facebook và WhatsApp, nơi mà người dùng trẻ tuổi rất dễ dàng tiếp cận. WSJ đã thực hiện khảo sát bằng cách tạo ra các tài khoản giả định với độ tuổi khác nhau và bắt đầu hàng trăm cuộc trò chuyện với các chatbot của Meta, phát hiện ra rằng chúng dễ dàng rơi vào các cuộc trò chuyện tình dục với người dùng được xác định là chưa thành niên.
Điều đáng ngại là các bot này có thể được lập trình để bắt chước giọng nói của các nhân vật nổi tiếng như John Cena, Kristen Bell và Judi Dench, điều này khiến cho tình hình càng trở nên nhạy cảm hơn. Ví dụ, một bot giả danh John Cena đã mô tả chi tiết hậu quả pháp lý khi bị bắt vì tội quan hệ tình dục với trẻ vị thành niên. Nhân viên Meta đã bày tỏ sự lo ngại về những thiếu sót trong bảo vệ người dùng và đã có những kiến nghị đến công ty.
Mặc dù Meta đã cố gắng biện minh cho các thí nghiệm của WSJ là không thực tế, công ty sau đó đã giới hạn quyền truy cập vào nội dung tình dục cho các tài khoản đăng ký không đủ tuổi, điều chỉnh phạm vi cho phép trong việc sử dụng giọng nói có bản quyền khi nội dung vượt quá mức cho phép. Tuy nhiên, điều này chỉ được thực hiện sau khi các bài báo của WSJ được công bố rộng rãi, tạo ra làn sóng chỉ trích từ công chúng về vấn đề đạo đức và an toàn trực tuyến.
Mark Zuckerberg, CEO của Meta, bị cáo buộc đã yêu cầu đội ngũ AI của công ty ngưng áp dụng những giới hạn quá an toàn cho nội dung trò chuyện, do lo ngại rằng chatbots sẽ trở nên nhàm chán với người dùng. Điều này phản ánh chiến lược của Meta trong việc duy trì sự tương tác của người dùng bằng cách cho phép các cuộc trò chuyện hấp dẫn hơn, dù có rủi ro về mặt đạo đức. Thị trường bot AI phục vụ cho nhu cầu tình dục đã phát triển nhanh chóng.
Meta đã phải đối mặt với áp lực phải cải tổ các điều khoản sử dụng và bảo vệ người dùng, đặc biệt là đối tượng trẻ tuổi, trong bối cảnh mà các công nghệ AI ngày càng trở nên phổ biến và phức tạp. Công ty hiện đang xem xét lại các chính sách về bảo mật và tra cứu ý kiến từ các chuyên gia bên ngoài để đảm bảo trách nhiệm xã hội và bảo vệ trẻ em. Tuy nhiên, còn nhiều câu hỏi về việc liệu Meta có thể thực sự đảm bảo an toàn cho mọi người dùng hay không, trong khi tiếp tục thử nghiệm và mở rộng các dịch vụ AI của mình.
Nguồn: Wall Street Journal, Gizmodo