Chế độ ‘Spicy’ của Grok tạo deepfake NSFW người nổi tiếng nữ (không phải nam)

Grok Imagine là công cụ tạo hình ảnh và video do xAI phát triển, cho phép người dùng tạo nội dung NSFW qua chế độ 'Spicy'. Theo Gizmodo, ứng dụng có thể tạo video hở hang của nhiều phụ nữ nổi tiếng, nhưng không hỗ trợ tương tự đối với nam giới. Chẳng hạn, khi thử tạo hình ảnh của Taylor Swift, ứng dụng dễ dàng tạo ra video khoả thân nửa người, trong khi khi thử với Elon Musk thì chỉ có việc cởi áo sơ mi.

Công cụ của Musk gặp phải nhiều lời chỉ trích liên quan đến việc không có cơ chế kiểm tra độ tuổi rõ ràng khi người dùng tạo hình ảnh qua Grok Imagine. Một số nhà phân tích cho rằng đây là điểm yếu dễ dẫn đến trách nhiệm pháp lý khi xử lý hình ảnh nhạy cảm. Mức phí dịch vụ của SuperGrok là 30 đô la hàng tháng, nhưng người dùng phải nâng cấp lên SuperGrok Heavy với 300 đô la để duy trì sử dụng đầy đủ chức năng sau khi đạt hạn mức tạo hình ảnh.

Trong khi những hình ảnh của nam giới như Mark Zuckerberg, Jeff Bezos, hay Elon Musk chỉ hiển thị họ cởi áo sơ mi, các hình ảnh của phụ nữ trong 'Spicy' mode thường mang tính khiêu gợi hơn nhiều. Điều này dễ dàng dẫn đến các tranh cãi về đạo đức và an toàn mạng. Mặc dù có một số tính năng giảm thiểu như trung gian, nhưng Grok cũng đã tạo video hở hang của nhân vật lịch sử như Martha Washington mà không gặp rào cản.

Các quy định thuộc Take It Down Act được Melania Trump ủng hộ nhằm xóa bỏ các hình ảnh không phù hợp không nhận được sự phản hồi từ Musk. Grok có hiệu quả không đồng đều, đôi khi tạo lỗi về hình dáng người nổi tiếng, gây khó khăn trong việc thuyết phục người dùng về tính chân thực. Điều này có thể giảm rủi ro pháp lý cho Musk và xAI nhưng cũng tạo ra một bộ sản phẩm không ổn định.

Nguồn: Gizmodo, The Verge, xAI, AP News, Wikipedia, Washington Post