AI mới kiểm soát trò chuyện của Call of Duty đạt thành công lớn: Giảm 43% tính độc hại

AI ToxMod đã giúp giảm 43% tính độc hại trong trò chuyện bằng giọng nói trong game Call of Duty. Hệ thống này phân tích từ khóa và cảm xúc trong các cuộc hội thoại để phát hiện các hành vi quấy rối và tiện ích độc hại. Mặc dù ToxMod không thể tự động cấm người dùng, nó có thể nhanh chóng phát hiện các vi phạm để chuyển cho các nhà kiểm duyệt người xem xét và xử lý.

Từ khi Activision Blizzard triển khai cải tiến vào tháng 6 năm 2024, số người vi phạm lặp lại trong Call of Duty: Modern Warfare III và Warzone đã giảm 67%. Điều này cho thấy hiệu quả của ToxMod trong việc duy trì môi trường game lành mạnh hơn. Với sự cải tiến này, Activision quyết định mở rộng tính năng này khi Call of Duty: Black Ops 6 ra mắt.

Hiện tại, ToxMod đang được sử dụng để lọc nội dung trò chuyện bằng tiếng Anh, Tây Ban Nha và Bồ Đào Nha, ngoại trừ châu Á. Khi Black Ops 6 phát hành, công ty sẽ bổ sung thêm tiếng Pháp và Đức. Đồng thời, hệ thống lọc nội dung bằng tin nhắn văn bản và tên người dùng cũng được mở rộng từ 14 lên 20 ngôn ngữ.