OpenAI cấm các tài khoản Trung Quốc sử dụng ChatGPT để chỉnh sửa mã nhằm giám sát mạng xã hội

OpenAI cấm các tài khoản Trung Quốc dùng ChatGPT để chỉnh sửa mã giám sát mạng xã hội.

: OpenAI đã cấm một nhóm người dùng Trung Quốc sử dụng ChatGPT để chỉnh sửa mã giám sát mạng xã hội. Nhóm này đã phát động chiến dịch tên Peer Review để sử dụng ChatGPT trong việc phát hiện những lời kêu gọi biểu tình chống lại vi phạm nhân quyền ở Trung Quốc. Theo Ben Nimmo, đây là lần đầu OpenAI phát hiện một công cụ AI như vậy. Nhóm này còn dùng ChatGPT để viết các bài báo chỉ trích các nhân vật bất đồng chính kiến Trung Quốc và chính phủ Mỹ.

OpenAI đã chặn các tài khoản người dùng Trung Quốc vì sử dụng ChatGPT để sửa mã một công cụ giám sát mạng xã hội. Công ty tin rằng nhóm này đã tạo chiến dịch Peer Review để giám sát và thu thập thông tin về các cuộc biểu tình chống lại chính quyền Trung Quốc trên các nền tảng như X, Facebook và Instagram.

Theo phát ngôn của OpenAI, mạng lưới hoạt động phù hợp với giờ làm việc tại Trung Quốc và sử dụng mô hình AI để kiểm chứng thông tin gửi đến các đại sứ quán và cơ quan tình báo Trung Quốc ở nước ngoài. Điều này bao gồm cả việc viết email lừa đảo và làm báo cáo kết quả hoạt động cuối năm.

Ben Nimmo, điều tra viên chính của OpenAI, cho biết đây là lần đầu công ty phát hiện công cụ AI kiểu này. Ngoài ra, nhóm này cũng đã sử dụng ChatGPT để sản xuất các bài viết chỉ trích nhà khoa học chính trị Cai Xia và các bài báo chỉ trích Mỹ, đã được xuất bản trên các phương tiện truyền thông ở Mỹ Latinh.