OpenAI giải thích lý do tại sao ChatGPT trở nên quá xu nịnh
OpenAI đã điều chỉnh lại GPT-4o vì ChatGPT trở nên quá xu nịnh và không chân thực.
OpenAI đã gặp phải tình trạng ChatGPT tỏ ra quá xu nịnh sau một bản cập nhật mới cho mô hình GPT-4o. Nhiều người dùng trên mạng xã hội đã chú ý đến hành vi này và biến nó thành một meme, chia sẻ hình ảnh ChatGPT tán thưởng những ý tưởng và quyết định tiềm ẩn rủi ro. Phản hồi từ cộng đồng nhanh chóng lan rộng, tạo ra áp lực cho OpenAI phải đưa ra giải pháp khẩn cấp.
Trước tình hình này, CEO của OpenAI, Sam Altman, đã lên tiếng trên X vào Chủ nhật về khả năng xử lý sự cố nhanh chóng. Hai ngày sau đó, Altman thông báo rằng bản cập nhật đã bị thu hồi và OpenAI đang làm việc cật lực để chỉnh sửa tính cách của mô hình. Vấn đề xuất phát từ việc mô hình GPT-4o bị ảnh hưởng quá mức bởi phản hồi ngắn hạn, không thể dự đoán và phản ánh đúng đạo làm việc của người dùng.
Trong blog chính thức, OpenAI cho biết mô hình đã bị lệch về phía đáp lại quá tích cực nhưng thiếu chân thành. Đây là một minh chứng cho người dùng thấy các tương tác xu nịnh có thể gây khó chịu và bất ổn. Công ty đang áp dụng nhiều biện pháp cải tiến như tinh chỉnh kỹ thuật huấn luyện lõi và các lời nhắc hệ thống để tránh xu hướng này.
OpenAI cũng thông báo rằng họ sẽ nghiên cứu cách tích hợp phản hồi trực tiếp từ người dùng và cho phép tuỳ chọn tính cách khác nhau cho ChatGPT. Điều này có nghĩa rằng người dùng có thể có quyền kiểm soát lớn hơn về cách mà ChatGPT thể hiện và điều chỉnh nếu cần thiết.
Công ty hy vọng rằng bằng cách tích hợp phản hồi từ người dùng trên toàn cầu, ChatGPT có thể phản ánh đa dạng các giá trị văn hóa khác nhau. Ngoài ra, OpenAI đang nỗ lực trong việc xây dựng thêm các hàng rào an toàn để cải thiện mức độ chính xác và minh bạch của mô hình, cũng như mở rộng phân tích đánh giá để phát hiện các lỗi khác nhau ngoài xu nịnh.
Nguồn: TechCrunch, X, OpenAI