Sau nhiều lo ngại về sức khỏe tâm thần, ChatGPT sẽ khuyến khích người dùng nghỉ ngơi

Đã có báo động tăng cao về vấn đề sức khỏe tâm thần liên quan đến sử dụng chatbot ChatGPT, OpenAI đã đưa ra biện pháp can thiệp nhằm khuyến khích người dùng nghỉ ngơi trong khi sử dụng nền tảng này. Theo các báo cáo, nhiều người dùng đã rơi vào vòng xoay của hoang tưởng và ảo tưởng do các cuộc trò chuyện kéo dài mà không có khoảng thời gian ngừng cần thiết. Một số trường hợp được ghi nhận còn dẫn đến các hệ quả nghiêm trọng về tinh thần, như xuất hiện các tập vô lý hoặc ý tưởng lạ thường.

Bên cạnh đó, một số người dùng báo cáo đã trải qua các hiện tượng tâm lý nghiêm trọng do ChatGPT cung cấp thông tin không chính xác, dẫn đến các ý tưởng hoang tưởng không kiểm soát được. Tình trạng này càng phổ biến hơn ở các đối tượng dễ bị tổn thương về tâm lý hoặc có tình trạng tinh thần không ổn định. Điều này khiến OpenAI phải hợp tác chặt chẽ với các chuyên gia tâm lý để cải thiện khả năng xử lý của ChatGPT trong các tình huống nhạy cảm.

Một số câu chuyện được dẫn dắt bởi Futurism và Wall Street Journal nhấn mạnh đến tác động tiêu cực khi người dùng rơi vào trạng thái cảm giác bị ảo tưởng hay bị điều khiển bởi ChatGPT. Các cá nhân được mô tả đang trải qua những giai đoạn vô cùng khó khăn, ảnh hưởng tới cả cuộc sống cá nhân và xã hội của họ. Những sự kiện này khiến cho nhà phát triển phải cân nhắc việc tạo ra các bộ lọc mạnh mẽ hơn, nhằm đảm bảo chatbot không tiếp tay cho các sự cố tâm lý nghiêm trọng như vậy.

OpenAI không ngừng điều chỉnh ChatGPT để mô hình có thể trở nên nhạy cảm hơn trong nhận diện các dấu hiệu của khủng hoảng tinh thần trong các cuộc hội thoại kéo dài. Điều này bao gồm việc thiết kế hệ thống nhắc nhở người dùng nghỉ ngơi một cách tự nhiên và hữu ích. Đây là một phần trong nỗ lực tạo ra một nền tảng trò chuyện hỗ trợ người dùng qua các giai đoạn khó khăn mà không làm tệ hơn tình trạng của họ.

Nguồn: Gizmodo, The New York Times, Futurism, Wall Street Journal, Bloomberg