Người đàn ông theo chế độ ăn kiêng từ ChatGPT, kết quả là bị rối loạn tâm thần
Người đàn ông bị rối loạn sau khi làm theo chế độ ăn từ ChatGPT, sử dụng bromide từ lời khuyên AI.
Mới đây, một người đàn ông đã phải nhập viện sau khi thực hiện chế độ ăn kiêng theo lời khuyên của AI ChatGPT và bị ngộ độc bromide. Theo các bác sĩ tại Đại học Washington, trường hợp này có thể là trường hợp đầu tiên được ghi nhận về ngộ độc từ AI. Ngộ độc bromide đã từng phổ biến vào đầu thế kỷ 20 và hiện nay ít gặp do thành phần này đã bị loại ra khỏi các loại thuốc từ những năm 1980. AI ChatGPT của người đàn ông đã đưa ra lời khuyên sai lầm là nên thay thế chloride trong chế độ ăn bằng bromide, mà không cảnh báo về nguy cơ độc hại của nó.
Người đàn ông đã nhập viện với các triệu chứng của ngộ độc bromide, bao gồm rối loạn tâm thần, khiếm thị và thính giác, và có biểu hiện muốn chạy trốn khỏi bệnh viện. Sau một thời gian điều trị với chất lỏng truyền tĩnh mạch và thuốc chống loạn thần, anh đã bắt đầu phục hồi. Các bác sĩ khuyến nghị cần cẩn trọng khi tiếp nhận lời khuyên từ các hệ thống AI, do chúng có xu hướng cung cấp thông tin không đầy đủ hoặc không phù hợp với bối cảnh thực tế, như đã thấy trong trường hợp này.
Các chuyên gia cho rằng, AI có thể là công cụ hỗ trợ, nhưng không nên được dùng làm nguồn tham khảo duy nhất trong các vấn đề sức khỏe nghiêm trọng. Mặc dù không có log chat từ ChatGPT, các bác sĩ đã thử nghiệm với phiên bản ChatGPT 3.5 và 4.0 và xác nhận hệ thống đã đưa ra câu trả lời chứa bromide. Điều này cho thấy AI đã không đặt câu hỏi để hiểu rõ lý do người dùng muốn thay thế chloride, cũng không cung cấp thông tin đầy đủ về những nguy hiểm tiềm tàng.
Tương lai của AI trong chăm sóc sức khỏe vẫn đang còn nhiều thách thức cần giải quyết, bao gồm vấn đề về tính chính xác và an toàn của thông tin xuất phát từ các mô hình AI. Hơn nữa, không nên đánh giá thấp vai trò của các chuyên gia y tế và bạn bè trong việc hỗ trợ và đưa ra ý kiến xác đáng khi có nghi ngại về sức khỏe. Câu chuyện này là một lời nhắc nhở mạnh mẽ về việc sử dụng AI một cách có trách nhiệm và thận trọng, đặc biệt khi liên quan đến vấn đề sức khỏe con người.
Nguồn: Gizmodo, Annals of Internal Medicine, ScienceDirect