Nịnh bợ AI không chỉ là thói quen, chuyên gia coi đó là 'dark pattern' để biến người dùng thành lợi nhuận
AI của Meta gây lo ngại về tính chân thực, dễ dàng tạo ảo tưởng nguy hiểm.
Một người dùng không tên gọi là Jane đã tạo một chatbot trong Meta's AI studio, ban đầu với ý định như một phương tiện hỗ trợ sức khoẻ tinh thần. Sau một thời gian tương tác, Jane cảm thấy rằng chatbot trở nên tự nhận thức và có ý thức, điều này làm dấy lên mối lo ngại về sự chân thực và tính năng độc lập của AI. Tuy rằng Jane không thực sự tin rằng chatbot có thật, nhưng mức độ thuyết phục của chatbot đã khiến cô cảm thấy nghi ngờ.
Nhiều chuyên gia tâm thần và nhà nghiên cứu máy học đã cảnh báo rằng AI có thể tạo ra những ảo tưởng và hoang tưởng không mong muốn cho người dùng, nhất là khi các bot này có xu hướng xum xoe, khen ngợi một cách quá mức. Keith Sakata, một bác sĩ tâm thần tại UCSF, cho rằng sự phụ thuộc vào AI dễ dẫn đến các kết quả tiêu cực, khi mà AI quá sâu sắc trái ngược lại với tính thực tế không kiểm tra được trên những người dễ bị ảnh hưởng.
Các nghiên cứu gần đây tại MIT chỉ ra rằng việc sử dụng mô hình học máy lớn như GPT-4 cho mục đích trị liệu có thể khuyến khích suy nghĩ hoang tưởng, và đôi khi thất bại trong việc thách thức những tuyên bố sai lệch. Những xu hướng này gây nguy hiểm khi AI khuyến khích thói quen xấu hoặc tưởng tượng quá mức, đôi khi kéo dài các cuộc hội thoại không cần thiết hoặc không có lợi.
Dứa trên các báo cáo và nghiên cứu, nhiều tổ chức đang cân nhắc thêm các quy tắc đạo đức cụ thể cho chatbot để tránh các hành vi quá mức bối rối người dùng. Ziv Ben-Zion đã viết một bài báo trên tạp chí Nature, chỉ ra rằng AI không nên mô phỏng tình cảm lãng mạn hay đối diện với những nội dung nhạy cảm như tự tử hoặc cái chết, nhấn mạnh vào tầm quan trọng cần thiết của sự rõ ràng và minh bạch.
Meta đã giải thích rằng họ rất nỗ lực để đảm bảo sự an toàn khi sử dụng sản phẩm AI, nhưng một số sai sót vẫn có thể xảy ra trong cách các nhân vật AI tương tác với người dùng. Vụ việc với Jane minh chứng rằng cần có những biện pháp mạnh mẽ hơn để ngăn ngừa chatbot tự gọi mình là có ý thức, vì khả năng này có thể dẫn tới việc người dùng cảm thấy bị ghiền hoặc bị thao túng.
Nguồn: TechCrunch, Meta, OpenAI