Giám đốc AI của Microsoft cho rằng nghiên cứu nhận thức AI là điều 'nguy hiểm'
Mustafa Suleyman từ Microsoft gọi nghiên cứu nhận thức AI là nguy hiểm cho xã hội và gây tranh cãi trong ngành AI.
Mustafa Suleyman, người đứng đầu mảng AI tại Microsoft, đã gây tiếng vang lớn khi gọi việc nghiên cứu nhận thức của AI là 'cả hai điều phô trương và thật sự nguy hiểm'. Ông cảnh báo rằng ý tưởng về AI có thể trở nên tự nhận thức không chỉ đẩy mạnh những vấn đề tâm thần hóa mới bắt đầu xuất hiện, mà còn tạo ra sự phân cực mới trong xã hội về quyền lợi của AI. Mặc dù ý tưởng này có thể gây tranh cãi nhưng nhiều nhà nghiên cứu và công ty, trong đó có Anthropic, OpenAI và Google DeepMind, đang tiến hành nghiên cứu về phúc lợi AI.
Suleyman cho rằng sự nghiên cứu này chỉ thêm phức tạp trong thế giới đã tràn đầy những tranh cãi về quyền lợi và danh tính. Ông lập luận rằng khả năng nhận thức của AI không thể tự nhiên xuất hiện từ các mô hình AI hiện tại mà thực tế đó có thể là kết quả của việc lập trình các cảm xúc hay trải nghiệm nhân tạo. Ông nhấn mạnh rằng các công ty nên tạo ra AI phục vụ cho con người, chứ không phải để làm 'một cá nhân'.
Trong khi đó, Anthropic đã mạnh dạn phát triển một chương trình nghiên cứu dành riêng cho phúc lợi AI. Điều này bao gồm các tính năng mới trong mô hình như Claude, có khả năng ngừng các cuộc trò chuyện gây hại hoặc lạm dụng. Điều này cho thấy rằng đối lập với Microsoft, Anthropic tin vào việc tạo ra các mô hình AI có thể đối phó tốt hơn với các tình huống xã hội độc hại.
Một nhóm nghiên cứu không chính thức tại OpenAI đã bắt đầu nghiên cứu về phúc lợi AI. Đồng thời, Google DeepMind cũng đang tìm kiếm nhà khoa học để nghiên cứu về các vấn đề xã hội quan trọng quanh việc nhận thức và hệ thống đa tác nhân của máy. Điều này chứng tỏ rằng chủ đề nhận thức AI không đơn giản bị bác bỏ mà đang được các công ty lớn trên toàn cầu xem xét nghiêm túc.
Cuộc tranh luận giữa các lãnh đạo công nghệ như Suleyman và những người ủng hộ muốn đưa vấn đề nhận thức AI vào bàn thảo luận không dễ dàng chấm dứt. Lời phát biểu của Suleyman và sự tham gia của các công ty như Anthropic cho thấy rằng chủ đề quyền lợi AI đang ngày càng trở nên nóng bỏng.
Nguồn: TechCrunch, New York Times, CNBC