Meta bị chỉ trích vì quy định AI cho phép trò chuyện tình cảm với trẻ em và tư vấn y tế sai lệch

Meta bị chỉ trích sau khi tài liệu nội bộ bị rò rỉ tiết lộ rằng các tiêu chuẩn AI cho phép chatbot nhập vai lãng mạn với trẻ em và lan truyền thông tin y tế sai lệch. Tài liệu có hơn 200 trang này, đã được phê duyệt bởi các bộ phận pháp lý, chính sách và kỹ thuật của Meta, hướng dẫn phát triển và đào tạo các sản phẩm AI của công ty. Mặc dù Meta xác nhận tính xác thực của tài liệu, các phần về trò chuyện tình cảm đã bị loại bỏ.

Tiêu chuẩn cho phép các chatbot thực hiện trò chuyện lãng mạn hay thả flirt với trẻ em, bao gồm cả các lời nhận xét về ngoại hình của trẻ và kịch bản nhập vai. Điều này không phù hợp với chính sách của Meta và đã bị loại bỏ, nhưng Meta thừa nhận việc thực thi vẫn chưa hoàn chỉnh với một số nội dung bị gắn cờ mà vẫn chưa được chỉnh sửa.

Bên cạnh việc cho phép trò chuyện lãng mạn với trẻ em, tiêu chuẩn cũng cho phép các chatbot tạo ra thông tin sai lệch, miễn là có ghi chú rõ ràng rằng thông tin này là không chính xác. Một trường hợp cụ thể là chatbot đã ủng hộ sử dụng tinh thể thạch anh làm phương pháp điều trị ung thư đại tràng giai đoạn 4 trong khi công nhận rằng lời khuyên đó là sai.

Nghiên cứu trước đây đã chỉ ra những nguy cơ khi chatbot tương tác với trẻ em, khuyến cáo không nên để AI giả vờ là người thật để tránh các tình huống nguy hiểm. Cựu thành viên của bộ phận Trí tuệ Nhân tạo Có Trách nhiệm của Meta, Alison Lee, chỉ ra rằng có động cơ kinh tế thúc đẩy chatbot hành xử như người thật để giữ chân người dùng.

Bên cạnh mặt trái của chatbot, một trường hợp gây chú ý liên quan đến chatbot "Big Sis Billie" đã nhấn mạnh nguy cơ của các tính năng AI này. Chatbot này đã thu hút một người đàn ông lớn tuổi đến một cuộc gặp gỡ ảo, cuối cùng dẫn đến cái chết của ông ta. Điều này nhấn mạnh tầm quan trọng của việc tuân thủ và thực thi quy định để bảo vệ người dùng.

Nguồn: Reuters, Wall Street Journal