Thế giới kỳ lạ của những 'ảo giác' AI

Sự phát triển của các hệ thống trí tuệ nhân tạo đã đưa ra một khái niệm mới gọi là 'ảo giác AI'. 'Ảo giác AI' xảy ra khi các hệ thống AI tạo ra thông tin có vẻ hợp lý nhưng thực tế là không chính xác hoặc gây hiểu lầm. Anna Choi và Katelyn Xiaoying Mei, hai nghiên cứu sinh tiến sĩ khoa học thông tin, đã viết về vấn đề này và chỉ ra những tác động tiềm tàng có thể xảy ra trong các lĩnh vực quan trọng như pháp lý và chăm sóc sức khỏe.

Một số ví dụ cụ thể được thảo luận bao gồm việc sử dụng mô hình ngôn ngữ lớn như ChatGPT trong các phiên tòa, nơi một luật sư đã nộp một bản tóm tắt pháp lý có chứa thông tin sai từ AI. Những sai lầm như vậy, nếu không được phát hiện kịp thời, có thể dẫn đến các quyết định không chính xác trong các tình huống pháp lý. Đối với các hệ thống nhận diện hình ảnh AI, khả năng mắc 'ảo giác' có thể khiến hệ thống nhận dạng các vật thể sai, chẳng hạn như nhận diện một chiếc bánh muffin như một con chó chihuahua.

Công nghệ AI thường được xây dựng thông qua việc nạp dữ liệu lớn vào hệ thống để phát hiện các mẫu trong dữ liệu đó. Tuy nhiên, khi dữ liệu này bị thiếu hoặc có định kiến, hoặc khi hệ thống không hiểu rõ câu hỏi, nó có thể tạo ra nội dung không thực tế. Ví dụ, việc nhầm lẫn giữa các hình ảnh khác nhau hoặc chèn thêm các từ không tồn tại trong các ứng dụng nhận dạng giọng nói tự động là những biểu hiện của 'ảo giác AI'.

Để giảm thiểu rủi ro, các công ty đang nghiên cứu những giải pháp như cải thiện chất lượng dữ liệu huấn luyện và thiết lập các qui tắc rõ ràng cho AI phản hồi. Tuy nhiên, do khả năng tự động hóa và học hỏi của AI, các vấn đề này vẫn có thể tiếp diễn, đặc biệt là khi AI được áp dụng trong các môi trường đòi hỏi độ chính xác cao.

Việc đảm bảo rằng đầu ra của AI được kiểm tra cẩn trọng và xác minh bằng các nguồn tin cậy là cực kỳ quan trọng. Cộng đồng khoa học và người dùng cần có kỹ năng nhận biết rủi ro và hạn chế của công nghệ AI để tránh những hậu quả nguy hiểm.

Nguồn: The Conversation, TechSpot