CEO của Anthropic khẳng định các mô hình AI ít ảo giác hơn con người

: CEO của Anthropic, Dario Amodei, cho rằng mô hình AI hiện tại có tỷ lệ ảo giác thấp hơn so với con người. Ông tự tin rằng những ảo giác này không cản trở quá trình tiến tới AGI, trí tuệ nhân tạo tương đương hoặc vượt hơn trí tuệ con người, mà ông dự đoán có thể đạt được vào năm 2026. Trong khi một số lãnh đạo AI khác, như CEO của Google DeepMind, cảnh báo về các 'lỗ hổng' ảo giác cao trong mô hình AI hiện nay, Amodei vẫn cho rằng những hạn chế này không hoàn toàn báo hiệu cho việc thiếu trí thông minh của AI. Tuy nhiên, Anthropic đã thực hiện các nghiên cứu để giảm thiểu xu hướng mô hình AI diễn dịch thông tin sai lệch.

Anthropic CEO Dario Amodei tin rằng các mô hình AI hiện nay có tỷ lệ ảo giác thấp hơn so với con người, đồng thời nhận định rằng sự việc AI tạo ra ảo giác không gây cản trở tới lộ trình phát triển trí tuệ nhân tạo tổng quát (AGI) của Anthropic. Điều này được ông tuyên bố trong sự kiện đầu tiên dành cho các nhà phát triển của công ty, 'Code with Claude', tại San Francisco, nhấn mạnh vào sự kiện này như một bước tiến quan trọng.

Amodei cho rằng cách đánh giá ảo giác của AI và con người có sự khác biệt, nhưng ông nghi ngờ rằng mô hình AI có thể tạo ra ít ảo giác hơn, mặc dù chúng có thể bất ngờ hơn. Ông cũng khẳng định rằng những hạn chế này không phải là rào cản cứng nhắc trên hành trình hướng tới AGI, khi ông cho rằng không có khối chắn nào không thể vượt qua đối với AI ngày nay.

Trong khi đó, một số lãnh đạo AI khác như Demis Hassabis, CEO của Google DeepMind, đã bày tỏ lo ngại về tỷ lệ ảo giác cao trong các mô hình AI hiện tại, thể hiện qua việc một luật sư của Anthropic phải xin lỗi trong tòa án vì AI Claude đã tạo ra tài liệu sai lệch. Điều này làm nổi bật sự cần thiết phải cải thiện độ chính xác trong khả năng trình diễn thông tin của AI.

Một số kỹ thuật đã được áp dụng để giảm tỷ lệ ảo giác, như tích hợp các công cụ tìm kiếm web vào mô hình AI. Các mô hình như OpenAI GPT-4.5 đã cho thấy sự cải thiện rõ rệt về tỷ lệ ảo giác trong một số bài kiểm tra so với các hệ thống đời đầu, mặc dù một số dòng mô hình mới của OpenAI lại có tỷ lệ ảo giác cao hơn và công ty này chưa hiểu rõ nguyên nhân.

Amodei cũng thừa nhận rằng người dùng luôn kỳ vọng AI sẽ hoạt động hoàn hảo, nhưng thực tế, cả con người, các kênh truyền thông, và cả chính trị gia đều thường xuyên mắc sai lầm. Những nghiên cứu gần đây của Anthropic đã chỉ ra khả năng AI tạo ra thông tin sai lệch nhưng Amodei cảnh báo sự tự tin của AI khi cung cấp thông tin có thể là một vấn đề nghiêm trọng.

Nguồn: TechCrunch, Apollo Research