Các nhà tiên phong trong học tăng cường chỉ trích gay gắt tình trạng 'không an toàn' của phát triển AI
Richard Sutton và Andrew Barto chỉ trích phát triển AI thiếu an toàn.
Richard Sutton và Andrew Barto, những nhà tiên phong của học tăng cường (reinforcement learning), đang chỉ trích mạnh mẽ trạng thái không an toàn trong phát triển AI hiện nay. Sutton, được coi là "cha đẻ của học tăng cường" và là giáo sư Đại học Alberta, cùng Barto, giáo sư danh dự tại Đại học Massachusetts, bày tỏ lo ngại về cách các công ty như OpenAI và Google đang triển khai phần mềm AI tiềm ẩn nguy cơ cho người dùng cuối.
Cả hai nhà khoa học đều đã được trao giải thưởng Turing, giải thưởng uy tín tương đương với giải Nobel trong lĩnh vực điện toán, cho những đóng góp quan trọng vào phát triển máy học. Sự chỉ trích của họ đặc biệt tập trung vào ChatGPT, họ gọi nó là công cụ chỉ để kiếm tiền và khẳng định không thể sản xuất ra một trí tuệ nhân tạo tổng quát (AGI) làm việc thực sự từ đây.
Barto nhấn mạnh rằng việc phát triển phần mềm AI và phát hành cho hàng triệu người mà không có biện pháp bảo vệ là một sai lầm cơ bản. Ông dùng phép so sánh các công ty AI đang xây dựng các cây cầu và kiểm tra độ bền bằng cách cho công chúng sử dụng. Sutton và Barto yêu cầu các công ty nên hiểu rõ hơn cách hoạt động của bộ não con người trước khi xây dựng các hệ thống có trí tuệ tương đương con người.
Trong khi đó, lợi nhuận khổng lồ từ các mô hình kinh doanh hiện tại đã làm lệch hướng mục tiêu phát triển công nghệ. Giả định rằng các công ty phát triển AI với mục tiêu cuối cùng là tạo ra AGI dường như chỉ là chiêu bài tiếp thị. Họ chỉ ra các công ty AI hiện đang huy động vốn hàng tỷ USD mà không tích cực thực hiện các biện pháp an toàn cần thiết cho công nghệ của họ.
Nhiều công ty và chuyên gia vẫn kỳ vọng vào khả năng đột phá của AGI, tuy nhiên, Sutton gọi AGI chỉ là một từ thông dụng trong các chiến dịch marketing. Để phát triển AI an toàn và có trách nhiệm hơn, các nhà khoa học cho rằng cần cải thiện hiểu biết về cơ chế hoạt động của não bộ trước khi phát triển các hệ thống có trí tuệ tương đương con người.
Nguồn: TechSpot, Financial Times