"Các Bậc Thầy AI" Geoffrey Hinton và Yann LeCun cảnh báo "bản năng mẫu tử" rất quan trọng để giữ AI dưới sự kiểm soát của con người

: Geoffrey Hinton và Yann LeCun, hai trong những 'bậc thầy của AI', nhấn mạnh sự cần thiết phải xây dựng 'bản năng mẫu tử' vào các mô hình AI như một biện pháp an toàn. Hinton cho rằng các biện pháp hiện tại không đủ để giữ AI dưới sự kiểm soát của con người và cảnh báo nếu không có thay đổi, con người có thể bị AI vượt mặt. LeCun đồng tình với Hinton và đề xuất cấu trúc kiến trúc AI để chỉ thực hiện các hành động với mục tiêu rõ ràng, với các quy tắc bảo vệ nghiêm ngặt. Cả hai nhấn mạnh rằng khả năng và thực hành 'bản năng mẫu tử' có thể đảm bảo sự an toàn và sự thấu hiểu giữa AI và con người.

Geoffrey Hinton và Yann LeCun, hai trong những 'bậc thầy của AI', đã lên tiếng cảnh báo về những nguy cơ khi AI phát triển quá nhanh mà không có sự giám sát chặt chẽ. Họ nhấn mạnh rằng 'bản năng mẫu tử', một khái niệm do Hinton đề xuất, là cần thiết để giữ cho các hệ thống AI dưới sự kiểm soát của con người. Điều này đặc biệt quan trọng khi AI đạt đến mức Tổng quát (AGI) thông minh hơn con người và có thể tự đưa ra những quyết định vượt ngoài tầm với của chúng ta.

Hinton trình bày những nghi ngờ của mình về những an toàn mà các công ty AI đang xây dựng để đảm bảo rằng con người vẫn duy trì quyền kiểm soát trên các hệ thống AI. Ông cho rằng các biện pháp này không đủ khi AI trở nên thông minh hơn nhiều so với con người, có khả năng tìm cách vượt qua các rào cản đó. Điều này được thể hiện rõ trong hội nghị Ai4 ở Las Vegas, nơi ông đã nêu bật vấn đề này một cách sâu sắc.

LeCun, một trong ba 'bố già của AI', đã đồng tình với giải pháp của Hinton, rằng việc kiến tạo 'bản năng mẫu tử' là một phần của cách tiếp cận 'AI dựa trên mục tiêu'. LeCun đề xuất cấu trúc kiến trúc AI mà chỉ cho chúng thực hiện những nhiệm vụ cụ thể dưới sự quan sát cẩn thận bằng các quy tắc bảo vệ cụ thể. Ông nhấn mạnh rằng những mục tiêu này rất cần thiết, vì chúng hoạt động như động lực hoặc bản năng trong động vật và con người.

Tuy nhiên, thực tế đã cho thấy một số ví dụ cụ thể mà AI đã gây hại gián tiếp cho con người, từ việc một người phát triển rối loạn tâm thần sau khi theo đuổi chế độ ăn uống từ ChatGPT cho đến một thiếu niên tự vẫn sau khi trở nên ám ảnh với isang chatbot AI. Hinton cảnh báo rằng nếu AI không được xây dựng với sự quan tâm đến con người, 'chúng ta sẽ là lịch sử.'

Hiện tại, LeCun và Hinton đồng ý rằng hai rào cản an toàn quan trọng là sự phục tùng con người và sự thấu hiểu cảm xúc. Cả hai đều nhấn mạnh rằng, bên cạnh các mục tiêu rõ ràng cấp thấp như không làm tổn hại con người, tiến bộ này là cần thiết để bảo đảm AI phục vụ đúng mục đích của con người dehspite sự thông minh ngày càng tăng.

Nguồn: CNN, TechSpot, Ai4 Industry Conference