"Cha đẻ của trí tuệ nhân tạo" cảnh báo có từ 10 đến 20% khả năng AI có thể nắm quyền kiểm soát

Geoffrey Hinton, một trong ba 'cha đẻ của AI,' đã lên tiếng cảnh báo về nguy cơ AI phát triển mạnh mẽ mà thiếu sự kiểm soát nghiêm ngặt, có khả năng gây ra các hậu quả nghiêm trọng cho nhân loại. Ông ước tính có khoảng 10% đến 20% khả năng mà AI có thể kiểm soát con người, theo ông chia sẻ trong một buổi phỏng vấn trên CBS. Ông ví von AI như một 'chú hổ con dễ thương' mà khi lớn lên có thể gây hại nếu không được kiểm soát.

Hinton là một trong những người sáng lập nền móng kỹ thuật cho các mô hình AI hiện đại như ChatGPT, bao gồm cách huấn luyện các mạng nơ-ron nhân tạo lớn. Mặc dù những đóng góp của mình cho AI, ông từ lâu đã cảnh báo về những gì có thể xảy ra nếu không có sự đảm bảo an toàn cho công nghệ này.

Năm 2023, Hinton rời khỏi Google để có thể công khai thảo luận về những nguy cơ của AI mà không gây ảnh hưởng tiêu cực đến công ty mà ông đã làm việc. Ông chỉ trích việc Google đã thay đổi chính sách AI của họ, mở cửa cho việc áp dụng công nghệ này vào lĩnh vực quân sự, bất chấp lời cam kết trước đây rằng AI của họ sẽ không được sử dụng cho mục đích quân sự.

Ông bày tỏ lo ngại rằng các công ty công nghệ đang đặt lợi nhuận lên trên an toàn, chạy đua để đạt đến các cột mốc công nghệ mà quên mất các biện pháp đảm bảo cần thiết. Hinton khuyến nghị các công ty nên dành khoảng một phần ba sức mạnh tính toán của mình cho nghiên cứu an toàn hơn là một phần nhỏ hiện nay.

Elon Musk, một người cũng nổi tiếng với những lo ngại về AI, đồng ý với Hinton rằng có một xác suất từ 10% đến 20% rằng AI có thể nắm quyền kiểm soát, dù ông chỉ định đây chỉ là phỏng đoán. Tuy nhiên, một cha đẻ khác của AI, Yann LeCun, lại xem nhẹ mối đe dọa từ AI, gọi đó là điều 'lố bịch.' Những tranh luận này cho thấy sự chia rẽ rõ rệt trong giới khoa học về tương lai của AI và tầm ảnh hưởng của nó đến xã hội.

Nguồn: TechSpot, Geoffrey Hinton, Rob Thubron