Chủ tịch Signal, Meredith Whittaker, chỉ ra rằng trí tuệ nhân tạo có khả năng tự chủ gây ra các vấn đề nghiêm trọng về bảo mật và quyền riêng tư

Meredith Whittaker, Chủ tịch của Signal, đã bày tỏ lo ngại về những vấn đề bảo mật và quyền riêng tư liên quan đến trí tuệ nhân tạo tự chủ trong một bài phát biểu tại hội nghị SXSW, Austin, Texas. Whittaker ví von việc AI thực hiện các tác vụ thay cho người dùng như việc đặt "não bộ vào lọ." Bà cảnh báo rằng cách tiếp cận mới này có thể dẫn đến việc vi phạm nghiêm trọng về bảo mật và quyền riêng tư khi AI có thể truy cập và xử lý thông tin cá nhân một cách không được bảo vệ.

Trong phần thuyết trình, Whittaker nêu rõ rằng AI đang được tiếp thị như một công cụ để gia tăng giá trị trong cuộc sống bằng cách quản lý các tác vụ trực tuyến cho người dùng. Bà đưa ra các ví dụ về khả năng của AI như tìm kiếm các buổi hòa nhạc, đặt lịch sự kiện và gửi tin nhắn báo cho bạn bè. Để thực hiện những tác vụ này, AI cần có quyền truy cập tới nhiều loại thông tin cá nhân và không gian điện toán đám mây.

Theo lời Whittaker, AI cần quyền truy cập cấp cao để thực hiện các nhiệm vụ này, từ khả năng điều khiển trình duyệt web đến truy cập thông tin thẻ tín dụng và lịch cá nhân. Bà bày tỏ lo ngại rằng dữ liệu này thường không được mã hóa một cách đầy đủ, khiến chúng dễ dàng bị truy lùng và khai thác bởi những người không có ý tốt.

Bà cũng chỉ ra rằng sự tích hợp của AI vào các ứng dụng nhắn tin như Signal có thể gây ảnh hưởng tiêu cực đến quyền riêng tư của người dùng. AI có thể truy cập vào ứng dụng để gửi tin nhắn cũng như truy xuất dữ liệu để tóm tắt những nội dung đó, vô hình trung có thể vi phạm quyền riêng tư.

Những bình luận của Whittaker chỉ ra rằng sự phát triển của công nghệ AI đang dựa trên mô hình giám sát và thu thập dữ liệu tập trung. Bà cảnh báo rằng định hướng "bigger is better" trong việc phát triển AI có thể dẫn đến những hệ quả tiêu cực mà chúng ta không mong muốn.

Nguồn: Meredith Whittaker, SXSW, Signal