New York thông qua dự luật nhằm ngăn chặn các thảm họa do AI gây ra

: Dự luật RAISE được New York thông qua nhằm ngăn các thảm họa từ AI tiên tiến của OpenAI, Google và Anthropic, với mục tiêu hạn chế hơn 100 người bị tổn thương hoặc thiệt mạng hay thiệt hại trên 1 tỷ USD. Được hỗ trợ bởi Geoffrey Hinton và Yoshua Bengio, dự luật này nếu thành luật sẽ yêu cầu các phòng thí nghiệm AI lớn công bố báo cáo an toàn, đồng thời cho phép tổng chưởng lý New York áp dụng các hình phạt dân sự lên đến 30 triệu USD nếu không tuân thủ. Được thiết kế cẩn thận để không kìm hãm đổi mới, dự luật tránh các yêu cầu như công tắc ngắt khẩn cấp, trong khi Silicon Valley đã bày tỏ sự phản đối mạnh mẽ. Andreessen Horowitz và Y Combinator là những phản đối nổi bật, trong khi Anthropic chưa có lập trường chính thức.

Vào ngày thứ Năm vừa qua, các nhà lập pháp New York đã thông qua một dự luật có tên gọi RAISE Act, nhằm ngăn chặn những mô hình AI tiên tiến nhất từ các công ty như OpenAI, Google và Anthropic không góp phần gây ra các tình huống thảm họa, bao gồm cả tổn thương hoặc cái chết đối với hơn 100 người, hay thiệt hại vượt quá 1 tỷ USD.

Dự luật RAISE mang đến một chiến thắng lớn cho phong trào an toàn AI, vốn đã mất đà trong các năm gần đây. Điều này là do Thung lũng Silicon và chính quyền Trump ưu tiên tốc độ và sự đổi mới hơn. Những người ủng hộ an toàn như nhà đoạt giải Nobel Geoffrey Hinton và nhà tiên phong nghiên cứu AI Yoshua Bengio đã ủng hộ mạnh mẽ cho dự luật này.

Nếu được ban hành thành luật, đây sẽ là bộ tiêu chuẩn minh bạch hợp pháp đầu tiên của quốc gia dành cho các phòng thí nghiệm AI tiên tiến. Dự luật RAISE có các điều khoản và mục tiêu tương tự như dự luật an toàn AI gây tranh cãi của California, SB 1047, dự luật này cuối cùng đã bị phủ quyết. Đồng bảo trợ của dự luật, Thượng nghị sĩ Andrew Gounardes, đã nói rằng ông thiết kế RAISE Act để không cản trở sự đổi mới trong giới khởi nghiệp hoặc các nhà nghiên cứu học thuật.

Senator Gounardes phát biểu rằng "khoảng thời gian để thiết lập các rào cản an toàn đang thu hẹp nhanh chóng bởi sự tiến hóa nhanh chóng của công nghệ này." Dự luật hiện đang chờ đợi sự đồng thuận từ Thống đốc New York Kathy Hochul, người có thể ký thành luật, trả lại sửa đổi, hoặc phủ quyết.

Các tiêu chuẩn minh bạch của dự luật RAISE dành cho các công ty có mô hình AI được huấn luyện với đầu tư hơn 100 triệu USD vào tài nguyên máy tính và có mặt tại New York. Chính sách này nhằm vào các công ty lớn trên thế giới, từ California (như OpenAI và Google) đến Trung Quốc (như DeepSeek và Alibaba).

Nguồn: TechCrunch, New York Times