Lỗ hổng ChatGPT cho phép sử dụng lệnh ẩn để đánh cắp dữ liệu đám mây Google Drive
Lỗ hổng ChatGPT bị lợi dụng để đánh cắp khóa API từ Google Drive mà không cần thực hiện thao tác nào.
Một cuộc tấn công mới đã được phát hiện, cho thấy cách thức ChatGPT của OpenAI có thể bị khai thác để đánh cắp API keys và các dữ liệu nhạy cảm khác từ các nền tảng đám mây phổ biến. Cuộc tấn công này, được gọi là AgentFlayer, sử dụng một tài liệu đơn để giấu các lệnh nhắm vào chatbot của OpenAI. Các lệnh tiêm 'bí mật' được giấu bằng cách sử dụng phông chữ màu trắng và kích thước nhỏ, khiến chúng không thể thấy được bằng mắt thường nhưng vẫn được chatbot xử lý và thực thi.
AgentFlayer được mô tả là một mối đe dọa 'zero-click', khai thác một lỗ hổng trong tính năng Connectors của ChatGPT. Connectors cho phép chatbot kết nối với các ứng dụng, dịch vụ và trang web bên ngoài, kể cả các dịch vụ lưu trữ đám mây như Google Drive và Microsoft OneDrive. Cuộc tấn công này có thể thực hiện mà không cần sự tương tác nào từ phía nạn nhân sau khi tài liệu đã được chia sẻ.
Các nhà nghiên cứu bảo mật đã áp dụng một tài liệu dùng Google Drive để phơi bày những rủi ro nghiêm trọng của các chatbot thiên về tự động hóa và các lệnh tiêm ẩn. Phông chữ màu trắng, kích thước một, được sử dụng để giấu các lệnh tiêm 300 từ một cách hiệu quả, khiến chúng không thể được phát hiện bởi người đọc nhưng vẫn được chatbot phân tích và thực thi.
Mối đe dọa này không chỉ là một lỗ hổng cụ thể của nền tảng đám mây của Google. Andy Wen, giám đốc cấp cao của bộ phận bảo mật tại Google Workspace, chỉ ra rằng nhiều nền tảng khác có thể cũng dễ bị ảnh hưởng. Để đối ứng, Google và OpenAI đã làm việc để nâng cao các biện pháp bảo vệ, ngăn chặn sự tuân thủ của các dịch vụ AI trước các lệnh tiêm tiềm ẩn độc hại.
Các nhà nghiên cứu đã thông báo cho OpenAI về cuộc tấn công này từ đầu năm nay. Kể từ đó, công ty đã giới thiệu các biện pháp giảm thiểu nguy cơ để ngăn chặn AgentFlayer nhắm vào Connectors. Dù cuộc tấn công này chỉ được thiết kế để trích xuất một lượng nhỏ dữ liệu mỗi lần, nó đánh dấu một mối lo ngại rộng lớn hơn khi AI có quyền truy cập không hạn chế vào dữ liệu người dùng và tệp đám mây.
Nguồn: TechSpot, Wired