Trình tạo hình ảnh mới của ChatGPT rất giỏi trong việc giả mạo hóa đơn
ChatGPT 4o tạo hóa đơn giả, gây lo ngại lừa đảo. Deedy Das tạo hóa đơn giả nhà hàng, OpenAI lưu ý về việc sử dụng sai.
Với việc ra mắt trình tạo hình ảnh mới của mô hình ChatGPT 4o, khả năng tạo văn bản bên trong hình ảnh được nâng cấp rõ rệt. Điều này mở ra một công cụ mạnh mẽ hơn cho các đối tượng lừa đảo, khi họ có thể sản xuất các hóa đơn giả từ các nhà hàng một cách dễ dàng hơn. Nhà đầu tư Deedy Das đã sử dụng công cụ này để tạo ra một hóa đơn giả cho một nhà hàng nổi tiếng ở San Francisco và chia sẻ trên mạng xã hội X (trước đây là Twitter), điều này gây ra một cuộc thảo luận về khả năng sử dụng công cụ này vào mục đích gian lận.
Deedy Das đã đăng tải một hình ảnh hóa đơn giả mà ông tuyên bố được tạo ra bằng ChatGPT 4o, cho thấy cách thức mà người dùng có thể dễ dàng làm giả chứng từ tài chính. Trên mạng, nhiều người đã thử nghiệm tạo ra các hóa đơn giống như thật, thậm chí còn tạo ra các chi tiết nhỏ như vết bẩn thức ăn hoặc nước uống để tăng tính chân thực. Tuy nhiên, các hóa đơn này vẫn có các điểm dễ nhận biết là giả, như lỗi về toán học hay ký hiệu sai lệch, điều mà các mô hình trí tuệ nhân tạo hiện nay vẫn gặp khó khăn.
Công ty OpenAI, nhà phát triển của ChatGPT, đã tuyên bố rằng tất cả các hình ảnh do hệ thống tạo ra đều có chứa siêu dữ liệu để chỉ ra nguồn gốc của chúng. Người đại diện Taya Christianson cho biết OpenAI đang kiểm soát các hành vi vi phạm chính sách sử dụng và cam kết học hỏi từ các phản hồi và thực tế sử dụng của người dùng để cải thiện hệ thống.
TechCrunch, trang tin công nghệ nổi tiếng, cũng đã thực hiện thí nghiệm với ChatGPT 4o và tạo ra hóa đơn giả cho một nhà hàng Applebee's ở San Francisco. Mặc dù kết quả có nhiều dấu hiệu của việc bị làm giả như cách viết số tiền không chuẩn và tính toán sai, điều này cho thấy khả năng và cả giới hạn của công nghệ AI hiện tại trong việc tái tạo các thông tin giả mạo.
Mặc dù có nguy cơ công nghệ này bị lạm dụng cho mục đích xấu xa, OpenAI vẫn duy trì hướng đi mở để người dùng tận hưởng tự do sáng tạo, đồng thời nhấn mạnh rằng việc tạo hóa đơn giả có thể phục vụ những mục đích giáo dục tài chính hoặc tạo các tác phẩm nghệ thuật và quảng cáo sản phẩm không gian sáng tạo.
Nguồn: TechCrunch, X