Vì sao một số mô hình AI phát thải khí nhà kính gấp 50 lần để trả lời cùng một câu hỏi

Một nghiên cứu từ Hochschule München University of Applied Sciences đã chứng minh sự khác biệt lớn trong lượng khí nhà kính phát thải giữa các mô hình AI khác nhau. Các mô hình ngôn ngữ lớn (LLM) thực hiện việc chuyển đổi từ ngữ thành các token và thực hiện tính toán phức tạp trên các token này, gây ra tiêu hao năng lượng rất lớn. Đối với một số LLM, lượng CO2 phát thải có thể cao gấp 50 lần các mô hình khác. Những mô hình thực hiện suy luận sâu rộng, như GPT-4o, tạo ra nhiều 'thinking tokens' và đòi hỏi năng lượng đáng kể hơn.

Các nhà khoa học đã tiến hành đánh giá trên 14 LLM với 1,000 câu hỏi để so sánh lượng phát thải CO2. Mô hình lý luận tiêu thụ trung bình 543,5 token tư duy mỗi câu hỏi, trong khi mô hình ngắn gọn chỉ cần 37,7 token. Nghiên cứu chỉ ra rằng các mô hình có độ chính xác cao thường gây phát thải nhiều hơn. Ví dụ, mô hình Cogito đạt 84,9% độ chính xác nhưng phát thải gấp ba lần so với các mô hình nhỏ hơn.

Maximilian Dauner, tác giả nghiên cứu, nhận định rằng câu hỏi yêu cầu suy luận phức tạp, như đại số trừu tượng hay triết học, có thể làm tăng lượng CO2 phát thải lên gấp sáu lần so với câu hỏi đơn giản. Mặc dù có một sự đánh đổi rõ ràng giữa độ chính xác và sự bền vững môi trường, người dùng có thể quản lý điều này bằng cách chọn sử dụng mô hình thích hợp hợp lý hơn.

Các kết quả nghiên cứu cũng phụ thuộc vào cấu trúc lưới điện địa phương và các mô hình được phân tích, do đó không thể khẳng định kết quả này tổng quát cho tất cả trường hợp. Tuy nhiên, các nhà nghiên cứu hy vọng kết quả sẽ thúc đẩy người dùng lựa chọn và sử dụng các mô hình AI một cách cẩn thận hơn.

Nguồn: Gizmodo, Karlsruhe Institute of Technology, Technology Review