Broadcom đang làm việc để tích hợp kết nối quang học trực tiếp vào các GPU
Broadcom phát triển công nghệ quang học silicon để tăng băng thông GPU và giảm tiêu thụ năng lượng.
Broadcom đang phát triển công nghệ quang học silicon mới nhằm tăng băng thông đáng kể cho GPU và các bộ tăng tốc AI. Công nghệ quang học đồng gói (CPO) được sử dụng để tích hợp trực tiếp các thành phần kết nối quang học vào GPU, tăng tốc độ truyền dữ liệu và giảm yêu cầu năng lượng. Broadcom đã nghiên cứu các giải pháp CPO trong nhiều năm và giới thiệu các tiến bộ gần đây tại hội nghị Hot Chips, với động cơ quang học mới có băng thông kết nối lên tới 1,6 TB/giây.
Theo phó chủ tịch Manish Mehta của bộ phận hệ thống quang học của Broadcom, các kết nối đồng bắt đầu suy giảm sau năm mét, trong khi kết nối quang học truyền thống đòi hỏi nhiều năng lượng hơn. Broadcom đã thành công trong việc giảm tiêu thụ năng lượng bằng cách sử dụng công nghệ CPO, đặt các bộ thu phát riêng lẻ tiếp xúc trực tiếp với GPU. Công ty sử dụng công nghệ đóng gói chip-on-wafer-on-substrate (CoWoS) của TSMC để kết hợp một cặp ngăn nhớ cao băng thông với bộ xử lý.
Mehta giải thích rằng công nghệ CPO có thể kết nối tới 512 GPU riêng lẻ trên tám giá đỡ, cho phép toàn bộ hệ thống hoạt động như một hệ thống duy nhất. Điều này cho thấy giải pháp của Broadcom có thể mang lại lợi thế cạnh tranh cho các khối lượng công việc AI thế hệ tiếp theo so với các hệ thống hiện tại như NVL72 của Nvidia, chỉ kết nối tối đa 72 GPU.