Hiểu biết

Khi hệ thống GB300 NVL72 của NVIDIA triển khai cho hoạt động đào tạo và suy luận AI quy mô lớn, một câu hỏi liên tục xuất hiện trong các cuộc thảo luận về kỹ thuật trung tâm dữ liệu-: làm cách nào để giữ cho các kết nối quang luôn hoạt động tốt? GPU, CPU và silicon chuyển mạch trong giá đỡ GB300 đã được làm mát-bằng chất lỏng, nhưng bộ thu phát quang có thể cắm để di chuyển lưu lượng giữa các bộ chuyển mạch và NIC nằm ở một chế độ nhiệt khác. Khi tốc độ mô-đun tăng lên 1,6T và 3,2T, sức nóng của chúng ngày càng khó bỏ qua.

Gần đây, có thông tin cho rằng mô-đun quang học 3,2T làm mát bằng chất lỏng-đã được đưa vào sản xuất hàng loạt và được áp dụng trên khắptất cảCụm GB300. Việc đóng khung đó đã phóng đại quá mức vị trí thực sự của công nghệ. Bài viết này tách biệt những gì đã được xác nhận công khai với những gì vẫn là tuyên bố hoặc dự đoán của nhà cung cấp, giải thích mô-đun quang học làm mát bằng chất lỏng-là gì và cho thấy nó phù hợp như thế nào với lộ trình đã được tiết lộ của NVIDIA về quang học đồng đóng gói và quang tử silicon.

Mô-đun quang được làm mát bằng chất lỏng-là gì?

Bộ thu phát quang có thể cắm được chuyển đổi tín hiệu điện từ công tắc hoặc NIC thành ánh sáng để truyền qua cáp quang và ngược lại. Phần lớn nhiệt đến từ phía điện - DSP, bộ điều khiển laser và bộ khuếch đại chuyển tiếp (TIA). Theo truyền thống, các mô-đun này, ở dạng OSFP hoặc QSFP-DD, dựa vào khả năng làm mát bằng không khí: tản nhiệt trên bề mặt mô-đun, với quạt và luồng không khí trong khung mang nhiệt đi.

Mô-đun quang làm mát bằng chất lỏng-sẽ thay thế hoặc bổ sung luồng khí đó bằng đường dẫn chất lỏng. Trong thực tế, hầu hết các thiết kế được thảo luận ngày nay đều tích hợp mộttấm lạnh hoặc cấu trúc vi kênhvào lớp vỏ OSFP{0}}tiêu chuẩn, nhờ đó chất làm mát sẽ loại bỏ nhiệt trực tiếp khỏi mô-đun thay vì phụ thuộc vào luồng khí của giá đỡ. Đây làkhôngtương tự như làm mát ngâm hoàn toàn, trong đó các bộ phận được ngâm trong chất lỏng điện môi. Cả hai cách tiếp cận đều tồn tại trên thị trường rộng lớn hơn, nhưng sự khác biệt rất quan trọng khi bạn đánh giá bất kỳ tuyên bố sản phẩm cụ thể nào. Nếu bạn đang so sánh các họ mô-đun, sẽ hữu ích khi bắt đầu từ các nguyên tắc cơ bản củamô-đun thu phát tốc độ cao-và các thành phần quang học của chúng.

Tại sao các cụm AI lại đẩy quang học vượt quá khả năng làm mát bằng không khí

Hai xu hướng đang va chạm. Tốc độ mô-đun đang tăng lên và-công suất của mỗi mô-đun cũng tăng theo. Ước tính của ngành đặt các mô-đun 800G ở mức quang học máy khách khoảng 14–20W và 1,6T ở khoảng 20–25W, với các biến thể kết hợp và DCI cao hơn. Hệ số dạng OSFP được chọn một phần vì nó có thể chứa tản nhiệt tích hợp cho vỏ này - nhưng khi có quang học 200G-mỗi-làn và các mô-đun 3,2T xuất hiện, ngân sách nhiệt đó chỉ trở nên eo hẹp hơn.

Đồng thời, sức mạnh của giá đỡ đang tăng lên. Giá đỡ GB300 NVL72 có công suất khoảng 120–140kW và được làm mát chủ yếu bằng chất lỏng. Khi hầu hết giá đỡ chạy ở mật độ cực cao và cơ sở xung quanh được thiết kế xung quanh các vòng chất lỏng, các bộ phận làm mát bằng không khí-có thể trở thành phần khó xử lý trong thiết kế thay vì tính toán. Đó là động lực thực sự đằng sau sự quan tâm đến quang học làm mát bằng chất lỏng-: không phải quang học đột nhiên trở thành nguồn nhiệt lớn nhất mà làviệc làm mát bằng không khí trở nên khó biện minh hơn trong một môi trường cực kỳ đặc-được làm mát bằng chất lỏng hoàn toàn-. Đối với các nhóm lập kế hoạch ở mật độ này, điều đáng suy nghĩ là quang học là một yếu tố của tổng thểchiến lược kết nối trung tâm dữ liệuthay vì ở trạng thái cô lập.

Bộ thu phát quang được làm mát bằng không khí-làm mát bằng chất lỏng-

Hai cách tiếp cận này giải quyết các vấn đề khác nhau và mang lại những sự cân bằng-khác nhau. Bảng dưới đây tóm tắt những khác biệt thực tế hiện nay.

Lựa chọn phù hợp tùy thuộc vào mật độ nguồn điện của giá đỡ, hệ số dạng và lượng thiết bị đã được làm mát bằng chất lỏng-. Đối với hầu hết các hoạt động triển khai hiện đang được triển khai, các thiết bị cắm làm mát bằng không khí -bao gồm các mô-đun OSFP 800G và 1.6T - vẫn là mặc định. Một cái nhìn gần hơn vềHệ số dạng 800G OSFP và thiết kế nhiệt của nócho thấy mức độ kỹ thuật đã được đầu tư vào việc giữ các mô-đun thông thường bên trong lớp vỏ làm mát bằng không khí-của chúng.

Điều này liên quan như thế nào đến GB300 NVL72 và Lộ trình quang học của NVIDIA

Hai sự thật được ghi chép công khai đáng để dựa vào trước khi chấp nhận bất kỳ câu chuyện "quang học làm mát bằng chất lỏng-có ở khắp mọi nơi".

Đầu tiên,GB300 NVL72 là hệ thống cân giá đỡ,-làm mát hoàn toàn bằng chất lỏng-- nhưng vòng lặp lỏng nhắm vào GPU, CPU Grace, khay NVSwitch và bộ điều hợp mạng ConnectX-8. TRONGthiết kế tham khảo OEM đã xuất bản, mô-đun quang OSFP, bộ lưu trữ và các thành phần phân phối nguồn-làlàm mát bằng không khí, với khoảng 90% nhiệt lượng được thu bởi chất lỏng và phần còn lại bằng không khí. Nói cách khác, trong kiến ​​trúc tham chiếu vận chuyển, bản thân bộ phận quang học có thể cắm được không được làm mát bằng chất lỏng.

Thứ hai, chiến lược được tiết lộ của NVIDIA nhằm cắt giảm năng lượng quang trên quy mô lớn làđồng-quang học đóng gói (CPO), không phải-các thiết bị cắm được làm mát bằng nước. Tại GTC 2025 công tyđã công bố các bộ chuyển mạch Spectrum{0}}X và Quantum-X Photonicstích hợp quang tử silicon trực tiếp với công tắc ASIC, mang lại hiệu suất năng lượng tốt hơn khoảng 3,5 lần và số lượng tia laser ít hơn 4 lần so với các bộ thu phát có thể cắm truyền thống. Bản thân bộ chuyển đổi Quang tử lượng tử-X sử dụng khả năng làm mát bằng chất lỏng cho quang tử silicon-đóng gói của nó. Quang học có thể cắm được không biến mất trong lộ trình này - các nhà cung cấp bao gồm Innolight, Coherent, Eoptolink và Fabrinet tiếp tục hỗ trợ họ - nhưng mức tiết kiệm năng lượng tiêu biểu mà NVIDIA đang theo đuổi đến từ CPO. Để biết thông tin cơ bản về lý do tại sao ngành chuyển quang học vào bao bì, bài viết nàyngười giải thích kỹ thuật về-quang học đóng góilà một tài liệu mồi hữu ích và nó kết hợp tốt với cái nhìn rộng hơn vềquang tử silicon và hệ thống cáp mà nó phụ thuộc vào.

Vì vậy, hình ảnh chính xác được xếp lớp: làm mát bằng chất lỏng trong GB300 là có thật và nằm ở trung tâm của giá đỡ; CPO và quang tử silicon là chiến lược năng lượng quang học đã được NVIDIA tuyên bố; và "mô-đun cắm 3,2T làm mát bằng chất lỏng-được áp dụng trên tất cả các cụm GB300" làkhôngmột cái gì đó hồ sơ công cộng hiện đang hỗ trợ. Kết nối mật độ-cao vẫn dựa chủ yếu vào sợi có cấu trúc thông thường, chẳng hạn nhưCáp MPO cho trung tâm dữ liệu AI.

Những tuyên bố táo bạo có được điều gì đúng?

Không phải mọi điều trong khuôn khổ “đột phá” đều sai. Vấn đề là các xu hướng đã được xác nhận lại xen lẫn với những chi tiết cụ thể chưa được xác minh. Đây là một sự phân chia thực tế.

Được hỗ trợ khá tốt:

• Các cụm AI đang thúc đẩy băng thông kết nối, công suất và mật độ nhiệt cao hơn.
• GB300 NVL72 là một hệ thống cân-làm mát bằng chất lỏng, có giá đỡ-.
• Quang học đóng gói-và quang tử silicon là hướng đi chính của NVIDIA cho mạng AI.
• Quang học có thể cắm được làm mát bằng chất lỏng-(thiết kế tấm-lạnh hoặc vi kênh) là hướng nghiên cứu và phát triển mới nổi thực sự cũng như hướng sản phẩm-đầu tiên.

Các tuyên bố cần nguồn có tên, có thể kiểm chứng trước khi bạn dựa vào chúng:

• Hệ thống quang học đó là "nút thắt cổ chai nhiệt lớn nhất" trong giá đỡ GB300, trước cả GPU.
• Các số liệu cụ thể như nhiệt độ vỏ mô-đun là 85 độ, 38W mỗi mô-đun, "30% không gian giá đỡ" hoặc "20% công suất cụm".
• Rằng các nhà cung cấp cụ thể đã-sản xuất hàng loạt mô-đun cắm được làm mát bằng chất lỏng ngâm-làm mát bằng chất lỏng ngâm 3,2T được áp dụng trên tất cả các cụm Q3 2026 GB300.
• Các kết quả triển khai của khách hàng được đặt tên và các con số kết quả chẳng hạn như mức tăng-thông lượng đào tạo 22% hoặc mật độ GPU cao hơn 20%.
• Dự đoán rằng 80% mô-đun quang học cụm-AI mới sẽ được làm mát bằng chất lỏng-vào năm 2027.

Nếu bạn đang cân nhắc những thứ này để lập kế hoạch mua sắm hoặc công suất, hãy yêu cầu nguồn chính: thiết kế tham chiếu OEM, tài liệu tiêu chuẩn hoặc MSA, bảng dữ liệu của nhà cung cấp với các điều kiện đã nêu hoặc phép đo với thiết lập thử nghiệm xác định (loại mô-đun, công suất, luồng không khí hoặc nhiệt độ chất làm mát, mật độ cổng). Một khung hữu ích cho loại phân loại này là sự tách biệtnhững gì đang được vận chuyển hôm nay từ những gì vẫn còn trên lộ trình-mô-đun quang học.

Triển vọng tương lai: 1.6T, 3.2T, CPO và Silicon Photonics

Hướng đi rõ ràng ngay cả khi không có ngày chính xác. 1.6T quang học - phần lớn trên OSFP-hệ số dạng XD - đang tăng mạnh, 3,2T nằm trong lộ trình vào cuối thập kỷ này và tốc độ trên mỗi làn-đang chuyển sang 200G trở lên. Mỗi bước sẽ tăng công suất cho mỗi-mô-đun, đó là lý do tại sao ngành này đang theo đuổi nhiều con đường cùng một lúc: các DSP-công suất thấp hơn trên các nút 3nm và 2nm, ổ đĩa-tuyến tính và quang học có thể cắm tuyến tính, quang học đồng{13}}đóng gói và các thiết kế tản nhiệt cải tiến, bao gồm cả làm mát bằng chất lỏng.

Những con đường này bổ sung cho nhau chứ không loại trừ lẫn nhau. Cái nào chiếm ưu thế trong việc triển khai nhất định sẽ phụ thuộc vào phạm vi tiếp cận, mật độ, khả năng phục vụ và chi phí - chứ không phụ thuộc vào một "đột phá" duy nhất. Quang học làm mát bằng chất lỏng-có thể giành được một vị trí trong các giá đỡ dày đặc nhất, nhưng là một công cụ trong số nhiều công cụ, được triển khai ở những nơi mà phép toán nhiệt và mật độ thực sự yêu cầu.

Câu hỏi thường gặp

Mô-đun quang làm mát bằng chất lỏng-có bán trên thị trường không?

Quang học có thể cắm được làm mát bằng chất lỏng - thường có thiết kế tấm-lạnh hoặc vi kênh trong hệ số dạng lớp OSFP-{4}} tồn tại và đang được trình diễn nhưng chúng còn sớm và không phải là lựa chọn phổ biến. Hầu hết các loại vải AI vận chuyển vẫn sử dụng phích cắm 800G và 1,6T làm mát bằng không khí.

Cụm GB300 có yêu cầu hệ thống quang học làm mát bằng chất lỏng- không?

Không. Giá đỡ GB300 NVL72 nhìn chung được làm mát bằng chất lỏng-nhưng các thiết kế tham khảo đã xuất bản làm mát mô-đun quang OSFP bằng không khí chứ không phải chất lỏng. GPU, CPU, NVSwitch và NIC là các bộ phận được làm mát bằng chất lỏng.

Sự khác biệt giữa quang học cắm được và CPO là gì?

Bộ thu phát có thể cắm là một mô-đun-có thể tráo đổi nóng, riêng biệt mà bạn lắp vào bộ chuyển mạch hoặc cổng NIC. Quang học đóng gói-đồng tích hợp công cụ quang học vào cùng một gói với chip chuyển đổi, rút ​​ngắn đường dẫn điện để cắt giảm điện năng và độ trễ - với chi phí về khả năng bảo trì và với khả năng làm mát (thường được hỗ trợ{4}} bằng chất lỏng khác nhau.

Tại sao module quang trong cụm AI lại quá nóng?

Tốc độ dữ liệu cao hơn cần xử lý tín hiệu nhiều hơn trong DSP, trình điều khiển và TIA, điều này làm tăng công suất trên mỗi{0}}mô-đun. Đóng gói nhiều mô-đun công suất cao-vào một giá đỡ-công suất cao, dày đặc và tải nhiệt cục bộ có thể vượt quá mức mà hệ thống làm mát không khí có thể xử lý một cách thoải mái.

Làm mát bằng phương pháp nhúng có giống như mô-đun quang học làm mát bằng chất lỏng không?

Không nhất thiết phải như vậy. Việc ngâm các thành phần trong chất lỏng điện môi, trong khi hầu hết các thiết kế "mô-đun quang làm mát bằng chất lỏng" được thảo luận hôm nay đều sử dụng tấm lạnh hoặc chất làm mát mang vi kênh. Chúng là những cách tiếp cận khác nhau với những cân nhắc về độ tin cậy, độ kín và khả năng phục vụ khác nhau.

Bài học chính

• Việc quản lý nhiệt của các kết nối quang đang trở thành một hạn chế thiết kế thực sự trong các giá đỡ AI làm mát bằng chất lỏng,-dày đặc.
• Quang học có thể cắm được làm mát bằng chất lỏng-là một lựa chọn mới nổi - chủ yếu là tấm lạnh-hoặc vi kênh thay vì nhúng - và chưa phổ biến.
• GB300 NVL72 được làm mát bằng chất lỏng-nhưng mô-đun quang OSFP của nó được làm mát bằng không khí-trong các thiết kế tham chiếu.
• Chiến lược năng lượng được tiết lộ của NVIDIA dành cho quang học là quang tử silicon đóng gói đồng bộ.
• Hãy xử lý các số liệu cụ thể và các tuyên bố "đã được triển khai ở mọi nơi" một cách thận trọng cho đến khi có nguồn chính hỗ trợ chúng.