- Biaya pendinginan meningkat karena Nvidia terus mendorong batas daya di seluruh generasi rak
- Baki komputasi mendominasi biaya karena meningkatnya kebutuhan pelat dingin dan kepadatan termal
- Penghematan switch tray tidak dapat memenuhi peningkatan permintaan dari baki GPU berdaya tinggi
Biaya untuk menjaga sistem rak kelas atas Nvidia tetap dingin terus meningkat seiring dengan semakin meningkatnya generasi ke tingkat daya yang ekstrem.
Laporan Morgan Stanley yang diperoleh @Jukanlosreve menyebutkan perangkat keras pendingin cair di dalam GB300 NVL72 seharga $49.860, cukup untuk membeli Tesla Model Y baru.
Laporan tersebut lebih lanjut memperkirakan bahwa sistem pendingin cair yang diperlukan untuk konfigurasi Vera Rubin NVL144 baru akan mencapai $55.710, meningkat 17%.
Ekonomi pendinginan tingkat baki
Platform ini mengandalkan GPU Ruby terbaru dengan daya hingga 1.800W per unit, bersama dengan komponen NVSwitch 6.0 generasi berikutnya.
Biaya pendinginan sistem ini dikaitkan dengan baki komputasi individual, dan setiap baki komputasi akan memerlukan pelat dingin berkapasitas tinggi.
Biaya per baki komputasi diperkirakan akan meningkat sebesar 18% menjadi sekitar $2.660 – dan karena sistem Vera Rubin NVL144 memiliki 18 baki, total biaya pendinginan sisi komputasi mencapai sekitar $47.880.
Pertumbuhan tersebut berasal dari pelat dingin berkapasitas tinggi, yang naik hingga $400 per unit karena CPU dan GPU melampaui batas termal.
Sementara itu, pendinginan switch tray tampaknya tidak terlalu memberatkan, turun menjadi $870 per tray dan total $7,830 per rak.
Namun, ini Pengurangan ini dibayangi oleh lompatan besar pada sisi perhitungan, karena lintasan biaya mengikuti suatu pola: peralihan dari GB200 NVL72 menghasilkan peningkatan sebesar 20% dalam kebutuhan pendinginan untuk GB300 NVL72.
Demikian pula, beralih dari GB300 NVL72 ke Vera Rubin NVL144 menambahkan 17% lagi. Tingkat kekuatan menjelaskan tren ini.
Setiap GPU Pusat Data Blackwell Ultra menggunakan daya 1.400W, CPU Grace memerlukan daya 300W, dan memori menyumbang 200W per soket.
Ketika beban kerja meningkat, nilai pendinginan presisi meningkat secara eksponensial, namun sistem di masa depan akan semakin memperparah hal ini. Nvidia berencana beralih ke GPU Rubin Ultra yang dapat mencapai daya desain termal sebesar 3.600W per paket, dan memenuhi persyaratan ini dapat memerlukan pelat dingin jenis baru atau teknik pendinginan yang lebih agresif.
Nvidia juga mengembangkan sistem NVL576 “Kyber” berpendingin cairan, yang akan mencakup paket GPU 144, dan akan memberikan kinerja lebih tinggi daripada Vera Rubin NVL144, sekaligus membawa tagihan pendinginan yang lebih besar.
Meskipun jumlah dolar akhir belum dikonfirmasi, pelat berkapasitas tinggi yang mampu menghilangkan 3,6kW panas jelas akan melebihi $400 per unit saat ini.
Hal ini mengirimkan sinyal bahwa instalasi pusat data di masa depan akan menghadapi biaya termal yang lebih tinggi.
Oleh Toms Perangkat Keras
Ikuti TechRadar di Google Berita Dan Tambahkan kami sebagai sumber daya pilihan Untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok Dapatkan berita, review, unboxing dalam bentuk video, dan update rutin dari kami Ada apa Juga
