- Pembangunan satu fasilitas AI berkapasitas satu gigawatt menghabiskan biaya sekitar $80 miliar
- Kapasitas AI yang direncanakan di seluruh industri bisa mencapai total 100GW
- Perangkat keras GPU kelas atas harus diganti setiap lima tahun tanpa perpanjangan waktu
Chief Executive IBM Arvind Krishna mempertanyakan apakah kecepatan dan skala perluasan pusat data AI saat ini dapat berkelanjutan secara finansial berdasarkan asumsi saat ini.
Dia memperkirakan bahwa pengisian satu situs berkapasitas 1GW dengan perangkat keras komputasi kini telah mencapai $80 miliar.
Dengan rencana pemerintah dan swasta yang mengindikasikan hampir 100GW kapasitas masa depan yang ditujukan untuk pelatihan model tingkat lanjut, eksposur keuangan implisit meningkat menjadi $8 triliun.
Beban ekonomi dari situs AI generasi berikutnya
Krishna menghubungkan trik ini langsung dengan siklus penyegaran yang mengatur armada akselerator saat ini.
Sebagian besar perangkat keras GPU kelas atas yang digunakan di pusat-pusat ini akan terdepresiasi dalam waktu sekitar lima tahun.
Pada akhirnya, operator tidak memperpanjang peralatan tetapi menggantinya seluruhnya. Dampaknya bukanlah kerugian modal yang terjadi satu kali saja, melainkan kewajiban berulang yang bertambah seiring berjalannya waktu.
Sumber daya CPU juga tetap menjadi bagian dari penerapan ini, namun sumber daya tersebut tidak lagi menjadi pusat keputusan penetapan biaya.
Keseimbangannya telah bergeser ke arah akselerator khusus yang memberikan beban kerja paralel dalam jumlah besar dengan kecepatan yang tidak tertandingi oleh prosesor tujuan umum.
Pergeseran ini telah mengubah secara signifikan definisi skala fasilitas AI modern dan mendorong kebutuhan modal melampaui apa yang dulu diminta oleh pusat data perusahaan tradisional.
Krishna berpendapat depresiasi merupakan faktor yang sering disalahpahami oleh pelaku pasar.
Kecepatan perubahan arsitektur berarti bahwa lonjakan kinerja dicapai lebih cepat daripada penurunan nilai keuangan yang dapat diserap dengan mudah.
Perangkat keras yang masih berfungsi menjadi usang secara ekonomi jauh sebelum masa pakai fisiknya berakhir.
Investor seperti Michael Burry juga memiliki keraguan serupa tentang apakah raksasa cloud dapat terus memperpanjang masa pakai aset seiring dengan meningkatnya ukuran model dan permintaan pelatihan.
Dari sudut pandang keuangan, bebannya tidak lagi terletak pada konsumsi energi atau pembebasan lahan, namun karena adanya perpindahan perangkat keras yang semakin mahal.
Di lingkungan kelas workstation, dinamika penyegaran serupa sudah ada, namun skala dalam situs hyperscale berbeda secara mendasar.
Krishna menghitung bahwa kampus multi-gigawatt ini akan membutuhkan keuntungan tahunan ratusan miliar dolar untuk mencapai titik impas guna menutupi biaya modal.
Persyaratan ini bergantung pada keekonomian perangkat keras saat ini dan bukan keuntungan efisiensi jangka panjang yang spekulatif.
Perkiraan ini muncul ketika perusahaan teknologi besar mengumumkan kampus AI yang sangat besar, yang diukur bukan dalam megawatt tetapi dalam 10 megawatt.
Beberapa dari proposal ini sudah bersaing dengan permintaan listrik di seluruh negara, sehingga meningkatkan kekhawatiran terkait kapasitas jaringan listrik dan harga energi jangka panjang.
Krishna memperkirakan hampir tidak ada kemungkinan LLM saat ini mencapai kecerdasan umum pada perangkat keras generasi berikutnya tanpa perubahan mendasar dalam integrasi pengetahuan.
Penilaian ini menggambarkan pergerakan investasi lebih didorong oleh tekanan persaingan dibandingkan dengan keniscayaan teknologi.
Sulit untuk menghindari penafsiran. Buildout mengasumsikan bahwa pendapatan masa depan akan sesuai dengan pengeluaran luar biasa.
Hal ini terjadi bahkan ketika siklus penyusutan semakin pendek dan pembatasan pasokan listrik diperketat di banyak wilayah.
Risikonya adalah ekspektasi finansial mungkin melebihi mekanisme ekonomi yang dibutuhkan untuk mempertahankan aset-aset tersebut sepanjang siklus hidupnya.
melalui Perangkat Keras Tom
Ikuti TechRadar di Google Berita Dan Tambahkan kami sebagai sumber daya pilihan Untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok Dapatkan berita, review, unboxing dalam bentuk video, dan update rutin dari kami Ada apa Juga
