Nvidia Rilis GPU H200 NVL, Gabungan Empat Chip AI H200 dalam Satu Modul

- Pada November 2023 lalu, Nvidia mengumumkan chip pengolah grafis (GPU) khusus pemrosesan kecerdasan buatan (AI) dari arsitektur Hopper, yaitu H200.
Kini, Nvidia resmi mengumumkan H200 NVL, sebuah konfigurasi GPU AI yang terdiri dari empat buah GPU AI H200 saling terhubung dalam satu modul PCI Express (PCIe).
Karena tergabung dalam satu modul berjenis PCIe, Nvidia mengeklaim H200 NVL dapat digunakan dengan mudah di berbagai server atau data center AI yang dimiliki oleh perusahaan.
Secara teknis, satu chip GPU AI H200 memiliki memori berjenis HBM3e dengan kapasitas 141 GB, sehingga jika empat GPU digabungkan, maka total kapasitas memori di H200 NVL menjadi 564 GB.
Keempat GPU AI H200 ini, yang dihubungkan via standar komunikasi NVLink, masing-masing memiliki bandwidth 4,8 TB/s, performa 34 TFLOPs untuk komputasi AI FP64 atau 67 TFLOPs untuk FP32, dan konsumsi daya mencapai 600 watt.
Baca juga: AMD Umumkan Chip AI Instinct MI325X, Lebih Tangguh dari Nvidia H200
Jika dibandingkan dengan generasi sebelumnya, yaitu H100 NVL, H200 NVL disebut memiliki peningkatan memori mencapai 1,5 kali lipat, bandwidth hingga 1,2 kali lipat, serta memiliki performa 1,7 kali lipat untuk kinerja AI di segmen inference.
Untuk kinerja komputasi tinggi (high-performance computing/HPC), Nvidia H200 NVL diklaim memiliki performa 1,3 kali lebih cepat dari H100 NVL, serta memiliki peningkatan 2,5 kali lipat dari GPU AI berarsitektur Ampere.
Supaya bisa beroperasi dengan optimal tanpa kepanasan (overheat) dan tetap hemat daya, GPU AI H200 NVL juga dapat dikonfigurasikan dengan sistem pendingin berbasis udara (air).
Nvidia GB200 NVL4

Selain H200 NVL, Nvidia juga mengumumkan "Superchip" GB200 NVL4.
Sama seperti H200 NVL, GB200 NVL4 merupakan solusi yang menggabungkan empat GPU AI, namun dengan arsitektur Grace Blackwell (GB) GB200 yang diperkenalkan sekitar Maret lalu.
Bedanya lagi, empat GPU AI dengan arsitektur Blackwell ini digabungkan ke dalam satu papan (board) bersamaan dengan dua prosesor (CPU) "Grace" bikinan Nvidia yang memiliki memori LPDDR5X dengan total kapasitas 960 GB.
Baca juga: Gandeng Broadcom, OpenAI Dikabarkan Bikin Chip AI Sendiri
Nah, berbagai komponen ini sendrii dihubungkan memakai teknologi NVLink, dan berkat teknologi ini, Nvidia mengeklaim GB200 NVL4 dapat memberikan kapasitas memori HBM3 mencapai 768 GB dengan bandwidth mencapai 32 TB/s.
Dibandingkan generasi sebelumnya GH200 NVL4, Nvidia mengeklaim GB200 NVL4 memiliki performa 2,2 kali lebih cepat dan mampu menghasilkan proses latihan (training) atau mendukung inference AI 1,8 kali lebih efisien.
Sebagaimana dirangkum KompasTekno dari Nvidia, Rabu (20/11/2024), GPU AI H200 NVL sudah tersedia mulai pekan ini, sedangkan ketersediaan GB200 NVL4 akan menyusul pada pertengahan 2025 mendatang.
Terkini Lainnya
- Link PO iPhone 16, iPhone 16e, 16 Plus, 16 Pro, dan iPhone 16 Pro Max via BliBli Store
- Selain Foto ala Ghibli, Foto ala Muppet dan Lego Juga Bisa Dibikin dengan ChatGPT
- Cara Membuat Poster Idul Fitri 2025 via ChatGPT dengan Mudah dan Praktis
- Nintendo Rilis Virtual Game Card untuk Switch, Bisa Pinjam Game Digital ke Teman
- Resmi, Ini Spesifikasi dan Harga iPhone 16e, iPhone 16, iPhone 16 Pro, dan iPhone 16 Pro Max di Indonesia
- Harga Resmi iPhone 16, 16e, 16 Plus, 16 Pro & 16 Pro Max di Indonesia
- Viral di Medsos, Gambar Animasi Ghibli yang Dibuat dengan ChatGPT
- Link dan Cara PO iPhone 16e, iPhone 16, iPhone 16 Plus, iPhone 16 Pro, dan iPhone 16 Pro Max
- HP Vivo Y39 Meluncur, Bawa Baterai Jumbo 6.500 mAh dan Kamera 50 MP
- Resmi, Ini Harga iPhone 16, 16 Pro, 16 Pro Max, 16 Plus, dan iPhone 16e di Indonesia
- Pre Order iPhone 16 di Indonesia Resmi Dibuka, Bisa Dipesan Mulai Hari Ini
- 5 Fitur AI di Samsung Galaxy A56 5G, Ada Best Face Warisan Galaxy S25 Series
- Tanda-tanda HP Tipis Samsung Galaxy S25 Edge Siap Masuk Indonesia
- Sudah Cuti Lebaran? Coba Trik Membuat WhatsApp Terlihat Offline padahal Online
- 5 Link CCTV Lalu Lintas buat Pantau Kemacetan Saat Mudik Lebaran 2025
- Aplikasi ChatGPT Kini Hadir untuk Semua Pengguna Windows, Tak Perlu Bayar
- Janji Terbaru Apple di Indonesia, Rp 1,5 Triliun untuk Cabut Blokir iPhone 16
- Daftar Aplikasi Android Terbaik 2024, ShopeePay Nomor 1 di Indonesia
- Yahoo Mail Kebagian Fitur AI, Bisa Rangkum dan Balas E-mail Langsung
- Casio Umumkan Ring Watch, Jam Tangan Cincin Harga Rp 2 Juta