TEMPO.CO, Jakarta - Selama Konferensi Teknologi GPU, NVIDIA mengumumkan chip untuk komputasi terkait kecerdasan buatan atau AI yang disebut GB200 mendukung GPU Blackwell B200. Laporan GSM Arena pada Selasa, 19 Maret 2024, dikutip Antara, chip baru ini penerus chip AI H100 yang menawarkan peningkatan besar dalam kinerja dan efisiensi.
GPU B200 baru mampu menghasilkan 20 petaflops FP4 berkat 208 miliar transistor di dalam chip. Chip ini peningkatan kinerja AI dengan penghematan energi yang signifikan dibandingkan pendahulunya.
Peluncuran Blackwell B200 dilakukan selama Konferensi Teknologi GPU (GTC) oleh CEO NVIDIA, Jensen Huang. GPU generasi terbaru ini merupakan penerus dari chip AI H100. Blackwell B200 dibekali 208 miliar transistor, menawarkan peningkatan aspek kinerja dan efisiensi.
Performa dan Efisiensi
Dikutip dari situs web NVIDIA, Chip GB200, yang bertenaga GPU Blackwell B200, memiliki kemampuan tinggi untuk pemrosesan data. Kinerja GB200 hingga 20 petaflops FP4, dan peningkatan kecepatan 30 kali lipat dibandingkan H100 dengan tugas-tugas inferensi. Blackwell B200 mencatatkan skor 7 kali lebih cepat dibandingkan H100 ketika melakukan benchmark GPT-3 LLM.
Blackwell B200 juga hemat daya. Konsumsi energinya diklaim 25 kali lipat lebih rendah dibandingkan pendahulunya. Sebagai perbandingan, untuk melatih model AI dengan 1,8 triliun parameter, dibutuhkan 8.000 GPU Hopper H100 dengan daya sekitar 15 megawatt. Di sisi lain, 2.000 GPU Blackwell B200 sudah cukup untuk tugas yang sama dan hanya memakan 4 megawatt.
Untuk lebih meningkatkan efisiensi, NVIDIA juga merancang chip saklar jaringan terkini dengan 50 miliar transistor. Chip ini memungkinkan 576 GPU berkomunikasi pada bandwidth dua arah sebesar 1,8 TB/dtk.
Dengan terobosan ini, NVIDIA mengatasi kendala komunikasi. Sebelumnya sistem dengan 16 GPU menghabiskan 60 persen waktunya untuk berkomunikasi dan 40 persen untuk komputasi.
Dilansir dari Antara, NVIDIA juga menyediakan Superpod DGX yang lebih besar, mengombinasikan delapan sistem NVL72 sekaligus, dengan total 288 CPU dan 576 GPU serta memori 240 TB.
Raksasa layanan cloud seperti Oracle, Amazon, Google, dan Microsoft telah menyatakan ketertarikan untuk mengintegrasikan NVL72. Tak menutup kemungkinan arsitektur GPU Blackwell B200 juga akan menjadi basis untuk kartu grafis NVIDIA generasi RTX 5000 di masa depan.
Platform ini diproyeksikan membuka berbagai terobosan dalam beragam bidang. Itu mulai dari pemrosesan data, simulasi teknik, otomatisasi desain elektronik, desain obat berbasis komputer, komputasi kuantum, hingga kecerdasan buatan generatif (generative AI).
Blackwell akan mendongkrak kinerja dan efisiensi model-model bahasa raksasa (LLM) hingga ukuran triliunan parameter secara real-time. Efisiensi yang ditawarkan Blackwell memungkinkan perusahaan menjalankan tugas AI dengan biaya energi 25 kali lebih rendah dibanding generasi sebelumnya.
ANTARA | NVIDIA | TECH RADAR
Pilihan Editor: NVIDIA Digugat 3 Penulis, Dituding AI Perusahaan Teknologi Ini Melanggar Hak Cipta
