Nvidia Pamerkan Kehebatan Chip AI Terbaru, Blackwell B200 dan GB200

Chip AI terbaru Nvidia Blackwell B200 dan GB200
Chip AI terbaru Nvidia Blackwell B200 dan GB200. (screenshot GB200 @developer.nvidia.com)
0 Komentar

Realita Kita – Nvidia menggambarkan keberhasilan luar biasa chip H100 sebagai pemicu lonjakan kapitalisasi perusahaan, dan kini mereka mengungkapkan penerusnya, yang diberi nama Blackwell B200 dan GB200.

Kedua chip baru ini diposisikan Nvidia sebagai yang terkuat di dunia dalam hal kecerdasan buatan (AI). Misalnya, B200 menampilkan kemampuan komputasi mencapai 20 petaflops FP4, didukung oleh 208 miliar transistor.

GB200, di sisi lain, menggabungkan dua B200 untuk membentuk CPU Grace yang memberikan peningkatan kinerja hingga 30 kali lipat untuk komputasi model bahasa besar (LLM), sambil tetap mempertahankan klaim konsumsi daya yang 25 kali lebih hemat dibanding H100.

Baca Juga:Cara Sharing Printer di Windows dan Mac dengan Mudah Gak Ribet!Cara Mengatasi Ponsel Tidak Mengeluarkan Suara, 10 Tips Jitu yang Bisa Bantu Kamu

Nvidia mengklaim bahwa sebelumnya, melatih model dengan 1,8 triliun parameter membutuhkan sekitar 8000 GPU Hopper dan mengonsumsi 15 megawatt daya. Namun dengan 2000 GPU Blackwell, hal yang sama dapat dicapai dengan konsumsi daya hanya 4 megawatt, menurut CEO Nvidia Jensen Huang.

Dalam hal LLM GPT-3 dengan 175 miliar parameter, Nvidia menyatakan bahwa GB200 memiliki kinerja tujuh kali lipat lebih baik dari H100, dengan waktu pelatihan empat kali lebih cepat.

Keunggulan utama kedua chip baru ini menurut Nvidia terletak pada mesin transformer generasi kedua, yang memiliki kemampuan komputasi, bandwidth, dan ukuran model dua kali lebih besar dari sebelumnya.

Perbedaan utama lainnya adalah kemampuan pengguna untuk menghubungkan GPU ini dengan switch NVLink generasi baru, yang mampu menyambungkan hingga 576 GPU sekaligus dengan bandwidth hingga 1,8TB per detik.

Nvidia juga mengumumkan bahwa Amazon, Google, Microsoft, dan Oracle berencana untuk menawarkan rak NVL72 di layanan cloud mereka, tetapi belum diungkapkan berapa banyak chip Blackwell yang akan dipesan oleh mereka.

Sistem Blackwell ini juga dirancang untuk dapat dioperasikan dalam skala besar, dengan kemampuan menghubungkan puluhan ribu chip GB200 melalui jaringan 800Gbps yang ada di Quantum-X800 InfiniBand (hingga 144 koneksi) atau Spectrum-x800 ethernet (hingga 64 koneksi).

0 Komentar