NVIDIA Ampere A100 250W TDP GPU Pada PCIe 4.0 Dibuat Untuk AI, Ilmu Data, Dan Supercomputing Diluncurkan Dengan Kinerja 90 Persen Yang Dijanjikan Dari Model 400W

NVIDIA telah secara resmi meluncurkan A100, GPU yang kompatibel dengan PCIe 4.0 berdasarkan arsitektur Ampere generasi berikutnya. Meski menampilkan profil TDP 250W yang lebih rendah, NVIDIA menjanjikan GPU PCIe 4.0 Ampere A100 akan mampu menawarkan hingga 90 persen kinerja GPU HGX A100 400W penuh. Varian ketiga dari keluarga GPU Ampere A100 yang terus berkembang, A100 PCIe ditujukan untuk server yang menjalankan klaster Artificial Intelligence (AI), Data Science, dan Supercomputing.

NVIDIA mengungkapkan varian PCI-Express 4.0 dari GPU A100. GPU didasarkan pada mikroarsitektur 7nm Ampere. Selain itu, perusahaan juga mengumumkan beberapa sistem bertenaga A100 dari produsen server terkemuka, termasuk Asus, Dell, Cisco, Lenovo, dan banyak lagi. Akselerator GPU 250W A100 PCIe 4.0 sangat mirip dengan varian TDP 400W penuh, dan NVIDIA juga menjanjikan kinerja yang hampir identik meskipun ada penurunan signifikan pada profil TDP.

NVIDIA A100 Ampere GPU Dalam Faktor Bentuk PCIe 4.0 Dengan Konfigurasi GPU 400W A100 HGX Yang Sama Tetapi Pada 250W:

NVIDIA telah mengumumkan akselerator GPU PCIe 4.0 A100 PCIe. GPU Ampere tersedia untuk beragam kasus penggunaan industri dengan sistem mulai dari satu GPU PCIe A100 hingga server yang menggunakan dua kartu pada saat yang sama melalui 12 saluran NVLINK yang memberikan total bandwidth interkoneksi 600 GB / dtk. Akselerator GPU 250W TDP A100 PCIe tidak banyak berubah dalam hal konfigurasi inti jika dibandingkan dengan GPU 400W A100 HGX.

https://twitter.com/storagereview/status/1275132949709688833

GPU GA100 memiliki spesifikasi varian 400W A100 HGX dengan 6912 core CUDA yang disusun dalam 108 unit SM, 432 Tensor Cores, dan memori HBM2 40 GB yang menghadirkan bandwidth memori yang sama sebesar 1,55 TB/dtk (dibulatkan menjadi 1,6 TB/dtk). s). Namun, menerapkan paket GPU di Standar PCIe 4.0 memiliki kelemahan sendiri secara signifikan mengurangi TDP. Ini dilaporkan berarti penalti kinerja 10 hingga 50 persen berdasarkan beban kerja. Selain itu, varian TDP 250W dari GPU A100 lebih cocok untuk semburan singkat daripada beban berkelanjutan.

NVIDIA A100 Ampere GPU Dalam Kinerja Faktor Bentuk PCIe 4.0:

Karena pengurangan profil TDP yang signifikan, dapat diasumsikan bahwa kartu tersebut akan menampilkan jam yang lebih rendah untuk mengimbangi input TDP yang lebih sedikit. Namun, metrik kinerja yang dirilis NVIDIA benar-benar mengejutkan karena mendekati varian 400W TDP. Kinerja FP64 masih dinilai pada 9,7/19,5 TFLOPs, kinerja FP32 dinilai pada 19,5/156/312 TFLOPs (Sparsity), kinerja FP16 dinilai pada 312/624 TFLOPs (Sparsity), dan INT8 dinilai pada 624/1248 TOPs ( Keterbatasan).

Matematika sederhana menunjukkan, dan NVIDIA meyakinkan, GPU PCIe 4.0 250W A100 berbasis Ampere dapat memberikan 90 persen kinerja kartu A100 HGX (400W) di aplikasi server teratas. Hal ini dapat dibenarkan karena membutuhkan waktu lebih sedikit untuk varian baru untuk menyelesaikan tugas-tugas yang disebutkan di atas. Namun, angka-angka tersebut harus valid untuk interval pendek saja. Dalam situasi kompleks yang membutuhkan kemampuan GPU berkelanjutan, GPU PCIe 4.0 250W dapat memberikan kinerja mulai dari 90 persen hingga 50 persen dari GPU 400W A100 HGX.

Mikroarsitektur Ampere pasti akan menguntungkan A100 baru. NVIDIA menjanjikan setidaknya peningkatan kinerja 20X dibandingkan pendahulunya yang berbasis Volta. GPU PCIe 4.0 A100 menampilkan teknologi GPU multi-instance. Ini berarti satu A100 dapat dipartisi menjadi sebanyak tujuh GPU terpisah untuk menangani tugas komputasi yang berbeda. Sementara ini meningkatkan segmentasi, ada NVLink generasi ke-3, yang memungkinkan beberapa GPU untuk digabungkan menjadi satu GPU raksasa.